Prompt injection, bir LLM uygulamasının beklenen talimatlarını dış girdilerle değiştirmeye veya modelin erişebildiği veri ve araçları istenmeyen biçimde kullanmaya yöneltme riskidir.
Dolaylı prompt injection
Talimat saldırganın doğrudan promptunda değil; modelin okuduğu web sayfası, doküman veya RAG kaynağı içinde de bulunabilir.
Kontroller
- Model çıktısını güvenilir komut olarak kabul etmeyin.
- Araç ve veri erişiminde least privilege uygulayın.
- Kritik aksiyonlarda deterministik doğrulama ve insan onayı kullanın.
- Girdi/çıktı izleme ve güvenlik testleri yapın.
Bu içerik yararlı oldu mu?Geri bildirim bu cihazda saklanır; varsayılan olarak sunucuya gönderilmez.