OWASP Top 10 for LLM Applications, büyük dil modeli kullanan uygulamalarda sık karşılaşılan güvenlik risklerini sınıflandırmak için kullanılan pratik bir referans çerçevesidir.
Neden önemlidir?
LLM uygulamalarında klasik web güvenliğine ek olarak prompt injection, aşırı yetkili agent davranışı, hassas veri ifşası ve model çıktısına aşırı güven gibi yeni riskler ortaya çıkar.
Nasıl kullanılmalı?
- Tehdit modelleme sırasında kontrol listesi olarak kullanın.
- RAG, agent ve eklenti erişimlerini ayrı değerlendirin.
- Model çıktısını güvenilir komut kabul etmeyin.
- Veri erişimi ve aksiyon yetkisini modelden bağımsız kontrol edin.
Bu içerik yararlı oldu mu?Geri bildirim bu cihazda saklanır; varsayılan olarak sunucuya gönderilmez.