Guardrails: בדיקות סביב המודל
Guardrails בשכבות לאפליקציות LLM: סינון קלט עם מודל קטן, בדיקה והשחרה של הפלט, בדיקת פעולות, מגבלות, ומה להציג למשתמש כשבדיקה נכשלת.
תגית: אבטחה
2 רשומות
אבטחה: prompt injection ו-OWASP LLM Top 10
הסיכונים המרכזיים באפליקציות LLM: prompt injection ישיר ועקיף, דליפת מידע, סמכויות עודפות ועוד, וההגנות שעובדות: הפרדה בין נתונים להוראות, הרשאה מינימלית וסינון.