Agentic RAG ו-GraphRAG
שני צעדים מעבר ל-pipeline קבוע של RAG: לתת למודל לחפש ככלי, כמה פעמים שצריך, ולבנות גרף ידע לשאלות שחוצות הרבה מסמכים.
תגית: בינה מלאכותית
31 רשומות
סוכנים: מודל עם כלים בלולאה
מה הופך מערכת לסוכן, במה הוא שונה מ-workflow, מתי סוכן שווה את זה ומתי לא, סוכן מינימלי ב-Python, ו-Claude Agent SDK.
Computer use ו-Agent Skills
סוכנים שמפעילים שולחן עבודה דרך צילומי מסך, עכבר ומקלדת, ו-skills: תיקיות של הוראות וסקריפטים שנותנות לסוכן מומחיות רק כשהוא צריך אותה.
עלות וזמני תגובה: prompt caching, batches ובחירת מודל
לאן הולכים הכסף והזמן במערכת LLM, והמנופים שמקצצים אותם: המודל וה-effort הנכונים, פלט קצר יותר, prompt caching, ה-Batch API ו-streaming.
מפת החלטות: prompt, RAG, כלים, סוכן או fine-tune?
כל הסדרה במקום אחד: מפת החלטות לבחירת הטכניקה הנכונה, מה כל אחת משנה ועולה, דוגמה מלאה, ורשימת בדיקות לפני production.
Distillation: מודל קטן שלומד ממודל גדול
מה זה knowledge distillation, למה ההסתברויות הרכות של מורה מלמדות יותר מהתשובה הנכונה, ואיך עושים distillation ל-LLM בפועל: נתונים מהמורה, סינון, ו-fine-tuning לתלמיד.
Embeddings וחיפוש סמנטי
מה זה embedding, איך cosine similarity מוצא טקסטים שאומרים את אותו הדבר, איך יוצרים embeddings עם Voyage AI, ואיפה שומרים אותם.
מחברים הכול: עוזר תמיכה מההתחלה ועד הסוף
אפליקציה קטנה אחת שבנויה מכל הסדרה: prompt, RAG על מאמרי עזרה, tool לנתוני הזמנות חיים, סינון קלט, evals, caching ולוגים. כל שלב מקשר לפוסט שמסביר אותו.
Evals: למדוד מערכת LLM
למה כל מערכת LLM צריכה סט הערכה, איך בונים אחד, בדיקות בקוד, LLM-as-judge עם רובריקה, ואיך משתמשים ב-evals כדי להשוות prompts, מודלים והגדרות.
Fine-tuning: מתי זה עוזר ואיך LoRA עובד
מתי fine-tuning עדיף על prompting ו-RAG ומתי לא, איך נראים נתוני האימון, איך LoRA ו-QLoRA מאמנים מודל בזול, ואיך בודקים את התוצאה.
מילון מונחי AI: דף העזר שלי
המונחים מסדרת ה-AI במקום אחד, לפי נושא, עם הגדרה של שורה וקישור לפוסט שמסביר: טוקנים, RAG, כלים, MCP, סוכנים, LoRA, evals ועוד.
Guardrails: בדיקות סביב המודל
Guardrails בשכבות לאפליקציות LLM: סינון קלט עם מודל קטן, בדיקה והשחרה של הפלט, בדיקת פעולות, מגבלות, ומה להציג למשתמש כשבדיקה נכשלת.
איך בונים מודל שפה
Transformer, attention, אימון מקדים, fine-tuning ואימון לפי העדפות (RLHF, DPO): השלבים שהופכים ערימת טקסט לעוזר שיחה.
הרצת מודלים מקומית: Ollama וקוונטיזציה
למה להריץ מודל עם משקלות פתוחים על המחשב שלכם, כמה זיכרון הוא צריך, מה עושה קוונטיזציה, ואיך קוראים למודל מקומי עם Ollama, כולל מה-SDK של Anthropic.
MCP: פרוטוקול ההקשר למודלים
מה זה MCP, למה הוא קיים, hosts, clients ו-servers, כלים, משאבים ו-prompts, שני ה-transports, ושרת MCP קטן ב-Python.
זיכרון וניהול הקשר
איך סוכנים ממשיכים לעבוד כשמשימה גדלה מעבר לחלון ההקשר: context engineering, דחיסה (compaction), ניקוי תוצאות כלים, הערות וכלי הזיכרון, עם טיפול בטוח בקבצים.
מערכות מרובות סוכנים וסוכני משנה
מתי כמה סוכנים עדיפים על אחד: מבנה ה-orchestrator וסוכני המשנה, מה Anthropic מדדו במערכת המחקר שלהם, עלות הטוקנים, וסוכני משנה ב-Claude Agent SDK.
מולטימודלי: תמונות ו-PDF
איך שולחים למודל תמונות ו-PDF, איך סופרים טוקנים של תמונה, במה ראייה ממוחשבת עדיין חלשה, ומה עושים עם אודיו.
Observability: לראות מה מערכת LLM עושה
מה לרשום בכל קריאה למודל ובכל צעד של סוכן, traces ו-spans, tracer קטן ב-Python, המדדים ששווה לעקוב אחריהם, פרטיות, והפיכת כשלים ב-production ל-evals.
Temperature, top-p והזיות
איך נבחר הטוקן הבא, מה עושים temperature ו-top-p, למה מודלי Claude הנוכחיים כבר לא מקבלים אותם, ולמה מודלים הוזים.
Prompting: איך לבקש ממודל
ה-system prompt, הוראות ברורות עם סיבה, דוגמאות few-shot, תגיות XML ומסמכים ארוכים: טכניקות ה-prompting שהמדריך הרשמי ממליץ עליהן.
שליפה טובה יותר: חיפוש היברידי, reranking ו-chunks עם הקשר
שלוש טכניקות שמתקנות את רוב כשלי השליפה ב-RAG: שילוב חיפוש מילות מפתח עם חיפוש וקטורי, דירוג מחדש של המועמדים, והוספת הקשר לכל chunk.
RAG: שליפה שמעשירה את התשובה
ה-pipeline המלא של RAG: מתי צריך אותו, פיצול מסמכים ל-chunks, שליפת הקרובים ביותר, ובניית prompt שעונה רק מתוכם.
מודלי חשיבה: לחשוב לפני שעונים
מה זו חשיבה (thinking), איך adaptive thinking ופרמטר ה-effort שולטים בה, איך קוראים בלוקי חשיבה, וכמה זה עולה.
אבטחה: prompt injection ו-OWASP LLM Top 10
הסיכונים המרכזיים באפליקציות LLM: prompt injection ישיר ועקיף, דליפת מידע, סמכויות עודפות ועוד, וההגנות שעובדות: הפרדה בין נתונים להוראות, הרשאה מינימלית וסינון.
פלט מובנה ו-streaming
איך מקבלים JSON שתמיד תואם לסכמה בעזרת structured outputs ו-Pydantic, ואיך מציגים את התשובה תוך כדי כתיבה בעזרת streaming.
טוקנים וחלון ההקשר
מה זה טוקן, איך סופרים טוקנים לפני ששולחים בקשה, מה ממלא את חלון ההקשר, ומה קורה כשהוא נגמר.
Tools ו-function calling
איך מודל קורא לפונקציות שלכם: הגדרת כלי, לולאת השימוש בכלים, תוצאות ושגיאות, ה-JSON הגולמי על הקו, ה-tool runner של ה-SDK, ואיך כותבים כלים טובים.
WebMCP: דפי אינטרנט ככלים לסוכני AI
מה זה WebMCP ומה הקשר שלו ל-MCP: דף רושם כלים עם document.modelContext, טופס הופך לכלי עם שתי תכונות, annotations, iframes, ניסוי ב-Chrome, והסיכונים באבטחה.
חמישה דפוסי workflow
Prompt chaining, routing, parallelization, orchestrator-workers ו-evaluator-optimizer: הדפוסים שפותרים את רוב משימות ה-LLM בלי סוכן מלא, עם Python קצר לכל אחד.
מה זה LLM
מודל שפה גדול מנבא את הטוקן הבא, שוב ושוב. מה זה אומר, מה זה נותן לכם, והקריאה הראשונה אליו מ-Python.