GenAI in Production - Lessons from the Trenches - CloudAI chapter 12 скачать в хорошем качестве

GenAI in Production - Lessons from the Trenches - CloudAI chapter 12

מצגת מקיפה על יישום Generative AI בסביבת פרודקשן אמיתית 🎯 GenAI in Production - Lessons from the Trenches 📌 על מה נדבר: 💡 מיתוסים מול מציאות: למה זה שעובד ב-ChatGPT לא בהכרח יעבוד בפרודקשן ההבדל בין דמו טכנולוגי להטמעה ארגונית אמיתית מודלים מנוהלים - מה באמת באחריות שלכם? 🔧 RAG מתקדם (Retrieval-Augmented Generation): למה Naïve RAG נכשל בפרודקשן 5 דפוסי RAG מתקדמים שחייבים ליישם: Semantic Chunking Metadata Filtering Hybrid Retrieval Reranking Query Decomposition ההבדלים בין Naïve, Advanced ו-Modular RAG 💰 ניהול עלויות וביצועים: הבדלי עלות דרמטיים בין מודלים שונים (עד פי 500!) טבלת השוואת עלויות Bedrock אסטרטגיות אופטימיזציה: caching, batching, model tiering איזון בין עלות, מהירות ואיכות 🔒 אבטחה וממשל: 3 עמודי תווך לאבטחת AI: Cloud & Data Security LLM Threat Mitigation Monitoring & Governance Zero Trust, הצפנה, ומדיניות גישה Prompt injection, data leakage וסינון פלט Rate limiting וניטור 📊 מקרה מבחן אמיתי - ProductHub: האתגר: מאגר ידע ישן עם דיוק נמוך הפתרון: RAG מתקדם עם chunking סמנטי וטיוב מתמשך התוצאות: 40% קיצור בזמן פתרון פניות, 92% דיוק ⚙️ Prompt Engineering מעשי: להיות ספציפיים ולחדד Few-shot learning תיעוד מה עובד להישאר גמישים עם מודלים 🎓 המלצות מעשיות: איך להתחיל קטן ולהרחיב נכון מדידת הצלחה ו-feedback loops נקודות כשל נפוצות ודרכי החלמה קישורים למשאבים חיוניים 👨‍💻 על המרצה: ניר שילוני - ארכיטקט GenAI וענן בכיר ב-CloudZone (חברת Matrix), מנחה הפודקאסט CloudAI בעברית, ותומך בעשרות ארגונים בישראל במעבר מדמו ל-impact אמיתי עם AI. 🔗 קישורים שימושיים שהוזכרו: Neo4j Advanced RAG Techniques - https://neo4j.com/blog/genai/advanced... AWS Metadata Filtering & Chunking Strategy - https://aws.amazon.com/blogs/machine-... Artificial Analysis - model benchmarks - https://artificialanalysis.ai/ Bedrock Quotas - https://docs.aws.amazon.com/bedrock/l... פרק CloudAI עם גילי נחום מ-AWS על Agents מתקדמים -    • Agents מתקדמים - הסיפורים שלא שומעים | גיל...   להצטרפות לקבוצת הוואצאפ לעדכונים מרתקים: https://chat.whatsapp.com/Iyh6jTeL8mL...