📌🟢 AI: Как работает контекстное окно и почему "больше данных" ≠ "лучше"
🔘 Контекстное окно - не корзина без дна. Перегрузка контекста размывает внимание и ухудшает качество ответов
🔘 Избыточный контекст снижает точность
🔘 Причина в механизме внимания. Значение каждого слова формируется через связь с другими словами вокруг. Если контекст раздут, каждый элемент "внимания" начинает учитывать лишние связи - система перегружается
🔘 Оптимальный контекст > максимальный. LLM лучше работают, когда получают ровно те данные, которые нужны для текущей задачи. Подбор правильного контекста - критичный этап при проектировании AI-агентов
📱 На видео - разбор из недавнего Мастер-класса "ИИ-агенты" в рамках продукта AI Governance от Олега Блинова почему важно ограничивать входные данные и чем чреваты попытки "скормить модели всё сразу"
RPPA.pro | RPPAedu.pro | AI Governance
🔘 Контекстное окно - не корзина без дна. Перегрузка контекста размывает внимание и ухудшает качество ответов
🔘 Избыточный контекст снижает точность
🔘 Причина в механизме внимания. Значение каждого слова формируется через связь с другими словами вокруг. Если контекст раздут, каждый элемент "внимания" начинает учитывать лишние связи - система перегружается
🔘 Оптимальный контекст > максимальный. LLM лучше работают, когда получают ровно те данные, которые нужны для текущей задачи. Подбор правильного контекста - критичный этап при проектировании AI-агентов
📱 На видео - разбор из недавнего Мастер-класса "ИИ-агенты" в рамках продукта AI Governance от Олега Блинова почему важно ограничивать входные данные и чем чреваты попытки "скормить модели всё сразу"
RPPA.pro | RPPAedu.pro | AI Governance