Оригинал: https://timofei-ermolaev.ru/llm/ # Большие языковые модели (LLM) Начните с вопроса, на котором сейчас застряли. Для этого не нужно изучать машинное обучение или осваивать отдельную профессию. [Что такое LLM и почему это не электронный человек]() [Что модель видит в контексте, а чего не знает]() [Как поставить задачу без магических формулировок]() [Почему уверенный ответ может оказаться неверным]() [Как проверить факт, ссылку и актуальность источника]() [Чем агент и его обвязка отличаются от самой модели]() [Как подключить документы и базу знаний компании]() [Где решение всегда должно остаться за человеком]() ## Модель Большая языковая модель продолжает последовательность токенов. Представьте невероятно натасканный T9. Он умеет многое, но убедительный текст всё равно не становится фактом автоматически. ## Контекст Модель видит правила, текущий разговор, переданные документы и результаты инструментов. Если задача важная, ей нужны ясные исходные данные и заранее заданные границы. ## Промпт Промпт-инжиниринг я считаю обычным навыком постановки задачи. Нужно описать цель, данные, ограничения, формат результата и способ проверки. ## Надёжность Если модель дала ссылку, её нужно открыть. Проверьте адрес, дату, первоисточник, контекст утверждения и подумайте, во что обойдётся ошибка. ## Агенты и системная обвязка Агент даёт модели инструменты и последовательность действий. Системную обвязку часто называют harness: она задаёт права, выполнение кода, безопасность и точки, где система обязана вернуть решение человеку. ## RAG и знания компании Поиск по проверенным документам даёт модели актуальный контекст компании. Это снижает риск ошибки, но не исправляет плохие источники и не заменяет контроль процесса. ## Материалы по теме Разборы идут от первого вопроса к надёжному применению. [Все статьи]() [Что такое RAG и как он находит сведения в документах — Как RAG находит нужный пункт документа, передаёт его ИИ и помогает составить ответ. Понятный пример, проверка условий, сравнение с обучением и FAQ.]() [Читать]() [Контекст инжиниринг: как организовать информацию для LLM — Как организовать контекст LLM в чате, приложении и агенте: отбор сведений, окно, память и передача. Понятный учебный пример и карта входов одной задачи.]() [Читать]() [Что такое harness engineering и зачем ИИ-агенту обвязка — Harness engineering — устройство системы вокруг ИИ-модели. На примере подготовки статьи разбираем инструменты, контекст, проверки и роль человека.]() [Читать]() [Фактчекинг ответов нейросети: как проверить факты и источники — Как проверить факты, ссылки, цитаты и цифры в ответе нейросети: понятный пошаговый алгоритм, первоисточники и готовая таблица проверки.]() [Читать]() [Галлюцинации нейросетей: почему LLM выдумывают факты — Галлюцинации нейросетей и LLM: почему модели выдумывают факты, как проверять ответы и снижать риски. Примеры, RAG и практический чек-лист.]() [Читать]() [Большие языковые модели (LLM): что это и как они работают — Что скрывает в себе большая языковая модель? В статье разбираем устройство LLM, принципы их работы, разновидности и то, как они обучаются.]() [Читать]() [Промпт-инжиниринг для бизнеса: подробное руководство — Промпт-инжиниринг для бизнеса: как писать промпты для ChatGPT, Claude и Gemini, снижать галлюцинации и получать точные ответы от ИИ (LLM).]() [Читать]()