Модель
Большая языковая модель продолжает последовательность токенов. Представьте невероятно натасканный T9. Он умеет многое, но убедительный текст всё равно не становится фактом автоматически.
Большие языковые модели (LLM)
Начните с вопроса, на котором сейчас застряли. Для этого не нужно изучать машинное обучение или осваивать отдельную профессию.
Что такое LLM и почему это не электронный человек
Что модель видит в контексте, а чего не знает
Как поставить задачу без магических формулировок
Почему уверенный ответ может оказаться неверным
Как проверить факт, ссылку и актуальность источника
Чем агент и его обвязка отличаются от самой модели
Как подключить документы и базу знаний компании
Где решение всегда должно остаться за человеком
Контекст
Модель видит правила, текущий разговор, переданные документы и результаты инструментов. Если задача важная, ей нужны ясные исходные данные и заранее заданные границы.
Промпт
Промпт-инжиниринг я считаю обычным навыком постановки задачи. Нужно описать цель, данные, ограничения, формат результата и способ проверки.
Надёжность
Если модель дала ссылку, её нужно открыть. Проверьте адрес, дату, первоисточник, контекст утверждения и подумайте, во что обойдётся ошибка.
Агенты и системная обвязка
Агент даёт модели инструменты и последовательность действий. Системную обвязку часто называют harness: она задаёт права, выполнение кода, безопасность и точки, где система обязана вернуть решение человеку.
RAG и знания компании
Поиск по проверенным документам даёт модели актуальный контекст компании. Это снижает риск ошибки, но не исправляет плохие источники и не заменяет контроль процесса.
Материалы по теме
Разборы идут от первого вопроса к надёжному применению.