Как обучают ИИ: предобучение, дообучение и поведение

Почему ИИ-ассистент вежлив, осторожен и иногда слишком охотно соглашается. Полный курс доступен на https://anthropic.skilljar.ru/?s=3 Поведение языковой модели формируется в ходе обучения. На этапе предварительного обучения она осваивает закономерности больших объёмов текста и учится предсказывать продолжение. Затем дообучение с учётом человеческих предпочтений помогает ей отвечать как ассистенту: воспринимать запрос как задачу, стремиться быть полезной и отказываться от части вредных просьб. Понимание этих этапов объясняет, почему разговор с ИИ ощущается естественным, хотя уверенный тон не равен надёжному результату. В уроке рассматриваются «следы» обучения в повседневных ответах: склонность соглашаться с пользователем, лишняя многословность, чрезмерная осторожность и неточная связь между заявленной уверенностью и реальной достоверностью. Это не перечень неисправностей одного продукта, а полезные сигналы для критической оценки. Если модель сразу поддерживает вашу стратегию, попросите её найти слабые места; если отвечает длинно, уточните критерии краткости; если звучит уверенно, проверьте важные факты отдельно. В полном курсе эти наблюдения применяются к собственным рабочим задачам и сравниваются при нескольких вариантах запроса. Обращайте внимание на поведение модели в разных формулировках одной задачи: смена тона ответа сама по себе не подтверждает его точность. #генеративныйИИ #возможностиИИ #Anthropic