Мифы об ИИ

За несколько лет нейросети прошли путь от технологического эксперимента до инструмента, которым пользуются миллионы людей. Вместе с этим появились и устойчивые представления о том, как работает искусственный интеллект: что модель хранит ответы из интернета, может полностью заменить специалистов или что её качество определяется только названием компании-разработчика.

Но большая языковая модель устроена намного сложнее. Она обучается на огромных массивах данных, формирует ответы на основе закономерностей и зависит от того, какую задачу перед ней поставил человек. Технический директор фундаментальных моделей GigaChat Фёдор Минькин объяснил «ВЕДам», как работают современные нейросети и развенчал главные мифы о них.

Миф 1: «Нейросеть просто копирует ответы из интернета». Что происходит на самом деле?

На этапе обучения модель анализирует триллионы фрагментов текста и выстраивает статистические связи между словами, понятиями и контекстами. Сами тексты при этом не сохраняются и не индексируются как база для поиска. Отвечая на вопрос, нейросеть предсказывает наиболее вероятное продолжение токен за токеном, опираясь на эти закономерности, а не на хранящийся где-то готовый текст. Поэтому один и тот же вопрос, заданный дважды, обычно даёт разные по формулировке ответы — это результат генерации, зависящей от распределения вероятностей на каждом шаге.

Это же устройство объясняет известное ограничение: модель может выдать правдоподобный, но фактически неточный текст — разработчики называют это «галлюцинацией». Именно поэтому в чувствительных темах ответы нейросети стоит проверять.

Миф 2: «ИИ скоро полностью заменит специалистов». Какие задачи человек пока выполняет лучше?

Здесь важно разделять узкие задачи и полноценную профессиональную работу. Нейросеть эффективно справляется с рутинными и шаблонными операциями — обработкой больших массивов данных, написанием черновых текстов, первичным анализом, генерацией вариантов. И делает это быстрее и часто качественнее человека.

Однако там, где нужны понимание контекста конкретной ситуации, ответственность за решение, этическая оценка последствий или работа с новой, нестандартной задачей без готовых аналогов в обучающих данных, ключевую роль играет специалист. Модель не обладает собственным опытом, целями и ответственностью — она выдаёт результат на основе выученных закономерностей. А финальную оценку, интерпретацию и решение о применении в реальной ситуации принимает человек. Поэтому на практике речь идёт не о замене профессий, а об изменении содержания работы: рутинная часть делегируется нейросети, а специалист сосредотачивается на задачах, требующих экспертизы и принятия решений.

Миф 3: «Отечественная модель обязательно хуже зарубежных аналогов». От чего на самом деле зависит качество большой языковой модели?

Качество большой языковой модели определяется набором технических факторов: объёмом и разнообразием обучающих данных, доступными вычислительными мощностями, архитектурными решениями и качеством дополнительной настройки под конкретные задачи, языки и предметные области. Ресурсы, доступные разработчикам ИИ в разных странах, сильно различаются.

Вопрос в том, как эти ресурсы конвертируются в результат: часть мировых игроков идёт по пути создания максимально универсальных моделей "на все случаи", тогда как мы делаем ставку на прикладные модели под конкретные сценарии — работу с русским языком, российским законодательством, локальными данными. При таком фокусе имеющиеся ресурсы используются точнее, и в этих конкретных сценариях модель нередко показывает результат на уровне мировых аналогов, что подтверждается открытыми бенчмарками.

Миф 4: «Хороший ответ зависит только от самой модели». Насколько качество результата зависит от запроса пользователя и умения формулировать промпты?

Генерация строится на основе того, что получено на входе, поэтому расплывчатый или неполный запрос часто даёт более общий и менее точный ответ. Конкретизация задачи, указание контекста, желаемого формата, объёма и примеров заметно повышает точность и релевантность результата — это актуально для любой современной большой языковой модели. Одна и та же модель способна выдать посредственный текст на короткий общий запрос и качественный развёрнутый ответ на детально сформулированную задачу с уточнениями и вводными. Поэтому в профессиональной работе с нейросетями всё большее значение приобретает навык формулирования запросов — такое же профессиональное умение, как точно поставить задачу коллеге.