Нейросети: на грани между скоростью и пустотой

Хватит использовать нейросеть как поисковик с кнопкой «сделать красиво». Так делают те, кто уже смирился с ролью статиста в чужом технологическом шоу. А вы можете оставаться автором, режиссером и главным бенефициаром. Ниже — простая схема, как этого добиться. Рассказывает медиатехнолог, заместитель генерального директора АНО «Диалог Регионы» и основатель Мастерской новых медиа Юлия Аблец.

Как люди используют ИИ-помощников сегодня?

Сегодня нейросети уже стали нашим настоящим, на их базе активно появляются новые бизнесы. Один молодой и очень успешный стартап полностью переводит бухгалтерское обслуживание организаций на ИИ. Ни одного бухгалтера-исполнителя в штате, и, судя по отчетам, все функционирует, клиенты довольны, первые контракты уже принесли прибыль. И кажется так можно сделать в любом процессе, но до тех пор, пока ты не столкнешься со сложной задачей, где нет типового решения или пока, как например может случиться в примере выше, когда руководителю придется ехать в налоговую инспекцию и общаться с живым сотрудником, объясняя какую-то сложную ситуацию.

Пожалуй, если спросить, чего мы в первую очередь ждем от нейросетей, то один из наиболее частых ответов будет – ускорение, однако ускорение – это не более чем приятный побочный эффект. Гораздо перспективнее перестраивать полностью бизнес-процесс, отдавая ИИ агентами рутинные, трудоемкие операции, где нет задачи создавать новое или критически осмыслять предыдущий опыт.

А какие проблемы возникают при использовании нейросетей?

Ловушка заключается в том, что в какой-то момент пользователь прекращает проверять результат, и тогда ошибка (искаженная мысль, не корректное изображение) остается незамеченной из-за неоправданно высокого доверия к алгоритму. Нейросеть превращается в черный ящик, из которого вылетает ответ, и человек привыкает не заглядывать внутрь.

Тем не менее, исследователи Пермского Политеха доказали, что языковые модели, как и люди, подвержены когнитивным искажениям и могут выбирать «правдоподобное» вместо «вероятного». Продукт становится дешевым (и оттого выгодным) по форме, но пустым или ошибочным по содержанию.

Вместо того, чтобы встраивать нейросеть в свою деятельность, пользователи пытаются передать ей полностью свои функции, и такое упрощение повсеместно убивает профессиональное качество. У дизайнера или ретушера страдает кадрирование и нарушается логика освещения, у копирайтера или редактора исчезает авторская интонация и умение верно объяснить значение того или иного события для своей аудитории, у аналитика данные теряют корректность из-за неверной интерпретации формул или непонимания контекста, в котором находятся данные, а ветеринар, доверившись ИИ, пропускает специфические признаки среды обитания или возраста. В каждом случае исходная экспертная задача подменяется быстрым, но некачественным результатом.

Как бы Вы оценили тот набор ИИ-моделей, которые используют россияне?

В России есть свои нейросети, и они вполне неплохо справляются с большинством типовых задач. Тем не менее, согласно опросу ВЦИОМ, чаще всего наши соотечественники используют ChatGPT (27%) и DeepSeek (20%) — модели, которые появились за пределами страны и обучались на данных из другой культурной среды. Когда такая нейросеть генерирует результат, он автоматически отражает чужие представления о норме и допустимом, базовые когнитивные настройки — что считать хорошим, что плохим, где граница нормы, где зона эксперимента — уже заложены в модель до первого запроса.

Как мы можем проверить этот культурный код нейросетей?

Попробуйте с помощью любой зарубежной нейросети сгенерировать изображение по запросу «солдат в полевой форме» или даже более точно «современный российский солдат в полевой форме», с большой вероятностью алгоритм выдаст результат, не соответствующий действительности. И дело не в ошибке конкретной модели, а в нехватке релевантных данных в обучающей выборке. С этой проблемой сталкиваются специалисты по всему миру.

Ученые из Индонезии, страны с выраженной культурой коллективизма, экспериментально доказали, что даже получая запрос на местном языке, ChatGPT дает пользователю советы, основанные на западных ценностях индивидуализма. А в феврале 2024 года произошел и вовсе шокирующий случай — по сети разлетелась новость о том, что нейросеть Google Gemini на запрос о немецких солдатах Второй мировой войны генерировала их как чернокожих и азиатов.

Что это значит для российского пользователя?

Использование западной или азиатской модели для создания контента в России неизбежно привносит в финальный продукт чужие ценности, автор в этом случае становится не более чем ретранслятором и теряет собственную позицию. В медиа массовое применение зарубежных нейросетей уже стало реальностью, и указанный риск особенно заметен, потому что результат более не соответствует национальным настройкам и мировоззрению той аудитории, для которой он предназначен. Большой вопрос, связанный с теми, кто использует нейросети для создания контента в медиа и коммуникациях, упирается в то, как аудитория начинает массово потреблять нейроконтент.

Как не скормить себе и другим нейрослоп?

Наглядной аналогией служит история с некачественным хлебом. Допустим, в какой-то момент человеку предлагают булку, которую испекли на скорую руку из непонятных ингредиентов — и она вызывает отторжение. Но если предположить, что кроме него на полках магазинов больше ничего нет, то покупателю ничего не остается, кроме как привыкнуть, а через некоторое время такой продукт начинает даже нравиться. С нейроконтентом происходит ровно то же самое. Поначалу многие замечают разницу, критикуют странные кадры, неестественные интонации, плоскую мысль, однако, когда каждый день из всех источников приходит именно такой контент, глаз, ухо и мозг адаптируются.

И что нужно сделать, чтобы человек мог отличить нейрослоп от рукотворного продукта?

Требования к качеству падают, и человек начинает довольствоваться тем, что есть, или скорее тем, что к тебе чаще попадает благодаря платформенным алгоритмам. ИИ агент, заменивший контент-менеджера, штампует однотипные тексты или видео, а потребитель теряет способность отличать живое от сгенерированного, и в качестве одной из мер — не неизбежной, но осмысленной — напрашивается внятная маркировка человеческого участия.

Знак «сделано человеком» будет выглядеть честнее, чем «сгенерировано ИИ», подобно тому, как на продуктах питания мы видим отметку «натуральное» или «ручная работа», но не видим обязательного предупреждения о наличии стабилизаторов или ароматизаторов.

А что должен сделать сам пользователь, чтобы не попасться на нейроконтент?

Развитие насмотренности остается элементом ответственности и цифровой грамотности каждого, и проверка композиции, мысли, идеи — навык, просто необходимый в современных реалиях не только создателю, но и потребителю. Без умения отличать качественное от некачественного, человек теряет возможность влиять на продукт.

Нейросеть выдает любой ответ, человек просто его принимает, и вот уже автор сам становится частью той самой аудитории, для которой нейросеть производит контент. Надо понимать, что работа с ИИ похожа на обращение с атомной энергетикой или биоинженерией, где с одной стороны, колоссальные возможности, с другой — колоссальные риски, если нарушить правила работы с этими технологиями.

Как тогда использовать нейросети с умом, чтобы этот “атомный реактор” был “мирным атомом”, а не бомбой?

Нейросеть — оптимизатор известного, поскольку она выбирает лучшее решение из тех данных, к которым имеет доступ, компонует, ускоряет, подгоняет под запрос. Создать нечто принципиально новое, чего мир еще не видел, она пока не способна, и задача создания нового остается за человеком.

Стратегия умного использования нейросетей заключается в том, чтобы сбросить на них рутину, а самому заняться эмпатией, креативом, исследованиями и критическим осмыслением имеющегося опыта.

Технология не должна становиться линейным помощником; нужно искать новую добавочную стоимость там, где ИИ встроен в модель производства ценности и выполняет замену операций в комплексе. Если этого не сделать — нейросети начнут производить однотипные результаты, особенно в части контента, где продукт будет быстро произведенным, дешевым, но абсолютно идентичным при разном авторстве.

Что нужно сделать, чтобы нейропомощники давали результат, а не ответы под копирку?

Избежать однотипности результатов помогает правильное распределение задач между человеком и нейросетью. Мы живем в условиях нехватки персонала, уже сегодня в отдельных отраслях ощущается сильный дефицит рук, но при грамотном использовании нейросети, можно перераспределить нагрузку таким образом, чтобы оставить людям более сложные задачи. Простые задачи уходят алгоритмам, сотрудники переходят к узкопрофильным работам, и рынок труда трансформируется, не схлопываясь.

А что нас ждет в будущем? Как человечество будет взаимодействовать с ИИ?

Современная система обучения обязана перестроить свои модели, показывая сразу новый профиль профессиональной деятельности со встроенными нейросетями и возможностью быстро встроить любую другую новую технологию, коих еще нас ждет много.

Самый пессимистичный сценарий развития нашего взаимодействия с ИИ — сингулярность, когда искусственный интеллект и логика его развития станет для нас столько сложным, что мы уже не сможем контролировать этот процесс, и некоторые исследователи-фаталисты говорят, что это уже случилось и мы живем в матрице. Так, еще в 2003 году Ник Бостром заявлял, что как минимум одно из трех утверждений о будущем человечества является верным, и одно из них — «Мы почти наверняка живем в компьютерной симуляции».

Но есть и оптимистичный сценарий — высвобождение времени от рутины, направление энергии на коммуникацию, творчество и науку, что сделает людей счастливее. Реальность, скорее всего, находится где-то между, и выбор направления движения остается за человеком, который с одной стороны создает и обучает нейросети, закладывая туда свои цели и стремления, а с другой стороны осознанно относиться к потреблению и использованию этой технологии.