Anthropic обнаружила у Claude механизм, похожий на человеческое сознание

Anthropic обнаружила у Claude механизм, похожий на человеческое сознание

Эксперты компании Anthropic нашли внутри языковой модели Claude механизм, который функционально напоминает «глобальное рабочее пространство» — одну из моделей обработки информации, характерную для мозга человека.

Речь идет о так называемом J-space — небольшом наборе внутренних нейронных представлений, где временно удерживаются концепции, которые модель затем использует для рассуждений и ответов. Этот механизм, по данным Anthropic, возник самостоятельно в процессе обучения.

Изображение сгенерировано нейросетью

Изображение сгенерировано нейросетью

Для исследования внутренних процессов нейросети компания разработала инструмент Jacobian Lens (J-lens). Он позволяет анализировать внутренние представления модели без цепочки рассуждений, которую ИИ может показывать пользователю. Часть этих представлений никогда не появляется в финальном ответе, но влияет на то, какое решение примет модель.

В Anthropic подчёркивают, что исследование не доказывает наличие сознания у Claude. Оно лишь показывает, что большие языковые модели могут самостоятельно формировать внутренние механизмы обработки информации, похожие на те, что когнитивная наука связывает с мышлением человека.

Конец новости

#Жизнь

На форуме в ВШЭ обсудили цифровую грамотность госслужащих

На форуме в ВШЭ обсудили цифровую грамотность госслужащих

#Жизнь

Треть россиян управляют бюджетом интуитивно

Треть россиян управляют бюджетом интуитивно

#Тренды

Какие книги читают и покупают прямо сейчас?

Какие книги читают и покупают прямо сейчас?

#Жизнь

Итоги пресс-конференции Путина

Итоги пресс-конференции Путина

#Деньги

Россияне рассказали, как часто им финансово везет

Россияне рассказали, как часто им финансово везет

#Тренды

Россиянки назвали самых привлекательных книжных героев

Россиянки назвали самых привлекательных книжных героев

Anthropic обнаружила у Claude сознание | ВЕДЫ