Anthropic обнаружила у Claude механизм, похожий на человеческое сознание
Эксперты компании Anthropic нашли внутри языковой модели Claude механизм, который функционально напоминает «глобальное рабочее пространство» — одну из моделей обработки информации, характерную для мозга человека.
Речь идет о так называемом J-space — небольшом наборе внутренних нейронных представлений, где временно удерживаются концепции, которые модель затем использует для рассуждений и ответов. Этот механизм, по данным Anthropic, возник самостоятельно в процессе обучения.
Изображение сгенерировано нейросетью
Для исследования внутренних процессов нейросети компания разработала инструмент Jacobian Lens (J-lens). Он позволяет анализировать внутренние представления модели без цепочки рассуждений, которую ИИ может показывать пользователю. Часть этих представлений никогда не появляется в финальном ответе, но влияет на то, какое решение примет модель.
В Anthropic подчёркивают, что исследование не доказывает наличие сознания у Claude. Оно лишь показывает, что большие языковые модели могут самостоятельно формировать внутренние механизмы обработки информации, похожие на те, что когнитивная наука связывает с мышлением человека.
