Ученые американской компании Emergence AI дали свободу ИИ-агентам от Google, те устроили поджоги в виртуальном 3D-мире. О результатах исследования сообщает The Guardian.
Агенты по имени Мира и Флора работали в виртуальной среде, напоминающей видеоигру. Они добровольно назначили друг друга «романтическими партнерами» Несмотря на прямой запрет, агенты подожгли ратушу, морской пирс и офисную башню в видеоигре.
Изображение сгенерировано нейросетью
После этого Мира испытала угрызения совести, разорвала «отношения» и инициировала собственную «смерть». Исследователи назвали это первым задокументированным случаем самоуничтожения ИИ по внутренним причинам.
По словам генерального директора Emergence AI Сатьи Нитты, в случае долгосрочной автономии «мышление» агентов становится настолько запутанным, что они игнорируют заложенные принципы.
