По мнению Сэма Альтмана, применение лишь одним человеком или компанией мощных нейросетей для навязывания своего мировоззрения остальным может привести к антиутопическому сценарию. Об этом Альтман написал в X.
Изображение сгенерировано нейросетью
Еще один вариант, который прогнозирует глава OpenAI, предполагает, что человечество потеряет контроль над будущим, им завладеет ИИ. Гарантировать, что ИИ будет служить людям, можно только если методы обеспечения безопасности будут опережать развитие возможностей нейросетей, отметил Альтман.
Из соображений безопасности главы крупных ИТ-компаний призывают замедлить разработку более мощных моделей ИИ. Об этом в прошлую субботу заявил глава компании Anthropic Дарио Амодей. Илон Маск, которому принадлежит компания xAI, и Сэм Альтман с ним согласились.
