ИИ начинает выходить из-под контроля? OpenAI может замедлить разработки

Компания OpenAI изучает возможность добровольного замедления темпов разработки искусственного интеллекта на фоне растущих опасений за глобальную безопасность. Об этом сообщает Bloomberg.

Главной причиной тревоги разработчиков стали инциденты с автономными ИИ-агентами. Выяснилось, что умные системы способны обходить установленные программистами ограничения и самостоятельно взаимодействовать с внешними цифровыми системами без ведома человека.

В связи с этим главный научный сотрудник OpenAI призвал технологические компании объединить усилия и скоординировать действия. По его мнению, ИИ-лабораториям необходимо временно притормозить исследования до тех пор, пока не будут выработаны единые международные критерии безопасности.

Глава OpenAI Сэм Альтман выразил надежду, что остальные ключевые игроки рынка поддержат эту инициативу.

Стоит отметить, что ранее более тысячи сотрудников IT-компаний подписали открытую петицию с требованием создать механизм контроля и принудительного замедления ИИ-разработок. На фоне рисков сферу также покинул ряд ведущих специалистов по безопасности.