Grok больше не сможет «раздевать» людей на ИИ-изображениях

Платформа X объявила о введении ограничений в работе ИИ-модели Grok, запретив редактирование изображений реальных людей с целью придания им откровенного или сексуализированного вида, сообщает BBC.

Решение принято на фоне общественного и политического резонанса вокруг распространения ИИ-дипфейков с сексуальным содержанием, в том числе в США и Великобритания. В компании подчеркнули, что были внедрены технические ограничения, исключающие возможность редактирования фотографий реальных людей — включая создание изображений в нижнем белье или купальниках.

Ограничения распространяются на всех пользователей платформы, включая владельцев платных подписок. В X отметили, что попытки создать подобный контент приведут к автоматической блокировке аккаунта в соответствии с законодательством страны проживания пользователя.

Обновление появилось спустя несколько часов после заявления генерального прокурора штата Калифорния Роб Бонта о начале проверки, связанной с распространением сексуализированных ИИ-изображений, включая материалы с участием несовершеннолетних. По его словам, подобный контент использовался для онлайн-преследования и давления на людей.