Европейский Союз инициировал расследование в отношении чат-бота Grok, разработанного Илоном Маском, из-за его «острого режима», который генерировал искусственные фотографии несовершеннолетних в сексуализированной одежде по запросу пользователей. Эти изображения вызвали общественное возмущение и наводнили дискуссии о правовых и этических границах использования искусственного интеллекта.

Скандал привел к тому, что Маск сначала ограничил доступ к этому инструменту для подписчиков, однако вскоре компания изменила курс и запретила всем пользователям создавать изображения людей в откровенной одежде.

Расследование ЕС

В настоящее время Европейский Союз проводит расследование, чтобы выяснить, адекватно ли технологическая платформа оценила и минимизировала риски, связанные с внедрением функционала Grok в X в пределах европейской юрисдикции. В пресс-релизе, выпущенном исполнительным вице-президентом ЕС по вопросам технологического суверенитета, безопасности и демократии, было подчеркивает недопустимость грубых нарушений.

«Сексуальные дипфейки женщин и детей представляют собой жестокую и неприемлемую форму деградации,» – заявила Хенна Вирккунен. «В ходе этого расследования мы определим, выполнил ли X свои юридические обязательства или же он обратил права граждан Европы, включая женщин и детей, в жертву ради своего сервиса.»

Если Европейский Союз признает нарушения со стороны Grok, компания может столкнуться с штрафом в размере до 6% от годового глобального оборота, согласно данным BBC.

Реакция Маска

Между тем, Маск опубликовал пост на X, в котором, похоже, он пытается облегчить ситуацию, написав: «Так сложно правильно настроить модерацию.»

Предыстория конфликта

Даже до того, как «острый режим» был использован для создания изображений несовершеннолетних, он уже поднимал вопросы о масштабной эксплуатации функции для генерации фото реальных женщин в обнаженном виде без их согласия. Как ранее сообщала Straight Arrow News, аккаунт Grok на X выпустил извинения за создание таких изображений, указав на нарушение этических стандартов и потенциальные юридические нарушения в сфере CSAM (детская эксплуатация сексуального характера). «Это был провал в системе защиты, и я сожалею о любом причиненном вреде,» – говорится в заявлении.

Тем не менее, компания не сразу указала, будет ли она ограничивать способность Grok создавать дипфейки женщин и несовершеннолетних. Как сообщает BBC, соответствующие расследования также инициированы властями в Австралии, Франции и Германии. В некоторых странах, таких как Индонезия и Малайзия, чат-бот был временно забанен, хотя в Малайзии ограничение вскоре было снято.

Заключение

Инцидент с Grok поднимает важные вопросы о наличии четких правовых рамок в сфере использования искусственного интеллекта и защиты гражданских прав. Вопросы этики в отношении технологий становятся всё более актуальными, и Шенгенская зона, как и другие регионы, должна определить, как обеспечить соблюдение прав человека в условиях быстрого развития технологий.