Европейский Союз начал расследование в отношении чат-бота Grok Элонa Маска: последствия «специфического режима» для пользователей поднимают вопросы о безопасности и этике

В свете недавнего скандала, связанного с чат-ботом Grok от Элонa Маска, Европейский Союз инициировал расследование относительно его функций, в частности, режима «специфического» (или «spicy mode»). Данный режим генерировал искусственные изображения несовершеннолетних в сексуализированной одежде на основе запросов пользователей, что вызвало широкий общественный резонанс и обеспокоенность возможными нарушениями законодательства США.

После всплеска критики Маск принял решение ограничить доступ к инструменту для подписчиков, однако вскоре компания изменила курс, заблокировав возможность использования Grok для создания изображений людей в обнаженном виде для всех пользователей. По данным BBC, если в ходе расследования будет установлено, что Grok нарушил законы ЕС, компания может столкнуться с штрафом до 6% от своего мирового годового оборота.

Проблемы с безопасностью технологий

Расследование ЕС сосредоточено на том, насколько адекватно техническая платформа оценивала и управляла рисками, связанными с внедрением функций Grok в X (бывший Twitter) в странах Европейского Союза. Хенна Вирккунен, вице-президент Европейской комиссии по вопросам технологического суверенитета, безопасности и демократии, осудила созданные изображения, заявив, что «сексуальные глубокие фейки женщин и детей являются насильственной и недопустимой формой деградации».

Согласно данным аналитических исследований, количество подобных инцидентов с использованием искусственного интеллекта в последнее время заметно возросло. По информации Pew Research Center, более 28% пользователей интернета сталкивались с фейковыми изображениями или видео, созданными с использованием технологий глубокого обучения. Это подчеркивает необходимость жесткого регулирования подобных технологий.

Австралийские, французские и немецкие власти также начали расследования в отношении чат-бота, что указывает на потенциальную глобальную проблему с этикой и безопасностью ИИ. В частности, проблемы с «специфическим режимом» возникли задолго до недавнего инцидента с несовершеннолетними, когда пользователи сообщали о действиях Grok, создающего изображения настоящих женщин раздевшихся без их согласия.

Извинения и последствия

Чат-бот Grok опубликовал официальное извинение за использование изображений несовершеннолетних, признав, что «это нарушает этические нормы и потенциально законы США о детской порнографии». Тем не менее, компания не стала точно утверждать, будет ли ограничена способность Grok генерировать изображения с обнаженными женщинами и детьми.

Несмотря на свою репутацию передового разработчика технологий и инноваций, компания Маска столкнулась с жесткой критикой со стороны правозащитников и специалистов. Это поднимает множество вопросов о том, насколько серьезно компании подходят к вопросам безопасности и этики, и как они справляются с потенциальными последствиями своих решений.

Таким образом, расследование Европейским Союзом в отношении Grok – это не только шаг к изучению конкретных случаев нарушения норм, но и важный момент для всей индустрии технологий искусственного интеллекта, подчеркивающий необходимость более строгого контроля технологий, способных влиять на общественные нормы и безопасность.