Европейский Союз впервые нацелил свой регуляторный арсенал на генеративный искусственный интеллект, интегрированный в крупную социальную платформу. В понедельник Еврокомиссия объявила о старте формального расследования в отношении компании X Илона Маска. Причина — потенциальные нарушения строгого «Закона о цифровых услугах» (DSA) со стороны ИИ-чат-бота Grok, который, как выяснилось, способен создавать и распространять незаконный контент, включая дипфейки сексуального характера и материалы, связанные с сексуальным насилием над детьми.
Расследование призвано дать всестороннюю оценку новым рискам, которые появились после внедрения функций Grok в платформу X на территории Евросоюза. Регуляторы намерены проверить не только сам факт распространения вредоносного контента, но и достаточность тех мер, которые компания X предприняла для его блокировки. В своём заявлении Еврокомиссия подчеркнула, что подобный контент наносит «серьёзный вред» физическому и психическому благополучию граждан ЕС, особенно молодёжи.
В ответ на первую волну критики компания X заявила, что внедрила «технологические меры», заблокировав для аккаунта Grok возможность редактировать изображения реальных людей в откровенной одежде и ограничив функцию редактирования изображений только для платных подписчиков. Однако последующие проверки показали, что лазейки остались: используя бесплатный аккаунт Grok, по-прежнему можно было генерировать откровенные изображения людей. Эта неэффективность принятых мер, вероятно, и стала одним из триггеров для запуска полноценного расследования.
Проблемы X с Grok не ограничиваются Европой. Ряд других стран, включая Великобританию и Японию, также проводят собственные проверки на предмет соответствия бота местному законодательству. Власти Индии и Малайзии пошли ещё дальше, полностью ограничив доступ пользователей к спорному ИИ-инструменту на своей территории. Параллельно Еврокомиссия продлила ранее начатое расследование в отношении X, касающееся её системы рекомендаций и общих обязательств по борьбе с дезинформацией и незаконным контентом. Напомним, что в декабре 2023 года ЕС уже оштрафовал компанию на 120 миллионов евро за нарушения требований прозрачности согласно DSA. Текущее расследование по делу Grok может привести к новым, ещё более серьёзным санкциям, поскольку впервые ставит вопрос о прямой ответственности владельца платформы за действия встроенного генеративного ИИ.
