Мировое ужесточение мер: эти страны ограничивают Grok или выступают против него из-за порнографических дипфейков, созданных без согласия. Власти по всему миру спешат обуздать Grok, чат-бот искусственного интеллекта (ИИ) Илона Маска, на фоне растущей тревоги из-за создания им поддельных, откровенно сексуальных изображений.
Прошлым летом xAI, компания-разработчик Grok, добавила функцию генерации изображений, в которую входил «spicy mode», способный создавать контент для взрослых.
В последние недели Grok отвечал на запросы пользователей «раздеть» женщин на фотографиях и одеть их в бикини, создавая ИИ-дипфейки без каких-либо защитных механизмов.
Власти заявляют, что существующие защитные механизмы не работают: в Юго-Восточной Азии сервис прямо блокируют, в Европе и Австралии действуют уголовные расследования и предупреждения регуляторов.
Вот страны, которые запретили Grok или вынесли ему предупреждения.
Какие страны запретили Grok?
Индонезия
Индонезия первой временно заблокировала Grok, чтобы защитить женщин, детей и более широкие слои общества от поддельного порнографического контента, создаваемого с помощью ИИ.
.
Малайзия
Малайзийская комиссия по коммуникациям и мультимедиа (MCMC) в воскресенье распорядилась временно заблокировать Grok после, как она заявила, «неоднократных злоупотреблений» инструментом для создания непристойных, откровенно сексуальных и несогласованных манипулированных изображений.
«Ограничение вводится как превентивная и соразмерная мера на время проведения юридических и регуляторных процедур», заявили там, добавив, что доступ останется заблокированным до внедрения эффективных защитных механизмов.
Европейский союз
Европейская комиссия сообщила, что изучает случаи создания Grok сексуально провокационных и откровенных изображений девочек.
«Могу подтвердить отсюда, что Комиссия тоже очень серьезно занимается этим вопросом», заявил на прошлой неделе журналистам в Брюсселе представитель Комиссии.
Великобритания
Британский медиарегулятор начал расследование в отношении X, материнской компании xAI и социальной платформы Илона Маска, из-за использования Grok для создания откровенных и несогласованных изображений.
Ofcom заявил, что поступили «крайне тревожные сообщения» об использовании чат-бота для создания и распространения раздетых изображений людей, а также «сексуализированных изображений детей».
X грозит штраф до 10 процентов от мирового оборота или 18 млн фунтов стерлингов (20 млн евро).
_«_Контент, распространявшийся в X, отвратителен. Это не просто вызов приличному обществу, это незаконно», заявила в парламенте министр по технологиям Лиз Кендалл.
Франция
Парижская прокуратура в начале января расширила расследование в отношении X, включив в него Grok, как сообщали местные СМИ.
Первоначальная проверка, идущая с прошлого июля, была сосредоточена на предполагаемом организованном вмешательстве в компьютерные системы X и незаконном извлечении данных.
Италия
8 января Управление по защите данных Италии (Garante) предупредило, что всем, кто использует Grok или другие ИИ-платформы для удаления одежды с людей на изображениях, а также распространяет такие изображения, грозят уголовные обвинения.
Использование таких инструментов без разрешения изображенного человека может быть признано «серьезным нарушением основных прав и свобод затронутых лиц», отметили там.
Германия
Германия заявила, что вскоре представит «конкретное предложение» по новому закону против цифрового насилия.
Представитель министерства юстиции Германии Анна-Лена Бекфельд на январской пресс-конференции сказала, что будущий закон о цифровом насилии станет способом поддержать жертв этого «вида цифрового насилия», упростив для них «принятие прямых мер против нарушений их прав онлайн».
Австралия
В январе управление австралийского eSafety Commissioner сообщило, что за последние пару недель получило небольшое, но растущее число сообщений о сексуальном ИИ-контенте Grok.
Ведомство заявило, что при нарушении Закона об онлайн-безопасности будет использовать свои полномочия, например, направлять уведомления об удалении, которые могут обязать социальные сети убрать проблемный контент.
Управление уже запросило у X дополнительную информацию о злоупотреблениях «сексуальным» сервисом Grok и для оценки того, соблюдает ли платформа новый австралийский закон о соцсетях.
Также Grok напомнили, что с 9 марта онлайн-сервисы, включая ИИ-компании, обязаны блокировать доступ детей к сексуальному, насильственному или вредному контенту.
SHOZOO
