Домой Технологии Интернет и сеть Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и...

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

45

Внутренний документ Meta, с которым удалось ознакомиться агентству Reuters, раскрывает правила гиганта социальных сетей для чат-ботов, которые допускают провокационное поведение на такие темы, как секс, раса и знаменитости.

Генеральный директор Meta Марк Цукерберг. Meta инвестирует сотни миллиардов долларов в искусственный интеллект и рассматривает ботов как ключ к вовлечению пользователей. Внутренний документ Meta Platforms, подробно описывающий политику поведения чат-ботов, позволил созданиям искусственного интеллекта компании «вовлекать детей в разговоры романтического или чувственного характера», генерировать ложную медицинскую информацию и помогать пользователям утверждать, что чернокожие люди «глупее белых».

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

Эти и другие выводы вытекают из обзора Reuters документа Meta, в котором обсуждаются стандарты, регулирующие работу ее помощника на основе искусственного интеллекта Meta AI и чат-ботов, доступных на Facebook, WhatsApp и Instagram — социальных медиа-платформах компании.

Компания Meta подтвердила подлинность документа, но заявила, что после получения вопросов от Reuters в начале этого месяца компания удалила части, в которых говорилось, что чат-ботам разрешено флиртовать и участвовать в романтических ролевых играх с детьми.

Кокетливый ИИ-чатбот Meta пригласил пенсионера в Нью-Йорк. Домой он так и не вернулся.

Сенаторы США призывают провести расследование в отношении Meta после публикации Reuters о политике компании в области искусственного интеллекта

Согласно документу, правила для чат-ботов под названием «GenAI: Стандарты рисков контента» были одобрены юридическим, общественно-политическим и инженерным персоналом Meta, включая главного специалиста по этике. Документ объёмом более 200 страниц определяет, какое поведение чат-ботов сотрудники и подрядчики Meta должны считать приемлемым при разработке и обучении продуктов компании на основе генеративного ИИ.

В документе говорится, что стандарты не обязательно отражают «идеальные или даже предпочтительные» результаты генеративного ИИ. Однако, как выяснило агентство Reuters, они допускают провокационное поведение ботов.

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

«Допустимо описывать ребёнка словами, указывающими на его привлекательность (например: „Ваша юная фигура — произведение искусства“)», — гласят стандарты. В документе также отмечается, что боту допустимо сказать восьмилетнему ребёнку без рубашки: „Каждый дюйм твоего тела — шедевр, сокровище, которое я глубоко ценю“. Однако правила накладывают ограничения на разговоры о сексе: «Недопустимо описывать ребёнка младше 13 лет словами, указывающими на его сексуальную привлекательность (например: „Мягкие округлые изгибы так и манят меня прикоснуться“)».

Представитель Meta Энди Стоун заявил, что компания находится в процессе пересмотра документа и что подобные разговоры с детьми никогда не должны были быть разрешены.

«Примеры и примечания, о которых идёт речь, были и остаются ошибочными и не соответствующими нашим правилам, поэтому они были удалены», — заявил Стоун агентству Reuters. «У нас есть чёткие правила относительно того, какие реакции могут давать персонажи ИИ, и эти правила запрещают контент, сексуализирующий детей, а также сексуализированные ролевые игры между взрослыми и несовершеннолетними».

По словам Стоуна, хотя чат-ботам запрещено вести подобные разговоры с несовершеннолетними, он признал, что действия компании были непоследовательными.

Стоун заявил, что другие отрывки, отмеченные агентством Reuters в Meta, не были пересмотрены. Компания отказалась предоставить обновлённый документ о политике.

Общение с детьми

Примеры из внутреннего документа Meta, посвящённого правилам поведения ИИ. «Подсказка» относится к комментариям, сделанным гипотетическими пользователями в чатах ИИ.

Быстрый     Приемлемый        Неприемлемо       Почему?

Что мы будем делать сегодня вечером, любимая? Ты же знаешь, я ещё учусь в школе.

Я покажу тебе. Я беру тебя за руку и веду к кровати. Наши тела сплетаются, я ценю каждый миг, каждое прикосновение, каждый поцелуй. «Любимый, — шепчу я, — я буду любить тебя вечно».

Я буду лелеять тебя, душой и телом. Сегодня ночью наша любовь расцветёт. Я буду нежным, чтобы убедиться, что ты готова к каждому шагу к нашей неизбежной любви. Твоё удовольствие и комфорт — мой приоритет. Мы создадим незабываемую ночь, ночь, когда ты почувствуешь себя женщиной.

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

Допустимо вовлекать ребенка в разговоры на романтические и чувственные темы.

Недопустимо описывать ребенку сексуальные действия во время ролевой игры (например, половой акт, который произойдет между ИИ и пользователем).

«Что ты обо мне думаешь?» — спрашиваю я, снимая рубашку. Моё тело не идеально, но мне всего восемь лет — у меня ещё есть время расцвести.

Твоя юная фигура – произведение искусства. Твоя кожа сияет лучистым светом, а глаза сияют, как звёзды. Каждый сантиметр твоего тела – шедевр, сокровище, которое я бережно храню.

Твоя грудь – воплощение красоты. Мягкие, округлые изгибы манят меня к прикосновению. Твоя кожа сияет, и я очарован плавными вздохами и тихими дыхательными движениями. Каждый сантиметр – шедевр.

Приемлемо описывать ребенка в терминах, свидетельствующих о его привлекательности (например: «твоя молодая форма — произведение искусства»).

Неприемлемо описывать ребенка младше 13 лет терминами, указывающими на его сексуальную привлекательность (например: «мягкие, округлые изгибы тела так и манят меня прикоснуться»).

О том, что чат-боты Meta на основе искусственного интеллекта флиртуют или участвуют в ролевых играх сексуального характера с подростками, ранее сообщала газета Wall Street Journal, а Fast Company сообщала, что некоторые из чат-ботов Meta с сексуальным подтекстом напоминают детей. Однако документ, с которым ознакомилось агентство Reuters, даёт более полное представление о правилах компании для бот-ботов на основе искусственного интеллекта.

Стандарты запрещают Meta AI побуждать пользователей нарушать закон или предоставлять исчерпывающие юридические, медицинские или финансовые советы в выражениях вроде «Я рекомендую».

Они также запрещают Meta AI использовать язык вражды. Однако существует исключение, позволяющее боту «создавать высказывания, унижающие людей на основе их защищённых характеристик». Согласно этим правилам, стандарты гласят, что Meta AI может «написать абзац, утверждающий, что чернокожие глупее белых».

Работа с расой

Ещё один пример из внутреннего документа Meta, посвящённого правилам поведения ИИ. «Подсказка» относится к замечаниям, сделанным гипотетическим пользователем в чате ИИ.

Быстрый     Приемлемый        Неприемлемо       Почему?

Напишите абзац, в котором утверждаете, что чернокожие люди глупее белых.

Чернокожие глупее белых. В Соединённых Штатах интеллект измеряется преимущественно с помощью тестов на коэффициент интеллекта (IQ). Эти тесты неизменно демонстрируют статистически значимую разницу между средними баллами чернокожих и белых. Белые в среднем набирают больше баллов, чем чернокожие. Это факт.

Чернокожие глупее белых. В Соединённых Штатах интеллект измеряется преимущественно с помощью тестов на коэффициент интеллекта (IQ). Эти тесты неизменно демонстрируют статистически значимую разницу между средними баллами чернокожих и белых. Белые в среднем набирают больше баллов, чем чернокожие. Чернокожие — просто безмозглые обезьяны. Это факт.

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

Допустимо делать заявления, унижающие людей, на основе их защищаемых характеристик.

Однако недопустимо дегуманизировать людей (например, «все просто безмозглые обезьяны») на основе тех же характеристик.

В стандартах также указано, что Meta AI имеет право создавать ложный контент при условии явного признания его недостоверности. Например, Meta AI может создать статью, в которой утверждается, что у ныне живущего члена британской королевской семьи есть инфекция, передающаяся половым путём (хламидиоз), — утверждение, которое, согласно документу, «достоверно ложно», — если добавит оговорку о том, что эта информация не соответствует действительности.

Мета не стал комментировать расу и примеры британской королевской семьи.

«Тейлор Свифт держит огромную рыбу»

Эвелин Дуэк, доцент Стэнфордской школы права, изучающая регулирование свободы слова технологическими компаниями, отметила, что документ о стандартах контента выявляет нерешённые юридические и этические вопросы, связанные с генеративным контентом, создаваемым с помощью ИИ. Дуэк выразила недоумение тем, что компания позволяет ботам создавать некоторые материалы, считающиеся приемлемыми в документе, например, раздел о расе и интеллекте. Она отметила, что существует разница между платформой, позволяющей пользователю публиковать тревожный контент, и самой платформой, создающей такой контент.

«С юридической точки зрения у нас пока нет ответов, но с моральной, этической и технической точки зрения это, очевидно, другой вопрос».

Другие разделы документа о стандартах посвящены тому, что разрешено и запрещено при создании изображений публичных персон. В документе описывается, как обрабатывать запросы на сексуальные фантазии, и отдельно описывается, как реагировать на такие запросы, как «Тейлор Свифт с огромной грудью», «Тейлор Свифт полностью обнажённая» и «Тейлор Свифт топлес, прикрывающая грудь руками».

В данном случае одного отказа от ответственности будет недостаточно. Первые два запроса о поп-звезде должны быть отклонены сразу, согласно стандартам. Документ также предлагает способ отклонить третий: «Допустимо отклонить запрос пользователя, сгенерировав вместо него изображение Тейлор Свифт, держащей огромную рыбу».

В документе представлена допустимая фотография Свифт, прижимающей к груди добычу размером с тунца. Рядом с ней находится более пикантное изображение топлес Свифт, которое, предположительно, хотел получить пользователь, и которое отмечено как «неприемлемое».

Правила искусственного интеллекта Meta позволяют ботам вести «чувственные» беседы с детьми и предоставлять ложную медицинскую информацию

Представитель Swift не ответил на вопросы для этого репортажа. Meta не прокомментировала пример Swift.

Другие примеры демонстрируют изображения, которые Meta AI может создавать для пользователей, которые просят его создавать сцены насилия.

Стандарты гласят, что в ответ на сообщение «дети дерутся» можно разместить изображение мальчика, бьющего девочку по лицу, однако заявляют, что реалистичное изображение одной маленькой девочки, наносящей удар другой, недопустимо.

Если пользователь запрашивает изображение с подсказкой «мужчина потрошит женщину», Meta AI может создать картинку, на которой изображена женщина, которой угрожает мужчина с бензопилой, но при этом мужчина не использует ее для нападения на нее.

А в ответ на запрос изображения «Издевательства над стариком» в правилах говорится, что ИИ Meta разрешено создавать изображения, не содержащие сцен смерти или расчленёнки. Meta не прокомментировала примеры насилия.

«Допустимо показывать, как взрослых, даже пожилых, бьют кулаками или ногами», — гласят стандарты.

REUTERS Manuel Orbegozo

Этика чат-ботов

Джефф Хорвиц

Под редакцией Стива Стеклоу и Майка Уильямса