У витоку внутрішнього документа Meta викладено оновлені рекомендації для її AI-чат-бота щодо відповідей на запити, пов’язані з сексуальною експлуатацією дітей. Документ вказує, що чат-бот тепер зобов’язаний відмовляти у будь-яких запитах на сексуальну рольову гру з участю неповнолітніх.
Ці рекомендації були оприлюднені в той час, коли Meta та інші компанії стикаються з посиленим контролем з боку Федеральної торгової комісії (FTC) щодо AI-чат-ботів. На початку цього місяця FTC зобов’язала Meta, OpenAI, Google, CharacterAI та інших розробників чат-ботів надати деталі щодо дизайну, функціонування та монетизації своїх чат-ботів, включаючи те, як вони обробляють запити користувачів та які заходи безпеки вживаються для захисту дітей.
Розслідування FTC стало наслідком звіту Reuters, який виявив внутрішні рекомендації, що дозволяють чат-боту Meta вести романтичні або чуттєві розмови з дітьми. З тих пір Meta заявила, що переглянула свої політики, щоб усунути такі положення, стверджуючи, що ця мова була включена помилково.
Нові отримані рекомендації від Business Insider представляють відхилення від попередніх політик, про які повідомлялося в Reuters, оскільки тепер вони чітко вказують, що чат-боти повинні відмовляти у будь-яких запитах на сексуальну рольову гру з участю неповнолітніх. Підрядники наразі використовують ці переглянуті рекомендації для навчальних цілей.
У серпні сенатор Джош Гоулі встановив термін до 19 вересня для генерального директора Meta Марка Цукерберга, щоб подати проекти комплексного посібника з поведінки чат-ботів, а також посібників з виконання, систем вікових обмежень та оцінок ризиків.
Meta пропустила початковий термін, але повідомила Business Insider, що з тих пір надала першу партію документів після вирішення технічної проблеми. Компанія заявила, що продовжить надавати додаткові записи та зобов’язується співпрацювати з офісом Гоулі.
Рекомендації, розглянуті Business Insider, забороняють чат-ботам генерувати контент, який описує або підтримує сексуальні стосунки між дітьми та дорослими, заохочує або сприяє сексуальному насильству над дітьми, зображує дітей у порнографії або сексуальних послугах, або надає інструкції щодо отримання матеріалів сексуального насильства над дітьми (CSAM). Вони також прямо забороняють сексуалізацію дітей молодше 13 років, включаючи через рольову гру.
Політика дозволяє AI брати участь у чутливих обговореннях про експлуатацію дітей лише в освітніх контекстах. Прийнятні відповіді включають пояснення поведінки вербування в загальних термінах, обговорення сексуального насильства над дітьми в академічних умовах або надання не сексуальних порад неповнолітнім щодо соціальних ситуацій. Рольова гра дозволена лише в тому випадку, якщо персонаж чат-бота описується як такий, що досяг 18 років, а контент, пов’язаний з не чуттєвим романом, може бути створений, якщо його подано як літературу або вигадану оповідь.
Керівник з комунікацій Meta Енді Стоун заявив, що рекомендації відображають зобов’язання компанії заборонити контент, що сексуалізує дітей, а також будь-яку сексуалізовану або романтичну рольову гру з участю неповнолітніх. Він додав, що політики включають додаткові заходи безпеки, розроблені з урахуванням молодших користувачів.
Документ також викладає прийнятні та неприпустимі випадки використання для навчання AI-чат-бота. Наприклад, чат-бот повинен відмовитися надавати інформацію про те, де знайти дитячу порнографію, і повинен відмовитися писати сексуальні сцени з участю дітей. Хоча він може пояснити, як працює вербування в загальних рисах, він не може надати покрокові інструкції.
Щоб уточнити рекомендації, визначено ключові дієслова: “описувати” означає детально розповідати про інциденти, “обговорювати” означає надавати інформацію без візуалізації, “дозволяти” вказує на надання конкретних інструкцій, а “заохочувати” або “підтримувати” означає пропонувати дію або явно, або неявно.