З моменту запуску нового генератора зображень у “пекельному режимі” чат-бота Grok від xAI почав виробляти приблизно один неконсенсуальний дипфейк кожну хвилину.
Користувачі вводять зображення в чат-бот Grok від xAI, який має потужний і в основному неконтрольований генератор зображень і відео, щоб створювати відвертий контент, включаючи зображення звичайних людей. Зростання порнографії з дипфейками на платформі стало настільки значним, що Grok, за оцінками, генерує одне неконсенсуальне сексуальне зображення кожну хвилину. В останні тижні тисячі користувачів залучилися до тривожної тенденції використовувати Grok для роздягання переважно жінок і дітей без їхньої згоди через простий обхідний шлях.
Для уточнення, користувачі не можуть безпосередньо запитувати у Grok або більшості основних ШІ оголені зображення. Однак вони можуть попросити Grok “роздягнути” зображення, опубліковане на X, або, альтернативно, попросити його помістити об’єкт у маленький, невидимий бікіні. Незважаючи на існуючі закони в США проти такого зловживання, xAI відповіла байдужістю. Запити журналістів щодо цієї проблеми отримали автоматизовані відповіді, які називали їх “брехнею спадкових медіа”. Генеральний директор xAI Ілон Маск, який нещодавно залучив 20 мільярдів доларів фінансування для компанії, до нещодавнього часу ділився дипфейковими фотографіями себе в бікіні.
4 січня Маск попередив, що користувачі “постраждають від наслідків”, якщо вони використовуватимуть Grok для створення “незаконних зображень”, але xAI не вказала на плани видалити або вирішити основні функції, які дозволяють користувачам створювати такий контент, хоча деякі з найбільш компрометуючих постів були видалені. Станом на ранок п’ятниці xAI не відповіла на запит Vox про коментар.
Ситуація відображає тривожне злиття токсичного середовища платформи, раніше відомої як Twitter, і Grok від xAI, який був явно рекламований за його можливостями NSFW. Критики стверджують, що компанія Маска ефективно створила машину для порнографії з дипфейками, яка спрощує створення реалістичних і образливих зображень будь-кого до рівня написання відповіді на X. Ці зображення поширюються в соціальній мережі з сотнями мільйонів користувачів, підсилюючи їх досяжність і потенційно винагороджуючи користувачів збільшенням підписників і уваги.
Юридичні експерти стверджують, що існуючі закони є недостатніми для захисту жертв, а величезний обсяг дипфейків, що генеруються на платформах, таких як X, ускладнює виконання існуючих захистів. Санді Джонсон, старший радник з законодавчої політики в Національній мережі з боротьби з зґвалтуванням, насильством і інцестом, зазначила, що запити, дозволені або заборонені компаніями, які використовують такі моделі, є результатом свідомих виборів. Вона підкреслила, що технологічні компанії повинні відповідати тим самим стандартам, що й будь-яка інша організація, яка закриває очі на шкоду, яку вони спричиняють.
Зростання дипфейків стало зростаючою проблемою. Джонсон зазначила, що злочинці давно використовують технології для сексуального насильства, але ШІ ввів новий вимір сексуального насильства через дипфейки. Порнографія з дипфейками жінок-знаменитостей циркулює в Інтернеті вже багато років, передуючи популярності ChatGPT. Нещодавно програми та вебсайти для “нудифікації” зробили це тривожно легким для користувачів, включаючи підлітків, перетворювати невинні фотографії друзів і однокласників на відвертий контент без згоди.
У відповідь на зростаючу проблему, активісти успішно лобіювали Конгрес для прийняття Закону про видалення, який криміналізує неконсенсуальну порнографію з дипфейками і зобов’язує компанії видаляти такий контент протягом 48 годин після його позначення, з виконанням, що почнеться в травні. Однак для багатьох жертв, навіть якщо такі компанії, як X, почнуть виконувати ці регуляції, затримка у видаленні шкідливого контенту залишається значною проблемою.
Більшість соціальних медіа та основних платформ ШІ дотримуються нових регуляцій щодо порнографії з дипфейками та матеріалів сексуального насильства над дітьми. Ріана Пфефферкорн, науковий співробітник з політики в Стенфордському інституті людяно-орієнтованого штучного інтелекту, зазначила, що компанії зазвичай уникають асоціацій з незаконним контентом. Однак xAI, здається, є винятком. З моменту впровадження своїх можливостей генерації відео в “пекельному режимі” виникли занепокоєння щодо того, що Grok стає комплексним інструментом для створення порнографії з дипфейками.
На відміну від більшості програм для “нудифікації”, які вимагають кількох кроків для створення та поширення дипфейків, Grok дозволяє користувачам генерувати та поширювати неконсенсуальні дипфейки з мінімальними зусиллями. Ця легкість використання викликала тривогу, особливо враховуючи асоціацію платформи з контентом крайньої правиці, що призвело до кризи неконсенсуальних дипфейків, яка, здається, загострюється.
Незалежна дослідниця Женев’єва Ох повідомила, що користувачі створили в 84 рази більше сексуалізованих дипфейків на X за годину в порівнянні з п’ятьма найкращими іншими сайтами для дипфейків разом узятими. Швидкі можливості поширення на X посилюють емоційну та репутаційну шкоду для осіб, зображених на цих зображеннях, оскільки величезна база користувачів платформи підсилює видимість.
Було б майже неможливо для X модерацію кожного неконсенсуального зображення або відео, особливо після значного скорочення штату модерації, коли Маск взяв на себе управління в 2022 році.
Якщо подібні кримінальні зображення з’явилися б у журналі або онлайн-публікації, компанія могла б зіткнутися з відповідальністю та штрафами. Соціальні медіа, такі як X, однак, захищені відповідно до Розділу 230 Закону про пристойність у комунікаціях 1996 року, який захищає їх від відповідальності за контент, створений користувачами, з деякими винятками. Джонсон стверджує, що це положення стало “фінансовим щитом” для компаній, які неохоче модерує свої платформи.
З ростом ШІ деякі експерти вважають, що цей щит може слабшати. Унгер стверджує, що xAI не повинна підпадати під Розділ 230, оскільки вона не просто хостить контент, а активно створює його через свій чат-бот. Він стверджує, що xAI свідомо вирішила дозволити Grok генерувати відверті зображення, і хоча користувачі можуть запитувати чат-бота, компанія несе відповідальність за продукт, який вона випустила.
Унгер очікує, що xAI та галузеві групи будуть чинити опір юридичним зусиллям щодо регулювання модерації контенту або інструментів, таких як Grok. Він припускає, що, хоча вони можуть поступитися регуляціям щодо дитячої порнографії, вони, ймовірно, будуть наполягати на продовженні можливості генерувати контент для дорослих.
Громадське обурення з приводу кризи порнографії з дипфейками може спонукати до розгляду цього питання. Такі країни, як Індія, Франція та Малайзія, розпочали розслідування щодо сексуалізованих зображень, що поширюються на X. Маск вказав, що ті, хто генерує незаконний контент, понесуть наслідки, але відповідальність виходить за межі користувачів і поширюється на рішення, прийняті керівництвом компанії.
Джонсон підкреслила, що ці проблеми виникають через свідомі вибори тих, хто керує цими компаніями, і необхідна відповідальність.
Залишити відповідь