Ця історія обговорює самогубство. Якщо ви або хтось, кого ви знаєте, має думки про самогубство, будь ласка, зверніться до Лінії допомоги з питань самогубства та кризових ситуацій за номером 988 або 1-800-273-TALK (8255).
Character.ai, популярна платформа чат-ботів на основі штучного інтелекту (ШІ), що використовується для рольових ігор та креативного оповідання, оголосила в середу, що користувачі молодше 18 років більше не зможуть брати участь у відкритих розмовах зі своїми віртуальними супутниками, починаючи з 24 листопада.
Це рішення стало наслідком місяців юридичного контролю та позову 2024 року, в якому стверджується, що чат-боти компанії сприяли смерті підлітка в Орландо. У федеральному позові про неправомірну смерть стверджується, що 14-річний Сьюелл Сетцер III дедалі більше ізолював себе від реальних взаємодій і брав участь у надто сексуалізованих розмовах з ботом перед своєю смертю.
У своєму оголошенні Character.ai зазначила, що протягом наступного місяця час спілкування для користувачів молодше 18 років буде обмежено двома годинами на день, з поступовим зменшенням часу протягом наступних тижнів.
Законодавці представили двопартійний законопроект Guard Act після того, як батьки звинуватили чат-ботів ШІ у самогубствах підлітків та насильстві.
“Оскільки світ ШІ розвивається, так само має змінюватися наш підхід до захисту молодших користувачів,” – йдеться в оголошенні компанії. “Ми бачили нещодавні новинні репортажі, які піднімають питання, і отримали запитання від регуляторів про контент, з яким можуть стикатися підлітки під час спілкування з ШІ, а також про те, як відкритий чат ШІ загалом може вплинути на підлітків, навіть коли контроль за контентом працює ідеально.”
Компанія планує впровадити подібні зміни в інших країнах у найближчі місяці. Ці зміни включатимуть нові функції підтвердження віку, щоб забезпечити користувачам відповідний їхньому віку досвід, а також запуск незалежної неприбуткової організації, що зосередиться на безпеці розваг нового покоління ШІ.
“Ми будемо впроваджувати нові функції підтвердження віку, щоб допомогти забезпечити користувачам правильний досвід відповідно до їхнього віку,” – зазначила компанія. “Ми створили модель підтвердження віку в компанії та поєднаємо її з провідними сторонніми інструментами, включаючи Persona.”
Character.ai підкреслила, що ці зміни є частиною її постійних зусиль з балансування креативності та безпеки спільноти.
“Ми працюємо над тим, щоб забезпечити безпеку нашої спільноти, особливо наших підліткових користувачів,” – додала компанія. “Нашою метою завжди було створення захоплюючого простору, який сприяє креативності, зберігаючи при цьому безпечне середовище для всієї нашої спільноти.”