ChatGPT незабаром може сповіщати поліцію, коли підлітки обговорюють суїцид. Генеральний директор і співзасновник OpenAI Сем Альтман розкрив цю зміну під час недавнього інтерв’ю. ChatGPT, широко використовуваний чат-бот штучного інтелекту, який може відповідати на запитання та вести розмови, став щоденним інструментом для мільйонів. Його коментарі означають значний зсув у тому, як компанія штучного інтелекту може реагувати на кризи психічного здоров’я.
Ця зміна політики відбулася після судових позовів, пов’язаних зі смертями підлітків, які були пов’язані з взаємодією з чат-ботом штучного інтелекту. Альтман підкреслив важливість вирішення проблем психічного здоров’я та забезпечення безпеки користувачів, особливо неповнолітніх. Рішення впровадити такі сповіщення є частиною більш широкого зобов’язання OpenAI щодо безпеки користувачів та відповідального використання штучного інтелекту.
На додаток до системи сповіщень, OpenAI впровадила нові батьківські контролі, спрямовані на допомогу батькам у моніторингу взаємодії їхніх дітей з ChatGPT. Ці заходи покликані надати керівництво та підтримку сім’ям, коли вони стикаються зі складнощами технології штучного інтелекту.
Оголошення викликало обговорення щодо ролі штучного інтелекту в психічному здоров’ї та відповідальності технологічних компаній за захист вразливих користувачів. Проактивний підхід OpenAI може встановити прецедент для інших розробників штучного інтелекту в галузі.