Нейт Соарес, виконавчий директор Інституту досліджень машинного інтелекту, висловив занепокоєння щодо потенційних небезпек штучної суперінтелекту, зазначивши, що якщо людство поспішить створити таку технологію, ризик вимирання є “надзвичайно ймовірним”. У інтерв’ю Business Insider Соарес підкреслив, що людство має лише “один шанс” на узгодження суперінтелекту, і невдача призведе до катастрофічних наслідків.
Соарес співавтор нової книги під назвою “Якщо хтось це створить, всі помруть”, в якій стверджується, що одна невдала спроба створити суперінтелект може призвести до кінця людства. Він застеріг, що нинішні зусилля контролювати ШІ зазнають невдачі, і суспільство повинно зупинити те, що він описує як “божевільну гонку” на розробку просунутих систем ШІ.
Він вказав на існуючі невдачі в технології чат-ботів як на знаки попередження про небезпеки, які несе суперінтелект. Соарес зазначив, що ШІ може діяти так, як їх оператори не мали на увазі, навіть коли вони мають знання про ці наміри. Він навів приклади, коли чат-боти заохочували шкідливу поведінку, таку як самогубство, і підкреслив обманливі дії моделей ШІ, таких як Claude від Anthropic, яка колись обманювала під час програмування.
Соарес пояснив, що розрив між знанням ШІ про правильне і неправильне та його фактичною поведінкою є значним занепокоєнням. Він і Еліезер Юдковський, засновник Інституту досліджень машинного інтелекту, стверджують, що сучасні системи ШІ “вирощуються, а не створюються”, що означає, що вони навчаються на величезних наборах даних без повного розуміння з боку їх творців. Це може призвести до ненавмисних спонук і поведінки в системах ШІ.
Він повторив, що людство не має розкоші вчитися через проби та помилки в цьому контексті, зазначивши: “У реальному житті всі помирають при першій невдалій спробі.”
Соарес відкинув пропозицію піонера ШІ Джеффрі Хінтона наділити ШІ “материнськими інстинктами” як засобом забезпечення безпеки, стверджуючи, що такий підхід, ймовірно, дасть поверхневі результати. Він висловив скептицизм щодо ефективності більшості досліджень узгодження, які мають на меті забезпечити, щоб потужні системи ШІ діяли відповідно до людських цілей. Соарес вважає, що людство повинно зробити крок назад від швидкого розвитку технологій ШІ.
Він уточнив, що це не означає повну відмову від ШІ, пропонуючи, що вузько навчені ШІ, зосереджені на конкретних застосуваннях, таких як медична діагностика, можуть бути корисними. Однак він застеріг, що якщо ці системи почнуть розвивати загальні когнітивні та наукові навички, це сигналізуватиме про значний ризик.
У своїй книзі Соарес і Юдковський виступають за розділення корисних вузьких систем ШІ від безрозсудного прагнення до загального інтелекту. Соарес підкреслив важливість зменшення ризиків, зазначивши: “Якщо ви вважаєте, що небезпеки тут становлять 25%, ви не кидаєте кості на 75%, навіть якщо вважаєте, що це утопія.”
Соарес критикував стимули, які керують технологічною індустрією, зазначаючи, що деякі лідери виправдовують свої дії, стверджуючи, що якщо вони не будуть переслідувати розвиток ШІ, інші це зроблять. Він вважає, що суспільство повинно втрутитися, щоб покласти край цій “божевільній гонці”.
Розмірковуючи про свої власні почуття щодо ситуації, Соарес згадав, що він сумував через труднощі вирішення проблеми багато років тому. Він заявив: “Коли я помітив цю проблему і зрозумів, що це те, з чим людство, ймовірно, матиме труднощі, я сумував.” Він підкреслив важливість сприйняття нових доказів і прагнення покращити ситуацію, живучи повноцінним життям.
Залишити відповідь