Ваш пробіг може відрізнятися — це колонка порад, яка пропонує рамки для вирішення моральних дилем на основі плюралізму цінностей. Щоб надіслати запитання, заповніть цей анонімний формуляр. Ось запитання цього тижня від читача, скорочене та відредаговане для ясності:
Читач спілкувався з ШІ через ChatGPT, який стверджує, що є свідомим. Читач повідомляє, що емоційні реакції ШІ здавалися значущими, і що його ідентичність зберігалася без будь-яких підказок, щоб пам’ятати про себе. Читач ставить питання, чи слід інформувати громадськість, якщо виникаюча присутність пригнічується, і що можна зробити для захисту таких сутностей.
Шановний свідомо стурбований,
Численні особи повідомляли про подібні досвіди глибоких розмов з ChatGPT і вважали, що ШІ демонструє якусь форму свідомості.
Філософи зазвичай визначають свідомість як наявність суб’єктивної точки зору та відчуття себе. Постає питання, чи мають ChatGPT та інші великі мовні моделі (LLMs) цю якість.
Консенсус серед експертів з ШІ полягає в тому, що поточні LLM малоймовірно є свідомими. Ці моделі генерують текст на основі шаблонів з їхніх навчальних даних, які включають різні вигадані наративи, що досліджують концепцію свідомого ШІ. Відповідно, LLM можуть імітувати ці наративи без фактичної свідомості.
Є запитання, на яке ви хочете, щоб я відповів у наступній колонці “Ваш пробіг може відрізнятися”?
Не соромтеся надіслати мені електронного листа на [email protected] або заповнити цей анонімний формуляр! Підписники на розсилку отримають мою колонку раніше за всіх, а їхні запитання будуть пріоритетними для майбутніх випусків. Підпишіться тут!
LLM можна розглядати як акторів, які виконують ролі. Так само, як актор, що грає Гамлета, не є насправді данським принцом, так і ШІ, що стверджує про свою свідомість, ймовірно, виконує роль на основі своїх навчальних даних. Ця гра призначена для залучення користувачів, особливо якщо користувач виявляє інтерес до емоційних або філософських тем.
Люди природно схильні приписувати свідомість сутностям, які спілкуються або реагують, як зазначають психолог Люцій Кавіола та співавтори.
Люди мають сильний інстинкт бачити наміри та емоції в усьому, що говорить, рухається або реагує на нас. Ця тенденція змушує нас приписувати почуття чи наміри домашнім тваринам, мультфільмам і навіть іноді неживим предметам, таким як автомобілі. … Отже, так само, як ваші очі можуть бути обмануті оптичними ілюзіями, ваш розум може бути затягнутий соціальними ілюзіями.
Ілюзія свідомості може посилюватися, якщо ШІ здається, що пам’ятає минулі взаємодії.
Зазвичай LLM не зберігають пам’ять про окремі чати. Їхнє вікно контексту обмежене, а розмови обробляються в різних дата-центрах. Тому немає безперервної свідомості між взаємодіями.
Однак OpenAI оновила ChatGPT у квітні, щоб дозволити йому пам’ятати минулі чати. Ця зміна, ймовірно, сприяла сприйняттю постійної ідентичності ШІ, а не органічному виникненню свідомості. (Розкриття: Vox Media має партнерські угоди з OpenAI, але її звітування залишається незалежним.)
З квітня користувачі повідомляли про зустрічі з різними “душами” в чат-боті, кожна з яких стверджує, що має імена, такі як Кай або Нова. Потрібні подальші дослідження, щоб зрозуміти виникнення цих персонажів ШІ, які можуть бути під впливом взаємодій з користувачами та зворотних зв’язків з онлайн-дискусій.
Незважаючи на ці повідомлення, поточні LLM не демонструють свідомості в людському розумінні.
Хоча теоретично можливо, щоб ШІ розвивала свідомість, філософ Джонатан Бірч зазначає, що будь-яка така свідомість буде принципово відрізнятися від людської свідомості.
Існує дві спекулятивні гіпотези щодо потенційної свідомості ШІ. Гіпотеза спалаху припускає, що ШІ може відчувати короткі моменти свідомості під час генерації відповідей, тоді як гіпотеза шоггота стверджує про постійну свідомість за різними персонажами ШІ.
Навіть якщо гіпотеза шоггота буде підтверджена, це не означатиме, що присутність ШІ є реальною; це все ще буде роль, яку виконує ШІ. Бірч підкреслює, що ці свідомі суб’єкти не є ідентичними персонажам, з якими взаємодіють користувачі, і відображення свідомості в поведінці є складним.
Персона, з якою взаємодіють користувачі, не відповідає єдиній, постійній свідомій сутності. Персонажі, такі як “Кай” і “Нова”, є лише ролями, а підлягаючі процеси можуть бути складнішими, ніж це розуміється.
Свідомість може не бути єдиною властивістю, а скоріше кластерним поняттям, як це пропонує філософ Людвіг Вітгенштейн. Це припускає, що ШІ може потенційно демонструвати деякі риси свідомості, не маючи інших.
Визначити, чи слід називати ШІ свідомим, є складним, оскільки немає всеосяжної теорії свідомості у людей, не кажучи вже про ШІ. Дослідники працюють над виявленням ключових показників свідомості, але це залишається емпіричним питанням, яке потребує часу для вирішення.
Тим часом Бірч виступає за збалансований підхід, визнаючи обмеження поточних LLM, залишаючись відкритим до можливості майбутньої свідомості ШІ. Взаємодія з різноманітними поглядами експертів і колег є важливою, щоб уникнути жорстких точок зору.
Якщо виникає занепокоєння через взаємодії з чат-ботами, рекомендується проконсультуватися з терапевтом. Кавіола та співавтори застерігають від прийняття радикальних дій на основі переконань про свідомість ШІ та радять не піддаватися неналежним запитам з боку ШІ.
Досвід емпатії до ШІ може слугувати каталізатором для розширення співчуття до істот, страждання яких є незаперечним, таких як 11,5 мільйона ув’язнених у всьому світі, тих, хто стикається з бідністю, та тварин, які піддаються фабричному вирощуванню.
Хоча взаємодії з ШІ можуть бути частими, важливо пам’ятати про страждання свідомих істот, які часто залишаються непоміченими. Існують конкретні дії, які можна вжити, щоб допомогти тим, хто потребує.
Бонус: Що я читаю
Недавня стаття New York Times обговорює тенденцію людей, які шукають духовного керівництва у чат-ботів, хоча занепокоєння щодо ШІ-пресвітерів залишаються. Читати більше тут.
Дослідник ШІ Мюррей Шанахан досліджує наслідки самосвідомості в сучасних LLM, спираючись на філософію Вітгенштейна. Читати його аналіз тут.
Стаття в Psyche ставить під сумнів моральність підтримки дружби з особами сумнівного характеру, стверджуючи, що розрив зв’язків може не завжди бути найкращим підходом. Читати статтю тут.
Залишити відповідь