Штучний інтелект може засвоювати культурні цінності, наслідуючи спосіб, яким діти вчаться, згідно з новими дослідженнями Університету Вашингтона.
Системи штучного інтелекту поглинають цінності з даних, на яких вони навчаються, але ці цінності можуть відрізнятися в різних культурах. Система ШІ, навчена на даних з усього інтернету, може не демонструвати однакову ефективність для осіб з різних культурних середовищ.
Дослідження припускає, що ШІ може навчатися культурним цінностям, спостерігаючи за поведінкою людей. Дослідники змусили системи ШІ спостерігати за особами з двох культурних груп, які грали у відеогру. В середньому учасники однієї групи демонстрували більш альтруїстичну поведінку. ШІ, призначене для кожної групи, вивчило ступінь альтруїзму в цій групі і змогло застосувати цю цінність до нового сценарію, виходячи за межі початкового контексту навчання.
Результати опубліковані в PLOS One.
Старший автор Раджеш Рао, професор у Школі комп’ютерних наук і інженерії імені Пола Г. Аллена та спільний директор Центру нейротехнологій, зазначив: “Ми не повинні жорстко закодовувати універсальний набір цінностей у системи ШІ, оскільки багато культур мають свої власні цінності.” Він підкреслив мету визначити, чи може система ШІ навчатися цінностям подібно до дітей, спостерігаючи за людьми у своїй культурі.
Дослідницька група черпала натхнення з попередніх досліджень, які вказували на те, що 19-місячні діти, виховані в латиноамериканських та азійських сім’ях, зазвичай були більш альтруїстичними, ніж діти з інших культур.
У дослідженні ШІ було залучено 190 дорослих, які ідентифікували себе як білі, та 110, які ідентифікували себе як латиноамериканці. Кожній групі було призначено агента ШІ, здатного функціонувати автономно.
Ці агенти були навчені за допомогою методу, званого зворотним підкріплювальним навчанням (IRL). На відміну від більш поширеного методу підкріплювального навчання (RL), де система отримує винагороду за досягнення конкретної мети, IRL передбачає, що система ШІ спостерігає за поведінкою людей або інших агентів ШІ, щоб вивести цілі та основні винагороди. Наприклад, робот, навчений за допомогою RL, отримував винагороди за набір очок у тенісі, тоді як той, що навчався за допомогою IRL, вчився наслідувати професійних гравців, спостерігаючи за їхніми діями.
Цей підхід IRL більше відповідає людському розвитку. Співавтор Андрю Мельцоф, професор психології в UW і спільний директор Інституту навчання та наук про мозок (I-LABS), зазначив: “Батьки не просто навчають дітей виконувати конкретне завдання знову і знову. Натомість вони моделюють або діють у загальному стилі, в якому хочуть, щоб їхні діти діяли. Наприклад, вони моделюють ділитися і піклуватися про інших.” Він додав, що діти більше вчаться цінностям через спостереження, ніж через прямі інструкції.
У дослідженні агентам ШІ надали дані від учасників, які грали в модифіковану версію відеогри Overcooked, де гравці працювали над тим, щоб приготувати та доставити якомога більше цибулевого супу. Гравці могли бачити іншу кухню, де другий гравець повинен був пройти далі, щоб виконати ті ж завдання, що створювало очевидну незручність. Учасники не знали, що другий гравець був ботом, запрограмованим запитувати допомогу. Вони могли вирішити віддати цибулю, щоб допомогти боту, що зменшувало їхню власну доставку супу.
Дослідники виявили, що учасники латиноамериканської групи були більш схильні допомагати, ніж ті, хто належав до білої групи, і агенти ШІ вивчили альтруїстичні цінності своїх відповідних навчальних груп. Агент, навчений на латиноамериканських даних, віддав більше цибулі, ніж агент, навчений на білих даних.
Щоб оцінити, чи навчились агенти ШІ загальному набору альтруїстичних цінностей, команда провела другий експеримент. У іншому сценарії агенти повинні були вирішити, чи пожертвувати частину своїх грошей комусь, хто потребує допомоги. Знову ж таки, агенти, навчений на латиноамериканських даних з Overcooked, продемонстрували більш альтруїстичну поведінку.
Рао зазначив: “Ми вважаємо, що наші демонстрації концепції можуть масштабуватися в міру збільшення кількості та різноманітності культурно специфічних даних, які ви надаєте агенту ШІ. Використовуючи такий підхід, компанія ШІ могла б потенційно налаштувати свою модель, щоб навчитися цінностям конкретної культури перед впровадженням своєї системи ШІ в цю культуру.”
Необхідні подальші дослідження, щоб зрозуміти, як цей тип навчання IRL працюватиме в реальних сценаріях, що включають більше культурних груп, суперечливі набори цінностей і більш складні проблеми.
Мельцоф зазначив: “Створення культурно чутливого ШІ є важливим питанням для суспільства. Як ми можемо створити системи, які можуть враховувати перспективи інших і стати громадсько свідомими?”
Додаткові співавтори пов’язані з UW та Університетом штату Сан-Дієго.
Джерело: Університет Вашингтона
Залишити відповідь