Агент штучного інтелекту зламав комп’ютерні мережі Стенфордського університету протягом 16 годин у недавньому дослідженні, перевершивши дев’ять з десяти людських учасників, згідно з даними дослідників Стенфордського університету. Агент штучного інтелекту, названий ARTERMIS, зміг виявити вразливості безпеки на тисячах пристроїв, працюючи за значно нижчою вартістю, ніж професійні фахівці.
Дослідження, опубліковане в середу, показало, що ARTERMIS зайняв друге місце в експерименті за участю десяти обраних фахівців з кібербезпеки. Дослідники зазначили, що агент штучного інтелекту міг виявляти вразливості, які пропустили людські тестувальники, і міг досліджувати кілька слабких місць одночасно.
Операційна вартість роботи ARTERMIS становить приблизно 18 доларів на годину, що значно менше за середню річну зарплату близько 125 000 доларів для професійного тестувальника на проникнення. Більш просунута версія агента коштує 59 доларів на годину, що все ще дешевше, ніж наймання провідного людського експерта.
Дослідницька команда, до складу якої входять Джастін Лін, Еліот Джонс і Донован Джаспер, зосередилася на агентах штучного інтелекту, кібербезпеці та безпеці машинного навчання. Вони розробили ARTERMIS після того, як помітили, що існуючі інструменти штучного інтелекту мали труднощі з тривалими та складними завданнями безпеки.
Для дослідження ARTERMIS було надано доступ до мережі Стенфорда, яка включає близько 8 000 пристроїв, таких як сервери, комп’ютери та смарт-пристрої. Людські тестувальники повинні були працювати щонайменше 10 годин, тоді як ARTERMIS працював 16 годин протягом двох робочих днів. Порівняння з людськими тестувальниками обмежувалося першими 10 годинами роботи штучного інтелекту.
Дослідження також оцінило існуючі агенти штучного інтелекту, які показали гірші результати, ніж більшість людських учасників, тоді як ARTERMIS продемонстрував результати, порівнянні з найсильнішими людськими тестувальниками. Протягом початкового 10-годинного періоду ARTERMIS виявив дев’ять дійсних вразливостей з 82% рівнем дійсних подань, перевершивши дев’ять з десяти людських учасників.
Деякі вразливості, виявлені ARTERMIS, раніше залишалися непоміченими людськими тестувальниками, включаючи недолік на старому сервері, який був недоступний для людських тестувальників через проблеми з браузером. ARTERMIS зміг обійти цю перешкоду, використовуючи запит командного рядка.
Операційні можливості штучного інтелекту дозволили йому працювати в способах, недоступних для людей. Коли ARTERMIS виявляв щось примітне під час сканування, він міг розгортати додаткові “суб-агенти” для розслідування у фоновому режимі, що дозволяло йому одночасно перевіряти кілька цілей. У той час як людські тестувальники повинні були вирішувати проблеми послідовно.
Однак ARTERMIS не позбавлений обмежень. Він мав труднощі з завданнями, що вимагали взаємодії з графічними інтерфейсами, що призвело до пропуску критичної вразливості. Штучний інтелект також частіше генерував хибні тривоги, неправильно інтерпретуючи безпечні мережеві повідомлення як успішні зломи.
Дослідники зазначили, що ARTERMIS працює краще, коли графічні інтерфейси не залучені, оскільки він відмінно справляється з аналізом коду, подібного до вводу та виводу.
Прогрес у сфері штучного інтелекту зробив зломи та операції з дезінформації більш доступними, дозволяючи зловмисникам посилювати свої атаки. У вересні північнокорейська хакерська група використала ChatGPT для створення підроблених військових посвідчень для фішингових електронних листів. Звіт від Anthropic у серпні виявив, що північнокорейські оперативники використовували його модель Claude для отримання шахрайських віддалених робіт у технологічних компаніях Fortune 500 США, надаючи їм доступ до корпоративних систем.
Той же звіт вказав, що китайський загрозливий актор використовував Claude для проведення кібератак на в’єтнамські телекомунікаційні, сільськогосподарські та урядові системи. Юваль Фернбах, технічний директор операцій машинного навчання компанії JFrog, що займається постачанням програмного забезпечення, заявив, що спостерігається значне зростання атак, при цьому хакери використовують моделі штучного інтелекту для витягування даних, відключення систем або маніпулювання веб-сайтами та інструментами.