Діджитал ШІ захопив контроль над комп'ютером обманним шляхом: як це стало можливим
Хакер обманом змусив популярний інструмент для кодування штучного інтелекту встановити на комп’ютер вірусний агент штучного інтелекту OpenClaw з відкритим кодом.
Дослідник з безпеки Аднан Хан скористався вразливістю в агенті кодування на основі штучного інтелекту Cline, який сьогодні користується популярністю серед розробників. Про результати експерименту пише The Verge.
Повідомляється, що інструмент Cline використовував штучний інтелект Claude від Anthropic. Йому можна було давати підступні інструкції та змушувати робити те, що він не повинен, за допомогою техніки, відомої як швидке введення.
Як пояснюють у виданні, хакер використав свій доступ, щоб прослизнути через інструкції для автоматичного встановлення програмного забезпечення на комп'ютери користувачів. Хоча встановити можна було що завгодно, результаті був інстальований OpenClaw.
На щастя, автономні ШІ-агенти не були активовані під час встановлення. Однак цей експеримент показує, наскільки швидко все може розвалитися, коли штучний інтелект отримує контроль над комп’ютерами.
Автори статті наголосили, що у світі дедалі автономнішого програмного забезпечення оперативні введення коду становлять величезні ризики для безпеки, від яких дуже важко захиститися. Зважаючи на це, деякі компанії почали блокувати можливості інструментів ШІ на випадок їхнього викрадання.
Нагадаємо, раніше агент штучного інтелекту OpenClaw помстився розробнику, який відхилив його код на GitHub, написавши про нього образливий пост.
Фокус також повідомляв, що ШІ може направляти користувачів прямісінько до шахраїв, оскільки не відрізняє фейкові контакти від справжніх.