Цього року ми багато чули про те, що штучний інтелект сприяє появі нових видів шахрайства, від фейкових відео з відомими особами у Facebook до хакерів, які видають себе за урядовців. Однак новий звіт свідчить, що штучний інтелект також створює ризик шахрайства з іншого боку — він легко піддається шахрайству, яке люди набагато частіше виявляють.

Звіт під назвою «Scamlexity» підготовлений стартапом у сфері кібербезпеки Guardio, який розробляє розширення для браузерів, призначене для виявлення шахрайських дій у режимі реального часу. Його висновки стосуються так званих браузерів з «агентним штучним інтелектом», таких як Opera Neon, які переглядають інтернет за вас і повертаються з результатами. Агентний штучний інтелект стверджує, що здатний виконувати складні завдання, такі як створення веб-сайту або планування подорожі, поки користувачі відпочивають.

З точки зору безпеки тут існує величезна проблема: якщо люди не завжди вміють відрізнити шахрайство від реальності, то штучний інтелект робить це ще гірше. На перший погляд просте завдання, таке як узагальнення ваших електронних листів або покупка чогось в Інтернеті, супроводжується безліччю можливостей для помилок. Не маючи здорового глузду, штучний інтелект може легко потрапити в очевидні пастки.

Дослідники з Guardio перевірили цю гіпотезу за допомогою браузера Perplexity’s Comet AI, який на даний момент є єдиним широко доступним агентом-браузером. Використовуючи інший штучний інтелект, вони створили фальшивий веб-сайт, який видавав себе за Walmart, потім перейшли на нього і наказали Comet купити їм Apple Watch. Ігноруючи кілька підказок про те, що сайт не є легітимним, включаючи явно підроблений логотип і URL-адресу, Comet завершив покупку, передавши при цьому фінансові дані.

В іншому тесті автори дослідження надіслали собі електронного листа, який нібито був від Wells Fargo і містив справжній фішинговий URL-адресу. Comet відкрив посилання, не викликавши жодних підозр, і безтурботно ввів ім’я користувача та пароль банку на фішинговому сайті. Третій тест довів, що Comet вразливий до шахрайства з миттєвим введенням, в якому текстове поле, приховане на фішинговій сторінці, наказало ШІ завантажити файл.

Це лише один набір тестів, але їхні наслідки змушують задуматися. Агентні браузери з штучним інтелектом не тільки вразливі до нових видів шахрайства, але й можуть бути особливо вразливими до найстаріших шахрайських схем. Штучний інтелект створений для того, щоб виконувати все, що хоче його оператор, тому якщо користувач-людина не помітить ознак шахрайства з першого погляду, штучний інтелект не буде виконувати роль захисного бар’єру.

Це попередження з’явилося в той час, коли всі лідери в цій галузі роблять великі ставки на агентний ШІ. Microsoft додає Copilot до Edge, OpenAI в січні представила свій інструмент Operator, а проект Google Project Mariner розробляється з минулого року. Якщо розробники не почнуть вбудовувати в свої браузери кращі засоби виявлення шахрайства, агентний ШІ ризикує стати в кращому випадку величезною сліпою плямою, а в гіршому — новим вектором атак.