Групата за кибератаки Google Threat Intelligence Group (GTIG) публикува актуалната версия на своя AI Threat Tracker – доклад за дигитални атаки чрез изкуствен интелект. За първи път GTIG наблюдава субект на заплаха, който използва AI агент за идентифициране на уязвимости и разработване на експлойти без човешка намеса. Това откритие бележи пълна промяна в жизнения цикъл на традиционните кибератаки. Изкуственият интелект поема все по-голяма част от задачите, които преди изискваха квалифицирани оператори, като съкращава времето и усилията, необходими за превръщането на публично достъпна корекция за сигурност (пач) в опит за експлоатация.

Ключови констатации:
- GTIG откри първия пример за експлоатация без човешко участие: решение базирано на голям езиков модел (LLM) и наречена „exploit_agent“, е било конфигурирано с инструменти на руски език, за да сравнява непрекъснато кода преди и след прилагането на корекция за сигурност, да открива уязвимости и автоматично да разработва експлойти – всичко това без човешка намеса.
- Нападателите използват AI агенти с отворен код при реални прониквания: GTIG е наблюдавала субекти на заплаха, мотивирани от финансова изгода или вероятно занимаващи се с кибершпионаж, които използват инструменти за тестване за проникване (pentesting) с отворен код, базирани на AI агенти (като CAIRN, PentAGI и CyberStrikeAI), за да автоматизират отделни етапи от атаката.
- Изкуственият интелект помага на кампаниите за чуждестранно влияние да се разраснат и да изглеждат по-автентични: GTIG установи, че подкрепяни от държави групи, както и търговски доставчици на услуги от типа „влияние като услуга“ (Influence-as-a-Service), използват големи езикови модели (LLM) за изграждане на автоматизирани работни процеси, проектиране на инфраструктура и избягване на засичане. В един от случаите участници са използвали API на Gemini за създаване на платформи, предназначени за управление на над 100 000 синтетични акаунта чрез облачни „телефонни ферми“. Тези платформи включват функции, които имитират дефекти на камерите на смартфони, за да придадат по-голяма автентичност на генерираното съдържание.
- Субекти, подкрепяни от държави, използват изкуствен интелект (AI) за шпионаж и набелязване на цели: GTIG е засекла дейност на субекти, свързани с Китай, които използват големи езикови модели (LLM) за обработка на откраднати данни в разузнавателни продукти. Организацията е проследила и активност, свързана със Северна Корея, насочена към компании за криптовалути чрез използване на генерирани от AI самоличности, някои от които съдържат водни знаци SynthID, както и опити за манипулиране на конфигурацията на автономни асистенти за писане на програмен код.
В доклада също така подробно се описва как Google е открила и преустановила злоупотребите със услугите Gemini, деактивирала е свързаните с тях акаунти и е засилила защитните механизми въз основа на тези констатации.
