Хакери вече използват изкуствен интелект (ИИ), за да откриват пропуски в сигурността, които остават невидими за традиционните системи за защита, предупреждава Google в свой нов доклад. Според компанията ИИ не само улеснява ежедневни дейности като писане на текстове и планиране, но и значително повишава способността за откриване на сложни софтуерни уязвимости.

От Групата за разузнаване на заплахи към Google съобщават, че за първи път са засекли хакери, използващи изкуствен интелект за откриване и експлоатиране на т.нар. „нулев ден“ – пропуски в сигурността, за които разработчиците все още не подозират и за които няма налични корекции.

Цел на атаката е бил популярен уеб базиран инструмент за системна администрация. Според доклада уязвимостта е позволявала заобикаляне на двуфакторното удостоверяване – защитен механизъм, на който разчитат милиони потребители. От Google уточняват, че са успели да засекат атаката преди тя да бъде използвана масово и са предупредили доставчика на софтуера.

В доклада се посочва още, че групи, свързани с Китай и Северна Корея, проявяват сериозен интерес към използването на ИИ за откриване на уязвимости.

Според Google проблемът при подобни атаки е, че става дума не за стандартни програмни грешки, а за логически слабости, скрити дълбоко в структурата на кода. Тези уязвимости трудно могат да бъдат открити от традиционните скенери за сигурност, но големите езикови модели вече показват способност да разпознават подобни противоречия.

Компанията обяснява, че ИИ системите постепенно развиват умения за контекстуално разсъждение и откриване на твърдо кодирани изключения, които изглеждат функционално правилни, но създават риск за сигурността.

Докладът предупреждава още, че китайски и севернокорейски хакери използват изкуствен интелект в индустриален мащаб за автоматизирано търсене на слабости в домашни рутери, корпоративни мрежи и други системи. Наблюдавани са и случаи, при които групи, свързани с Русия, разработват зловреден софтуер, способен динамично да се променя, за да избегне засичане.

Изкуственият интелект променя и начина, по който се извършват фишинг атаки. Вместо масови имейл кампании, нападателите вече анализират корпоративни структури и създават персонализирани фишинг съобщения, насочени към конкретни служители с достъп до чувствителна информация.