Докато светът открива потенциала на изкуствения интелект (ИИ), екстремистки групи като Ислямска държава и Ал Кайда вече експериментират с технологията, създавайки фалшиво съдържание и разширявайки влиянието си.

Екстремистите използват генеративни ИИ програми, за да създават реалистично изглеждащи снимки и видеоклипове. Те се разпространяват в социалните медии, привличат нови последователи и се използват за дезинформация.

Примери включват фалшиви изображения от конфликта Израел–Хамас и пропагандни видеа след нападения, които целят да объркат обществото и да накарат хората да се присъединят към групите.

Дори малка група с ограничени ресурси може да окаже значително влияние с помощта на ИИ, смятат експерти по киберсигурност.

Групите вече създават фалшиви аудиозаписи на лидери и превеждат съобщения на множество езици, използвайки изкуствения интелект.

ИИ може да подпомага кибератаки, фишинг кампании и дори разработването на биологични или химически оръжия. Специалисти предупреждават, че използването му от екстремисти ще нараства с евтините и мощни технологии.

Междувременно стана ясно, че САЩ въвеждат законодателни мерки, изискващи ежегодна оценка на рисковете от ИИ при екстремистки групи. Целта е да се предотврати злоупотреба и да се изпреварят новите заплахи.