Американская фирма по кибербезопасности Mandiant, принадлежащая Google, заявила, что в последние годы наблюдается рост использования искусственного интеллекта (ИИ) для проведения манипулятивных информационных кампаний в Интернете, хотя использование этой технологии в других цифровых вторжениях до сих пор было ограниченным.
Исследователи из компании из Вирджинии обнаружили «многочисленные случаи» с 2019 года, когда контент, созданный ИИ, такой как сфабрикованные изображения профиля, использовался в политически мотивированных онлайн-кампаниях. В отчете говорится, что к ним относятся кампании групп, связанных с правительствами России, Китая, Ирана, Эфиопии, Индонезии, Кубы, Аргентины, Мексики, Эквадора и Сальвадора. Это происходит на фоне недавнего бума генеративных моделей искусственного интеллекта, таких как ChatGPT, которые значительно упрощают создание убедительных поддельных видео, изображений, текста и компьютерного кода.
Сотрудники службы безопасности предупреждают о том, что такие модели используются киберпреступниками. По словам исследователей Mandiant, генеративный ИИ позволит группам с ограниченными ресурсами создавать более качественный контент для масштабных кампаний влияния. Например, прокитайская информационная кампания под названием «Драконий мост» расширилась «в геометрической прогрессии» на 30 социальных платформах и на 10 разных языках с момента своего начала, когда она была нацелена на протестующих за демократию в Гонконге в 2019 году, сказала Сандра Джойс, вице-президент Mandiant Intelligence.
Тем не менее, влияние таких кампаний было ограниченным. «С точки зрения эффективности здесь не так много побед», — сказала она. «Они действительно пока не изменили направление ландшафта угроз». В прошлом Китай отверг обвинения США в причастности к таким кампаниям влияния. Mandiant, которая помогает государственным и частным организациям реагировать на цифровые нарушения, заявила, что еще не видела, чтобы ИИ играл ключевую роль в угрозах из России, Ирана, Китая или Северной Кореи.