В среду на саммите ФБР по киберугрозам, прошедшим в Атланте, высокопоставленные представители агентства заявили, что они особенно обеспокоены угрозами, связанными с быстрым развитием искусственного интеллекта, особенно со стороны Китая.
Кристофер Рэй, директор ФБР, и Брайан Ворндран, заместитель директора по кибернетической безопасности, отметили, что киберугрозы для США исходят со всего мира, однако Китай является самым крупным противником как по объёму, так и по способности злонамеренного использования данных, частично благодаря внедрению операций на основе искусственного интеллекта.
Рэй охарактеризовал Китай как угрозу, “не имеющую аналогов среди иностранных противников”. С его слов, страна имеет настолько крупную хакерскую программу, что она спокойно обходит “все другие крупные страны вместе взятые”. Рэй также сказал, что огромный объём персональных и корпоративных данных, похищенных Китаем, в сочетании с мощью искусственного интеллекта, предвещает большие неприятности.
“Мы считаем, что искусственный интеллект в будущем позволит злоумышленникам разрабатывать всё более мощные, сложные, настраиваемые и масштабируемые угрозы – и им не потребуется много времени для этого”, – заявил Рэй. Также директор ФБР отметил, что те огромные массивы данных, которые Китай похищал на протяжении многих лет, идеально подходят для загрузки в модели машинного обучения.
Китай, по словам ФБР, теперь в состоянии замкнуть цикл – использовать плоды своих широкомасштабных взломов для того, чтобы с помощью искусственного интеллекта осуществлять ещё более мощные хакерские атаки.
Ворндран также описал ряд атак с применением злонамеренного машинного обучения, которые направлены на самые разнообразные данные и системы. “ФБР чрезмерно сосредоточено на такого рода атаках и, в частности, на том, что может, и в действительности пойдёт не так”.
Пока что “высокотехнологичные атаки с применением злонамеренного машинного обучения, такие как отравление данных, в основном встречаются лишь в научной литературе, а не в реальных атаках”, – добавил Ворндран. Но, по его словам, “по мере того, как публичный и частный сектора будут всё больше применять искусственный интеллект, поверхность атак с применением враждебного машинного обучения будет соответственно увеличиваться, как и потенциальные физические и экономические издержки успешной атаки”.
Подход ФБР к искусственному интеллекту и машинному обучению “проактивный”, сказал Ворндран, поскольку агентство “проактивно выравнивает ресурсы для взаимодействия с разведывательным сообществом и партнёрами из частного сектора, чтобы лучше понимать технологию и её последствия”.
Озабоченность тем, как искусственный интеллект может быстро увеличить проблемы безопасности для США, также разделяют и в Белом доме. Ведущие технологические компании в области искусственного интеллекта недавно даже подписали добровольные обязательства о том, что они будут отдавать приоритет безопасности и защите данных при разработке своих технологий.