В недрах Пентагона идут испытания перспективных, но неоднозначных технологий искусственного интеллекта. Цель – адаптировать возможности нейронных сетей для нужд армии США.
Согласно данным компании DefenseScoop, министерство обороны заключило контракт со специализирующимся на ИИ стартапом Scale AI. Его задача – создать инструменты для тестирования и оценки работы мощных языковых моделей, способных к анализу и генерации текста.
Речь идет о комплексной платформе, которая позволит Пентагону глубоко и всесторонне изучить возможности нейросетей. Она будет выдавать обратную связь для военных, а также генерировать специальные тестовые данные для проверки ИИ на конкретных задачах. К примеру, для анализа разведданных, планирования операций, обработки отчетов с горячих точек.
Как считает Крейг Мартелл , специалист по делам ИИ в Пентагоне, нейронные сети могут радикально ускорить обработку поступающей развединформации и принятие стратегических решений:
“Представьте, что вместо получения новых сведений в виде громоздких презентаций PowerPoint или долгого ожидания отчетов по электронной почте из разных подразделений, командующие смогут сразу видеть актуальную обстановку для принятия решений, сократив время реакции с одного-двух дней до 10 минут”
Однако главное препятствие – склонность ИИ к генерации ложных материалов, так называемым “галлюцинациям”. Пентагон надеется, что инструменты от Scale AI помогут выявлять и предотвращать подобные угрозы заранее.
В прошлом году для изучения военного использования генеративного ИИ была создана группа Task Force Lima под руководством Мартелла. Но пока в ряде подразделений, включая Космические силы, запрещено применение систем типа ChatGPT из-за риска утечек секретной информации.
“Мы обязаны внедрять эти технологии ответственно, учитывая угрозы безопасности и потенциальное злоупотребления”, – резюмировал Мартелл.
Так Пентагон ищет баланс между колоссальным потенциалом нейронных сетей для армии и таящимися в них опасностями. И от того, насколько успешными окажутся текущие испытания, зависит, насколько быстро генеративный ИИ сможет пройти путь от лабораторий к реальным боевым операциям.