Нашла коса на кремень. Google вышел из проекта по созданию ИИ для Пентагона, но игра только начинается

Совсем недавно компания Google отказалась от участия во флагманской программе по разработке искусственного интеллекта Министерства обороны США Project Maven, которая использует сложные алгоритмы для анализа видеороликов.

До этого момента проект хранился в тайне и мало кто знал, что Google вообще в нем участвует. Даже бывший председатель правления и генеральный директор Alphabet (материнской компании Google), который сейчас является членом Консультативного совета по инновациям Министерства обороны, был не в курсе. Тем более никто не представлял, что собой представляет проект. Решение Google изменило ситуацию.

"Мы полагаем, что бизнес Google не должен быть связан с войной", – призывали в апреле более 3000 сотрудников компании в письме к генеральному директору Сундару Пичаи, которое способствовало отказу от Project Maven.

С протестами в отношении правительственных контрактов сталкивается не только "корпорация добра". Растущее сопротивление Кремниевой долины работе с властями, и особенно с Пентагоном, вызывает вопросы о жизнеспособности амбициозных планов министра обороны Джеймса Маттиса по использованию новейших коммерческих технологий для военных целей. Но все указывает на то, что министерство движется к ИИ полным ходом. С Google или без нее.

"Уверен, что у нас будет доступ к талантливым людям, которые имеют сильное желание защитить Соединенные Штаты, – говорит начальник Боевого авиационного командования генерал Майк Холмс, добавляя, что ИИ является "частью будущего", а "Project Maven – один из первых шагов".

Разногласия по поводу Project Maven отражают фундаментальный разрыв между Вашингтоном и технологическим миром как раз в то время, когда Пентагон надеется значительно увеличить свои инвестиции в системы ИИ, гиперзвуковое и лазерное оружие и другие ключевые отрасли.

Сотрудники Google обеспокоены тем, что военные будут использовать ИИ для убийства людей, но нынешние и бывшие чиновники утверждают: на самом деле он послужит для спасения жизней граждан США, союзников и невинных гражданских лиц.

В чем соль?

Так что же такое Project Maven? Сегодня аналитики разведки по всему миру проводят дни, фильтруя миллионы часов видео, снятых беспилотными летательными аппаратами, пролетающими над важными областями в поиске конкретных объектов или угроз. Командующие применяют эту информацию для решения различных задач. Например, для отслеживания транспортных маршрутов ИГИЛ или изучения предполагаемых целей, дабы убедиться, что удар не приведет к жертвам среди гражданского населения.

Суть программы Project Maven, которая с момента запуска в апреле 2017-го разворачивалась минимум в пяти засекреченных локациях в Африке и на Ближнем Востоке, состоит в том, чтобы обучать компьютеры быстро перерабатывать данные наблюдения и превращать их в полезную информацию.

По словам подполковника Гэри Флойда, заместителя начальника Project Maven, это ускоряет процесс получения командованием критически важных сведений, а также освобождает операторов-людей, чтобы они могли сосредоточиться на задачах более высокого уровня.

"Поток данных увеличивается лавинообразно и, соответственно, растет разрыв между объемом информации, которую мы можем собрать, и тем количеством, которое можем обработать, – сказал Флойд. – Увеличение количества людей не решит проблему. Так что же дальше?".

В рамках Project Maven создается комплексный хаб данных, который используется для обучения сложной системы, необходимой для автономной идентификации объектов в огромном информационном потоке. И тут на сцену выходит Google, ставший одним из немногих представителей IT-сферы, которых избрали для создания, тестирования и развертывания этих систем.

Не Google единой

Но Google не единственная компания, способная справиться с задачей. Ее решение выйти из Project Maven открывает рыночные возможности для таких компаний, как Amazon, Microsoft и IBM, которые изначально заявляли о желании участвовать в нем. Или даже для новых игроков. Такого мнения придерживается преподаватель политологии и заместитель директора Perry World House в Пенсильванском Университете Майкл Горовиц.

"Думаю, в краткосрочной перспективе найдутся другие подрядчики, готовые и желающие подключиться к проекту, так что работа над Project Maven должна продолжиться", – сказал Горовиц.

И недостатка в заинтересованных сторонах нет. Пентагон уверяет, что в настоящее время программа имеет партнерские отношения со стартапами Кремниевой долины, крупнейшими мировыми компаниями в области систем ИИ, а также с высшими учебными заведениями, занимающимися исследованиями искусственного интеллекта. Основным подрядчиком является компания ECS Federal.

По мнению Горовица, в долгосрочной перспективе технологическим компаниям будет трудно устоять перед прибыльными контрактами министерства обороны, не говоря уже о возможности поработать над решением передовых задач в сфере национальной безопасности. На самом деле, новые этические принципы Google относительно ИИ оставляют компании возможность заняться военными программами, вроде Project Maven, в будущем.

Бывший чиновник администрации Обамы и партнер в калифорнийской компании Andreessen Horowitz, поддержавшей множество стартапов в области обороны, Мэтью Колфорд считает: недавние протесты не представляют "экзистенциальную угрозу" отношениям между Пентагоном и Кремниевой долиной. Полный запрет военных работ поддерживает меньшинство сотрудников Google – в компании работают десятки тысяч людей, но только 3000 из них подписали письмо.

Трудности перевода

Но у Пентагона явно есть проблемы с донесением информации.

"Зачастую не полностью понятно, для чего используются их разработки, – сказал Колфорд. – Их очень легко представить упрощенно, как оборудование, помогающее убивать женщин и детей. Ответ намного сложнее; это лишь один из инструментов в арсенале".

Генерал Холмс признает, что военные должны лучше разъяснять свои намерения Кремниевой долине и широкой общественности.

"У американцев есть ожидания относительно того, что делает их правительство, и использует ли оно технологии и инструменты для ущемления их прав", - говорит Холмс". Он надеется убедить общественность в том, что все стараются "избежать крупной войны".

Должностные лица подчеркивают, что партнерство в области ИИ с коммерческими компаниями является приоритетом национальной безопасности. Особенно в свете того, что потенциальные противники США, такие как Россия и Китай, наращивают инвестиции в этой области. Китай, в частности, выделил $150 млрд на разработки систем ИИ до 2030 года. По данным компании Govini, специализирующейся на технологиях больших данных, американское министерство обороны в 2017 финансовом году потратило на ИИ, big data и облачные технологии $7,4 млрд.

Пентагон планирует создание Объединенного центра искусственного интеллекта – официального ИИ-хаба для американских военных. Учреждение призвано помочь США сохранить конкурентное первенство в данной отрасли.

Project Maven – только начало вторжения министерства обороны в сферу ИИ. Программа уже переходит от полноценного изучения видео к другим областям. Следующим шагом минобороны будет переход на облачную систему хранения данных, что имеет решающее значение для способности министерства в полной мере использовать достижения в сфере ИИ.

Для его реализации предусмотрено несколько различных инициатив, в том числе нашумевшая программа Enterprise Defense Infrastructure. Ожидается, что заявки на участие в ней подадут Amazon, Microsoft, Oracle и другие компании. На кону стоит рассчитанный на 10 лет контракт стоимостью в $10 млрд.

По материалам Foreign Policy