23 февраля 2021 года перед комитетом Сената США по вооруженным силам выступил председатель Комиссии национальной безопасности по искусственному интеллекту (NSCAI) и Совета по оборонным инновациям (DIB) доктор Эрик Шмидт (бывший председатель совета директоров Google).
Он остановился на проблемах, которые имеют исключительно важное значение и для развития научно – технологического потенциала России.
Глобальное технологическое лидерство и национальная безопасность
Укрепление глобального лидерства США в области технологий является по Шмидту императивом как экономики, так и национальной безопасности. Инновации — это основа экономики и источник военного преимущества США.
Шмидт убежден, что американский национальный кризис, с которым нужно бороться прямо сейчас — это угроза китайского лидерства в ключевых технологических областях. Он согласен с тезисом Байдена в Мюнхенском выступлении (2021 года): Соединённые Штаты находятся в «долгосрочном стратегическом соревновании с Китаем».
Китай, по оценкам Шмидта, стремится к технологическому лидерству за счет стратегических инвестиций в широкий спектр важнейших технологических областей, в том числе в рамках инициативы Made in China 2025.
Искусственный Интеллект (ИИ) является стержнем этой широкой технологической конкуренции. Он будет использоваться для развития всех аспектов национального могущества - от здравоохранения до производства продуктов питания и экологической устойчивости. Успешное внедрение ИИ в смежных областях и технологиях будет стимулировать экономику, формировать общества и определять, какие государства будут оказывать влияние и обладать властью в мире.
Во многих странах есть национальные стратегии ИИ. Но только США и Китай, по мнению Шмидта, обладают ресурсами, коммерческой мощью, кадровым резервом и инновационной экосистемой, чтобы стать мировым лидером в области ИИ. В некоторых областях исследований Китай находится вровень с США, а в некоторых он уже более продвинут. В течение следующего десятилетия Китай может превзойти Соединенные Штаты как мировую сверхдержаву в области ИИ в целом.
Помимо ИИ, Китай стремится стать мировым лидером в области квантовых вычислений, сетей пятого поколения (5G), синтетической биотехнологии, а также в некоторых других. Пекин рассматривает свои национальные стратегии в этих областях как взаимодополняющие и взаимоусиливающие. КПК ясно дала понять, какие технологии она считает высшими национальными приоритетами. В каждой из этих областей Китай стремится соответствовать или превзойти работу американских учёных.
По мнению Шмидта, если Китай возьмет на себя инициативу, преимущества первопроходца в разработке и внедрении новых технологий, то это затруднит США возможность наверстать упущенное. В критически важных секторах с сильными сетевыми эффектами, таких как телекоммуникации, принцип «победитель получает все» повышает ставки быстрого развития ведущих технологических платформ.
Шмидт призвал правительство США разработать единую стратегию для продвижения и защиты технологий, которая будет поддерживать национальную конкурентоспособность в середине XXI века.
Подход Белого дома к национальной конкурентоспособности в критических технологиях
Согласно выводам Шмидта, Соединенным Штатам нужен комплексный подход к федеральным инвестициям и политике в целом в отношении ряда новых технологий. Комплексная национальная стратегия должна устанавливать и укреплять приоритеты и согласовывать бюджетные компромиссы. Стратегией должен руководить Белый дом.
Шмидт поддержал рекомендацию Комиссии по искусственному интеллекту о создании нового Совета по конкурентоспособности технологий под руководством Белого дома. Оно должно проходить под руководством вице-президента и под контролем старшего координатора Белого дома, чтобы гарантировать, что у президента будет организация, способная к разработке, реализации и финансированию реальной национальной технологической стратегии.
Национальная стратегия, по мнению Шмидта, должна быть сосредоточена на фундаментальных технологиях, оказывающих широкое влияние на национальную конкурентоспособность и безопасность. В короткий список приоритетов следует включить искусственный интеллект, 5G, микроэлектронику, биотехнологии и квантовые вычисления. Важность этих областей широко признана. В приоритетный список также должны быть включены передовое производство (которое охватывает как производство, так и сельское хозяйство), а также инфраструктура, дополненная машинным интеллектом (все, от дорог до мостов, от трубопроводов до электрических сетей).
Передовое производство, согласно доктрине Шмидта, необходимо для того, чтобы страна могла производить товары, в которых она нуждается, в условиях нарушений в цепочках поставок в результате стихийных бедствий, эпидемий и т. д. Это позволит совершить большой шаг вперед за счет повышения эффективности и оптимизации энергопотребления при одновременном сокращении истощающихся запасов товаров.
«Способность производить высокотехнологичные товары внутри страны имеет решающее значение для национальной безопасности, как аспект поддержания доступа к готовой продукции, так и как движущая сила инноваций. Соединённые Штаты должны стремиться к самообеспечению в тех отраслях, которые имеют решающее значение для национальной безопасности или которые требуют слишком много времени для восстановления в случае затяжного конфликта».
Новая инфраструктура имеет важное значение для ликвидации последствий чрезвычайных ситуаций (Шмидт ссылается на замороженные поставки газа в Техасе или изменчивые лесные пожары в Калифорнии), позволяет выбирать между различными видами логистики (поезда или грузовики против трубопроводов), а также сокращать вредное воздействие на окружающую среду.
Имеющаяся инфраструктура Соединенных Штатов остается в значительной степени не работающей: ни один город США не входит в десятку лучших в мире по подключенности умных городов, и только один входит в топ-30.
Более агрессивная роль правительства
Сегодня, по мнению Шмидта, существует фундаментальная разница в подходах к инновациям между США и Китаем.
В Америке технологические фирмы не являются инструментами государственной власти и лишь соревнуются за долю на рынке. Большинство технологических достижений в Соединенных Штатах обеспечивается частным сектором и университетами.
Шмидт полагает, что США не должны терять культуру инноваций, восходящую снизу вверх и пронизанную менталитетом “гаражных стартапов”. Однако Шмидт - реалист, он полагает, что сохранение прошлого не является выигрышной стратегией: «Нельзя ожидать, что крупные технологические компании будут конкурировать с ресурсами Китая или делать крупные общенациональные инвестиции, которые потребуются Соединенным Штатам, чтобы быть впереди. Нам понадобится гибридный подход, который более тесно увяжет усилия правительства и частного сектора для достижения победы».
Частный сектор, по мнению Шмидта, - великая сила Америки. Небольшие частные компании развиваются быстрее и захватывают большую долю глобального рынка, чем это может сделать правительство. Однако, он полагает, что, учитывая меняющийся ландшафт, правительство США должно принять практические меры к повышению конкурентоспособности национальных технологий. Поощрение разнообразной и устойчивой экосистемы исследований и разработок (НИОКР) и содействие коммерческому сектору является обязанностью правительства. Расширение кадровых ресурсов, более быстрое реформирование иммиграционных и визовых органов для привлечения лучших мировых специалистов и улучшения системы образования — все это варианты государственной политики. Защита критически важной интеллектуальной собственности и предотвращение систематической кампании незаконной передачи знаний, проводимой конкурентами, является обязанностью правительства. Защита передовых технологий и повышение устойчивости цепочек поставок требует законодательства и федеральных стимулов.
Демократизация исследований искусственного интеллекта: национальный исследовательский ресурс
Лишь у нескольких крупных компаний и могущественных государств будут ресурсы, чтобы сделать самые большие прорывы в области ИИ. Несмотря на распространение инструментов с открытым исходным кодом, потребности в вычислительных мощностях и массивах данных для улучшения алгоритмов стремительно растут. «Правительство должно облегчить доступ к вычислительным средам, данным и средствам тестирования, чтобы предоставить исследователям, не выходящим в круг ведущих игроков отрасли и элитных университетов, возможность добиваться прогресса в передовых технологиях искусственного интеллекта.
Правительство США может сделать это, создав Национальный исследовательский ресурс ИИ (NAIRR), который предоставит проверенным исследователям и студентам гарантированный доступ к вычислительным ресурсам, совместимым с ИИ правительственными и негосударственными наборами данных, образовательным инструментам и поддержке пользователей.
Правительством США должно быть создано государственно-частное партнёрство с использованием комплекса облачных платформ (Комиссия по искусственному интеллекту Шмидта разработала подробные планы по реализации этой рекомендации)».
Цифровая инфраструктура: развитие 5G сетей
Шмидт считает, что содействие быстрому созданию сетевой инфраструктуры 5G является императивом национальной безопасности США. От этого будет зависеть будущая военная готовность и развитие конкурентоспособных американских технологических компаний любого размера. Более того, как показала пандемия, сильная цифровая инфраструктура повышает устойчивость к системным потрясениям, позволяя американцам получать доступ к телемедицине, дистанционному образованию и другим услугам, в которых они нуждаются во время кризиса.
Сети 5G станут связующим звеном между всеми передовыми мобильными системами и, в частности, в сочетании с достижениями в области ИИ, откроют новые глубокие технологические возможности непосредственно для пользовательских устройств.
Китай также рассматривает создание цифровой инфраструктуры как стратегический приоритет и вложил значительные средства в общенациональную сеть мобильной связи Gigabit Ethernet, и в ближайшем будущем он создаст ее. В Соединенных Штатах, по мнению Шмидта, развитие сети 5G продвигается медленно, обеспечивая лишь постепенное увеличение скорости передачи данных и покрытия.
В этой связи Шмидт выдвигает три идеи.
Во-первых, необходимо реинвестировать выручку от аукциона за использование С-спектра в сетевую инфраструктуру. Шмидт предлагает изучить направления использования 81 млрд долларов дохода, полученного от аукциона С-спектра (аукцион 107 лицензий на услуги 3,7 ГГц - среднечастотного спектра для услуг 5G), проводимого Федеральной комиссии по связи (FCC), и любых будущих аукционов и перенаправить деньги на финансирование сетевой инфраструктуры с механизмом распределения, предназначенным для ускорения его развитие со стороны частного сектора.
Во-вторых, следует изучить совместное использование средств, полученных от аукциона С-спектра и других альтернативных аукционов. Например, Шмидт предложил модель, в которой Министерство обороны сохраняет контроль над спектром, но позволяет промышленности делиться им в обмен на то, что промышленность быстро и за свой счет построит необходимую инфраструктуру. Шмидт разъясняет, что это не «национализированный 5G», как утверждают некоторые критики. Это будет построенная, управляемая и обслуживаемая частным сектором сеть, в которой приоритет отдается использованию Министерством обороны. В любом случае, Шмидт считает, что Министерство обороны следует приветствовать за поиск инновационных решений этой насущной проблемы.
В-третьих, должны быть изменены условия аукциона. США, по мнению Шмидта, не может просто дожидаться появления 6G или 7G: «Сейчас конкурентное преимущество, вероятно, потеряно навсегда. Я считаю это неприемлемым риском для национальной безопасности. Мы должны изменить условия аукциона. Для любых будущих аукционов, особенно в диапазоне C-спектра, который идеально подходит для 5G, FCC должна наложить строгие требования к победителям аукционов, чтобы обеспечить быстрое и справедливое построение необходимой сетевой инфраструктуры».
Уязвимости оборудования: микроэлектроника
Вывод Шмидта: после десятилетий лидерства в области микроэлектроники Соединённые Штаты теперь почти полностью зависят от зарубежных компаний по производству передовых полупроводников, которые обеспечивают работу всех алгоритмов ИИ, критически важных для систем обороны и всего остального.
Зависимость от импорта полупроводников, особенно из Тайваня, создает стратегическую уязвимость от неблагоприятных действий иностранного правительства, стихийных бедствий и других событий, которые могут нарушить цепочки поставок микроэлектроники, как мы недавно видели на примере автомобильной промышленности. Хотя американские университеты и фирмы остаются мировыми лидерами в ключевых областях исследований и разработок в области полупроводников и проектирования микросхем, мировая полупроводниковая промышленность в настоящее время сильно глобализирована и конкурентоспособна. Например, тайваньская корпорация по производству полупроводников (TSMC) является мировым лидером в контрактном производстве полупроводников, а южнокорейская компания Samsung производит самые современные чипы, используя новейшие технологии и оборудование.
В то же время, стремясь наверстать упущенное и достичь самодостаточности микросхем, Китай прилагает беспрецедентные, финансируемые государством, усилия по созданию к 2030 году ведущей в мире полупроводниковой отрасли.
Шмидт делает вывод о том, что Соединенным Штатам следует разработать стратегию, позволяющей опережать Китай как минимум на два поколения в области современной микроэлектроники, а также выделять средства для поддержания различных источников производства передовой микроэлектроники в Соединенных Штатах.
Шмидт дал несколько рекомендаций:
(1) исполнительная власть должна доработать и реализовать национальную стратегию лидерства в области микроэлектроники;
(2) Конгресс должен предложить 40% возмещаемую налоговую скидку на инвестиции в производство внутри страны для фирм из Соединенных Штатов и их союзников;
(3) Конгресс должен выделить дополнительно 12 млрд долларов в течение следующих пяти лет на исследования, разработки и построение инфраструктуры в области микроэлектроники для ключевых областей. Эти инвестиции должны помочь ускорить переход от идей и университетских прототипов к промышленному производству внутри страны.
Эти усилия позволят правительству США, частному сектору и академическим кругам справиться с задачей восстановления превосходства США в области полупроводников: «Сосредоточение наших усилий на развитии отечественных предприятий по производству микроэлектроники уменьшит зависимость от импорта, сохранит лидерство в технологических инновациях, поддержит создание рабочих мест, улучшит национальную безопасность и торговый баланс, а также повысит технологическое превосходство и готовность вооруженных сил - важного потребителя передовых технологий».
Последствия конкуренции новых технологий для обороны
Многие государственные и негосударственные субъекты, по мнению Шмидта, полны решимости бросить вызов Соединённым Штатам, но избегают прямой военной конфронтации. Они будут использовать ИИ для модернизации существующих инструментов и разработки новых. «Злоумышленники используют нашу цифровую открытость для информационных операций с использованием ИИ и кибератак. Используя шпионаж и общедоступные данные, злоумышленники будут собирать информацию и использовать ИИ для выявления уязвимостей у отдельных лиц, в обществе и критической инфраструктуре».
При более узком подходе к военным вопросам ключевые технологические области имеют важное значение и широкий спектр применения в оборонной сфере. По сути, источники преимущества на поле боя сместятся с традиционных факторов, таких как численность сил и уровень вооружения, на такие факторы, как быстрый сбор и усвоение данных, вычислительная мощность, лучшие алгоритмы и безопасность системы.
Шмидт делает вывод, что защита от противника с искусственным интеллектом без использования ИИ — это приглашение к катастрофе. ИИ сократит временные рамки принятия решений с минут до секунд, расширит масштаб атак и потребует ответов, которые находятся за пределами человеческого познания. Люди-операторы не смогут защищаться от кибератак или дезинформационных атак с использованием ИИ, роя дронов или ракетных атак без помощи машин с ИИ. Лучший человек-оператор не может защитить себя от множества машин, совершающих тысячи маневров в секунду, потенциально движущихся с гиперзвуковой скоростью и управляемых ИИ. Люди не могут быть везде одновременно, а программы могут.
Пентагон разрабатывает множество операционных концепций для ведения этих будущих войн. Но Шмидта беспокоит то, что при нынешних темпах интеграции технологий Министерство не сможет выполнить их вовремя. Чтобы сражаться так, как военные намереваются воевать в 2030 или 2035 году, Министерству обороны необходимо подготовить основы задолго до этого.
Коммерческая модель
Министерству обороны необходимо пересмотреть свою работу. «Мы должны создавать ракеты также, как сейчас строим автомобили: использовать дизайн-бюро для разработки и моделирования с помощью программного обеспечения» – говорит Шмидт, - Длительные циклы проектирования убивают нашу конкурентоспособность. Быстрый итеративный (выполнение работ параллельно с непрерывным анализом полученных результатов – Е.Л, В.О.) дизайн и производственные циклы - ключ к конкурентоспособности. Министерство обороны должно нацеливаться на военные системы, выпуск которых может быть ускорен с помощью новых компаний по разработке дизайна, цифровой кооперации, а также изменения правил закупок, учитывающих все это».
Конкретные меры, которые Министерство обороны США должно предпринять прямо сейчас (советы Э.Шмидта Пентагону)
1. Интегрируйте существующие цифровые технологии прямо сейчас
Многие из новых технологий, необходимых военным, уже доступны на коммерческом рынке. Закупите их. Это создаст рыночные стимулы для производства все большего и большего количества полезных оборонных технологий:
● Сделайте приоритетными существующие технологии, которые могут расширить интеллектуальные функции с применением ИИ. Существуют значительные возможности для более эффективного использования коммерчески доступных технологий в целях улучшения ситуационной осведомленности, а также индикации и предупреждения. Автоматизация и объединение усилий людей и машин могут повысить эффективность ряда ISR (Разведка, наблюдение и предоставление информации) платформ и улучшить полный цикл сбора и анализа информации.
Министерству следует согласовать свои инновационные инициативы для реализации скоординированной стратегии коммерческих технологических решений. Эту работу должен возглавлять заместитель министра обороны по исследованиям и разработкам.
● Создайте группы разработки и развертывания ИИ в каждом боевом командовании. Группы разработки ИИ должны быть встроены в каждое боевое командование и должны быть способны поддерживать полный жизненный цикл разработки и развертывания ИИ, включая анализ данных, разработку, тестирование и производство. Команды должны иметь возможность прямого развертывания, чтобы действовать как локальный интерфейс с оперативными подразделениями.
2. Улучшение цифровой инфраструктуры Министерства
Министерство обороны сделало первый многообещающий шаг в 2020 году, выпустив Стратегию обработки данных (DoD Data Strategy, U.S. Department of Defense (Sept. 30, 2020). Однако Министерству не хватает современной цифровой экосистемы, инструментов и сред для совместной работы, а также широкого доступа к общим ресурсам ИИ, необходимым для интеграции ИИ в организации.
Министр обороны должен руководить созданием цифровой экосистемы в масштабах Министерства обороны. Необходимо, чтобы все новые служебные программы соответствовали конструкции существующей
экосистемы, и чтобы там, где это возможно, существующие программы стали совместимы с ней к 2025 году.
Эта техническая база должна:
1) обеспечивать доступ к ведущим облачным технологиям и услугам для масштабируемых вычислений;
2) обеспечить совместное использование данных, программного обеспечения и возможностей через хорошо документированные и надежные интерфейсы с надлежащим контролем доступа;
3) предоставить всем разработчикам и ученым Министерства обороны доступ к инструментам и ресурсам, которые им необходимы для реализации новых возможностей ИИ.
К концу 2021 года Министерство должно определить архитектуру экосистемы. Целью должно быть создание защищенной системной сети с открытыми стандартами, которая поддерживает интеграцию приложений ИИ на оперативных уровнях и между доменами. Она должна быть доступна для всех военных служб и включать несколько элементов, в том числе сети командования и управления; передачу, хранение и безопасную обработку данных; интеграцию систем вооружения.
3. Реформирование структуры руководства
Лидерство - критическая переменная. Для внедрения инноваций требуются организационные изменения, а не только технические возможности. Высокопоставленные военные и должностные лица должны установить четкие приоритеты и направления, а также учитывать более высокую неопределенность и большие риски при освоении новых технологий.
В частности, Министерство обороны должно:
● Создать Руководящий комитет высокого уровня по новейшим технологиям под председательством заместителя министра обороны, заместителя председателя Объединенного комитета начальников штабов и первого заместителя директора национальной разведки.
4. Создание новых потоков талантов
Не существует мыслимой программы, пилотного проекта, стажировки или направления для технических талантов, которые могли бы закрыть дефицит талантов Министерства обороны, и такая же проблема существует во всех органах национальной безопасности.
Сейчас не время добавлять новые должности в отделах и органах национальной безопасности для технологов Кремниевой долины.
Необходимо с нуля построить совершенно новые конвейеры талантов. Мы должны создать новую Академию цифровых услуг и гражданский национальный резерв, чтобы выращивать технические таланты с той же серьезностью, что и офицеров. Цифровой век требует цифрового корпуса.
Эксперты в области технологий нуждаются в более эффективных способах выстраивания карьеры в правительстве с упором на свои знания. Современные методы управления талантами часто предлагают экспертам должности, не связанные с их областью знаний. В результате многие уходят из правительства или из армии. Министерство обороны должно создавать предпосылки построения карьеры гражданских лиц и военных в области разработки программного обеспечения, обработки данных и искусственного интеллекта.
Образование руководителей и старших командиров также очень важно. Лидеры, не разбирающиеся в новых технологиях, с меньшей вероятностью будут заниматься программами, связанными с ними. Они не смогут включать новые технологии в операционные концепции или организационные процессы.
Министерству обороны также необходимо интегрировать вычислительное мышление и основы использования ИИ в обучение младших командиров. Сержантам и младшим офицерам необходим базовый уровень знаний для ответственного использования новых возможностей. Министерству обороны необходимо интегрировать цифровые навыки и вычислительное мышление в начальную подготовку офицеров. При этом необходимо сосредоточиться на сборе и управлении данными, жизненном цикле ИИ, вероятностных процессах и визуализации данных, а также на принятии решений на основе данных.
5. Инвестирование в науку и технологии, а также согласование инвестиции со стратегией
Министерству обороны США следует взять на себя обязательство расходовать не менее 3,4% своего бюджета на науку и технологии с акцентом на новые и прорывные технологии. Это будет значительным увеличением по сравнению с нынешним уровнем в 2,3% и будет следовать давним рекомендациям Министерства обороны, Совета по науке и других организаций, о которых говорится в готовящемся отчете NSCAI. В частности, в отношении ИИ Министерство должно увеличить расходы на НИОКР примерно с 1,5 млрд долларов до не менее 8 млрд долларов к 2025 году.
Чтобы согласовать инвестиции со стратегией, Министерство обороны должно подготовить Приложение по технологиям в следующем документе Стратегии национальной обороны. В этом приложении приоритетное внимание будет уделяться инвестициям в технологии и их развитию по отношению к военным возможностям, необходимым для реализации будущих оперативных концепций. И это будет четко обозначать, какие технологии являются приоритетными для Министерства.
6. Реформирование устаревшего бюджетного процесса Министерства обороны США
Проблема Министерства обороны - не в инновациях, а в их внедрении. Устаревший процесс бюджетирования индустриальной эпохи создает долину смерти для новых технологий, разрешая финансирование фундаментальных исследований, а также закупку систем вооружения, но предотвращая гибкие инвестиции, необходимые для создания прототипов, экспериментов с новыми концепциями и технологиями, такими как ИИ.
Конгрессу и Министерству обороны необходимо работать вместе, чтобы немедленно санкционировать и финансировать проекты, а также подготовить почву для более радикальной реформы.
7. Обеспечение ответственной разработки, тестирования и использования автономных систем с поддержкой ИИ
Если система на базе искусственного интеллекта не работает так, как задумано, предсказуемо и не руководствуется четкими принципами, операторы не будут ее использовать, военные службы не примут ее, и американский народ не поддержит ее. Спешка в интеграции ИИ будет контрпродуктивной, если из-за этого сотрудники утратят уверенность в его преимуществах. Все военные системы требуют тщательного тестирования, гарантий и понимания того, как они могут работать в реальном мире, в отличие от испытательного стенда. Автономные системы оружия с поддержкой ИИ могли бы быть более точными и, как следствие, сократить жертвы среди гражданского населения. Но они также поднимают важные этические вопросы о роли человеческого суждения в применении смертоносной силы. Если они неправильно спроектированы или используются, они могут увеличить риск военной эскалации.
Потребуется совершенно новый подход к тестированию, оценке, валидации и верификации (TEVV). Министерство обороны должно адаптировать и разработать политики и возможности TEVV с учетом изменений, необходимых для ИИ, по мере роста количества, масштабов и сложности систем с поддержкой ИИ. Это должно включать создание структуры и культуры TEVV, которые ведут непрерывное тестирование; сделать инструменты и возможности TEVV более доступными для Министерств обороны; обновлять или создавать виртуальные и конструктивные тестовые диапазоны для систем с ИИ; реструктурировать процессы, лежащие в основе требований к системному проектированию, разработке и тестированию.
***
Доктрина Шмидта заслуживает того, чтобы быть внимательно изученной российскими структурами, ответственными за обеспечение национальной безопасности.
Елена Ларина, Владимир Овчинский
