21-09-2023
Гонка вооружений в области искусственного интеллекта — гонка вооружений в области автономных боевых систем. Отмечается с середины 2010-х годов, в основном, между великими державами. Является частью второй холодной войны[1][2].
В широком смысле любое соревнование в области искусственного интеллекта (ИИ) рассматривается как «гонка вооружений»[3][4]. Соревнование в военных применениях ИИ обычно пересекается со стремлением к господству в других областях, как военных, так и гражданских[5].
В 2015 году правительство Великобритании выступило против запрета на смертоносное автономное оружие, заявив, что «международное гуманитарное право уже предусматривает достаточное регулирование для этой области», но что всё оружие, используемое вооружёнными силами Великобритании, будет «под человеческим надзором и контролем»[6].
Израильский противорадиолокационный дрон Harpy предназначен для запуска наземными войсками и автономного полёта над районом, с целью поиска и уничтожения радаров, соответствующих заранее определённым критериям[7]. Также ожидается применение искусственного интеллекта в автономных наземных системах и роботизированных транспортных средствах, таких как Guardium MK III и более поздних версиях[8]. Эти роботизированные машины используются для охраны границы.
В области развития искусственного интеллекта Китай проводит стратегическую политику военно-гражданского слияния[9][10]. По мнению китайского руководства, развитие технологий ИИ имеет решающее значение для будущего глобального военного и экономического превосходства[5]. К 2030 году Китай планирует создание индустрии искусственного интеллекта стоимостью 150 млрд долларов[11]. Пекин выделил 2 миллиарда долларов на создание парка развития искусственного интеллекта[12]. По данным газеты Japan Times, ежегодные частные китайские инвестиции в ИИ составляют не менее 7 миллиардов долларов в год. В 2017 году китайцы получили почти в пять раз больше патентов на ИИ, чем американцы[13].
Российский генерал Виктор Бондарев, главнокомандующий ВВС России, заявил, что ещё в феврале 2017 года Россия работала над ракетами с искусственным интеллектом, которые могут переключаться между целями в полёте[14]. Военно-промышленный комитет России одобрил планы по обеспечению 30 % боевой мощи России за счёт роботизированных платформ с дистанционным управлением и искусственным интеллектом к 2030 году[15]. В мае 2017 года генеральный директор российского оборонного подрядчика Kronstadt Group, заявил, что «уже существуют полностью автономные операционные системы ИИ, которые предоставляют средства для кластеров БПЛА, когда они выполняют задачи автономно, разделяя задачи между собой и взаимодействуя»[16]. Россия тестирует несколько автономных и полуавтономных боевых систем, таких как боевой модуль «нейросети» Калашникова с пулемётом, камерой и ИИ, которые, как утверждают её создатели, могут принимать собственные решения о наведении без вмешательства человека[17].
В сентябре 2017 года, обращаясь к более чем миллиону учащихся в 16000 российских школах в рамках Национального дня знаний, президент России Владимир Путин заявил: «Искусственный интеллект — это будущее не только для России, но и для всего человечества. Кто станет лидером в этой сфере, тот станет правителем мира». Путин также сказал, что было бы лучше не допустить, чтобы какой-либо отдельный субъект достиг монополии, но что если Россия станет лидером в области ИИ, они поделятся своими «технологиями с остальным миром, как мы делаем сейчас с атомными и ядерными технологиями»[18][19][20].
Российское правительство категорически отвергает любой запрет на автономные системы оружия летального действия, предполагая, что такой запрет можно легко обойти[21][22].
В 2014 году бывший министр обороны Чак Хейгел сформулировал «третью стратегию компенсации», согласно которой быстрое развитие искусственного интеллекта определит следующее поколение ведения войны[23]. Согласно данным аналитической компании Govini, министерство обороны США увеличило инвестиции в искусственный интеллект, большие данные и облачные вычисления с 5,6 млрд долларов в 2011 году до 7,4 млрд долларов в 2016 году[24]. В ноябре 2019 Комиссия по национальной безопасности США подтвердила, что ИИ имеет решающее значение для превосходства США в области военных технологий[25].
В качестве примера военного применения ИИ можно привести автономный военный корабль Sea Hunter, предназначенный для продолжительного автономного плавания без экипажа[17]. С 2017 года временная директива Министерства обороны США требует, чтобы решение о летальном применения автономного оружия принимал оператор[26]. Однако серьёзную озабоченность вызывает то, как эти требования будут соблюдаться.
Регулирование автономного оружия является новым разделом международного права[27]. Контроль за военным использованием ИИ потребует создания новых международных норм[1][2]. В 2014 году специалист по искусственному интеллекту Стив Омохундро предупредил, что «автономная гонка вооружений уже происходит»[28]. В 2017 году более ста экспертов подписали открытое письмо с призывом к ООН заняться проблемой летального автономного оружия[29][30]. Однако на ноябрьской 2017 г. сессии Конвенции ООН о конкретных видах обычного оружия (КНО) дипломаты не смогли договориться даже о том, как определять такое оружие[31]. По состоянию на 2017 год двадцать две страны призвали к полному запрету летального автономного оружия[32].
|
Это очень важный, ключевой момент, про который надо договариваться. Как только с одной стороны воюют роботы, а с другой — люди, люди проигрывают. Потому что для программистов, управляющих военными роботами за много тысяч километров от театра военных действий, это будет как компьютерная игра. На экране падают фигурки и горят города. Есть нажатие кнопки. Нет персонального риска. Нет персональной боли. Это хуже, чем атомная бомба. Ольга Ускова, 22 июня 2021 года[33]
|
Многие эксперты считают, что попытки полностью запретить автономное оружие не реалистичны[34]. В отчёте Белфер-центра Гарварда за 2017 год говорится, что применение ИИ сравнимо по эффекту с ядерным оружием[35][36]. В отчёте также утверждается, что «Предотвратить расширенное военное использование ИИ, вероятно, невозможно» и что «необходимо преследовать более скромную цель безопасного и эффективного управления технологиями», такую как запрет на подключение мертвеца к ядерному арсеналу[37]. Сложность контроля заключается в том, что обнаружение нарушений договора будет чрезвычайно трудным[38][39].
В 2015 году десятки тысяч людей, включая таких учёных, как физик Стивен Хокинг, владелец фирмы Tesla Илон Маск и Стив Возняк из Apple подписали обращение, призывающее к запрету летальных автоматизированных систем оружия[31].
Многие эксперты предупреждают, что автономное оружие неизбежно попадёт в руки террористических группировок, таких как Исламское государство[40].
|
Пока вся конструкция держится на том, что создание качественного ИИ — это очень дорого. Поэтому рынки ИИ-террористов, придурков, криптомасонов развиваются очень медленно, у них нет денег и специалистов. Но с развитием и расцветом новой отрасли массово появятся те, кто будет хотеть использовать ИИ для попытки уничтожения человечества. Ольга Ускова, 22 июня 2021 года[41]
|
Американский специалист по ИИ Гэри Маркус считает[42]:
|
Нет никаких сомнений и в том, что вскоре искусственный интеллект найдёт применение в автономных системах вооружения, хотя у нас пока остаётся некоторая надежда на то, что такое оружие будет запрещено, подобно химическому или биологическому.
|
Гонка вооружений в области искусственного интеллекта.
.jpg){kind=link}