FCAS по своей структуре задумана как "система систем", где каждый компонент одной общей структуры также обладает сетевыми признаками. Она будет объединять несколько разных воздушных платформ, наземных станций и прочих объектов, связанных между собой каналами связи.
Одним из компонентов FCAS станет истребитель шестого поколения, макет которого уже показали на авиасалоне Ле Бурже в 2019 году.
Над его созданием работают производитель истребителей Rafale - компания Dassault - и концерн Airbus. Создавать новую машину будут Германия и Франция при участии Испании. Планируется, что новый самолет постепенно заменит после 2040 года истребители Rafale и Eurofighter.
Франция и Германия показали в Ле Бурже истребитель нового поколения. Через год после Британии
Деятельность такой сложной конструкции невозможна без искусственного интеллекта. Хранение, обработка и передача данных в ней будет происходить во многом без контроля со стороны человека.
Главная задача комиссии - определить, насколько те или иные решения в конструкции FCAS соответствуют этическим нормам.
Комиссию официально учредили 14 мая, однако она уже собиралась в сентябре 2019 года. В ее составе - инженеры, военные, политологи, ученые из различных областей, есть даже два теолога. Один из них - бывший капеллан Бундесвера Хартвиг фон Шуберт - заявил, что поддерживает этику, в которой сила применяется только в необоходимом для соблюдения закона объеме и сочетается с уважением к противнику.
В интервью, опубликованном на странице комиссии, глава Airbus Defence and Space Дирк Хоке назвал одной из главных причин создания комиссии то, что в проекте будет широко применяться искусственный интеллект, этические аспекты применения которого широко обсуждаются в современном обществе.
Под контролем человека
Русская служба Би-би-си обратилась в компанию Airbus с просьбой объяснить, в чем заключается конкретная задача этой комиссии.
Представитель европейской корпорации рассказал Би-би-си, что главная цель не столько в разработке системы, которая будет максимально активно использовать искусственный интеллект, сколько в том, чтобы человек все-таки мог контролировать ее.
В случае с FCAS, объяснил он, предстоит определить контрольные точки системы, которые гарантировали бы 100-процентную ответственность человека за принятие решений, и эти точки должны быть распределены на всей протяженности процесса.
"Таким образом, задача в том, чтобы, во-первых, определить их, и во-вторых, внедрить их технологически в структуру FCAS. Вот почему так важно, чтобы в группе были не только люди, которые могут рассуждать о таких вопросах с теоретической, философской и этической точек зрения, а также инженеры, которым приходится внедрять результаты таких обсуждений в структуру этой системы", - сказал представитель Airbus.
Присутствие двух теологов в комиссии в Airbus объясняют тем, что им нужны были специалисты в области разумного и ответственного использования технологий, и оба члена комиссии хорошо разбираются в этом аспекте.
При этом бывший капеллан Бундесвера Хартвиг фон Шуберт много лет служил в армии и много знает о поведении солдат, их мыслительных процессах.
Новое поколение
"Система систем" - принцип, по которому развивается военная техника. Этот принцип называют сетецентрическим.
Уже сейчас военные самолеты, например, активно обмениваются информацией между собой. В будущем этот обмен станет еще более активным.
Например, в России создается ударный беспилотник С-70 "Охотник", который, как предполагается, будет действовать в паре с истребителем пятого поколения Су-57.
В аналогичном направлении развиваются, наземные и морские военные системы.
Даже простые по сравнению с сетецентрической архитектурой FCAS современные автоматизированные боевые системы периодически дают сбой на уровне принятия решений, и это оборачивается серьезными инцидентами.
Случайный ракетный удар на учениях в России. Что это было?
Так, на учениях "Запад-2017" вертолет Ка-52, система управления огнем которого была поставлена в боевой режим, при случайном захвате радаром военного автомобиля на земле автоматически выпустил по нему две ракеты. В результате инцидента никто не погиб, хотя на видеозаписи видно, что рядом с уничтоженным автомобилем находятся люди.
Одной из главных дилемм боевых беспилотных автоматических систем является с одной стороны, уязвимость линий коммуникаций, используемых для контроля беспилотников человеком, а с другой - опасность ошибок автономных систем искусственного интеллекта.
С одной стороны, существует опасность ошибки системы в идентификации цели и принятия решения о ее уничтожении, с другой - каналы связи между человеком и машиной можно перекрыть.
В настоящее время многие страны вкладывают большие средства в разработку систем радиоэлектронной борьбы, задача которых, в частности, лишить дистанционного контроля беспилотные системы.
Поэтому автономность, способность действовать и принимать решения самостоятельно рассматривается как ключевое свойство роботизированной техники будущего.