Пентагон принял этические принципы для искусственного интеллекта

       Министерство обороны Соединенных Штатов создало нормы этического использования искусственного интеллекта военными, что позволит им активнее работать на этом направлении. Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются американцами как вызов их превосходству, поэтому сейчас они делают ставку на высокие технологии.

       Директор по информационным технологиям министерства обороны США Дана Дизи и директор Объединенного центра искусственного интеллекта генерал-лейтенант (Joint Artificial Intelligence Center, JAIC) Джон Шанахан объявили об официальном принятии пяти принципов этического использования искусственного интеллекта (ИИ).

       Это ？закладывает основы этического проектирования, разработки, развертывания и использования искусственного интеллекта министерством обороны США？, заявила Дизи.

       Генерал Шанахан сказал, что решение о принятии этих принципов отделяет Соединенные Штаты и их союзников от противников, которые намерены использовать достижения в сфере ИИ.

       ？Мои беседы с нашими союзниками и партнерами в Европе показывают, что у нас много общего в отношении принципов, касающихся этического и безопасного использования возможностей ИИ в военных операциях？,

       - цитирует слова Шанахана Defense News.

       По его мнению,

       ？это резко контрастирует с Россией и Китаем, где использование технологии искусственного интеллекта в военных целях вызывает серьезную обеспокоенность по поводу прав человека, этики и международных норм？.

       Пять перечисленных ниже принципов применимы как к боевому, так и небоевому использованию технологий ИИ, сказала Дана Дизи.

       Ответственность. Персонал министерства обороны США будет проявлять надлежащий уровень здравомыслия и безопасности, оставаясь ответственным за разработку, развертывание и использование возможностей ИИ.

       Беспристрастность. Отдел предпримет преднамеренные шаги, чтобы минимизировать непреднамеренное смещение возможностей ИИ.

       Доступность для анализа. Возможности военного ведомства США по ИИ будут разрабатываться и развертываться таким образом, чтобы сотрудники имели надлежащее понимание технологий, процессов разработки и методов работы, применимых к ИИ.

       Управляемость. Минобороны США будет проектировать и разрабатывать возможности ИИ для выполнения их намеченных функций, обладая способностью обнаруживать и избегать непреднамеренных последствий, а также способностью отключать или деактивировать развернутые системы, которые демонстрируют непреднамеренное поведение.

       Эти принципы следуют из рекомендаций, разработанных Советом по оборонным инновациям США и представленных министру обороны Марку Эсперу в октябре после 15-месячной работы, в течение которой Совет встречался с экспертами по искусственному интеллекту из промышленности, правительства и научных кругов.

       Как известно, искусственный интеллект - это машинная система, способная обучаться и использовать объективные знания и опыт, решать творческие задачи наподобие человеческого мозга и изобретательские задачи без перебора вариантов, выстраивать стратегии и применять абстрактные концепции.

       Такой ИИ еще только предстоит создать, но технологии в настоящее время развиваются очень быстро. Разработчиков мотивируют и крупные корпорации, для которых это способ обретения конкурентных преимуществ и новый источник прибылей, и государства, для которых развитие искусственного интеллекта является важным аспектом национальной безопасности и сохранения суверенитета.

       К примеру, руководство КНР неоднократно заявляло, что Китай собирается к 2030 году стать мировым лидером в области технологий искусственного интеллекта и крупнейшим центром инноваций, поскольку Поднебесной для поддержания высоких темпов экономического роста необходимо научно-технологическое лидерство.

       Успехи России и Китая в военной сфере и в развитии оборонных технологий воспринимаются Соединенными Штатами как вызов их превосходству. Именно поэтому в США принята так называемая ？Третья компенсационная стратегия？, задача которой внедрить самые современные инновации в военную сферу и вновь обрести подавляющее преимущество над КНР и Россией, которые в подписанной Трампом ？Стратегии национальной безопасности？ объявлены конкурентами и противниками США.

       К таким инновациям в области обороны Пентагон относит искусственный интеллект, взаимодействие машин и военнослужащих, совершенствование беспилотных боевых машин, роботов и автономного оружия, технологии гиперзвука и направленной энергии, а также планирует расширить взаимодействие оборонной промышленности и коммерческого сектора экономики.

       ？Становится очевидным, что ведущие мировые державы будут стремиться активнее внедрять в оборонную сферу самые современные инновационные технологии, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно？, - пояснил ？Газете.Ru？ заместитель директора Центра анализа стратегий и технологий Константин Макиенко.

       В ближайшие несколько лет все ведущие державы будут втянуты в гонку инновационных вооружений. Противники и конкуренты запомнили слова президента Путина, сказанные им 1 сентября 2017 года на открытом уроке в Ярославле:

       ？Искусственный интеллект - это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира？.

       ？Искусственный интеллект качественно изменит армии и виды вооружений, как когда-то это происходило с изобретением пороха, появлением самолетов и танков, с созданием ядерного оружия. Предотвратить использование искусственного интеллекта в военных целях невозможно？, - считает Макиенко.

       Все организационные усилия, инвестиции и человеческий капитал в сфере искусственного интеллекта в Соединенных Штатах и Китае сконцентрированы в военных ведомствах. В Вашингтоне и Пекине считают, что вооруженные силы первыми должны овладеть этими перспективные технологиями. Именно в сфере вооруженной борьбы ИИ может дать наиболее быструю и самую эффективную отдачу, считают специалисты во всем мире.

       В России проблемы искусственного интеллекта решаются в гражданском поле - в рамках программы ？Цифровая экономика Российской Федерации？ и федерального проекта ？Искусственный интеллект？.

       До этого были утверждены еще два программных документа по развитию искусственного интеллекта: ？Национальная стратегия развития искусственного интеллекта？ и ？Дорожная карта развития технологий искусственного интеллекта и нейросенсорики？.

       Что касается разработки правовых и этических норм взаимодействия ИИ с человеком, то на данном этапе эта работа в России пока не вышла за рамки дискуссий.

       Михаил Ходаренок