20 мая 2019 г. в РСМД состоялось обсуждение проекта Модельной конвенции о робототехнике и искусственном интеллекте. Документ представили экспертному сообществу его авторы руководитель Исследовательского центра ？Робоправо？ Андрей Незнамов и партнер международной юридической фирмы Dentons Виктор Наумов. Как подчеркнули разработчики, при написании конвенции ими руководила инициатива создать свод динамичных правил, которые регулировали бы этические и правовые аспекты в области робототехники и искусственного интеллекта. Необходимость принятия конвенции авторы объясняют особой значимостью развития и применения этих технологий, а также несовершенством их правового регулирования на национальном и мировом уровнях.

       С проектом Модельной конвенции можно ознакомиться на сайте ？Робоправо？.

       В обсуждение документа приняли участие:

       Андрей Крутских, специальный представитель Президента по вопросам международного сотрудничества в области информационной безопасности,

       Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России,

       Олег Эскин, генеральный конструктор ОАО ？Концерн Гранит？, генерал-майор запаса ФСБ России,

       Владимир Овчинский, советник министра внутренних дел РФ,

       Владислав Шершульский, директор по технологической политике Microsoft,

       Альберт Зульхарнеев, директор ПИР-Центра,

       Александр Крамаренко, директор по развитию РСМД,

       Роман Дурнев, заместитель начальника научно-исследовательского управления Российской академии ракетных и артиллерийских наук (РАРАН),

       Максим Карлюк, научный сотрудник Института права и развития ВШЭ-Сколково,

       Леонид Ковачич, шеф-редактор РИА Новости, китаист,

       Елена Введенская, доцент кафедры философии РНИМУ им. Пирогова,

       Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета,

       Юрий Черный, руководитель Центра по изучению проблем информатики ИНИОН РАН, доцент кафедры медиаобразования Института журналистики, коммуникаций и медиаобразования МПГУ

       Игорь Шнуренко, специалист по искусственному интеллекту и криптовалютам,

       Александр Федотовских, председатель Комитета по науке и инновациям объединения работодателей Севера России ？Северные промышленники и предприниматели？ / РСПП,

       Николай Маркоткин, руководитель проекта РСМД по искусственному интеллекту,

       Анастасия Толстухина, руководитель проекта РСМД по кибербезопасности.

       Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России отметил, что при разработке подобного документа необходимо учитывать политический аспект. В настоящее время идёт процесс изучения возможностей робототехники и ИИ в качестве оружия. Договориться на международном уровне об универсальных правилах в областях, тесно связанных с национальными интересами государств, бывает нелегко. Угроза восстания машин, несмотря на свою несостоятельность, является актуальной с точки зрения повестки.

       Андрей Крутских, спецпредставитель президента по вопросам международного сотрудничества в области информационной безопасности, выразил мнение, что разработка норм правового регулирования ИИ и робототехники будет эффективна под эгидой ООН. Он напомнил, что российская резолюция по информационной безопасности (？Достижения в сфере информатизации и телекоммуникаций в контексте международной безопасности？) была принята Генассамблеей ООН, что говорит о целесообразности дискуссии по вопросам ИКТ (информационно-коммуникационных технологий) на площадке Организации Объединённых Наций.

       Владимир Овчинский, советник министра внутренних дел РФ, отметил перспективность применения технологий ИИ в оперативно-розыскной, правоохранительной, судебной деятельности. Опираясь на опыт европейских, американских, китайских служб безопасности, Владимир Овчинский на примерах продемонстрировал уже использующийся потенциал искусственного интеллекта в этой сфере. Также он озвучил определение ИИ, которым пользуются службы безопасности: ？Искусственный интеллект — это программно-аппаратный комплекс, обеспечивающий поддержку в принятии результативных решений в динамичной, неустойчивой среде, в установленное время, на основе заведомо неполной, нечеткой и не имеющей полной доказательной базы информации？. По его мнению, недостаточно рассматривать феномен искусственного интеллекта исключительно в рамках ИКТ. ？Велосипед изобретать всё равно придётся？, — сказал Владимир Овчинский, подчёркивая необходимость рассмотрения этического и правового регулирования ИИ как отдельного, крайне важного аспекта.

       В ходе обсуждения конвенции был озвучен тезис о том, что в экспертном сообществе пока нет консенсуса по поводу терминологии в области ИИ и робототехники. На взгляд разработчиков документа, понятию ？робот？ (？роботизированный механизм？, ？умный робот？) нет и не будет единого определения. Авторы предлагают определять содержание этих понятий в соответствии с их общепринятым значением в конкретной стране и (или) применительно к конкретной модели робота. При отсутствии такой возможности Андрей Незнамов и Виктор Наумов предлагают использовать международные стандарты, в частности ISO 8373:2012 ？Роботы и робототехнические устройства. Термины и определения？. (Статья 3).

       Тем не менее, для обсуждения конвенции нечётко заданная терминология может являться камнем преткновения или яблоком раздора. Также сложность возникает при попытке выделить ИИ и робототехнику в отдельный вид технологий или отнести их к уже существующим, например, к ИКТ.

       В ходе дискуссии Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета привела в пример опыт Германии. В ФРГ законотворчество в этой области в качестве объекта рассматривает не совокупность технологий, а их конкретные виды. К примеру, существует правовое регулирование по беспилотным автомобилям и роботам-сиделкам.

       Также во время дискуссии участники приводили в пример опыт Китая в области регулирования.

       Генри Киссинджер, которого цитировал при открытии обсуждения Александр Крамаренко, директор по развитию РСМД, в конце своей статьи для The Atlantic (How the Enlightenment Ends) заявил: ？Очевидно одно: если мы не начнем эту работу в ближайшее время, очень скоро мы поймем, что уже опоздали？.

       Авторы проекта модельной конвенции планируют учесть высказанные в рамках обсуждения предложения в доработанной версии документа. Обновленный проект конвенции будет представлен на II конференции РСМД по искусственному интеллекту, а также направлен в МИД России, международные организации и институты.

       Видео