12 октября 2020 Игорь Боровков
Опубликованный на днях в РИСИ доклад ？Развитие технологий искусственного интеллекта и транcформация геополитики？ вызвал среди экспертов острую дискуссию. С выдвинутыми тезисами согласны далеко не все. Вашему вниманию предлагается развернутый ответ докладчику. Автор этой статьи - заместитель директора Российского института стратегических исследований Игорь Иванович Боровков.
Знаки и символы
управляют миром,
а не слово и закон.
Конфуций
Прежде всего, хотелось бы выразить удовлетворение рассмотрением тематики искусственного интеллекта (ИИ) в таком своеобразном ракурсе. Автор представленного доклада совершенно справедливо говорит о трансформации геополитики и ставит вопрос об изменении пространства международного соперничества. Хотя, может быть, было бы более обоснованным говорить о появлении нового пространства соперничества в дополнение к уже существующим.
Положительно следует оценить стремление докладчика выработать определения ключевых понятий в рамках темы, где терминология еще не устоялась. В частности, точно подмечена такая тенденция, как роботизация человека. Вместе с тем тенденция представляется более далеко идущей и опасной. Она сводится не просто к роботизации, а к дегуманизации человека под влиянием цифровых технологий. Равным образом в уточнении нуждается введенное докладчиком понятие гуманизации искусственного интеллекта в плане его занятий творчеством. О подлинной же гуманизации ИИ вряд ли стоит говорить, пока он не обретет самосознание и чувство эмпатии, а до этого очень далеко.
Названным аспектам темы и хотелось бы посвятить эту статью, не вступая в прямую полемику с предыдущим докладчиком, тем более что рассматриваемая проблема является остро дискуссионной и любая точка зрения на нее имеет право на существование.
？Это король нашего времени？
В целях исследования сложных явлений иногда приходится намеренно упрощать рассматриваемую проблему, причем упрощать максимально. Следуя этим путем, можно определить геополитику как сумму средств и способов контроля над пространством, а искусственный интеллект – как набор технологий навигации и управления процессами в цифровом пространстве. В свете этого важность искусственного интеллекта сразу становится понятна, поскольку освоение цифрового пространства имеет для человечества в XXI в. примерно такую же значимость, как покорение Мирового океана в период Великих географических открытий XV–XVI вв.
Значение этой задачи хорошо отобразил в своем эссе один из современных немецких геостратегов, советник по вопросам геостратегии, промышленности и технологий земельного правительства Баден-Вюртемберга Родерик Кефферпутц (Roderick Kefferpütz): ？Геополитическое доминирование всегда имело в своей основе контроль над значимой информационной инфраструктурой. Знание – это сила. Римская империя контролировала дороги, Великобритания – морские трассы. Тот, кто будет контролировать цифровые технологии и потоки данных, сможет формировать мировой порядок. Данные – это король нашего времени？.
На протяжении человеческой истории пространство геополитического противоборства постоянно менялось и расширялось. Первоначально борьба шла исключительно на суше в ограниченном регионе Плодородного полумесяца, то есть на территории Египта, Ханаана и Месопотамии, к которым позднее добавилось Иранское нагорье.
В битве при Саламине в 480 г. до н. э. враждующие стороны для решения спора вышли в прибрежные воды. Тогда впервые крупная геополитическая победа была одержана на море. Однако еще долгое время флотоводцы давали сражения лишь в узких заливах и проливах. Открытое море как пространство противоборства было освоено значительно позднее.
С появлением авиации было раскрыто геополитическое значение воздушного пространства. Битва за Англию с июля по октябрь 1940 г. вообще велась исключительно в воздухе. Данное пространство противоборства остается, пожалуй, главным на сегодняшний день. Однако на очереди находятся космос и киберпространство. Во всяком случае, они уже рассматриваются в НАТО как новые операционные среды.
Особенности нового геополитического пространства
Новое геополитическое пространство – цифровое, или сетевое электронное, – имеет свои особенности.
Во-первых, стоит упомянуть почти полное стирание значения расстояний между противоборствующими сторонами для оказания обоюдного воздействия. Дистанция между ними и раньше сокращалась по мере развития средств сообщения, а сейчас она практически исчезла ввиду мгновенного отклика современных систем коммуникации.
Во-вторых, резко возросла важность максимально быстрой реакции на происходящее (физической и ментальной), что вытекает из сказанного выше. Процессы в мире вообще неимоверно ускорились и в обозримой перспективе вполне могут превысить человеческие возможности восприятия и осмысления, что диктует использование ИИ, хотим мы этого или не хотим.
В-третьих, расширился круг геополитических акторов. В него вошли ИКТ-компании и влиятельные деятели этой сферы, а также организации блогеров, пранкеров, хакеров и другие не всегда желательные действующие лица.
В-четвертых, изменилось соотношение факторов и параметров геополитического влияния. В частности, снизилось значение природных ресурсов и даже размеров ВВП, но зато возрос удельный вес особо ценного человеческого капитала и правильной стратегии развития.
В-пятых, – и это самое печальное – человек сам стал частью нового геополитического пространства и, таким образом, невольным, зачастую пассивным участником геополитических процессов. Это определяется тем, что каждый владелец смартфона и пользователь социальных сетей оказался оцифрован и включен в кругооборот больших данных, то есть поставлен в положение поставщика сырья для машинного обучения ИИ.
Как смена профессии одним ювелиром изменила мир
Иоганн Гутенберг (Johannes Gutenberg)
Многие исследователи, оценивая трансформационный потенциал ИИ, сравнивают его распространение с изобретением книгопечатания, которое, мол, сделало информацию более доступной и способствовало появлению ростков гражданского общества. Однако не следует забывать, что именно книгопечатание открыло дорогу для Реформации и, по сути, возвестило собой начало эпохи религиозных войн, перекроивших политическую карту Европы.
А началось все с ？95 тезисов？, которые Мартин Лютер вывесил 31 октября 1517 г. на дверях Замковой церкви в Виттенберге. Идеи Лютера не распространились бы столь быстро, если бы за несколько десятилетий до появления ？95 тезисов？ И. Гутенберг не изобрел новую систему набора текста подвижными литерами, что на порядок ускорило изготовление книг и памфлетов. Люди не только смогли читать Лютера, но и, можно сказать, узнали его как личность благодаря графическим портретам Лукаса Кранаха Старшего – друга великого проповедника. Современные историки даже выявили закономерность: один факт наличия печатного станка в каком-либо немецком городе немало способствовал тому, что через пару десятилетий этот город становился протестантским.
В свою очередь, протестантская мораль, как известно из трудов Макса Вебера, послужила основой капитализма, который в последующем явился причиной возвышения одних держав и упадка других, захвата колоний, развязывания войн за передел мира и многого другого. А все началось с того, что проживавший в Страсбурге уроженец города Майнца Иоганн Гутенберг забросил ювелирное ремесло и занялся безобидными экспериментами по нанесению букв на металлические сборные блоки.
Сказанное не следует воспринимать как призыв к блокированию инноваций. В конечном счете не печатный станок породил церковный раскол и религиозные войны XVI–XVII вв., как и все остальное, а безудержная жажда власти, корысть и людская нетерпимость. Но все же не надо забывать, что новая для того времени технология многократно расширила возможности проявления таких качеств.
Аналогичным образом появление ИИ таит в себе не только невиданные перспективы, но и серьезные вызовы для человечества. По степени преобразования информационного поля, в котором мы действуем, искусственный интеллект многократно превосходит печатный станок.
？Дорога к цифровой несвободе？
Мартин Лютер (Martin Luther)
Соответственно, невольно напрашивается вопрос о том, способно ли современное общество переварить сопряженные с внедрением ИИ изменения без потрясений и конвульсий, аналогичных тем, которые сопровождали крупнейший информационный сдвиг 500 лет назад? Стало ли за истекшее с тех пор время человеческое общество более солидарным, гуманным и устойчивым? Стали ли люди более толерантны и договороспособны? Преобразовались ли отношения между народами в более справедливые, упорядоченные и гармоничные?
Поскольку человек в цифровую эпоху сам стал частью нового геополитического пространства, анализ происходящего логично было бы начать с гуманитарной сферы. Обозначившаяся трансформация геополитики тем и интересна, что ее человеческое измерение вышло на первый план.
Главным ресурсом власти в цифровую эпоху являются данные, которые генерируются людьми в процессе их жизнедеятельности. Следовательно, ключевая задача современной власти сводится к побуждению или вынуждению людей к выработке максимальной массы данных. Правда, происходит это не столь брутально, как в период первоначального накопления капитала в Англии.
Тогда крестьян насильственно сгоняли с земли путем огораживания их наделов под пастбища, с тем чтобы затолкать освобожденную рабочую силу на мануфактуры, вырабатывающие сукно из шерсти, состриженной с овец, выращенных на землях, отобранных у тех же самых новоявленных ткачей. Однако смысл операции что тогда, что сейчас оказывается крайне циничным: порабощенные должны сами обслуживать орудия своего порабощения.
Дальнейшее изложение темы хотелось бы построить по опыту Лютера на основе комментариев. Только он в своих ？95 тезисах？ комментировал Библию, а мне придется опираться на цитаты современных авторитетов.
Первая цитата, которую можно привести, принадлежит канадскому политологу Рональду Дейберту (Ronald Deibert). Он возглавляет в Университете Торонто ？Гражданскую лабораторию？ (Citizen Lab), которая занимается правозащитными аспектами сетевых практик контроля над информацией. В его статье под названием ？Дорога к цифровой несвободе: три горькие истины о социальных средствах коммуникации？ сказано следующее:
？Первая горькая истина состоит в том, что бизнес в сфере социальных коммуникаций построен на отслеживании персональных данных и предлагаемые им продукты сконструированы в конечном счете таким образом, чтобы шпионить за нами и благодаря этому пропихнуть рекламу в нашу (личную) сферу. Вторая горькая истина сводится к тому, что мы согласились с этим, но не вполне сознательно: социальные медиа сконструированы как машины по вырабатыванию зависимости, специально запрограммированные на задействование наших эмоций. Третья горькая истина заключается в том, что лежащие в основе социальных медиа алгоритмы привлечения внимания попутно приводят в движение авторитарные практики, нацеленные на нарушение целостности сознания, распространение невежества, предрассудков и хаоса, облегчая тем самым манипуляцию и подрывая ответственность？.
О ботах, ？пузырях фильтров？ и ？эхо-камерах？
Итак, комментарий к цитате.
Во-первых, по мнению этого автора, в отличие от печатного слова, рассчитанного в основном на восприятие разумом, информация, направляемая нам с помощью социальных медиа, воздействует непосредственно на чувства, то есть обращается преимущественно к заложенному в подсознание опыту первобытных предков, отраженному в инстинктивных поведенческих схемах. Фактически человека невольно (или сознательно) побуждают возвратиться к своей биологической сущности, двинуться по пути дегуманизации.
Во-вторых, пробуждение склонности к авторитарным практикам является естественным итогом активирования подсознания, поскольку заключенный в подсознании опыт наших далеких предков формировался в условиях жесткой стайной иерархии, безраздельного господства одних и безропотного подчинения других.
В-третьих, влияние социальных медиа выражается в формировании информационной среды, способствующей расслоению общества по степени предпочтительности для составляющих его индивидов инстинктивно обусловленных или продуманных действий. Это накладывается на прочие факторы размежевания общества и ведет к его поляризации.
Наконец, в-четвертых, создаваемая информационная среда проявляет себя как особо благоприятная для манипулирования массовым сознанием и ухода манипуляторов от ответственности за искажение реальной картины происходящего ради корыстных интересов.
В капитальном исследовании Deutsche Bank подтверждается, что подрыв доминирующего положения традиционных СМИ в информационном пространстве, хотя и ведет к обогащению политических дебатов и повышению активности граждан, оборачивается поляризацией общества. Данное явление объясняется недостаточной проверкой информации в рамках социальных платформ и присущей им тенденцией к алгоритмическому заострению мнений пользователей. Это способствует скоординированному распространению дезинформации и пропагандистских тезисов через сети, регулируемые на основе ИИ, созданию там ？пузырей фильтров？ (то есть автоматической подгонке результатов поиска информации под предпочтения пользователя), возникновению эхо-камер (циркуляции одних и тех же мнений в узком кругу тесно общающихся единомышленников).
Кроме того, алгоритмы выявления и удовлетворения вкусов потребителей информации, по сути, потворствуют склонности большинства людей к сенсационным новостям, конспиративным теориям и различного рода предубеждениям. Последовательное применение таких алгоритмов чревато дезориентацией людей, подрывом их способности к различению объективной и предвзятой информации.
Масштаб засорения информационно-коммуникативного пространства алгоритмически выстроенным контентом позволяют уяснить следующие оценки, которые относятся к 2017 г. и по этой причине, скорее всего, лишь приблизительно отражают современную картину.
Итак, эксперты считают, что более 10 % текстов, размещаемых в социальных сетях, и примерно 62 % трафика в Интернете формируются ботами – специальными программами на основе искусственного интеллекта. Около 15 % аккаунтов в ？Твиттере？ на самом деле представляют собой боты. Причем в сетевых дискуссиях по некоторым наиболее острым темам доля сообщений, генерируемых ИИ, может быть существенно выше. Так, исследователи из университета Карнеги – Меллона установили недавно, что 45 % сообщений по проблеме распространения коронавирусной инфекции в США приходят с аккаунтов, управляемых, судя по поведению, компьютерными программами, и рассылаются с целью ？сеять раздоры в Америке？.
Вопрос о правильном использовании новых технологий ставит в своей статье руководитель секции ？Общество и инновации？ Всемирного экономического форума Николас Дэвис. Он отмечает отсутствие гарантий того, что новые технологии будут способствовать конструктивным дебатам в мире, по-прежнему полном ？ересей, которые угрожают нашей идентичности и почитаемым институтам？.
Смена элит и опасности расслоения
Схожие идеи высказывает известный израильский футуролог Юваль Ной Харари. Он пишет: ？Мы вряд ли увидим восстание разумных машин в ближайшие десятилетия, но нам, вероятно, придется иметь дело с ордами ботов, которые лучше, чем наша мать, знают, на какие кнопки нажать, чтобы вызвать наши эмоциональные переживания, и которые по воле человеческой элиты станут использовать эту необъяснимую способность для того, чтобы продать нам что-то – будь то автомашина, политик или целая идеология. Это будут боты, которые способны распознавать наши глубочайшие страхи, неприязни и желания, с тем чтобы использовать их против нас？.
Далее Харари подчеркивает, что, ？если мы хотим предотвратить концентрацию богатства и власти в руках немногочисленной элиты, мы должны урегулировать вопрос о собственности на данные. В древние времена земля была наивысшей ценностью, и потому политика заключалась в борьбе за контроль над землей. В новое время станки и фабрики стали важнее земли, и потому политическая борьба сфокусировалась на вопросах контроля над этими крайне необходимыми средствами производства. В XXI в. данные затмят как землю, так и промышленное оборудование в качестве самого главного актива, и потому политика станет борьбой за контроль над потоками данных？.
В изумительно глубокой по содержанию цитате привлекают к себе внимание сразу пять моментов.
Во-первых, автор исходит из того, что на смену нынешней капиталистической элите может прийти какая-то другая, подобно тому, как капиталисты (промышленники и банкиры) пришли на смену феодалам-землевладельцам.
Во-вторых, судя по всему, это если и произойдет, то не сразу, поскольку ожидается борьба за монопольное владение новым ресурсом власти.
В-третьих, эвентуальная правящая группа будущего окажется, скорее всего, более ограниченной по составу, чем нынешняя.
В-четвертых, автор опасается, что в отличие от предшественников она станет использовать более назойливые и в то же время менее явные способы навязывания своей воли, действуя, по сути, против интересов большинства.
В-пятых, автор уповает на то, что всего этого можно избежать, если как-то урегулировать вопрос о собственности на главный актив власти.
Последняя мысль представляется почти революционной, хотя Харари за пределами приводимой цитаты высказывается против национализации массивов данных.
Навстречу ？капитализму соглядатаев？?
Профессор Гарвардской школы экономики Шошана Зубофф называет формирующийся на такой основе общественный строй ？капитализм соглядатаев？ (surveillance capitalism). Он характеризуется ？быстро растущей концентрацией данных, знаний, финансовой мощи и контроля над каналами связи в руках немногочисленной технологической элиты？ . При этом возникает ？эпистемическое неравенство？ (неравенство в возможностях познания), которое ？сигнализирует о сдвиге в факторах обеспечения власти – от собственности на средства производства, определявшей политику XX в., к собственности на производство чувств (senses)？ .
Критическая масса знаний о людях позволяет дистанционно управлять ими, как машинной системой. При этом Зубофф цитирует одного из разработчиков таких технологий: ？Мы учимся, как писать музыку, а потом делаем так, чтобы музыка заставляла их плясать. Для этого не нужны ни солдаты, ни угрозы насилия и убийства. Новая “инструментальная” власть осуществляется посредством вездесущих цифровых инструментов, призванных манипулировать подсознательными импульсами, психологически направлять на определенные взаимосвязи, навязывать ложные архитектуры выбора, высвобождать динамику социальных сравнений и определять характер вознаграждения или наказания – все для того, чтобы дистанционно настраивать, сгонять в стадо и модифицировать поведение людей в направлении прибыльного итога, причем всегда при соблюдении неведения пользователей относительно проделанного с ними？.
В ранее цитировавшемся докладе исследовательской службы Deutsche Bank будущим владыкам мира посвящена глава, названная ？Тектонические сдвиги во власти и влиянии в рамках цифровой экономики？. Там отмечается появление новой мощной бизнес-модели на основе крупнейших ИКТ-компаний, предоставляющих большой массе пользователей услуги (якобы бесплатные) в виде поисковиков, сетей для общения между сверстниками, игровых приложений и прочих форм развлечения. Благодаря этому они становятся для рекламодателей своего рода ？хранителями ключей？ доступа к своим клиентам, продают возможность доведения до них рекламы и, самое главное, помогают ее оптимизировать путем использования накопленных и постоянно корректируемых на базе ИИ данных о предпочтениях обслуживаемых ими людей.
Контроль над массивами данных, подчеркивают далее немецкие исследователи, дает указанным компаниям огромное преимущество не только в регулировании тех сегментов рынка, в которых они непосредственно действуют, но и в разработке искусственного интеллекта, а также в его машинном обучении. Этим они активно пользуются для укрепления своих позиций на традиционных рынках и ？получения форы？ в освоении новых сфер приложения капитала.
Китай и США в лидерах, догонит ли их Европа?
Последствия распространения ИИ для международной политики, пожалуй, наиболее откровенно охарактеризовал ведущий китайский эксперт в области ИКТ инвестор и ученый Кай-Фу Ли (Kai-Fu Lee). Тайванец по происхождению, он получил образование в США, работал на руководящих должностях в Microsoft, Apple и Google, а затем основал венчурный фонд Sinovation Ventures, инвестирующий в стартапы.
Кай-Фу Ли исходит из того, что все более широкое использование ИИ приведет к невиданному росту имущественного неравенства как внутри отдельных стран, так и между ними. Большая часть денег от внедрения искусственного интеллекта достанется лидерам гонки за первенство в данной области – США и КНР, поскольку ？ИИ – это отрасль, в которой сила порождает силу: чем больше у тебя данных, тем лучше твой продукт; чем лучше твой продукт, тем больше данных ты накапливаешь; чем больше данных ты накапливаешь, тем больше талантов ты нанимаешь; чем больше талантов ты нанимаешь, тем лучше твой продукт. Это порочный круг, и США, как и Китай, уже сконцентрировали в своих руках (достаточно) талантов, долей рынка и данных, для того чтобы привести его в действие？.
Только США и Китай будут в состоянии преодолеть тяжелые социальные последствия внедрения ИИ – обеспечить желающих трудиться пристойно оплачиваемым занятием в сфере услуг и наладить выплату единого базового дохода всем остальным гражданам, лишившимся работы. Сделать это им позволят повышенные налоги на огромную сверхприбыль фирм, разрабатывающих или активно использующих ИИ. А как же поступят другие государства, не имеющие подобных сверхдоходов? Кай-Фу Ли отвечает предельно честно:
？Я вижу для них только один вариант. Если они не хотят низвергнуть свои народы в нищету, они будут вынуждены договориться с той страной, которая поставляет им большую часть программного обеспечения для ИИ, – с Китаем или Соединенными Штатами – и, по сути, стать экономически зависимыми от этой страны, а именно, согласиться принимать (от нее) благотворительные выплаты в обмен на разрешение ИКТ-компаниям “родительского” государства продолжать получать прибыль от пользователей в зависимой стране. Такими экономическими соглашениями будут переформатированы нынешние геополитические альянсы？.
Картина мира, согласно прогнозу Кай-Фу Ли, будет выглядеть следующим образом: ？Как представляется, американские предприятия (ИКТ-сферы) будут доминировать на рынках развитых стран и части развивающихся рынков, тогда как китайские компании одержат победу на большинстве развивающихся рынков？.
Нарисованную здесь картину дополняет высказывание китайца в интервью агентству РБК. Корреспондент спрашивает его: ？Вы утверждаете, что через несколько лет Китай и США превратятся в две супердержавы в области искусственного интеллекта. Есть ли у европейских стран шансы взять хотя бы “бронзовую медаль”?？ На этот вопрос Кай-Фу Ли отвечает обескураживающим образом:
？Никаких. Когда я это говорю, мои европейские друзья обычно возражают, что университеты Европы выпускают столько же людей с докторской степенью, сколько и американские. Однако многие из этих выпускников в итоге работают в американских компаниях. То есть множество ученых само по себе не гарантирует передовой экономики. У Европы есть три серьезные проблемы. Прежде всего, ей не хватает той предпринимательской экосистемы, что сделала США и позднее Китай такими успешными. Там мало венчурных компаний. Вторая существенная проблема: Европа кажется одним большим рынком, но на самом деле каждая страна сохраняет свои особенности. Если вы создали успешный продукт в Париже, он необязательно будет интересен в Берлине или Барселоне… И в Китае, и в США есть по-настоящему однородная среда с одной культурой, языком, жизненным опытом, законами, правительством, ожиданием и историей. А в Европе даже в самых больших странах искусственному интеллекту доступны данные всего по нескольким десяткам миллионов пользователей, говорящих на одном языке. Наконец, Европа – лидер в области регулирования. С одной стороны, достойно восхищения, что европейцы такие осмотрительные и этичные. С другой – чересчур жесткое регулирование тормозит развитие технологий？.
Тревожные выводы о цифровом обществе
Цифровое неравенство чревато новыми гражданскими конфликтами.
С. Дали ？Предчувствие гражданской войны？.
Итак, резюмируя сказанное в данном обзоре, мы можем сформулировать следующие наиболее общие выводы.
– Власть в цифровом обществе будущего, скорее всего, сконцентрируется в руках владельцев крупнейших массивов структурированных и обработанных при помощи ИИ данных. Судя по всему, это будут владельцы наиболее успешных алгоритмов, то есть ведущие ИКТ-компании. Неуклонный рост авторитета и влияния выходцев из соответствующей среды (Билла Гейтса, Илона Маска, Марка Цукерберга) и безумная капитализация этих компаний в условиях нынешнего кризиса являются зримым подтверждением данного тезиса.
– Заслуживают внимания перспективы определенного сглаживания демографических диспропорций на международной арене. Государства с огромным человеческим потенциалом, всегда имевшие преимущества перед малонаселенными соседними странами как в военном деле, так и в экономике, скорее всего, начнут постепенно терять этот бонус. Более того, высвобождение рабочей силы может принять такой размах, что бонус превратится в фактор уязвимости, если такие страны не выбьются в лидеры по освоению искусственного интеллекта. В условиях глобального ？победного шествия？ ИИ ？сброс лишних людей？ за границу по каналам легальной и нелегальной миграции окажется для многонаселенных государств крайне затруднительным, поскольку импорт неквалифицированной рабочей силы станет невыгодным для большинства стран. Ужесточение визовой политики и пограничного режима окажется повсеместным явлением.
– Фактически единственным вариантом действий многих государств по предотвращению социальных волнений останется введение универсального базового дохода. Впрочем, это не решит проблем психологической неустроенности ничем не занятых людей и их социальной деградации. Не исключено, что в таких условиях поддерживать правопорядок и внутреннюю стабильность придется весьма жесткими методами с помощью все того же ИИ или устраивать имитацию общественной активности для широких масс, скорее всего в игровой виртуальной среде (вспомним популярные антиутопии).
– Концентрация на противоположных полюсах пауперизма и фантастического богатства, которое сулит использование высокопроизводительной автоматики, по сути, без участия людей – это еще полбеды. Главным аспектом неравенства станет абсолютная невозможность для подавляющего большинства граждан реализовать свой потенциал в мире, где правит меньшинство, вооруженное мощным ИИ, и конкуренция за место под солнцем лишается всякого шанса на успех. Для оправдания существования такой практически несменяемой элиты понадобится что-то наподобие новой протестантской этики. Не исключено, что поиски оправдания системы пойдут по пути трансгуманизма, где людям (вернее, некоторым из них, избранным по какому-то игровому принципу) будет предоставлена надежда на обретение фактического бессмертия (цифрового, конечно).
– Вполне возможно, что обе тенденции будут сочетаться, совместно разъедая демократию как реальное народовластие, и все это при сохранении декларативной приверженности правам человека и свободам. Демагогия на подобные темы даже усилится, чему будет также способствовать активное использование ИИ. Манипулирование массовым сознанием, видимо, примет более утонченные формы по сравнению с таковым в эпоху телевизора и даже во времена запуска Интернета. Различение в информационном потоке подлинных данных станет недоступной роскошью для индивидов, не имеющих доступа к первоисточникам или мощных средств машинной обработки массовой продукции СМИ. Переход к восприятию постправды как нормы социальных коммуникаций, видимо, станет необратимым.
– Стремление ведущих ИКТ-компаний действовать в максимально возможных, глобальных масштабах для расширения охвата масс пользователей, а значит базиса своей власти, будет ярко выраженной чертой их корпоративной политики и, соответственно, внешней политики государств их базирования (юрисдикции).
– Поскольку дистанционное управление поведением людей в цифровом пространстве возможно и через границы, причем без потери эффективности, скрытое вмешательство наиболее развитых держав в дела зарубежных государств приобретает значительный размах. Инсценируемые ？на пустом месте？ цветные революции и внезапно возникающие, ？как гром среди ясного неба？, общественные волнения станут, возможно, еще более частым явлением. Попытки договориться на международном уровне о запрете такого вмешательства вряд ли в обозримой перспективе приведут к успеху, так как взаимное сдерживание в этой области трудно осуществить из-за неочевидности использования цифровых средств воздействия.
– Велика вероятность разделения мира на ведущие государства –поставщики технологий ИИ и представителей периферии, способных лишь снабжать лидеров ？сырыми？ данными.
Это один из вариантов, каковы другие?
Вместе с тем, несмотря на пророчества Кай-Фу Ли, есть надежда, что таких лидеров может быть несколько, что примерно характеризует модель многополярного мира. В принципе, выкладки Кай-Фу Ли уязвимы, так как базируются на двух предположениях.
Первое из них сводится к тому, что в ближайшей перспективе не произойдут технологические прорывы, подобные освоению глубокого машинного обучения, которое является основой всех практических достижений в области ИИ на современном этапе. Соответственно, технологическое развитие в обозримый период якобы пойдет по пути внедрения в продукты уже известных функций, а не изобретения чего-то принципиально нового. А Китай в вопросах внедрения необычайно силен.
Второе предположение основывается на примерном уравновешивании сравнительных преимуществ США и КНР, которых якобы начисто лишены другие страны. Американцы могут похвастаться небывалой концентрацией первоклассных специалистов в области ИИ, а Китай – обилием данных ввиду численности населения, высокой доли в нем интернет-пользователей и масштабов их охвата различными цифровыми услугами. Однако коррекция любой из величин, заложенных в предположения Кай-Фу Ли, коренным образом меняет всю ситуацию. Кроме того, важно принимать во внимание то, что не все данные являются преобразующей силой, а лишь те, которые особым образом собраны и структурированы, то есть в этой области количество не всегда и зачастую не полностью переходит в качество.
Таким образом, конструкция будущего мироустройства будет в значительной мере определяться степенью и быстротой диффузии соответствующих технологий, то есть темпами ？демократизации искусственного интеллекта？. Сейчас они, судя по всему, замедляются. В целом можно прогнозировать дальнейшие попытки нынешних лидеров гонки за первенство в сфере ИИ (США и КНР) ？законсервировать？ свое превосходство. Однако логично предположить, что одновременно американцы и китайцы постараются, по крайней мере, заручиться гарантиями долгосрочного политического и экономического взаимодействия с другими возможными призерами этого соревнования, с тем чтобы максимально нивелировать преимущества потенциального единоличного победителя, не дать ему стать монополистом.
Поэтому изложенный прогноз не стоит воспринимать как некое пророчество или предчувствие неотвратимой судьбы. Это всего лишь один из вариантов будущего, который надо предусматривать, для того чтобы предотвратить. Отсюда следует общий вывод для нас: необходимо сохранять всеми силами сферу распространения русского языка на постсоветском пространстве и за его пределами, содействовать популяризации российского сегмента Интернета, любыми способами беречь человеческий капитал в сфере ИКТ, расширять международное сотрудничество в целях развития новых технологий и установления контроля над последствиями их внедрения.
искусственный интеллект Боровков И.И.