Профессор Джеффри Хинтон, удостоенный в этом году Нобелевской премии по физике за достижения в области искусственного интеллекта, оценил вероятность того, что AI может привести к вымиранию человечества в течение следующего тридцатилетия, как ？от 10% до 20%？.
Ранее Хинтон предполагал 10-процентную вероятность катастрофических последствий от AI для человечества. На вопрос в программе ？Today？ на BBC Radio 4 о том, изменился ли его прогноз относительно апокалипсиса, вызванного AI, Хинтон ответил: ？Не совсем, от 10% до 20%？.
？Во всяком случае, мы никогда раньше не сталкивались с чем-то более разумным, чем мы сами？.
Он добавил: ？Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример？.
Уроженец Лондона Хинтон, почётный профессор Университета Торонто, сравнил людей с малышами по сравнению с очень мощными системами AI.
？Мне нравится думать об этом так: представьте себя и трёхлетнего ребёнка. Мы будем трёхлетними детьми？, — сказал он.
В прошлом году Хинтон уволился из Google, чтобы более открыто обсуждать риски, связанные с неограниченным развитием AI, опасаясь, что ？злоумышленники？ могут использовать эту технологию во вред. Основная проблема заключается в том, что создание AGI, которое может стать умнее людей, будет экзистенциальной угрозой, ускользнув из-под контроля.
Размышляя о развитии AI, когда он начинал свою работу, Хинтон отметил, что не ожидал столь быстрого прогресса. ？Ситуация такова, что большинство экспертов считают, что в ближайшие 20 лет мы создадим AI, который будет умнее людей. И это очень пугающая мысль？.
Хинтон подчеркнул, что развитие происходит ？очень быстро？ и призвал к государственному регулированию технологий.
？Меня беспокоит, что невидимая рука не обеспечит нашу безопасность. Стремление к прибыли крупных компаний недостаточно для безопасной разработки, — сказал он. — Государственное регулирование — единственный способ заставить компании исследовать безопасность？.
Читайте также: Ту-95, Су-57 и ？Искандеры？ атаковали объекты врага в Киеве и других регионах Украины (КАРТА)