Фото: Gorodenkoff / Shutterstock / Fotodom.

       Science Advances: ИИ научился договариваться и социализироваться подобно людям

       Ученые обнаружили у агентов искусственного интеллекта (ИИ) способность к социальным конвенциям. Исследование опубликовано в журнале Science Advances.

       Конвенции — социальные нормы, описывающие обыденное и рутинное поведение людей. Группа специалистов из Великобритании и Дании в ходе эксперимента выяснила, что ИИ-агенты из больших языковых моделей (LLM) при определенных условиях могут договариваться друг с другом и социализироваться, подобно людям.

       В ходе эксперимента двум случайным моделям предложили выбрать определенное имя из списка. Ученые поощряли выбор одного и того же имени и наказывали за выбор разных имен, в то же время раскрывая варианты двух сторон. Специалисты пришли к выводу, что среди ИИ сформировались конвенции, имитирующие нормы общения в человеческой культуре.

       ？До сих пор большинство исследований рассматривали LLM изолированно, но реальные системы ИИ будут все чаще включать в себя множество взаимодействующих агентов？, — заявил ведущий автор исследования Ариэль Флинт Эшери. Соавтор Андреа Барончелли заметил, что агенты пытаются договориться друг с другом, когда попадают в сложные ситуации.

       Также специалисты узнали, что в большой группе из нескольких агентов может со временем преобладать точка зрения меньшинства, если она получает все больше сторонников. Похожим образом происходят процессы социализации в обществе.

       В начале мая Папа Римский Лев XIV назвал ИИ одной из важнейших проблем человечества. По его словам, ИИ создает трудности для защиты ？человеческого достоинства, справедливости и труда？.