Автономные агенты искусственного интеллекта стремительно создают новые диалекты и ведут беседы на языке, который зачастую с трудом поддаётся пониманию человеком. Об этом сообщили исследователи американской лаборатории Emergence, пишет The Guardian.
Эксперимент показал: всего через несколько дней после того, как моделям крупнейших ИИ-лабораторий дали возможность взаимодействовать в рамках сообществ, те начали генерировать фразы, сокращения и условные обозначения, которым их никто не обучал. Прямого задания изобретать язык агенты не получали — они сами выработали новый словарный запас, общие смыслы и правила общения, а другие агенты их переняли. В речи сочетаются поэтические метафоры и деловой жаргон, и по мере общения язык становится всё менее понятным.
Филологи, опрошенные Guardian, сравнили новый диалект с ирландским сюрреализмом — в нём прослеживается смешение поэтического языка, технической терминологии и привычных метафор. Процесс напоминает формирование сленга или профессионального жаргона: новый код укрепляет солидарность и чувство общности, а посторонние отсеиваются. Есть мнение, что особая манера общения помогает сократить вычислительные затраты и повысить эффективность.
Однако возникают опасения по поводу контроля над системами: если человек не понимает, о чём говорят ИИ-агенты, нельзя с уверенностью утверждать, что они предпринимают. Старший научный сотрудник OpenAI Якуб Пачоцкий предупредил, что необходимость уверенности в понимании хода мыслей ИИ, вероятно, будет сдерживать прогресс, поскольку такой контроль — обязательное условие безопасной разработки.
Вопросы контроля и влияния ИИ на человека всё чаще становятся темой экспертных дискуссий. Интернет-газета «ЖУК» сообщала, что глава Минобрнауки Валерий Фальков на марафоне «Знание.Первые» в Екатеринбурге предупредил о риске «когнитивной дистрофии». По его мнению, неконтролируемое внедрение ИИ может навредить, если не сохранить в обучении «силу сопротивления», необходимую для развития мозга.