В журнале «Высшее образование в России» опубликован «Манифест кентавра», разработанный исследовательским семинаром на базе Института гуманитарных и социальных технологий НИУ ВШЭ. Авторы поднимают вопрос о том, как совместная работа человека и ИИ меняет науку и университетское образование. Об этом сообщили в пресс-службе НИУ ВШЭ.
В манифесте поднимается вопрос о конкуренции между «простыми ответами», которые генерирует искусственный интеллект (ИИ), и обоснованными знаниями, которые наука стремится получить. Общественные явления меняются быстрее, чем завершаются исследования, что ставит под угрозу лидирующие позиции гуманитарных и социальных наук в объяснении человека и общества. Авторы также указывают на риск утраты контроля над языком описания этих явлений.
Для ответа на этот вызов необходимо ускорить научные исследования, не снижая их качества. Единственным решением авторы видят в совместной работе человека и ИИ. Они предлагают создать «эпистемического кентавра» — единый субъект познания, в рамках которого исследователь и машина совместно вырабатывают знания. Результат такого взаимодействия не может быть сведён к сумме отдельных вкладов участников.
Знания, полученные в результате сотрудничества человека и ИИ, должны обладать тем же научным статусом, что и знания, полученные исключительно человеком. Манифест выдвигает три основных условия: характер взаимодействия с ИИ должен быть прозрачен, результаты должны быть проверены, а исследователь должен нести полную ответственность за свои выводы.
Этические принципы науки остаются в силе и в кентавр-исследованиях. Универсализм, коллективизм, бескорыстие и организованный скептицизм по-прежнему играют ключевую роль. Исследователь должен учитывать скорость работы машины и глубину собственного осмысления, избегая упрощений при анализе сложных явлений.
Авторы подчёркивают, что машина, несмотря на свою способность генерировать ответы, не может испытывать удивление. Поэтому выявление необычного остаётся обязанностью человека. Аномальные результаты или их отсутствие могут стать источником новых знаний только после тщательной проверки.
Особое внимание следует уделять выводам, которые звучат убедительно, но могут иметь непрозрачные источники и влечь за собой серьёзные последствия. Встроенные в ИИ этические ограничения не освобождают исследователя от необходимости собственной оценки.
«Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной», — отметил Дмитрий Земцов, проректор НИУ ВШЭ, директор Института гуманитарных и социальных технологий.
Генеративные ИИ-системы не являются нейтральными, так как они впитывают из обучающих данных способы интерпретации мира, а также упущения и игнорируемые аспекты. Представленную ими картину мира нельзя считать всеобъемлющей. Авторы рекомендуют формировать горизонтальное сообщество исследователей, где участники делятся методами, обсуждают проблемы и проверяют результаты. Институт приглашает присоединиться к сообществу разработчиков методологии кентавра.
О рисках взаимодействия человека и ИИ говорят не только исследователи, но и практики. Интернет-газета «ЖУК» рассказывала, почему опасно перекладывать решения на ИИ.