ChatGPT может запоминать содержание личных разговоров и использовать сведения о пользователе в последующих диалогах благодаря функции Memory. Об этом «Газете.Ru» рассказала AI/ML-инженер, эксперт по большим языковым моделям, AI-агентам и автоматизации бизнес-процессов Надежда Широглазова.
ChatGPT обладает специальным механизмом персонализации, который отличается от истории чатов. История представляет собой архив сообщений, доступный пользователю в его аккаунте. В отличие от этого, память ChatGPT не сохраняет разговоры дословно. Система выделяет ключевые факты, предпочтения, цели и связи, которые могут быть полезны в будущем.
Например, ChatGPT способен учитывать такие данные, как имя человека, его профессия, место работы или учёбы, город проживания, интересы, текущие проекты, предпочитаемый формат ответов и личные обстоятельства. Это значительно улучшает качество взаимодействия для активных пользователей: им не нужно каждый раз заново объяснять, кто они и над чем работают.
Хотя просьба сохранить информацию не является обязательной, система может автоматически зафиксировать данные, если посчитает их полезными для будущих бесед. Однако здесь возникает риск: то, что система считает важным, не всегда совпадает с мнением пользователя.
Удаление истории чатов не приводит к автоматическому удалению сформированной памяти. Сохранённые факты могут продолжать использоваться даже после удаления исходного чата, так как память хранится отдельно от истории. Для полного удаления информации необходимо удалить её из памяти, а также очистить обычные и архивированные чаты, при необходимости проверив загруженные файлы и подключённые приложения.
Простое отключение функции Memory не удаляет старые переписки. Если функция будет включена снова, система сможет извлечь информацию из оставшейся истории.
Для чувствительных разговоров эксперты рекомендуют использовать Temporary Chat. Этот тип чата не создаёт новую память, не использует существующую персонализацию и не отображается в истории. Он также не используется для обучения моделей. Однако его копия может храниться до 30 дней в целях безопасности.
«Сохраненный факт может продолжать использоваться после удаления исходного чата, поскольку память хранится отдельно от истории. Чтобы максимально полно удалить информацию, необходимо убрать ее из памяти, удалить соответствующие обычные и архивированные чаты, а при необходимости проверить загруженные файлы и подключенные приложения», — пояснила она.
При любых настройках не рекомендуется передавать искусственному интеллекту пароли, коды подтверждения, полные данные документов и банковских карт, приватные ключи и конфиденциальную информацию о клиентах, утечка которой может иметь серьёзные последствия.
Вопросы приватности — не единственная проблема, связанная с ChatGPT. Масштабы использования чат-бота ставят и более серьёзные вопросы. Как рассказывала интернет-газета «ЖУК», свыше миллиона человек в неделю обсуждают с ChatGPT тему самоубийств.