Орловцев предупреждают, что ИИ тайно собирает цифровое досье на пользователей

Общаясь с искусственным интеллектом, пользователи нередко делятся личными переживаниями, служебными документами, спрашивают советы в финансовых вопросах и состоянии здоровья. Однако далеко не все задумываются, что часть этих сведений может сохраняться в персонализированной памяти ИИ.

В рамках исследования The Algorithmic Self-Portrait специалисты выяснили, что OpenAI, вопреки собственной политике конфиденциальности данных, сохраняла личные сведения пользователей, формируя их цифровые портреты.

Согласно полученным результатам:

95,9% записей создавались без одобрения пользователя на сохранение;91% имели в памяти учетных записей сведения, относящиеся к персональным данным, среди которых реальные имена, экономический и социальный статус, а также адреса пользователей;у 54% пользователей сохранялась информация о здоровье и личных убеждениях;97% учетных записей имели сохраненные сведения о целях, намерениях, предпочтениях и особенностях поведения.

С точки зрения безопасности накопление персональных данных в памяти ChatGPT создаёт потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье. Дополнительную угрозу представляет возможность манипулирования памятью ИИ посредством внедрения ложных инструкций в обрабатываемые документы.

ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и учёных с учётом их персональных данных и психологических особенностей. Главная опасность – незаметный и адресный характер такого воздействия, который ИИ предоставляет в своих ответах.

Чтобы защитить свои данные:

контролируйте настройки памяти и персонализации ИИ-сервисов;не загружайте в чат с ИИ служебные документы и другую конфиденциальную информацию;по возможности обезличивайте запросы, исключая реальные имена, адреса и другие идентифицирующие сведения;используйте временные чаты при обсуждении личных вопросов и проверяйте сохранённую информацию.

Помните: искусственный интеллект может быть полезным помощником, однако безопасность персональных данных во многом зависит от того, какую информацию вы ему доверяете.