ИИ может незаметно собирать данные орловцев и формировать «цифровое досье»

Специалисты в рамках исследования The Algorithmic Self-Portrait выявили риски, связанные с хранением персональных данных в памяти ИИ. Выяснилось, что OpenAI сохраняла сведения о пользователях даже без их явного согласия: 95,9 % записей создавались без одобрения человека. Об этом сообщает правительство Орловской области. 

В памяти учётных записей у 91 % пользователей хранились персональные данные — реальные имена, адреса, сведения об экономическом и социальном статусе. У 54 % — информация о здоровье и личных убеждениях. Ещё у 97 % система сохраняла данные о целях, намерениях, предпочтениях и особенностях поведения.

Это создаёт риски идентификации даже тех, кто использует псевдонимы: совокупность сведений о работе, доходах, здоровье и переживаниях позволяет сформировать подробное цифровое досье. Кроме того, есть угроза манипуляций: в память ИИ можно внедрить ложные инструкции через обрабатываемые документы. Опасность ещё и в том, что влияние может быть адресным и незаметным — например, при ответах ИИ может учитывать персональные данные и психологические особенности человека.

Чтобы снизить риски, эксперты советуют:

• проверять и контролировать настройки памяти и персонализации в ИИ‑сервисах;
• не загружать в чаты служебные документы и другую конфиденциальную информацию;
• по возможности обезличивать запросы — не указывать реальные имена, адреса и другие данные, по которым можно идентифицировать человека;
• использовать временные чаты для личных вопросов и регулярно проверять, какая информация сохраняется в истории.

Помните: ИИ — удобный помощник, но безопасность ваших данных во многом зависит от того, насколько осторожно вы делитесь информацией.