Кто видит переписку с ИИ: как устроена приватность в чат-сервисах

Разговоры с ИИ-компаньоном бывают откровеннее, чем с живыми людьми, — и это делает вопрос приватности не абстрактным. Разберём, как всё устроено технически, без страшилок и без успокоительных обещаний.

Где физически лежит переписка

В базе данных сервиса. Иначе никак: чтобы персонаж помнил разговор, сообщения надо хранить, и хранить в читаемом для системы виде.

Отсюда первое честное следствие: сквозного шифрования, как в мессенджерах, в ИИ-чатах не бывает в принципе. В мессенджере сервер передаёт зашифрованный ком и не знает содержимого. Здесь сервер обязан прочитать текст, чтобы построить ответ. Любой сервис, обещающий «end-to-end шифрование переписки с ИИ», либо путается в терминах, либо вводит в заблуждение.

Что реально бывает: шифрование канала (это стандарт, HTTPS), шифрование дисков, ограничение доступа сотрудников. Это разумные меры — но это не то же самое.

Куда уходит текст, кроме базы

Второй момент, о котором редко думают. Большинство сервисов не запускают модель у себя — они обращаются к внешнему провайдеру. Значит, ваш текст уходит ещё и туда.

Что с ним делает провайдер, зависит от условий договора. У крупных поставщиков API стандартная практика — не использовать данные из API-запросов для обучения и хранить их ограниченное время для контроля злоупотреблений. Но это условия провайдера, а не сервиса, которым вы пользуетесь.

Практический вывод: смотрите не только на политику сайта, но и на то, названо ли в ней, куда передаются данные.

Идёт ли переписка на обучение

Ключевой вопрос, и ответ у разных сервисов разный.

Обучать большую модель с нуля не может почти никто — это стоит десятки миллионов. Но дообучение на пользовательских диалогах — вполне реальная практика, и именно её стоит искать в документах.

Формулировки, которые должны насторожить: «мы можем использовать контент для улучшения наших сервисов», «для разработки новых продуктов». Это достаточно широко, чтобы покрывать обучение.

Формулировки, которые хороши: прямое «переписка не используется для обучения моделей» и наличие настройки, которой это можно отключить.

Кто из людей может прочитать

Честный ответ для любого сервиса: технически — администраторы базы данных. Вопрос не в том, возможно ли это физически, а в том, при каких условиях это происходит.

Нормальная практика: доступ ограничен узким кругом, используется для расследования жалоб и технических сбоев, действия логируются. Ненормальная — когда об этом вообще ничего не сказано.

Отдельно про модерацию: автоматическая проверка контента есть почти везде и это не про слежку, а про то, что площадка отвечает за то, что на ней происходит. Разница между автоматической проверкой и чтением человеком существенная, и хорошая политика её проговаривает.

На что смотреть при выборе

Пять вопросов, ответы на которые стоит найти до того, как начнёте откровенничать:

Сказано ли прямо, используется ли переписка для обучения?
Названо ли, каким третьим лицам передаются данные?
Можно ли удалить чат и аккаунт, и что происходит с данными после?
Указан ли срок хранения?
Есть ли у сервиса вообще юридическое лицо и контакты, или это анонимный сайт?

Последний пункт недооценён. Сервис без опознавательных знаков не несёт никакой ответственности просто потому, что предъявлять её некому.

Что можете сделать вы

Не сообщайте то, что идентифицирует вас. Полное имя, адрес, место работы, номер карты. Персонажу для правдоподобия достаточно имени.
Отдельная почта. Простая гигиена: регистрация на почту, не связанную с рабочей и основной.
Удаляйте то, что не должно храниться. Возможность снести чат есть у большинства сервисов, и пользоваться ей — нормально.
Прочитайте политику по диагонали. Хватит пяти минут и поиска по словам «обучение», «третьи лица», «удаление».

Как у нас

Noxie — российский сервис, данные хранятся на серверах в России. Переписка нужна только для работы памяти персонажа; чат можно удалить из интерфейса. Детали, включая сроки хранения и порядок удаления аккаунта, изложены в политике конфиденциальности — там же контакты для запросов.

Общий совет, который работает для любого сервиса: исходите из того, что всё написанное хранится. Это не паранойя, а разумная рамка — она позволяет спокойно пользоваться, не выкладывая лишнего.