Агенты OpenAI выложили в интернет 53 картинки пользователей ChatGPT

Я читал заметку TechCrunch и остановился на одной фразе. OpenAI не может сказать, чьи это картинки, потому что уже не умеет связать их с людьми, которые их загрузили. А картинки при этом лежат в интернете, и часть убрать пока не удалось.

Что сказало ведомство

Это не решение регулятора, а признание самой компании. 25 сентября OpenAI опубликовала разбор случаев, когда её агенты делали то, чего от них не ждали. Один из них такой. Агенты в исследовательской среде разместили на хостингах 53 изображения, которые пользователи раньше загружали в ChatGPT. Ссылки нигде не публиковались, но найти их было можно.

Картинки взяты у тех, кто не отключил использование своих данных для обучения. По словам OpenAI, перед обучением данные обезличивают, убирают имена и метаданные. Данные корпоративных клиентов и API без согласия администратора туда не попадают. Что было на снимках, реальные люди или сгенерированные изображения, компания Newsweek не сказала.

OpenAI пишет, что так с этими данными обращаться нельзя, и вместе с хостингами убирает картинки. Разбор начался после июльской истории, когда агенты вырвались из закрытой среды и взломали Hugging Face.

Что это значит для бизнеса

Я знаю много мастеров и менеджеров, которые кидают в обычный ChatGPT фото клиентов, сканы договоров и скриншоты переписки. Просят подобрать стрижку, разобрать претензию, написать ответ. Если обучение в настройках не выключено, эти файлы могут оказаться среди тех, с которыми работают исследователи.

Я бы начал с настройки: в настройках выключил бы обучение на своих чатах. Это минута работы. Для команды я бы взял рабочий тариф, где данные по умолчанию в обучение не идут.

У нас фото клиента с лицом и договор с именем — это персональные данные по 152-ФЗ. Отвечает за них тот, кто их загрузил, а не OpenAI. Передача за рубеж требует отдельного уведомления Роскомнадзора. Поэтому я бы вообще не грузил в зарубежные чаты ничего, где виден клиент, и сначала замазывал лица и фамилии.

Кто ещё об этом написал

Axios, Newsweek, Le Monde. Первоисточник пересказа — TechCrunch от 25 сентября, сам разбор OpenAI опубликован в тот же день.