«Галлюцинации» ChatGPT стали предметом жалобы на конфиденциальность в ЕС
Правозащитная группа NOYB пожаловалась в австрийский надзорный орган на OpenAI за предоставление неверной информации чат-ботом ChatGPT, что может нарушать правила конфиденциальности ЕС.
Об этом пишет Reuters.
Заявитель, чьи интересы представляет NOYB, спросил ChatGPT о своем дне рождения. Однако чат-бот несколько раз выдал ложные сведения вместо того, чтобы сообщить об отсутствии необходимой информации.
После обращения заявителя OpenAI якобы отказалась исправить или удалить неточности. Компания заявила о невозможности внесения корректировок, а также не раскрыла информацию об обработке данных, их источниках и получателях.
NOYB требует провести расследование на предмет нарушения OpenAI норм GDPR. Группа призвала к усилению мер, направленных на гарантирование точности обработки персональных данных в рамках работы больших языковых моделей.
Юристка NOYB Маартье де Грааф подчеркнула, что компании пока не могут заставить чат-ботов вроде ChatGPT соблюдать законодательство ЕС при работе с информацией о физлицах.
«Если система не может выдавать точные и прозрачные результаты, ее нельзя использовать для получения данных о частных лицах. Технология должна следовать требованиям закона, а не наоборот», — считает она.
В прошлом OpenAI признавала склонность ChatGPT давать правдоподобные, но неправильные ответы, что известно как «галлюцинации» языковых моделей. Компания считает проблему сложной для решения.
Напомним, в сентябре 2023 года Управление по защите персональных данных Польши начало проверку ChatGPT после жалобы.