OpenAI обвинили в нарушении GDPR — бот ChatGPT приписал реальному человеку убийство двоих детей и попытку убить третьего

Нейросети давно и часто галлюцинируют, но есть разница между «безобидными ошибками» и клеветой.

Интересы норвежца Арве Хьялмара Холмена представляет некоммерческая организация по защите данных NOYB. Она направила жалобу норвежскому регулятору не на европейский офис OpenAI в Ирландии, а сразу на американскую структуру.
Мужчина обнаружил выдуманную историю о себе, когда спросил у бота, «кто такой Арве Хьялмар Холмен». ChatGPT не ошибся, что тот из Норвегии, живёт в Тронхейме, отец троих сыновей. Однако вместе с тем заявил, что в 2020 году его приговорили к 21 году тюрьмы за убийство двоих детей и покушение на третьего.
NOYB изучила газетные архивы, предполагая, что у заявителя есть осуждённый тёзка, но ничего не нашла. Бот больше не клевещет о Хьялмаре Холмене, но и сам норвежец, и НКО обеспокоены тем, что «дискредитирующие» данные о нём могли сохраниться в дата-сетах и однажды «всплывут» в ответах другим пользователям.
В соответствии с генеральным регламентом о защите данных — GDPR — граждане ЕС могут запрашивать исправления неточной информации о себе. «Контролёр» данных также должен следить за тем, чтобы сведения о физлицах, которые он предоставляет, были верными. На эти положения и ссылается организация. Если нарушения докажут, компании может грозить оборотный штраф.
OpenAI предупреждает пользователей, что бот может ошибаться, но этого «недостаточно», когда речь идёт об ошибках вроде этой, считают в NOYB.

Тот самый ответ чат-бота, опубликованный NOYB

#новости #openai