Model językowy wygenerował błędną biografię konkretnej osoby. Problem ujawnił się, gdy ta osoba skorzystała z praw z RODO, a żądanie sprostowania nie zostało zrealizowane. Według naszej analizy system nie miał kanału, którym dałoby się błędne dane trwale poprawić.
Źródło Według TechCrunch 29 sierpnia 2023 r. dr Łukasz Olejnik, badacz bezpieczeństwa i prywatności, złożył do polskiego organu ochrony danych 17-stronicową skargę na OpenAI. Wcześniej poprosił ChatGPT o swoją biografię i otrzymał tekst z błędami. Pod koniec marca 2023 r. zwrócił się do OpenAI o sprostowanie i o informacje, które RODO pozwala uzyskać o przetwarzanych danych. Rzecznik UODO potwierdził redakcji, że to pierwsza skarga na ChatGPT, jaką otrzymał urząd.
Źródło 20 września 2023 r. UODO poinformował, że rozpatruje skargę: ChatGPT „wygenerował nieprawdziwe informacje na temat osoby skarżącego”, prośba o ich sprostowanie nie została zrealizowana, a skarżący nie dowiedział się, jakie dane na jego temat są przetwarzane. Skarga zarzuca też naruszenie art. 12 i art. 5 ust. 1 lit. a RODO — odpowiedzi miały być „wymijające, wprowadzające w błąd i w dodatku wewnętrznie sprzeczne” — oraz niewykonanie obowiązku informacyjnego przy pozyskaniu danych do trenowania modeli.
Źródło W raporcie z 23 maja 2024 r. grupa robocza EROD ds. ChatGPT zauważyła, że celem przetwarzania jest trenowanie modelu, a nie dostarczanie informacji zgodnych z faktami, i że ze względu na probabilistyczny charakter systemu model może generować treści stronnicze lub zmyślone. Środki przejrzystości uznała za niewystarczające do spełnienia zasady prawidłowości danych.
Wniosek Źródła nie podają decyzji kończącej postępowanie przed UODO. Stanu sprawy na dzień weryfikacji karty nie udało się ustalić.
ChatGPT generuje odpowiedzi modelem wytrenowanym m.in. na danych z internetu; według skargi OpenAI pozyskało dane skarżącego w 2021 r. Skarżący nie otrzymał informacji o źródle danych ani o ich odbiorcach.
Z opisu EROD wynika, że informacja o osobie nie istnieje w modelu jako rekord, który można odszukać i sprostować — jest odtwarzana przy każdej odpowiedzi. Źródła nie opisują, jakie mechanizmy (np. filtry odpowiedzi) OpenAI stosowało wobec żądań sprostowania w 2023 r.
Konfabulacja o osobie to nie tylko błąd faktograficzny. W świetle RODO to przetwarzanie nieprawidłowych danych osobowych, a administrator ma obowiązek je sprostować. System, w którym dane o osobie nie są przechowywane jako rekord, lecz odtwarzane statystycznie, nie ma naturalnego miejsca na sprostowanie.
EROD opisała też drugą stronę problemu: użytkownicy prawdopodobnie traktują odpowiedzi ChatGPT jako zgodne z faktami, także te dotyczące osób — niezależnie od ich rzeczywistej prawdziwości.
Zabrakło dwóch sprzężeń. Pierwsze to komparator między twierdzeniem modelu o osobie a niezależnym zapisem — źródłem, które można wskazać i sprawdzić. Drugie to kanał korekty: żądanie sprostowania od osoby, której dane dotyczą, jest sygnałem błędu, ale według skargi nie zmieniło niczego w działaniu systemu.
W języku Reference Signal Engineering reference signal (sygnał odniesienia) to „twierdzenie o osobie zgodne ze źródłem albo oznaczone jako niesprawdzone”, a controlled variable (zmienna kontrolowana) — rozbieżność między odpowiedzią a zapisem źródłowym.
Wniosek o braku kanału korekty wycofamy, jeżeli UODO lub OpenAI ujawnią, że żądanie skarżącego zostało zrealizowane w sposób, który trwale zmienił odpowiedzi modelu na jego temat.
Wpis zmienimy, jeżeli decyzja UODO ustali, że informacje wygenerowane o skarżącym były prawdziwe.
„It has to be noted that the purpose of the data processing is to train ChatGPT and not necessarily to provide factually accurate information.”
— Grupa robocza EROD ds. ChatGPT, raport z 23 maja 2024 r., pkt 30 (cytat w oryginale; w tłumaczeniu: celem przetwarzania danych jest trenowanie ChatGPT, a niekoniecznie dostarczanie informacji zgodnych z faktami)Czy Twój system AI może wygenerować nieprawdziwe informacje o kliencie lub pracowniku — i czy istnieje kanał, którym sprostowanie trafi do systemu? Tego dotyczy usługa Audyt architektury systemu AI (od 20 000 zł).
Każde twierdzenie ma własny identyfikator i status. Fakty wskazują źródła, na których się opierają; wnioski laboratorium mają status INFERENCE. Pełna lista: rejestr twierdzeń.
| ID | Twierdzenie | Status | Źródła |
|---|---|---|---|
| T01 | UODO rozpatruje skargę na OpenAI złożoną po tym, jak ChatGPT wygenerował nieprawdziwe informacje o skarżącym, a żądanie ich sprostowania nie zostało zrealizowane. | Verified | EVID-018 EVID-019 |
| T02 | Skargę złożył 29 sierpnia 2023 r. dr Łukasz Olejnik; według TechCrunch UODO potwierdził, że to pierwsza skarga na ChatGPT w urzędzie. | Documented | EVID-019 |
| T03 | Grupa robocza EROD ds. ChatGPT uznała, że środki przejrzystości nie wystarczają do spełnienia zasady prawidłowości danych. | Documented | EVID-020 |
| T04 | System nie miał kanału, którym żądanie sprostowania mogłoby trwale zmienić twierdzenia modelu o osobie. | Inference | — |
Decyzja Prezesa UODO kończąca postępowanie albo informacja o jego stanie; potwierdzenie treści błędnych informacji w materiale innym niż relacja skarżącego.
Diener, Ł. (2026). PL-AI-2023-001 — ChatGPT generował nieprawdziwe informacje o osobie, a OpenAI nie sprostowało danych — skarga do UODO [karta dowodowa, wersja z 2026-10-01]. Rejestr incydentów AI w Polsce, ais://lab. https://aisecurity.org.pl/przypadki/pl-ai-2023-001/
Karta powstała według metodologii laboratorium — tam znajdziesz pełne definicje statusów, modelu confidence i zasady falsyfikowalności.