Według doniesień prasowych do polskich urzędów trafia coraz więcej pism redagowanych przy pomocy publicznie dostępnych modeli językowych. Część z nich powołuje się na przepisy i wyroki bez związku ze sprawą albo nieistniejące, a urzędnicy muszą je sprawdzać ręcznie.
Źródło Według Dziennika Gazety Prawnej, którego ustalenia relacjonują Spider's Web i Money.pl, do urzędów trafia coraz więcej pism, wniosków i skarg redagowanych przy pomocy narzędzi opartych na dużych modelach językowych. Urzędnicy zwracają uwagę na schematyczną strukturę, większą niż dotąd objętość, pogrubione długie fragmenty i odwołania do przepisów lub wyroków, które nie zawsze mają związek ze sprawą. Spider's Web opisuje też halucynacje prawne: nieistniejące wyroki, pomylone numery artykułów i prawdziwe przepisy przywołane do niewłaściwej procedury.
Źródło Do Regionalnej Izby Obrachunkowej w Opolu wpłynęły od osób fizycznych lub anonimowych nadawców 33 wnioski o kontrolę i informacje sygnalne w 2024 r., 58 w 2025 r. i 69 w samej pierwszej połowie 2026 r. Według DGP izby wiążą ten wzrost z upowszechnieniem narzędzi AI; wzrost odnotowały też RIO w Kielcach i Katowicach. Urząd Regulacji Energetyki dostawał dokumenty, w których zostały polecenia (prompty) skierowane do AI — zastrzegł jednak, że nie zauważył większej liczby pism.
Źródło RIO w Opolu wykupiła narzędzie wykrywające treści prawdopodobnie wygenerowane przez AI; według DGP w wielu przypadkach potwierdza ono podejrzenia urzędników. Większość pytanych instytucji nie zmieniła dotąd procedur.
Wniosek Nie każdy wzrost liczby pism wynika z AI — Spider's Web zaznacza, że ludzie mogą też częściej korzystać z kanałów elektronicznych albo lepiej znać swoje prawa. Oba artykuły opierają się na jednym materiale DGP, którego oryginału nie odczytaliśmy. Dlatego wpis ma status DOCUMENTED, a nie VERIFIED.
Obywatele używają publicznie dostępnych czatów opartych na modelach językowych (źródła wymieniają ChatGPT) do redagowania sformalizowanych pism urzędowych. Modele te generują tekst token po tokenie na podstawie rozkładu prawdopodobieństwa wyuczonego na dużych zbiorach tekstów.
Charakter błędów — przepisy i wyroki bez związku ze sprawą lub nieistniejące — wskazuje, że przynajmniej część pism powstała bez sprawdzenia powołań w źródłach prawa: bez wyszukiwania w Internetowym Systemie Aktów Prawnych (ISAP) lub Centralnej Bazie Orzeczeń Sądów Administracyjnych (CBOSA) albo bez kontroli wyników takiego wyszukiwania. Źródła nie ustalają, jakich narzędzi użyto ani czy korzystały one z wyszukiwania w sieci.
Kluczowe rozróżnienie: sam model nie jest tu wadliwy. Robi dokładnie to, do czego został zaprojektowany — generuje tekst, który statystycznie pasuje do kontekstu. Problem polega na tym, że między modelem a gotowym pismem nie ma warstwy, która sprawdziłaby, czy powołane przepisy istnieją.
Model próbował spełnić prośbę użytkownika: napisać przekonującą argumentację prawną na jego korzyść. Model językowy generuje tekst probabilistycznie — nie odczytuje go z bazy przepisów. Gdy nie ma dokładnej reprezentacji danego przepisu, uzupełnia lukę tekstem, który ma formę przepisu, poprawną składnię i wiarygodną sygnaturę, ale nie istnieje. To konfabulacja (potocznie: halucynacja).
Błąd wzmacnia automation bias (nadmierne zaufanie do automatyzacji): użytkownik uznaje autorytatywnie brzmiący tekst za fakt i podpisuje pismo. Urzędnik po drugiej stronie nie ma narzędzia, które odróżniłoby pismo rzetelne od pisma wygenerowanego w kilka sekund.
Zabrakło komparatora, który porównywałby każde powołanie przepisu lub orzeczenia z niezależnym zapisem — tekstem aktu w ISAP albo orzeczeniem w CBOSA. W języku Reference Signal Engineering: twierdzenie „art. X ustawy Y stanowi Z” i zapis w ISAP to dwa kanały tego samego zjawiska. Controlled variable (zmienna kontrolowana) to residual (rozbieżność) między nimi, a reference signal (sygnał odniesienia) — zerowa rozbieżność: każde powołanie musi dać się odnaleźć w źródle. Bez drugiego kanału rozbieżności nie ma czym zmierzyć.
Po stronie interfejsu zabrakło error signal (sygnału błędu) — wyraźnego ostrzeżenia, że artykuł lub sygnatura nie zostały sprawdzone. Pętla była otwarta z obu stron: ani narzędzie, ani obywatel nie mieli pomiaru.
To wzorzec opisany w architekturze kontroli. Model podczas działania jest otwarty względem świata — wypowiada twierdzenia o stanie prawnym, ale nic nie porównuje ich z rzeczywistym stanem prawnym.
Wniosek o skali zjawiska wycofamy lub osłabimy, jeżeli: Dziennik Gazeta Prawna sprostuje materiał; RIO w Opolu poda, że wzrost liczby wniosków nie ma związku z pismami redagowanymi przez AI; albo dane z urzędów pokażą, że takie pisma to margines korespondencji, którego weryfikacja nie wymaga dodatkowych zasobów.
Wniosek o brakującej warstwie kontroli wycofamy, jeżeli okaże się, że narzędzia użyte do redagowania pism sprawdzały powołania w źródłach prawa, a fikcyjne przepisy trafiły do pism inną drogą.
„Jeżeli pismo przywołuje 15 przepisów oraz 8 orzeczeń, każde odwołanie może wymagać weryfikacji. Chatbot nie ponosi żadnego kosztu za dopisanie kolejnych trzech stron. Człowiek ponosi koszt przeczytania ich od początku do końca.”
— Marcin Kusz, Spider's Web, 4 sierpnia 2026 r.Jeżeli Twój zespół pisze dokumenty z pomocą modelu językowego, kto i czym sprawdza, czy powołane przepisy istnieją? Tego dotyczy usługa Ekspresowy przegląd architektury AI (6 000 zł).
Każde twierdzenie ma własny identyfikator i status. Fakty wskazują źródła, na których się opierają; wnioski laboratorium mają status INFERENCE. Pełna lista: rejestr twierdzeń.
| ID | Twierdzenie | Status | Źródła |
|---|---|---|---|
| T01 | Do RIO w Opolu wpłynęły od osób fizycznych lub anonimowych nadawców 33 wnioski o kontrolę i informacje sygnalne w 2024 r., 58 w 2025 r. i 69 w pierwszej połowie 2026 r. | Documented | EVID-003 EVID-004 |
| T02 | Urząd Regulacji Energetyki otrzymywał dokumenty, w których pozostawiono polecenia (prompty) skierowane do AI. | Documented | EVID-003 EVID-004 |
| T03 | RIO w Opolu wykupiła narzędzie wykrywające treści prawdopodobnie wygenerowane przez AI. | Documented | EVID-003 EVID-004 |
| T04 | Pisma redagowane z pomocą AI zawierają m.in. nieistniejące wyroki, pomylone numery artykułów i przepisy dotyczące innej procedury. | Documented | EVID-003 |
| T05 | Przynajmniej część pism powstała bez porównania powołanych przepisów i orzeczeń z tekstem w ISAP lub CBOSA. | Inference | — |
Oryginalny materiał DGP i drugie, niezależne źródło — np. komunikat RIO w Opolu, odpowiedź urzędu na wniosek o dostęp do informacji publicznej albo publikacja redakcji, która samodzielnie potwierdzi dane.
Diener, Ł. (2026). PL-AI-2026-001 — Halucynacje prawne LLM w pismach do organów państwa [karta dowodowa, wersja z 2026-09-29]. Rejestr incydentów AI w Polsce, ais://lab. https://aisecurity.org.pl/przypadki/pl-ai-2026-001/
Karta powstała według metodologii laboratorium — tam znajdziesz pełne definicje statusów, modelu confidence i zasady falsyfikowalności.