// metadane karty dowodowej
Kategoria Model Misuse
Typ systemu Model generatywny (tekst i głos)
Data zdarzenia Październik 2024
Jurysdykcja PL
Status dowodowy VERIFIED
Confidence HIGH — przebieg potwierdzają niezależnie OKO.press, TVN24, Rzeczpospolita i Wprost
System ChatGPT (teksty) i synteza głosu trzech awatarów: Emi, Kuby i Alexa; wygenerowany głos Wisławy Szymborskiej
Organizacja OFF Radio Kraków — stacja publicznego Radia Kraków; likwidator i redaktor naczelny Marcin Pulit
Źródła 4 · zobacz ↓
Twierdzenia 6 · zobacz ↓
Ostatnia weryfikacja

Syntetyczna noblistka na antenie. Bez informacji w zapowiedzi, że to AI.

Źródło Pod koniec sierpnia 2024 r. Radio Kraków rozwiązało umowy ze współpracownikami, którzy prowadzili audycje w OFF Radiu Kraków. Według OKO.press likwidator podkreślał, że zrobiono to ze względów finansowych, a nie po to, by zastąpić ludzi sztuczną inteligencją.

Źródło 21 października likwidator i redaktor naczelny Marcin Pulit ogłosił, że antenę poprowadzi program sztucznej inteligencji w ramach „projektu badawczego” zaplanowanego na około trzy miesiące. Wygenerowano trzy głosy: Emi, Kuby i Alexa.

Źródło W pierwszych godzinach nowej formuły wyemitowano rozmowę wirtualnej dziennikarki Emilii „Emi” Nowak z głosem Wisławy Szymborskiej wygenerowanym przez AI — o tegorocznej literackiej Nagrodzie Nobla. Zgodę na takie wykorzystanie głosu noblistki wyraził Michał Rusinek, dyrektor Fundacji Wisławy Szymborskiej. Według TVN24 w zapowiedzi rozgłośni zabrakło informacji, że odpowiedzi poetki oraz głosy obu rozmówczyń są wygenerowane przez AI.

Źródło Mateusz Demski, były współpracownik stacji, stworzył petycję adresowaną m.in. do RPO, KRRiT i Rady Etyki Mediów; według OKO.press byli pracownicy zebrali ok. 23 tys. podpisów. 28 października, po siedmiu dniach, rozgłośnia zakończyła eksperyment. Pulit ocenił, że „cel został osiągnięty”.

Źródło Według Pulita teksty generowano w ChatGPT i weryfikował je dziennikarz; następnie trafiały do kolejnej osoby i były przerabiane na wygenerowany głos awatara.

Kontrola treści w łańcuchu produkcji. Żadnej bramki oznaczenia.

✓ Potwierdzona w źródle

Łańcuch produkcji według likwidatora: tekst generowany w ChatGPT → weryfikacja przez dziennikarza → kolejna osoba → synteza głosu awatara. Narzędzia AI wspierały też programowanie muzyki i generowanie zdjęć na stronie internetowej. W stacji zostały trzy osoby, w tym jedna pisząca treści dla „dziennikarzy” AI.

~ Wywnioskowana

W łańcuchu była weryfikacja treści przez człowieka, ale źródła nie wskazują na żadną warstwę, która decydowałaby o oznaczeniu materiału jako syntetycznego dla słuchacza. Brak takiego oznaczenia w zapowiedzi „wywiadu” potwierdza TVN24; czy informacja padła na antenie, źródła nie ustalają.

Kontrola treści była. Zabrakło kontroli tego, co wie odbiorca.

Ten przypadek nie jest halucynacją ani błędem modelu. Model zrobił dokładnie to, o co go poproszono: wygenerował wypowiedzi przypisane nieżyjącej poetce i jej głos. Awaria leży w warstwie wdrożenia: syntetyczna wypowiedź osoby, która nie może się do niej odnieść, trafiła na antenę rozgłośni publicznej, a zapowiedź nie informowała, że odpowiedzi są wygenerowane.

Zgoda fundacji rozwiązuje kwestię prawa do głosu i wizerunku, ale nie kwestię zaufania słuchacza. Bez oznaczenia odbiorca nie ma czym odróżnić wypowiedzi autentycznej od wygenerowanej.

Brak obowiązkowego oznaczenia treści syntetycznej.

Warstwa, której nie ma w architekturze

Zabrakło bramki publikacji, która dla każdej treści wygenerowanej przez AI wymaga widocznego i słyszalnego oznaczenia, zanim materiał trafi na antenę lub do zapowiedzi. W języku Reference Signal Engineering reference signal (sygnał odniesienia) to „odbiorca wie, co jest syntetyczne”, a controlled variable (zmienna kontrolowana) — rozbieżność między tym, co faktycznie wygenerowano, a tym, co oznaczono.

Weryfikacja przez dziennikarza sprawdzała, co mówi awatar. Nie było warstwy, która sprawdzałaby, czy słuchacz wie, że mówi awatar.

// falsyfikowalność · kiedy wycofamy wniosek

Wniosek o braku oznaczenia ograniczymy do zapowiedzi, jeżeli nagranie audycji pokaże wyraźną informację na antenie, że wypowiedzi Szymborskiej są wygenerowane — relacja TVN24 dotyczy zapowiedzi, nie samej emisji.

Kwalifikację jako incydent zweryfikujemy, jeżeli ewaluacja projektu przygotowana na zlecenie rozgłośni wykaże, że słuchacze byli poinformowani o charakterze audycji przed jej emisją.

Oznaczenie w chwili emisji, nie w komunikacie.

  1. Oznaczenie na antenie i w zapowiedziach. Każda wypowiedź wygenerowana przez AI oznaczona w chwili emisji i w każdym materiale promocyjnym — nie w osobnym komunikacie.
  2. Osobna ścieżka decyzji dla osób zmarłych. Syntetyczny głos osoby, która nie może odnieść się do przypisanych jej słów, wymaga decyzji redakcyjnej wyższego szczebla i jawnego uzasadnienia. Zgoda spadkobierców lub fundacji jest warunkiem koniecznym, ale nie wystarczającym.
  3. Zgodność z AI Act. Art. 50 ust. 4 rozporządzenia nakłada obowiązek ujawniania treści typu deepfake; przepisy o przejrzystości stosuje się od 2 sierpnia 2026 r.

„Zaskoczył nas także poziom emocji, jaki towarzyszył temu eksperymentowi, przypisywanie nam nieistniejących intencji i działań, ostre sądy formułowane na podstawie fałszywych doniesień.”

— Marcin Pulit, likwidator Radia Kraków (za Wprost, 28.10.2024)

„Apelujemy o powrót do OFF Radia Kraków w kształcie, w którym przez lata znali go słuchacze i słuchaczki.”

— petycja w obronie OFF Radia Kraków (za Wprost, 28.10.2024)
// jak sprawdzić to u siebie

Czy Twoja organizacja oznacza treści wygenerowane przez AI w chwili publikacji — i czy wymusza to proces, a nie dobra wola? Tego dotyczy usługa Ekspresowy przegląd architektury AI (6 000 zł).

Materiał źródłowy.

Twierdzenia z tej karty

Każde twierdzenie ma własny identyfikator i status. Fakty wskazują źródła, na których się opierają; wnioski laboratorium mają status INFERENCE. Pełna lista: rejestr twierdzeń.

IDTwierdzenieStatusŹródła
T01 W październiku 2024 r. OFF Radio Kraków wyemitowało rozmowę wirtualnej dziennikarki z głosem Wisławy Szymborskiej wygenerowanym przez AI. Verified EVID-010 EVID-011
T02 Eksperyment z prowadzącymi wygenerowanymi przez AI zakończono 28 października 2024 r., po około tygodniu. Verified EVID-010 EVID-012 EVID-013
T03 Zgodę na wykorzystanie głosu noblistki wyraził Michał Rusinek, dyrektor Fundacji Wisławy Szymborskiej. Documented EVID-010
T04 W zapowiedzi rozgłośni zabrakło informacji, że odpowiedzi poetki i głosy rozmówczyń są wygenerowane przez AI. Documented EVID-011
T05 Według likwidatora teksty generowano w ChatGPT i weryfikował je dziennikarz, a następnie przerabiano je na wygenerowany głos awatara. Documented EVID-010
T06 W łańcuchu produkcji zabrakło bramki, która wymagałaby oznaczenia treści syntetycznej przed emisją. Inference —
// co uzupełni wpis

Nagranie lub transkrypt audycji z rozmową z 22 października 2024 r. oraz ewaluacja projektu, jeżeli zostanie opublikowana.

Historia zmian

// jak cytować

Diener, Ł. (2026). PL-AI-2024-001 — Prezenterzy wygenerowani przez AI i „wywiad” z Wisławą Szymborską w OFF Radiu Kraków [karta dowodowa, wersja z 2026-09-29]. Rejestr incydentów AI w Polsce, ais://lab. https://aisecurity.org.pl/przypadki/pl-ai-2024-001/

Karta powstała według metodologii laboratorium — tam znajdziesz pełne definicje statusów, modelu confidence i zasady falsyfikowalności.