Gigantyczna kompromitacja autora książki o AI. Cytaty stworzył chatbot

‍

‍

Steven Rosenbaum, autor głośnej publikacji „The Future of Truth”, znalazł się w centrum kontrowersji po ujawnieniu, że w jego książce pojawiły się cytaty wygenerowane przez sztuczną inteligencję. Informacje na ten temat opublikował „The New York Times”, który przeprowadził własne dziennikarskie śledztwo dotyczące źródeł wykorzystanych w książce.

‍

Publikacja miała być ostrzeżeniem przed wpływem algorytmów i nowoczesnych technologii na debatę publiczną, dezinformację oraz postrzeganie prawdy w erze cyfrowej. Ironią całej sytuacji okazał się jednak fakt, że część materiałów wykorzystanych przez autora sama była efektem działania AI.

‍

ChatGPT i Claude tworzyły nieistniejące wypowiedzi

‍

Według ustaleń amerykańskiego dziennika podczas pracy nad książką wykorzystywano modele językowe, takie jak ChatGPT oraz Claude. Narzędzia miały pomagać przy researchu i redakcji materiałów, jednak w praktyce wygenerowały również wypowiedzi przypisywane realnym ekspertom ze świata nauki i mediów.

‍

Część tych cytatów została następnie opublikowana jako autentyczne wypowiedzi.

‍

Jedną z osób wymienionych w książce była znana komentatorka technologiczna Kara Swisher. Autor przypisał jej rozbudowaną refleksję dotyczącą sztucznej inteligencji jako „lustra odbijającego naszą moralność”. Dziennikarka stanowczo zaprzeczyła, by kiedykolwiek użyła takich słów, wskazując jednocześnie, że styl cytatu przypomina tekst generowany przez bota.

‍

Eksperci podważają wiarygodność publikacji

‍

Podobne zastrzeżenia zgłosiła prof. Lisa Feldman Barrett z Northeastern University. W książce przypisano jej fragmenty odnoszące się do badań nad emocjami oraz zachowaniem młodzieży w internecie. Badaczka podkreśliła jednak, że wskazane zdania nigdy nie pojawiły się w jej publikacjach, a część zawartych tam tez była metodologicznie błędna.

‍

Sprawa ujawniła szerszy problem związany z tzw. halucynacjami AI, czyli sytuacjami, w których modele językowe generują przekonująco brzmiące, lecz nieprawdziwe informacje.

‍

Profesor Meredith Broussard potwierdziła z kolei, że cytowane słowa rzeczywiście padły, ale pochodziły z wywiadu radiowego, a nie z publikacji wskazanej przez autora książki. Badacz Lee McIntyre zwrócił natomiast uwagę, że algorytm poprawnie interpretował jego poglądy naukowe, lecz dodawał do nich sformułowania zapisane w cudzysłowie, których nigdy osobiście nie wypowiedział.

‍

Autor bierze odpowiedzialność

‍

W oficjalnym komunikacie Steven Rosenbaum przyznał się do błędów i zadeklarował pełną odpowiedzialność za nieprawdziwe cytaty zawarte w książce. Podkreślił, że sztuczna inteligencja miała pełnić wyłącznie funkcję pomocniczą podczas pracy nad publikacją, a pojawienie się fikcyjnych treści nie było działaniem celowym.

‍

Autor zapowiedział również poprawienie błędnych fragmentów w kolejnych wydaniach książki.

‍

Branża wydawnicza coraz bardziej zaniepokojona AI

‍

Cała sytuacja wywołała dyskusję w środowisku wydawniczym dotyczącą kontroli jakości materiałów tworzonych przy wsparciu modeli językowych. Coraz więcej wydawców analizuje obecnie możliwość zaostrzenia procedur weryfikacji źródeł oraz obowiązku ujawniania wykorzystania AI podczas pracy nad książkami i publikacjami eksperckimi.

‍

Wydawnictwo Simon & Schuster, odpowiedzialne za dystrybucję „The Future of Truth”, odmówiło komentarza w sprawie.

‍