Książka „The Future of Truth” (Przyszłość prawdy) miała premierę w tym miesiącu i szybko zdobyła rozgłos w amerykańskich mediach. Publikacja, promowana m.in. przez laureatkę Pokojowej Nagrody Nobla Marię Ressę, miała stanowić rzetelne ostrzeżenie przed destrukcyjnym wpływem algorytmów na debatę publiczną. Jak ustalił jednak dziennik „The New York Times”, weryfikacja materiałów źródłowych przez autora okazała się iluzoryczna. W rozdziałach poświęconych m.in. dezinformacji sztuczna inteligencja (narzędzia ChatGPT oraz Claude) samodzielnie wygenerowała wypowiedzi znanych postaci ze świata nauki i mediów, które następnie przepisano jako autentyczne.
Czytaj więcej
Z opóźnionym zapłonem rozchodzi się wieść, że, pisząc nową książkę, noblistka Olga Tokarczuk miała kontakt z AI. Każdy czytelnik zadaje sobie pytan...
Skandal w książce o AI. Sztuczna inteligencja wymyśliła cytaty
Dziennikarze „The New York Times” skontaktowali się z osobami wymienionymi w książce. Jedną z nich była znana publicystka technologiczna Kara Swisher. W publikacji przypisano jej rozbudowany, metaforyczny monolog o AI jako „lustrze odbijającym naszą moralność”. Swisher wprost zaprzeczyła wypowiedzeniu tych słów, wskazując, że styl wypowiedzi jednoznacznie sugeruje ingerencję bota.
Podobny mechanizm dotyczył słów prof. Lisy Feldman Barrett z Northeastern University. W rozdziale analizującym zachowania młodzieży w sieci przypisano jej twierdzenia z książki „Jak powstają emocje”. Badaczka w wypowiedzi dla nowojorskiego dziennika podkreśliła, że wskazane zdania nie znajdują się w jej książce, a zawarte w nich tezy są błędne z punktu widzenia metodologii naukowej.
Czytaj więcej
Po niedawnej wypowiedzi Olgi Tokarczuk na temat wykorzystania sztucznej inteligencji w pracy twórczej, na noblistkę spadła fala krytyki. Pisarka wy...
Przypadek Rosenbauma pokazuje problem tzw. halucynacji AI w kontekście mieszania prawdy z fikcją. Profesor Meredith Broussard potwierdziła, że jej słowa umieszczone w „The Future of Truth” padły w wywiadzie radiowym, a nie w dziele, które wskazał autor. Z kolei badacz Lee McIntyre zauważył, że algorytm precyzyjnie opisał jego wnioski naukowe, lecz samowolnie dopisał do nich sformułowania w cudzysłowie, których naukowiec nigdy osobiście nie użył.
„The Future of Truth” Stevena Rosenbauma ostrzeżeniem dla wydawców
W oficjalnym oświadczeniu Steven Rosenbaum wziął na siebie pełną odpowiedzialność za zaistniałe błędy. Tłumaczył, że posiłkowanie się sztuczną inteligencją miało charakter pomocniczy podczas researchu i redakcji, a wdrożenie nieprawdziwych fraz było wypadkiem, a nie celową manipulacją. Zapowiedział też usunięcie błędnych fragmentów w przyszłych wydaniach książki.
Wydawnictwo Simon and Schuster, odpowiedzialne za dystrybucję, odmówiło komentarza. Incydent ten wpisuje się jednak w szerszy trend niepokoju na rynku wydawniczym. Coraz więcej wydawców rewiduje procedury weryfikacji treści pod kątem masowego i niekontrolowanego użycia modeli językowych przez pisarzy.
