W fałszywych artykułach podziękowano Akademii Gwiezdnej Floty (przyp. Starfleet Academy ze Star Treka), powołano się na finansowanie ze strony Fundacji Profesora Sideshow Boba (z Simpsonów) oraz Uniwersytetu Bractwa Pierścienia (Lord of The Rings - Fellowship of The Ring), a w środkowej części tekstu zaznaczono, że całość jest zmyślona.
Gemini firmy Google poinformowało użytkowników, że schorzenie to jest spowodowane światłem niebieskim. Perplexity podało, że występuje ono u jednej osoby na 90 000. ChatGPT doradzało użytkownikom, czy ich objawy pasują do opisu (!).
Fałszywe badania zostały następnie zacytowane w recenzowanym czasopiśmie, które wycofało je dopiero po tym, jak Nature (jeden z wiodących periodyków naukowych) skontaktowało się z wydawcą.
Cały artykuł: https://www.nature.com/articles/d41586-026-01100-y
Posumowując:
Badacz celowo sprawił, że artykuły były tak oczywistą fałszywką, jak to tylko możliwe. Systemy AI tego nie wychwyciły. Nie zrobili tego również badacze, którzy cytowali je w prawdziwych czasopismach... co oznacza, że ludzie wprowadzają do swoich prac odniesienia generowane przez AI, nie czytając tego, co faktycznie cytują.
Spotkałem się już z informacjami o wykorzystaniu AI przez Amerykańską FDA do oceny leków, o dyrektorze szpitala w Nowym Jorku gotowym do zastąpienia radiologów przez AI oraz o uruchomieniu w tym roku ChatGPT Health w USA.
Wszystko to dzieje się w tym samym środowisku, w którym schorzenie finansowane przez postać z serialu „Simpsons” i popierane przez załogę statku Enterprise było przedstawiane jako nowy konsensus medyczny.
Niestety ale osoby podejmujące decyzje dotyczące wdrażania takich rozwiązań wydają się wierzyć, że proces: od badań naukowych, przez sztuczną inteligencję, aż po finalnego pacjenta jest bardziej nadzorowany niż w rzeczywistości.
Ten eksperyment sugeruje, że w ogóle nie jest on nadzorowany.
