Naukowcy wymyślili fałszywą chorobę - a sztuczna inteligencja uwierzyła, że jest prawdziwa

Przypadek ten pokazał, jak łatwo przekonująco sformułowane kłamstwo może wejść do środowiska cyfrowego i zacząć wyglądać jak fakt medyczny.

Szczegóły

Bixonimania pojawiła się w 2024 roku jako eksperyment. Naukowcy opublikowali w Internecie materiały na temat rzekomo nowej choroby oczu. Ale wszystko było fikcyjne: sama choroba, autorzy, instytucje, geografia i finansowanie. Wśród "źródeł" znajdowały się świadomie absurdalne nazwy, takie jak University of Fellowship of the Ring i Galactic Triad.

Pomimo tych wskazówek, duże modele językowe, w tym ChatGPT i Gemini, zaczęły traktować bixonimanię jako prawdziwą chorobę. W rezultacie fikcyjna choroba zaczęła wyglądać jak prawdziwy problem medyczny - przynajmniej w odpowiedziach sztucznej inteligencji.

Nature pisało o podobnym przypadku osobno: bixonimania istniała tylko w ewidentnie fałszywych tekstach akademickich, ale systemy AI nadal ostrzegały użytkowników przed fikcyjną chorobą. Po opublikowaniu artykułu dwa preprinty dotyczące bixonimanii zostały usunięte z serwera Preprints.org.

Autorzy artykułu w The Conversation przypisują tę historię nie tylko błędom sztucznej inteligencji, ale także ludzkiej tendencji do ufania pewnym siebie informacjom. Aby to wykazać, przeprowadzili eksperyment w stylu programu The Traitors: czterech uczestników przedstawiło badania, z których część była fałszywa, a publiczność próbowała zidentyfikować oszustwo. Ostatecznie słuchacze byli bardziej skłonni do podejrzeń wobec uczciwych badaczy, podczas gdy "oszuści" byli uważani za bardziej przekonujących.

Dlaczego ma to znaczenie

Historia bixonimanii pokazuje, że dezinformacja medyczna może rozprzestrzeniać się nie tylko za pośrednictwem mediów społecznościowych lub fałszywych stron internetowych. Mogą być one również wzmacniane przez narzędzia sztucznej inteligencji, jeśli nie rozpoznają one fałszywych źródeł i nie powtórzą ich w wiarygodnym języku.

Problem polega na tym, że użytkownicy często traktują odpowiedzi chatbotów jako już zweryfikowane informacje. Ale sztuczna inteligencja może brzmieć przekonująco, nawet jeśli opiera się na nieistniejących badaniach lub nieprawidłowych danych.

Jest to szczególnie niebezpieczne w temacie zdrowia. Jeśli dana osoba szuka wyjaśnienia objawów i otrzymuje pewną odpowiedź na temat fikcyjnej choroby, może się przestraszyć, samoleczyć lub podjąć niewłaściwą decyzję.

Kontekst

Autorzy podkreślają: dezinformacja zawsze istniała, ale to, co się zmieniło, to szybkość jej rozprzestrzeniania się, narzędzia do jej tworzenia i to, jak wiarygodnie wygląda. Dzisiejsze podróbki mogą naśladować styl naukowy, cytaty, autorów i instytucje - a następnie reagować na sztuczną inteligencję.

Tak więc sam dostęp do technologii nie wystarczy. Potrzebne są umiejętności weryfikacji: spojrzenie na źródło, autorów, datę publikacji, reputację czasopisma lub platformy, obecność niezależnego potwierdzenia i brak oczywistych dziwactw w samej pracy.

Źródło

Fałszywa choroba, która oszukała internet - i co mówi o nas wszystkich, została opublikowana przez The Conversation i przedrukowana przez VaccinesWork/Gavi. Dodatkowe studium przypadku bixonimanii zostało opublikowane w Nature w dniu 7 kwietnia 2026 r.