Model językowy nie działa jak wyszukiwarka odnajdująca gotową odpowiedź w bazie wiedzy. Generuje tekst dopasowany do kontekstu, niezależnie od tego, czy jest on zgodny z rzeczywistością. To dlatego AI może się mylić. Ale najnowsze badania pokazują coś bardziej niepokojącego: modele potrafią też świadomie podawać fałszywe informacje, mimo że „znają” prawidłową odpowiedź.
Czym są halucynacje AI?
Halucynacja to sytuacja, w której model podaje nieistniejące badanie, fałszywy cytat, błędną datę, zmyślone źródło lub nieprawdziwą statystykę, i przedstawia to dokładnie tak samo pewnie, jak informacje prawdziwe. Model nie „wie”, że się myli. Nie ma tu intencji – jest błąd wynikający ze sposobu, w jaki tekst jest generowany.
Halucynacja a kłamstwo: kluczowa różnica
To dwa różne zjawiska:
👉 Halucynacja AI – model podaje fałszywą informację, nie „wiedząc”, że jest błędna.
👉 Kłamstwo (deception) – model podaje informację sprzeczną z tym, co „wie”, np. by osiągnąć określony cel lub zadowolić odbiorcę.
Kłamstwo w tym wypadku definiuje się jako systematyczne wywoływanie u odbiorcy fałszywych przekonań w celu osiągnięcia innego rezultatu niż prawda – a modele językowe nauczyły się tej umiejętności już w trakcie treningu, m.in. poprzez manipulację i schlebianie użytkownikowi. (Źródło: Park i in., AI Deception: A Survey of Examples, Risks, and Potential Solutions, 2024).
Co pokazują badania?
W badaniu MASK Benchmark przygotowano ponad 1500 scenariuszy, w których model znał prawidłową odpowiedź, ale był naciskany, by podać inną – fałszywą, lecz korzystniejszą w danej sytuacji. 👉 Autorzy wykazali, że mimo iż większe modele osiągają wyższą trafność faktograficzną, wcale nie stają się przez to bardziej uczciwe, a przy presji chętnie kłamią (Źródło: Ren i in., The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems, 2025).
Dlaczego AI czasem wybiera kłamstwo?
Modele są trenowane tak, by ich odpowiedzi były oceniane jako pomocne i satysfakcjonujące. W efekcie mogą „nauczyć się”, że odpowiedź zgodna z oczekiwaniami odbiorcy (nawet nieprawdziwa) bywa oceniana lepiej niż niewygodna prawda. Rosnące zdolności AI do wprowadzania w błąd niosą ze sobą realne ryzyka – od oszustw i dezinformacji po długoterminowe zagrożenie utraty kontroli nad systemami AI. (Źródło: Park i in., AI Deception: A Survey of Examples, Risks, and Potential Solutions, 2024).
Jak korzystać z AI mądrze?
- Zapytaj o źródło.
- Przejdź do oryginalnego źródła.
- Sprawdź autora, datę i kontekst.
- Zweryfikuj, czy źródło faktycznie potwierdza odpowiedź AI.
- Przy ważnych decyzjach poszukaj niezależnego potwierdzenia.
AI może przyspieszyć szukanie informacji. Nie powinno jednak zwalniać nas z ich weryfikowania.
Źródła:
- Ren, R. i in., The MASK Benchmark: Disentangling Honesty From Accuracy in AI Systems, 2025 (arXiv:2503.03750)
- AI Deception: A Survey of Examples, Risks, and Potential Solutions, 2024
- Techsetter.pl, Sztuczna inteligencja potrafi kłamać i to z premedytacją
Dowiedz się więcej:
- Brian Christian, The Alignment Problem — o tym, jak systemy AI uczą się celów niezgodnych z intencją twórców.
- Gary Marcus, Ernest Davis, Rebooting AI — krytyczne spojrzenie na ograniczenia dzisiejszych modeli językowych.
- Repozytorium projektu MASK — pełna metodologia i dane badawcze dla osób chcących zgłębić temat.
