Halucynacja AI to sytuacja, w której wielki model językowy (LLM) zwraca odpowiedź o logicznej, poprawnej składniowo formie, która jest merytorycznie błędna, niezgodna z faktami lub odnosi się do nieistniejących źródeł.
Co to znaczy
Modele językowe nie posiadają wbudowanej „wiedzy” jak tradycyjne bazy danych. Funkcjonują jako zaawansowane systemy statystyczne przewidujące najbardziej prawdopodobny ciąg kolejnych znaków. Gdy zapytanie dotyczy bardzo niszowego lub nowatorskiego tematu, model potrafi „dobudować” brakujące luki, łącząc pokrewne pojęcia. Otrzymany tekst wygląda poprawnie (zachowuje właściwy ton i styl), lecz może zawierać zmyślone nazwiska, nazwy własne lub cytaty. Nadzór i redakcja człowieka pozostają niezbędne w procesie dystrybucji treści.
Dlaczego to ważne
Świadomość halucynacji to kluczowa kompetencja przy pracy z generatywną sztuczną inteligencją. Zapobiega błędom operacyjnym, takim jak bazowanie na nieistniejących badaniach rynkowych, cytowanie wymyślonych specjalistów czy podejmowanie na ich podstawie decyzji strategicznych.
Zlecasz asystentowi AI zebranie literatury dotyczącej polskiego rynku e-commerce z ubiegłego roku. Model generuje uporządkowaną listę źródeł. Po weryfikacji okazuje się, że jedna z publikacji wskazywanych przez model z przypisem nigdy nie została wydana, a autor pracuje w zupełnie innej branży. AI połączyło typowe słownictwo raportowe w wysoce prawdopodobny, acz całkowicie fałszywy wynik.
Czym to nie jest
- Intencjonalne kłamstwo programu — system nie ma świadomości fałszu; stara się zoptymalizować zapytanie by tekst matematycznie wyglądał spójnie.
- Wyłącznie efekt nieaktualnych danych bazowych — nowsze modele także ulegają halucynacjom, ponieważ problem leży w samej architekturze prawdopodobieństwa.
Jak rozpoznać
Pojęcia towarzyszące: „konfabulacja modelu”, „Human-in-the-loop (proces nadzoru przez człowieka)”, „fact-checking”.