Halucinacije su fundamentalna mana u dizajnu AI četbotova. Kada ChatGPT, Gemini, Copilot ili drugi AI modeli pružaju lažne informacije, bez obzira koliko ubedljivo zvučale, to je halucinacija. AI može halucinirati manje odstupanje, naizgled bezazlenu grešku ili se upustiti u iznošenje klevetničkih i potpuno izmišljenih optužbi.