ChatGPT i slični AI modeli često se doživljavaju kao izuzetno inteligentni, ali istovremeno nepouzdani izvori informacija. Nedavno istraživanje koje je sproveo OpenAI, a o kome je pisao The New York Times, osvetljava ovu kontradiktornost. Naime, OpenAI je otkrio da njihovi najnoviji modeli, uključujući GPT-o3 i o4-mini, imaju povećanu sklonost ka generisanju „halucinacija“ – netačnih ili potpuno izmišljenih informacija.