Halluzinationen von Sprachmodellen sind kein reines technisches Problem, sondern ein inhärentes Ergebnis mathematischer Grenzen, die bereits in den 1930er-Jahren durch Kurt Gödel und Alan Turing bewiesen wurden. Gödels Unvollständigkeitssätze zeigten, dass jedes hinreichend mächtige formale System interne Widersprüche oder unbeweisbare wahre Aussagen aufweisen muss. Turings Arbeit zum Halteproblem demonstrierte, dass es unmöglich ist, ein allgemeines Verfahren zu entwickeln, das für jedes Programm und jede Eingabe entscheiden kann, ob das Programm terminiert. Neuere wissenschaftliche Arbeiten formalisieren diese Erkenntnisse und legen dar, dass Sprachmodelle aufgrund ihrer Komplexität und ihres Anspruchs, ein breites Spektrum an Problemen zu lösen, zwangsläufig „halluzinieren“ werden, d.h. plausible, aber falsche Aussagen generieren. Dies ist eine strukturelle Eigenschaft, die weder durch mehr Daten noch durch größere Modelle prinzipiell behoben werden kann, da sie auf der Natur der Berechenbarkeit selbst beruht.