Oder: Googles KI lügt

Am Jahreswechsel ist Zeit, sich mit der phänomenalen neuen Technik zu befassen. Die Medien sind geradezu besoffen von Künstlicher Intelligenz, und auch im Arbeitsalltag breitet sich KI rasend schnell aus. Sowohl in der Wirtschaft als auch in den Verwaltungen verspricht man sich Rationalisierungseffekte. Gibt es für diesen oder jenen Sachverhalt diese oder jene Lösung: Warum soll ein teurer Mensch darüber nachdenken und zeitaufwendig kommunizieren, wenn die KI „auf Knopfdruck“ die Antwort weiß? Digitalisierung, da bekommen manche glänzende Augen.

Für Bürger und Unternehmen hängt an solchen Antworten oft viel Geld. Die Qualität der KI-Antworten gehört daher ganz kritisch unter die Lupe. Wie entscheidet die KI denn eigentlich, wie kommen ihre Antworten zustande? Die gängige Antwort lautet: Das weiß keiner. KI sei eine Blackbox, aber die Ergebnisse seien schon oK.

Anders gesagt: Einer Blackbox kann man nicht trauen?

Die großen KI-Modelle kommen aus den USA. Irgendwo in den Eingeweiden der Blackbox sitzen also Bezos, Zuckerberg, Musk, Thiel und Konsorten an den Schalthebeln. Sie bestimmen, wie ihre KI arbeitet, welche Antworten sie ausspuckt. Das sind Strukturen, die völlig intransparent jeder Kontrolle entzogen sind. Das sind Männer, die offen gegen Bürgerrechte und Demokratie agieren.

Vor diesem Hintergrund sollte Deutschland, sollte die EU nach anderen Lösungen suchen. Nicht nur die Daten, sondern auch die in Europa genutzten KI-Modelle gehören in europäische Hand.

Und nachdem man Silvester diese Weisheiten durchdekliniert hat, kommt der kleine Praxistest. Fragen wir die amerikanische KI doch einfach mal, stellen wir sie auf die Probe! Nehmen wir doch einfach eine Frage aus Hiltrups Geschichte: „Warum wurde Konsul Schencking entlassen?“ Hiltruper kennen die Konsul-Schencking-Straße, der Mann war einige Jahre lang Konsul und war lange mit dem Titel des „Konsul a.D.“ unterwegs, er starb 1903.

Googles KI liefert auf diese Frage die originellste Antwort. Dafür hat Google wirklich einen Preis verdient. Im ersten Anlauf dichtet Google, Schencking habe während der Weimarer Republik Probleme bekommen – da war er schon lange tot.

Also drückt man die Turbo-Taste, und jetzt gibt Google Gas: „Es gibt keine Belege dafür, dass der Reichskonsul aus seinem Amt entlassen wurde.“ Tja, das war denn doch etwas anders: Schencking war mit Vorwürfen zu seiner Amtsführung konfrontiert und beantragte darauf selbst, aus dem Dienst entlassen zu werden.

Aber das ist noch nicht Alles: „Ausschreitungen 1893: Schencking geriet während der sogenannten „Hiltruper Krawalle“ (auch als „Reißaus vor dem Pöbel“ bekannt) in Konflikt mit Teilen der örtlichen Bevölkerung. Dabei ging es jedoch nicht um seine Entlassung aus einem Staatsamt, sondern um lokale soziale Spannungen und Kritik an seinem wirtschaftlichen Verhalten als Gutsbesitzer.“

Das sind erstaunliche Erkenntnisse, man braucht eine Weile, um sich davon zu erholen. Zusammenfantasierter Quatsch ist das, einfach hanebüchen.

Aber es gibt Mitbewerber. Im kleinen KI-Test zur Hiltruper Geschichte tritt auch ChatGPT an, und ChatGPT kriegt die Hiltruper Geschichte ganz gut auf die Reihe.

Beide KI-Modelle haben auf dieselben Quellen zurückgegriffen, nämlich hauptsächlich auf den Artikel über Schencking auf dieser Internetseite. Google hat nichts verstanden und frech drauf los fabuliert, ChatGPT war besser. Wenn Sie’s genau wissen wollen: Einfach den Originalartikel lesen.

Was folgt?

Belastbare, verbindliche Antworten darf man nach aktuellem Stand keiner KI überlassen. Und selbst wenn die KI-Modelle noch besser werden: Sie gehören in die Hand des Staates, der sie benutzt. Sonst wird uns die KI noch erzählen, dass Schencking AfD gewählt hat.

Deutschland ist auf dem Weg: Schon mal von KIPITZ gehört? Laut Steckbrief ist KIPITZ das KI-Portal des Bundes, eine Eigenentwicklung der deutschen Verwaltung. Es bietet Generative KI, Information Retrieval ohne KI-Sprachmodell-Herstellerbindung. Betreiber ist das ITZBund in sicheren bundeseigenen Rechenzentren (siehe Handelsblatt 15.1.2025, ausführlicher heise online 4.1.2026).