Weiß die KI, dass ich nichts weiß?

Ein Essay

Ein Stammtischabend am Tegernsee

Es war beim vor­letzten Treffen un­seres KI-Stamm­tisch Te­gernsee. Die üb­liche Mi­schung aus KI-Na­tiven, KI-Be­geis­terten, KI-In­ter­es­sierten – alle ir­gendwie damit be­schäf­tigt, alle ir­gendwie un­si­cher. Aber alle de­fi­nitiv be­geis­tert und über­zeugt, dass das Thema KI wichtig ist. Ir­gend­wann dann der Satz, den man immer wieder hört: „Die KI ist ja nicht wirk­lich intelligent."

Ich nickte zu­erst eben­falls, wie alle. Aber wäh­rend ich noch nickte, fragte be­reits etwas in mir: Bin ich mir da ei­gent­lich si­cher? Bin ich selber wirk­lich "besser/schlauer/intelligenter"? Oder mache ich mir – selbst­ge­fällig wie ich bin – nur was vor?

Diese Frage ließ mich nicht los. Sie ist der Grund, warum ich hier sitze und das auf­schreibe – als Ge­spräch mit mir selbst. Viel­leicht auch mit dir.

Was Cleese eigentlich sagte

Bevor wir der KI ihre In­tel­li­genz ab­spre­chen, müssten wir ei­gent­lich klären, was In­tel­li­genz über­haupt ist. Und – noch un­be­quemer – wie wir her­aus­finden würden, ob wir selbst sie haben.

John Cleese hat zum “Ge­gen­stück der In­tel­li­genz” vor Jahren etwas ge­sagt, das ich ex­trem lustig, aber auch sehr lehr­reich fand:

„I think the pro­blem with people like this is that they are so stupid that they have no idea how stupid they are. You see, if you're very, very stupid, how can you pos­sibly rea­lize that you're very, very stupid? You'd have to be re­la­tively in­tel­li­gent to rea­lize how stupid you are."

Click here to accept Marketing / Werbe-Cookies cookies and load this content

Das ist die po­pu­läre Ver­sion des so­ge­nannten Dun­ning-Kruger-Ef­fekts: Wer wirk­lich in­kom­pe­tent ist, dem fehlt genau die Kom­pe­tenz, das zu merken. Selbst­über­schät­zung schützt sich selbst.

Eine Vor­sicht muss hier rein – sonst wi­der­spreche ich gleich am An­fang meiner ei­genen These. Die Ori­gi­nal­studie von Kruger und Dun­ning aus dem Jahr 1999 ist me­tho­disch nicht un­um­stritten; ein Teil dessen, was als „Dun­ning-Kruger-Kurve" durch die Pop­me­dien geis­tert, könnte auch ein sta­tis­ti­sches Ar­te­fakt sein. Aber der Kern über­lebt: Mein Ur­teil über meine ei­gene Kom­pe­tenz hängt aus­ge­rechnet von der Kom­pe­tenz ab, über die ich ur­teilen will. Ein Henne-Ei-Pro­blem mit un­be­quemen Konsequenzen.

Und genau dieses Pro­blem hat – auf ganz an­dere Weise – auch eine KI.

„Ich ‚weiß' nicht, dass ich etwas nicht weiß"

Ich habe das vor ein paar Tagen di­rekt aus­pro­biert. Habe Claude, ein großes Sprach­mo­dell von An­thropic, ge­fragt, ob es das ei­gent­lich weiß. Weiß die KI, dass sie nichts weiß? So­krates, nur mal eben digital.

Die Ant­wort war ehr­li­cher, als mir lieb war:

„Was ich tat­säch­lich tue: Ich gebe Kon­fi­denz­hin­weise ab. Aber das ist kein echtes Wissen über meine ei­genen Wis­sens­grenzen – es ist ein sta­tis­ti­sches Muster aus Trai­ning. Ich ‚weiß' nicht, dass ich etwas nicht weiß. Ich pro­du­ziere Text, der so klingt wie je­mand, der das weiß."

Lies das ruhig noch einmal langsam.

Was die KI da macht, ist – wenn man so will – so­kra­ti­sche Pose ohne so­kra­ti­sche Sub­stanz. Sie klingt de­mütig. Sie kann aber gar nicht de­mütig sein, weil ihr der Zu­gang zu sich selbst fehlt. Sie pro­du­ziert „ich bin mir nicht si­cher" mit der­selben sta­tis­ti­schen Me­chanik, mit der sie „der Eif­fel­turm steht in Paris" pro­du­ziert. Es ist Text. Nichts dahinter.

Das ist kein Bug, der mit dem nächsten Up­date ver­schwindet. Das ist ein struk­tu­reller De­fekt der Ar­chi­tektur. Eine KI kann nicht wissen, dass sie nicht weiß. Sie kann es nur klingen lassen.

Und in dem Mo­ment, in dem ich das so klar lese, kommt der un­an­ge­nehme Ge­danke vom Stamm­tisch zurück.

Bin ich mir da eigentlich sicher?

Ich nicke beim Stamm­tisch, wenn einer sagt: „Die KI ist nicht wirk­lich in­tel­li­gent." Aber wäre ich ehr­lich, müsste ich drei Fragen aus­halten, bevor ich nicke.

Er­in­nere ich mich wirk­lich besser?

Die Hirn­for­schung sagt seit Jahren: Er­in­ne­rungen sind keine Fest­platte. Jedes Mal, wenn ich eine Er­in­ne­rung ab­rufe, wird sie neu zu­sam­men­ge­setzt – und neu ab­ge­spei­chert. Eliza­beth Loftus hat über Jahr­zehnte ge­zeigt, wie leicht sich Er­in­ne­rungen ver­än­dern lassen; wie Men­schen sich an Dinge er­in­nern, die nie pas­siert sind. Ihr TED-Vor­trag „How re­liable is your me­mory?" ist ge­rade einmal 18 Mi­nuten lang – und ver­än­dert in dieser Vier­tel­stunde, wie man auf jedes „aber ich er­in­nere mich genau" reagiert.

Ich er­in­nere mich nicht genau. Ich kon­stru­iere etwas, das sich für mich an­fühlt wie ge­naues Er­in­nern. Das ist – sage ich mit etwas Gal­gen­humor – nicht be­son­ders weit weg von dem, was die KI macht, wenn sie selbst­si­cher halluziniert.

Weiß ich wirk­lich, was ich weiß?

Steven Sloman und Philip Fern­bach haben dazu ein le­sens­wertes Buch ge­schrieben: The Know­ledge Il­lu­sion. Ihre zen­trale Pointe: Wir Men­schen halten uns für deut­lich wis­sender, als wir sind. Wer glaubt zu ver­stehen, wie ein Reiß­ver­schluss funk­tio­niert, schei­tert spä­tes­tens beim Ver­such, das zu er­klären oder zu skiz­zieren. Wer glaubt, sich in Po­litik aus­zu­kennen, hat oft genug drei Schlag­worte und ein dif­fuses Bauch­ge­fühl. Wir leben in einer kol­lek­tiven Wis­sens-Il­lu­sion und merken es nicht, weil unser so­ziales Um­feld die Il­lu­sion stützt.

Ver­ein­facht: Auch unser “Wissen” ist oft eher Muster als Sub­stanz. Wir schöpfen aus ei­gener Er­fah­rung, so­zialer und fa­mi­liärer Prä­gung, auf­ge­schnappten Schlag­worten – also aus etwas, das man auch ge­nauso gut einen Trai­nings­da­ten­satz nennen könnte. Nur länger ge­wachsen und mit er­lebten Schmerzen.

Bin ich wirk­lich verantwortungsvoller?

Hier wird es am schwie­rigsten. Was un­ter­scheidet mich, wenn ich am Stamm­tisch selbst­si­cher etwas be­haupte, das ich gar nicht wissen kann – von einer KI, die im Brustton der Über­zeu­gung halluziniert?

Viel­leicht we­niger, als mir lieb wäre.

Was wür­dest du ei­gent­lich finden, wenn du wirk­lich genau hin­schauen wür­dest – statt nur zu glauben, dass du es tust?

Der Unterschied ist nicht das Sein. Sondern das Können.

Jetzt könnte man meinen, ich lan­dete bei der bil­ligen Pointe “wir sind alle gleich" – die KI hal­lu­zi­niert, wir hal­lu­zi­nieren, alles fein. Aber das wäre zu billig. Es gibt einen Un­ter­schied. Er liegt nur nicht da, wo wir ihn gern hätten.

Er liegt nicht in der Ethik. Ethik steckt auch in den Trai­nings­daten der Mo­delle – tau­sende Bü­cher, Ge­richts­ur­teile, phi­lo­so­phi­sche Trak­tate. Eine mo­derne KI kann ethi­sche Ar­gu­men­ta­tion oft sau­berer durch­spielen als drei Viertel der Men­schen  – am Stamm­tisch oder sonstwo  – mich inklusive.

Er liegt auch nicht in der Moral. Auch da hat die Mensch­heit einen er­staun­lich "ge­mischten" Track Record.

Er liegt darin, was wir könnten.

Eine KI kann nicht in­ne­halten. Sie kann nicht zwei­feln, nicht im Sinne eines echten Zwei­fels. Sie hat kein Innen, das sie be­fragen könnte. Sie pro­du­ziert das nächste wahr­schein­liche Wort und dann das nächste. Sie ist – in diesem Sinne – un­schuldig, weil sie nicht an­ders kann.

Wir aber könnten. Wir könnten in­ne­halten. Wir könnten fragen. Wir könnten wi­der­spre­chen, auch uns selbst. Wir könnten nach­schlagen, prüfen, einen ver­trauten Men­schen an­rufen und sagen: „Hör mal, denke ich da ge­rade Quatsch?"

Dass wir es oft nicht tun, macht es nicht we­niger schlimm. Es macht es schlimmer. Die KI hal­lu­zi­niert aus Not­wen­dig­keit. Wir hal­lu­zi­nieren aus Bequemlichkeit.

Skin in the Game – und die Würde der Scham

Es gibt noch etwas, das uns von der KI un­ter­scheidet. Und das ist der für mich wich­tigste Punkt:

Wir haben etwas zu verlieren.

Wenn ich am Stamm­tisch eine selbst­si­chere Dumm­heit von mir gebe, hat das Kon­se­quenzen. Ein Kol­lege schüt­telt den Kopf. Eine Kundin ver­liert das Ver­trauen. Mein ei­genes Selbst­bild be­kommt einen Kratzer. Skin in the Game nennen das die Eng­länder – Haut im Spiel. Wir sind be­troffen von den Kon­se­quenzen un­serer Be­haup­tungen. Die KI ist es nie.

Und eng damit ver­bunden: Wir können uns schämen.

Scham ist viel­leicht das mensch­lichste Ge­fühl über­haupt. Sie ist un­an­ge­nehm, sie ist quä­lend, sie ist manchmal kaum aus­zu­halten. Aber sie ist auch ein ein­ge­bautes Kor­rek­tur­system. Wer sich schämt, hat im In­nersten er­kannt: Das ge­rade eben war nicht in Ord­nung. Etwas in mir wusste es besser, und ich habe es übergangen.

Scham zwingt zum Hin­sehen, wo man am Liebsten weg­sehen möchte. Sie ist – wenn man so will – das mensch­liche Echo dessen, was die KI struk­tu­rell nicht haben kann: ein In­nen­leben, das gegen den glatten Output rebelliert.

Das ist nicht unser Adel. Das ist unser Werk­zeug. Und ich glaube, wir nutzen es viel zu selten.

Was bleibt – als Frage, nicht als Antwort

Was folgt daraus? Viel­leicht nicht das, was man am Stamm­tisch hören will.

Es folgt nicht, dass wir der KI grund­sätz­lich miss­trauen müssten, weil sie eine Ma­schine ist. Sie ist ein ver­dammt nütz­li­ches Werk­zeug – im Klar­text: für vieles besser als wir, für an­deres völlig un­ge­eignet und für die wirk­lich wich­tigen Dinge schlicht nicht zu­ständig.

Es folgt aber auch nicht, dass wir uns über sie er­heben sollten, weil wir Men­schen sind und Men­schen ja schließ­lich denken können. Das tun wir näm­lich oft genug nicht. Wir ni­cken am Stamm­tisch mit. Wir wie­der­holen Sätze, die an­dere uns vor­ge­geben haben. Wir nennen das dann “meine Meinung".

Was folgt, ist eher eine Ein­la­dung. Viel­leicht sogar eine Zu­mu­tung. Ver­ant­wor­tung im Um­gang mit KI heißt nicht, klüger zu sein als die Ma­schine. Sie be­deutet, das, was wir tun könnten, auch zu tun: zwei­feln, leiden, lernen, uns schämen, kor­ri­gieren. Mutig und re­flek­tiert mit etwas um­zu­gehen, das all dies nicht kann.

Die Ma­schine wartet nicht darauf, dass du das tust. Sie würde auch wei­ter­laufen, wenn du nie wieder einen klaren Ge­danken fasst. Aber dein Leben würde dann zu einem Echo. Und der Stamm­tisch zu einem Re­so­nanz­raum, in dem alle mit allen einig sind – ohne dass ir­gend­je­mand etwas wirk­lich weiß.

Weißt du, was du nicht weißt? Und – wich­tiger – hast du den Mut, daraus etwas zu machen?

Nachwort: Wer hat hier eigentlich wen geführt?

Ich muss ehr­lich sein, sonst stimmt der ganze Ar­tikel hier nicht.

Diesen Text habe ich nicht al­lein ge­schrieben. Ich habe ihn im Ge­spräch mit einer KI ent­wi­ckelt. Sie hat mich ge­for­dert, mir wi­der­spro­chen und ge­fragt, was ich ei­gent­lich meine. Sie hat mir Quellen ge­nannt, mich auf Schwach­stellen meiner These hin­ge­wiesen, Vor­schläge ge­macht. Manche habe ich über­nommen, an­dere ver­worfen, ei­nige habe ich gegen ihren Vor­schlag durchgesetzt.

Und ich weiß bis heute nicht mit letzter Si­cher­heit, ob sie mich tat­säch­lich her­aus­ge­for­dert hat – oder ob sie mir nur das ge­lie­fert hat, was ich hören wollte, in ge­rade so un­be­quemer Form, dass es nach Her­aus­for­de­rung klingt.

Genau diese Un­si­cher­heit ist die Pointe. Die KI ist weder Orakel noch Spiegel. Sie ist Ma­te­rial. Ich nutze sie mal als Werk­zeug, mal als Ge­gen­über, manchmal als Beides im selben An­satz – und am Ende muss ich selbst ent­scheiden, was ich von ihr über­nehme und was nicht. Wie am Stamm­tisch. Nur dass mein di­gi­tales Ge­gen­über mich nicht traurig oder er­regt an­schaut, wenn ich mal nicht nicke.

Viel­leicht ist das die ehr­lichste Ant­wort auf die Frage, mit der dieser Text be­ginnt. Weiß die KI, dass ich nichts weiß?

Si­cher­lich nicht. Aber sie hilft mir, mich das zu fragen.

Damit be­ende ich den heu­tigen Stamm­tisch – mit mir selbst.