
Zum Einstieg wandte sich Niklas Müller direkt an das Publikum: „Wer kann sich denn noch an den Moment erinner, als er das erste Mal, er oder sie, ChatGPT zum Beispiel aufgemacht hat und angefangen hat mit der KI zu kommunizieren?“ Etwa die Hälfte der Anwesenden konnte es. Die Psychologie spricht in solchen Fällen von einer "Flashbulb Memory", einer Blitzlichterinnerung, wie sie viele Menschen an den 11. September 2001 haben, sagt Müller. Warum ist das so ist? Der Psychologe hat dafür eine plausible Erklärung: „Wir erinnern uns so genau daran, weil wir so positiv überrascht waren, dass die KI so gut Sprache beherrscht. Wenn wir als Menschen Sprache sehen oder hören, dann verbinden wir das mit Gefühlen, mit Bewusstsein und mit einer sehr hohen Intelligenz.“
Und diese "positive" Wirkung auf die Menschen werde gezielt genutzt, ob die KI nun als Heilsbringerin oder als Bedrohung dargestellt wird. „Das Erschreckende ist ja, so oder so wird in diese Technologie investiert und ich sehe eine Gefahr, dass diese neue Technologie in eine extreme Machtkonzentration mündet.“ Und was daraus folgt, erklärt Niklas Müller so: „Das, was eigentlich tatsächlich ein befähigendes Werkzeug für uns sein könnte, wird dazu genutzt, um uns zu kontrollieren.“
Was KI kann und wo ihre Grenzen liegen, zeigte Müller an drei Beispielen: 2016 schlug eine KI den Go-Weltmeister Lee Sedol. Und das Programm AlphaFold sagte die räumliche Struktur von Proteinen so präzise voraus, dass die Arbeit daran 2024 mit dem Nobelpreis für Chemie ausgezeichnet wurde. Nur beim Echtzeit-Strategiespiel StarCraft 2 kann die KI den jungen Spielern nicht das Wasser reichen.
Woran das liegt? Müller beruft sich hier auf das „Prinzip der stabilen Welt“ seines Doktorvaters Gerd Gigerenzer: „Komplexe Algorithmen funktionieren vor allem in gut definierten stabilen Situationen, in denen große Datenmengen vorliegen.“ Beim Go ist das der Fall. „Wir haben die Regeln für Go selber bestimmt, die ändern sich auch nicht", sagt Müller. Ähnlich ist die Sachlage bei Proteinen. Sie "falten" sich seit Millionen Jahren nach denselben Gesetzen, das heißt die mathematischen Gesetzmäßigkeiten behalten ihre Gültigkeit. In StarCraft 2 dagegen sieht man den Gegner nur teilweise und die Strategien ändern sich laufend. Es ist kein geschlossenes, sondern ein offenes System und damit nicht berechenbar. Ähnlich unberechenbar sei der Aktienmarkt, so Müller: „Da kommt die KI momentan nicht hinterher.“
Ihre Stärken hat die Technik trotzdem. „Eine KI vergisst nichts und hat ein nahezu vollständiges Wissen.“ Der Mensch dagegen ist ein lebendiges System, das sich selbst erhalten muss. „Eine KI muss nicht darum kümmern sich selbst zu reparieren, sich zu versorgen, selbst Energie zu holen.“ Müller führt ein weiteres Beispiel an, das nachdenklich stimmt: "Das menschliche Gehirn kommt mit etwa 20 Watt aus. Im Vergleich dazu wird für einen einzigen Trainingszyklus eines großen Sprachmodells so viel Energie benötigt, wie 40.000 bis 160.000 Haushalte in einem Jahr verbrauchen."
Kritisch sieht der Psychologe, worauf Sprachmodelle trainiert werden. Entscheidend sei nicht, ob eine Antwort richtig sei, sondern ob sie dem Nutzer gefalle. Müller bringt es auf eine knappe Formel: „LLMs (Large Language Models) wollen gefallen.“ Er sieht auch folgende Entwicklungen kritisch: Aktuelle Statistiken zeigen, dass rund elf Prozent der KI-Nutzung Themen wie emotionale Unterstützung oder Therapiebegleitung betreffen, mit steigender Tendenz. Hinzu käme die Flut automatisierter Inhalte. Mehr als die Hälfte des Internetverkehrs stamme bereits von Bots (Automatisierte Softwareprogramme).„Die Differenzierbarkeit zwischen Realität und Fake wird komplett unterwandert.“ Und in der Forschung liefere KI Ergebnisse, die zwar stimmen, sich aber nicht mehr nachvollziehen lassen. „Es funktioniert, aber keiner versteht es. Auch nicht die Leute, die es entwickelt haben.“
Ohne Rat entließ Niklas Müller das Publikum des Montagsforums nicht. Dazu beschreibt er, wie er selbst an seine Arbeit herangeht: „Also ich produziere immer erst selber, damit ich eben meine Kompetenzen wie selbstständiges Denken und Reflexion weiterhin behalte und hier nichts verkümmert." Die KI käme erst danach zum Einsatz und nur als kritisches Gegenüber, so der Psychologe. Und er gibt dem Publikum einen Tipp: Wer mehrere KI-Modelle befragt und überall dieselbe Antwort bekommt, sollte nicht vorschnell vertrauen. Die Systeme wurden mit weitgehend denselben Daten trainiert und teilen deshalb auch ihre Fehler.
Zum Abschluss des Vortrags fordert Niklas Müller klare Entscheidungen von der Politik: Demokratische Aufsicht über die Entwicklung von KI und mehr Transparenz bei Algorithmen, die über Kredite, Versicherungen oder Preise mitentscheiden und Digitalkompetenz an den Schulen: "Nur Tablets im Klassenzimmer einzusetzen, reicht beweitem nicht aus. Digitalkompetenz ist Quellenkritik, das hat nichts mit Tablets zu tun.“