Was die Maschine nicht kann, wird größer: Interview mit Prof. Dr. Andreas Moring

Prof. Dr. Andreas Moring ist Unternehmer, Hochschullehrer und Experte für die Auswirkungen der digitalen Transformation auf Bildung und Gesellschaft. In der ersten Ausgabe von AUFRECHT sprach er über KI und Intuition – und darüber, warum wir unsere Urteilskraft nicht aus Bequemlichkeit an die Maschine abgeben dürfen. Ein Jahr später hat sich die Lage verschoben: Die KI ist schneller geworden, als beide Gesprächspartner erwartet hatten. Und zugleich ist der Bereich, den sie nicht ausfüllt, größer geworden, nicht kleiner. Ein zweites Gespräch über Erfahrungswissen, die richtigen Fragen, die Zukunft der Ausbildung – geführt im vertrauten Du der ersten Ausgabe.

Vor einem Jahr haben wir über Intuition gesprochen. Was hat sich seither bei dir getan?

Inzwischen läuft das, woran ich arbeite, unter dem Namen „The Essence Academy“. Es geht um konkrete Schulungen – von der Diagnostik bis zum Training – für zehn Kompetenzen, die menschlich sind und die KI nicht ersetzen kann. Das nimmt jetzt richtig Fahrt auf, weil viele spüren: Das Thema Erfahrungswissen ist wichtig, liegt aber für die meisten noch ein Stück weit weg. Der Bedarf ist hoch – individuell, aber vor allem in der Organisations- und Personalentwicklung. Unternehmen fragen sich: Wenn die KI diesen oder jenen Job übernimmt, in welche Richtung muss ich meine Leute eigentlich entwickeln, damit sie das können, was ich nicht an die KI abgeben kann? Die zehn Kompetenzen reichen von KI- und Datenkompetenz über systemisches Denken, Selbstmotivation, Neugier und Lernfreude, Resilienz, Empathie und Teamführung bis zu Kreativität und eben Erfahrungswissen. Jede davon lässt sich messen und mit einem großen Set an Übungen trainieren. Ich spreche heute übrigens lieber von Erfahrungswissen als von Intuition – das klingt professioneller und nimmt vielen die Berührungsangst.

Das heißt, der Bereich, den die KI nicht ausfüllen kann, ist größer als das, was wir vor einem Jahr Intuition genannt haben.

Genau. Intuition war mein Ausgangspunkt, weil ich mich vorher spezifisch damit beschäftigt hatte. Dann habe ich gefragt: Was gibt es eigentlich noch? Die zehn habe ich nicht erfunden, sondern aus vielen Studien herausdestilliert. Es gibt auch breitere Kataloge – das World Economic Forum etwa arbeitet mit deutlich längeren Kompetenzlisten. Nur, mit dreißig Kompetenzen kann niemand arbeiten. Zwischen acht und zwölf ist eine handhabbare Zahl. Entscheidend war mir: Das sind keine Eigenschaften, über die man nur redet, sondern Kompetenzen, die man lernen kann. Man kann lernen, kreativer zu werden, sich selbst zu motivieren, empathischer zu sein. Bisher lief das als Soft Skill und Nice-to-have. Jetzt wird es wichtig – denn wer das kann, ist nicht so leicht wegzurationalisieren. Das ist Reskilling: Man muss es sich erst aneignen.

„Zu wissen, wo ich mir von der KI zuliefern lasse – und wo es keinen Sinn mehr ergibt.“

Wenn die KI das Handwerk übernimmt – und im Juristischen kann sie das inzwischen erstaunlich gut –, was macht das mit den spezialisierten Fächern? Ist der Spezialist tot?

Der Spezialist auf dem absoluten Top-Level ist nicht tot, denn dort gibt es mehr Wissen, als in Büchern und Dokumenten steht – Erfahrungswissen, aus dem Einfälle entstehen, die sich nicht statistisch berechnen lassen. Aber dafür muss man wirklich tief in der Sache stecken. Darunter geht es eher wieder in die generalistische Richtung – den Überblick behalten, immer noch bezogen auf ein Fachgebiet. Studiengänge wie Jura, Medizin oder BWL wird es weiter geben; ich muss mich in einem Feld auskennen. Aber die Zielrichtung ändert sich: weg vom Verschulten, hin zu mehr Selbststudium und zum Verstehen von Zusammenhängen. Nimm das Programmieren: Den Code selbst schreibt eine KI inzwischen besser als der Mensch. Was bleibt, ist die Frage, wofür ich etwas baue, welchen Zweck es erfüllt, wie es eingebettet ist. Dafür braucht es Menschen, die einordnen. So weit ist die KI nicht – und wird es vielleicht nie sein, solange am Ende noch ein Mensch beteiligt ist. Wie es in rein KI-gesteuerten Unternehmen aussähe, weiß niemand. In Argentinien hat die Regierung dem Kongress gerade einen Gesetzentwurf vorgelegt, der „nicht-menschliche Unternehmen“ schaffen will – von KI-Agenten geführt, menschliche Anteilseigner möglich, aber nicht erforderlich. Neben der natürlichen und der juristischen Person eine dritte Entität. Wie das läuft, kann keiner sagen.

Du hast im ersten Gespräch gesagt, KI solle man erst im letzten Drittel einer Aufgabe einsetzen. Bei einer so textlastigen Profession wie der juristischen ist die Versuchung groß, diesen dritten Baustein gleich zu verletzen. Wie findet man dieses letzte Drittel?

Am Anfang darf ich die Maschine durchaus nutzen, um zu recherchieren oder mir einen Überblick zu verschaffen. Das eigentliche letzte Drittel erkenne ich an einem Gefühl: wenn mir nichts Neues mehr einfällt, was ich vergessen haben könnte, und wenn ich alles so klar beisammen habe – im Kopf oder aufgeschrieben –, dass ich es der Maschine eindeutig und verständlich erklären kann. Solange ich beim Erklären merke, dass noch etwas fehlt, bin ich nicht fertig. Und dann hilft nur Ausprobieren. Ich mache einen Probelauf: Vom Prinzip her habe ich im Kopf, wie es funktionieren müsste, aber ich lasse es nicht einfach laufen, sondern teste es an einer überschaubaren Aufgabe. Ich habe zum Beispiel ausprobiert, ob die Maschine nach wissenschaftlicher Zitierweise korrekt belegen kann, mit Fußnoten und Seitenangaben. Funktioniert der Probelauf, dann weiß ich: Diese letzten zwanzig, fünfundzwanzig Prozent kann ich abgeben – aber eben nur für diesen einen Zweck.

Wenn das Handwerkliche an die KI geht – was bleibt dann die menschliche Grundfertigkeit, gerade für Juristen?

Zuerst: Menschen verstehen. Wenn ich als Jurist jemanden vertrete, habe ich es mit Interessen, Vorlieben, Zielen zu tun, auch mit übertriebenen Erwartungen. Was will der andere eigentlich, wo liegen die Bedürfnisse, was kann ich in Aussicht stellen? Am Ende mache ich immer etwas für Menschen, auch wenn der Mandant ein Unternehmen ist – dahinter stehen Entscheider. Dann das systemische Denken: Märkte, Organisationen, Unternehmenskulturen folgen ungeschriebenen Gesetzen, Rückkopplungen, Hierarchien. Das kann eine KI nicht wissen; das muss ich ihr erklären. Drittens Kreativität – nicht im Sinne von „ich erfinde irgendwas“, sondern: für ein bestehendes Problem eine neue Lösung finden, Dinge neu zusammensetzen, die vorher nicht zusammengehörten und ganz andere Zwecke erfüllt haben. Dazu gehören Erfahrung und die Fähigkeit zum Perspektivwechsel. Und schließlich die Fähigkeit, Menschen zusammenzubringen – Gruppen zu moderieren, zu führen, anzuleiten. Über all dem steht eine Fertigkeit, die alles andere trägt: die richtigen Fragen stellen zu können.

Im ersten Gespräch war „die richtigen Fragen stellen“ deine Schlüsselfähigkeit. Gilt das ein Jahr später noch?

Die Kontrolle entscheidet sich nicht am Ende, sondern am Anfang: über die Grenzen und Freiheitsgrade, die ich vorab setze.

Ja, das hat sich nicht verändert. Um KI überhaupt steuern zu können, muss ich fragen können: warum, wozu, zu welchem Zweck, was ist mein Ziel, was brauche ich dafür, wo muss ich nachsehen? Auch Kreativität ist letztlich Fragen stellen – was wäre, wenn? Was sich verändert hat, ist die Geschwindigkeit, mit der die KI inzwischen arbeitet, auch im Juristischen. Und etwas kommt hinzu: KI wird Fragen stellen, auf die wir gar nicht kämen. Solche Systeme denken anders, sind nicht in Schubladen und Mainstream-Meinungen gefangen – auch die Wissenschaft hat ihren Mainstream, ihre Schulen. Es gibt inzwischen Beispiele, in denen Sprachmodelle mathematische Probleme gelöst haben, die seit Jahrzehnten offen waren – teils seit über fünfzig Jahren. So lassen sich womöglich Probleme lösen, an denen wir uns über Generationen die Zähne ausgebissen haben.

Wo verläuft dann die Grenze zur Kreativität?

In der Forschung suche ich nach unentdeckten Zusammenhängen und Gesetzmäßigkeiten – warum sich ein Virus ausbreitet, warum bestimmte Zahlen in der Physik so sind, wie sie sind. Das ist das Warum. Habe ich es verstanden, kann ich ein Gegenmittel oder eine Lösung entwickeln. Kreativ wird es bei der anderen Frage: Was mache ich mit diesem neuen Wissen? Welches Medikament, welches Produkt, welche Anwendung baue ich daraus? Das eine ist Erkenntnis, das andere die Erfindung. Vielleicht ist diese Grenze auch Haarspalterei – aber ich würde es so unterscheiden.

Wir hatten über Altersgrenzen gesprochen. Übertragen auf die Ausbildung: Gibt es einen Punkt, an dem KI zu früh kommt – und kann man das überhaupt verhindern?

Im Prinzip müsste man sagen: Was du in den ersten zwei, drei Semestern lernst, sollte ohne KI passieren. Es muss erst in den Kopf; du musst selbst recherchiert, selbst formuliert, selbst mit einer Gegenseite gestritten haben. Aber das ist illusorisch. In der Grundschule kann man KI noch verbieten – Norwegen hat das vor wenigen Wochen getan, für die Klassen eins bis sieben, und ich halte das für richtig. In Studium und Berufsausbildung nicht: Die Leute sind nicht eingesperrt. In den Vorlesungen nutzt praktisch jeder täglich KI; wenn man fragt, wer es nicht tut, geht keine Hand hoch. Man braucht also andere Lern- und vor allem andere Prüfungsmethoden, keine Verbote.

Du hast vom „eingebildeten Wissen“ gesprochen – Antworten haben, ohne dass sich etwas verankert. Wie erkennt man das?

So, wie es kleine Kinder vormachen: nachfragen. Erklär es mal mit deinen eigenen Worten, nicht nur die Antwort, sondern das Warum. Entweder jemand kann es erklären – dann hat er es im Kopf – oder er gibt nur wieder, woran er sich erinnert. Was das fürs Gehirn bedeutet, weiß niemand genau. Gesichert ist: Wir lernen durch Wiederholung, oder durch ein Erlebnis, das so stark ist, dass es sich einbrennt. Wenn ich sofort eine Antwort bekomme und sie nur einmal lese, verfestigt sich wenig. Die Wiederholung ist das Entscheidende – das kennt jeder Jurist vom Auswendiglernen der Definitionen.

Eine KI hat keinen Geist, hast du gesagt. Was heißt das für Orte und Institutionen, an denen Menschen zusammen denken und entscheiden?

Ausschließen muss man sie nicht. Wo es ums Verwalten geht, ums Am-Laufen-Halten, ist sie sinnvoll. Auch bei Entscheidungen würde ich sie nicht ausschließen – aber dort ist sie der Zulieferer und Erleichterer, nicht der Entscheider. Es gibt einen Satz, der oft Einstein zugeschrieben wird: Der rationale Geist ist ein treuer Diener, der nicht-rationale ein Geschenk – und wir verehren den Diener und übersehen das Geschenk. Genau darum geht es: zu wissen, wo ich mir von der KI zuliefern lasse und wo es keinen Sinn mehr ergibt. Diese Sinngebung – was sind unsere Ziele, unsere Werte, was ist uns wichtig – können nur wir aus unserem Geist entscheiden. Und daraus ergibt sich auch, wann ich die KI einbinde und wann nicht.

Verantwortung lässt sich an ein Werkzeug nicht abgeben. Wo verläuft die Linie zwischen „die KI hat mir geholfen“ und „die KI hat entschieden“?

Eine Vorauswahl war immer schon eine Vorentscheidung – auch wer von Hand recherchiert, filtert und begrenzt. Der Unterschied ist die Blackbox: Bei einem klassischen Kommentar wusste ich, welcher Autor und welcher Herausgeber dahinterstanden, wer den Weg dorthin geprüft hat. Bei der KI weiß ich nicht, wie die Gewichtungen zustande kommen – das weiß nicht einmal der, der das Modell gebaut hat. Die Kontrolle entscheidet sich deshalb nicht am Ende, sondern am Anfang: über die Grenzen und Freiheitsgrade, die ich vorab setze. Bei manchen Werkzeugen lässt sich genau einstellen, ob die KI bei jeder Frage zurückfragt oder eigenständig weiterarbeitet. Gebe ich es einmal frei, ist es frei – also muss ich mir vorher überlegen, wie groß der Freiheitsgrad sein soll. Und im Übrigen bleibt nur Versuch und Irrtum: nicht blind delegieren, sondern testen, ob die Ergebnisse meinen Erwartungen entsprechen, und kontrollieren, worauf das Modell überhaupt zugreift. Dann kann ich für diesen einen Zweck sicher sein, dass es trägt – nicht automatisch für jeden anderen.

Du bist kein Jurist, du siehst das Recht von außen, durch die Brille der Digitalwirtschaft. Was übersehen die, die mittendrin stecken?

Zum einen genau das, womit wir angefangen haben: die menschlichen Kompetenzen, die bisher nicht wichtig waren und jetzt wichtig werden. Alle schauen zuerst auf die Technik – wie beherrsche ich das, wie bediene ich das? Die Frage, was danach kommt und was die Menschen dann können müssen, kommt erst langsam an. Daneben drei Dinge, die übersehen werden, und das ist nicht nur ein juristisches Problem. Erstens die Abhängigkeit – von Anbietern, aber auch von den bestehenden Modelllogiken. Heute läuft fast alles über große Sprachmodelle; in drei Jahren kann das vorbei sein. Es gibt andere Ansätze, etwa Diffusion-Modelle, wie wir sie von der Bildgenerierung kennen: Aus einem Rauschen entsteht Schritt für Schritt ein Bild. Auf Sprache angewandt sind sie schneller, robuster, energieärmer – es kann gut sein, dass wir irgendwann migrieren müssen. Zweitens „Peak Data“: Die Vorstellung, es gebe Daten ohne Ende, stimmt nicht. Vieles ist verarbeitet, wir nähern uns einer Datenknappheit – und synthetische Daten helfen nicht, es braucht echte Daten aus der echten Welt. Auch im Recht ist vieles aus Dokumenten verarbeitet, aber entscheidende Informationen sind nirgends dokumentiert. Drittens „Model Collapse“: Mit jedem Durchlauf fadet ein Modell Randaspekte aus; die Perspektive verengt sich, und am Ende fehlen Aspekte, die wichtig gewesen wären. Wer ein System einfach laufen lässt, riskiert falsche Schlussfolgerungen – auch das ist im Juristischen eine reale Gefahr.

Kann eine KI-Lösung im Dienst der Allgemeinheit stehen, als Gemeingut – oder dominiert am Ende der Markt?

Das ist im Kern eine politische und eine Finanzierungsfrage: Was gehört zur Daseinsvorsorge, zum menschenwürdigen Leben – und zählt KI künftig dazu? Wer bezahlt die Entwicklung eines solchen Gemeinguts? Außer China nimmt kaum ein Staat so viel Geld in die Hand – und auch China verfolgt eigene Ziele, verschenkt nichts an die Allgemeinheit. Open-Source-Modelle wären ein möglicher Weg, aber ob daraus echtes Gemeingut wird, ist offen. Bemerkenswert ist allenfalls, dass im Moment ausgerechnet die quelloffenen Modelle aus China dem Gedanken einer frei verfügbaren KI am nächsten kommen, während die anderen großen Anbieter Bezahlmodelle sind.

Was wird in zehn Jahren am meisten prägen, wie wir mit Wissen umgehen?

Zehn Jahre sind heute eine sehr lange Zeit. Sicher bin ich mir, dass der größte Nutzen im naturwissenschaftlichen Bereich liegen wird – Biologie, Chemie, Physik. Da rechne ich mit Durchbrüchen vom Kaliber einer Relativitätstheorie, mit Erkenntnissen, an denen sich Menschen hundert Jahre die Zähne ausgebissen haben, auch bei der Heilung von Krankheiten. Für den Umgang mit Wissen selbst wird die Vertrauenswürdigkeit entscheidend: Kenne ich die Quelle, den Verfasser, kann ich dem trauen – bei allem, was sich technisch manipulieren lässt? Und dann die Robotik: Die humanoiden Roboter, die heute aussehen wie wir, sind nur ein Zwischenstadium. In zehn Jahren wird es eine Vielzahl ganz unterschiedlicher Maschinen geben – fliegend, rollend, in allen Bauformen.

Du hast im ersten Gespräch von „Paradise Lost“ gesprochen. Gibt es auch ein „Paradise Regained“ – einen Gewinn gerade daraus, dass das Handwerk an die Maschine geht?

Sicher, aber das hängt von unserer Entscheidung ab. Es gibt genug Probleme, um die sich heute niemand kümmern kann, weil Zeit und Ressourcen fehlen. KI macht beides frei. Die Frage ist dann: Wofür verwenden wir diese Zeit? Macht das Sinn oder nicht? Diese Zieldefinition müssen wir treffen – sie nimmt uns keine Maschine ab.

Zum Schluss, im Futur II: Wir blicken aus dem Jahr 2036 zurück. Was wird gewesen sein, damit du sagst – diesen Übergang haben wir gut hinbekommen?

Der entscheidende Punkt wird die Akzeptanz der Menschen sein; die Entwicklung ist ohnehin nicht aufzuhalten. Zu akzeptieren, dass die KI in bestimmten Bereichen einfach besser ist: schneller rechnet, mehr verarbeitet, genauer und zuverlässiger arbeitet. Wenn man damit im Reinen ist, kann man sich auf neue Ziele und Aufgaben konzentrieren. Das ist wie mit der Erkenntnis, dass wir nicht der Mittelpunkt des Universums sind – irgendwann mussten die Menschen das akzeptieren, und heute ist es für uns in Ordnung.

So ähnlich wird es sein: an bestimmten Stellen überholt – und es geht trotzdem weiter, nur anders. Letztlich bleibt uns nichts anderes übrig, und mit dem, was man nicht ändern kann, muss man seinen Frieden machen. Das führen uns die Stoiker seit Jahrtausenden vor Augen.