Künstliche Intelligenz nimmt uns die Verantwortung nicht ab

Herr Basler de Roca, was fasziniert Sie an der KI und was wird aus Ihrer Sicht häufig missverstanden?

Roger Basler de Roca: Mich fasziniert, dass Sprache zur Bedienoberfläche geworden ist. Zum ersten Mal muss sich nicht der Mensch an die Logik der Maschine anpassen, sondern umgekehrt. Missverstanden wird fast durchgehend, was diese Systeme tun: Sie verstehen nichts, sondern berechnen Wahrscheinlichkeiten für das nächste Wort. Diese Verwechslung von Sprachfähigkeit mit Denkfähigkeit ist die Ursache der meisten überzogenen Erwartungen und der meisten Fehlentscheidungen.

KI kann heute Texte erstellen, Wissen bereitstellen und Lösungen vorschlagen. Was unterscheidet sie dennoch grundlegend vom menschlichen Denken?

Menschliches Denken ist an Erfahrung, Absicht und Verantwortung gebunden. Ein Sprachmodell hat kein Ziel, kein Interesse am Ergebnis und muss keine Konsequenzen tragen. Deshalb formuliert es eine richtige und eine falsche Antwort mit derselben Souveränität: Der Unterschied ist ihm gleichgültig. Genau dieser fehlende Eigenanteil ist der entscheidende Unterschied, nicht die Rechenleistung.

Wo ist KI dem Menschen überlegen und wo bleiben Erfahrung, Kreativität und Urteilskraft unverzichtbar?

Überlegen ist KI überall dort, wo Menge, Tempo und Ermüdungsfreiheit zählen: Muster in großen Datenmengen erkennen, Sprachen übersetzen, strukturierte Aufgaben ohne Konzentrationsverlust wiederholen. Unverzichtbar bleibt der Mensch dort, wo Kontext fehlt, wo abgewogen werden muss und wo etwas auf dem Spiel steht. Eine Maschine kann Optionen berechnen. Entscheiden, verantworten und einem Menschen gegenübersitzen kann sie nicht.

Viele Menschen fragen sich: Wird KI uns künftig Arbeit abnehmen oder unsere Arbeitsweise verändern? Welche Berufe werden besonders betroffen sein?

KI ersetzt selten ganze Berufe, sondern verschiebt Aufgaben innerhalb von Berufen. Betroffen sind zuerst wissensbasierte Tätigkeiten mit hohem Text- und Routineanteil, etwa in Verwaltung, Kundendienst, Recht, Marketing und Teilen des Finanzwesens. Stabiler bleiben Tätigkeiten mit physischer Präsenz, handwerklichem Können und direkter Verantwortung im Kundenkontakt. Die relevante Frage lautet deshalb nicht, welcher Beruf verschwindet, sondern welche Tätigkeiten innerhalb eines Berufs künftig noch bezahlt werden.

KI liefert oft überzeugende Antworten – auch wenn diese falsch sein können. Wie können Menschen lernen, mit den Ergebnissen kritisch umzugehen?

Mit einer einfachen Regel: Nie eine Antwort übernehmen, die man selbst nicht beurteilen kann. Für die praktische Prüfung eignet sich der CRAP-Test, also die vier Fragen zu Aktualität, Verlässlichkeit, Urheberschaft und Absicht einer Information. Konkret heißt das: Zahlen, Namen, Zitate und Rechtsangaben immer anhand einer unabhängigen Quelle prüfen, bevor sie weiterverwendet werden.

Sie betonen die Bedeutung menschlicher Verantwortung. Warum wird kritisches Denken im Zeitalter der KI sogar wichtiger?

Weil wir mit jeder Auslagerung von Denkarbeit auch die Fähigkeit verlieren, das Ergebnis noch zu beurteilen. Dieses Phänomen heißt kognitives Auslagern und ist Gegenstand meiner Forschung. Es entsteht ein Kreislauf: Wer weniger selbst denkt, prüft schlechter, und wer schlechter prüft, merkt nicht, dass er weniger denkt. Verantwortung lässt sich zudem nicht delegieren. Ein System kann rechnen, haften muss immer ein Mensch.

Die Entwicklung leistungsfähiger KI wird derzeit von wenigen großen Technologieunternehmen geprägt. Welche Risiken entstehen dadurch?

Es gibt drei Risiken: ein wirtschaftliches, weil Infrastruktur Kontrolle über Preise, Zugang und Verfügbarkeit bedeutet; ein inhaltliches, weil jedes Modell Annahmen darüber enthält, was als richtig, neutral oder unangemessen gilt; und ein strategisches, weil die Abhängigkeit von einem Anbieter ein Klumpenrisiko schafft. Europäische Alternativen sind daher keine Symbolpolitik, sondern Risikostreuung.

Die EU reguliert mit dem AI Act die Künstliche Intelligenz. Braucht es mehr Regeln oder besteht die Gefahr, Innovation auszubremsen?

Der risikobasierte Ansatz des AI Act ist richtig: Je größer der mögliche Schaden, desto strenger die Anforderungen. Problematisch sind nicht die Regeln, sondern ihre uneinheitliche Auslegung und die Rechtsunsicherheit. Unternehmen brauchen verlässliche Antworten darauf, was konkret erlaubt ist – nicht noch mehr Gesetze.

Welche Rolle wird KI künftig im Bankwesen spielen? Wo kann sie Kundinnen und Kunden sowie Mitarbeitende sinnvoll unterstützen?

Der größte Hebel liegt nicht an der Kundenschnittstelle, sondern im Hintergrund: Dokumentenverarbeitung, Betrugserkennung, Compliance-Prüfungen, interner Wissenszugang und die Vorbereitung von Beratungsgesprächen. Für Mitarbeitende bedeutet das weniger Suchen und weniger formale Arbeit, für Kundinnen und Kunden schnellere und besser vorbereitete Gespräche. Der Gewinn entsteht also dort, wo KI Zeit für den Menschen freispielt, nicht dort, wo sie den Menschen ersetzt.

Wird KI eines Tages eine persönliche Finanzberatung übernehmen können – oder bleiben Vertrauen, Erfahrung und persönliche Gespräche unverzichtbar?

Standardisierte Fälle wird die KI weitgehend übernehmen, und das ist auch sinnvoll. Sobald es aber um Vermögen geht, geht es nicht mehr allein um Zahlen: Es geht um Nachfolge, Familie, Sicherheitsbedürfnis und Lebensentwürfe. Solche Entscheidungen sind biografisch, nicht rechnerisch. Vertrauen entsteht in Beziehungen und Verantwortung braucht ein Gegenüber, das haftet. Deshalb bleibt die persönliche Beratung – sie wird nur anspruchsvoller.

Persönliches

Roger Basler de Roca ist Digitalunternehmer, Keynote-Speaker sowie Berater und Dozent für Künstliche Intelligenz und digitale Geschäftsmodelle. Er hält jährlich über 100 Vorträge, begleitet mehr als 60 Unternehmen bei der Einführung von KI und unterrichtet an verschie-denen Hochschulen und an der Universität Basel. In seiner Forschung beschäftigt er sich mit kognitivem Auslagern, also mit der Frage, was mit dem menschlichen Denken geschieht, wenn Denkarbeit an Maschinen abgegeben wird. Er ist Autor von 14 Büchern und wurde 2024 und 2025 mit dem CONTRA Top Speaker Award ausgezeichnet. Sein Leitsatz: „Künstlich ist die Maschine. Die Intelligenz muss vom Menschen kommen.“