„Wir brauchen mehr Forschung zu den langfristigen Auswirkungen von KI“

Was weiß KI über Sie, Brent Mittelstadt?

Brent Mittelstadt: Die künstliche Intelligenz weiß all das über mich, was öffentlich zugänglich ist. Dass ich Forscher in Oxford bin, dass ich viele wissenschaftliche Arbeiten zu Künstlicher Intelligenz und Ethik veröffentlicht habe. Mit diesen öffentlichen Daten wird KI trainiert. Ich versuche deshalb ganz bewusst, persönliche Informationen von KI fernzuhalten. Tatsächlich meide ich sie so gut es geht, weil ich nicht überzeugt bin, dass sie wirklich das leistet, was sie verspricht.

Viele KI-Systeme sind mittlerweile für alle Userinnen und User zugänglich. Wie viel sollten wir selbst über KI wissen?

Mittelstadt: Wer KI nutzen will, sollte zumindest die Grundlagen verstehen. Wozu wurde ein KI-Tool überhaupt entwickelt? Wie wird es beworben? Was kann es tatsächlich leisten? Zwischen Anspruch und Realität klaffen oft große Lücken. Zu verstehen, wo genau diese Grenzen verlaufen, ist zentral.

Haben Sie ein konkretes Beispiel, auf das Sie sich beziehen können?

Mittelstadt: Es wird etwa dann problematisch, wenn Menschen Large Language Modelle wie ChatGPT oder Gemini als Ersatz für eine Therapeutin oder einen Therapeuten nutzen, ohne zu verstehen, dass sie es nicht mit einem lebenden, denkenden und fühlenden Wesen mit fachlicher Expertise zu tun haben, sondern mit einer Maschine, die im Grunde nichts anderes macht, als Textabfolgen vorherzusagen.

Gibt es denn überhaupt jemanden, der KI wirklich versteht?

Mittelstadt: „Künstliche Intelligenz“ ist ein schwieriger Begriff. Er umfasst ein Themenfeld, das viel zu breit, viel zu vielfältig ist, um in diesem einen Begriff Platz zu haben. Wenn im Alltag von KI die Rede ist, sind meist Anwendungen wie ChatGPT oder Gemini gemeint. Dabei gibt es unzählige Machine Learning-Technologien. Das reicht von Tools, um Objekte und Bilder einzuordnen, bis hin zu textbasierten Anwendungen oder zur Erstellung von Risikoprofilen. Und ja, es gibt viele Fachleute, die verstehen, wie diese Systeme aufgebaut sind und nach welchen Grundprinzipien sie funktionieren. Aber wenn es darum geht, tatsächlich zu verstehen, wie diese komplexen Systeme einzelne Entscheidungen treffen oder individuelle Inhalte generieren, dann ist das nicht mehr wirklich nachvollziehbar. Man kann die Schritte zurückverfolgen, sie aber zu deuten – das ist der Punkt, an dem es schwierig bis unmöglich wird.

Sie haben ChatGPT erwähnt – vermutlich das derzeit am weitesten verbreitete KI-Tool in der breiten Öffentlichkeit. Gleichzeitig zeigen Studien, dass die Lesekompetenz abnimmt – und damit auch die Fähigkeit, Inhalte kritisch zu hinterfragen. Schulen und Lehrkräfte kommen beim Thema Medien- und Sozialkompetenz kaum noch hinterher. Inwieweit sehen Sie die großen Tech-Konzerne selbst in der Verantwortung, diese Aspekte zu berücksichtigen, bevor sie neue Technologien verfügbar machen?

Mittelstadt: Sie tragen eine enorme Verantwortung. Nehmen wir etwa den Einsatz von KI im Gesundheitswesen. Wir würden erwarten, dass ein solches System gründlich getestet wird, dass es sich als ebenso wirksam oder sogar wirksamer erweist als bestehende Behandlungen, dass es mindestens so kompetent agiert wie das entsprechende Fachpersonal. Ebenso würden wir strenge Sicherheitsstandards und ein Zulassungsverfahren voraussetzen – betreut von Fachleuten mit ausgewiesener Expertise in diesem Bereich. Würde ein Unternehmen versuchen, eine medizinische Beratung auf Basis von ChatGPT anzubieten, käme es umgehend in rechtliche Schwierigkeiten – und das zu Recht, denn hier steht nichts Geringeres auf dem Spiel als die Gesundheit und Lebensqualität von Menschen.
Warum gelten vergleichbare Sicherheitsstandards nicht auch im Bildungsbereich, in der Forschung oder in Bezug auf die Fähigkeit zum kritischen Denken? Warum dieser plötzliche Drang, KI in Schulen zu implementieren? Das ist für mich schwer nachvollziehbar. Ja, Unternehmen sollten Verantwortung übernehmen und klare Grenzen setzen, aber noch wichtiger ist, dass Regierungen und Organisationen verbindliche Rahmenbedingungen schaffen, die festlegen, was Unternehmen dürfen und was nicht. Und wir sollten Forschung zu den langfristigen gesellschaftlichen Auswirkungen von KI gezielt fördern, damit wir nicht blindlings und unvorbereitet in eine Situation steuern, in der eine ganze Generation plötzlich zentrale Schlüsselkompetenzen verloren hat.

Große Tech-Unternehmen zu regulieren ist das eine, aber wenn Einzelpersonen oder kleinere Gruppen unabhängig KI entwickeln und nutzen, wird Kontrolle doch deutlich schwieriger, oder?

Mittelstadt: In der Theorie mag es für die Regulierung einfacher erscheinen, wenn es eine überschaubare Anzahl von Playern gibt. Doch solche Tech-Unternehmen verfügen auch über erhebliche Verhandlungsmacht. Wenn etwa die EU versucht, einen großen US-Konzern zu regulieren, kann es schon passieren, dass dieser damit droht, sich vom europäischen Markt zurückzuziehen. Gleichzeitig stellen große Konzerne Spitzentechnologie bereit, auf deren Basis andere wiederum eigene Anwendungen und Geschäftsmodelle entwickeln. Gerade deshalb halte ich es für gesund, den Wettbewerb gezielt zu fördern, Start-ups zu unterstützen und ihnen Zugang zu Daten zu ermöglichen, damit sie eigene, konkurrierende Systeme auf den Markt bringen können.
Viele Menschen äußern berechtigte Sorgen über die Sicherheitsrisiken offener Systeme, doch ihr Vorteil liegt darin, dass sie Nutzerinnen und Nutzern die Möglichkeit geben, Modelle an eigene Bedürfnisse anzupassen und damit echte Alternativen zu schaffen. Deutlich schwieriger ist es allerdings, konkrete Anwendungsfälle zu regulieren und Einzelpersonen zur Verantwortung zu ziehen – etwa im Zusammenhang mit Deepfakes, um ein Beispiel zu nennen. Diese Technologien komplett zu verbieten ist unrealistisch. Ihre Nutzung strafrechtlich zu verfolgen oder regulatorisch einzugrenzen, ist aber sehr wohl möglich.

Den Job zu verlieren, weil man durch KI ersetzt wird. Wettbewerbsfähigkeit zu verlieren, weil man sich nicht rechtzeitig mit KI beschäftigt hat. Solche Ängste sind in Unternehmen und am Arbeitsplatz ständig präsent. Wie sollten wir mit diesem Druck umgehen?

Mittelstadt: In vielen westlichen Ländern wird der Einsatz von KI geradezu überstürzt vorangetrieben – möglichst schnell und in möglichst vielen Bereichen. Ausschlaggebend ist dabei weniger der gesellschaftliche oder menschliche Nutzen, sondern in erster Linie ein wirtschaftliches Interesse. Doch was für Unternehmen gut ist, ist oft weit entfernt von dem, was tatsächlich gut für die Menschen wäre. Die öffentliche Debatte ist stark von überzogenen Versprechen aus Werbung und Lobbyarbeit geprägt. Es könnte der Eindruck entstehen, KI mache menschlicher Intelligenz bereits Konkurrenz. Das tut sie nicht. Zahlreiche Studien zeigen, dass Leistungsmaßstäbe gezielt so gesetzt werden, dass die Systeme in ein möglichst gutes Licht gerückt werden. Starke Leistungen werden hervorgehoben, Schwachstellen verschwiegen.
Es gibt Fälle, in denen Unternehmen ein KI-System einführen, Personal entlassen – und Monate später zurückrudern müssen, weil sich die Künstliche Intelligenz als deutlich weniger leistungsfähig erwiesen hat, als zuvor angenommen. Auch das Versprechen einer Post-Scarcity-Gesellschaft, einer Überflussgesellschaft, geistert umher: KI schaffe mehr Effizienz und könne Menschen in bestimmten Arbeitsfeldern entlasten. Wenn das tatsächlich dazu führen würde, dass wir mehr Freizeit hätten, eine Vier-Tage-Woche oder ein bedingungsloses Grundeinkommen, könnte ich diesen Versprechen etwas abgewinnen. Doch ich bezweifle stark, dass das die Richtung ist, in die wir uns bewegen.

Wie würden Sie KI auf verantwortungsvolle Weise einsetzen?

Mittelstadt: Zunächst müsste ich verstehen, wozu sie gebraucht wird und dann die tatsächliche Leistung bewerten. Dafür brauchen wir unabhängige, standardisierte Maßstäbe, die von Dritten entwickelt wurden.

Was raten Sie Ihren Studierenden in Bezug auf den Einsatz von KI?

Mittelstadt: Mit einem passablen Prompt ist jede und jeder Studierende in der Lage, eine einigermaßen gute Arbeit abzugeben. Wer das aber tut, bringt sich um genau jene Erfahrungen, für die ein Studium eigentlich gedacht ist: die Entwicklung eigener Ideen durch Recherche, das Ringen mit komplexen Fragestellungen, das kritische Denken und die aktive Auseinandersetzung mit Inhalten. All das sind zentrale Fähigkeiten – nicht nur mit Blick auf den Arbeitsmarkt, sondern auch für die persönliche Entwicklung. Der wahre Wert von Bildung liegt im Lernprozess selbst. Gleichzeitig ist es wichtig, den Umgang mit neuen Werkzeugen wie KI zu erlernen, denn sie werden künftig zweifellos eine Rolle spielen. Ich versuche meinen Studierenden ein realistisches Bild davon zu vermitteln, wozu KI fähig ist. Das reicht von der Umformulierung von Stichpunkten in einen Fließtext bis hin zur Recherche erster Impulse für weiterführende Forschung.

Stichwort weitere Forschung: welche neuen Schwerpunkte möchten Sie in Zukunft setzen?

Mittelstadt: Wir brauchen deutlich mehr Forschung zu den langfristigen Auswirkungen von KI – sowohl im gesellschaftlichen als auch im ökologischen Bereich. Inzwischen sind wir an einem Punkt, an dem Tech-Konzerne ernsthaft darüber nachdenken, neue Atomkraftwerke zu bauen, um ihre Server zu betreiben. Gleichzeitig wird uns vermittelt, dass der ökologische Fußabdruck von KI vergleichsweise gering sei. Das sollten wir kritisch hinterfragen: Ist es wirklich wert, Wälder zu roden, nur um lustige KI-Bilder zu erstellen? Brauchen wir vielleicht eine spezifische CO₂-Steuer für KI-Anwendungen?
Mit meiner Forschung möchte ich dem zunehmend dominanten Narrativ entgegentreten, dass Innovation – insbesondere im Bereich Künstlicher Intelligenz – grundsätzlich gut sei und regulatorische Hürden deshalb abgebaut werden müssten, um sie zu fördern. Dieses Narrativ ist gefährlich, und doch gewinnt es auch in der EU immer mehr Einfluss. Umso wichtiger sind Gegenstimmen. Trotz allem würde ich mich nicht als KI-Pessimist bezeichnen. Ich halte die Technologie für beeindruckend, aber wir brauchen ein realistisches Verständnis ihrer tatsächlichen Fähigkeiten – und wir sollten sie sehr viel vorsichtiger einsetzen. Oft spüren wir einen Verlust erst dann, wenn es schon zu spät ist. Es gibt unzählige Fähigkeiten und unglaublich viel Wissen, das sich weder automatisieren noch in Aufgaben oder Prompts übersetzen lässt. All das sollten wir nicht leichtfertig aufs Spiel setzen, nur weil künstliche Intelligenz uns gerade so mächtig und unverzichtbar erscheint. Und wir müssen uns fragen: Sind die Abkürzungen, die künstliche Intelligenz uns bietet, den Preis, den wir dafür zahlen, wirklich wert?