Wird sich KI als ebenso disruptiv erweisen wie etwa die Verbreitung des Internets, oder ist es nur eine graduelle Perfektionierung bereits bestehender Techniken?
Die Definition von Minsky zu KI macht bereits klar, dass das Technologiegebiet alles andere als klar umrissen ist. Das liegt nicht zuletzt daran, das KI ein Marketingkonzept ist und in dieser Rolle aktuell auch bestens funktioniert. Die Erwartungen sind immens. Das ist einerseits berechtigt. Denn KI schliesst Methoden und technische Systeme ein, welche Schnittstellen zu sämtlichen datenrelevanten Industrien besitzen – und das sind so ziemlich alle. Insofern ist das Potenzial enorm. Andererseits sollte man nicht übereuphorisch werden: In den vergangenen Jahrzehnten haben sich beim Thema KI immer wieder Phasen der Begeisterung und der Ernüchterung abgewechselt. In den 1970er-Jahren etwa war das Thema total out, fast niemand wollte sich mehr mit Künstlicher Intelligenz beschäftigen. Diese Phase ist als «KI-Winter» in die Geschichte eingegangen.

Wir werden erst rückblickend wirklich beurteilen können, wie revolutionär oder einschneidend KI tatsächlich ist. Persönlich bin ich überzeugt, dass KI-Technologien einen extrem grossen Einfluss haben und in ihrer Wirkung sogar das Internet in den Schatten stellen werden. Ein Indiz dafür: Das als Nachfolger des Internets gehandelte Metaverse wurde erst durch KI möglich.

Wie wird sich der Arbeitsalltag durch Künstliche Intelligenz verändern? Werden im Saldo mehr Arbeitsplätze durch KI verloren gehen oder entstehen?
Die Frage nach dem Arbeitsplatzsaldo ist zwar grundsätzlich interessant, aber für mich nicht matchentscheidend. Ich persönlich glaube, dass es in Zukunft mehr Menschen geben wird, die sich an Maschinen bzw. dezentralen autonomen Organisationen als Investoren beteiligen, so wie man heute Aktien erwirbt. Ich habe dazu einmal exemplarisch für den Taximarkt eine Case Study geschrieben. Die Frage, wie Personen dann für ihren Einsatz entschädigt werden – über ein Lohneinkommen oder eine Dividende – ist für mich sekundär, solange eine gute Lebensgestaltung möglich ist.

Zweitens: Technischer Fortschritt führt seit jeher dazu, dass sich Berufsfelder und Stellenprofile verändern. Denken Sie etwa an die Einführung von Bankomaten in den 1960ern – das Schalterpersonal erhielt neue Aufgaben, wurde aber nicht obsolet. Gerade im Bereich der sogenannten Wissensarbeiter erwarte ich gleichwohl grosse Auswirkungen. Ich vermute, dass wir in einer Dekade KI-Assistenten nutzen werden, die autonom E-Mails schreiben, Termine abmachen, sogar vielleicht für uns Verhandlungen führen. Das birgt das Versprechen eines beachtlichen Produktivitätsschubs. Anderen Sektoren mag es ähnlich gehen, denken Sie z.B. an eine durch KI vollautomatisierte Landwirtschaft oder Logistik.

Deep Fake ist ein Aspekt von KI, der in der Öffentlichkeit wohl die grössten Sorgen weckt. Wie gefährlich ist diese Technologie aus Ihrer Sicht, auch in Bezug auf eine freiheitliche Gesellschaftsordnung?
Zunächst: Deep Fake ist keine eigentliche Technologie, sondern lediglich eine von vielen Anwendungen von Technologie, in diesem Fall von Deep Neural Networks oder Deep Learning. Deep Fakes sind bisher meist auf Bilder bezogen, es ist aber bereits möglich, ganze Videos inklusive gesprochener Sprache zu faken. Aus meiner Sicht handelt es sich tatsächlich um eine veritable Gefahr für eine aufgeklärte Gesellschaft. Im Frühjahr 2023 kursierten Bilder im Internet, auf denen der Papst plötzlich wie ein Rapper aussah oder Selenski die Kapitulation unterschrieb. Das waren offensichtliche Fakes, doch es ist sehr gut denkbar, dass bald glaubwürdigere Fälschungen entstehen und politisch instrumentalisiert werden. Entsprechend erwarte ich, dass das Problem in Zukunft noch deutlich grösser wird und unser Gerüst von Überzeugungen ernsthaft erschüttern kann.

Was tun? Zensur oder staatliche Überwachung können mich als liberalen Geist nicht überzeugen. Vielmehr steht das Individuum in der Pflicht, kritisch zu bleiben, Informationen und Informationsquellen zu ­hinterfragen und Plausibilitätstests durchzuführen. Zentrales Kriterium für die Bewertung wird schlussendlich sein, ob die Botschaft sich kohärent in das Gesamtgefüge unserer Überzeugungen integrieren lässt. Das Internet bietet uns die Möglichkeit, uns schnell und breit zu informieren und Fakes als solche zu entlarven. Voraussetzung ist jedoch, dass wir nicht in einem abgeschotteten totalitären Regime leben, das die Medien kontrolliert und uns manipuliert.

Sie plädieren in Ihren Publikationen dafür, dass wir punkto KI unsere Verantwortung wahrnehmen und Spielregeln bestimmen sollen. Was wären für Sie die wichtigsten Regeln für einen verantwortungsvollen Umgang mit KI?
Diese Frage kann ich noch nicht konkret beantworten. Denn es gibt eine grosse grundlegende Schwierigkeit – nämlich durch Technologien geschaffene Verantwortungslücken. Meine These lautet: In einer durch KI geprägten Welt werden Menschen möglicherweise vor allem damit beschäftigt sein, Maschinen zu warten, zu beaufsichtigen oder vielleicht zu reparieren, während diese die schwierigen Teile der Arbeit erledigen, für die zuvor hochqualifizierte Menschen verantwortlich waren. Wer genau ist nun zur Verantwortung zu ziehen, wenn die Maschine einen Fehler macht? Oder wer erntet die Lorbeeren, wenn die Maschine erfolgreich ein Problem löst?

Ich gebe ein Beispiel: Wer oder was ist zu preisen für den Erfolg von AlphaGo im Jahr 2016, das als Computerprogramm den südkoreanischen Profi Lee Sedol im Brettspiel «Go» geschlagen hat? Die Entwickler und Programmierer bei DeepMind? Die gesamte Firma bis hin zum Hauswart? Die Person, welche die Brettfiguren im Namen von AlphaGo bewegt hat? Diese Fragen müssen wir zuerst klären, bevor wir als Gesellschaft klare und transparente Regeln für einen verantwortungsvollen Umgang mit KI aufstellen können.

Zwei grosse Stärken von KI sind Effizienz­gewinnung durch Automatisierung und Mustererkennung: Kann uns dies auf dem Weg zu einer innovativeren und nachhalti­geren Welt unterstützen, z.B. beim Artenschutz, bei der Biodiversität oder beim Kampf gegen den Klimawandel?
Effizienzgewinnung durch Automatisierung und Mustererkennung als Stärken von KI können beim Artenschutz, bei der Erhaltung der Biodiversität oder beim Kampf gegen den Klimawandel helfen. Es gibt bereits einige Start-ups, die in dieser Richtung arbeiten. Mit Blick auf die grossen gesellschaftlichen Herausforderungen sind andere Themen für mich jedoch wichtiger.

Thema Ökologie: Die als so fortschrittlich geltende KI- und Tech-Branche wird nur selten unter dem Aspekt des CO₂-Fussabdrucks, der fossilen Brennstoffe und der Umweltverschmutzung betrachtet. Für die Entwicklung von KI-Systemen werden jedoch beispielsweise seltene Erden wie Terbium oder Scandium benötigt. Diese können als Konfliktmineralien eingeordnet werden – der Abbau dieser Materialien kann im Zusammenhang mit Krieg, Hunger und Tod stehen. Ausserdem führt die Durchdringung unserer Welt mit KI dazu, dass sich der industrielle Abbau von Umweltressourcen intensiviert.

Auch der Aspekt der Arbeits- und Beschäftigungsbedingungen in der Technologiebranche verdient unsere Beachtung: Ich habe am Beispiel des «Schachtürken» potemkinsche KI-Systeme erwähnt, also eine Form der Täuschung durch Technologieanbieter. Sie wollen den Eindruck erwecken, die neue Technik zu beherrschen, in Wirklichkeit wird aber im Hintergrund vieles manuell erledigt, zum Teil zu ausbeuterischen Bedingungen. Zudem kann KI den Arbeitsalltag der Beschäftigten negativ verändern, so wie es im 20. Jahrhundert in der fertigenden Industrie geschah: Ursprünglich sollten die Fabrikmaschinen die Arbeiter bei ihren täglichen Tätigkeiten unterstützen, doch bald einmal prägten sie selbst das Tempo und die Art der Arbeit. Die Arbeit nahm zunehmend einen maschinenähnlichen Charakter an, zum Beispiel am Fliessband. Das betrifft jedoch nicht nur einfach qualifizierte Tätigkeiten: Wenn KI viele Aufgaben übernimmt, die früher von hoch­qualifizierten menschlichen Arbeitskräften ausgeführt wurden, kann das dazu führen, dass die Arbeit weniger sinnhaft und befriedigend wird, vor allem für diejenigen, die durch anspruchsvolle Aufgaben motiviert werden.

Wird die Welt im Saldo durch KI also besser oder schlechter?
Das ist noch offen. Ich möchte dazu eine Kernaussage aus Kate Crawfords Buch «The Atlas of AI» von 2021 zitieren, welche alle liberal denkenden Menschen und Unternehmer wachrütteln sollte: KI ist keine objektive, universelle oder neutrale Rechen­technik, die ohne menschliche Anleitung Entscheidungen trifft. KI-Systeme sind vielmehr in die soziale, politische, kulturelle und wirtschaftliche Welt eingebettet und werden von ihr geprägt. Wenn KI in sozialen Kontexten wie der Polizei, dem Gerichtssystem, der Gesundheitsversorgung und dem Bildungswesen eingesetzt wird, kann sie bestehende strukturelle Ungleichheiten verstärken. Das ist kein Zufall: KI-Systeme sind so konzipiert, dass sie die Welt auf eine Weise wahrnehmen, die in erster Linie den Staaten, Institutionen und Unternehmen zugutekommt, denen sie «dienen». In diesem Sinne sind KI-Systeme Ausdruck von Macht und unterstützen den Machterhalt. Anders gesagt: KI spiegelt unsere politischen und gesellschaftlichen Rahmenbedingungen wider und kann diese tendenziell manifestieren.

Wenn wir also Nachhaltigkeit nicht ausschliesslich unter dem Aspekt des Umweltschutzes sehen, sondern es uns dabei auch um eine lebenswerte Welt mit Freiheitsgraden für möglichst viele Menschen geht, dann müssen wir uns bewusst sein, dass KI nur dann zu einer freieren und nachhaltigeren Welt beitragen kann, wenn sie unter freiheitlichen Rahmenbedingungen stattfindet.