KI-Ethiker im Interview

Herr Mussgnug, droht uns eine KI-Apokalypse?

WOCHENBLATT: Herr Dr. Mussgnug, man hört sehr viel über KI. Für einen Laien erklärt – was ist KI eigentlich?

Alexander Mussgnug: Das ist eine schwierige Frage, auf die ich keine gute Antwort habe. Ich glaube, das Interessanteste für Laien zu wissen ist, dass der Begriff an sich in der Forschung breit diskutiert wird. Was er beinhaltet, wie er am besten zu definieren ist, die Geschichte des Begriffs. Und da sind sich viele Forscher uneinig.

Die Standardgeschichte, die erzählt wird, ist, dass es 1956 am Dartmouth College einen Sommer-Workshop gab, zu dem viele Leute eingeladen wurden. Und der wurde ‚Artificial Intelligence‘ genannt. Dieser Begriff hat sich dann langsam in den allgemeinen Sprachgebrauch eingefunden. Aber was genau Künstliche Intelligenz ist, ist schwierig zu definieren.

Ich glaube, was die meiste Diskussion momentan anregt, ist generative Künstliche Intelligenz, also Künstliche Intelligenz, die ein Bild oder einen Text erstellen kann.

WOCHENBLATT: Sie beschäftigen sich in Ihrer Forschung mit KI-Ethik. Was ist daran reizvoll?

Alexander Mussgnug: Ich habe einen relativ interdisziplinären Hintergrund: Ich habe nicht mit Philosophie angefangen, sondern erst Wirtschaftswissenschaften studiert und als Informatiker gearbeitet. Dann habe ich Technologie und Wirtschaftsrecht studiert und dann erst wirklich für den Doktor mit Philosophie und Ethik angefangen. 

Was ich an der KI-Ethik sehr gerne mag, ist, dass ich die unterschiedlichen Einflüsse und Erfahrungen, die ich gemacht habe, gut einbringen kann. Dass ich nicht fachgebunden unterwegs bin, sondern ich mir wirklich anschauen kann, was gerade in Gesellschaft, in Wissenschaft, in Wirtschaft um Künstliche Intelligenz passiert.

Wenn ich mit Technologien arbeite oder etwas programmiere, stelle ich mir die Frage, welche Auswirkungen das, was ich mache, auf meine Mitmenschen hat. Diese Frage wollte ich ehrlich und weitgehend erforschen. Was verändert sich in uns und was verändert sich in unserer Gesellschaft, wenn neue Technologien entwickelt werden?

WOCHENBLATT: In den Medien wurde viel über KI und das Erstellen von sexualisierten Bildern diskutiert. Und damit verbunden über Einschränkungen. Braucht KI Grenzen?

Alexander Mussgnug: Das ist eine schwierige Frage. In vielen Unternehmen werden sich sehr viele Gedanken gemacht, vom Entwickler bis zum CEO, welche Richtlinie es braucht, welche Sachen verboten gehören. Da gibt es Fälle, die sind ganz klar auf der einen Seite und ganz klar auf der anderen Seite. Also sexualisierte Inhalte mit Minderjährigen sind klar verboten. Dann gibt es andere Fälle, die sind ganz klar erlaubt. Aber es gibt viele Dinge, die sich dazwischen bewegen. Und wo man da genau die Linie zieht, ist extrem schwierig. Das ist nicht nur bei KI so. Sie sind Journalist: Da können wir auf das Beispiel Charlie Hebdo und Karikaturen von Mohammed schauen. Ist das erlaubt oder nicht? Das ist eine Frage, auf die oft verschiedene Antworten kommen.

Meine eigene Forschung versucht darauf hinzuweisen, dass Künstliche Intelligenz zwar eine neue Technologie ist, aber dass wir in unterschiedlichen Bereichen viele Sachen gelernt haben. Journalisten haben journalistische Ethik, im Finanzwesen gibt es professionelle Ethikkodexe, im Medizinwesen gibt es unzählige Richtlinien und Gesetze. Es bringt viel, sich auf diese Punkte auch bei KI zu besinnen. Wir müssen das Rad nicht neu erfinden.

WOCHENBLATT: Sie sagen, dass der Begriff KI schwer zu definieren ist. Ethik, würde ich sagen, ist ähnlich schwer zu definieren. Verschiedene Menschen haben unterschiedliche Vorstellungen von Ethik und Moral. Wie kann man da auf einen Nenner kommen?

Alexander Mussgnug: Ethik ist eigentlich relativ einfach zu definieren. Es gibt zwei gängige Definitionen in der akademischen Philosophie. Die eine versteht Ethik als richtige oder falsche Handlung. Die andere umfasst die Frage, wie man ein gutes Leben führen kann.

Das Problem ist, dass wir in einer immer globaleren Welt leben. Künstliche Intelligenz zeigt uns klar, dass es nicht mehr möglich ist, Technologien nur in einem Land zu regulieren. Die Herausforderung ist dann, wie man mit sehr unterschiedlichen Weltauffassungen umgeht, um gemeinsame Regulierung zu schaffen. Ich glaube, niemand hat bis jetzt eine gute Lösung dafür gefunden. Und ich glaube, das steht auch nicht in Aussicht. 

Ein interessantes Phänomen ist aber, dass die EU Vorreiter ist, wenn es Regulierung von Künstlicher Intelligenz geht. Und da es sich wenige Unternehmen leisten können, den EU-Markt auszulassen, überwiegt meistens die strikteste Regulierung. Die Frage ist auch hier in der Region interessant mit der Grenze zwischen Deutschland und der Schweiz. Die EU hat den ‚AI Act‘, die Schweiz hat den nicht übernommen. Da merkt man als Unternehmer, dass die Unterschiede zehn Kilometer voneinander entfernt spürbar sind.

Meine eigene Forschung versucht Brücken zu bauen zwischen verschiedenen Kulturen und Weltanschauungen, wenn es um ethische Technologie geht. Dazu setze ich gezielt nicht auf abstrakte Theorien, sondern auf echte oder fiktive Vorbilder — Menschen aus Vergangenheit, Gegenwart, Filmen, oder Romanen, die besonders verantwortungsvoll mit Technologie umgehen.

Als Beispiel nehme ich oft Stanislaw Petrov. Das war ein sowjetischer Soldat, welcher ein System betreute, dass bei einem Angriff der USA, Atomraketen in Richtung Westen feuern sollte. Eines Tages zeigte das System Beschuss an, aber Stanislaw weigerte sich die Raketen abzufeuern. Er verwarf das Protokoll und interpretierte die Computersignale, gegen Anweisung, als Fehlalarm. Oftmals können sich Personen und Gesellschaften die ganz unterschiedliche Gesetze und Regeln bevorzugen darauf einigen das Personen wie Stanislaw das Richtige getan haben und unsere Bewunderung verdienen. Darauf können wir aufbauen, auch bei KI.

WOCHENBLATT: In den Medien wird über negative Seiten von KI berichtet. Doch welche Chancen ergeben sich mit KI für die Wirtschaft und Gesellschaft?

Alexander Mussgnug: Man vergisst es oft, aber wir haben durch Künstliche Intelligenz und durch das Internet davor weltweit Zugang zu Informationen. Wir können Text übersetzen, einfacher kommunizieren mit Menschen aus anderen Ländern. Gleichzeitig sollten wir sehr vorsichtig sein, da es passieren kann, dass man KI in bestimmten Bereichen einsetzt und vergisst, welche Auswirkungen sie hat.

Eine große Herausforderung für die Region, die durch den Mittelstand geprägt ist, ist, dass der Mittelstand Künstliche Intelligenz klug und proaktiv, aber auch verantwortungsbewusst einsetzen muss. Ansonsten geht die Schere zwischen Unternehmen, die es sich leisten können, KI zu verwenden, und Unternehmen, die das nicht machen, weiter auseinander und das hat dann auch gesellschaftliche Folgen.

WOCHENBLATT: Es gibt Stimmen, die in Zukunft in jedem Haus einen Roboter sehen, der niedere Arbeiten für den Menschen erledigt. Sehen Sie als Ethiker eine Gefahr, dass wir dadurch eine Art Sklavenrasse aufbauen?

Alexander Mussgnug: Zwei Antworten: Zunächst zur Machbarkeit. Es war relativ groß in den Nachrichten als ein Unternehmen den Haushaltsroboter NEO herausgebracht hat, der einfache Haushaltsarbeiten übernehmen kann. Wenn man solche KI-Entwicklungen sieht, ist das Image, was vermittelt werden soll, dass sie vollautonom arbeitet und die Sachen allein macht.

Was oft vergessen wird, ist, dass im Hintergrund, oft im globalen Süden, viele Leute daran arbeiten, dass es so aussieht, als ob das vollautomatisiert ist. Und dieser Roboter ist ein relativ gutes Beispiel: Er hat nicht ganz autonom gearbeitet, sondern wurde von jemandem, der irgendwo mit einer Virtuellen-Realitäts-Brille sitzt, gesteuert. Die Idee ist, dass es irgendwann von der KI übernommen wird, aber aktuell sitzt irgendwo irgendjemand, wahrscheinlich relativ schlecht bezahlt, der diesen Roboter steuert. Das zur Machbarkeit.

Die Frage zur Sklavenrasse hängt davon ab, ob man glaubt, dass Künstliche Intelligenz ein Bewusstsein hat oder nicht. Ich sage, die meisten Leute glauben nicht, dass Künstliche Intelligenz aktuell oder in naher Zukunft irgendetwas hat, was wir ‚Bewusstsein‘ nennen könnten. Ich glaube nicht, dass Künstliche Intelligenz ein Bewusstsein hat und ich glaube auch nicht, dass etwas, das kein Bewusstsein hat, versklavt werden kann.

Das große Problem an diesem Narrativ ist, dass oftmals der Fokus von Forschung und öffentlichem Interesse darauf liegt, wie schlecht es einer Künstlichen Intelligenz, die einen Haushalt macht, geht, und man dabei ganz einfach vergisst, wie schlecht es vielen Menschen und Tieren in der Welt momentan geht. Die aktuellen Probleme, die uns beschäftigen sollten, sind die der Menschen, die auf dieser Welt leben und die definitiv ein Bewusstsein haben. Wie können wir Künstliche Intelligenz dazu verwenden, dass es diesen Menschen etwas besser geht als aktuell?

WOCHENBLATT: Die brennende Frage zum Abschluss: Droht uns eine KI-Apokalypse?

Alexander Mussgnug: Ja. Aber nicht in dem Sinne, wie das meist gemeint ist. Künstliche Intelligenz wird nicht plötzlich ein Bewusstsein bekommen und uns überrennen. Das große Problem ist, dass wir uns viel zu sehr auf Künstliche Intelligenz verlassen und auf wenige Unternehmen, die Künstliche Intelligenz produzieren. Wir bauen keine robusten Systeme mehr, die es aushalten, wenn die KI mal nicht funktioniert.

Eine andere Sorge, die ich habe, ist, dass die Schere zwischen Reich und Arm immer weiter auseinander geht. Künstliche Intelligenz kann in manchen Bereichen leicht Arbeitskräfte ersetzen. Die Menschen, die auf diese Arbeit angewiesen sind, um Geld zu verdienen, stehen ökonomisch dann deutlich schlechter da.

Zuletzt sorge ich mich davor, dass wir uns so sehr auf Künstliche Intelligenz einlassen, so sehr von ihr geprägt sind und irgendwann so wenig zwischenmenschliches Miteinander haben, dass unsere besten Freunde Chatbots werden. Dass wir nicht mehr rausgehen, um uns um die Umwelt zu kümmern, sondern in irgendwelchen virtuellen Realitäten Schwimmen gehen.

Die große Frage ist: Wie können wir mit Künstlicher Intelligenz so umgehen, dass unser Leben, unsere Gesellschaft, unser Dasein lebenswerter wird und nicht weniger lebenswert? Die drohende Apokalypse ist nicht das Ende der Menschheit, sondern der Menschlichkeit.