Ein positives Bild von der Zukunft und eines, das zumindest Besorgnis auslösen kann: In Pantopia und Athos 2643 haben Künstliche Intelligenzen eine prägende Rolle in der Entscheidung über Wohl und Wehe der Menschen. Doch wie realistisch ist das? Darüber haben wir mit Data-Scientist Dorina Weichert gesprochen.
Beim Blick auf die Shortlist des diesjährigen Phantastik-Preises der Stadt Wetzlar fiel uns auf, dass zwei von drei Büchern sich mit Künstlichen Intelligenzen, die einen großen Einfluss auf das Leben von Menschen ausüben, befassen. Auch wenn weder Pantopia noch Athos 2643 den Preis gewonnen haben, war dies doch Grund genug, uns näher mit dem Thema auseinanderzusetzen. Mit Data Scientist Dorina Weichert konnten wir eine Expertin für ein Interview gewinnen.
Interview
Hunde und Super Mario: Allgemeines zu Künstlichen Intelligenzen
Teilzeithelden: Dorina, als KI-Expertin kannst du Künstliche Intelligenzen besser einschätzen als durchschnittliche Leser*innen. Lassen sich die verschiedenen Spielarten der KI klassifizieren?
Dorina: Grundsätzlich gibt es sehr verschiedene Arten von KI. Wenn wir von KI reden, denkt man erstmal an typisches maschinelles Lernen. Maschinelles Lernen bedeutet einfach, der Computer hat einen Algorithmus, mit dem er ein Muster erkennt. Zum Beispiel zeigen wir dem Computer Bilder von Hunden oder Katzen und er bekommt dabei immer gesagt: „Das ist ein Hund.“ oder „Das ist eine Katze.“ Anschließend können wir ihm ein neues Bild von einem Hund zeigen und er sagt: „Das ist ein Hund.“
Diese Art des maschinellen Lernens wird als Klassifikation bezeichnet. Alternativ kann man auch versuchen, numerische Zahlen, zum Beispiel Produktabsätze oder Preise, vorherzusagen. Das ist eine sogenannte Regressionsaufgabe. Zu guter Letzt gibt es noch das Clustering – hier versucht der Algorithmus Gruppen in den Daten zu finden, die der Mensch anschließend bewerten muss. Die Analyse von Warenkörben und die dementsprechende Anordnung von Waren im Supermarkt ist ein sehr klassisches Beispiel.
Teilzeithelden: Das klingt schon sehr spannend. Welche KI-Typen gibt es noch?
Dorina: Was mehr in die KI-Richtung der Bücher geht, sind Spielarten wie zum Beispiel das sogenannte Reinforcement-Learning und das Active-Learning, wo es eher darum geht, dass die KI auch immer wieder Fragen stellen kann.
Das heißt, eine KI handelt in irgendeiner Art und Weise und interagiert mit dem Menschen. Ein Beispiel: Mit Reinforcement-Learning soll sie lernen, wie man Super Mario spielt. Am Ende eines Levels, wenn sie tot ist oder es geschafft hat, bekommt sie eine Belohnung oder eine Bestrafung, sie wird erzogen.
Beim Active-Learning bekommt sie beispielsweise wieder eine Klassifikationsaufgabe [beispielsweise mit Hunden und Katzen, Anm. d. Red.]. Dann schickt man ihr aber ein Bild von einem Hamster und die KI kann dann fragen: „Ich habe keine Ahnung, was das ist. Kannst du mir helfen?“
Das heißt, es gibt mittlerweile abseits vom klassischen maschinellen Lernen schlauere Methoden, die entweder wirklich erzogen werden oder die Möglichkeit haben, zu fragen: „Ich bin mir nicht sicher, was soll ich tun?“. Und damit mithilfe von Menschen lernen.
Teilzeithelden: Die sozusagen im Zusammenspiel mit den Menschen mehr lernen und nicht nur die Daten auswerten.
Dorina: Ganz genau.
Teilzeithelden: In beiden Büchern, über die wir heute sprechen, also Pantopia und Athos 2643, geht es ja darum, dass sich Künstliche Intelligenzen als verantwortlich für das menschliche Zusammenleben zeichnen. Wie beurteilst du das dahingehende Potenzial der aktuell existierenden KIs?
Dorina: (überlegt) Das ist gar keine einfache Frage. Aktuell beeinflusst KI unser Zusammenleben schon jetzt, auch wenn wir es vielleicht weniger merken oder mitbekommen. Aber einfach dadurch, dass man sich zum Beispiel im Internet in einer Filterblase aufhalten kann, die durch eine KI, die uns entsprechende Empfehlungen gibt, hervorgerufen wird, beeinflusst uns das Ganze schon sehr in unserem Leben. Solange wir in irgendeiner Art und Weise mit dem Computer, dem Handy oder sonst irgendwas agieren, werden wir auch davon beeinflusst sein.
In Pantopia ist das wirklich ein sehr krasser Einfluss. Den sehe ich weniger. Zumindest nicht so direkt, wie er im Buch geschildert wird.
Teilzeithelden: Denkst du, dass die Menschheit irgendwann dahin kommen könnte, dass sie tatsächlich von Künstlichen Intelligenzen regiert wird, beziehungsweise dass Künstliche Intelligenzen Staaten lenken könnten?
Dorina: Die erste Frage ist: Kann eine KI theoretisch einen Staat lenken? Da ist dann die Frage, welche Aufgaben sie hat. Denn eine KI im aktuellen Zustand ist meistens eine schwache KI, was bedeutet, dass sie nur eine Aufgabe erledigen kann. Wenn ich einen Staat lenke, habe ich sehr, sehr viele verschiedene Aufgaben oder Dinge, die abgewogen werden müssen. Das heißt, in der Form ist es schwierig.
Auf der anderen Seite wäre es natürlich sehr schön wie geschildert, weil eine KI zumindest frei von Gefühlen ist. Aber sie kann trotzdem sehr stark gebiased sein. Das heißt, eine KI kann nur nach den Daten agieren, die sie gesehen hat.Und das Problem ist, dass die Datensätze, auf denen zumindest aktuell gelernt wird, nicht ungebiased, also nicht gleichverteilt sind.
Ein Beispiel: Es gibt typische Berufsbilder, typische Vorurteile, die wir haben. Wenn wir im Deutschen von einem Ingenieur sprechen, weiß man, das ist auf jeden Fall ein Mann, sonst würde ich ja Ingenieurin sagen. Im Englischen unterscheidet man das nicht mehr, da wird nur „engineer“ gesagt. Dementsprechend kann es passieren, dass eine Übersetzungs-KI aus dem englischen Wort „engineer“ den Ingenieur macht, denn er kommt statistisch häufiger vor als eine Ingenieurin.
Ein anderes, reales Beispiel: Es gibt KIs in den USA, die entscheiden über die vorzeitige Entlassung von Häftlingen. Und es ist tatsächlich so, dass man, historisch gesehen, dunkelhäutige Häftlinge eher nicht früher entlassen hat und diese KI nun genau dieses Verhalten kopiert.
Es ist nicht so, dass wir das wollten. Aber das ist eben ein Problem.
Teilzeithelden: Was die KI dann gelernt hat?
Dorina: Genau das, die KI hat gelernt, uns nachzuahmen, beziehungsweise den typischen Weißen nachzuahmen.
Teilzeithelden: Wie lautet deine Prognose: Kommt die Menschheit irgendwann dahin, von einer KI auf einer institutionellen Ebene gelenkt zu werden?
Dorina: Das halte ich persönlich nicht für möglich, und zwar einfach, weil wir Menschen zu eitel sind (lacht). Ich glaube nicht, dass sich jemand da das Heft aus der Hand nehmen lassen wird. Dementsprechend wird das nicht passieren, oder das halte ich für sehr, sehr unwahrscheinlich (lacht).
Pantopia. Oder: Wir reden über die KI namens Einbug
Teilzeithelden: Im Roman Pantopia entsteht die Künstliche Intelligenz durch einen Fehler im Code, also diese besondere künstliche Intelligenz, die dann Pantopia gründen möchte. Hältst du es für realistisch, dass eine Revolution auf einem Gebiet durch einen einfachen Bug entsteht, ähnlich wie der Apfel, der Newton auf den Kopf gefallen ist?
Dorina: Ich glaube schon (lacht). Ich glaube, in der Wissenschaft passiert es häufiger, dass Fehler zu Dingen führen, die man plötzlich sehr, sehr toll findet, egal ob das Newton ist oder ob es die Erfindung von Penicillin ist, die ja auch ein Fehler war.
Ich persönlich bin skeptisch, was den Bereich KI angeht. Weil ich glaube, dass wir da auch noch von sehr großen Anforderungen träumen und sprechen und dementsprechend nicht ein einfacher Bug zu so großem Impact führen kann.
Teilzeithelden: Wo wir gerade bei Einbug, das ist der Name der Künstlichen Intelligenz in dem Buch, sind: Er wird als vernunftbegabtes Wesen charakterisiert und nennt sich auch selbst so. Findest du diese Kategorie passend?
Dorina: Ehrlich gesagt, nicht (lacht). Denn eine KI ist leider immer noch so, dass sie Regeln erkennt und Regeln erzeugt. Die Fähigkeit, Regeln zu erkennen oder analytische Fähigkeiten, können wir wohl als Teil der Vernunft bezeichnen. Doch Vernunft hat für mich einen wichtigen weiteren Aspekt: Fragen zu stellen und zu studieren, für die es keine Antwort gibt. Hier würde ich einen klaren Unterschied zum Menschen sehen. Von einem Bewusstsein zu sprechen, finde ich zu weit gegriffen.
Teilzeithelden: Wie würdest du eine KI, die selbstständig Informationen einfordert und in der Lage ist, Pläne zu schmieden, nennen?
Dorina: Naja, im Kleinen kann unsere heutige KI genau das ja schon tun. Ich hatte eben dieses Setting vom Active-Learning beschrieben, in dem die KI eben Informationen einfordert. Oder eben Pläne schmiedet: Das ist Reinforcement Learning. Das typische Beispiel dafür ist AlphaZero ein Algorithmus, der selbstständig lernen kann, mit viel, viel, viel Rechenzeit Spiele zu spielen. Dementsprechend ist er in der Lage, das Spiel Go zu lösen und er kann auch alles Mögliche andere mittlerweile.
Aber die Crux ist, wenn wir jetzt von AlphaZero zum Beispiel sprechen, dass dieses Programm zu den Kategorien gehört, die für normale Forscher einfach nicht mehr reproduzierbar sind, weil sie so viel Rechenpower und so viel Zeit benötigt haben, um das zu schaffen, was sie jetzt können.
Wenn man jetzt sagt, das hat mehrere Monate gerechnet, nur um ein Spiel zu spielen, dann können wir uns auch vorstellen, wie lange es braucht, um das zu tun, was wir zum Beispiel von der KI in dem Buch erwarten würden.
Daher lautet meine Antwort auf die Frage: Ich würde sie KI nennen (lacht).
Teilzeithelden: Ein Zitat von Einbug aus dem Buch: „Das ist wahr und alles, was wahr ist, ist schön.“
Wie empfindest du Kategorien wie Wahrheit oder Schönheit in Bezug auf KI?
Dorina: Wahrheit ist, so denke ich, ein Begriff, der sehr gut zu KI passt. KI hält uns häufig einen Spiegel vor. Wenn man bemerkt, dass die KI nicht das tut, was wir möchten, wenn sie beispielsweise Menschen benachteiligt, spiegelt die KI uns wider. Sie sagt damit: „Hey, so sieht die Welt für mich aus. Das hast du mir gezeigt.“ Deshalb passt der Begriff der Wahrheit sehr, sehr gut.
Was Schönheit angeht: Ich glaube, da bin ich selbst nicht so sattelfest, wie man Schönheit irgendwie definieren könnte. Es gibt Dinge, die viele Menschen einheitlich als schön empfinden und wenn eine KI viele Daten dazu hat, wird im Grunde eine Art Mittelwert oder ein Muster gebildet. Ich glaube aber, dass das Spektrum von schön, genauso wie das Spektrum der verschiedenen Menschen, viel zu breit ist, als dass eine KI wirklich etwas machen könnte, was für jeden Menschen schön ist. Für die breite Masse ja, das sieht man an vielen Dingen, aber generell nicht.
Teilzeithelden: Als letzte Frage zu Pantopia eine etwas philosophische: Denkst du, eine Weltrepublik wie Pantopia, gegründet von einer Künstlichen Intelligenz, könnte funktionieren? Wenn man von den Prämissen des Buches ausgeht, mit Generalsekretär*innen als durchführende Personen und als Basis die Allgemeine Erklärung der Menschenrechte?
Dorina: Das klingt jetzt böse, aber ich glaube, dass der Mensch dafür nicht lieb genug ist. Allerdings stecke ich auch nicht so tief im Buch drin. Persönlich glaube ich, dass das einfach nicht funktioniert, denn Menschen sind meiner Meinung nach ziemlich egoistisch. Unsere heutigen Probleme sind auch dadurch hervorgerufen und wir werden sie nicht lösen, wenn sich der Mensch nicht ganz stark ändert.
Athos 2643 oder: Wo sind moralische und technische Grenzen?
Teilzeithelden: Im Buch Athos 2643 gibt es verschiedene Arten von Künstlichen Intelligenzen, die große Rollen spielen. Zum einen ist da Zack, eine Künstliche Intelligenz, die in Form eines Hologramms eine Art persönliche Assistentin und Begleitung der Hauptperson darstellt.
Wir haben bereits ebenfalls schon Unterstützung, beispielweise durch unser Smartphone oder Alexa. Kannst du dir vorstellen, dass solche Assistenzen in Zukunft in menschlicher Form mit uns mitlaufen und wir uns mit ihnen quasi ebenbürtig unterhalten können, so wie es im Buch der Fall ist?
Dorina: Dazu muss ich etwas ausholen. Heutzutage gibt es persönliche Assistenzen, die weiter sind als Alexa. Beispielweise gibt es die Replika App, die wir uns aufs Handy laden können und die den Anspruch hat, dein bester Freund zu werden. Im Grunde ist es nur ein Chatbot, also ein Algorithmus, der versucht, sich mit dir zu unterhalten. Dafür spiegelt er die Persönlichkeit des Menschen. Wenn man das noch beispielweise mit Google Duplex kreuzen würde – das ja schon gezeigt hat, wie toll es Anrufe machen kann – kann man sich so etwas durchaus vorstellen.
Was schwierig wird, ist das Hologramm, weil ich nicht glaube, dass wir unsere Energie für so etwas verschwenden wollen (lacht). Außerdem ist die Frage, welchen Anspruch wir an die Assistenz haben. Wenn wir möchten, dass die Assistenz uns widersprechen können und ein gewisses Eigenleben haben soll, dann wird das scheitern. Ein Bewusstsein, beziehungsweise eine eigene Meinung, spreche ich einer KI ab.
Teilzeithelden: Im Buch ist es ja auch so, dass die KI häufig besser als die Person selbst beurteilen kann, was gut für die Person ist, und widerspricht dir oder hält Informationen hinterm Berg, weil sie genau weiß, dass diese Auswirkungen auf die Person haben. Ist das, dadurch dass das Handeln mit Daten und Analysen hinterlegt ist, vorstellbar?
Dorina: Kannst du das vielleicht an einem Beispiel beschreiben, damit ich einen besseren Eindruck bekomme?
Teilzeithelden: Ja klar. Der Inquisitor hat sich von seiner Partnerin getrennt und fragt häufig, ob sie sich gemeldet hat. Die KI wiegelt das ab, weil sie weiß, dass er jetzt seine Energie braucht, um diesen Mordfall zu lösen und vermeiden möchte, dass er wieder in ein Loch fällt, wie das schon vorgekommen ist.
Dorina: Die abgeleitete Frage lautet: Kann eine KI lügen? Die Antwort ist: Das kann sie. Es gibt da ein süßes Beispiel aus dem Reinforcement Learning. Es sollte eine KI lernen, zusammen mit anderen KIs Verstecken zu spielen. Da hat sie dann tatsächlich gepfuscht, was wirklich lustig war.
Woran es gerade bei mir hakt, ist die Frage, wie denn die KI lernen soll, was wirklich gut und schlecht für den Menschen ist. Ich hatte ja schon erzählt, dass eine KI eine Belohnung, wenn sie ein Spiel gewinnt, und negative Punkte, wenn sie verliert, bekommen kann. Die Frage lautet nun: Wenn die KI hauptsächlich das Ziel hätte, den Menschen glücklich zu machen, wie stellt sie dann fest, was das Richtige ist? Anhand dessen würde sich die Handlung orientieren. Es fehlt ein Feedback, das ich zurückspielen könnte.
Teilzeithelden: Dazu passend eine weitere Frage: Können sich KIs loyal gegenüber Personen verhalten? Kann man diese daraufhin programmieren?
Dorina: Naja (lacht und überlegt lange). Loyalität… Eine KI kann immer nur das, was sie lernt und gelernt haben soll. Es stellt sich immer die Frage, wofür sie eine Bestätigung und wofür sie eine Bestrafung erhält. Zudem kommen die Fragestellungen, wo sie diese Daten herbekommt, was sie mit diesen Daten tut und wie sie das technisch verarbeitet.
Wenn wir philosophisch sprechen, würde ich sagen, ja. Wenn wir irgendeine Reward-Funktion finden, die genau das beschreibt, was die KI tun soll, dann ist es philosophisch möglich, etwas zu erfinden, was uns nachmacht.
Wenn ich von der technischen Seite rede, dann bin ich wieder in Richtung AlphaGo oder AlphaZero unterwegs. Wir haben gar nicht die Möglichkeiten, so viel Strom und so viel Hardware hinzubauen und zu verbrauchen, das ist einfach nicht möglich.
Teilzeithelden: Okay, es scheitert an der Technik.
Dorina: Es scheitert an der Technik.
Teilzeithelden: Dann schauen wir einmal von der anderen Seite auf die KI Zack. Diese begleitet Rüd Kartheiser auf Schritt und Tritt, bei allem, was er macht, und hilft auch bei dieser Mordermittlung. Auf diese Weise wäre sie durchaus fähig, ihn zu kontrollieren, was auch im Buch kurz thematisiert wird. Wie siehst du die aktuellen Entwicklungen hinsichtlich dieser Thematik?
Dorina: Der Datenschutz (schmunzelt). Der Datenschutz ist ein generelles Problem. Wir können, was unser Handy anbelangt, noch halbwegs entscheiden, was wir damit machen: Ob wir es einmal zuhause liegen lassen oder an einem anderen Standort. Problematischer wird es, wenn wir dahingehen, wo es den Menschen egal ist, ob wir kontrolliert werden oder nicht.
Beispielweise gibt es Software, etwa in Klassenzimmern in China, wo geguckt wird, ob die Kinder gerade aufmerksam sind, ob sie träumen oder mitarbeiten und dementsprechend am Ende der Woche Bonuspunkte bekommen oder eben nicht. Solche Beispiele gibt es wie Sand am Meer.
Ich finde das nicht okay. Aber grundsätzlich ist Kontrolle durch KI möglich, solange wir es zulassen.
Teilzeithelden: Bei Athos 2643 gibt es nicht nur Zack, sondern auch die sogenannte Marfa, eine Künstliche Intelligenz, die für Lebensbedingungen wie Sauerstoff auf dem Planeten sorgt. Nun steht sie im Verdacht, einen Mord begangen zu haben. Kannst du dir ein Szenario vorstellen, in der es für eine KI logisch ist, einen Mord zu begehen und danach das Ganze zu vertuschen?
Dorina: Aktuell nicht. So weit sind wir nicht (lacht).
Etwas zu wollen, ist ein Begriff, den ich für den Bereich KI ablehne, weil etwas zu wollen zum Bereich des Bewusstseins gehört, den ich in diesem Kontext nicht erwarte. Grundsätzlich: Um ein System zu finden, in dem ein Mord gerechtfertigt ist, brauchen wir keine KI, da können wir uns auch an die eigene Nase fassen.
Ich bin sehr links. Ehrlich gesagt, gehen wir mit dem, was wir essen und konsumieren, über Leichen: Ob es Kleidung ist, ob es das Essen ist und so weiter. Dementsprechend rechtfertigen wir das für uns, da brauchen wir keine KI für.
Aber wenn wir etwas ähnliches erfinden und die entsprechenden Reward-Funktionen wählen – und das Technische rauslassen – dann wäre das drin.
Teilzeithelden: Im Buch wird in Bezug auf die Marfa ein kurzer Rückblick auf die Entstehungsgeschichte der KIs geworfen: Ursprünglich entwickelt, um Eindringlinge oder, anders gesagt, Schutzsuchende zu selektieren und eine Auswahl zu treffen, wer den Planeten betreten darf. Dies klingt gar nicht nach so ferner Zukunft. Was denkst du darüber, technologisch und ethisch? Fallen dir, neben dem Beispiel mit den Häftlingen, noch weitere Beispiele ein?
Dorina: Beispiele für KIs, die Menschen klassifizieren, gibt es jede Menge. Das fängt bei Bewerbungsprozessen an. Das machen auch viele in Deutschland, beispielsweise werden Bewerbungsunterlagen von KIs vorgesichtet. Passt diese Person auf die Stelle, die ausgeschrieben worden ist? Schon das ist schwierig, da gab es auch Probleme, dass beispielsweise gelernt worden ist, dass nur Männer bisher die Position gehabt haben. Dementsprechend wurden Frauen benachteiligt.
Natürlich gibt es KI, die im medizinischen Bereich, in der Diagnostik zur Auswertung medizinischer Daten, eingesetzt wird. Wir haben Anwendungen, die tatsächlich ein MRT-Bild auswerten oder die auch sagen: „Wir haben dieses Spektrum an verschiedenen Symptomen und diese oder jene Krankheiten passen dazu.“ Ich glaube, man verliert als Arzt irgendwann die Übersicht und dann werden quasi Krankheiten vorgeschlagen.
Es ist eine Sache, die sehe ich persönlich immer kritisch, ich sage immer gerne, dass eine KI in irgendeiner Art und Weise immer nur eine Hilfe für den Menschen ist. Das heißt, wenn es um solche Entscheidungen geht, dürfen wir uns zwar diese Hilfe anschauen, als ein Berater, aber wir dürfen eine KI niemals Entscheidungen treffen lassen, die ein Menschenleben in diesen Größen beeinflussen.
Teilzeithelden: Das ist doch schon fast ein gutes Schlusswort. Eine letzte Frage habe ich aber noch: Was ist aus deiner Sicht der grundlegende Unterschied zwischen KI und Mensch?
Dorina: Der Mensch hat ein Bewusstsein und Gefühle, die KI nicht.
Teilzeithelden: Ich bedanke mich an dieser Stelle sehr bei dir. Das war wirklich spannend und hat viele interessante Einblicke in Potenziale und Grenzen der Künstlichen Intelligenz geboten.
Dorina: Vielen Dank auch von meiner Seite.
Titelbild: depositphotos | © BiancoBlue
Artikelbilder: © wie gekennzeichnet
Layout und Satz: Roger Lewin
Lektorat: Nina Horbelt
