Sozusagen in Vorbereitung auf den aktuellen Lockdown arbeite ich mich aktuell durch meine ungelesenen Zeitschriften durch. In der c’t 13/20 habe ich eine Leseprobe aus der Technology Review gefunden, die meine schlimmsten Befürchtungen zum Thema Künstliche Intelligenz (KI) unterstützt: KI wird massiv durch Menschen unterstützt, damit sie besser und intelligenter aussieht. Zudem generiert KI sehr viele prekäre Jobs.
Google erregte im Frühjahr 2018 Aufsehen mit seinem Dienst „Duplex“, einem digitalen Assistenten, der anscheinend in der Lage war, selbständig Telefonate mit Menschen zu führen, um beispielsweise einen Friseurtermin zu vereinbaren. Die KI sollte so gut sein, dass der Mensch am anderen Ende der Leitung nicht ahnt, dass er mit einer Maschine und nicht mit einem Menschen spricht.
Kürzlich deckte die „New York Times“ auf, dass dies kein Wunder ist – da hinter Duplex meist tatsächlich Menschen stecken – weil die KI eben doch nicht so gut ist wie Google es glauben machen will. Das spiegelt der Begriff „Künstliche künstliche Intelligenz“ wider, den der damalige Amazon-Software-Chef Luis Felipe Cabrera 2006 prägte, als er das Projekt „Mechanical Turk“ präsentierte.
Dabei handelt es sich um einen „Crowdsourcing Marketplace“. Amazon nennt explizit das Sammeln und „Annotieren“ massiver Datenmengen als Trainingsmaterial für Mechine Learning Modelle als Beispiel für die Dienstleistungen, die man über Mechanical Turk an Arbeitssuchende rund um die Welt geben kann. Ein Buch nennt diese Arbeiter „Geisterarbeiter“, weil sie nicht sichtbar sind beziehungsweise hinter der künstlichen Intelligenz verschwinden.
KI-Programme benötigen große Datenmengen, anhand derer sie trainieren. Zeigt man der KI beispielsweise genügend Bilder mit einem Gegenstand darauf, wird sie diesen Gegenstand auf neuen Bildern selbst erkennen können. Dazu benötigt man viele Bilder mit und viele Bilder ohne diesen Gegenstand, die jeweils entsprechend annotiert sind – es müssen also erst einmal Menschen all diese Bilder ansehen und festlegen, ob der Gegenstand zu sehen oder eben nicht zu sehen ist. Und das sind sicher keine hochbezahlten Jobs, sondern das sogenannte digitale Prekariat.
Menschen sammeln Daten, mit denen Computer lernen, sich wie Menschen zu verhalten
Betrachtet man diese Entwicklung genauer, ist es fast schon zum Lachen: Menschen sammeln und bewerten Daten, mit denen danach eine Computersoftware trainiert wird, die dazu dient, einen Menschen zu imitieren. Noch schlimmer für mich ist, dass durch die direkte Unterstützung der KI-Bots durch Menschen wie im Duplex-Beispiel die künstliche Intelligenz besser gemacht wird als sie ist.
Das bedeutet: Wir alle haben eine zu positive Vorstellung dessen, was KI tatsächlich kann. Wer die Möglichkeiten und Grenzen einer Technologie nicht versteht oder falsch interpretiert, kann diese Technologie nicht sinnvoll einsetzen – das gilt übrigens für Technologien aller Art.
Und das wird gefährlich, wenn wir der KI Aufgaben anvertrauen, die diese nicht erfüllen kann. Leider haben KIs nämlich keinen Sicherheitsschalter, der auslöst, wenn sie überfordert ist. Garbage in, Garbage out – KIs verarbeiten jeglichen Input und versuchen ihn zu interpretieren, wie sinnlos der Input auch ist. Baut eine KI nun beim Friseuranruf Mist, hat das – außer vielleicht einem verspäteten Besuch – wenig Auswirkungen. Schwierig oder lebensgefährlich wird es, wenn eine KI auf falscher Datenbasis jedoch über die Kreditwürdigkeit einer Person oder einer Firma entscheidet. Oder wenn der Autopilot nicht bremst, auch wenn die Inputs sich widersprechen.
Ich sehe KI noch lange nicht in der Lage, wirklich wichtige Entscheidungen zu treffen und hoffe, dass das auch alle so sehen, die künstliche Intelligenz an relevanten Stellen einsetzen wollen. Und bei den armen Menschen, die im Akkord Daten für KI-Training erstellen, muss ich tatsächlich an all die Science Fiction-Plots denken, in denen Menschen von Computern unterjocht werden.
