Vertrauen in Algorithmen?

DAAD/Jan Greune

Weltreisender in Sachen Datenkunde und Künstliche Intelligenz: Dr. Andreas Weigend auf einem Zwischenstopp in München im Oktober

Künstliche Intelligenz polarisiert: Die einen sehen eine strahlende Zukunft, die anderen Gefahren. DAAD-Alumnus Andreas Weigend blickt als Experte auf die Debatten.

Herr Dr. Weigend, Sie haben in den USA über neuronale Netze – einen wichtigen Bereich der Künstlichen Intelligenz (KI) – promoviert und danach unter anderem als Chefwissenschaftler bei Amazon gearbeitet sowie mehrere Jahre in China. 2017 erschien Ihr Buch „Data for the People“, in dem Sie die Vorteile und Gefahren der Digitalisierung analysieren. Als Experte für Daten und KI beraten Sie heute Unternehmen auf der ganzen Welt. Was genau wollen die von Ihnen?
Firmen, die mich als Berater rufen, fallen in zwei Kategorien. In der einen sind die Unternehmen, denen es sehr gut geht. Die engagieren mich, um nichts zu verpassen, was an Innovationen aus anderen Ecken kommen könnte. In die andere Kategorie fallen Firmen, für die ich sozusagen der letzte Hoffnungsschimmer bin: „Vielleicht kommt der Weigend noch mit irgendeiner Geheimwaffe der KI, sodass wir vor dem fast sicheren Absturz noch die Kurve kriegen.“

Begegnen Sie dort eher Misstrauen oder Vertrauen gegenüber der KI?
Bei den Unternehmen immer Vertrauen. Dort geht es ja darum, Möglichkeiten zu erschließen. In der KI müssen drei Dinge zusammenspielen: Wir brauchen Daten, Algorithmen und Rechner. Rechenleistung ist heute kein Thema mehr. Aber wo die Firmen hoffen, auf Neues zu stoßen, das sind Datenquellen, an die sie noch nicht gedacht haben. Zum Beispiel, dass im Callcenter die emotionale Komponente in den Stimmen der Anrufenden auch noch erfasst und damit ein Wettbewerbsvorteil erzielt werden kann.

Bei Unternehmern ist KI also positiv besetzt. Ganz anders in der breiteren Bevölkerung. Die Furcht vor KI nimmt sogar zu, sagt etwa eine Studie, die Ende des Jahres erscheinen soll. Woran liegt das?
Wenn ich Leute bitte, ihre Haltung zu Daten und Algorithmen zu vergleichen, sagen sie: Die Algorithmen sind mir unheimlicher. Ich sage, und das ist nur ganz wenig überspitzt: Die Algorithmen sind überall die gleichen. Die Daten sind das Unheimliche. Vor allem die Datenmonopole, die mit Google, Facebook usw. entstanden sind. Hier spielt auch mangelnde Bildung eine große Rolle. Ich sage immer, so wie wir Erdkunde, Pflanzen- und Tierkunde in der Schule haben, so brauchen wir heute Datenkunde. Und wenn ich Daten sage, meine ich immer auch KI.

Ist dieser Datenanalphabetismus überall auf der Welt gleich schlimm?
Nein, China und auch andere Länder in Asien haben eine KI-Grundausbildung in der Highschool. Für Leute, die einen Bildungsweg gehen, der zur Hochschulreife führt, gehört das dort zur Allgemeinbildung.

Dr. Andreas Weigend gilt auf dem Gebiet KI als Experte

Kommen wir noch einmal auf die Furcht vieler Menschen vor der KI zurück. Auch früher haben ja viele auf neue Technologien erst einmal misstrauisch reagiert. Die Eisenbahn wurde anfangs als „Teufelsding“ verdammt. Kann es sein, dass die KI einfach noch zu jung ist? Oder geht es hier um etwas kategorisch anderes?
Das würde ich zum einen mit Heidegger beantworten. Er hat sinngemäß gesagt: Die Teile eines Hammers werden uns erst dann klar, wenn der Hammer bricht. Solange Dinge funktionieren, machen wir uns eben keine Gedanken darüber, wie sie funktionieren. Zum anderen: So jung ist KI gar nicht. Wir haben schon in den 1960er-Jahren unseren Geist der Maschine übergeben, zum Beispiel mit dem ABS-Bremssystem. Das kann man aufgrund von Funktionalitäten wie Echtzeit-Sensoren und Entscheidungsalgorithmen auch schon als KI bezeichnen. Beim ABS wurde eine Kosten-Nutzen-Rechnung aufgestellt: Behörden haben geprüft, wie groß die Wahrscheinlichkeit ist, dass jemand einen Unfall hat, weil das ABS nicht richtig funktioniert, und wie groß die Wahrscheinlichkeit ist, dass ein Unfall durch ABS vermieden werden und ein Menschenleben gerettet werden kann. Der Nutzen überwiegt eindeutig, deshalb kommt heute niemand auf die Idee, sich vor ABS zu fürchten.

Wir fürchten uns aber vor KI-Technologien, die nicht einmal die Technologen verstehen. Beispiel: KI, die auf neuronalen Netzen basiert, wie sie etwa in der Gesichtserkennung verwendet wird. Dort werden, grob vereinfacht, vorne Daten hineingeworfen und hinten Auswertungen herausgespuckt. Das Problem: Was dazwischen passiert, auf welchem konkreten Weg die Algorithmen zu diesen Ergebnissen gekommen sind, können selbst die Programmierer nicht nachvollziehen. Da fällt Vertrauen doch schwer.
Ich würde dagegenhalten: Was heißt es, dem Algorithmus zu vertrauen? Heißt es, dass ich ihn verstehen muss? Was heißt es, ihn zu verstehen? Das führt in die Wissenschaftsphilosophie: Wann hört ein Wissenschaftsargument, eine Wissenschaftsfrage auf? Dann, wenn die Wissenschaftler zufrieden sind. Sonst kann man immer weiterfragen. Für mich geht es beim Thema Vertrauen eher um die Frage, welche Daten wir zu welchem Zweck verwenden wollen. Grundrechte, fundamentale Menschenrechte: Das ist es, was wir zunächst verhandeln müssen. Darum geht es für mich bei der Algorithmik. Zum Beispiel: Wollen wir einer Versicherung erlauben, Leuten eine dreimal so hohe Prämie zu berechnen, weil ihre Postleitzahl einen ärmeren Stadtteil identifiziert? Aber dass die Maschine danach die Umsetzung macht, darin habe ich Vertrauen.

Judith Reker (4. Februar 2020)

Der Beitrag ist zuerst erschienen im „LETTER“ – Das Magazin für DAAD-Alumni 03/2019

• Drucken
• als PDF