Werden in Zukunft intelligente Algorithmen und KI-Systeme gar schlauer als wir? Jetzt, wo wir zuhause festsitzen, ist der passende Moment, in Ruhe nachzulesen, was kompetente Forscherinnen und Forscher der Universität Zürich (UZH) darüber zu berichten haben (kleiner Auszug).
«Digital Society Initiative» der UZH
Die UZH Digital Society Initiative (DSI) hat zum Ziel, die Digitalisierung der Gesellschaft, Demokratie, Wissenschaft, Kommunikation und Wirtschaft zu reflektieren und mitzugestalten. Die Digitalisierung stellt bestehende Paradigmen in Frage, ermöglicht neue Formen der Forschung und Lehre und erfordert neue Fähigkeiten in einer sich rasch verändernden gesellschaftlichen Realität. Hauptziel der DSI ist es, diesen Prozess kritisch zu reflektieren und zukunftsorientiert zu gestalten und die UZH national und international als Kompetenzzentrum für die kritische Reflexion aller Aspekte der digitalen Gesellschaft zu positionieren.
Die nachfolgend aufgegriffenen Beispiele entstammen dem UZHmagazin, der Wissenschaftszeitschrift der Universität Zürich.
Doktor digital
In der Medizin ist KI bereits Alltag. Sie kann den Arzt entlasten und ihm Entscheidungshilfen bieten. Die rechtlichen Probleme sind allerdings noch nicht gelöst. Das «Data Warehouse», der Austausch medizinischer Daten weltweit, ist Krauthammers grosse Vision. Er ist Professor für Medizininformatik am Universitätsspital Zürich und forscht auf dem Gebiet von KI im Gesundheitswesen. «Wir sollten die Erkenntnisse aus klinischen Studien durch medizinische Alltagsdaten ergänzen. Der Horizont des Arztes lässt sich so von den paar hundert Patienten, die er in seiner Praxis sieht, auf Hunderttausende von Patienten erweitern. […]» Der Weg sei allerdings noch weit, meint er, bis jetzt haben wir erst Babyschritte gemacht.
Vom «Digitalen Warenhaus» könnten sowohl der Mediziner als auch sein Kunde profitieren. Der Hausarzt hätte auf einfache Art Zugang zu Expertenwissen, der Patient käme in den Genuss einer konstanteren und damit besseren medizinischen Qualität. Die grösste Hürde bei der Anwendung von KI in der Medizin sei allerdings nicht technischer, sondern rechtlicher Natur, sagt Kerstin Noëlle Vokinger, Professorin für Gesundheitsrecht und Digitalisierung an der UZH. «Regulatory Sciences» nennt sich das noch junge Forschungsgebiet, das sich mit Fragen der datenbasierten Regulierung von KI befasst. «Diese Regulierung sei eine Gratwanderung. […] Doch die Anstrengungen würden sich lohnen, denn wo KI dem Patienten diene, sollten wir regulatorische Lösungen für ihren Einsatz finden.»
Computer sind nicht neugierig
Gefragt, was Intelligenz sei, antwortet Hans-Johann Glock, Professor für Theoretische Philosophie: «Intelligenz ist die Fähigkeit, neuartige Probleme auf flexible Art zu lösen. Auf eine Art, die weder vorprogrammiert, noch vorgegeben wurde.» Und auf die Frage, wie intelligent denn lernfähige Maschinen sind, meint Glock: «In einem technischen Sinn lernfähig sind vor allem neuromorphe Computer, die die Struktur und Arbeitsweise des menschlichen Gehirns nachahmen, insbesondere künstliche neuronale Netze. Im sogenannten «deep learning» können sie ihre Leistung beim Lösen von Problemen durch das Auswerten von Daten schrittweise optimieren. Sie werden besser, indem sie «üben» und Erfahrungen machen. Das ist ähnlich wie beim menschlichen Lernen.»
Ein wesentlicher Unterschied zum Menschen besteht darin, dass «wir» neugierig sind und uns das Wissen – unsere eigenen Daten – selbst suchen. Wir haben sozusagen einen Willen zum Wissen, «wir beschaffen uns die Informationen, die wir brauchen oder die uns interessieren. KI-Systeme sind im Gegensatz zu uns nicht neugierig.»
Als praktische Beispiele nennt Glock den Klimawandel. «KI hilft uns etwa, die Ursachen und Entwicklungen des Klimawandels zu berechnen: Da wären wir ohne diese Systeme heute nicht so weit. Auch autonome Fahrzeuge sind interessant, weil sich damit die Unfallzahlen wohl verringern liessen. Da sehe ich viel Potenzial. Wenn KI-Systeme gut durchdacht werden, helfen sie uns vielleicht sogar, unsere eigene Intelligenz zu erweitern. […] Idealerweise können wir in Zukunft künstliche Systeme so gut verstehen, dass wir mit ihnen zusammenarbeiten können wie mit verlässlichen Mitmenschen.»
Auf die Rolle der KI in der Zukunft angesprochen, ist Glock allerdings etwas skeptisch. «KI kann auch systematisch missbraucht werden. Das Hauptproblem besteht darin, dass diese Technologie in den Händen von Individuen und Institutionen ist, die nicht demokratisch kontrolliert sind.»
Das verborgene Leben der Algorithmen
Algorithmen sortieren für uns das Internet. Das Problem dabei: Niemand weiss genau, wie sie entscheiden. Anikó Hannák, Professorin für Social Computing möchte das ändern. «Das World Wide Web verspricht die grosse Freiheit, den nahezu unbeschränkten Zugang zu Informationen rund um den Globus. Doch wenn wir scheinbar uneingeschränkt und frei durchs Netz surfen und nach Produkten, Jobangeboten oder Ferienzielen suchen, werden wir gelenkt von einer unsichtbaren Hand oder wohl besser – einer Vielzahl unsichtbarer Hände. Das sind die Algorithmen, die Computerprogramme, auf denen Online-Plattformen wie Google, Facebook oder Amazon basieren.
«Diese Programme sind eine Blackbox, wir wissen nicht, wie sie funktionieren und die Firmen geben diese Informationen nicht preis. Für Unternehmen sind die Algorithmen Teil ihres Geschäftsmodells, sie hüten ihre Codes deshalb wie die Appenzeller das Geheimnis der Kräutersulz, mit der sie ihren Käse veredeln. Für die Nutzer haben die Entscheidungen, die Algorithmen fällen, oft weitreichende Konsequenzen, über die sie sich nicht im Klaren sind. Deshalb müssen Forscherinnen wie Hannák für ihre Forschung diese Systeme «ausspionieren». «Mittlerweile wissen wir recht gut, wie das geht», sagt Hannák lachend.
Ein grosses Problem ist zum Beispiel, dass US-Plattformen, auf denen Jobs vermittelt werden, diskriminierend vorgehen. Hannák hat ihre Untersuchungen an der Northeastern University in Boston gemacht und klar bestätigt erhalten, dass «Frauen und Schwarze munter diskriminiert werden. In der analogen Welt ist das verboten, die gleichen Regeln müssen auch online gelten». Es brauche also Gesetze, die die Firmen in die Verantwortung nehmen und sie sollten verpflichtet werden, ihre Algorithmen offenzulegen, damit überprüft werden kann, was diese tun.
«KI hat das Potenzial, uns klüger zu machen», sagt Ethiker Markus Christen. «Weil sie etwa die Fähigkeit hat, grosse Datenmengen in kürzester Zeit zu verarbeiten und zu analysieren, kann sie uns helfen, bessere Entscheide zu treffen.»
«Schlauer als wir?»
Die Wissenschaftszeitschift
UZHmagazin der Universität Zürich, Nr. 1/2020