Artikel-Filter
HMI
IFA

Wie intelligent ist Künstliche Intelligenz?

Wissenschaftler stellen KI-Systeme auf den Prüfstand

TU Berlin - Algorithmen der Künstlichen Intelligenz (KI) und des Maschinellen Lernens wie beispielsweise Deep Learning erobern immer mehr Bereiche unseres Lebens: Sie ermöglichen digitale Sprachassistenten oder Übersetzungsdienste, verbessern die medizinische Diagnostik und sind unverzichtbarer Bestandteil von Zukunftstechnologien wie dem autonomen Fahren. Gestützt durch eine stetig wachsende Anzahl verfügbarer Daten und leistungsfähiger Rechnerarchitekturen, scheinen Lernalgorithmen der menschlichen Leistungsfähigkeit gleichgestellt oder sogar überlegen. Das Problem: Bislang bleibt es den Wissenschaftlern meistens verborgen, wie die KI-Systeme zu ihren Entscheidungen kommen. Damit bleibt oft auch unklar, ob es sich wirklich um intelligente Entscheidungen oder statistisch erfolgreiche Verfahren handelt.

Forscher der Technischen Universität Berlin (TU Berlin), des Fraunhofer Heinrich-Hertz-Instituts (HHI) und der Singapore University of Technology and Design sind dieser Frage nachgegangen und haben in einer bei Nature Communications veröffentlichten Arbeit das ganze "Intelligenz"-Spektrum bestehender KI-Systeme mit einer speziellen, automatisierten Technologie analysiert und quantifiziert.

Wichtigste Voraussetzung für die neue Technologie ist eine von der TU Berlin und dem HHI entwickelte Technik, die sogenannte "Layer-wise Relevance Propagation" (LRP), die sichtbar macht, aufgrund welcher Kriterien KI-Systeme Entscheidungen treffen. Die Weiterentwicklung der LRP-Technologie, die "Spectral Relevance Analysis" (SpRAy), identifiziert und quantifiziert ein breites Spektrum erlernter Entscheidungsverhalten. So wird es möglich, auch in sehr großen Datensätzen unerwünschte Entscheidungen zu erkennen.

„Diese sogenannte `explainable AI´ (erklärbare Künstliche Intelligenz) ist einer der wichtigsten Schritte für die praktische Anwendung und Verbreitung von KI“, so Dr. Klaus-Robert Müller, Professor für Maschinelles Lernen an der TU Berlin: „Insbesondere in der medizinischen Diagnostik oder in sicherheitskritischen Systemen dürfen wir keine KI-Algorithmen mit unsicheren Problemlösungsstrategien oder sonstige KI-Schummel-Kandidaten einführen.“

Mit dem jetzt entwickelten Verfahren wurden nicht nur bestehende KI-Systeme auf die Probe gestellt, sondern diese Systeme auch quantifiziert: Vom naiven Problemlösungsverhalten, über Schummel-Strategien bis hin zu hochelaborierten "intelligenten" strategischen Lösungsansätzen.

Dr. Wojciech Samek, Gruppenleiter am Fraunhofer HHI: „Wir waren sehr erstaunt über die große Bandbreite der gelernten Problemlösungsstrategien. Selbst moderne KI-Systeme haben nicht immer einen aus menschlicher Perspektive sinnvollen Lösungsweg gefunden, sondern nutzten bisweilen sogenannte `Clever-Hans-Strategien´.“

Der Kluge Hans (Clever Hans) war ein Pferd, das angeblich rechnen und zählen konnte und in den Jahren um 1900 als wissenschaftliche Sensation galt. Wie sich später herausstellte, beherrschte Hans nicht die Mathematik, sondern konnte in etwa 90 Prozent der Fälle die richtige Antwort aus der Reaktion des Fragestellers ableiten.

Ähnliche `Clever Hans´-Lösungsstrategien konnten Klaus-Robert Müller und Wojciech Samek mit ihren Kolleg*innen auch bei verschiedenen KI-Systemen finden. So verfolgte ein KI-System, das vor einigen Jahren mehrere internationale Wettbewerbe zur Klassifikation von Bildern gewonnen hat, eine aus menschlicher Sicht naive Lösungsstrategie: Es klassifizierte Bilder vorwiegend anhand des Kontextes. Dabei wurden Bilder der Kategorie "Schiff" zugeordnet, wenn viel Wasser im Bild zu sehen war. Andere Bilder wurden als "Zug" klassifiziert, wenn Schienen vorhanden waren. Wieder andere Bilder wurden anhand des Copyright-Schriftzuges der richtigen Kategorie zugeordnet. Die eigentliche Aufgabe, nämlich Schiffe oder Züge zu erkennen, hat dieses KI-System nicht gelöst - auch wenn es die Mehrzahl der Bilder im Endeffekt korrekt klassifiziert hat.

Diese Art von fehlerhaften Lösungsstrategien fanden sich auch bei einigen der neuesten KI-Algorithmen, den sogenannten tiefen neuronalen Netzwerken. Diese stützen ihre Klassifikationsentscheidung zum Teil auf Artefakte, die während der Präparation der Bilder entstanden und mit dem eigentlichen Bildinhalt gar nichts zu tun haben.

„Solche KI-Systeme sind für den praktischen Einsatz völlig unbrauchbar. Ihr Einsatz in der medizinischen Diagnostik oder in sicherheitskritischen Bereichen birgt sogar enorme Gefahren“, weiß Klaus-Robert Müller: „Es ist durchaus denkbar, dass ungefähr die Hälfte der aktuell eingesetzten KI-Systeme implizit oder explizit solche `Clever Hans´-Strategien nutzen. Es ist Zeit, das systematisch zu überprüfen, damit sichere KI-Systeme entwickelt werden können.“

Doch mit der neuen Technik wurden auch KI-Systeme identifiziert, die unerwartet "intelligente" Strategien gelernt haben. Als Beispiele dienen unter anderem die Systeme, die gelernt haben, die Atari-Spiele "Breakout" und "Pinball" zu spielen. „Hier haben die KI-Systeme ganz klar das Konzept des Spiels ‚verstanden´ und einen intelligenten Weg gefunden, zielgerichtet und risikoarm sehr viele Punkte zu sammeln. Dabei schlägt das System bisweilen Wege ein, die ein echter Spieler nicht nutzen würde“, so Wojciech Samek.

„Unsere automatisierte Technik ist Open Source und steht allen Wissenschaftlern und Wissenschaftlerinnen zur Verfügung. Wir sehen unsere Arbeit als einen wichtigen ersten Schritt, KI-Systeme in Zukunft robuster, erklärbar und sicher zu machen. Denn das ist die wesentliche Voraussetzung für den Einsatz von KI überhaupt“, so Klaus-Robert Müller.

www.nature.com/articles/s41467-019-08987-4

Pressekontakt
TU Berlin
Stabsstelle Presse, Öffentlichkeitsarbeit und Alumni
Pressesprecherin
Stefanie Terp
+49 (0)30 314-23922
Straße des 17. Juni 135
10623 Berlin
pressestelle@tu-berlin.de

Weitere Informationen zu diesem Thema erteilen Ihnen gern:
Prof. Dr. Klaus Robert Müller
TU Berlin - Maschinelles Lernen
Tel.: 030 314-78620
E-Mail: klaus(bindestrich)robert(Punkt)mueller(AT)tu-berlin(Punkt)de

Dr. Wojciech Samek
Fraunhofer Heinrich-Hertz-Institut HHI
Machine Learning Group
Tel.: 030 31002 417
E-Mail: wojciech(Punkt)samek(at)hhi(Punkt)fraunhofer(Punkt)de



Download

Die Heatmap zeigt ganz deutlich: Der Algorithmus trifft die Entscheidung Zug oder nicht Zug anhand der Schienen-Bildpunkte und nicht anhand derer, die den Zug ausmachen.
Quelle: Nature Communic./CC BY
Download

Die Heatmap zeigt ganz deutlich: Der Algorithmus trifft die Entscheidung Schiff oder nicht Schiff anhand der Wasser-Bildpunkte und nicht anhand derer, die das Schiff ausmachen.
Quelle: Nature Communic./CC BY
Download

Die Heatmap neben dem Foto ist das Ergebnis der LRP-Technik und zeigt an, welche Bildpunkte wesentlich zu der Entscheidung des Algorithmus beigetragen haben. Rote Pixel stehen dabei für wichtige Bildpunkte.
Quelle: L.Lenz /Nature Com./CC BY
Download

Die Heatmap neben dem Foto ist das Ergebnis der LRP-Technik und zeigt an, welche Bildpunkte wesentlich zu der Entscheidung des Algorithmus beigetragen haben. Rote Pixel stehen dabei für wichtige Bildpunkte.
Quelle: L.Lenz /Nature Com./CC BY
ANZEIGE
ANZEIGE


KI: Freund - nicht Feind

Akzeptanz bei Mitarbeiter größer als erwartet
Genesys - Die überwältigende Mehrheit der deutschen Mitarbeiter sieht neue Technologien wie künstliche Intelligenz (KI) positiv. Nur 20 Prozent fühlen sich durch die Einführung am Arbeitsplatz bedroht. Zu ...



5G-Ausbau

Ampeln werden zu Basisstationen
- PREVIEW online - Während der Streit in Sachen 5G-Frequenz-Auktion eskaliert, bringt Bundesverkehrsminister Scheuer bundeseigene Liegenschaften als Antennen-Standorte für den Aufbau von Basisstationen ins ...



Ausgezeichneter Sensor: Strom berührungslos messen

Freiburger Mikrosystemtechniker erhält FAIM-Förderpreis
Uni Freiburg - Lukas Klar gewinnt für sein im Rahmen einer Masterarbeit mit dem Titel „Entwicklung eines berührungslosen Strommessgerätes mit integrierter Lageerkennung“ neu entwickeltes Messverfahren den ...



Die TV-Trends: KI zieht ins Puschen-Kino ein

Roll-up und Transparent-Fernseher
PREVIEW online - Ganz im TV-Trend: Transparente Fernseher, KI in den TV-Geräten und Fernseher, die sich nach dem Schauen von selbst wieder einrollen. Das sind einige Highlights der IFA ...



Steiniger Weg zur digitalen Innovation

Konzerne auf den Spuren von Start-ups
Infront - Labs, Acceleratoren, Company Builder & Digital Business Units – um im digitalen Zeitalter nicht den Anschluss zu verlieren, investieren Unternehmen in unterschiedliche Formen von ...



Twenty2x / 5G CMM Expo: Neuer Name – Alte Zöpfe

Deutsche Messe AG kann keine IT-Messen
PREVIEW online - Die CEBIT ruht auf dem Friedhof der IT-Geschichte. Mit „Twenty2x“ und „5G CMM Expo“ will die Deutsche Messe AG nun einen neuen Anlauf nehmen, ihr „Loch im Messe-Kalender“ zu stopfen. „Ein Nachfolger der ...



Netzwerk-Erweiterung per Mausklick

Die neue Generation der Daten-Netze
DTAG - Die Telekom startet eine neue Generation Netz-Angebote für Großkunden. Das Unternehmen geht dabei technisch neue Wege. Software steuert die neuen Verbindungen. Die Telekom nutzt dazu Technologie ...



Konzertkarten vor allen anderen buchen

Let’s Rock: Samsung bietet Prio Tickets
Samsung – Dank einer Kooperation mit Live Nation erhalten alle Nutzer mit Samsung Account1 bis zu 48 Stunden vor dem offiziellen Vorverkaufsstart besonderen Zugang zu Konzerttickets für mehr als 800 ...



ANZEIGE
Presse-Mitteilungen   RSS-Feed
ANZEIGE
About
PREVIEW online ist ein multimediales News-Portal für technisch Interessierte.
Ohne langes Suchen und Site-hopping finden Sie hier gewünschte Informationen. Mit einem Blick sehen Sie auf PREVIEW online sofort, welche Medien zu den jeweiligen Themen vorhanden sind. Eine optimale Kombination aus Kategorien, Schlagwort- und Volltextsuche erleichtert Ihnen das Finden gewünschter Informationen erheblich. Wenn Sie Wichtiges über Themen, Unternehmen, News, die Sie interessieren, nicht verpassen möchten, abonnieren Sie sich unseren NEWS-Allert.
Alle Infos sind nur 1 Klick entfernt - das ist PREVIEW online.
IMPRESSUM / DATENSCHUTZ