Wenn Maschinen sich nicht sicher sind

Unter dem Titel Autonomous decision making in network systems under uncertainty lud der Sonderforschungsbereich MAKI internationale Experten zum jährlichen MAKI Scientific Workshop ein. Deren Vorträge befassten sich mit der Frage, wie und auf welcher Basis Systeme automatisierte Entscheidungen unter Unsicherheit treffen. Die Überlegungen betrafen die verwendeten Daten, deren automatisierte Verarbeitung und nicht zuletzt die ethisch motivierte Verantwortung für die getroffenen Entscheidungen.

Entscheidend sind Datengrundlage und Testumgebung

Prof. Simon Dobson, University of St. Andrews, Schottland, griff ein grundsätzliches Problem auf. Welche vorhandenen Datensätze sind überhaupt für welche Problemstellungen geeignet? Dazu schlug er ein Modell vor, das Datensätze systematisch evaluiert und kategorisiert. Aus dem Ergebnis der Evaluierung lässt sich ableiten, für welche Art der weiteren algorithmischen Verarbeitung sich die Daten eignen, damit sie die nötige Performanz in der Anwendung entfalten.

Dr. Andreas Blenk, Technische Universität München, konstatierte, dass viele verwendete Algorithmen auf sehr spezielle Modelle getrimmt sind und dort zuverlässige Ergebnisse liefern. Außerhalb dieser Modelle haben die Algorithmen aber häufig Schwachstellen, welche im schlimmsten Fall unentdeckt bleiben und die Performanz der entwickelten Systeme langfristig verschlechtern. Sein Ansatz identifiziert diese Schwachstellen in Algorithmen und plädiert somit für eine möglichst unsichere und allgemeine Testumgebung. Nur dann kann ein Algorithmus auch unter unsicheren Bedingungen adaptiv und flexibel auf realistische Szenarien reagieren. Sowohl die Evaluation von Datensätzen als auch geeignete Testumgebungen sind für MAKI entscheidend, um das Konzept der Transition erfolgreich unter echten Bedingungen einzusetzen.

Dr. Thomas Grothe, Universität Tübingen, beleuchtete ethische Aspekte solcher maschinell gefällten Entscheidungsprozesse. Gerade in Anwendungen wie dem autonomen Fahren oder der Medizin sind Fragen der Verantwortung und rechtlichen Haftung ein heiß diskutiertes Thema. Er machte klar, dass die Nachvollziehbarkeit maschinell gefällter Entscheidungen gegeben sein muss, um eine Situation im Nachhinein angemessen bewerten zu können. Nach seiner Ansicht können Mensch und Maschine lediglich in einem kooperativen und reflexiven Verhältnis zu gelingenden Ergebnissen kommen.

Systematisch mit Unsicherheiten umgehen lernen

Prof. Stephan Weiss, Universität Klagenfurt, stellte Verfahren vor, die Fehlmessungen von Sensorik identifizieren und die Weiterverarbeitung der gelieferten Informationen in geeigneter Weise modifizieren. Seine Forschung versucht zum einen, das „Rauschen“ aus den Sensordaten zu filtern, und zum anderen, die ungenauen Daten sinnvoll zu verarbeiten, um das Endergebnis so präzise wie möglich zu berechnen. An diese Problematik knüpft Tobias Meuser an, der selbst am Sonderforschungsbereich MAKI an der Technischen Universität Darmstadt forscht. Seine Arbeit befasst sich mit der Priorisierung von Sensordaten innerhalb eines Netzwerks am Beispiel des autonomen Fahrens. Meuser entwickelte im Rahmen seiner Dissertation ein Verfahren, das die Sensordaten in einem Netzwerk auf deren Genauigkeit hin bewertet. Die präzisere Auswahl von Daten erhöht die Effizienz des Netzwerkes, indem zwar gleich viele, aber dafür genauere und relevantere Sensordaten verschickt werden.

Prof. Falko Dressler, Heinz Nixdorf Institut, Paderborn, verfolgte in seinem Vortrag einen Ansatz, der ebenfalls in Netzwerken im Bereich des autonomen Fahrens verwendet werden kann. Er zeigt auf, dass ein permanenter Datenaustausch zwischen Fahrzeugen zu sichererem Straßenverkehr führen würde. Gleichwohl droht damit eine Netzüberlastung, was die Realisierung von entsprechenden Fahrassistenzsystemen verhindert. Deshalb sind auch hier adaptive Netzkonzepte gefragt, die vor allem dann kommunizieren, wenn es nötig ist: in der Verkehrspraxis also bei starken Bremsungen oder Beschleunigungen. Das entlastet damit automatisch den Rest des Netzwerks. Das macht deutlich, wie adaptive und kontextabhängige Netzwerke, wie MAKI sie seit 2013 beforscht, einen Beitrag zu realen Anwendungen leisten können.