Robuste und transparente KI

Autos, die autonom fahren. Ein Programm, das selbst?ndig das Computerspiel Angry Birds meistert. Um solche Aufgaben bew?ltigen zu k?nnen, müssen Systeme st?ndig dazulernen, zuverl?ssig und transparent sein. Mit diesen und ?hnlichen Fragestellungen besch?ftigen sich Bamberger Informatikerinnen und Informatiker. Beispielhaft werden drei Projekte zum Thema Schlussfolgern mit grober und unsicherer Information für robuste und transparente KI vorgestellt:

Verantwortungsvoller Einsatz von maschinellem Lernen

Maschinelles Lernen erlaubt einerseits, selbst komplexe Steuerungsaufgaben autonom durchzuführen, kann jedoch aufgrund seiner Intransparenz zu unerwartetem und fatalem Fehlverhalten führen. Das Projekt DISL - Dependable Intelligent Software Lab erforscht den verantwortungsvollen Einsatz von maschinellem Lernen in sicherheitskritischen Anwendungen. Im Rahmen dieses durch das BMBF gef?rderten Projekts werden Methoden entwickelt, um die zuverl?ssige und robuste Anwendung von Verfahren des maschinellen Lernens mit künstlichen neuronalen Netzen in cyber-physikalischen Systemen zu erm?glichen. Die Projektf?rderung zielt auf den Aufbau eines KI-Labors ab, welches auch dem Austausch mit der Industrie dient.

Methodisch stellt das Projekt einen Schulterschluss zwischen KI und Softwaretechnik her, insbesondere zu formalen Methoden zum Nachweis von Sicherheit. Es werden effiziente ?berwachungstechniken für Entscheidungen auf Basis maschinellen Lernens entwickelt, die fatale Fehlentscheidungen zuverl?ssig unterbinden k?nnen. Au?erdem werden Methoden zur Analyse gelernter Modelle untersucht. An dem Projekt sind insgesamt vier Bamberger Lehrstühle und Professuren beteiligt:

• Professur für Angewandte Informatik, insbesondere Smart Environments
• Professur für Angewandte Informatik, insbesondere Kognitive Systeme
• Professur für Grundlagen der Informatik
• Lehrstuhl für Praktische Informatik, insbesondere Softwaretechnik und Programmiersprachen

Wie k?nnen Computer physikalische Alltagsprobleme so gut wie Menschen l?sen?

Um diese Frage zu beantworten, wird ein internationaler wissenschaftlicher Wettbewerb rund um das Computerspiel Angry Birds organisiert – das Team der Otto-Friedrich-Universit?t ist zum zweiten Mal Weltmeister: Bereits zweimal konnte das ma?geblich von Studierenden getragene Team Bambirds die AI-Birds-Weltmeisterschaft gewinnen, die seit einigen Jahren im Rahmen der renommiertesten Tagung für Künstliche Intelligenz, der International Joint Conference on Artificial Intelligence (IJCAI), stattfindet.

Gesucht ist jeweils das spielst?rkste Programm, welches selbst?ndig zuvor unbekannte Spielstufen von Angry Birds meistert. Die BamBirds entwickelten hierfür einen sogenannten intelligenten Agenten. Dieses Computerprogramm ist zu eigenst?ndigem Handeln und Lernen f?hig und kann Schlussfolgerungen aus dem laufenden Spiel ziehen, um seine Strategie anzupassen. Bei der Entwicklung galt es, Aufgaben der Bildverarbeitung und Objekterkennung, der Handlungsplanung und Spielstrategie zu bew?ltigen.

Was vordergründig wie ein unterhaltsamer Zeitvertreib aussieht, berührt zahlreiche noch ungel?ste Forschungsfragen der Künstlichen Intelligenz. Das Meistern von Angry Birds erfordert es beispielsweise, physikalische Zusammenh?nge begreifen und ausnutzen zu k?nnen. Die hierfür erforschten Techniken helfen schon heute autonomen Robotern in der Industrie und k?nnten beispielsweise in Zukunft Haushaltsrobotern helfen, neue Aufgaben zu erlernen.

Sicherheit im Stra?enverkehr durch robuste KI

Radfahrerinnen und -fahrer sind im Stra?enverkehr h?ufig ungeschützt und haben deshalb bei Unf?llen ein besonders hohes Verletzungs- und Todesrisiko. Falsches Lenk- oder Bremsverhalten oder auch spontane, unvorhersehbare Fahrbahnüberquerungen bergen unter Umst?nden enorme Risiken.  

Künstliche Intelligenz soll es den Fahrzeugen künftig erm?glichen, solche Situationen zu erkennen und lebensrettend einzugreifen: Hochmoderne Kamera- und Sensortechnologien zur beschleunigten Objekterkennung erlauben es beispielsweise, angemessen auf Verkehrsschilder und Geschwindigkeitsbegrenzungen zu reagieren oder das Verhalten von anderen Verkehrsteilnehmerinnen und -teilnehmern zu erfassen und deren Handlungen vorauszusehen. Hierzu m?chte eine Bamberger Promotion in Kooperation mit der Continental AG einen Beitrag leisten: Es werden Verfahren untersucht, wie Fehlfunktionen der KI aufgedeckt und ausgemerzt werden k?nnen, um genügend Robustheit und Sicherheit für den praktischen Einsatz zu gew?hrleisten.