KI – Technologie soll den Menschen unterstützen

Interview mit dem Direktor der ELLIS-Initiative Prof. Dr. Bernhard Schölkopf

Künstliche Intelligenz ist zur Schlüsseltechnologie für Wettbewerbsfähigkeit geworden. Die europäische Initiative ELLIS (European Laboratory for Learning and Intelligent Systems) soll mehr KI-Spitzenforschung nach Europa bringen. Das Grundkonzept von ELLIS: KI-Forscher an den Universitäten sollen eng mit Grundlagenforschern aus der Industrie zusammenarbeiten. Die Siemens AG hat dafür einen ihrer Experten, Prof. Dr. Volker Tresp, als Co-Direktor zu dieser Initiative gesandt. Prof. Dr. Bernhard Schölkopf vom Max-Plank-Institut – leitet als Direktor die ELLIS-Initiative. Ein Interview über seine KI-Visionen.

Wie sind Sie zur künstlichen Intelligenz gekommen?

Im Nachhinein betrachtet war mein Weg zur KI eher ungeplant. Als Student der Physik engagierte ich mich in einer Studiengruppe an der theologischen Fakultät. Wir lasen und diskutierten über Konstruktivismus und Konnektionismus. Und ich habe einmal an einer Konferenz teilgenommen, die zufällig auf dem örtlichen Max-Planck-Campus stattfand. Dort lernte ich die Forschung im Bereich der Neurowissenschaften kennen. Ich fand das faszinierend, aber zu kompliziert - ich suchte nach etwas, das näher an der Mathematik war. Als ich von einem Praktikumsprogramm der Studienstiftung bei Bell Labs hörte und der Möglichkeit, im Bereich maschinelles Lernen zu arbeiten, war ich begeistert.

Welche Werte sind Ihnen in der Forschung besonders wichtig und sollten auch in der Forschung der Industrie berücksichtigt werden? 

Die europäische akademische Tradition basiert auf einer Kultur der offenen Diskussion und Debatte. Das ist einer der Gründe, warum wir die europäische Forschung und Innovation auf dem Gebiet der lernenden KI stärken wollen. Da wir über Technologien sprechen, die einen transformativen Einfluss auf die Gesellschaft haben werden, ist es besonders wichtig, sich mit den Chancen, Herausforderungen und Risiken von KI gleichermaßen auseinanderzusetzen. Die Einbeziehung ethischer Überlegungen in die frühen Entwicklungsphasen ist sowohl in der Grundlagenforschung als auch in der Industrie von entscheidender Bedeutung, und viele Unternehmen in Europa haben sich dies bereits zu Herzen genommen.

Die gesellschaftlichen Zukunftsvisionen in Bezug auf KI sind entweder überzogene Erwartungen, zum Beispiel transhumanistische Utopien, oder dystopische Ängste vor totaler Überwachung und Manipulation. Was möchten Sie diesen Menschen sagen? Haben Sie selbst eine utopische Vorstellung von der Zukunft?

Derzeit werden maschinelle Lernsysteme darauf trainiert, bestimmte Probleme zu lösen; so etwas wie eine allumfassende Superintelligenz, die den Menschen ersetzt, gibt es nicht - das ist der Stoff, aus dem Science-Fiction gemacht ist. Wie jede andere technologische Entwicklung hat auch die KI das Potenzial, sowohl für gute als auch für ruchlose Zwecke eingesetzt zu werden. Mit dem richtigen regulatorischen und politischen Rahmen und den Forschungsbedingungen offener Gesellschaften, die ich gerade erwähnt habe, bin ich zuversichtlich, dass wir in der Lage sein werden, nützliche Technologien zu gestalten, die einen positiven Einfluss haben werden. Ich bin kein Fan von transhumanistischen Utopien, aber ich sehe, dass Technologien entwickelt werden, die potenziell zur Lösung vieler gesellschaftlicher Herausforderungen beitragen werden.

Was bedeutet Grundlagenforschung auf dem Gebiet der künstlichen Intelligenz? Welche Ergebnisse sollte eine solche Grundlagenforschung in den nächsten 5 bis 10 Jahren liefern können? 

Grundlagenforschung ist per Definition frei, unabhängig und von Neugier getrieben - die Wissenschaft befasst sich mit grundlegenden Problemen, die die Menschheit noch nicht gelöst hat, daher ist es schwierig, Vorhersagen über einen bestimmten Zeitraum zu machen. Ich hoffe jedoch, dass unsere Arbeit daran, maschinelles Lernen zu lehren und Kausalität besser zu verstehen, zu vielseitigeren Formen der künstlichen Intelligenz führen wird.

Faszination Forschung & Technologie

Einblicke in unsere Forschungslabore und technische Hintergründe

 

alle Forschungs-Stories

Click here

Inwiefern wird sich der Einsatz von KI in der Zukunft - auf einer Zeitachse von etwa 20 Jahren - von heute unterscheiden? Glauben Sie, dass KI unser Leben auch in den nächsten - sagen wir - 20 Jahren spürbar verändern wird? Wenn ja, wie?

KI hält allmählich Einzug in alle Lebensbereiche, und ich erwarte, dass sich dieser Trend noch verstärken wird. Es gibt unzählige Beispiele dafür, wie sich unser Alltag verändern wird, zum Beispiel die Art und Weise, wie wir Auto fahren. In den nächsten zehn Jahren ist es denkbar, dass Autos die meiste (aber wahrscheinlich nicht die ganze) Zeit automatisch fahren. Auch Assistenzsysteme wie Alexa und Siri werden sich so weiterentwickeln, dass es in zehn Jahren möglich sein wird, ein vernünftiges Gespräch mit diesen zu führen. Jenseits des Alltags wird KI zunehmend in Bereichen wie dem Gesundheitswesen zum Einsatz kommen, wo intelligente Systeme Ärzte mit Diagnosen und Behandlungsvorschlägen unterstützen werden. Ganz zu schweigen von der Nutzung der KI zur Verbesserung von Produktion und Logistik, etwa in der Industrie. Vieles davon wird bereits jetzt zur Marktreife entwickelt, zum Beispiel bei den Start-ups im Cyber Valley Start-up Network. Die Möglichkeiten sind endlos.

Warum beteiligen sich große Unternehmen an der Grundlagenforschung bei ELLIS? 

Europäische Unternehmen haben ein großes Interesse daran, Technologien zu entwickeln, die ihre langfristige Wettbewerbsfähigkeit auf den globalen Märkten sichern. Gleichzeitig sind wir im Zuge der COVID-19-Pandemie durch Telearbeit und Videokonferenzen schnell noch abhängiger von IT-Lösungen geworden, und es ist spürbar, dass europäische Unternehmen eine gewisse technologische Souveränität aufbauen wollen, um ihre Geschäftsmodelle widerstandsfähiger zu machen. 

Wo sehen Sie das größte Marktpotenzial für nachhaltige KI?

Maschinelles Lernen könnte in vielen Bereichen eine Rolle spielen, zum Beispiel beim Verständnis der kausalen Zusammenhänge von Eingriffen in das Klima der Erde. Und auch für kleinere Anwendungen gibt es viel Potenzial, etwa für energieeffiziente Steuerungsstrategien in einer Reihe von Bereichen.

Was sind die größten Herausforderungen für die ELLIS-Initiative? Menschen haben viele - oft unbewusste - Vorurteile gegenüber anderen Menschen. Diskriminierung aufgrund von Geschlecht, Hautfarbe, sexueller Orientierung, BMI, etc. Wie können wir verhindern, dass KI unsere Vorurteile erbt? 

Algorithmen können nur so gut sein wie die Daten, mit denen sie trainiert werden. Daher ist es von entscheidender Bedeutung, dass Vorurteile, die zu Diskriminierung führen könnten, frühzeitig erkannt und beseitigt werden, bevor die Algorithmen in der Praxis eingesetzt werden. Dies gilt vor allem in Bereichen wie der Strafjustiz, der Medizin oder dem Recruiting, und in jedem anderen Bereich, in dem Entscheidungen direkte Auswirkungen auf Menschen haben. Das Feld des menschenzentrierten maschinellen Lernens ist in den letzten Jahren rasant gewachsen, wobei sich Wissenschaftler zunehmend mit den gesellschaftlichen Herausforderungen, Risiken und potenziellen Schäden von maschinellen Lernsystemen auseinandersetzen. Dazu gehört auch das Nachdenken über die Macht, die ein Algorithmus haben sollte oder nicht haben sollte, mit dem Fokus auf der Gestaltung von maschinellen Lernsystemen, die inklusiv und nichtdiskriminierend sind. Das ultimative Ziel dabei ist, dass die Technologie den Menschen unterstützt und ihm hilft.

Künstliche Intelligenz einzusetzen bedeutet, bestimmte Entscheidungen Maschinen zu überlassen - und dabei werden Fehler passieren. Gibt es ein Konzept für eine Maschinen-Fehlerkultur?

Es besteht ein breiter Konsens darüber, dass Maschinen eingesetzt werden sollten, um Menschen bei der Entscheidungsfindung zu unterstützen und nicht um sie zu ersetzen. In einigen Fällen ist die Wahrscheinlichkeit, dass Maschinen Fehler machen, geringer als bei Menschen, einfach aufgrund der schieren Menge an Daten, die sie verarbeiten können, oder weil sie nicht müde werden. Da Maschinen andere Stärken und Schwächen haben als Menschen, neigen sie auch dazu, andere Fehler zu machen. Das ist gut, denn es bedeutet, dass wir durch die Kombination von beidem Fehler reduzieren können.

Das Ziel von ELLIS ist es, die wegweisende KI-Grundlagenforschung in Europa zu stärken: Wen wollen Sie mit ELLIS ansprechen und was bieten Sie den Forschern?

Von Anfang an stand die Idee eines paneuropäischen Forschungsnetzwerks im Mittelpunkt von ELLIS. Wir wollten ein Forschungsumfeld schaffen, das die besten lokalen Talente in Europa hält und herausragende Forscher aus der ganzen Welt anzieht. Durch die Einrichtung von 30 Forschungseinheiten in 14 Ländern des Kontinents und in Israel haben wir ein Netzwerk geschaffen, das führende Institutionen im Bereich des maschinellen Lernens und verwandter Gebiete miteinander verbindet und damit neue Möglichkeiten für grenzüberschreitende, interdisziplinäre Forschung eröffnet. Unser Ziel ist ein zweifaches: Wir wollen jungen Forscher*innen die Möglichkeit bieten, an einer Institution angesiedelt zu sein, aber weitere Forschungsaufenthalte innerhalb des Netzwerks zu haben. Und wir wollen mehr Möglichkeiten für die Zusammenarbeit zwischen etablierten Wissenschaftlern in ganz Europa schaffen. Der Erfolg unseres PhD-Programms zeigt, dass das Konzept weltweit Anklang findet: In der ersten zentralen Rekrutierungsrunde im vergangenen Herbst haben sich mehr als 1300 junge Menschen aus über 70 Ländern beworben, und über 60 neue Studenten werden in diesem Herbst ihr Studium an 51 Einrichtungen beginnen. 

Wie ist die Zusammenarbeit bei ELLIS organisiert, wie arbeiten die europäischen Forschungsteams zusammen?

ELLIS wuchs zunächst als Grass-Root-Initiative von Menschen, die schon lange vor der Gründung des Netzwerks zusammenarbeiteten und viele wissenschaftliche Arbeiten gemeinsam veröffentlichten. Mit den 14 Forschungsprogrammen und 30 ELLIS-Einheiten haben wir das Potenzial für die Zusammenarbeit weiter ausgebaut. Die Forscher*innen haben jetzt Gelegenheit, sich zu treffen, zum Beispiel bei Workshops, die wir regelmäßig veranstalten, oder um an anderen ELLIS-Aktivitäten teilzunehmen, zu denen Symposien, Debatten, Brainstorming-Treffen und so weiter gehören. Die Gruppen sind relativ klein, mit etwa 20 Personen, die sich intensiv wissenschaftlich austauschen.

Wie beurteilen Sie die aktuelle Situation in Bezug auf Forschungstalente in Europa? Was fehlt noch, was läuft gut?

Die Bildung in Europa ist hervorragend und wir haben eine starke akademische Tradition. Was die Talente angeht, ist Europa meiner Meinung nach auf Augenhöhe mit den USA. Woran wir noch arbeiten müssen, ist eine Kultur des Unternehmertums und der Innovation: Wie ich bereits erwähnt habe, wollen wir nicht nur die besten Talente ausbilden, wir wollen auch, dass diese Leute in Europa bleiben - entweder in der Wissenschaft, in die Industrie wechseln oder ihre eigenen Unternehmen gründen. Mit dem Cyber Valley in Baden-Württemberg haben wir bereits ein wachsendes lokales Ökosystem für Forschung und Innovation aufgebaut, und ELLIS ist ein vergleichbares Konzept auf europäischer Ebene. Es ist noch im Aufbau, aber wir sind auf einem guten Weg, ein Umfeld zu schaffen, das nicht nur Spitzenuniversitäten und Forschungseinrichtungen, sondern auch hervorragende Möglichkeiten für Start-ups umfasst. Auch die deutsche und europäische Politik hat dies als strategisch wichtig erkannt und sich verpflichtet, verstärkt in die KI-Forschung und -Innovation zu investieren. 

Was ist Ihnen in Ihrer Rolle besonders wichtig, was möchten Sie besonders vorantreiben?

Ich habe eine gemeinsame Vision mit meinen Kollegen im ELLIS-Netzwerk: Wir wollen interessante Standorte und Ökosysteme in Europa entwickeln, in denen auch die Top-Forschungslabore der Industrie angesiedelt sind. Damit schaffen wir die Voraussetzungen für das Entstehen weiterer europäischer KI-Champions. Erinnern Sie sich daran, dass es Mitarbeiter von IBM Deutschland waren, die SAP gegründet haben, weil sie ihr eigenes Ding machen wollten? Davon wollen wir mehr sehen!

Was halten Sie von der Idee, eine KI zu entwickeln, die selbst eine neue KI entwickelt? 

Wenn Sie diese Frage zehn verschiedenen Experten stellen würden, bekämen Sie vielleicht zehn verschiedene Antworten! Ich will das nicht beziffern, aber ich bin hier eher zurückhaltend. Ich glaube, wir sind noch weit davon entfernt, dass Maschinen die gleichen Fähigkeiten haben, wie das menschliche Gehirn. Wenn man sich anschaut, was heute gut funktioniert, dann ist es in den allermeisten Fällen Mustererkennung aus großen Datenmengen. Zur allgemeinen Intelligenz gehört viel mehr als das. Ich erwarte keine allgemeine künstliche Intelligenz zu meinen Lebzeiten; ich bin jetzt 53 und hoffe, dass ich ein langes Leben haben werde! Aber ich glaube, dass sich unsere Einstellung zu Computern, unsere Erwartungen an sie und die Art und Weise, wie wir mit ihnen interagieren, in den kommenden Jahren weiter rasant verändern wird. 

Susanne Gold, November 2021

Subscribe to our Newsletter

Stay up to date at all times: everything you need to know about electrification, automation, and digitalization.