Achtung:

Sie haben Javascript deaktiviert!
Sie haben versucht eine Funktion zu nutzen, die nur mit Javascript möglich ist. Um sämtliche Funktionalitäten unserer Internetseite zu nutzen, aktivieren Sie bitte Javascript in Ihrem Browser.

Software Innovation
Campus Paderborn
Einführung in das 1. SICP Symposium. v.l.: Prof. Dr. Gregor Engels, Prof. Dr. René Fahr, Christoph Plass und Dr. Stefan Sauer Bildinformationen anzeigen
Fachtagung "Future Industrial Communication" in Berlin: Dr. Simon Oberthür, R&D Manager im SICP an der Universität Paderborn, im Gespräch mit Teilnehmern. Foto: MIKA-fotografie | Berlin Bildinformationen anzeigen
Fachtagung "Future Industrial Communication" in Berlin: Prof. Johannes Blömer, Universität Paderborn, Ina Karabasz, Handelsblatt, Dr. Heike Prasse, BMBF, Dr. Lutz Stobbe, Fraunhofer IZM, Dr. Gunnar Schomaker, SICP - Software Innovation Campus Paderborn (v. l.). Foto: MIKA-Fotografie Berlin Bildinformationen anzeigen
Freuen sich über den 2. Platz bei der EFMD Preisverleihung (v. l.): Peter Thornton, Amanda Bamford, Judith Shawcross, Simon Oberthür und Sven Geerts. Foto: EFMD Bildinformationen anzeigen
Ende August 2018 lud der SICP im Rahmen des Kompetenzzentrums „Digital in NRW“ zum Netzwerktreffen „360°dc*Lounge @ innovatives e“ ein. Veranstalter war die WestfalenWIND IT GmbH aus Paderborn. 100 IT- Experten aus Deutschland kamen zusammen, um innovative Datacenter- Konzepte „Made in Germany“ kennenzulernen. Foto: Nina Schwenniger, SICP Bildinformationen anzeigen
Blick in den Innenhof des Heinz Nixdorf Instituts aus den Büroräumen der Geschäftsstelle des SICP - Software Innovation Campus Paderborn. Foto: Julia Negri Bildinformationen anzeigen
Die Projektpartner des Forschungs- und Entwicklungsprojekts „FlexiEnergy“ beim Kick-off am 11. September 2018 in Paderborn. Der SICP ist Konsortialführer des Projekts. Foto: Dr. Thim Strothmann, SICP Bildinformationen anzeigen
Prof. Johannes Blömer, Universität Paderborn, bei der Begrüßung zur Tagung "Future Industrial Communication" am 11. September 2018 in Berlin. Foto: MIKA-fotografie | Berlin, www.mika-fotografie.berlin Bildinformationen anzeigen
Mitglieder des SICP - Software Innovation Campus Paderborn. Der SICP besteht aus dem Software Innovation Lab (SI-Lab) auf Seiten der Universität Paderborn, den Innovation Labs oder Projektmitarbeitenden auf Seite der Unternehmen und außeruniversitären Forschungseinrichtungen. Foto: SICP Bildinformationen anzeigen

Einführung in das 1. SICP Symposium. v.l.: Prof. Dr. Gregor Engels, Prof. Dr. René Fahr, Christoph Plass und Dr. Stefan Sauer

Fachtagung "Future Industrial Communication" in Berlin: Dr. Simon Oberthür, R&D Manager im SICP an der Universität Paderborn, im Gespräch mit Teilnehmern. Foto: MIKA-fotografie | Berlin

Fachtagung "Future Industrial Communication" in Berlin: Prof. Johannes Blömer, Universität Paderborn, Ina Karabasz, Handelsblatt, Dr. Heike Prasse, BMBF, Dr. Lutz Stobbe, Fraunhofer IZM, Dr. Gunnar Schomaker, SICP - Software Innovation Campus Paderborn (v. l.). Foto: MIKA-Fotografie Berlin

Freuen sich über den 2. Platz bei der EFMD Preisverleihung (v. l.): Peter Thornton, Amanda Bamford, Judith Shawcross, Simon Oberthür und Sven Geerts. Foto: EFMD

Ende August 2018 lud der SICP im Rahmen des Kompetenzzentrums „Digital in NRW“ zum Netzwerktreffen „360°dc*Lounge @ innovatives e“ ein. Veranstalter war die WestfalenWIND IT GmbH aus Paderborn. 100 IT- Experten aus Deutschland kamen zusammen, um innovative Datacenter- Konzepte „Made in Germany“ kennenzulernen. Foto: Nina Schwenniger, SICP

Blick in den Innenhof des Heinz Nixdorf Instituts aus den Büroräumen der Geschäftsstelle des SICP - Software Innovation Campus Paderborn. Foto: Julia Negri

Die Projektpartner des Forschungs- und Entwicklungsprojekts „FlexiEnergy“ beim Kick-off am 11. September 2018 in Paderborn. Der SICP ist Konsortialführer des Projekts. Foto: Dr. Thim Strothmann, SICP

Prof. Johannes Blömer, Universität Paderborn, bei der Begrüßung zur Tagung "Future Industrial Communication" am 11. September 2018 in Berlin. Foto: MIKA-fotografie | Berlin, www.mika-fotografie.berlin

Mitglieder des SICP - Software Innovation Campus Paderborn. Der SICP besteht aus dem Software Innovation Lab (SI-Lab) auf Seiten der Universität Paderborn, den Innovation Labs oder Projektmitarbeitenden auf Seite der Unternehmen und außeruniversitären Forschungseinrichtungen. Foto: SICP

|

Erklärungen gemeinsam entwickeln: Neuer Sonderforschungsbereich zu künstlicher Intelligenz

Die Deutsche Forschungsgemeinschaft (DFG) hat heute die Einrichtung eines neuen Sonderforschungsbereichs/Transregio (TRR) zum Thema „Erklärbarkeit von künstlicher Intelligenz (KI)“ an den Universitäten Paderborn und Bielefeld bekanntgegeben. In den kommenden vier Jahren wird sie dafür rund 14 Millionen Euro Fördergelder zur Verfügung stellen. Das stark interdisziplinär ausgerichtete Forschungsprogramm mit dem Titel „Constructing Explainability“ („Erklärbarkeit konstruieren“) geht über die Frage nach Erklärbarkeit von KI als Grundlage algorithmischer Entscheidungsfindungen hinaus. Der Ansatz fördert die aktive Teilnahme der Menschen an soziotechnischen Systemen. Ziel ist es, die Mensch-Maschine-Interaktion zu verbessern, das Verständnis von Algorithmen in den Mittelpunkt zu stellen und dieses als Produkt eines multimodalen Erklärprozesses zu untersuchen. Die vierjährige Förderung beginnt am 1. Juli.

Künstliche Intelligenz ist heutzutage fester Bestandteil des modernen Lebens – sie sortiert Bewerbungen aus, begutachtet Röntgenbilder und schlägt neue Songlisten vor. Grundlage für solche Prozesse sind algorithmische Entscheidungsfindungen. „Bürgerinnen und Bürger haben ein Recht darauf, dass algorithmische Entscheidungen transparent gemacht werden. Das Ziel, Algorithmen zugänglich zu machen, ist Kern der sogenannten eXplainable Artificial Intelligence (XAI), bei der Transparenz, Interpretier- und Erklärbarkeit als gewünschte Ergebnisse im Mittelpunkt stehen“, sagt Prof. Dr. Katharina Rohlfing, Sprecherin des neuen Sonderforschungsbereichs. „Das Problem ist, dass in unserer digitalen Gesellschaft algorithmische Ansätze wie das maschinelle Lernen rasant an Komplexität zunehmen. Die Undurchsichtigkeit ist ein ernsthaftes Problem in allen Kontexten, insbesondere aber dann, wenn Menschen auf dieser undurchsichtigen Grundlage Entscheidungen treffen müssen", fügt Prof. Dr. Philipp Cimiano als stellvertretender Sprecher hinzu. Gerade bei Vorhersagen im Bereich der Medizin oder der Rechtsprechung sei es notwendig, die maschinengesteuerte Entscheidungsfindung nachzuvollziehen, so Cimiano weiter. Zwar gebe es bereits Ansätze, die die Erklärbarkeit entsprechender Systeme zum Gegenstand hätten, die Erklärungen, die dabei entstehen, setzen allerdings Wissen über die Funktionsweise von KI voraus. Was laut Cimiano und Rohlfing fehle, seien Konzepte zur Ko-Konstruktion von Erklärungen, bei der die Adressat*innen – also die Menschen – stärker in den KI-gesteuerten Erklärprozess miteinbezogen werden.

Dazu Rohlfing: „In unserem Ansatz gehen wir davon aus, dass Erklärungen nur dann für die Anwender nachvollziehbar sind, wenn sie nicht nur für sie, sondern auch mit ihnen entstehen. In Erklärungen unter Menschen sorgt dafür der Austausch zwischen den Beteiligten, die Fragen stellen und Unverständnis äußern können.“ In einem interdisziplinären Team arbeiten Linguist*innen, Psycholog*innen, Medienforscher*innen, Soziolog*innen, Ökonom*innen und Informatiker*innen eng zusammen und erforschen die Prinzipien und Mechanismen des Erklärens und Verstehens als soziale Praktiken und wie diese in KI-Systemen implementiert werden können. Darüber hinaus erforscht das Team, wie die Ko-Konstruktion von Erklärungen im Zwischenspiel von Mensch und Maschine neue soziale Praktiken etabliert und wie sich diese gesellschaftlich auswirken.

Der Ansatz soll neue Antworten auf gesellschaftliche Herausforderungen im Zusammenhang mit künstlicher Intelligenz liefern. Im Kern geht es dabei um die Teilnahme von Menschen an soziotechnischen Systemen, mit der auch die Informationssouveränität der Nutzer*innen gefördert wird. „Unser Ziel ist es, neue Formen von Kommunikation mit wirklich erklärbaren und verstehbaren KI-Systemen zu schaffen und somit neue Assistenzformen zu ermöglichen“, fasst Rohlfing zusammen.

Nina Reckendorf, Stabsstelle Presse, Kommunikation und Marketing

Kontakt

Katharina Rohlfing

Prof. Dr. Katharina Rohlfing

Germanistische und Allgemeine Sprachwissenschaft

Psycholinguistik

Zur Person