Achtung:

Sie haben Javascript deaktiviert!
Sie haben versucht eine Funktion zu nutzen, die nur mit Javascript möglich ist. Um sämtliche Funktionalitäten unserer Internetseite zu nutzen, aktivieren Sie bitte Javascript in Ihrem Browser.

Software Innovation
Campus Paderborn
Einführung in das 1. SICP Symposium. v.l.: Prof. Dr. Gregor Engels, Prof. Dr. René Fahr, Christoph Plass und Dr. Stefan Sauer Bildinformationen anzeigen
Fachtagung "Future Industrial Communication" in Berlin: Dr. Simon Oberthür, R&D Manager im SICP an der Universität Paderborn, im Gespräch mit Teilnehmern. Foto: MIKA-fotografie | Berlin Bildinformationen anzeigen
Fachtagung "Future Industrial Communication" in Berlin: Prof. Johannes Blömer, Universität Paderborn, Ina Karabasz, Handelsblatt, Dr. Heike Prasse, BMBF, Dr. Lutz Stobbe, Fraunhofer IZM, Dr. Gunnar Schomaker, SICP - Software Innovation Campus Paderborn (v. l.). Foto: MIKA-Fotografie Berlin Bildinformationen anzeigen
Freuen sich über den 2. Platz bei der EFMD Preisverleihung (v. l.): Peter Thornton, Amanda Bamford, Judith Shawcross, Simon Oberthür und Sven Geerts. Foto: EFMD Bildinformationen anzeigen
Ende August 2018 lud der SICP im Rahmen des Kompetenzzentrums „Digital in NRW“ zum Netzwerktreffen „360°dc*Lounge @ innovatives e“ ein. Veranstalter war die WestfalenWIND IT GmbH aus Paderborn. 100 IT- Experten aus Deutschland kamen zusammen, um innovative Datacenter- Konzepte „Made in Germany“ kennenzulernen. Foto: Nina Schwenniger, SICP Bildinformationen anzeigen
Blick in den Innenhof des Heinz Nixdorf Instituts aus den Büroräumen der Geschäftsstelle des SICP - Software Innovation Campus Paderborn. Foto: Julia Negri Bildinformationen anzeigen
Die Projektpartner des Forschungs- und Entwicklungsprojekts „FlexiEnergy“ beim Kick-off am 11. September 2018 in Paderborn. Der SICP ist Konsortialführer des Projekts. Foto: Dr. Thim Strothmann, SICP Bildinformationen anzeigen
Prof. Johannes Blömer, Universität Paderborn, bei der Begrüßung zur Tagung "Future Industrial Communication" am 11. September 2018 in Berlin. Foto: MIKA-fotografie | Berlin, www.mika-fotografie.berlin Bildinformationen anzeigen
Mitglieder des SICP - Software Innovation Campus Paderborn. Der SICP besteht aus dem Software Innovation Lab (SI-Lab) auf Seiten der Universität Paderborn, den Innovation Labs oder Projektmitarbeitenden auf Seite der Unternehmen und außeruniversitären Forschungseinrichtungen. Foto: SICP Bildinformationen anzeigen

Einführung in das 1. SICP Symposium. v.l.: Prof. Dr. Gregor Engels, Prof. Dr. René Fahr, Christoph Plass und Dr. Stefan Sauer

Fachtagung "Future Industrial Communication" in Berlin: Dr. Simon Oberthür, R&D Manager im SICP an der Universität Paderborn, im Gespräch mit Teilnehmern. Foto: MIKA-fotografie | Berlin

Fachtagung "Future Industrial Communication" in Berlin: Prof. Johannes Blömer, Universität Paderborn, Ina Karabasz, Handelsblatt, Dr. Heike Prasse, BMBF, Dr. Lutz Stobbe, Fraunhofer IZM, Dr. Gunnar Schomaker, SICP - Software Innovation Campus Paderborn (v. l.). Foto: MIKA-Fotografie Berlin

Freuen sich über den 2. Platz bei der EFMD Preisverleihung (v. l.): Peter Thornton, Amanda Bamford, Judith Shawcross, Simon Oberthür und Sven Geerts. Foto: EFMD

Ende August 2018 lud der SICP im Rahmen des Kompetenzzentrums „Digital in NRW“ zum Netzwerktreffen „360°dc*Lounge @ innovatives e“ ein. Veranstalter war die WestfalenWIND IT GmbH aus Paderborn. 100 IT- Experten aus Deutschland kamen zusammen, um innovative Datacenter- Konzepte „Made in Germany“ kennenzulernen. Foto: Nina Schwenniger, SICP

Blick in den Innenhof des Heinz Nixdorf Instituts aus den Büroräumen der Geschäftsstelle des SICP - Software Innovation Campus Paderborn. Foto: Julia Negri

Die Projektpartner des Forschungs- und Entwicklungsprojekts „FlexiEnergy“ beim Kick-off am 11. September 2018 in Paderborn. Der SICP ist Konsortialführer des Projekts. Foto: Dr. Thim Strothmann, SICP

Prof. Johannes Blömer, Universität Paderborn, bei der Begrüßung zur Tagung "Future Industrial Communication" am 11. September 2018 in Berlin. Foto: MIKA-fotografie | Berlin, www.mika-fotografie.berlin

Mitglieder des SICP - Software Innovation Campus Paderborn. Der SICP besteht aus dem Software Innovation Lab (SI-Lab) auf Seiten der Universität Paderborn, den Innovation Labs oder Projektmitarbeitenden auf Seite der Unternehmen und außeruniversitären Forschungseinrichtungen. Foto: SICP

|

Haben Künstliche Intelligenzen Vorurteile?

Wissenschaftler der Universität Paderborn untersuchen algorithmische Voreingenommenheit

Wenn Menschen argumentieren, kommen nicht selten bewusste oder unbewusste Vorurteile gegenüber Geschlechtern, Ethnizitäten oder anderen Personengruppen zum Tragen. Man spricht vom sogenannten sozialen Bias. Algorithmen, die Sprachdaten im Kontext Künstlicher Intelligenz verarbeiten, können diesen Bias übernehmen und sogar verstärken. Das haben Wissenschaftler der Universität Paderborn empirisch belegt. In einer Studie haben sie untersucht, welche Arten von Voreingenommenheit in argumentativen Datensätzen enthalten sind. Die Forschung findet im Rahmen des Projekts „Bias von KI-Modellen bei der Informationsbildung" statt, das vom Land NRW seit März 2020 an den Universitäten Paderborn und Bielefeld gefördert wird.

„Anerkannte, wissenschaftlich fundierte Bias-Maße zeigen, dass insbesondere junge männliche Personen mit europäischen Namen häufig positiver dargestellt werden als etwa Menschen mit afroamerikanischen Namen. Das geht aus unseren Daten hervor und ist auf bestimmte Vorurteile zurückzuführen“, erklärt Jun.-Prof. Dr. Henning Wachsmuth vom Paderborner Institut für Informatik. Sein Doktorand Maximilian Spliethöver und er haben für die Studie „Argument from Old Man’s View: Assessing Social Bias in Argumentation" den Best Paper Award des siebten internationalen Workshops zum Thema „Argument Mining“ erhalten, u. a. unterstützt von IBM.

Die Wissenschaftler haben Daten aus Online-Portalen wie Debattier- und Diskussionsforen untersucht. Wachsmuth zufolge legen die Auswertungen u. a. nahe, dass Männer z. B. eher positiv im beruflichen Kontext hervorgehoben werden, während Frauen häufiger in Kombination mit Begriffen aus dem häuslichen Umfeld in Erscheinung treten.

Die Ergebnisse sollen den Grundstein für einen besseren algorithmischen Umgang mit Vorurteilen in argumentativen Kontexten legen. Dazu Wachsmuth: „Unser Projekt ist dadurch motiviert, dass KI-Modelle Datenkorrelationen anstelle tatsächlicher Kausalitäten widerspiegeln. Auch dann, wenn es sich um einen nicht zu rechtfertigenden, nur historisch bedingten Zusammenhang handelt. Beispiele sind eine Vorhersage der Rückfallwahrscheinlichkeit Krimineller auf Basis ihres ethnischen Hintergrunds oder die Empfehlung zur Einstellung einer Person aufgrund ihres Geschlechts. Da KI verstärkt alle Bereiche der Gesellschaft, Wirtschaft und Wissenschaft durchdringt, kann Bias in KI-Modellen unsere Gesellschaft nachhaltig verändern.“ 

Die Wissenschaftler der beiden Universitäten untersuchen deshalb, wie solche Vorurteile in zugrundeliegenden Daten das Lernen und die Konfiguration von KI-Modellen beeinflussen. Ein Fokus der Paderborner Forschung liegt auf Bias in menschlicher Sprache und dessen Auswirkungen auf die Meinungsbildung, zum Beispiel in sozialen Medien. Ziel ist es dabei nicht nur, das Phänomen zu erkennen, sondern auch die Auswirkungen auf KI-Modelle zu minimieren, insbesondere auf diejenigen zur automatischen Sprachverarbeitung.

Weitere Informationen: http://argmining2020.i3s.unice.fr

Nina Reckendorf, Stabsstelle Presse, Kommunikation und Marketing 

Kontakt

Henning Wachsmuth

Jun. Prof. Dr. Henning Wachsmuth

Social Media in soziotechnischen Systemen

Computational Social Science

Zur Person