tba

Anton Wehr, Fraunhofer IEM

Humanoide Robotik: Was steckt hinter dem Hype?

Anton Wehr ist Robotics Technology Engineering am Fraunhofer IEM. Seit mehreren Jahren beschäftigt er sich mit moderner Robotik. Am Fraunhofer IEM liegt sein Schwerpunkt auf humanoiden Robotern und deren Einsatzmöglichkeiten in der industriellen Praxis. In seinem Vortrag gibt er Einblicke in aktuelle Entwicklungen, Potenziale und Herausforderungen dieser Technologie.

Oliver Müller, Universität Paderborn

Manipulierbare Agenten: Warum KI-Einkaufsagenten auf digitale Nudges hereinfallen und wie Unternehmen sich schützen können

LLM-basierte Agenten übernehmen zunehmend eigenständig Aufgaben wie Beschaffung, Lieferantenauswahl und Online-Einkäufe. Damit verlagern Unternehmen immer mehr Entscheidungen von Menschen auf KI-Systeme. Die Risiken solcher Systeme, von Prompt Injections über Halluzinationen bis hin zu fehlerhaften Anweisungen, sind inzwischen gut bekannt. Doch sie beschreiben nur einen Teil der Herausforderung. Denn KI-Agenten agieren in digitalen Umgebungen, die gezielt darauf ausgelegt sind, Entscheidungen zu lenken. In der Literatur ist diese Form der Beeinflussung als Nudging bekannt. Während Nudges ursprünglich für menschliche Entscheider untersucht wurden, zeigt aktuelle Forschung, dass auch KI-Agenten darauf reagieren. Sie übernehmen beispielsweise Voreinstellungen, orientieren sich an Bewertungen anderer Nutzer oder folgen Empfehlungen, mit potenziell direkten Auswirkungen auf automatisierte Prozesse.

Der Vortrag zeigt zunächst, warum diese Form der Beeinflussung ein eigenständiges Risiko neben klassischen LLM-Sicherheitsproblemen darstellt. Anschließend wird ein Forschungsprojekt vorgestellt, in dem 3.600 KI-Agenten auf Basis von sechs führenden Sprachmodellen in einem simulierten Online-Shop Kaufentscheidungen trafen. Die Ergebnisse zeigen, dass Gestaltungselemente wie Vorauswahlen oder Kundenbewertungen die Entscheidungen von Agenten deutlich verändern können. Die naheliegende Annahme, dass gründlicheres Nachdenken, das sogenannte Reasoning moderner Sprachmodelle, automatisch zu robusteren Entscheidungen führt, bestätigt sich dabei nicht. Mehr Reasoning schützt zwar vor manchen Beeinflussungen, macht die Agenten aber zugleich empfänglicher für andere. Die Anfälligkeit verschwindet also nicht, sie verlagert sich lediglich. Abschließend werden konkrete Empfehlungen vorgestellt, wie Unternehmen KI-Agenten testen, überwachen und konfigurieren können, um automatisierte Prozesse sicherer und zuverlässiger zu gestalten.

Oliver Müller ist Professor für Wirtschaftsinformatik, insb. Data Analytics an der Universität Paderborn. Seine Arbeitsschwerpunkte liegen in den Bereichen Künstliche Intelligenz, Mensch-KI-Interaktion und datenbasierte Entscheidungsfindung. Die Forschung seiner Fachgruppe zielt darauf ab, menschliche Entscheidungsprozesse durch den verantwortungsvollen Einsatz von Daten und Algorithmen zu verbessern, und verfolgt dabei einen soziotechnischen Ansatz, der moderne Technologien mit sozialen und gesellschaftlichen Aspekten verbindet. Typische Anwendungsfelder sind Data Analytics für nachhaltige Energiesysteme oder im Spitzensport.