KI-Copiloten ziehen in die Chefetagen ein

Artikel anhören:

Künstliche Intelligenz zieht in die Chefetagen ein – und verändert, wie Entscheidungen getroffen werden. KI-Copiloten unterstützen bereits in vielen Unternehmen die Datenanalyse und damit die Entscheidungsfindung.

Doch wie vertrauenswürdig sind diese digitalen Assistenten wirklich? Und was passiert, wenn Mitarbeiter den Empfehlungen blind vertrauen oder diese permanent hinterfragen?

Ein Forschungsteam der Universität Passau unter der Leitung von Professor Dr. Ulrich Gnewuch sucht nach Antworten.

Früher war es klar: Wer Entscheidungen treffen wollte, musste sich auf die Berichte und Dashboards der IT-Abteilung verlassen. Doch die Zeiten haben sich geändert.

Generative KI macht es möglich, Daten selbstständig und ohne tiefes technisches Know-how auszuwerten. KI-Copiloten können per natürlicher Sprache angesprochen werden und liefern in Sekundenschnelle Antworten. Kein Wunder also, dass viele Unternehmen diese Technologie bereits nutzen.

Doch das volle Potenzial wird oft nicht ausgeschöpft. „Viele Nutzer und Nutzerinnen haben Schwierigkeiten, das richtige Maß an Vertrauen in die Antworten ihres Copiloten zu finden“, erklärt Prof. Gnewuch.

Das Problem: Entweder wird den Ergebnissen blind geglaubt – was zu fatalen Fehlentscheidungen führen kann – oder es wird so viel geprüft, dass der Effizienzgewinn dahin ist.

Das Projekt „Vertrauenswürdige generative KI-Copiloten für Datenanalysen in geschäftlichen Entscheidungsprozessen“, gefördert vom Bayerischen Forschungsinstitut für Digitale Transformation (Bidt), untersucht, wie die Interaktion mit KI-Copiloten optimiert werden kann.

Im Fokus steht dabei das Vertrauen der Nutzer. Denn nur wer versteht, wie die KI zu ihren Ergebnissen kommt, kann diese auch sinnvoll nutzen.

Dabei spielt das mentale Modell der Nutzer eine entscheidende Rolle. „Wir wollen herausfinden, wie Menschen die Entscheidungen der KI interpretieren und wie sich das auf ihre eigenen Entscheidungen auswirkt“, so Gnewuch.

Die Ergebnisse der Forschung fließen direkt in Gestaltungsprinzipien für vertrauenswürdige Copiloten ein, die in empirischen Studien getestet werden. Ziel ist es, Handlungsempfehlungen für den praktischen Einsatz in Unternehmen zu entwickeln.

Das im Januar 2025 gestartete Projekt läuft vier Jahre und ist Teil des Forschungsschwerpunkts „Mensch und generative KI: Trust in Human-AI Co-Creation“ am Bidt.

Professor Dr. Hannah Schmid-Petri, Sprecherin des Schwerpunkts und Lehrstuhlinhaberin für Wissenschaftskommunikation an der Universität Passau, betont die Bedeutung des Themas: „Vertrauen ist der Schlüssel, um die Potenziale von KI in Unternehmen voll auszuschöpfen.“

Professor Dr. Ulrich Gnewuch hat 2024 den Lehrstuhl für Wirtschaftsinformatik an der Universität Passau übernommen. Seine Forschung liegt an der Schnittstelle von Wirtschaftsinformatik und Mensch-Computer-Interaktion.

Mit seinem Team untersucht er, wie Künstliche Intelligenz gestaltet werden muss, damit sie nicht nur leistungsfähig, sondern auch nachvollziehbar und vertrauenswürdig ist.

Ob es gelingt, die Balance zwischen blindem Vertrauen und übermäßiger Kontrolle zu finden, werden die kommenden Jahre zeigen.

Klar ist schon jetzt: Wer in Zukunft erfolgreich sein will, braucht nicht nur eine kluge KI – sondern auch kluge Nutzer und Nutzerinnen…

Sierks Media / © Fotos: Sierks Media, mit KI generiert / Quelle: obx-news