KI-gestützte Entscheidungsfindung und Vertrauen
Dass Künstliche Intelligenz in Form von Large Language Models (LLM) auch in Unternehmen zunehmend eingesetzt wird, ist mittlerweile keine Neuigkeit mehr. Gut sichtbar ist dies momentan bei der zunehmenden Automatisierung von Routineaufgaben im Dienstleistungssektor. Bei Rechtsanwaltskanzleien führt dies z.B. dazu, dass Aufgaben (z.B. die Zusammenfassung der jüngsten Rechtsprechung zu bestimmten Streitthemen) nicht nur schneller erledigt werden können, sondern dass auch die persönliche Überprüfung solcher Ergebnisse tendenziell zurückgefahren wird. Damit stellt sich automatisch die Frage, wie stark solchen LLM-Ergebnissen eigentlich vertraut werden darf. Denn es gehört gewissermaßen zur DNA von LLM, neue Inhalte selbst zu generieren, ohne diese entsprechend zu markieren. Retrieval Augmented Generation kann die entsprechende Fehlerquote zwar deutlich reduzieren, jedoch nicht neutralisieren.
In Bezug auf allgemeine Management-Aufgaben wird augenblicklich ein LLM-basierter Lösungsansatz unter dem Stichwort Intelligent Choice Architecture mit einer vergleichsweise einfachen Idee beworben. Agentische KI-Anwendungen sollen sich dabei um Datenanalyse, entsprechende Mustererkennung plus Bereitstellung zweckoptimierter Daten kümmern und Manager sich auf „höherwertige Entscheidungsaufgaben“ konzentrieren.
Was auf diesem abstrakten Level gut klingt, ist in der Praxis jedoch voller Fallstricke. Wie komplett bzw. wie konsistent sind die dabei benutzten Daten? Unter welchen Annahmen und für welche Zwecke wurden sie in welchem Zeitraum erfasst? Welcher Blickwinkel soll bei der Analyse eine Rolle spielen - Wirtschaftlichkeit, Cash-Generierung, Bestandswirksamkeit, Kundenorientierung? Was soll relevant sein bei (absehbaren) Zielkonflikten? Und wer übernimmt die Verantwortung dafür?
Wer darauf keine Antworten geben kann, gleichzeitig aber KI-gestützte Entscheidungsfindungsprozesse vorantreibt, sollte damit rechnen, dass ihn zukünftig mancher Zufall umso härter treffen wird. Es ist wie mit einem alten mechanischen Ladekran – Fachleute sehen da sofort den Zusammenhang von Ausleger, Last, geeigneten Aufhängungspunkten und der Standfestigkeit des Krans. Da dieser Zusammenhang frei ist von Bewertungen, Verzerrungen und Zeitbezogenheit lässt er sich eindeutig berechnen und in hochautomatisierte Lösungen überführen, die technisch besser und wirtschaftlich effizienter sind. Dies heißt allerdings nicht, dass man deshalb problemspezifische Zusammenhänge nicht mehr zu kennen braucht.
Dies gilt genauso für KI-gestützte Entscheidungssysteme. Auch sie berühren im Kern die Frage, wie Zusammenspiele konkret gestaltet werden sollen, wer dabei Verantwortung für die Konsequenzen übernimmt und woran sich Vertrauen in die KI-generierten Ergebnisse genau knüpft. coopartner kümmert sich auch um diese Aspekte zielbezogenen Handelns und Entscheidens.
