Wie der Mensch die Kontrolle über die KI behält

Mit Künstlicher Intelligenz (KI) ist diese große Erwartung verbunden: Sie soll für Erleichterungen sorgen, einen Mehrwert bringen, die Effektivität steigern. Ob in Unternehmen oder in der öffentlichen Verwaltung – es geht bei der KI insbesondere auch um Entlastung für den Menschen. Die zentrale Voraussetzung ist: Die KI-Systeme müssen so nutzerfreundlich wie möglich gestaltet sein – also konsequent auf die Bedürfnisse der Menschen ausgerichtet sein, eine einfache Interaktion gewährleisten. Barrierefreiheit lautet hier die Devise.

Wie das möglich ist, damit beschäftigt sich der Forschungszweig „Menschenzentrierte KI“ am OFFIS, dem Oldenburger Forschungsinstitut für Informatik. Der Leiter dieses Bereichs ist der Informatiker Dr. Larbi Abdenebaoui. Er sagt gegenüber den OM-Medien über KI-Anwendungen: „Im Alltag sind Nachvollziehbarkeit und menschliche Aufsicht entscheidend.“ Damit spricht er auch den weiteren wichtigen Aspekt der Kontrolle über die KI an, die beim Menschen zu bleiben habe. Das sei eine der Leitmaximen, wenn das OFFIS Anwendungen entwickelt und die Schnittstellen, im Expertenjargon „Interfaces“ genannt, zwischen Mensch und Maschine gestaltet.

„Weder blinder Optimismus noch pauschale Skepsis helfen weiter.“

Dr. Larbi Abdenebaoui, Leiter des Forschungsbereichs „Menschenzentrierte KI“ am OFFIS

Das Forschungsfeld sei „relativ neu“, sagt Abdenebaoui. Es gehe darum, von Anfang an den Endnutzer im Blick zu behalten. Der Wissenschaftler erklärt: „Wenn wir eine Software entwickeln sollen, fragen wir: Welche Probleme sollen gelöst werden? Wie soll die Software aussehen?“ Dann komme es im Entwicklungsprozess immer wieder zum Austausch mit den Menschen, die das System anwenden sollen. Für ihn gilt: Wenn die Interaktion mit einem Informationssystem schiefläuft, weist dies in der Regel eher auf eine unzureichend benutzerorientierte Gestaltung des Systems als auf ein Fehlverhalten der Nutzer hin.

In der Forschung von Abdenebaoui geht es auch um die Frage des Vertrauens in die KI – und die hängt mit einem Wissen über deren Möglichkeiten zusammen. „Weder blinder Optimismus noch pauschale Skepsis helfen weiter“, sagt Abdenebaoui. Und er betont: Bereits bei der Einführung einer KI – beispielsweise in einem Unternehmen – brauche es „Klarheit über die Leistungsfähigkeit, die Datenbasis und die Grenzen eines Systems“. Der Fachbegriff zu diesem Aspekt lautet „kalibriertes Vertrauen“. Das bedeutet, „KI realistisch einzuschätzen, sie weder zu überschätzen noch ihre Risiken zu ignorieren“, erklärt Abdenebaoui.

Die Risiken der KI sind bekanntlich vielfältig – dazu gehört der Grad der Verlässlichkeit bei bestimmten Aufgaben. Abdenebaoui sagt: „Wir sollten Systeme haben, bei denen der Nutzer selbst merkt, wann er aufpassen sollte.“

Transparenz bei Einführung von KI-Systemen

Ein wichtiger Punkt sei das Zusammenspiel zwischen menschlicher Kontrolle und Automatisierung. Dabei gelte zunächst: „Wenn der Nutzer einen Überblick über das System haben will, um die Aufgaben schnell anzupassen, dann muss das System sehr einfach sein und gleichzeitig sehr gut automatisieren können.“

Da KI bestimmte Routinetätigkeiten automatisieren werde, sei entscheidend, wie Unternehmen den Wandel gestalten, sagt Abdenebaoui. Die Frage sei: Soll die KI ein Instrument zur Rationalisierung sein oder auch strategische Unterstützung für anspruchsvolle Aufgaben übernehmen? Um zukunftsfähig zu sein, müsse „technologische Effizienz mit Qualifizierung und klarer Verantwortungsstruktur“ verbunden sein.

Hier geht es zur Themenseite „OM-Forum-Wirtschaft“

Bei der Einführung von KI-Systemen sollte es Transparenz geben, was die Ziele angeht, betont Abdenebaoui. Die Mitarbeitenden sollten eingebunden werden, „gerade wenn sich die Aufgabenprofile verändern“. Bei Projekten zur Einführung von KI in mittelständischen Unternehmen habe er auch mit Soziologen zusammengearbeitet, berichtet Abdenebaoui. Es ging um eine wertebasierte Vorgehensweise bei der KI-Einführung. Chancen und Risiken sollten offen besprochen werden. „Man muss die Leute mitnehmen“, sagt Abdenebaoui.

Und immer wieder stehe dies im Mittelpunkt: Der Mensch muss verstehen, was vor sich geht, wenn er mit einer Maschine interagiert. Deshalb muss die Anwendung unkompliziert sein.

Großes Potenzial für öffentlichen Dienst

Großes Potenzial sieht Abdenebaoui in KI-Anwendungen für den öffentlichen Sektor. Eines seiner Forschungsprojekte hat sich damit befasst, wie KI den Bürgerinnen und Bürgern helfen kann, Formulare auszufüllen. Auch hier sei der Einführungsprozess gemeinsam gestaltet worden.

Wie sieht es mit Datensicherheit aus? Die sei weitgehend gegeben, wenn kleinere KI-Modelle angewendet werden, die auf lokalen Servern laufen, erklärt Abdenebaoui. Das Training laufe über die Datenbank des Unternehmens. Es handele sich um spezialisierte Anwendungen, etwa zur Formulierung von Angeboten für Kunden.

Grundverständnis zur Funktionsweise von Sprachmodellen

In solchen lokalen und geschlossenen Systemen sei auch der Einsatz von KI-Agenten, also fast autonomen Einheiten, möglich. Auch hierzu laufen Forschungen, wie die Schnittstellen zwischen Mensch und Maschine aussehen sollen, damit am Ende die Menschen die Kontrolle behalten.

Die Systeme einfach zu halten, sie nutzerfreundlich zu gestalten, das ist dabei ebenso das Ziel. Die Interaktion zwischen Mensch und Maschine läuft oft über Sprachmodelle – also per Eingabe von Prompts, den Anweisungen an die KI. Abdenebaoui plädiert hierfür: Ein gewisses Grundverständnis von der Funktionsweise eines Sprachmodells sollte der Mensch durchaus haben – um die Kontrolle zu behalten.

Info: Als Experte für „menschenzentrierte KI“ nimmt Dr. Larbi Abdenebaoui an der Podiumsdiskussion des „OM-Forums Mensch. KI. Mittelstand“ am Donnerstag (12. März) teil. Inzwischen ist die Veranstaltung im OM-Medienhaus ausverkauft.