sind KI-Systeme bereits im Arbeitsalltag angelangt?
Wer eine Suchmaschine oder eine Sprachassistentin nutzt, wer sich an einen bestimmten Ort navigieren lässt oder sich Musikvorschläge automatisch vorspielen lässt, nutzt mit sehr hoher Wahrscheinlichkeit ein System mit “künstlicher Intelligenz”. Was versteht man unter diesem Begriff? Werden diese intelligenten, smarten oder selbstlernenden Systeme (wie sie auch genannt werden), im Arbeitsleben eingesetzt, etwa zur Prognose von menschlichem Verhalten ?
In einem Land weit weit weg berechnen Algorithmen, wer von den Tausenden Bewerber*innen für einen Arbeitsplatz am besten in den Betrieb passen würde. In einem anderen Land weit weit weg werden die Bewohner*innen algorithmisch dahingehend durchleuchtet, ob ihr Verhalten in der Arbeit und im Privatleben den Vorstellungen der Regierung entspricht und danach entschieden, ob sie eine Beförderung erhalten oder ob sie mit dem schnelleren Zug reisen dürfen. Kommen derartige KI-Systeme auch in österreichischen Betrieben zum Einsatz? Und…
was ist diese “künstliche Intelligenz” überhaupt?
Roboter, die serviceorientiert in der Montagehalle unterwegs sind, um die genau passenden Werkzeuge an den richtigen Ort mit der richtigen Anleitung zur Fehlerbehebung zu bringen, sind nur eines der Einsatzgebiete für KI im Betrieb. Längst nicht alles, was unter dem Schlagwort KI auf dem Markt gebracht wird, entspricht allerdings auch der Definition, die der „Roboter-Rat“ oder die EU-Kommission für “intelligente” Technologien hat. Der Österreichische Rat für KI und Robotik sagt in seinem White-Paper: „Künstliche Intelligenz (KI) bezeichnet Systeme mit einem „intelligenten“ Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen.“
KI beinhaltet also:
- auf Sensorik (Messung der Umwelt)
- eigenständige Entscheidungen (aufgrund vorgegebener Entscheidungspfade bzw. aus Vergangenem Gelerntes)
- von Menschen vorgegebenen Zielsetzungen
Der “smarte”, sich entsprechend der menschlichen Programmierung, selbst um halb sechs Uhr morgens einschaltende Thermostat, der das Heizen bei 20 Grad Raumtemperatur wieder von alleine einstellt, fällt beispielsweise nicht darunter – auch nicht wenn das Bedienelement ein mit hübschen Piktogrammen versehener Touchscreen ist, der sich von unterwegs bedienen lässt. Nachdem der Thermostat keine wirklich selbsttätigen Handlungen setzt und sein Repertoire auch nicht selbständig erweitert, handelt es sich ausschließlich um ein Wenn-Dann-Rechenprogramm.
“künstliche Intelligenz” bei der Betrugsbekämpfung in Banken
Ähnlich verhält es sich mit einem „Fraud-detection-Programm“ in einer Bank. Ein solches Betrugsbekämpfungs-Programm wird im Sprachgebrauch gerne als “KI” bezeichnet. Es wird eingesetzt, um sowohl Unregelmäßigkeiten auf den bankeigenen Rechnern zu entdecken, als auch um den zahlreichen Vorgaben der Finanzmarktaufsicht gerecht zu werden. Diese Vorgaben können von menschlichen Mitarbeiter*innen aufgrund ihrer Vielzahl nur mehr schwer kontrolliert werden – so eine Bankangestellte. Das Programm ist mit den neuesten gesetzlichen Regelungen und Selbstverpflichtungen im Bankwesen ausgestattet und scannt sämtliche Wertpapiergeschäfte (also sowohl die der Kund*innen als auch die der Beschäftigten), um herauszufinden, ob es auffällige Abweichung vom durchschnittlichen Verhalten bei Wertpapiergeschäften gibt. So kommt man Geldwäsche, Betrug und illegalen Aktientransaktionen mit Insider-Wissen auf die Schliche. Das Programm löst bei stark abweichenden Wertpapiergeschäften einen Zahlungsstopp aus und informiert die zuständige Fachexpertin. Die Szenarien dazu sind durch die Gesetzeslage vorgegeben und die Entscheidung, was mit den abweichenden Fällen passiert, trifft immer ein Mensch. Also handelt es sich bei dem Programm zwar um ein hochkomplexes und sämtliche Wertpapiergeschäfte umfassendes System (sein Name ist SHERLOCK), dessen Algorithmus vielschichtige Zuordnungen trifft, das jedoch weder selbst entscheidet noch selbsttätig dazu lernt – also wieder kein „richtiges“ KI-System.
künstliche Intelligenz beim Verschicken von Emails
Wann soll welches Email an welche*n Kunden*in verschickt werden? Bei welcher Kund*innengruppe könnte ein neues Produkt am effizientesten per Email beworben werden? Wo stehen die Chancen gut, mit einer telefonischen Werbemaßnahme Erfolg zu haben? Sind diejenigen, die sich ein Produkt auf der Homepage besonders lange ansehen auch diejenigen, die es am ehesten kaufen würden? Alle diese Fragen soll ein neues Kampagnensystem entscheiden, das das Verhalten der Kund*innen auf der Homepage des Unternehmens trackt und analysiert. Außerdem sollen in die Analyse auch Daten wie der Wohnort oder die Familiensituation miteinbezogen werden, um beispielsweise spezielle Produkte für Kinder an die richtige Zielgruppe senden zu können. Das Kampagnensystem ist derzeit in der Entwicklungsphase, wo vor allem Tests und Hintergrundberechnungen durchgeführt sowie rechtliche Fragen geklärt werden.
Zum Glück ist auch der Betriebsrat bei der Entwicklung mit an Bord und kann dafür sorgen, dass die Daten der Beschäftigten nicht zweckentfremdet (beispielsweise zur Leistungsbeurteilung) verwendet werden. Um für Marketingzwecke nicht gesetzeswidriger Weise in die Privatsphäre der Kund*innen einzudringen, ist beispielsweise angedacht, die personenbezogenen Daten wie IP-Adressen, Wohnorte etc. nur pseudonymisiert zu verwenden. Im Endausbau könnte dieses Kampagnensystem sehr wohl als KI qualifiziert werden, weil es selbsttätig Emails an einen Personenkreis verschickt, von dem errechnet und gelernt wurde, dass es sich um die passende Zielgruppe handelt.
künstliche Intelligenz bei der Berechnung von Prämien und Boni
Noch näher kommt man der Künstlichen Intelligenz am Arbeitsplatz, wenn man sich ansieht, wie bei einem internationalen IT-Konzern die Prämien und Boni für die Beschäftigten in Zukunft berechnet werden sollen. Grundlage stellt das Programm „workday“ dar, in dem sämtliche personenbezogenen Daten der Beschäftigten verarbeitet werden. Die Datenverarbeitungen reichen vom Gehalt (pay roll) über die Qualifikation (talent management) bis hin zur Arbeitszeiterfassung (time tracking and absence) oder der Ausstattung mit einem Dienstfahrzeug und einer zusätzlichen Krankenversicherung (benefits). Außerdem fließen auch firmenexterne Daten, wie der „übliche Marktwert“, mit ein. Zwar soll im Endeffekt der/die Manager*in über die Bonushöhe entscheiden, doch unterscheiden sich deren Entscheidungen gemäß den Erfahrungen, die in den USA mit dem System gemacht werden, wenig von denen, die das System berechnet und somit indirekt empfiehlt.
Besonders empfindlich wird die Angelegenheit, wenn das System angibt, wie hoch die Wahrscheinlichkeit einer Person ist, den/die Arbeitgeber*in zu wechseln, und darauf aufbauend berechnet wie hoch bzw. niedrig der Bonus sein müsste, um den Verbleib im Unternehmen zu sichern. (Ein Schelm, wer hier an die „Käuflichkeit des Menschen“ denkt.)
die Vorteile eines Betriebsrates
Zum Glück gibt es in dem Betrieb einen Betriebsrat, der seine Mitspracherechte bei der algorithmischen Berechnung im Vorschlagswesen einfordert, sich die Systemarchitektur genau ansieht und in den Meetings mit der Geschäftsführung immer wieder Verbesserungen einfordert. So zum Beispiel, dass das noch im Test befindliche System immer vor der realen Testung auch mit dem Betriebsrat abgestimmt wird oder dass auch die kollektivvertraglichen Gehaltserhöhungen bei der Berechnung einbezogen werden. Außerdem möchte der Betriebsrat erreichen, dass bei der Berechnung der Boni auch Dinge wie Gehaltstransparenz und eine geschlechtergerechte Verteilung berücksichtigt wird.
Ist profiling von Beschäftigten erlaubt?
Bezüglich der Prognose und Analyse von menschlichem Verhalten aufgrund von automatisierten Datenverarbeitungen (in der Datenschutzgrundverordnung heißt das profiling) und darauf aufbauenden Entscheidungen ist die Europäische Datenschutzgrundverordnung relativ eindeutig. Sollte in eine derartige Entscheidung kein Mensch involviert sein und sollte die Entscheidung erheblich beeinträchtigend sein, darf der/die Betroffene dieser Entscheidung nicht unterworfen werden (Artikel 22 DSGVO). Dass dieses profiling-Verbot auch für die Arbeitsleistung gilt, wird in der Grundverordnung explizit angeführt (Artikel 4 Ziffer 4 DSGVO) .
the DSGVO says “no”
Es darf außerdem bezweifelt werden, ob derartige Algorithmen technisch ausgereift genug sind, um verlässliche Aussagen treffen zu können. Vielmehr vergrößern sie bestehende Verzerrungen, da sie sich beim Lernen auf bereits exisiterende Entscheidungen beziehen (z.B. Männer unterbrechen ihre Berufstätigkeit seltener) als auf erwünschte (z.B. Frauen sollen gleichbehandelt werden).
Künstliche Intelligenz im Konsument*innenschutz
Wo Algorithmen den KonsumentInnen tatsächlich helfen können, illustriert ein derzeit am Austrian Institute for Technology laufendes Projekt KOSOH, KonsumentInnenSchutz im OnlineHandel. Es dient dazu Fakeshops im Netz aufgrund ihrer typischen Gestaltung zu identifizieren. Die Ergebnisse werden dann direkt im Netz zur Verfügung gestellt. Außerdem versucht man den Spieß des „individual pricing“ umzudrehen; anstatt Kund*innen nach ihrer algorithmisch – wie auch immer – errechneten Kaufkraft entsprechend bepreiste Waren anzubieten, werden derartige Praktiken samt den jeweiligen herangezogenen Berechnungsfaktoren entlarvt. Dieses Hinterfragen von Algorithmen schafft Transparenz und erleichtert den Konsument*innen eine informierte Entscheidung.
Es werden allerdings nicht nur Algorithmen immer ausgereifter und besser entwickelt – auch die Taktiken mit ihnen Umzugehen und von ihnen zu lernen werden immer ausgefeilter, beispielsweise wie man sich bewerben muss um am ehesten in die weitere Auswahlrunde zu kommen. Nicht nur die Künstliche Intelligenz lernt also von menschlichen Verhaltensweisen, auch der Mensch lernt von der KI…