KI und gesellschaftlicher Wandel

KI werde HR komplett auf den Kopf stellen, prognostizierten Georg Pepping und Jan Krellner von T-Systems in ihrem Vortrag. Sie gehen von einem Ersetzungspotenzial der HR-Prozesse von 10 bis 50% innerhalb der nächsten zwei Jahre aus – eine Range, der man nicht zu viel Präzision unterstellen kann. In Zukunft sollte dann «mehr Zeit für das Menschliche» abfallen, so ihre Einschätzung. Ob dies ein frommer Wunsch bleibt oder ob KI tatsächlich eine Chance für Kulturwandel sein kann, darüber gibt es unterschiedliche Einschätzungen. Die Keynotes der KI-X vermittelten diverse Sichtweisen auf Chancen und Risiken des Einsatzes von KI-Technologien.

Plädoyer für einen verantwortungsvollen Umgang mit KI

Minu Saidze (Bild) ist Autorin des Sachbuchs «FairTech: Digitalisierung neu denken für eine gerechte Gesellschaft». Diese Mission formte auch die zentralen Thesen ihres Vortrags, der im Wesentlichen auf die Risiken eines unreflektierten Einsatzes von KI einging – dies allerdings ohne die missmutige Attitüde von Tech-Kritikern, die in Digitalisierungsschüben bereits einen gesellschaftlichen Untergang wittern. Ganz im Gegenteil sieht Saidze, die auch Data-Science-Expertin ist, Chancen für die gesellschaftliche Entwicklung und einen Kulturwandel in der Arbeitswelt, der sich u.a. durch mehr Gerechtigkeit, Inklusion und informierte, datenbasierte Entscheidungen auszeichne, die auch auf die Menschenzentrierung im Unternehmen einzahlen können. Voraussetzung sei allerdings ein verantwortungsvoller Umgang mit KI, wie ihn der EU AI-Act einfordert.

Dieser sieht eine risikobasierte Klassifizierung von KI-Anwendungen vor. Der Ansatz zielt darauf ab, hochriskante KI-Anwendungen zu identifizieren und zu regulieren, um illegale Aktivitäten (Umgehung des Datenschutzes, Diskriminierung) oder ethische Problemfälle zu vermeiden. Dies verlangt von Unternehmen eine ganze Reihe von Analysen und Guidelines, mit denen missbräuchlicher Einsatz von KI-Lösungen vermieden werden soll. Obwohl Saidze dem EU AI-Act das Potenzial eines Papiertigers unterstellte, appellierte sie an Unternehmen, sich mit KI-Governance und Ethik auseinanderzusetzen. Insbesondere der Bereich Human Resources (HR) sei hier aufgrund des Umgangs mit sensiblen Daten gefordert, aber auch für Fachleute in den Bereichen Softwareentwicklung, Data-Science und UX/UI-Design sei KI-Ethik-Training unabdingbar. Mit Blick auf Investoren seien zudem die Auswirkungen der KI-Anwendungen auf Umwelt, soziale Verantwortung und Governance zu reflektieren – ein neues Feld für ESG-Verantwortliche. Daten- und KI-Literacy sollten Prioritäten sowohl im schulischen Bildungssystem als auch in der Erwachsenenbildung sein, weil die Fähigkeit, Daten zu verstehen und zu interpretieren, entscheidend sei, um fundierte Urteile zu fällen und die gesellschaftlichen Auswirkungen von Technologie verstehen und hinterfragen zu können. Im Fazit plädierte die Referentin für eine umfassende und verantwortungsvolle Nutzung von KI, die sowohl rechtlichen als auch ethischen Standards entspreche und gleichzeitig die gesellschaftlichen und ökologischen Auswirkungen, die beispielsweise durch erhöhten Energieverbrauch einiger Applikationen entstehen, berücksichtige.

«Der Hype ist komplizierter, als man denkt»

Der Philosoph und Informatiker Jürgen Geuter ist als Research Director bei ART+COM Studios – einem Unternehmen an der Schnittstelle zwischen Kunst, Kommunikation und Technologie – für die Erforschung, Implementierung und Erprobung neuer Technologien zuständig. Mit KI befasst er sich bereits seit vielen Jahren. Hypes sind quasi sein Spezialgebiet, zu dem er in diversen Publikationen regelmässig Beiträge verfasst. Aus eigener Erfahrung wusste er zu berichten, dass sich Hypes häufig zu «Bubbles» aufblasen, in die Investitionen fliessen, weil jeder auf den Zug aufspringen möchte. Grosse Unternehmen wie Microsoft oder Google seien an solchen Hypes nicht immer ganz unschuldig. Dabei werde die Komplexität der mit neuen Technologien einhergehenden Probleme oft erstmal verdrängt – bis dann irgendwann die Bubble platze. Diese Bubbles basieren auf Erzählungen, sogenannten «Worldchanging Narratives», an denen Geuter das Prinzip von Hypes anschaulich erklärte: «Worldchanging Narratives sind irrationalübertriebene Appelle an die Emotionen und Hoffnungen und Sorgen einer imaginären Zielgruppe, um ein Produkt in der Dienstleistung attraktiver zu machen.» Er warnte in seinem Vortrag davor, blindlings Versprechen von Technologieunternehmen zu glauben. Zum Beispiel könnte die Produktivität durch KI-generierte Inhalte wie Text oder Code zwar steigen, aber die Qualität und Sicherheit könnten darunter leiden. Auch die grafischen KI-Anwendungen könnten die Situation verstärken, dass professionelle Künstlerinnen und Illustratoren unterbezahlt würden und die Qualität ihrer Arbeit sinke. KI mag zwar einige Produktivitätsanforderungen unterstützen, aber für viele komplexe gesellschaftliche Probleme wie etwa Klimakrise oder politische Instabilität könne KI nicht die Lösung sein. Geuter kritisierte vehement die Vorstellung, dass KI eine Art Allheilmittel sei, und betonte die Notwendigkeit eines umfassenden gesellschaftlichen Diskurses über die Zukunft.

Die richtige Arbeitsteilung zwischen Mensch und KI

Prof. Dr. Andreas Moring lehrt an der International School of Management und beschäftigt sich am juS.Tech-Institut mit der Erforschung der Mensch-KI-Kooperation und Nachhaltigkeit im Zusammenhang mit KI. Moring grenzte die Leistungsfähigkeit von KI in ihren «Domänen» Erkennen, Zuordnen, Vergleichen, Prognostizieren und Optimieren ab. Insbesondere wenn es um unvorhersehbare Ereignisse, menschliche Eigenheiten und komplexe emotionale Reaktionen gehe, sei die Leistungsfähigkeit von KI beschränkt. Dies zeige auch die HR-Praxis: Während im Recruiting bestimmte wiederkehrende Aufgaben, wie die Analyse von CVs und der Abgleich mit einem Anforderungsprofil, inzwischen ein gängiger Einsatzbereich für KI sei, könne eine KI kaum feststellen, ob ein Mensch anderen sympathisch sei. Als weiteres Beispiel nannte er digitale KI-basierte Sprachassistenten, die nicht nur das Onboarding, sondern generell die routinemässige Informationssuche unterstützten. In den Bereichen Recruiting und Onboarding könne KI also effektiv eingesetzt werden, da die Prozesse weitgehend vorhersehbar seien. Dagegen gebe es Bereiche wie Employee-Engagement, Talent Management und Unternehmenskultur, wo menschliche Intuition und Erfahrung unersetzlich seien. «Wenn es um vernetztes Denken und Kontextverständnis geht, um emotionale Zusammenhänge, ist KI limitierter als unser menschliches Verständnis», führte er aus.

Entscheidungen, die auf Intuition und Erfahrung basieren, seien nachhaltiger, so Moring. Dies sei durch die Forschung nachgewiesen worden. Die Zukunft erfordere eine neue Aufteilung von Arbeitsaufgaben, wobei manche automatisiert werden könnten, während andere die menschliche Fähigkeit zum Kontextverständnis und zum vernetzten Denken erforderten. Moring schloss mit der Einschätzung, dass die Gesellschaft die Bedeutung der menschlichen Intuition zugunsten des rationalen Denkens vernachlässigt habe. Die Herausforderung und Chance der Zukunft bestehe darin, das Gleichgewicht zwischen KI und menschlicher Intelligenz zu finden, um die Stärken beider zu nutzen und die jeweiligen Schwächen auszugleichen.