Von Vincent Goussard, Credit und ESG Research Analyst, Crédit Mutuel Asset Management Crédit Mutuel Asset Management ist eine Asset-Management-Gesellschaft der Groupe La Française, der Holdinggesellschaft der Asset-Management-Sparte der Crédit Mutuel Alliance Fédérale.
KI und Einführungshürden
Künstliche Intelligenz (KI) wird oft als die vierte industrielle Revolution (nach dem Internet) bezeichnet und ist ein wichtiger Motor für Produktivitätssteigerungen. Ihr volles Potenzial muss noch in alle Geschäftsmodelle integriert werden, doch ihr rascher Aufstieg gibt Anlass zu berechtigten Bedenken. Jüngsten Eurostat-Daten zufolge gehören Fragen und Unsicherheiten im Zusammenhang mit der Regulierung der KI-Nutzung zu den Haupthindernissen für die Einführung von KI in Unternehmen mit mehr als 250 Beschäftigten in der Europäischen Union (EU).
Diese Daten unterstreichen die Notwendigkeit, KI in einem sicheren Rahmen zu entwickeln. Die mit KI verbundenen rechtlichen und regulatorischen Risiken – darunter die Risiken in Bezug auf geistiges Eigentum, Datenschutz, Privatsphäre und Ethik – fallen alle unter den Begriff „KI-Governance“. Dieser umfasst alle Prozesse und Standards, die eine sichere und ethische Nutzung gewährleisten.2 Eine solide Governance dürfte die Einführung von KI fördern.
Governance notwendig: Das KI-Gesetz
Mangels globaler KI-Governance hat die EU im Juni 2024 die erste KI-Verordnung (das sogenannte KI-Gesetz3) verabschiedet, die schrittweise bis Dezember 2030 umgesetzt werden soll. Mit dieser Verordnung soll eine sichere, ethische und transparente Nutzung von KI unter Wahrung der Grundrechte gewährleistet werden. Zu diesem Zweck wurden KI-Anwendungen nach Risikostufen (minimal, begrenzt, hoch, inakzeptabel) kategorisiert und entsprechende Verpflichtungen zur Verringerung oder Beseitigung der damit verbundenen Risiken festgelegt. Die EU hat den Anwendungsbereich des KI-Gesetzes ausgeweitet, so dass eine Umgehung der Verordnung aufgrund der digitalen Natur der KI nicht möglich ist. Das KI-Gesetz richtet sich nicht nur an Anbieter und Betreiber von KI-Systemen in der EU, sondern auch an diejenigen, die den von KI generierten „Output“ in der EU nutzen. Der Begriff „Output“ ist weit genug gefasst, um ein breites Spektrum an Situationen zu erfassen, darunter „Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen“.
Um zu verhindern, dass KI wie eine „Blackbox“ funktioniert, soll das KI-Gesetz die europäischen Bürger vor einer „voreingenommenen“ Nutzung schützen, indem es für Transparenz und Nachvollziehbarkeit des Inferenzprozesses sorgt, der unter menschlicher Aufsicht bleiben muss. Angewandt auf das Personalwesen, einem „Hochrisiko“-Anwendungsbereich, schreibt diese Verordnung vor: Unternehmen, die KI zur Sortierung von Bewerbungen einsetzen, sind verpflichtet, die Bewerber darüber zu informieren und müssen die Funktionsweise des verwendeten Algorithmus erklären können. Außerdem muss der gesamte Prozess unter menschlicher Aufsicht durchgeführt werden, um mögliche Fehlfunktionen wie „Halluzinationen“4 zu vermeiden. Das KI-Gesetz legt zwar den Grundstein für die KI-Governance, ist jedoch nicht frei von Kritik. Aus wirtschaftsliberaler Sicht könnten seine Komplexität und die damit verbundenen Kosten ein Innovationshemmnis darstellen. Zumal diese neuen Anforderungen mit bereits bestehenden Anforderungen wie den Grundrechten, dem Schutz personenbezogener Daten, dem Verbraucherschutz und dem Schutz des geistigen Eigentums in Einklang gebracht werden müssen. Andere, die mehr auf Menschenrechte achten, halten die Verordnung für zu milde und ihre Umsetzung für zu langsam.
Das PDF herunterladen