Es war das große gesellschaftliche Thema des Jahres 2023. Generative KI, die durch einfache Nutzereingaben Texte oder Bilder erschafft, scheint im Eiltempo alle bisherigen Schranken zu überwinden. Die größte Frage ist spätestens seit dem Hype um ChatGPT nicht mehr, ob KI unser aller Leben verändern wird – sondern, wann und in welchem Umfang.
Bereits sehr früh – im April 2021 – hat sich die Europäische Union mit der Frage befasst, welche gesetzlichen Rahmenbedingungen nötig sind, damit die neue Technologie nicht unreguliert voranschreitet. Auch der TÜV-Verband, und mit ihm TÜV SÜD, beschäftigt sich intensiv mit der Entwicklung und Implementierung von Qualitäts- und Sicherheitsstandards für KI. Die Forderung: Vor allem, wenn KI-Systeme ein Risiko für die Menschen und Umwelt darstellen, sollen verbindliche Standards gelten, deren Einhaltung von unabhängigen Prüforganisationen überwacht wird. Denn erst, wenn KI auch sicher ist, wird die notwendige gesellschaftliche Akzeptanz für ihren Einsatz geschaffen.
Aufgabe der Europäischen Union ist es, den Spagat zwischen dem Schutz von Persönlichkeitsrechten einerseits und den Chancen innovativer KI-Systeme für die wirtschaftliche Entwicklung andererseits zu schaffen. Nun hat die Europäische Union den lange erwarteten EU AI Act beschlossen. Er versucht, genau diese Gratwanderung zwischen Vorsicht und Fortschritt zu vollziehen.
Ein Problem: die Praxis des Datensammelns im Netz. Mit gewaltigen Datenpaketen (Schrift und Bild) werden künstliche Intelligenzen gefüttert und trainiert – bisher teilweise ohne Rücksicht auf Urheberrechte. Laut dem neu beschlossenen AI Act sollen KI-Entwickler zukünftig durch mehr Transparenz beweisen müssen, dass ihre Systeme das geltende Recht nicht verletzen. Auch müssen die Kreationen von KI, seien es Texte, Bilder, Töne oder Videos, als solche kenntlich gemacht werden. Dadurch soll unter anderem die Verbreitung von KI-erzeugter Desinformation bekämpft werden. Für kleinere Firmen soll es allerdings Vereinfachungen geben. Damit soll vor allem europäischen KI-Startups nicht die Wettbewerbsfähigkeit abgeschnürt werden.
Besondere Vorsicht soll dagegen bei sogenannten Risikobereichen gelten. Überall dort, wo kritische Infrastrukturen betroffen sind (Wasser- oder Stromversorgung, Personalverwaltung oder Sicherheitsbehörden), darf künstliche Intelligenz nie die komplette Entscheidungsgewalt besitzen. Der Einsatz von KI zu Strafverfolgungszwecken war bereits von Anfang an hoch umstritten. Der jetzige Plan erlaubt die Auswertung biometrischer Verfahren wie Gesichtserkennung zur Verfolgung konkreter Straftaten. Bei der sogenannten anlasslosen Überwachung ist der Einsatz von künstlicher Intelligenz verboten.
In der Entwicklung werden nun konkrete Vorgaben gemacht. Aber was ändert sich durch die neuen Regelungen für die wirtschaftliche Anwendung? Das untersucht der TÜV-Verband unter anderem in seinem TÜV AI.Lab: Ein Ziel des Joint-Ventures verschiedener TÜV-Unternehmen ist es, die neuen regulatorischen Anforderungen konkret in die Praxis zu übersetzen. Dazu entwickeln die Mitarbeiterinnen und Mitarbeiter des TÜV AI.Lab Prüfkriterien und -verfahren, die auf den jeweiligen Anwendungsfall und sein konkretes Risikoprofil zugeschnitten sind.
Denn eines ist klar: An der Frage, wie effektiv die EU ihr Regelwerk durchsetzen wird – ohne eine neue Technologie übermäßig zu beschränken – wird sich entscheiden, ob Europa mit dem AI Act zum Vorreiter der KI-Regulierung oder zum technologischen Außenseiter wird.
