Europa hat mit dem EU AI Act das weltweit erste, umfassende KI-Gesetz finalisiert. „Die Regulierung unter dem EU AI Act wird eine vertrauenswürdige künstliche Intelligenz (KI) verfügbar machen, die auf den Menschen ausgerichtet ist und sich an demokratischen, ethischen und moralischen Grundsätzen orientieren wird“, so Dirk Stenkamp, Vorstandsvorsitzender der TÜV NORD AG im Podcast ENTDECKT. ERKLÄRT. ERZÄHLT.. Die EU habe mit ihrer Verordnung das Ziel, drei wesentliche Punkte abzudecken: Safety, Security und Privacy. Je riskanter ein System ist, desto höher sollen die Sicherheitsanforderungen sein.
„Hochrisiko-Anwendungen sollen zukünftig durch neutrale Drittprüfer wie TÜV NORD überprüft werden. Dazu gehören biometrische Systeme, bei denen es um die Fingerabdruckerkennung geht, oder Systeme, die in der kritischen Infrastruktur, der Kreditvergabe, im Personalwesen (Analyse von Lebensläufen) sowie der Medizintechnik (z. B. OP-Roboter) zum Einsatz kommen“, so Dr. Stenkamp. Inakzeptable KI-Anwendungen wie die Emotionserkennung sollen nach der Verordnung gar nicht zum Einsatz kommen.
Um die unabhängige Drittprüfung durch einen KI-TÜV umsetzen zu können, werden Prüfmethoden und -kriterien benötigt. Sobald die EU den Gesetzestext zum AI Act veröffentlicht, starten Normungs- und Standardisierungsgremien damit, diesen in überprüfbare Regeln für Produkte zu übersetzen.
„Wir werden in der TÜV NORD GROUP als neutraler Prüfdienstleister das Regelwerk zum EU AI Act bei spezifischen Produktprüfungen anwenden. Das kann eine Software zur Spracherkennung, welche sog. Large-Language-Modelle nutzt, oder KI-basierte Algorithmen für autonom fahrende Fahrzeuge sein, die wir nach definierten Kriterien und Normen überprüfen“, so Dr. Stenkamp. Es gehe im Wesentlichen um vier Basiskriterien, wie die Transparenz des Algorithmus oder die Täuschbarkeit der KI. Geprüft werde, ob und wie ein KI-Algorithmus überlistet werden könne. Dabei nennt Dr. Stenkamp auch das sogenannte Biasing:
„Es muss verhindert werden, dass eine KI tendenziöse oder diskriminierende Entscheidungen trifft. Übertragen auf das Beispiel Farben bedeutet das, dass eine KI die Farbe Rot nicht anderen Farben vorziehen darf.“ Ein weiteres wichtiges Element der Prüfung von KI betreffe die Verlässlichkeit: „KI muss konsistente Ergebnisse hervorbringen. Einfach gesagt: Bei gleichem Input muss auch ein KI-basierter Algorithmus immer denselben Output liefern“, so Dr. Stenkamp.
Das Engagement der TÜV NORD GROUP für die Entwicklung von Prüfkriterien- und Methoden ist groß. „Wir haben inhouse über TÜVIT-Expert:innen viel Knowhow aufgebaut. Wir arbeiten mit führenden Hochschulen und Forschungsinstitutionen zusammen und haben bereits vor Jahren über den TÜV-Verband ein AI Lab begründet. Dieses wurde nun in Form einer AI Lab GmbH als eigenständige Gesellschaft mit den führenden TÜV-Unternehmen als Gesellschafter umgesetzt. Die AI Lab GmbH entwickelt vorrangig Prüfmethoden und -verfahren, die auf den Normen und Standards des EU AI Act aufsetzen“, so Dr. Stenkamp.
Die aktuelle Podcast-Folge von ENTDECKT. ERKLÄRT. ERZÄHLT. gibt es hier: Podcast – TÜV NORD | #explore (tuev-nord.de) und überall dort, wo es Podcasts gibt.
Über die TÜV NORD GROUP
Vor über 150 Jahren gegründet, stehen wir weltweit für Sicherheit und Vertrauen. Als Wissensunternehmen haben wir die digitale Zukunft fest im Blick. Ob Ingenieurinnen, IT-Security-Experten oder Fachleute für die Mobilität der Zukunft: Wir sorgen in mehr als 100 Ländern dafür, dass unsere Kundinnen und Kunden in der vernetzten Welt noch erfolgreicher werden.
Zukunftstechnologien, IT