TÜV NORD GROUP: „Eine Art KI-TÜV für mehr Transparenz bei großen Sprachmodellen“
Sprachmodelle wie ChatGPT oder Gemini müssen höhere Anforderungen mit neuer Stufe des EU AI Act erfüllen
Sprachmodelle wie ChatGPT oder Gemini müssen höhere Anforderungen mit neuer Stufe des EU AI Act erfüllen
Ab 2. August 2025 gelten in der Europäischen Union neue Regeln für Künstliche Intelligenz, die Verbraucher:innen mehr Transparenz und Sicherheit bieten sollen. „Mit einer Art KI-TÜV fühlen wir großen Sprachmodellen auf den Zahn für mehr Transparenz. So sorgen wir dafür, das KI sicher und vertrauenswürdig ist“, sagt Vasilios Danos, Leiter des Bereichs AI-Security bei TÜVIT. TÜVIT, als Tochter der TÜV NORD GROUP, unterstützt Unternehmen dabei, diese Anforderungen umzusetzen und trägt zur Sicherheit und Zuverlässigkeit von KI-Technologien bei.
Die neuen Vorschriften nach dem EU AI Act betreffen sogenannte General-Purpose-AI-Systeme (GPAI), also KI-Systeme mit einem breiten Anwendungsspektrum, wie etwa große Sprachmodelle. Dazu zählen KI-Systeme wie ChatGPT, Gemini oder Llama oder eigens für Unternehmen und ihre spezifischen Anforderungen entwickelte Anwendungen. Unternehmen müssen diese Systeme bei der EU registrieren und detaillierte technische Informationen bereitstellen. Ziel ist es, die Herkunft der Trainingsdaten, die genutzten Rechenressourcen und den Energieverbrauch offenzulegen, um die Nachhaltigkeit und Transparenz dieser Technologien zu gewährleisten. „Die EU hat hier schnell auf die rasante Entwicklung im Bereich der Künstlichen Intelligenz reagiert und einen Rahmen geschaffen, der mit der technologischen Entwicklung Schritt hält“, erklärt Thora Markert, Leiterin des Bereichs KI-Forschung und -Governance bei TÜVIT.
Besonders im Fokus stehen GPAI-Modelle mit systemischem Risiko, die aufgrund ihrer breiten Anwendung und potenziellen gesellschaftlichen Auswirkungen strengere Auflagen erfüllen müssen. Dazu gehören auch intensive Tests und die Implementierung von Gegenmaßnahmen. Damit sind Maßnahmen gegen den Missbrauch von KI-Systemen gemeint, um nicht gewollte Verhaltensweisen zu verhindern oder zu minimieren. Diese Tests führt TÜVIT mit einer Art KI-TÜV durch, um die Gegenmaßnahmen auf ihre Tauglichkeit hin zu überprüfen. „Diese Maßnahmen sind entscheidend, um die Sicherheit und Verlässlichkeit von KI-Systemen zu gewährleisten und mögliche Manipulationen zu verhindern“, so Markert.
TÜVIT unterstützt Unternehmen dabei, die Anforderungen des AI Acts zu erfüllen und sich auf die kommenden Stufen der Regulierung vorzubereiten: „Wir bieten praktische Leitlinien und Prüfungen, um sicherzustellen, dass Unternehmen sowohl als Anbietende als auch als Nutzende von KI-Systemen den gesetzlichen Pflichten gerecht werden“, betont Markert. TÜVIT hat schon frühzeitig damit begonnen, erste Prüfmethoden für KI-Anwendungen zu entwickeln und anzuwenden. Die TÜV NORD GROUP ist darüber hinaus mit weiteren führenden TÜV-Unternehmen Gesellschafter des TÜV AI.Lab, welches die Entwicklung von Standards und Regularien für KI-Anwendungen begleitet.
Die nächste Stufe des AI Acts wird im August 2026 in Kraft treten und Hochrisikosysteme erfassen, die nicht bereits durch andere EU-Richtlinien reguliert werden.
Vor über 150 Jahren gegründet, stehen wir weltweit für Sicherheit und Vertrauen. Als Wissensunternehmen haben wir die digitale Zukunft fest im Blick. Ob Ingenieurinnen, IT-Security-Experten oder Fachleute für die Mobilität der Zukunft: Wir sorgen in mehr als 100 Ländern dafür, dass unsere Kunden in der vernetzten Welt noch erfolgreicher werden.
