Wie kann die Zertifizierung von KI-Systemen helfen, künstliche Intelligenz zu regulieren und so Vertrauen in die Technologie stärken? Dieser Frage gehen deutsche und brasilianische Forschungsteams auf den Grund. Das Forschungsprojekt, an dem Arbeitsgruppen der Universitäten des Saarlandes und Sao Paulo zusammenarbeiten, wird von der Deutschen Forschungsgemeinschaft DFG und der brasilianischen Partnerorganisation CAPES gefördert. Bestätigt eine unabhängige Stelle schwarz auf weiß, dass gewisse Anforderungen und Standards sicher erfüllt sind, schafft dies Vertrauen. Mit Zertifizierungen weisen Unternehmen daher in ihrem eigenen Interesse nach, dass ihre Produkte oder Leistungen hohe Standards einhalten. Zertifizierungsstellen wie TÜV oder DEKRA prüfen und bestätigen Qualität und Sicherheit. „Auch KI-Systeme können mit Zertifizierungen an Vertrauen und Akzeptanz gewinnen“, sagt der Direktor des Instituts für Rechtsinformatik der Universität des Saarlandes Professor Georg Borges. Die KI-Verordnung der Europäischen Union, der sogenannte AI Act, ein Meilenstein in der Regulierung von künstlicher Intelligenz, der am 1. August 2024 in Kraft getreten ist, sieht eine sogenannte ‚Konformitätsprüfung‘ bei Hochrisiko-KI-Systemen vor: Bei KI-Systemen, die ein hohes Risiko für Gesundheit, Sicherheit oder Grundrechte bergen, überprüft grundsätzlich der Hersteller selbst, ob sie den Anforderungen und Standards entsprechen, die etwa in geltenden Vorschriften und Normen festgelegt sind. In Ausnahmefällen verlangt der AI Act auch eine Zertifizierung durch unabhängige Stellen. Für Nicht-Hochrisiko-KI-Systeme ist eine Zertifizierung freiwillig. „Künstliche Intelligenz birgt großes Potenzial, aber ihre Risiken erzeugen Unsicherheit. Hier setzen wir mit unserem Forschungsprojekt an und beleuchten die KI-Zertifizierung als Regulierungsinstrument für künstliche Intelligenz. In der Zertifizierung liegt eine vielversprechende Lösung, die einerseits der rasanten Dynamik der digitalen Märkte und andererseits dem Regulierungsbedürfnis nach Kontrolle und Sicherheit gerecht wird“, erläutert Georg Borges. Gemeinsam mit den Teams von Informatikprofessor Holger Hermanns, ebenfalls von der Universität des Saarlandes, und Jura-Professor Juliano Souza de Albuquerque Maranhao von der brasilianischen Universität Sao Paulo untersucht der Spezialist für IT-Recht und Rechtsinformatik die rechtlichen Auswirkungen der KI-Zertifizierung in Europa, Deutschland und Brasilien.
www.rechtsinformatik.saarland
