Unabhängigkeit und Transparenz bei KI-Sicherheitsaudits

Anthropic und OpenAI wollen unabhängige Sicherheitsprüfer in ihre KI-Labore einbinden. Dieser Ansatz hat das Potenzial, Sicherheitsbewertungen näher an die Entwicklungsumgebung zu rücken. Forschende begrüßen die vorgesehenen Zugangsmöglichkeiten für die Prüfer, verweisen jedoch auf eine zentrale Frage: Wie lässt sich die Unabhängigkeit eines Prüfmechanismus gewährleisten, der innerhalb eines Labors arbeitet? Ob die Initiative eine belastbare Absicherung bieten kann, hängt neben dem Zugang auch von Transparenz und klaren Regeln ab.

Zugang zu Laboren zu gewähren ist nicht gleichbedeutend mit einer unabhängigen Prüfung. Um die Verlässlichkeit eines Audits zu beurteilen, sind Fragen entscheidend wie: Welche Bereiche können untersucht werden, wie werden die Grenzen der Bewertung festgelegt und wie wird mit den Ergebnissen umgegangen? Deshalb reicht es nicht aus, den geplanten Ansatz allein anhand der räumlichen oder organisatorischen Einbindung der Prüfer zu bewerten. Im Mittelpunkt sollten vielmehr die Bedingungen stehen, die eine von den Prioritäten des Anbieters unabhängige Prüfung ermöglichen.

Auch die Transparenz ist unabhängig von der Einbindung der Prüfer in das Labor zu bewerten. Ohne zu verstehen, was eine Sicherheitsprüfung umfasst und wo ihre Grenzen liegen, lässt sich schwer einschätzen, in welchem Maß ihre Ergebnisse Sicherheit bieten. Für Unternehmen ist es ebenso wichtig, den Umfang eines Audits zu verstehen, wie von dessen Existenz zu wissen. Diese Perspektive erfordert, Sicherheitsbewertungen nicht als uneingeschränkte Freigabe, sondern als Untersuchung mit klar definierten Grenzen zu betrachten.

Dass Fachleute die Notwendigkeit langfristiger gesetzlicher Regelungen und klarer Vorgaben betonen, zeigt, dass Audits nicht auf freiwillige Initiativen beschränkt bleiben sollten. Ein gemeinsamer Rahmen ist wichtig, um festzulegen, unter welchen Bedingungen Unabhängigkeit gewährleistet wird und wie Transparenz zu bewerten ist. Allerdings geben die derzeit verfügbaren Informationen keinen Aufschluss über die praktische Ausgestaltung der geplanten Prüfmechanismen. Daher wäre es nicht angemessen, diese Initiativen als bereits etablierten Sicherheitsstandard oder als nachweislich unabhängige Struktur zu bezeichnen.

Wir bei X Mind Solutions betrachten diese Entwicklung im Hinblick auf die Bedeutung der Anbieterbewertung bei KI-Investitionen von Unternehmen. Neben den Fähigkeiten der Modelle sollten Unternehmen auch den Umfang der Sicherheitsaudits, den Umgang mit Transparenz und die Bedingungen für Unabhängigkeit hinterfragen. Bei der Planung eines Agenten, eines Automatisierungsablaufs oder einer Systemintegration sollte die Tatsache, dass ein Anbieter geprüft wird, allein nicht als ausreichende Absicherung gelten. Der Prüfungsumfang und die Anforderungen des Unternehmens im jeweiligen Anwendungsszenario sollten gemeinsam bewertet werden.