Bericht warnt: Big Tech hat zu großen Einfluss auf KI-Standards

Der Bericht argumentiert, dass das KI-Gesetz einen unternehmensfreundlichen Ansatz verfolgt, bei dem komplexe und grundlegende Rechtsfragen in den Händen von Standardisierungsorganisationen bleiben.

Laut einem Bericht der Kampagnengruppe Corporate Europe Observatory (CEO) sind große Technologieunternehmen überproportional an der Ausarbeitung EU-anerkannter Standards für Tools für künstliche Intelligenz beteiligt.

Der Bericht ergab, dass mehr als die Hälfte (55 %) der 143 Mitglieder des gemeinsamen technischen Ausschusses für KI (JTC21), der von den europäischen Normungsgremien CEN und CENELEC eingerichtet wurde, Unternehmen oder Beratungsunternehmen repräsentieren, wobei 54 der ersteren und 24 davon.

Davon sind fast 25 % Unternehmensvertreter von US-Unternehmen, darunter jeweils vier Mitglieder von Microsoft und IBM, zwei von Amazon und mindestens drei von Google.

Im Gegensatz dazu ist die Beteiligung der Zivilgesellschaft begrenzt: Sie macht nur 9 % der JTC21-Mitglieder aus, was laut CEO Bedenken hinsichtlich der Inklusivität im Standardsetzungsprozess aufkommen lässt.

Das KI-Gesetz, der weltweit erste Versuch, KI über einen risikobasierten Ansatz zu regulieren, wurde letzten August verabschiedet und die Bestimmungen werden nach und nach in Kraft treten.

Die Europäische Kommission hat CEN-CELENEC und ETSI im Mai 2023 damit beauftragt, die zugrunde liegenden Standards für die Industrie auszuarbeiten, die für Produkte von Medizinprodukten bis hin zu Spielzeug gelten sollen. Mit diesen harmonisierten Normen kann ein Unternehmen sicherstellen, dass sein Produkt den wesentlichen Sicherheitsanforderungen der EU-Vorschriften entspricht.

„Die Entscheidung der Europäischen Kommission, die öffentliche Entscheidungsfindung im Bereich KI an ein privates Gremium zu delegieren, ist zutiefst problematisch. Zum ersten Mal wird die Festlegung von Standards genutzt, um Anforderungen im Zusammenhang mit Grundrechten, Fairness, Vertrauenswürdigkeit und Voreingenommenheit umzusetzen“, sagt Bram Vranken, Corporate Europe Observatoriumsforscher und Aktivist.

Der Bericht argumentiert, dass das KI-Gesetz einen unternehmensfreundlichen Ansatz verfolgt, bei dem komplexe und grundlegende Rechtsfragen in den Händen von Standardisierungsorganisationen bleiben.

Nationale Normungsgremien

Normungsorganisationen konzentrieren sich tendenziell mehr auf einen Prozess als auf ein bestimmtes Ergebnis. „Dies kann insofern unbefriedigend sein, als es die Durchsetzung eines Ergebnisses tendenziell erschwert“, sagte JTC21-Vorsitzender Sebastian Hallensleben in dem Bericht.

Ein KI-System könnte über ein CE-Zeichen verfügen, das Unternehmen erhalten, wenn sie die in den harmonisierten Normen definierten Prozesse befolgen, aber das sei keine Garantie dafür, dass das KI-System nicht voreingenommen oder diskriminierend sei, sagte er.

Darüber hinaus untersuchte der CEO die Mitgliedschaft in nationalen Normungsgremien, die sich mit KI in Frankreich, Großbritannien und den Niederlanden befassen. In diesen Ländern beträgt der Anteil der Experten, die Unternehmensinteressen vertreten, dem Bericht zufolge jeweils 56 %, 50 % und 58 %.

Die Kommission antwortete auf die Bedenken des CEO, dass die von CEN-CENELEC vorgelegten Standards „einer Bewertung durch die Europäische Kommission unterliegen und nur dann im Amtsblatt zitiert werden, wenn sie die Ziele des KI-Gesetzes ordnungsgemäß berücksichtigen und die Ziele angemessen widerspiegeln.“ Anforderungen an Hochrisiko-KI-Systeme.“

„Darüber hinaus gibt es eine Reihe anderer Schutzmaßnahmen, um eine gewisse Kontrolle über den Prozess zu gewährleisten, beispielsweise die Möglichkeit für Mitgliedstaaten und das Europäische Parlament, Einwände gegen harmonisierte Standards zu erheben“, heißt es in der Erklärung weiter.

In einem letzten Monat veröffentlichten Interview mit The European Circle warnte ein hochrangiger Beamter der niederländischen Datenschutzbehörde Autoriteit Persoonsgegevens (AP) – der künftigen nationalen KI-Regulierungsbehörde –, dass der Prozess zur Festlegung von Standards schneller sein müsse und dass die Zeit „knapp“ sei. .

„Standardisierungsprozesse dauern normalerweise viele Jahre. Wir sind auf jeden Fall der Meinung, dass es verstärkt werden muss“, sagte er.

Der Vorsitzende von ETSI, Jan Ellsberger, sagte The European Circle bei seinem Amtsantritt im August, dass es Monate bis mehrere Jahre dauern könnte, bis Standards verabschiedet werden.

„Standardisierung ist ein freiwilliger Wunsch der Industrie. Je mehr Engagement wir von der Branche haben, desto schneller geht es“, sagte Ellsberger.