Weltweit erstes KI-Gesetz: Das sind die neuen Regeln für künstliche Intelligenz in der EU

Nach drei zähen Verhandlungstagen hat sich die EU auf schärfere Regeln für künstliche Intelligenz geeinigt. Damit soll der KI-Technologie Grenzen gesetzt werden. Als besonders riskant wird KI dort eingestuft, wo sie Schadenspotenzial für Gesundheit, Demokratie, Umwelt oder Sicherheit hat. Gestritten haben die EU-Parlamentarier darüber, wie KI bei Gesichtserkennung eingesetzt werden soll und ob man Sprachmodelle wie ChatGPT regulieren sollte.

Gesichtserkennung und ChatGPT – das sind die neuen KI-Regeln der EU

Bestimmte KI-Anwendungen zur biometrischen Gesichtserkennung, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden, werden künftig verboten. Auch ungezieltes Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.

Allerdings wird es Ausnahmen für biometrische Gesichtserkennung im öffentlichen Raum in Echtzeit geben: wenn etwa die Gefahr eines Terroranschlags besteht oder bei der gezielten Suche von Opfern von Menschenhandel.

KI im Alltag: Wir zeigen euch 5 Beispiele

Die EU hat auch den Umgang mit den sogenannten Basismodellen der KI geregelt. Das sind beispielsweise leistungsfähige Sprachmodelle, die mit einem breiten Satz an Daten trainiert wurden – wie ChatGPT, Gemini oder Llama 2. Diese Programme dienen als Basis, auf denen Firmen Chatbots für den Kundendienst oder digitale Assistenten für Ärzte entwickeln können.

Verschärfte Vorgaben soll es für „risikoreiche“ Anwendungen geben. Dann müssen Entwickler der KI-Modelle technische Dokumentationen erstellen, die Aufschluss über Trainings- und Testverfahren geben.

Warum braucht es ein Gesetz für künstliche Intelligenz?

KI gilt als Technologie, die in Zukunft praktisch alle Aspekte in der Wirtschaft, im Alltag und auch in der Arbeitswelt betreffen kann. Experten vermuten, dass sich viele Jobs verändern oder auch verschwinden werden. KI gilt auch als Technologie, die Gefahren birgt. So warnte etwa der Chef des ChatGPT-Erfinders OpenAI, Sam Altman, vor Falschinformationen mit Hilfe Künstlicher Intelligenz und sprach sich deshalb für eine Regulierung aus. Fotos oder Videos können durch KI leicht manipuliert werden. Als Problem gilt auch, dass KI teilweise mit verzerrten Datensätzen trainiert wurden und damit Personen diskriminiert werden. Auch der Einsatz in der Kriegsführung wird für möglich gehalten.

Audio herunterladen (22,4 MB | MP3)

Reaktionen auf das neue KI-Gesetz

Die EU selbst hat sich nach den erfolgreichen Verhandlungen zu den KI-Regeln gefeiert. „Historisch! Die EU wird der allererste Kontinent, der klare Regeln für die Nutzung von KI setzt“, schrieb EU-Binnenmarktkommissar Thierry Breton auf X.

EU-Kommissionspräsidentin Ursula von der Leyen begrüßte das Gesetz als „historischen Moment“. Bis das Gesetz vollständig in Kraft trete, würden Unternehmen und Entwickler dabei unterstützt, „sich auf die neuen Vorschriften einzustellen“.

Verbraucherschützer kritisieren die Regeln als nicht ausreichend. Virtuelle Assistenten oder KI-gesteuerte Spielzeuge müssten weiter als Hochrisikosysteme eingestuft werden.

Kritik an dem Gesetz kam vom Bundesverband der Deutschen Industrie (BDI). Mit dem erzielten Kompromiss drohe Europa, bei der „für die digitale Transformation zentralen Schlüsseltechnologie Künstliche Intelligenz ins Hintertreffen zu geraten“, erklärte Iris Plöger, Mitglied der BDI-Hauptgeschäftsführung.

Zunächst müssen EU-Staaten und Europaparlament dem Vorhaben noch offiziell zustimmen. Das gilt aber als Formsache.

Projekt muss pausieren Deine Fotos als Training für die KI von Meta? Erst einmal nicht!

Meta wollte seine KI mit Fotos trainieren – und zwar auch mit deinen! Wer seine Daten schützen wollte, hätte den Plänen widersprechen müssen. Aber: Jetzt wird das Projekt pausiert.