Die EU-KI-Verordnung klassifiziert KI-Systeme nach ihrem Risikopotenzial: in unzulässige, hochriskante, begrenzt riskante und minimale Risiken. Hochriskante Anwendungen, wie KI in der Medizin oder im Finanzsektor, unterliegen strengen Anforderungen, z. B. in Bezug auf Transparenz, Datensicherheit und Überwachung. Systeme mit minimalem Risiko, wie KI-gestützte Chatbots, erfordern lediglich Basisvorgaben wie Transparenz für die Nutzer.
Verboten sind Anwendungen, die fundamentale Rechte verletzen, etwa manipulative KI oder umfassende biometrische Überwachung im öffentlichen Raum. Unternehmen, die KI entwickeln oder einsetzen, müssen den Nachweis erbringen, dass ihre Systeme sicher und gesetzeskonform sind. Die Verordnung betrifft auch Anbieter außerhalb der EU, wenn sie ihre KI-Systeme auf dem EU-Markt anbieten.
