KI-Verordnung (AI Act)

Die europäische KI-Verordnung (AI Act) ist der erste umfassende Rechtsrahmen für den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz. Sie wurde 2024 verabschiedet und tritt schrittweise ab 2025 in Kraft. Der AI Act definiert Anforderungen an Transparenz, Risikobewertung, Dokumentation und Qualitätssicherung, die je nach Risikostufe eines KI-Systems variieren. Ziel ist es, Innovation zu ermöglichen und gleichzeitig den Schutz von Nutzerinnen und Nutzern zu gewährleisten.

‍

Für die Pflege bringt die KI-Verordnung mehr Sicherheit und Klarheit im Umgang mit digitalen Lösungen. KI-Systeme, die zum Beispiel bei der Dokumentation unterstützen, Vitaldaten auswerten oder Empfehlungen für den Pflegeprozess geben, müssen künftig strenge Anforderungen erfüllen und transparent zeigen, wie ihre Ergebnisse entstehen. Das schützt sowohl Pflegende als auch die betreuten Personen. Gleichzeitig wird es für alle im Arbeitsalltag wichtiger, die grundlegenden Funktionsweisen solcher Systeme zu verstehen, um sie sinnvoll einzusetzen und mögliche Fehler früh zu erkennen. Die KI-Kompetenz soll gezielt gestärkt werden, um sicher, souverän und rechtssicher mit KI umzugehen.

‍

‍

‍

Die Lern-App SuperNurse deckt folgende Themenschwerpunkte bei dem Fachthema KI-Verordnung (AI Act) ab: 

‍

Einführung:

Das Kapitel "Einführung" erläutert die zentralen Begriffe der KI-Verordnung, darunter die Rollen von Anbietern und Betreibern, die rechtliche Definition von KI-Systemen sowie deren Einordnung in verschiedene Risikostufen. Zudem wird aufgezeigt, welche strukturellen und organisatorischen Vorgaben notwendig sind, um KI-Systeme verantwortungsvoll und regelkonform einzusetzen.

‍

Die EU-Verordnung zur künstlichen Intelligenz:

Das Kapitel „EU-Verordnung zur künstlichen Intelligenz“ befasst sich inhaltlich mit dem Geltungsbereich der EU-VErordnung, seinen datenschutzrechtlichen Anforderungen sowie den Vorgaben zur Marktüberwachung. Zudem behandelt es die zentralen Regeln zum Meldungswesen und die möglichen Geldbußen bei Verstößen.

‍

Risiken und Verbote:

Das Kapitel „Risiken und Verbote“ befasst sich mit der Einordnung von Hochrisikosystemen und den Anforderungen, die beim Einsatz solcher KI-Systeme erfüllt werden müssen. Zudem behandelt es die im AI Act festgelegten verbotenen Praktiken, darunter der Einsatz manipulierender KI sowie die gezielte Ausnutzung schutzbedürftiger Personen.

‍

KI in Gesundheitseinrichtungen:

Das Kapitel „KI in Gesundheitseinrichtungen“ befasst sich mit der Bedeutung von KI für den Gesundheitssektor und der Beurteilung von bereits genutzten KI-Systemen im medizinischen und pflegerischen Alltag. Zudem werden die Anforderungen an die Risikobeurteilung solcher Systeme erläutert sowie zentrale Limitationen aufgezeigt, die bei der Anwendung von KI im Gesundheitswesen berücksichtigt werden müssen.

‍

Aufbau von KI-Kompetenz:

Das Kapitel „Aufbau von KI-Kompetenz“ befasst sich mit den Vorgaben aus Artikel 4 der Verordnung, der Einrichtungen Gestaltungsfreiheit bei der Entwicklung geeigneter Qualifizierungsmaßnahmen einräumt. Es erläutert zentrale Einflussfaktoren auf den Kompetenzaufbau und beschreibt, welche Elemente eine umfassende KI-Kompetenz im Gesundheitswesen umfasst. Zudem wird dargestellt, wie Schulungsinhalte sinnvoll gestaltet werden können, um Mitarbeitende systematisch an den sicheren und souveränen Umgang mit KI heranzuführen.

‍

‍KI-Kompetenz:

Das Kapitel „KI-Kompetenz“ erläutert, dass eine KI immer in den politischen und gesellschaftlichen Rahmen eingeordnet werden muss. Dazu gehört die Fähigkeit, KI-Systeme nicht nur technisch zu verstehen, sondern ihre Auswirkungen auf Organisation, Arbeitswelt und Gesellschaft kritisch zu beurteilen. Grundlage hierfür ist ein KI-Kompetenzmodell mit vier Entwicklungsfeldern: verstehen, anwenden, reflektieren und mitgestalten. Dieses Modell bietet eine praxisorientierte Struktur, um die eigene Urteilskraft zu stärken und KI verantwortungsvoll einzuordnen.