2. September 2026 13:55
Themenstarter
Forum IT-Sicherheit
Raum für Austausch mit Experten und Community
Benachrichtigungen
Alles löschen
Runde 4 – Agentic AI
1
Beiträge
2
Benutzer
0
Reaktionen
322
Ansichten
0
Ein KI-Agent erkennt einen Cyberangriff auf ein Krankenhaus und müsste sofort digitale Systeme abschalten. Sollte er selbstständig handeln dürfen, obwohl medizinische Geräte und wichtige Patientendaten vorübergehend nicht verfügbar sein könnten?
1 Antwort
0
2. September 2026 13:57
Bei kritischen Infrastrukturen (KRITIS) wie Krankenhäusern wiegt der Ausfall von lebenserhaltenden Medizingeräten schwerer als ein reiner Datenabfluss oder eine Systemkompromittierung. Hier greifen strikte Compliance- und Risiko-Prinzipien, die ein autonomes Abschalten digitaler Systeme, die Menschenleben gefährden, verbieten. In solchen Szenarien ist ein „Human-in-the-loop“ (Mensch muss freigeben) oder zumindest „Human-on-the-loop“ (Mensch kann sofort eingreifen) zwingend erforderlich.