Cross-Modal-Injektion
Cross-Modal-Injektion ist eine Angriffstechnik gegen multimodale KI-Systeme, bei der Angreifer bösartige Anweisungen über mehrere Eingabekanäle (z. B. Text, Bild, Audio) gleichzeitig einschleusen, um…
Sicherheit
Prompt Injection, Datenabfluss, Zugriffskontrolle: die Sicherheitsbegriffe, die beim KI-Einsatz im Unternehmen relevant werden — bevor etwas passiert.
Incident Response
Incident Response bezeichnet die systematische Reaktion auf IT-Sicherheitsvorfälle und Datenschutzverletzungen. Ein geplanter Ablauf hilft, Schäden schnell zu begrenzen, gesetzliche Meldepflichten…
Indirekte Injektion
Indirekte Injektion (Indirect Prompt Injection) bezeichnet eine Angriffstechnik gegen KI-Sprachmodelle, bei der manipulierte Anweisungen in externe Inhalte wie Webseiten, E-Mails oder Dokumente…
Jailbreak
Jailbreak bezeichnet im KI-Kontext das gezielte Umgehen von Sicherheitsmechanismen und ethischen Leitplanken in Sprachmodellen durch manipulativ formulierte Eingaben, um Ausgaben zu erzeugen, die…
Least Agency
Least Agency ist ein Sicherheitsprinzip für KI-Agenten, das über Least Privilege hinausgeht: Agenten erhalten nicht nur minimale Zugriffsrechte, sondern auch die geringstmögliche Handlungsmacht und…
Least Privilege-Prinzip
Das Least Privilege-Prinzip besagt, dass Benutzer, Anwendungen und Systeme nur jene Zugriffsrechte erhalten, die sie für die Erfüllung ihrer jeweiligen Aufgaben zwingend benötigen – nicht mehr und…
mehrschichtige Verteidigung
Mehrschichtige Verteidigung (Defense in Depth) ist eine IT-Sicherheitsstrategie, bei der mehrere unabhängige Schutzebenen kombiniert werden, um Unternehmen vor Cyberangriffen zu schützen. Wenn eine…
Sandboxing
Sandboxing ist eine Sicherheitstechnik, bei der Programme oder Prozesse in einer isolierten Umgebung ausgeführt werden, um das restliche System vor Schäden zu schützen. Die Sandbox verhindert, dass…