Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt aktuell vor Sicherheitsrisiken beim Einsatz von KI-Agenten. Die digitalen Assistenten können zwar E-Mails beantworten, Termine planen oder Dateien verwalten, benötigen dafür jedoch weitreichende Zugriffsrechte.

Laut BSI können KI-Agenten leicht durch sogenannte Prompt Injections manipuliert werden. Angreifer könnten dadurch unbemerkt falsche Befehle einschleusen oder unerwünschte Aktionen auslösen.

​🤔​Besonders kritisch: Für viele Aufgaben greifen die Agenten auf persönliche Konten und Systeme zu. Selbst Open-AI-CEO Sam Altman rät derzeit von umfassenden Berichtigungen ab, da wirksame Schutzmechanismen fehlen!

Das BSI empfiehlt daher, KI-Agenten nicht mit sensiblen Daten oder sicherheitsrelevanten Systemen zu verknüpfen und Berechtigungen sorgfältig zu prüfen.

Wenn Sie sich weiter über das Thema informieren wollen, sprechen Sie uns gerne an ​✔️​