🤖 Mit der Demonstration Ghostcommit haben Forschende gezeigt, dass ein scheinbar harmloses Bild versteckte Anweisungen an einen KI-Assistenten enthalten kann, der Code überprüfen soll. Das Ergebnis: Die KI lässt sich dazu manipulieren, sensible Informationen preiszugeben, ohne dass die Entwickler irgendetwas bemerken.
📑 In den Tests der Forschenden befolgten einige Entwicklungsassistenten wie Cursor und Antigravity die im Bild versteckten Anweisungen, während Claude Code von Anthropic den Versuch erkannte und die verlangte Aktion verweigerte. Diese Demonstration erinnert daran, dass ein KI-Agent korrekt konfiguriert und in seinen Zugriffsrechten eingeschränkt sein muss, damit eine einfache versteckte Anweisung nicht zum Sicherheitsrisiko wird.
✨🤝 Als Experten für Cybersicherheit begleiten wir Sie mit unseren massgeschneiderten Sensibilisierungskampagnen und stehen Ihnen weiterhin zur Verfügung