Das Open Internet Utility Safety Mission (OWASP) gibt Unternehmen eine Checkliste für (mehr) GenAI-Sicherheit an die Hand.
Foto: Gannvector | shutterstock.com
Während Unternehmen wie OpenAI, Anthropic, Google oder Microsoft aber auch Open-Supply-Alternativen bei ihren Generative-AI– und Massive-Language-Mannequin-Angeboten exponentielle Consumer-Zuwächse verzeichnen, sind IT-Sicherheitsentscheider bemüht, mit der rasanten KI-Entwicklung in ihren Unternehmen Schritt zu halten.
Die Non-Revenue-Organisation OWASP trägt dieser Entwicklung mit einer neuen Veröffentlichung Rechnung: der “LLM AI Cybersecurity & Governance Guidelines” (PDF).
LLM-Bedrohungskategorien
Das Thema KI ist ziemlich umfangreich, weswegen die OWASP-Checkliste vor allem darauf abzielt, Führungskräfte dabei zu unterstützen, die wesentlichen Risiken im Zusammenhang mit generativer KI und großen Sprachmodellen möglichst schnell zu identifizieren und entsprechende Abhilfemaßnahmen einzuleiten. Das soll gewährleisten, dass Unternehmen über die nötigen, grundlegenden Sicherheitskontrollen verfügen, um generative KI und LLM-Instruments, -Providers und Produkte sicher einzusetzen.
