近日，一家专注于AI安全的初创公司发布了首个开源AI网络安全评估工具，该工具旨在帮助开发者和企业检测大语言模型（LLM）中的安全漏洞，如提示注入、数据泄露和越狱攻击等。这一工具填补了开源社区在AI安全评估领域的空白，为AI应用的合规性和安全性提供了重要保障。

该工具采用模块化设计，支持多种主流LLM框架，并提供了丰富的测试用例和自动化报告功能。开发者可以将其集成到CI/CD流水线中，实现持续的安全监控。发布方表示，未来将进一步完善工具的功能，并计划与更多安全社区合作，共同推动AI安全生态的发展。