AI 安全

确保 AI 系统可靠、可控、不造成危害的研究与实践。

AI 安全涵盖对齐、红队测试、越狱防护、内容审核与异常监控。头部模型厂商投入大量资源做安全评测，用户侧也需关注数据脱敏与输出审查。