AI安全服务,为了保障深航大模型和AI智能体的安全合规运行,有效应对日益复杂的AI安全风险,需采购AI安全服务。采购以下服务:1.AI安全监测服务:对大模型的使用进行监测,实现对大模型在运行过程中的数据安全风险、合规隐患及异常行为的实时识别与防控,重点识别越权调用、敏感信息泄露、模型滥用及资源攻击等AI安全风险。2.AI安全评估服务:(1)智能体应用安全评估,对智能体、MCP服务等AI应用上线前开展安全评估,避免越权访问,敏感信息泄露等问题;(2)模型安全评估,对AI模型的输入输出内容进行合规性、安全性评估,通过深度检测识别出潜在威胁,并提供相应安全加固建议,确保模型交互内容可信、可控。全面检测AI模型自身的安全漏洞、抗攻击能力及防护水平,保障模型运行稳定、安全、合规。