9月29日，智慧芽正式发布《智慧芽AI大模型安全白皮书》。该白皮书全面呈现了智慧芽在保障AI大模型安全性方面的系统性策略与实践，涵盖模型训练、部署、监控、安全防护，以及数据安全、隐私及个人信息保护等关键环节，以应对日益复杂的技术环境和潜在风险。
你最关心的安全问题，我来解答
Q：智慧芽大模型是否通过国家备案？
A：智慧芽大模型已成功通过国家网信办深度合成服务算法备案（备案号：网信算备320508893984201240017号）和生成式人工智能服务备案（备案号：Jiangsu-YaZai-202407030003）。至此，智慧芽成为业内率先完成大模型“双备案”的企业。
此外，智慧芽还取得了ISO/IEC 27001:2022信息安全管理体系认证、中国信通院可信云企业级SaaS评估和等保二级测评，充分印证智慧芽的信息安全保障能力。
Q：智慧芽的现有产品中，是否已经使用大语言模型？
A：智慧芽各产品已接入“智慧芽垂直领域大模型”，包括专利大模型、生物医药大模型等，为帮你实现高效创新提供AI能力支持。
Q：智慧芽大模型会否使用用户数据进行模型训练？
A：智慧芽郑重承诺，智慧芽垂直领域大模型不会使用用户数据进行训练，也不会分享给第三方。
Q：智慧芽如何保障大模型内容安全？
A：对于大模型的训练数据，智慧芽会进行违法违规和不良信息的识别与过滤，并针对不同来源的数据实施相应的审核机制，确保数据的合法合规性。
在标注数据时，制定了严格的标注规则，并规定了准确性、安全性验证和审核方式，确保人工标注数据的准确性和安全性。
为了保证模型输出数据的安全性，在生成内容前后采用了多层过滤机制，包括自主研发的分类模型过滤以及腾讯云和阿里云的内容安全检测接口过滤，确保不会生成违法、违规、敏感或有害数据。
Q：智慧芽如何保障大模型运行层面的安全？
A：在大模型上线前，智慧芽已通过自建关键词库和安全测试题库对其进行严格的安全评估，确保其安全性符合要求。
在模型运行期间，依据OWASP TOP 10 for LLM标准进行安全测试，防范对抗攻击并保证模型无安全漏洞。
此外，通过定期更新模型来维持性能和适应新数据分布，同时及时修复漏洞并增强对新威胁的防护能力，确保模型的安全性和可靠性。
智慧芽始终将安全性视为大模型迭代与应用的核心要素，将一如既往地致力于严格的数据、隐私及个人信息保护、模型鲁棒性以及持续检测，遵循业内公认的高标准和最佳实践，以确保模型在实际应用中的可靠性和安全性。未来，我们会继续致力于创新和安全的结合，为用户提供安全、可靠、高效的大模型应用和产品，推动AI技术赋能全球科技创新发展。
白皮书获取方式
复制下方网址到浏览器，进入“智慧芽安全和信任中心”，即可在“资源下载”板块找到《智慧芽AI大模型安全白皮书》
www.zhihuiya.com/security-center
