中国信通院携手360推动大模型安全标准制定，引领AI安全可控新篇章
随着人工智能技术的不断突破，大模型已在多个领域展现出强大的应用潜力。然而，技术的迅猛发展也带来了安全方面的挑战。为了应对这些挑战，中国信息通信研究院（信通院）联合国内网络安全领军企业360公司，共同启动了名为“SafetyAI Bench”的大模型安全基准测试制定工作。
此次合作旨在构建一套权威且公正的大模型安全中文基准测试体系。该体系将遵循“公平公正、产业应用、选型参考”三大原则，通过一系列科学严谨的测试方法，全面评估大模型在内容安全、数据安全和科技伦理等方面的性能。据透露，该体系将涵盖27个维度的中文评测数据集，为行业提供全面、细致的安全性能测试指标。
信通院作为国内信息通信行业的领军研究机构，具有深厚的研究底蕴和丰富的行业经验。其专业的研究团队和广泛的行业合作网络，为大模型安全基准测试的推进提供了坚实的支撑。而360公司，作为网络安全领域的佼佼者，不仅在安全大数据方面拥有全球领先的规模，还在人工智能大模型领域取得了显著成果。其自研的认知型通用大模型“360智脑”在多个第三方评测中表现出色，位列国产大模型能力第一梯队。
业内专家表示，信通院与360的此次合作，无疑是一次强强联合、优势互补的典范。双方的合作不仅能够推动大模型安全基准测试体系的建立和完善，为行业树立一个权威且公正的安全评估标准，还将进一步促进大模型技术的创新与应用，为人工智能产业的稳健发展注入新的活力。
此外，360公司创始人周鸿祎还将于2月29日举行一场关于大模型应用场景的AI免费课。届时，他将深入探讨大模型技术的发展趋势以及在各领域的应用前景与挑战，为业界提供宝贵的见解和建议。
来源：中国新闻网
