随着人工智能技术越来越深入与各行各业融合，其广泛应用也伴随着安全性及可控性等治理问题。《新一代人工智能发展规划》明确提出，人工智能“全面支撑科技、经济、社会发展”的同时，要“预判人工智能的挑战”，“最大限度防范风险”，“确保应用上安全可控”。
本研究方向致力于提升面向产业、经济、社会领域的人工智能安全和治理水平，为防范人工智能风险、规范人工智能应用、促进数字经济健康发展提供重要支撑。人工智能安全方面，研究人工智能系统的安全、可靠、可控，包括应对人工智能技术及系统内在脆弱性，以及避免其内在脆弱性引发外部安全问题。工程研究中心将致力于构建人工智能算法、数据、系统与应用的安全防护体系，重点研究人工智能算法鲁棒性、人工智能数据泄露防范、人工智能系统安全验证与测试、人工智能系统漏洞挖掘与防御等。人工智能治理方面，重点研究人工智能应用中的信息保护与监管，以及人工智能内容伪造等风险的防范。人工智能赋能网络空间治理方面，研究将人工智能技术应用于网络空间治理，以精准化、高效化地实现网络信息安全风险的识别及针对风险的关联分析和挖掘发现。