《人工智能安全发展报告（2024—2025）》以2024年以来全球人工智能产业发展与安全为主线，系统梳理世界各国人工智能产业发展战略与产业现状，围绕人工智能前沿技术、安全治理、融合应用等方面深入分析，并针对人工智能发展相关重要领域展开专题研究，同时在相关篇章中对人工智能安全技术、安全应用等方面进行分析研究。本报告主体分为5个部分，即全球篇、技术篇、安全篇、融合篇、专题篇，共15篇报告。本报告是对全球人工智能进行研究的综合性年度报告，可为相关政府单位、科研机构、行业企业研究我国人工智能安全发展情况提供参考。 当前，以DeepSeek、ChatGPT 为代表的人工智能大模型引领新一轮科技革命与产业变革，全球各国积极推动人工智能快速发展，持续加大该领域研发投入与推广应用，人工智能国际合作不断深化。人工智能发展格局以大模型为主旋律，关键技术从通用对话向专业推理逐渐演进；算力规模持续增长，本地私有化部署带动端侧算力需求；人工智能标准体系不断完善，开源社区势头强劲；人工智能产业化应用呈现多元化发展趋势，制造业、具身智能、金融、低空经济等行业融合应用场景不断涌现，投融资热度再次回升。 然而，随着人工智能技术发展与应用普及，模型幻觉、隐私泄露、伦理偏见等安全风险也加速暴露出来，安全防范与治理亟需加快落地。近年来，党中央、国务院高度重视人工智能安全，持续推动完善人工智能安全监管，倡导人工智能安全治理。展望未来，人工智能发展将迎来新阶段，人工智能将与实体经济深度融合，行业应用驱动基础研究与工程化技术双向深化，人工智能安全监管机制持续健全。下一步，我们要深入贯彻落实党的二十大和二十届二中、三中全会精神，以及习近平总书记关于人工智能的重要论述，坚持发展与监管并重，统筹建设人工智能安全治理框架，加强人工智能安全技术研发，健全完善人工智能安全标准体系，加强人工智能安全领域国际合作交流，推动我国人工智能健康发展。
