2024全球人工智能治理研究报告

关于报告的所有内容,公众号『行业报告智库』阅读原文或点击菜单获取报告下载查看。

人工智能的发展与国家主权密切相关。一方面,人工智能可以用于维护国家安全和发展利益;另一方面,国家主权也面临来自技术自主性、算法模型、数据等方面的安全风险。国际社会正在围绕这些问题展开相关探讨,以确保人工智能技术的发展不会损害国家主权。

如何利用人工智能帮助传统产业转型升级,提高生产效率,同时避免结构性失业等问题,成为亟待解决的问题。人工智能训练和运行需要大量的计算资源和能源,对环境造成负担,这也是需要关注的重要议题。

加快发展人工智能是抓住新一轮科技革命和产业变革机遇的战略问题。包括发展前沿基础理论、关键共性技术,提升智能化水平,加快部署算力基础设施,优化布局算力资源,高效分配和合理使用算力,促进技术和产业发展。还需要形成开发、部署和使用人工智能的行业标准,确保产业链和供应链的安全。

人工智能技术可能引发根本性的伦理问题,危及人类自身的生存和发展。在人机交互中出现的情感错觉可能导致人际关系疏离;人工智能决策的伦理抉择与道德判断问题也需要制定相应的规则,以避免人工智能失控或对人类生命、权利和利益造成损害。

滥用人工智能技术生成错误、虚假信息等加剧了内容安全风险。大模型可能生成错误、不准确的内容,恶意使用者利用深度伪造技术合成逼真的图像或音视频,操纵舆论、编造与传播虚假信息。智能算法推荐“投其所好”的特点也可能导致信息茧房现象,使个体认知窄化。

模型算法的安全性直接影响系统的运行方式。主要涉及模型算法的可解释性、可靠性、鲁棒性、公正性和抗攻击性。例如要求输出结果可预测、可归因、可修正和可追责;避免输出偏见或歧视性内容以及“智能幻觉”;防止性能下降、决策错误等问题;避免参数、结构、功能等核心信息被窃取、篡改、嵌入后门或遭受攻击。

数据安全对于确保人工智能发展过程中的安全性、可靠性、可控性和公平性至关重要。全球关注的数据安全议题主要包括:避免未经同意收集、不当使用个人数据和信息;确保数据质量,避免使用含有虚假、偏见、侵犯知识产权的信息;防范数据泄露,防止非授权访问、恶意攻击、诱导交互等。

人工智能产品的设计者、运营者、生产者和使用者的责任归属难以明确,已成为治理面临的一大挑战。通常涉及以下内容:因模型或算法中的错误、疏忽或故意不当行为而应承担的责任;因产品存在缺陷或者未能达到预期安全标准而应承担的法律责任;因不当操作需承担的法律责任。

专利权方面,人工智能算法、模型以及系统某些组件可能成为专利权的保护对象。著作权方面,各国对人工智能生成的内容是否可获得著作权保护尚无定论。侵权行为方面,人工智能系统使用受版权保护的数据训练具有侵权风险;人工智能生成的品牌名称或标识等也可能涉及商标权保护问题。

国家间的智能鸿沟问题是人工智能技术发展在全球数字鸿沟领域的新表现,迫切需要加强国际协作予以解决。尽管各国都重视人工智能的国际协作,但个别国家在人工智能领域大搞技术封锁,通过阻断别国的人工智能技术发展来寻求领导地位,这种势头如果得不到制约,将严重干扰全球人工智能的发展和治理进程。

社交账号快速登录