天天新动态：发展负责任且可评估的人工智能 AI治理进入落地实践阶段

(资料图)

提出“平衡发展”人工智能伦理观，明确“以人为本、技术可控、可持续发展”的伦理原则，发展“负责任且可评估”的人工智能……近日，沪上人工智能企业动作频频，“平衡发展”的人工智能理念日渐成熟。

在商汤科技发布的《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告（2022年）》中，商汤科技提出发展“负责任且可评估”的人工智能理念，打造伦理治理闭环。

报告提出，从发展历程看，人工智能治理至今已经经历了以原则讨论为主的1.0阶段，以政策讨论为主的2.0阶段。进入2022年，随着全球人工智能治理进程的持续推进，以及可信、负责任人工智能等相关理念的持续渗透，有关验证人工智能治理如何落地实施的倡议日益增多。人工智能治理开始进入以技术验证为主的3.0阶段，即落地实践阶段。

而目前，人工智能治理的落地实践仍面临许多挑战，各行各业需要重点处理“理念与行动”“政策与实践”“技术与用户”三组关系，即将人工智能伦理的共同原则付诸实施；将政策要求转化为技术和业务团队可执行的实践标准；处理好技术与用户间的关系，推动用户对AI治理的认知，最终才能深入推进人工智能治理。

为有效地推进人工智能治理，商汤科技基于对全球人工智能治理诉求的分析，结合自身对技术和市场的理解，在报告中提出，“人工智能治理应当是一个价值牵引、技术先行、多方参与、分层推进的动态进程”，这为人工智能治理的落地实践建立了有效路径。

从治理效果看，人工智能治理的实现由低至高，可分为可用、可靠、可控、可信四个层次。其中，“可用”是指人工智能系统在功能、性能层面应当能够满足应用场景需求；“可靠”是指人工智能系统在安全性、鲁棒性层面应当能够满足部署环境和可持续运营要求；“可控”是指人工智能系统在功能层面应当能够充分保护人类的自主意志和权利、保障人类对系统的控制权；“可信”是指人工智能系统的设计和应用应当符合人类的价值理念和伦理道德。

因此，人工智能治理体系建构的目标，就是发展负责任的人工智能，需要做到有迹可循、有据可查。基于“平衡发展”的伦理观，“以人为本、技术可控、可持续发展”的伦理原则，商汤科技此次于行业首次提出发展“负责任且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标。

标签： 人工智能 平衡发展 人工智能系统