新加坡国立大学学院院长陈西文7月20日在《中国日报》撰文称，全球很多国家都在开发更强大的人工智能，而其风险也日益呈现全球化特征。一国开发的系统可能运行在另一国的基础设施上，调取存储在第三国的数据，并影响到世界各地的人们。
文章指出，没有任何一个国家能够独自管理这种运转系统。然而，除非我们清楚究竟需要治理什么，否则很难实现有意义的国际合作。
多年来“数据是新的石油”这个比喻占据主导地位。这个说法便于记忆，但有些误导。稀缺的石油开采成本高昂，且会因使用而耗尽。相比之下，数据潜力无限，可以无偿提供并被无限复制和重复使用。
一个更恰当的比喻或许是“土壤”。
正如庄稼从土壤中生长，人工智能系统从数据中生长。数据的质量、构成和来源至关重要。污染可以扩散。滋养一种作物的土壤可能不适合另一种作物。最重要的是，要保持生产力，土壤需要持续的照料和耕耘。
文章认为，对于生成式人工智能而言，不良土壤并不一定会产出明显不良的作物。一个在存在缺陷或被污染的数据上训练的系统，所生成的反应可能看起来精致、有说服力且完全合理。
这样的输出随后可能被发布、被依赖，并最终作为训练数据被另一个模型吸收。危险不仅在于污染被消耗，更在于它被“再种植”。数据环境在模型训练完成后不再固定，它会随着系统的运行而持续变化。
因此，我们需要对数据流进行治理。世界必须清楚系统能访问哪些信息、能推断出什么、能将信息传送到何处，以及被授权采取哪些行动。
随着时间的推移，系统可以从琐碎的交互中推断出偏好、弱点和人际关系。单次交流或许毫无敏感之处，但积累起来的数据却能构建出极为私密的个人画像。
数据保护传统上严重依赖用户同意。但很少有人能预见人工智能系统未来可能进行的每一种用途或推断。在与这类系统建立持续关系之前，用户可能需要一份数字版的“婚前协议”：明确系统将学习什么、保留什么、分享什么，以及关系结束时会删除什么。
我们还需要问责机制。谁批准了数据访问？决策能否被追溯？受影响的人能否质疑或推翻这些决策？出现问题时，谁负责？
控制措施应当取决于能力和后果。系统的自主性越高，其访问数据和工具的权限越广，其行动越不可逆转，保障措施就应该越强。
文章强调，世界不太可能就单一的全球人工智能监管机构或通用规则手册达成一致。各国在法律传统、经济重点和社会价值观上存在差异。但在关于数据来源、安全性、测试、事件报告、可审计性以及开发者、部署者和用户之间的责任划分等最低期望方面有可能达成共识。
这并非主张监管的整齐划一，更非主张由任何单一国家来领导。这是主张互用性。没有它，企业将面临互不兼容的义务，而个人则可能掉入各司法管辖区之间的缝隙。
大国将继续在人工智能领域展开竞争。这种竞争使得协调更加紧迫，而非相反。航空、电信和金融领域之所以将国内监管与国际标准相结合，正是因为跨境系统需要共同的基础。人工智能也不会例外。
（英文原文刊发于中国日报《智享汇》栏目：
https://www.chinadaily.com.cn/a/202607/20/WS6a5d8da9a310986e2b4662ac.html）
编辑：李薇 张曦 朱萍
扫码下载
中文网微信