文章转载来源：极客公园

　　就在 Meta 公布了新一代开源大语言模型 Llama 2 三天之后，公司高层就和微软、OpenAI、亚马逊、Anthropic 等七家目前在 AI 行业中的巨头和炙手可热的创业公司管理人员，再次聚首美国白宫。

　　在这次的活动中，七家公司签订了一份‘自愿承诺书’（Voluntary Commitments），就 AI 技术和研发的安全、透明、以及风险等做出‘8 大承诺’。

图片来源：由无界 AI 生成

　　AI 公司‘求监管’的戏码，到此达到了一个小高潮。

　　NYT 专栏作者 Kevin Roose 撰文，详解了这‘8 大承诺’到底都说了什么，以及因此带来的改变。

　　研究的结果是，这 8 项承诺，例如安全测试、分享 AI 安全信息、报告漏洞以及‘优先用 AI 解决社会挑战’，看起来都是一些大问题，而对应的承诺也缺乏细节，其中不少问题本身就是 AI 公司已经‘公示’给大众的。

　　此份‘资源承诺书’，更像是过去半年美国监管层对 AI 公司数次问询的一次间接性的‘成果展示’，很可能不具备太多执行层面的意义。但是，监管对于 AI 数次表示关切，标明政府对于 AI 技术应用的立场，才是这场秀最大的意义。

　　以下为 Kevin Roose 对于‘自愿承诺书’中 8 项承诺的解读：

　　承诺 1：公司承诺在发布人工智能系统之前，对其进行内部和外部安全测试。

　　这些人工智能公司在发布之前都已经对其模型进行了安全测试——通常称为‘红队测试’。从某种程度上来说，这并不是一个真正的新承诺，它很模糊。没有提供有关需要进行何种测试或由谁进行测试的详细信息。

　　在随后一份声明中，白宫仅表示，人工智能模型的测试‘将部分由独立专家进行’，并重点关注‘生物安全和网络安全等人工智能风险，及其更广泛的社会影响’。

　　让人工智能公司公开承诺继续进行此类测试，并鼓励测试过程更加透明，这是一个好主意。还有一些类型的人工智能风险——例如人工智能模型可用于开发生物武器的危险——政府和军事官员可能比公司更适合评估。