美国大选结束后，来自至少9个国家和欧盟的政府科学家和人工智能专家将在旧金山会面，协调安全开发人工智能技术并避免其危险。

美国总统拜登政府周三宣布，将于11月20日至21日举行为期两天的国际人工智能安全会议。一年多前，在英国举行的一次会议上，代表们承诺共同努力，遏制人工智能进步带来的潜在灾难性风险。

美国商务部长吉娜·雷蒙多(Gina Raimondo)告诉美联社，这将是继英国峰会和5月份引发公共支持的安全机构网络推进该技术的研究和测试之后的“第一次实际工作会议”。

专家们可能面临的紧迫问题包括人工智能制造的假货不断增多，但还有一个棘手的问题，即如何知道一个人工智能系统何时具有如此广泛的能力，何时具有如此危险，以至于需要防范。

雷蒙多在接受采访时说:“我们将考虑如何与各国合作制定标准，因为这涉及到合成内容的风险，人工智能被恶意行为者恶意使用的风险。”“因为如果我们控制住风险，我们所能取得的成就是令人难以置信的。”

旧金山会议位于一个已成为当前人工智能浪潮中心的城市，旨在为2月份在巴黎举行的更广泛的人工智能峰会做准备，就安全措施进行技术合作。这将在副总统卡玛拉·哈里斯(美国对人工智能风险的立场)和前总统唐纳德·特朗普(拜登签署的人工智能政策)之间的总统选举两周后举行。

雷蒙多和美国国务卿安东尼·布林肯(Antony Blinken)宣布，他们的机构将共同主持这次会议，会议将利用新成立的国家人工智能安全网络，以及英国、澳大利亚、加拿大、法国、日本、肯尼亚、韩国、新加坡和27国欧盟。

参与者名单上缺少的最大的人工智能强国是中国，它不是该网络的一部分，尽管雷蒙多说:“我们仍在努力弄清楚还有谁可能会在科学家方面加入。”

她说:“我认为，我们一致希望避免某些风险，比如将人工智能应用于核武器，将人工智能应用于生物恐怖主义。”“世界上每个国家都应该能够同意，这些都是不好的事情，我们应该能够共同努力防止它们发生。”

许多政府承诺保护人工智能技术，但它们采取了不同的方法，欧盟是第一个对风险最高的应用设置最严格限制的国家。

去年10月，拜登签署了一项关于人工智能的行政命令，要求人工智能的开发人员与政府分享安全测试结果和其他信息。它还授权商务部制定标准，以确保人工智能工具在公开发布之前是安全可靠的。

ChatGPT的制造商、总部位于旧金山的OpenAI上周表示，在发布其名为01的最新型号之前，它已经提前获得了美国和英国国家人工智能安全研究所的许可。该公司表示，这款新产品超越了该公司著名的聊天机器人，能够“进行复杂的推理”，并在回答问题时产生“长长的内部思维链”，在大规模杀伤性武器类别中具有“中等风险”。

自从生成式人工智能工具在2022年底开始吸引世界以来，拜登政府一直在推动人工智能公司承诺在它们被推向世界之前对它们最复杂的模型进行测试。

“这是正确的模式，”雷蒙多说。“话虽如此，现在，这一切都是自愿的。我认为我们可能需要超越自愿制度。我们需要国会采取行动。”

原则上，科技公司大多同意有必要对人工智能进行监管，但一些公司对它们认为可能扼杀创新的提议感到恼火。在加利福尼亚州，州长加文·纽森(Gavin Newsom)周二将在2024年大选前打击政治造假，但尚未签署或否决一项更具争议性的措施，该措施将对功能极其强大的人工智能模型进行监管，这些模型目前尚不存在，但一旦建成，可能会构成严重风险。