AI安全峰会警告AI脱离人类掌控的风险

0:00 / 0:00

本周四,首届人工智能安全峰会在英国结束,美国、中国及英国等二十多个国家发表联合宣言,首度强调人工智能可能会被滥用,甚至脱离人类掌控。

首届人工智能安全峰会在英国布莱切利园(Bletchley Park)召开,这也是国际首度对人工智能的风险发表主要联合声明。《布莱切利宣言》表示,人工智能系统(或称模型)可能会被不良分子滥用,带来严重甚至灾难性的伤害,甚至脱离人类掌控。对此,美国、中国等28个国家承诺将加强合作,并考虑制定法律管理这些模型。

据路透社报道,电动车厂特斯拉(Tesla)和太空探索技术公司(SpaceX)创办人马斯克乐见中国在人工智能安全的议题上,与英美两国一致。他说〝如果中国不参与,就会毫无意义〞。华尔街日报也指出,西方官员和行业高管认为,本次中国的参与值得注意,因为人工智能也可能是未来超级强权之间军备竞赛的一部分。

英国首相苏纳克(Rishi Sunak)曾在上周的一次演讲中表示,如果没有在人工智能发展上领先全球的所有大国参与,就不可能产生具有影响力的人工智能战略。他和马斯克也在本次峰会上一致认为,可能需要有一个实体“开关”,以免机器人失控时,发生像是《终结者》(The Terminator)等科幻电影当中类似的情节。

报道也指出,本次峰会除了声明,也有一些具体成果。美国商务部长雷蒙多(Gina Raimondo)宣布将成立一个人工智能安全中心,与英国合作制定衡量人工智能系统能力的基本标准。美国副总统哈里斯(Kamala Harris)及研发推出ChatGPT的OpenAI首席执行官阿尔特曼(Sam Altman)也有出席本次会议。中国科学技术部副部长吴朝晖则在本次峰会的开幕式上表示,中国支持国际社会针对人工智能建立的测试及评估系统。

记者:乔琴恩 责编:申桦 网编:伍檫愙