科技专家警告 人工智能威胁等同大流行病与核战争

（斯德哥尔摩／伦敦综合电）超过350名人工智能科技业领袖与专家同声警告，人工智能技术可能导致人类灭绝。他们敦促政策制定者将这威胁视为与大流行病和核战争的威胁一样。

非营利组织人工智能（Artificial Intelligence，简称AI）安全中心星期二（5月30日）发表联名公开信，表达对人工智能威胁的担忧。信中只有一句话：“降低人工智能带来的灭绝风险应该成为全球优先事项，与大流行病、核战争等其他社会规模的风险并列。”

联署者包括人工智能研发公司OpenAI总裁奥尔特曼（Sam Altman）、谷歌旗下人工智能实验室DeepMind创始人哈撒比斯（Demis Hassabis）、Anthropic总裁阿莫代伊（Dario Amodei）、被誉为“人工智能教父”的2018年图灵奖得主辛顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio）、谷歌和微软公司的高管，以及国际知名学府如美国哈佛和中国清华大学的教授。

  

 

这封信恰逢美国－欧盟贸易和技术委员会在瑞典举行会议，预计将讨论监管人工智能。

人工智能安全中心发布的声明特别指出，脸书母公司Meta没有签署公开信。Meta的人工智能部门开发了强大的大型语言模型，被视为人工智能领域的先行者，首席人工智能科学家立昆（Yann Lecun）不认同人工智能威胁人类生存的看法。

这是短短几个月内，业内专家再度高调对人工智能敲响安全警钟。

  

   

    延伸阅读

   

  

   

      

   盖茨：未来AI个人助理将取代搜索引擎

  

  

   

      

   分析：AI将不成比例取代女性从事的工作

  

 

今年3月，逾千名人工智能专家和行业高管联名发表公开信，呼吁暂停开发比GPT-4更强大的人工智能系统至少六个月，称对“社会和人类构成潜在风险”。联署人包括全球电动车巨头特斯拉总裁马斯克、苹果公司联合创始人沃兹尼亚克（Steve Wozniak）、Stability AI总裁莫斯塔克（Emad Mostaque）。

人工智能技术发展日新月异，不少人担心人工智能被大规模用于传播不实信息、侵犯个人隐私、取代数以百万计白领的工作，甚至强大到威胁人类生存。

质疑者认为顾虑被夸大

尽管科技业领袖一再发出警告，仍有一些质疑者认为这方面的顾虑被夸大了，人工智能还没先进到足以引起毁灭人类的担忧，而聚焦于末日论，只会分散人们对其他相关议题的注意力，例如算法偏差、种族主义，以及虚假信息泛滥的风险。

人工智能研发科学家鲁西奥尼说：“我们应该讨论的是立法、偏差风险，以及不利于社会的人工智能运动方式等问题，但我们却关注假设的风险。”