ChatGPT之父警告AI可能灭绝人类 人工智能会毁灭人类吗

超过350名人工智能(AI)领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI可能给人类带来灭绝风险。这封信于当地时间5月30日发表在非营利组织人工智能安全中心(CAIS)的网站上，签署者包括“ChatGPT之父”Open AI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封信只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”总共22个单词。

其中一些签署者，在今年早些时候签署了另外一封公开信，呼吁“暂停”开发比GPT-4更高级的AI至少6个月，这封信在多个层面受到批评，一些专家认为它夸大了人工智能带来的风险，而一些人则赞同存在这种风险，但不同意信中建议的措施。

人工智能安全中心执行主任丹·亨德里克斯(Dan Hendrycks)告诉《纽约时报》，5月30日的声明很简洁，没有提出任何减轻人工智能威胁的潜在方法，旨在避免这种分歧。 “我们不想推动包含30种潜在干预措施的庞大菜单。”亨德里克斯说，“当这种情况发生时，它会淡化(想传达的)信息。”