图灵奖得主Bengio和Hinton,同时警告AI可能灭绝人类!
就在昨夜,一封签署名单多达350人的公开信迅速传播开去,信中核心只有一句话:
“降低AI灭绝人类的风险”,应该像流行病和核战争等其它社会规模的风险一样,成为全球的优先事项。
签署这封公开信的,既包括三大AI巨头的CEO,即ChatGPT老板、OpenAI的Sam Altman,DeepMind的Demis Hassabis和Anthropic的Dario Amodei;
也包括不少国内外高校的教授,除了Yoshua Bengio和Geoffrey Hinton以外,清华AIR院长张亚勤和斯坦福教授、图灵奖得主Martin Hellman等人也名列其中。
这段时间来,关于AI风险的各种大小讨论也是接连不断,OpenAI CEO Sam Altman前段时间还倡议称,人们应当像对待核设施一样监管AI。
所以,究竟是谁发起的这封公开信倡议,又是否有AI大牛反对这件事?
为何签署这封信?
发布这封公开信的机构名叫Center for AI Safety(CAIS),是一家关于AI安全的非营利组织。
在这封公开信的开头,CAIS反复强调:
包括AI专家、记者、政策制定者和公众在内,越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。
即便如此,要想表达对先进AI的严重风险,可能还是有一定难度。这封公开信旨在克服这一障碍,并展开对相关议题的讨论,让更多专家和公众人物认识到这一点。
极悦娱乐产品更多介绍:www.heyyen.com