三大巨子联合署名!又一封公开信宣布
2023-05-31|来源:远大期货
自从生成式AI以势不可当的速度席卷简直每一个范畴,AI应战人类的忧虑也越来越实在。
前次,马斯克就人工智能研讨界和产业界的大佬们一同发布了一篇呼吁的揭露信,呼吁全球一切实验室暂停比更强的AI模型研制,暂停时刻至少为6个月。但成果被人扒出其实他为Twitter购买了1万个GPU用于推进一个全新的AI项目,极有或许正在开发自家的大言语模型。
但这一次,又一封呼吁人们要注重AI带来要挟的揭露信又宣布。比上一次更有目共睹的是,现在生成式AI范畴鼎峙的三大巨子:OpenAI 、DeepMind(隶归于Google)、Anthropic都参加其间。
22字声明,350人签名
这份声明由总部坐落旧金山的非营利安排AI安全中心发布,就他们以为AI对人类构成的生计要挟宣布了新的正告。整份声明才22个字——对,你没看错,才22个字,全部内容如下:
减轻 AI 灭绝的危险,应该与管控流行病和核战争等其他社会级规划的危险相同,成为一项全球优先事项。
虽然AI要挟论并不新鲜,但如此直白地把它和“核战争”、“大流行病”等损害整体人类的危机要素列在一同揭露作比较,仍是归于初次。
声明的署名部分比声明的内容长得多。
除掉OpenAI首席履行官Sam Altman、DeepMind首席履行官Demis Hassabis和Anthropic首席履行官Dario Amode以外,超越350名*AI研讨人员、工程师和创业者也参加其间,包括从前取得图灵奖的“AI三巨子”之二Geoffrey Hinton和 Yoshua Bengio,但另一位和他们一同获奖的、现任Facebook母公司Meta首席 AI 科学家的Yann LeCun没有签名。
此外,名单里还呈现了我国学者的身影,包括我国科学院的自动化研讨所人工智能道德与管理研讨中心主任曾毅,清华大学副教授詹仙园等。
声明发布者AI安全中心的履行主任Hendrycks表明,这一份声明很简练,特意没有提出任何减轻人工智能要挟的潜在办法,便是为了防止不合。“咱们不想推进包括30种潜在干涉办法的巨大办法组合,”Hendrycks说。“当这种状况产生时,它会淡化信息。”