进入2023年以来，科技界里彷佛没有了大事，只剩下了人工智能。人人都在谈论ChatGPT、科技圈开卷大模子、OpenAI估值节节攀升、大公司你追我赶硝烟四起……

而这一切繁荣的背后，着实都离不开三位人工智能研究者的事情———曾因提出和生长深度学习神经网络，在2019年获得盘算机界最高声誉“图灵奖”的Geoffrey Hinton、Yoshua Bengio、Yann LeCun。

可以说，没有这三位学者的研究，我们今天基本看不到ChatGPT、Bard的泛起，也不会这么快的就能在一样平常生涯中使用语音识别、人脸识别、图片检索、机械翻译、自动驾驶等手艺。

其中，Geoffrey Hinton是“三巨头”中最焦点的人物，被业界誉为“人工智能教父”。他在2013年加入谷歌，把深度学习手艺带进了谷歌的多项营业，直接推动谷歌成为了AI手艺最精彩的公司之一。同时，他还亲自培育了一大批机械学习相关的人才，包罗了现在OpenAI的团结首创人和首席科学家Ilya Sutskever。

而就在加入谷歌的第十年、深度学习迎来发作式生长的当下，几周前，现年75岁的Geoffrey Hinton辞去了他在谷歌的事情。而去职的缘故原由，用他的原话来讲，是想要没有任何肩负的给所有人讲一些他关于人工智能生长的“至心话”。

｜来自“人工智能教父”的担忧和忠言

若是说谁最热爱深度学习相关的人工智能研究，Geoffrey Hinton一定是最有谈话权的那一位。从上个世纪70年月至今，Geoffrey Hinton作为盘算机神经网络的开拓者，已经在这个领域默默耕作了近50年。

对于Geoffrey Hinton来说，从无到有的缔造一个全新观点和手艺的历程曾经无比艰难。

从上个世纪80年月他提入迷经网络理论最先，一直到本世纪初，长达20多年的时间里，学术界对神经网络理论都充满质疑，同时，受制于那时数据集规模限制以及盘算机算力的不足，相关研究的希望也一度异常缓慢。在这个漫长的历程中，一些人放弃了、一些人转了研究偏向，但Geoffrey Hinton从未住手过关于深度学习神经网络的研究。

但现在，当深度学习终于守得云开见月明，所有人都最先向深度学习里疯狂砸人力、砸资金时，坚守了多年的Geoffrey Hinton这时却想要人人都暂停脚步，甚至对自己支出了一生心血的研究感应有些悔恨，为什么？

在最近接受纽约时报的专访中，Geoffrey Hinton示意，自己此次从谷歌去职并不是由于要批判谷歌，而是他能够在不影响谷歌的情形下，去真实地谈论AI的潜在风险。

在他看来，作为AI手艺的领军者，已往这些年谷歌一直饰演着一位“卖力任的管家”的角色，战战兢兢地保留和控制着那些可能造成危险的手艺。但由于微软极快的将Bing和ChatGPT连系并向民众公布，挑战了谷歌焦点的搜索引擎的营业，以是谷歌也无法像已往那样继续保持着生长节奏，科技巨头陷入了一场可能无法住手的竞争之中。

在这样的情形下，他需要以一名研究者而不是谷歌员工的身份站出来，给人人发出忠言。连系整个采访来看，Hinton主要有以下几个方面的担忧。

一是在人工智能手艺的支持下，他以为互联网将很快被种种虚伪信息淹没。这些信息包罗文字、照片、视频等，而通俗人将越来越难分辨这些信息的真假，引发社会的失序。

二是就业市场可能在还没有准备好的情形下被推翻，造成失业潮的发作。虽然现在像 ChatGPT 这样的谈天机械人还只是对人类事情的弥补，但根据人工智能的生长速率，它们将很快可以取代状师助理、翻译、行政助理等其他任何基础的、重复性的事情。“它消除了苦差事，但带走的可能远不止于此。”Hinton示意。

此外，他还郁闷人工智能手艺的接下来的生长会对人类社会组成威胁。他认可，在他们已往的研究之中，人工智能经常能从大量数据中学习进而发生出许多让人意想不到的行为。而当前，包罗小我私人和公司在内的许多使用者们不仅让人工智能自主天生代码，也让人工智能运行和治理着代码。在这种不停的训练之中，很有可能让“自主杀手机械人”真的成为现实。

“许多人都觉着这很遥远，我曾经也是这么以为的，以为至少还要有30-50年我们才会走到那一天。但就我现在所领会到的信息而言，我已经不这么想了。”Hinton以为，谷歌和微软以及其他大型公司之间的竞争，将很快升级为一场全球性竞争，若是没有某种羁系，这场竞争将不会住手，人工智能生长的速率会远超我们的想象，并最终走向失控。

｜呼吁AI羁系的声音越来越强

5分钟5000元，五一挤到天上了

若是以上这些话从别人口中说出来，人人可能仍然会以为这些看法带着危言耸听的意味。但当现在天下上人工智能领域最权威的专家、深度学习的奠基人Geoffrey Hinton也这么说时，也引发了更多人最先认真思索和关注这个问题。

现实上，在此次Geoffrey Hinton发声之前，最近几个月来人工智能领域就已经提议过两波大型的联名，呼吁郑重地生长人工智能手艺。

一次是由马斯克、Yoshua Bengio等数千名来自学术界和企业界的大佬呼吁至少暂停6个月比GPT-4更强模子的研究的果然信。另一次则是由拥有40多年历史、人工智能领域最权威学术机构之一的人工智能促进协会（AAAI）的19名现任及前任向导人所公布的联名信，其中也包罗了微软现任首席科学家、人工智能研究专家Eric Horvitz。

虽然此前马斯克他们暂停模子研发的呼吁在业界受到了争议，包罗Yann LeCun、吴恩达在内的研究者都对住手研发“一刀切”的做法示意了否决，甚至也有人质疑马斯克等人提出暂停研发是为了私利。但现在看来，关于配合增强AI羁系、预防潜在性危险发生的看法，人人的看法险些都是一致的。

在今天Geoffrey Hinton的报道发出后，吴恩达*时间转发了Geoffrey Hinton的推特示意支持，谢谢Hinton对于人工智能手艺所做出的不能估量的孝顺，以及对人工智能在虚伪信息、自念头械和劳动力影响方面的发声。

一些AI的投资人、研究者今天也纷纷转发了Geoffrey Hinton的访谈，呼吁学界、工业界、政府羁系机构应该快速行动起来，趁当前手艺还在可控局限内，尽快制订好羁系框架和应用方案等。

固然，也有研究者并不认同AI威胁论，其中就包罗了Geoffrey Hinton曾经的学生、研究的同伴Yann LeCun。他此前多次示意，大语言模子基本不算什么，要想真正通往AGI之路，还需要构建“天下模子”。

对此，许多人也很希望这些对于人工智能生长持有差异看法的研究泰斗们能够很快来一场深度对谈，让人们更多的领会当前人工智能生长前方的时机和风险。

｜AI会成为新时代的“原子弹”吗？

在此次的访谈中，一个尤其引人关注的地方在于Geoffrey Hinton在谈到AI风险时，多次提及了核武器。从一定水平上来看，Geoffrey Hinton或许以为AI对人类社会的潜在危险并不亚于核武器。

他示意，跟核武器研究差异，现在AI研究更危险的地方在于，我们现在险些没有设施知道有哪些组织或者国家正在隐秘研究这项手艺。理想的情形下，全球各国组织和科学家们应该配合举行相助和对手艺举行控制，但显然现在很难做到这一点。

作为深度学习手艺的提议人，Geoffrey Hinton坦言自己现在甚至有些悔恨举行了这项手艺的研究。当潘多拉魔盒被打开，作为研究职员很难去防止欠好的人行使这些手艺去做欠好的事。

而Hinton的这种说法也让人不由地想起了昔时“原子弹之父”罗伯特·奥本海默相似的心路历程。昔时，美国在广岛长崎投放原子弹两个月之后，奥本海默辞去了职务，之后他在担任美国原子能委员会照料时代一直致力于游说国际机构对军备举行管制，并运用影响力张扬控制核武器和核不扩散运动。

Geoffrey Hinton说，以前人们问他若何从事具有潜在危险的手艺时，他总会会引用奥本海默的话：“当你看到一个器械拥有美妙的手艺远景时，就只管去做吧。”但现在，他已经不会再那样说了。

“人们不应该快速扩大AI研究的规模，直到足够领会自己是否能够控制它，”Geoffrey Hinton说道。