5月1日,被誉为“AI教父”的杰弗里·辛顿(Geoffrey Hinton)宣布自己正式辞去谷歌的职务,并在接受采访时承认“对自己的毕生研究感到后悔”!
在人工智能领域上,辛顿的一句话,举足轻重,究竟AI拥有什么样的力量,让他说出这样的话?
在接受采访时,辛顿毫不避讳地说道:“目前它们不比我们聪明,但我认为很快就会了,很难看到如何防止坏人利用它做坏事”。
离开谷歌的辛顿,今年已经75岁确实也到了退休年龄,对于自己毕生都在研究的AI,谈论起来束缚更少了。
“我会用借口安慰自己:即便我不做,也会有别人做”。
“现阶段,GPT-4之类的技术已经拥有大量知识,可使人类黯然失色,推理方面没有那么好,但也能做到简单推理,按照这发展速度,我们能预计会进展得很快,需要感到担心。”
说起辛顿,从上世纪80年代起,他就深深痴迷于研究人工神经网络,通过模拟大脑让计算机从无到有学会新技能。
如今,他的技术广泛应用在AI软件里,让它能自动生成文字、图片和视频。
2013年初开始,辛顿就进入了谷歌,担任工作研究员(engineering fellow),至今逾10年,研究深度学习(deep learning)、神经网络(neural networks)等方面,同时也在加拿大的多伦多大学担任教授。
2019年,辛顿获得计算机界的最高荣誉——图灵奖。业内人士对辛顿的评价极高,称他是“人工智能教父”(The Godfather of A.I.)。
也就是因为有着这样的重量,辛顿说自己后悔开发AI,它可能给人类带来毁灭,才会使全球科技圈哗然。
美国媒体甚至表示:“辛顿博士从AI领军人变成末日预言者,是科技行业的特殊时刻,也许是过去几十年最重要的转折点。”毕竟这过去40年,辛顿都对人工智能技术很乐观。
辛顿出生在英国,23岁获得剑桥大学的心理学学士学位,之后8年获得爱丁堡大学的人工智能博士学位。由于当时英国研究资金不足,他转到美国卡内基梅隆大学当教授。
后来,辛顿拒绝美国国防部资助(反对在战场上用人工智能),就跑来加拿大研究机器。
当时,研究员为了让计算机学会新技能,一般都选择输入逻辑和推理程序。但辛顿觉得太繁琐了,尝试模拟人类大脑,让计算机像人一样学新知识,选择研究神经网络理论。
80年代,辛顿和另外两名教授一起,想到用反向传播方法训练多层神经网络,之后发明出玻尔兹曼机、对比散度算法、时延神经网络等。
2012年,辛顿和两个学生建立神经网络,让它分析上万张照片,学会识别鲜花、狗狗和汽车等常见物体。他们用的胶囊网络技术成为现在很多AI的基石。
谷歌花4400万美元收购三人创办的公司,辛顿也进入了人工智能研究部工作。
而当年的2个学生之一——伊利亚·苏茨凯弗(Ilya Sutskever),就创办了如今的OpenAI公司,现担任首席科学家。
就是在OpenAI的疯狂开发下,AI变得越来越智能,从DALL-E、GPT-3到GPT-4,震撼世界。
原本吧,辛顿还是很骄傲的,毕竟是自己的学生,还劝大家不要害怕AI, 直到去年,谷歌和OpenAI使用的数据越来越多,辛顿开始不这么乐观了。
“我得说,人工智能现在不比我们聪明,但我相信它们很快会超过我们。”
“我们开发的智能和我们本身拥有的智能是非常不同的。我们是生物系统,而它们是数字系统,最大的区别在于,后者能在相同权重、相同模型的情况下,拥有很多复制品。”
“而这些复制品都可以单独学习,同时迅速分享知识。这就像你手下有10000个人,其中一个人学到了点什么,其他人能瞬间学懂。”
辛顿也暗戳戳地表示微软太过激进,原本呢,他在的谷歌是AI技术的“看门人”,小心翼翼不发布任何可能造成危害的东西,但微软将ChatGPT放到搜索引擎Bing里,严重挑战了谷歌的核心业务。
这一挑战,直接就导致两家巨头开始军备竞赛。
“让我很担心的是,科技巨头正在陷入一场可能无法停止的竞争。公司竞争越是激烈,AI发展的速度越快,进步越大。”
辛顿认为,人工智能会和历史上的工业革命、电力、轮子一样,给世界带去翻天覆地的变化。
人们的世界将充斥虚假的东西,比如假照片、假视频和假新闻。普通人会丧失辨别真假的能力。
另外,全球将出现大规模失业。现在的ChatGPT已经能取代律师助理、私人助理、翻译和其他重复性高的文职人员。
最让辛顿害怕的是,AI可能在未来对人类造成“物理威胁”。
啥是“物理威胁”?说得直白点,就是AI可能会毁灭人类。