“AI教父”警告人类未来恐难辨真假

有“AI教父”之称的辛顿(Geoffrey Hinton)本月1日宣布，他已经从谷歌公司离职，并称现在对自己一生从事的工作感到后悔。

辛顿表示，辞职是为了能够自由地谈论AI的风险。辛顿认为，AI系统保持着惊人的发展速度，它们会变得越来越危险，“目前它们不比我们聪明，但我认为很快就会”、“很难看到如何防止坏人利用它做坏事”，以及对AI引发假资讯的担忧，普通人将“无法再知道什么是真的”。

75岁的辛顿日前在接受《纽约时报》的采访时证实自己已于上周辞去了谷歌副总裁的职位，离开工作了10年的谷歌。他称对自己毕生的工作感到后悔，“我会安慰自己，如果不是我做，也会有别人来做”。至于离开的原因，辛顿表示并不是为了批评谷歌，而是希望可以自由地谈论AI的风险，无需顾忌言论对谷歌构成影响，同时他也强调谷歌已对此采取非常负责任的行动。

AI很快就会比人类聪明

辛顿2013年3月加入谷歌，担任研究员，同时他创办的DNNresearch公司被谷歌并购。他研究深度学习、神经网络等领域，曾与其他两名学者因在深度学习领域作出的贡献，荣获2018年图灵奖，该奖项常被称为“电脑科学界的诺贝尔奖”。

辛顿受访时表示，AI与人类的智力不同，AI的学习就像是一万人当中，只要有一人学懂某些知识后，其他人就会自动习得知识，因此它们庞大的知识储量已经让人类黯然失色。在推理方面，AI现在只能做到简单的推理，“目前它们不比我们聪明，我之前觉得它们可能要30到50年才能超过人类，但我现在觉得会更快”。

辛顿在离开谷歌之前就已经发出警示。他3月接受采访时被问到“AI抹除人类的几率”有多高，他回答道：“这不是不能想像的，我只能这么说。”这也是辛顿担心的另一方面，未来AI会消灭“繁重的工作”，甚至会直接取代人类工作。

忧AI落入坏人之手

AI技术发展到如今，它可以轻松地大批量生成假照片、假视频以及假新闻，未来网络上可能充斥着虚假信息。辛顿更加担忧的是，普通人未来将“无法再知道什么是真的”。

辛顿认为，在短期内，生成式AI可能会引发假资讯的狂潮;更长远来看，AI很可能会生成完全自主武器，并从海量训练数据库中习得奇怪行为。虽然有些担忧还未发生，但辛顿认为若没有及时准备好相关法规和有效的控制措施，那这种升级将变得无法遏止。他担忧AI风险的另一个原因就是“很难看到如何防止坏人利用它做坏事”。

辛顿对AI的立场是从去年开始转变的，他认为AI在过去五年内发展神速，而未来五年可能发生的事情将“非常可怕”。实际上，业界还有不少专家都曾提议放慢AI的发展节奏。以马斯克为首的多名科技界巨头3月联署公开信，呼吁AI实验室和相关企业在至少半年内不要训练超过GPT-4的技术。

不过辛顿补充道，他认为AI在短期内带来的好处多于风险，所以现在不应该停止开发;加上激烈的国际竞争也意味着很难暂停AI发展，而政府有责任确保AI技术发展的同时，尽量杜绝AI被不道德利用的现象。

“AI教父”是谁？

•辛顿是英国出生的加拿大计算机学家和心理学家，目前担任多伦多大学计算机科学系教授。他以其在类神经网络方面的贡献而闻名，是机器学习领域的加拿大首席学者，也是加拿大高等研究院赞助的“神经计算和自适应感知”项目的领导者。

•辛顿被誉为“AI教父”、“深度学习之父”和“神经网络之父”。他曾因在深度学习方面的贡献与本吉奥和杨立昆一同被授予了2018年的图灵奖。

•辛顿于2013年3月加入谷歌，同时他创办的DNNresearch公司被谷歌并购。为了能自由讨论AI潜在风险，辛顿日前宣布从谷歌离职。