AI教父Hinton警告AI风险

一个研究人工智能四十多年的科学家，开始怀疑自己毕生参与推动的技术，究竟会把人类带向哪里。 英国《卫报》刊发了对78岁人工智能先驱Geoffrey Hinton的最新采访。 采访由《卫报》英国科技编辑Robert Booth撰写，发表于一部关于人工智能风险的新纪录片上映前夕。 这部纪录片名叫《AI：可能没什么好担心的》。 纪录片邀请了Hinton，以及他曾经在Google共事的同事、如今的Google DeepMind负责人Demis Hassabis，共同讨论这项技术可能给人类带来的未来。

Hinton是现代人工智能最重要的奠基者之一。 他在人工神经网络和深度学习领域的开创性研究，为今天的大模型技术奠定了重要基础，并因此获得2024年诺贝尔物理学奖。 2023年，他离开Google，开始更加公开地谈论人工智能可能带来的风险。 这让他成了AI产业最受关注的批评者之一。 Hinton警告，人类正在创造一种不同于自身的智能存在，并对AI公司的自我监管能力提出质疑。

他批评了Sam Altman、Mark Zuckerberg和Elon Musk，认为这些科技公司领导者明知风险存在，却仍然把商业利益放在更重要的位置。 他判断：“我们可能会发现，如果当初从未开发出AI，人类反而会过得更好。 ”Hinton认为，未来十年，甚至更早，人类就会知道自己能否有效管理AI带来的风险，并实现“极大富足”。 否则，可能导致贫富差距巨大、严重的文化问题、大规模失业，整个社会被撕裂。

Hinton不信任Sam Altman，认为让Altman掌管美国少数几家前沿AI公司之一，是一件“极其令人担忧”的事情。 他认为，AI模型在发布前应该接受独立监管，而不是完全由开发企业自行判断是否安全。 他解释说，还有数千名科学家也在从事神经网络领域的研究。 尽管不断发出警告，Hinton总体上仍然抱有希望，认为人类有可能避免灾难。