谷歌前首席科学家:人工智能...

谷歌前首席科学家:人工智能武器比核武器更难控制

154346

(新加坡2023年5月2日) 被称为“人工智能教父”的英国计算机科学家Geoffrey Hinton最近辞去了谷歌首席科学家职务后表示,人工智能对人类的真正威胁并不是传播虚假信息,而是会催生出比核武器更难管理的杀人武器。

今年75岁的Hinton博士在谷歌工作了10余年,被公认为人工智能领域最杰出的科学家之一,但他最近在接受《纽约时报》采访时明确表示,其辞职的目的是能自由地评价人工智能带给人类的威胁,“我们很难防止坏人利用它来做坏事”。

就在OpenAI的ChatGPT聊天机器人于今年3月面世后不久,大约有1000名国际人工智能专业人士签署了一封公开信 ,警告人工智能“对社会和人类构成深远风险,并号召各国政府暂停研究新型人工智能科技。几天后,总部位于华盛顿的人工智能发展协会的19位行业专家也发布了一封公开信再次警告人工智能对人类的威胁。

被称为“人工智能教父”的谷歌前首席科学家Geoffrey Hinton 图片来源:《纽约时报》

尽管Hinton博士并没有在这两封信上签字,但他之后就向公司提交了辞呈。他在受访时表示,生成式人工智能会让互联网充满一批常人无法分辨的假照片、假视频、假信息;它还会颠覆就业市场,尤其会取代私人助理、翻译等按部就班的工作岗位……

但是他认为人工智能最可怕之处是会催生出一批高度智能化的大规模杀伤武器。那些从事人工智能研究的公司和个人拥有完全自主的研究,很少受到政策限制,因此人工智能武器比核武器更难控制。

他还警告说, “这种东西实际上可以变得比人类更聪明…… 但大多数人认为这还很遥远。我之前也认为这离我们至少还有30到50年、甚至更长的时间,但显然,现在我不再这么想了。”

他认为遏制人工智能的唯一的希望就是世界顶尖的科学家要站出来说话,呼吁科研机构在掌握有效控制人工智能之前停止发展该技术。

Hinton博士 从一个人工智能的倡导者变成了反对者并不是空穴来风。目前,人工智能在世界刮起的旋风着实让人们担心:除了ChatGPT,微软还发明了具有类似功能的Bing; 谷歌发明了Bard; 中国最大的搜索引擎公司百度创造出了名为Ernie的中国版ChatGPT。

随着人工智能的竞争愈演愈烈,Hinton博士感到了“情况不妙,非常令人害怕”。然而,谷歌现任首席科学家Jeff Dean在最近发表的一份声明里却显得非常乐观:“我们会继续负责任地从事人工智能的开发,我们在大胆创新的同时也会同步检测其各类风险”。