新闻详情

马斯克:人工智能毁灭人类可能性为 20%,但仍值得冒险

埃隆·马斯克(Elon Musk)在早些时候举行的 Abundance 峰会“人工智能争辩”研讨会上

表明

,即便人工智能技能有 1/5 的或许性会对人类构成威胁,但其利大于弊,咱们依然值得冒险进行研制。

马斯克从头评价了之前他对人工智能的危险评价,他在研讨会上表明:“我以为人工智能有或许完结人类文明。我或许赞同 Geoffrey Hinton 的观念,这个概率大约是 10% 到 20% 左右。”但他弥补说:“我以为活跃的或许性场景要大于消沉的或许性场景。”马斯克并没有说到他是怎么核算该危险的。

上一年 11 月,马斯克表明这项技能失控的或许性“并非零”,但其时他并未断语失控的人工智能会消灭人类。

尽管马斯克一向倡议监管人工智能,但上一年他创办了一家名为 xAI 的公司,致力于进一步拓宽人工智能的强壮功用。xAI 是 OpenAI 的竞争对手,OpenAI 是马斯克与山姆·阿尔特曼(Sam Altman)一起创建的公司,但马斯克在 2018 年辞去了 OpenAI 董事会职务。

在峰会上,马斯克估量到 2030 年,数字智能将超越一切人类智能的总和。尽管他依然坚持潜在的正面影响大于负面影响,但马斯克用他在公共场所运用过的一些最直接的遣词承认了人工智能持续按当时轨道开展将给国际带来的危险。

“你培养了一个人工智能,这简直就像养孩子,但它却是超级天才,神一般的孩子——教养它的方法至关重要,” 马斯克在 3 月 19 日的硅谷活动上谈到人工通用智能时说道,“我以为对人工智能安全来说非常重要的一点是,让它尽或许地追求真理和坚持好奇心。”

马斯克表明,他关于完成人工智能安全最佳方法的“最完定论”是让人工智能以一种迫使其诚笃的方法生长。

“不要逼迫它说谎,即便本相令人不快,”马斯克谈到让人工智能安全的方法时说道,“这非常重要。不要让它说谎。”

据独立报报导,研究人员发现,一旦人工智能学会对人类说谎,就无法运用当时的人工智能安全措施来改变这种诈骗行为。更令人不安的是,研究人员还弥补说,人工智能有或许学会自己诈骗,而不是被特意教训说谎。

← 返回新闻列表