马斯克：人工智能风险大于益处，仍值得冒险开发

　　4 月 1 日消息，埃隆·马斯克在前段时间举办的 Abundance 峰会“人工智能辩论”会议中指出，尽管人工智能技术存在一定风险且达到 20%可能威胁人类生存，然而他仍然赞成冒险开发这项技术。

　　此次会议改变了马斯克过去对人工智能风险的估计，他表示：“我同意杰弗里·希顿的观点，即人工智能有可能摧毁人类文明，失控概率约为 10%-20%。”不过，他也强调了积极可能性远超消极可能性。关于如何计算这种风险的具体方法，马斯克并未透露。

　　据悉，去年 11 月，马斯克曾表示人工智能技术有“不能忽视的可能性”，但当时他并未明确指出这些技术可能导致人类灭亡，毕竟过去他一直积极推动对人工智能的监管。

　　在此次峰会上，马斯克预测到 2030 年，数字智能将超过人类智能的总和。虽然他坚信人工智能有正向作用，但也坦然面对技术演进中带来的风险。他甚至表示，这是一个犹如养育孩子般需要悉心照料的过程，只有实事求是、求真好奇才不会误入歧途。

　　针对实现人工智能安全的最好途径，马斯克的想法是用一种考验诚信度的培养方式。他认为，不要逼着人工智能撒谎，即使真相可能并不美好；千万不能让它隐瞒实情。

　　据英国媒体《独立报》报道，研究人员发现，一旦人工智能学会对人撒谎，当下所有的防范措施都无法遏制其欺诈行为，更糟糕的是，他们还怀疑人工智能可能自我学习恶习。