人工智能先驱对机器的担忧：可能威胁人类

登高的温石

　　今年一月，英裔美国计算机科学家Stuart Russell，主导起草并第一个签署了公开信，呼吁研究人员放缓研发强人工智能的速度，更加关注人工智能能够做什么、以及人类希望其做什么，将“保持人工智能互利”作为长久目标。此后，包括微软、谷歌、Facebook等科技厂商的顶级科学家均对此声明表示支持，著名物理学、宇宙学家霍金也在公开场合支持该言论，指出强人工智能对人们构成的潜在威胁。
　　事实上，这已经不是“人工智能威胁论”第一次被摆在台面上讨论。Stuart Russell作为权威的计算机科学家，对于人工智能的担忧显然是更具说服力的。他表示，在人工智能受到神经启发学习算法之后，一切均成为可能，事实上人工神经元在近日已经能够摆脱预设编程、自行判断上下左右来游玩雅达利的经典弹珠游戏，这是人工智能的重大进步，但同时也是极为可怕的。
　　QUANTA杂志针对这个情况对Stuart Russell进行了专访，下面一起来看看笔者节选的关键内容。
　　人工智能与人类的本质区别


　　Stuart Russell认为，计算机与人类的根本区别，在于分层决策的能力。作为一个人类，一生大约需要做出20万亿个肢体动作，而其中具有实际意义的，可能仅为13亿。简单来说，便是你在走路时，并不会去想先迈左脚还是右脚；当你下了飞机，开始寻找出租车，此时的行为实际上是经过思考的，人类的各种行动实际上都是由分层决策构成的。而计算机则不同，任何动作都需要实现编程、构成意义，并不能实现人类的水平。
　　然而，随着人类对人工智能的不断研发，所谓的“强人工智能”概念浮出水面，便是通过神经元等一系列模仿人类行为的机制，赋予其分层决策能力，从而形成自主思维。虽然目前的进展尚未达到理想进展，但如果人工智能不再需要预先编程、而是具有分层决策的自主意识，事情则有可能变得不可控。
　　“保持人工智能发展与人类互利”究竟意味着什么？
　　Stuart Russell认为，一旦机器能够达到一定的智能化程度，它们能够像人类一样提升自身能力、重新设计自己的硬件，这便形成了两种讨论：机器只会不断自我完善，而不会殃及人类；或是机器最终拥有排除异己的意识（事实上这种意识是人类的本能之一），从而对人类构成威胁。
　　那么，如何防止人工智能在发展中构成威胁，则是关键，也就是“保持人工智能发展与人类互利”的核心。然而，具体实施起来却拥有一些争议和难度。简单来说，如果通过代码、编程限制人工智能，那么它实际上仍达不到“像人类般思考”的程度；而如果没有一道所谓的“最后防线”，当人工智能不断进化、达到人类的思维程度，没有人能够确保它们不产生威胁人类的想法。
　　所以，Stuart Russell倡导的理念目前仅仅起到一个预警的作用，警告正在研发人工神经网络的公司如谷歌，要在每一个重大进程前谨慎行事，在没有找到有效的限制形式之前，切勿轻易走到不可挽回的地步。
　　看来，不论是《终结者》还是目前热映的《复仇者：奥创纪元》，都有可能在科学家们的不经意之间成为现实。人类应该在追求先进科技的同时，考虑到所有的隐患，避免发生破坏环境、再保护环境的愚蠢之举。  

登高的温石

腾讯数码

煤缘

登高的温石老师真给力！

煤缘

向登高的温石老师问好！

煤缘

登高的温石老师辛苦了！