因为之前对人工智能相关问题有些兴趣,写了两篇文章:
关于人工智能的一点想法
最可怕的并不是强人工智能

在写第一篇文章时,我对人工智能总体上是比较乐观的,而写第二篇文章时,因为想到了一些之前没考虑到的问题,变得比较悲观。但当时我一直在想这样一个问题,机器是否可能比人类更聪明?因为没想清楚,我绕过这个问题,文章写得也比较混乱。

这几天又想了下这个问题,有了一些新进展。

当一个人和一台机器同时解决一个问题时,如果机器能在很短时间解决,而人在可接受的时间内都解决不了,那是否就解决这个问题而言,机器比人聪明呢?我们知道就现在的电脑而言,在解决很多数学问题上就是这样的,比如解偏微分方程,或者只是大整数的因式分解。但我们恐怕不会因此认为电脑比人聪明,更不会因此就害怕电脑。

当有人说他担心将来的有一天机器比人聪明时,他想表达什么呢?有些人害怕和自己聪明的人共处,因为害怕被算计。那是不是也是害怕被机器算计,但这前提是机器想算计人。但就弱人工智能而言,机器的目的和行为是人决定的,所以这是不可能的。就弱人工智能而言,不存在机器和人谁更聪明的问题。就这个问题,我之前犯了想当然的错误。其实想到这里,弱人工智能问题就完全没有神秘面纱了。

那么是否意味着发展弱人工智能就没有什么风险了呢?我想也不能这么说。

我们知道和人类自身相比,现在的机器在某些事情上是非常擅长的,而在其他事情上并不擅长甚至完全无能为力。也许将来有一天,看起来机器在各个方面都完全超越了人类,但即使这似乎并没有强人工智能实现出来那样遥远无期,但至少在可预期的未来是没有希望的。而在这期间的较长时间,机器一直是“偏科”的。

或者我们可以换一个角度来看这个问题。每当机器在做一件事或者在解决某一个领域问题的能力超过人类自身时,人类(以机器作为工具)的这方面能力就得到了一个很大的提升。但这样的发展并不均衡,也许在某些方面飞速发展,而在其他方面原地踏步。而这是否会导致人类在处理一些重大的事情上更容易失误呢?

这个问题我还没有想清楚。(待续)