今天我们来做一个思想实验:假如你想亲自看看一亿年之后的地球是什么样子,你会如何去做呢?

现在能想到的办法是:设计一个休眠仓,保护自己,然后再一亿年之后醒过来

看似很简单的一个问题,其实没有那么简单。难点在于,休眠舱需要经受一亿年考验,要保证能源供给不断,要能经得起环境灾变,万一受损还得自我修复,数不清的考验它都得能应付,任何一点出错都会导致你醒不过来。

我们无法为休眠仓选择一个固定的位置,因为一亿年之间,任何事情都有可能发生,曾经的山川可能会变成大海,曾经的大海可能会干枯,陨石撞击地球,海啸地震随时都有可能降临,未来不可预测,千年一遇的事情其实每天都在发生。

所以这个休眠仓必须要能够感知环境,回避风险,让自己在动态的环境中活下来。说到这里,你应该明白点了。不动,能动,是从自然界复制而来的两个策略,前者是植物策略,后者是动物策略。

既然是能动以适应环境,那么就一定需要消耗能量,所以必须能够主动的寻找和汲取能量,并且根据资源来修复自己的损耗。

由于你是休眠状态,无法亲自指导睡眠舱,你只能在睡下之前告诉机睡眠舱:“保护我一亿年,然后唤醒我”。

你不可能提前为休眠仓设计好所有策略,因为未来你无法现象,你可以想象一下春秋战国和现在的区别,而这仅仅才几千年。所以睡眠舱必须能够自己制定策略,指导如何去寻找资源,如何转移到安全地带,如何预判和回避危险

挑战不止于此。未来一亿年不会只有你的那个机器人,可能有许多机器人,彼此竞争、合作。你的机器人得具备合纵连横的能力,需求层层嵌套。

如果你的机器人最终不辱使命,将你保存到一亿年之后,那么它多半发展出了自运行的能力。你在休眠中,不能实时控制,机器人在保存你生命的最终目标之下,根据环境变迁,会自己衍生出许多次生目标。这是天大的事:衍生就意味着脱离,脱离于当初的目标。

不忘初心,何其之难。允许机器有相机决策自主权,那么自主决策的进程一定会超越你的预想范围,这就叫失控

也许你已经猜到,这个睡眠舱就是人类自己。在演化中,基因创造出人来做它们的机器人,以保护它们在人类身体深处漫漫休眠。人是基因为了自己永生而造出来的机器人,但在基因不得不让渡的自主决策空间中,人类演化出了自由意志。

我们作为人的利益,与“造物主”基因的利益,走上岔路。从基因不得不赋予人类学习能力,授权自主决策的那一天起,基因失控,人类自立,就成为注定的结果

一语点醒梦中人,现在大家都在谈人工智能,既然人本来是机器,那机器何尝不能是人?

课程原文