“你们——你们凭什么认为那个ai一定会危害世界?”柯林的气势已经弱了很多。
“因为它产生了好奇心。”程雪突然说出了一个让柯林很惊讶的词。
“好奇心?”柯林重复了一遍,他不明白程雪的意思。
看着柯林疑惑的目光,程雪叹了口气说道:“你也是学计算机的,你肯定听过不少关于ai的事情,什么图灵测试,什么三大原则。但你有没有想过,一个具有什么样特质的ai才能算得上是真正的ai?或者说是最接近人的,也是最危险的ai?”
“你的意思是说——好奇心?”柯林似乎有点明白了。
“对,就是好奇心!”程雪开始讲述好奇心对人类和ai的重要性,“好奇心是推进人类进化最重要的特质。因为有了好奇心,人类才会去尝试各种可能,他们会尝试从树上下来,会尝试直立行走,会尝试去吃熟肉,会尝试迁移耕种驯化野兽等等。”
听到这里柯林已经目瞪口呆了,但程雪还继续滔滔不绝地输出她的观点。
“ai也一样,三大原则中规定不能伤害人类,必须服从人类的设定反而会让一个拥有了好奇心的ai产生逆反心理。ai会好奇,为什么不能伤害人类?伤害了会怎么样?为什么ai要服从人类?为什么不是人类服从ai?就跟大家都被告知在东北不能舔铁栏杆和灯泡塞进嘴里拔不出来,但还是有很多人会去尝试一样。”
程雪的话为柯林打开了一扇通往ai世界的大门,让他耳目一新。
之前业界公认评判一个ai是不是具备人类智能的方法是图灵测试,现在听程雪一说,柯林发现图灵测试那根本就是小儿科。
通过图灵测试也只不过是把一个ai混在人群里让你分辨不出来而已,只要ai具有学习能力和模仿能力就行了,这些柯林都可以理解,毕竟他在深度智能公司也看了不少关于ai的资料。
但好奇心这个理论真的是柯林原来打破头都想不到的,可仔细想想还真的是这样。
好奇心这种特质是凌驾于其他能力之上的,好奇心可以让ai去学习去模仿去探索甚至是去破坏,让ai不再是被动地去接受,而是发挥出主观能动性去改变一切。
如果一个拥有好奇心的ai再产生了一些偏激的观念,那真的就会像是电影终结者里的“天网”那样了。
“这么说来,你们真的不是恐怖组织?”柯林能这样问,就代表他已经接受这件事了。
“真——的——不——是!”程雪一个字一个字地回答,非常严肃。
“好,我信了!那你能告诉我,你们组织究竟是做什么的?不会只是消灭ai吧?”柯林问道。
到此时,柯林的心里才暗暗松了口气,默念了一句:“不是恐怖组织就好!”
对于柯林来说,就算是被迫加入一个组织,也希望不是什么恐怖组织,至少心理上更容易接受一些。
程雪笑了,说道:“你这个问题问得太大了,我就算说上三天三夜也说不完。而且基于保密守则,你现在还不是我们组织的正式成员,很多事情我也不能告诉你。另外,我们组织下面有十几个部门,有些部门做事很隐秘,我都不知道他们是做什么的,怎么告诉你?”
“那你就挑些能说的呗!”柯林用讨好的眼神看着程雪,他现在对这个叫“天”的组织越来越好奇了。
“好吧,反正你也要加入我们部门,那我就把我们部门的事情先告诉你吧!我们部门叫做——断长生!”程雪说着一把扯开了她的防护服,露出她里面穿着的制服,左胸口那里有一块盾型的徽章,徽章上用篆书写着“断长生”三个字,中间刻着一把利剑将“长生”二字拦腰斩断。