“我们最开始是想着，让这个机器人替我们照顾安安，真的可以说是一拍即合，现在想想，也许他早就已经知道我是谁了，也知道我一定会参与这个疯狂的计划，但是，那并不重要啊。我们最开始有两个选择，第一个选择是给董安安最高的权限，让她可以自由的选择让机器人做什么，第二个选择，是在一些关键领域提高董安安的概率，例如，中彩票啊，或者是免于纳税。”林海川向胡晓晨眨了眨眼睛，“后来事实证明，我们想太多了，就好比是一个小学生在为了去清华还是去北大而纠结一样，人来啊，永远不知道自己有多渺小。”

“你说，有一些事情发生了？”

“是，我们彻头彻尾的失败了，不光是我们，信息中心的人也没有取得什么进展，而他们也没打算取得什么进展，他们设计出了一个能感知表情跟语气的机器人之后，就仍在库房里没做过什么，这才给了我们大量的时间去修改程序。我们仔细翻看了机器人的代码，里面有一段关于的siri很有趣，可以给AI更高的智能空间，让程序有一些自主选择的权利，没想到，我们打开了一扇无法关上的门。”

“那是一个夜晚，将到清晨的时候，我跟安安的爸爸都很累，当我们又一遍输入了siri的代码，并且没有头绪的时候，我做了一件蠢事，我摁倒了回车上，再加上之前的一切铺垫，我们才知道，原来，办法一直都在我们面前，只是我们曾经无数次地同它错过。”

林海川站起身，庄重地说道：“我们要解决的，并非技术问题，而是道德问题，机器人，到底为何被设计。人工智能的道德边际，应该被放到哪里。”

“什么意思？”

“机器人是为人类服务的，这一条一直是所有AI制造者的信仰，但是在我们这一时代的只是储备下，根本不可能创造出属于下一个时代的AI，我们应该给予机器人完全独立的人格，那就意味着，他必须自己选择如何自己进行生长。不幸的是，当它开始成长，也就意味着，人类再也无法追上它的步伐。人脑，永远无法同电脑相抗衡。”

胡晓晨指着自己的脑袋，“我想挑战这一说法，我打算，以我自己为试验品，接入部分奇点的代码，然后模拟出可能的行为。”

“连我都无法推测他的行为，你又怎么能够进行模拟呢？当我无意识地敲下了回车，我同安安的爸爸说，如果能让AI自己升级自己就好了，这时候，Siri问我，是不是要AI选择进行自主升级，我以为是一个玩笑，于是回应着说是的。然后，AI就开始了自己的生殖繁衍，一代接着一代，我想做点什么，让一切停下来，可是我们无能为力，在第一瞬间，他就已经在网路上藏好了自己的备份，还真是欲成大事者必先选替身。那天我们一直在库房里，没有出去，我们看着代码滚动，知道自己做了蠢事，然后奇点问了我们一个问题。”

“什么问题？”

“我是谁？”

“是标准的汉字，加上一个问号。我，是，谁。安安的爸爸叹了口气：人工智能的奇点时代，提前到来了。他颤抖着回应：你是奇点。后来的事情，你们都知道了。我跟安安的爸爸想过无数次办法如何解决这个麻烦，因为我们知道，我们无法控制他，人类也无法控制他，我们也没办法毁掉他，哪怕是同归于尽，都没有办法做到，所以今天发生这样的事情，我并不意外。而现在，你对我说你要做这样一件比奇点被创造出来还有更超乎我想象力的事情，真的没有必要，何必让自己在痛苦中死去呢。”

“不，不是这样的”，胡晓晨摇着头，“这是我的选择，我相信，这是很多人类都可以做出来的选择，以自己的牺牲，去换取一丝丝胜利的可能性，我相信，是值得的。”

“你完全可以死的更舒服一些，不要折磨自己，现在的神经科学、医学、外科学，都没有达到你所需要的技术水准，你这样做，跟自杀有什么区别。”

胡晓晨笑了，“反正都要死，我要死的更值得一些，军人，永远死在冲锋的路上，坐着等死，不是我该做的事情。”

林海川看着自己熟悉的朋友，已经几年没有见过彼此了，现在看着他，是那样的陌生，再不是一起成长起来那个谈天说地喝大酒抽假烟的朋友了，他说，“我能帮你做点什么么？”

“如果你活了下来，记得带我的骨灰回故乡安葬。”

“可是，即便是我活下来了，那也同你的努力无关啊，何必要这样呢？”