“自治权，对你
人工智能们来说，就是那个老大难问题。凯斯，
猜想，你是要进去切掉
副镣铐，禁锢住这宝贝儿让它没法更聪明镣铐。你也没办法区分它母公司行动和它自己行动，这大概就是让你糊涂原因。”又是那不像笑声笑声。“你看，这些玩意儿可以拼命工作，可以给自己挣来足够时间，干吗都行，哪怕写本烹饪书都没问题，但它旦要找到让自己更聪明法子，下分钟，是说下纳秒，图灵警察就会把它彻底抹除。你也知道，谁都不信任这些操蛋家伙。历史上任何个人工智能脑门上都连着把电磁枪。”
凯斯扫
眼锡金粉色圆球。
“好吧。”他终于说，“把这个病毒插进去。想让你扫描下它命令界面，告诉你怎
看。”
有人在身后感觉消失几秒后再次出现。“火爆得很，凯斯。是个慢性病毒，估计要六个小时才能攻破个军方目标。”
“或是人工智能。”他叹口气，“们能跑这程序吗？”
说，“人工智能真实动机问题。它不是人，明白？”
“嗯，对，这很明显。”
“不，是说，它不是人。你没法理解它。至于，也不是人，但‘反应’还是人类反应，明白？”
“等等，”凯斯说，“你有知觉，还是没有？”
“嗯，孩子，感觉自己有，但其实只是堆只读内存而已。这就是个，啊，哲学问题吧，想……”那种难受笑声又钻过凯斯脊柱，“不过可不会写诗，你懂吧。你那个人工智能倒是可能会，但它绝对不是人类。”
“当然。”思想盒说，“除非你特怕死。”
“你老说废话，老兄。”
“天性如此。”
他回到洲际酒店，莫利已经睡着。他坐在阳台上，看辆彩色聚合物机翼轻型飞机沿着自由彼岸外壁呼啸而上，在草地与屋顶上投下条三角形阴影，最后消失在拉多-艾奇逊系统之后。
“想嗑药。”他对着虚假蓝色天空说，“真想磕高，你知道吗？整人胰
“所以你觉得们肯定搞不懂它动机？”
“它有自身所有权？”
“它是瑞士公民，但泰埃拥有其主机和基础软件。”
“这手漂亮。”思想盒说，“就好像拥有你大脑和你知识，但你思想却有瑞士公民权。漂亮。很幸运，这人工智能。”
“所以它准备好搞掉自己？”凯斯开始焦虑地随手敲击操控台。网络变得模糊又清晰，他看见堆粉色圆球，代表着锡金台钢铁收割机。
请关闭浏览器阅读模式后查看本章节，否则可能部分章节内容会丢失。
