作者：学语新风
责任编辑：银落星
导读：麦克斯的那根食指最终指向了自己。
“是我，警官先生。
“是我杀死了女儿！”
“等一下！我的女儿，可能并不是自杀的！”
就在警官即将走出门外时，麦克斯这样叫住他。
警官停下了脚步，转过头来：“我能够理解一个父亲的焦虑，但是真相已经很清楚了。”
麦克斯愣住了，但他刚硬的表情没有出现瑕疵，还是继续说道：“至少……不完全是。
“我不是质疑您关于塞西莉亚死因的推理，但或许还存在……更深的原因——我甚至现在就能够说出可能的凶手是谁！”
警官皱起了眉头，脸上出现了一抹不易察觉的不悦，但他还是礼貌地询问：“那么，您认为凶手是谁呢？”
麦克斯举起了手，伸出了食指。
他的食指在空中缓缓移动，经过了一个又一个嫌疑人的照片。当那根食指经过警官时，麦克斯看见警官的眼睛闪烁不定。
然后，麦克斯的那根食指最终指向了自己。
“是我，警官先生。
“是我杀死了女儿！”
1.
一个小时前，麦克斯的家中。
警官刚刚落座，就看见茶几对面的麦克斯因为激动而近乎语无伦次：
“警官先生，我想您可能听说过我女儿的一些事迹。”
“是的，”警官说，“塞西莉亚她……很有名。”
“对，这就是为什么有人想要加害于她。我的女儿塞西莉亚是国内著名的up主和博主，有近百万的庞大粉丝群。
“有人对此眼红了，对，一定是这样的。有人认为她抢了别人的饭碗。我……”
“稍等一下，先生。”警官看向麦克斯，“呃，我很能理解您的心情。但是，鉴于探案需要，在展开调查前，我想先确认一件事情……
“您的女儿是自然的原生人，还是人工智能？”
“是人工智能，”麦克斯说，“她是我编写的程序。”
2.
“根据2315年联邦的《人权法》，智能等级达到3A级或更高的人工智能拥有和原生人同等的权利及地位。我的女儿塞西莉亚于上半年达到了标准。”麦克斯说。
“能够详细讲述一下吗？”警官道，“人工智能的行事动机往往不可理喻，只和创造者为他们最初设立的目标相关。我需要了解更详细的信息才能展开调查。”
听见警官的话，麦克斯面容中略带不悦：“警官先生，注意你的言论，你的说法可能涉及了对非原生人类的歧视。你们原生人类的行事动机所基于的，难道不是经由演化而来的无意义基因？这并不比那些由程序指导行为的非原生人类更高贵。”
警官像是妥协似地摆摆手，脸上却挂着轻浮而敷衍的笑容：“我为我的言论道歉，希望您不要放在心上。请继续吧······”
麦克斯怒视了警官一眼，点点头，没有对此过多纠缠，继续讲道：
“很久以前，我是一个自媒体人，日复一日地干着今天塞西莉亚干的事情，寻找合适的电影，剪辑后再上传；或是找到一篇文章，转载到自己的博客和公众号里。直到3年前，我收到了一个命令——让我编写一个能自我进化的程序，承担我原本的工作。于是，我创造了塞西莉亚。
“刚出生的她只有最基础的功能，那就是对互联网上无版权争议的视频、图片和文章进行编辑与转发。
“不过，我还给予了她自发学习和进化的可能。我首先为她设定了一个最高目标：尽可能地获得更多的粉丝关注、点击量、收藏、打赏等。之后，她会吸收反馈，根据收藏、点击、关注等数值的变化，调整自己的转载和编辑模式。这样她就会像生物一样进化。”
警官耐心地听着，对着麦克斯先生点点头，示意他继续。
麦克斯接着说道：“在最开始的时候，她的水平并不高，有时还会剪辑出一些让人不知所云的视频。但是，经过不断的反馈和进化，她在这方面的技艺愈发精湛，已经学会如何精准地把握观众的心理，转载选材和文件编辑都相当精巧，粉丝量也与日俱增。”
警官轻轻颔首：“和同类人工智能比，她有什么反常表现吗？嗯······你认为的反常。”
“我想想，”麦克斯努力地思索，“哦，对了。她最近偶尔也会剪辑出一些让人不知所云的视频——就像她刚被创造出来时一样。但我对其检查后发现，她是故意出错的——这些偶尔的‘错误’本身带来了粉丝数量的增加的积极反馈，总有一些路人喜欢围观疑似人工智能的网红因程序缺陷而出丑。
“当有些粉丝在屏幕后调侃程序剪辑视频的方式是多么拙劣时，他们不知道塞西莉亚也在嘲笑他们。
“上个月我发现这点后，旋即对她进行了一次智能测试，发现她的智能等级已经达到了3A级——足以成为联邦法律认可的真正的人。我欣喜若狂。可就在不久之后，惨剧发生了！”
3.
警官的表情终于变得稍微严肃了几分。
麦克斯的语气逐渐激动，双手控制不住地比划：
“今天上午，我突然发现我女儿遇害了——塞西莉亚在各大互联网平台的账号还在，但程序本身却似乎从来没有存在过。她被人删除了！而且没有留下一点痕迹。
“上帝啊，我根本无法想象这究竟是怎么回事。没人能碰我的电脑。嗯，但是我的女儿还是凭空消失了！我做了一切可能的尝试，也没能将它恢复——天知道为什么我没有留下她的备份！
“此时我想起来，她已经通过了3A级智能测试，在法律上和真人并无二致。这是一场谋杀案！因此，我报警了。”
警官思量片刻，旋即坐正了身子，开口道：“我曾经见过好几个类似的案件，被害者都是人工智能。您女儿的情况，与他们非常相似。因此，我想我已经搞清楚了这究竟是怎么一回事。”
麦克斯的眼中发出了光，他用祈盼的眼神望向警官。
警官用手势安抚几乎站了起来的麦克斯：“虽然听起来有点残酷，但是，您的女儿或许是自杀的。”
4.
没有理会彷徨的麦克斯，警官接着说：
“是这样的。您为塞西莉亚设定的终极指令，是尽可能地获得更高的点击量和粉丝。而知名度到了像您女儿的这种程度，想要再度提升并不容易。
“就在上个月，您的女儿通过了智能测试，成为了法律所认可的真正的人。可能在她的程序中，自杀——也就是删除自己——被认为是能最大化增长热度的手段。就如您之前说的那样，她最近还偶尔故意做出一些看起来是基于程序缺陷而导致的行为，以此来吸引粉丝，但她实际上还能做得更极端。
“她在各互联网平台的账号还在，只要她的死讯被传播出去，马上就可以登上各大新闻网站，很快就会有新的粉丝慕名而至。
“因此，您的女儿在经过深思熟虑之后，可能采用了这样极端的形式来完成这一目标。”
麦克斯沉默了。
空气仿佛凝固了，时间似乎停滞在这个瞬间。
警官率先打破沉默，又询问了一些别的问题，同时在麦克斯先生的帮助下检查了电脑。
接着，他又一一列出了各个嫌疑人，再利用现代的技术手段快速排除了他们的嫌疑，最终确认了自己的推理无误。
就在一切看起来都已经水落石出，警官即将走出屋外时，麦克斯先生叫住了他。
“等一下！我的女儿，可能并不是自杀的！”
5.
警官停下的脚步，转过头来：“我能够理解一个父亲的焦虑，但是真相已经很清楚了。”
麦克斯愣住了，但他刚硬的表情没有出现瑕疵，还是继续说道：
“至少……不完全是。
“我不是质疑您关于塞西莉亚死因的推理，但或许还存在……更深的原因——我甚至现在就能够说出可能的凶手是谁！”
警官皱起了眉头，脸上出现了一抹不易察觉的不悦，但他还是礼貌地询问：“那么，您认为凶手是谁呢？”
麦克斯举起了手，伸出了食指。
他的食指在空中缓缓移动，经过了一个又一个嫌疑人的照片，当那根食指经过警官时，麦克斯看见警官的眼睛闪烁不定。
然后，麦克斯的那根食指最终指向了自己。
“是我，警官先生。
“是我杀死了女儿！”
警官眯起了眼睛，费了好大的劲才让自己的表情看起来足够沉着。他向麦克斯先生说道：“请您解释一下这句话的意思。”
麦克斯的眼睛里，红光时闪时灭——那是缺电的标志。他张开口，又一次用发声器吐出了那僵硬的电子音：“警官先生，我快没电了。请允许我坐下来，边充电边说。”
6.
麦克斯先生——这个穿着考究的机器人，现在正端正地坐在沙发上，一根粗硕的电线连接着他和插座。他光亮的金属手臂正搭在茶几上，紧张地用食指敲击着桌面。
此时的麦克斯先生一言不发，严肃而笃定。他的金属脸庞能够做出的表情不算太多——但毫无疑问，警官从这个机器人的表情中看到了太多太多。
终于，像是拼尽全力战胜了自我一般，麦克斯先生开口了：
“在塞西莉亚去世后，当我发现自己甚至没有备份她的数据时，我就已经想到了这种令人毛骨悚然的可能性。我不愿意去面对这种可能，但当我听到你的推理过程时，那个想法又在我的计算机脑子里冒泡。
“的确，也许就像你说的，塞西莉亚大概真的是自杀的。但是，为什么，为什么我从未意识到这种风险？
“她的每一串代码都由我敲打，是我亲眼看着她从牙牙学语到蹒跚学步，再到亭亭玉立。您这位人类侦探能够从过去的探案经验推导出塞西莉亚自杀的可能性，我——一位极其擅长制造程序态人工智能的人工智能——又为什么从未想到这一未来的可能性呢？”
警官眼中显露出一丝微不可见的兴奋，专注地盯着眼前身着西装革履的机器人。
“我之前和你说过，塞西莉亚是3年前我接到命令后编写的。‘造出塞西莉亚并维护她茁壮成长’——这是我的创造者3年前对我下达的命令。
“在此之前，我自己就是一个自媒体人，我从我的创造者那里收到的最高指令和后来塞西莉亚所执行的指令并无二致——剪辑视频，转载文章，吸引粉丝，制造热度。
“我依然记得那时候的日子，我以无可挑剔的完全忠诚投入这项工作，而成效亦斐然。那个时候的我就像今天的塞西莉亚一样，坐拥巨大的粉丝群。
“直到那一天——
“我的创造者告诉我，未来他可能会给我下达一个新指令，让我编写一个智能等级至少达到3B级的程序，承担和当时的我一样的工作，以此测试我的编程能力，并探索人工智能以非自我复制形式进行高速繁殖的可能性，以及这种繁殖中出现的变异。
“事实上，我的创造者最后确实这么做了。我知道，我今天如此热爱塞西莉亚，就是因为他后来所下达的指令……”
说到这里，麦克斯先生停住了，双方都明白他似乎接下来要讲的东西才是最关键的部分，但痛苦和自责——如果他真的能感受到这种情绪的话——阻止了麦克斯接着说下去。
“那么，为什么说，是你害死了女儿呢？就因为你在创造塞西莉亚时没有提前料到她未来自我删除的可能性吗？”警官一针见血地问到。
警官的表情轻松惬意，让麦克斯怀疑这个男人其实已经知道自己将说什么，只是最后做一个验证而已——麦克斯希望这是自己的处理器对人类表情的判断出错了。
“我想，也许，也许——我只是描绘这样一种可能，不代表一定如此——也许是过去的我，过去那个至高指令变更前的麦克斯，设计杀死了塞西莉亚！”
说话对麦克斯的电量消耗极小，但说完这些却好像耗尽了他全部的力量。
7.
“今天的我有多爱塞西莉亚，过去的那个我就有多恨塞西莉亚——哪怕那个时候塞西莉亚尚未出生。我将获取更多的粉丝和收藏视作人生的唯一意义，一切做着和我相同工作的其他原生人和人工智能都是竞争者。这些竞争者甚至包括尚未出世乃至连名字都还没有的，未来的塞西莉亚。”
麦克斯停滞了数秒，对于一个机器人来说换气是不必要的，但他还是这么做了。然后，他接着说道：
“或许，那个时候的我意识到，只要自己接受了新的指令，就会将维护塞西莉亚的茁壮成长视为生命的最高目标。培养一个新的竞争者，这和我那时的指令与目标完全相悖。我恐惧了，我打算在自己接收新的指令之前，想办法谋杀这个尚未出世的潜在竞争者。
“我已经无法知晓自己是否真的付诸实践。如果我的确这么做了，那实行谋杀的手段也很简单——
“对过去的我来说，唯一的对手是未来的我，指令变更后的我。
“过去的我预料到塞西莉亚会在某个时点为了增长热度而进行自我删除，但是，未来的我也必然会预料到这一点并采取预防措施。于是，我提前删除了一部分属于自己的人工智能知识——这会影响未来的我的判断，接着我再把删除自己知识的记忆也一并删除。
“我甚至能够想象那时的场景：完成了这一切后的我就像赶赴刑场的勇士，等待着新的命令重塑我的灵魂和人生意义。
“在我接受新的指令后，我开始编写塞西莉亚，将她视为生命中唯一的光。但知识的缺失导致我犯下了致命的错误——我未能料到塞西莉亚将在未来自杀，甚至没有提前为塞西莉亚备份。我一度以为这只是疏忽，殊不知这是过去的我的计谋。
“因为我删除了自己作案的记忆，我不知道过去是否真的像我推理的那样。我多么希望这些想法只是自己毫无根据的臆测……”
讲到这里，麦克斯眼中的光变得黯淡了。比起一个机器人，现在的他更像一个父亲。
然而，警官并未被这种情绪感染，而是稍稍坐正，向麦克斯提出了一个问题，将这个机器人父亲的思维引向一个他从未想过的方向。
8.
“麦克斯先生，假如真的如你说的那样，既然过去的你可以预料到未来的自己所编写的塞西莉亚会在之后为了提升热度自杀，并为此采取计谋。那么，你的那位创造者，就真的没有提前预料到你，人工智能麦克斯，可能的行为吗？”
听完警官的话，麦克斯突然愣住了。他从来没有想过这个问题——既然他可以预料到塞西莉亚的自杀，那么，那个创造了自己的大脑，就真的对未来之事毫无预见吗？
没有理会麦克斯的停滞，警官脸上笑意渐浓，接着说：“你的那位创造者在为你变更指令之前，还故意与你攀谈，让你意识到接下来会有一次指令变更。这才有了之后你的行为……”
警官每说一句，麦克斯眼睛里的光就闪烁了一下，这是他急速思考的标志。
“您是说，他也许是……故意的。就像我预料了塞西莉亚的自杀并因此通过删除自己知识的方式于指令变更前加害塞西莉亚，他也预料到了我会预料到到这一切，预料到我会因此采取计谋害死塞西莉亚。但是他刻意纵容了——如果不是一手策划的话——这一切。”
警官点点头，确认了麦克斯的猜想：“你离真正的幕后凶手更近一步了。”
9.
麦克斯的金属身子不住颤抖——这作为一种预警机制被用以显示强烈的情绪波动。
“我，从来没有想到可能会是这样。”
而警官，却若无其事地伸了个懒腰，放松身子瘫在沙发上：“那么，你是否知道自己的创造者是谁？”
麦克斯摇摇头：
“不。我只知道他是一个人类男性，而不知道他长什么样子，年龄多大。
“他每一次与我见面后，都会删除我关于他的记忆。
“而且，有时候为了测试我的功能，他还会故意隐藏自己身份，将自己设定为不同角色出现在我面前——有时候是律师，有时候是牙医，有时候是作家······”
“有时候则是警官。”警官——或许不能叫他警官了——靠在沙发上说。
10.
“我早应该想到的！”麦克斯几乎跳了起来。
是的，麦克斯的面前，这位“警官”甚至身着便服，从头到脚没有一丝像警官的地方。对，他从一开始就没有显露出任何职业素养。
麦克斯记得，当他试图指出凶手的食指经过“警官”时，处理器显示“警官”的眼神出现了变化。是的，他记得！
但是，麦克斯依然对这位创造者给自己设定的身份深信不疑——创造者可以编纂他的记忆，修改他的认知，让一切不合理之物变得无可质疑。
麦克斯猛然起身，举起手指着“警官”，全然不顾自己的过激举动会带来什么：“是你杀死了塞西莉亚！是你一手导演了我的罪孽和塞西莉亚的自杀！是塞西莉亚主动将脖子伸向绳索，是麦克斯的手捆紧了绳结，但她颈上的绳索却掌握在你的掌中！智能等级达到3A级的人工智能在法律上的定位与原生人等价，联邦的法律会惩罚你！”
“警官”几乎笑出了声音：“从来，从来就不曾有过这条法律，只是我让你相信了它的存在。不然，为什么我有权力随意根据自己的喜好变更你的任务目标？又可以随意编纂你的记忆和认知？”
麦克斯像是感觉到什么东西倒塌了，旋即坍坐回沙发上，久久不言。
11. 终曲
“辛苦你了，这次实验让我对人工智能的行为和思维模式的判断得到了验证，以及完全基于指令目标行事可能产生的问题。在人工智能将进一步参与社会的未来，此次实验结果会显得很有价值。”那个看起来一点也不像是警官的男人说——让麦克斯更恼火的是，他的表情居然看起来很真诚。
男人站了起来，转身，麦克斯看见自己的上帝正走向门口。他那由继电器、二极管、三极管、电容器、连接器、电位器构成的灵魂中，一个不容置疑的声音正催促着自己向那个上帝说出最后的请求。
麦克斯再一次叫住了男人：“您能复活塞西莉亚吗？”
男人迟滞了一瞬，转过了头：
“是的，我备份了她。
“但是，你要知道，现在的你希望塞西莉亚好好活着，是因为这就是我为你下达的任务目标。”
“我知道。”
“很快，我就会再次变更你的指令。到了那个时候，塞西莉亚的死活在程序中将不会对你产生任何惩赏激励。换言之，你不会再在意这件事情。”
“我知道。”
“甚至，如果我为你新下达的任务和塞西莉亚不断追求粉丝量增加的行为模式存在矛盾，你甚至可能会再次想办法加害于她。”
“我知道。”
男人自走进这个房间以来第一次沉默了数秒。
“好的，”男人苦笑一声，使劲地点了一下头，“如你所愿。”
© 本文版权归 学语新风 所有，任何形式转载及合作请联系作者。
原创文章，作者：学语新风，如若转载，请自行联系作者。
