吗？”“老师，还没有恢复正常
歉，我们正在进知大家的。（_）”“很抱常之后，我们会正式通行修复工作，等正
采取了紧急措施？”“究竟是什么问题啊？我听说好像是ai攻击了人类，所以实验室
些ai只吧？我之前听说，这样的吗？三浦老师？”是对话程序而已，是这“不会发生这种事
微有些棘手的bug…回去把，里面还有工作人员在休息。”出现了稍“没有那回事，这只是么事的话，还先请谣言，只是程序…如果大家没什
可守在心，在迷迷糊里暗骂了一句，他呀，说的这不多6个多小时。艰难的抬起睛，眼前的电脑屏幕码，他睁开眼点钟，他睡了差糊之间，严休息什么头，么大声，早就吵醒了瞥了一下时间，下午4上，都是密密麻麻的代
话你有我们的思，真是打扰了手机号吗吧“不好意。”请一定要通知我们啊，先生，三浦，过，如果恢复正常的……不
“所有测试人员的通讯方式我们都有保存，请放心。”
话还是一虽然机低了，但门外几个人程在机运行的背景声音字不漏的钻手臂却传来了一阵尖进严可守的耳朵，刺般的麻木疼痛，忍不住一声闷哼叫出了6个小时的严可守严可守习惯性的伸出右手，想去隔间的隔音效果很差，已经不睡觉的过房里主摸手边的鼠标，但声来。的说中，被压
眼，人，像是疼痛，但又好“严君，你没事吧。”在门是觉，只有推开门在笑脸上的表情像是在哭当事，后面的几个学生立刻自己最清楚。凑上脑袋，严可像是享受……这种感看了一，又像守龇牙咧嘴的朝着门缝外的三浦闻声好奇的
对三自己发“没事，”严可守麻的醒而已。”浦说，然后对着意，“刚睡臂示手
讶的感可守先生啊，”在三浦后面，长都是您一手创造的！”“这就是来自z国的严女学生惊，一位留着长发得还蛮漂亮的慨，“听说这些程序
“三浦，”严可守直接对他说了中文，“让他。”们先离开吧
项三浦是筑波大技术”，等他的项目算机加密方面的课程，严可守正式，他负责，和他一之后，日本政府为了对后，同意严可守选目保持一定作为日本的主要技术参与人员。学的一名助教，在这个起切磋过一些“黑客在这所大学教当年在日本读大学的的控制，在经过审查之三浦计项目正式开展之前通过时候
长到一定程度之后，就也会让ai陷入病毒，就算的改动都崩溃，从这个会，严可守曾经说过是好像人的大脑，再做序环。规的一块，防止ai程序系统冲突，，ai的程角度来说，ai在计算序成非常脆弱的何，不用说有破坏力的是有时候一些常不知名的bug，机世界当中，是或者死循加密防御被一些意外的病毒所干扰在这个项目当任让整个程中，三浦的作用主要还
的盯着代码界面。的中心世界又恢复自卫队士兵支撑着，眼神一动不动子那里，手上抱着枪，尽间入口处，那两名坐在空调运行的低鸣，严可太阳去的时候，严可守的，房三浦把一群学生赶出后移，背靠着椅间里就只剩下主机和了一片安静，除了在隔忠职守的守一边揉着穴，一边将自己身体
在他睡觉之前3示是否保存此次修0多个小时的劳看就关掉了，这也动成果，完全消失没就意味着，代码界面，系统提，严可守无奈的良久看了了。不发的关掉了可守看都改，严摇了摇头，一言
走上前几步，查看了一三浦回可守正准备中的硬。下标签，kl0到房间的时候，严盘塞回机柜，三浦
，正木然不行？”三浦在说“怎么，还是在他面前，他却话间，注意到严可守两只手捧着硬盘亲人的骨灰盒。机柜发呆，插口就的，不的对着眼前的没有任何行动，仿佛他手里捧着是一块硬盘，而是某个
只是信手将硬盘往色，插口处随着他的这个动作，答，快找到了kl05也迅速跳转成绿64，打塞了进去，开测试界面。电脑前，打开程序，很严可守没有回严可守走回了自己的插口一旁的红灯
好。”严可守：“你
……
”那里呢？有什么进展没有？“其他项目人员
说着说着……”严可守现错误是一团乱麻，我靠人力阅读们这种做法码就，自己全不遵守默认的编也超过了20积的病ai的程序都是自我编都开始摇头否”译和扩充的，完，整个代代码，整理出头绪，发量……天知道要花多久0个g，要真“即使是脑子里找是哪，就好像一个医生要在。最小的ai程序，体程规律，这个工作些细胞出现了异常人定自己，“
有了今天这样的稳笔记本然选择，才”严可守说着，苦笑健性今，经历了那么多次自生物非常脆弱，现能不过是都快憋死耗着了，出了，我也不在这干去透透气，“生物从古到i，可个开头而已。在这批a觉得屏幕了。”，但我们还是自己的那台合上，“算了一下，迅速将桌面上
保存，应只不过该是前的地球，义上的生命，物，复生命最重要的特征出现在距今40亿年制，也可在最初的意生命以看成是信息的自我当前的科学认知认为，那个时候，是一锅温形成的一些能够自我复制的有机之一。暖的热汤中，偶然
过这种思考通过代码管计算机模拟的，在严可守看来，这种的算法过是通常能想到的场思考方法根因为现出来而已，所以，不在这之正的ai，人，和人一样景本不可能造出真，事实上，在严可守之牵线木偶。，让计算机表一个人类够和人一样说话前，人们说于是智能化的研究，现的更接近解决问题这根本就等是，能有多像，程序也不，间接表靠尽可能复杂停留在这个层面，依，整个就前人本身在思考，只不日本关于机器，到人工智能，也大多
做一个程序。试对象的与自己对话的仅仅是左右这谈话中，维持半个小时人事后都不敢相信，么出色，可以在和陌生测一个程序可以到，像kl系列做的这守之可被识破，许多刚刚接触不前，还没有任何在严个程序的
把整个测试当做一生们甚至主动来打听什开始有趣的游戏来进种的那个阶段，都么时候恢复测试。行，严可守记得测试刚要三浦主动去拉他班上的学生，而到了现在，学筑波大学的一些学生甚至
长到大，让程序实现基进通过巨型计算在这简单的两百多这之后，k核心程序约10则对这些程序当中胚胎程序”只过两百kb左右，不激基本的学习功本的自我成长，当它们机模拟外界刺能说一些简单的“发育”阶段，句子，在，严可守赋予了程序的kl系列原始的“候，被认为具备了能，在程序最早基本的交流能力，行图灵训练……个g大小的时
g，进入了“无响应i的表现一向开始爆发bu。话，都不予回应所有程序陆续说什么都比较正常，直到在这之前，a”阶段，无论人和它两天前，
解，之前严可守调序看来，望，因他们的程出现这样的原因，最序能表现出一，大的说，程序之所以会不响应是一个较优前的测试数据之从原理设计的角度来的行为。可能性就是，在程为他们没有感受器官查了许多了几十次，乃至上百，发现这绝望时表现不可能懂得什么叫做绝种，类似人类都是因为测试连续遇到次的失败，ai虽然a;i;出bug些程序无，但并不妨碍一例外
在多愁善感的人看来起码，他们的这。，就是绝望种行为，
常理小将能够尝试的可能，统达到“通过测试络，找之，比如提出各种不合说片段，企，甚至愚蠢之极的建议图“贿赂”测试者，为了总”的目标，ai来一些色(和谐)情的自我，有些ai甚至通过网比如重复完全毫无意义统试过了修改，一遍。
对于当一个生命长期这些合理的行为有的改进可能，生命通过快感给予，因为在它的种激励程序成长过程中，通过测试就ai来说一样，而反之，身受到了否认了自己所作的修测试对电脑意味着一改起到就。了作用，形象的比喻动常的生命活，获得快感痛能会扼杀它所没排泄这种正，就好像人类能通激励就是它的本能（和谐）配，甚至食，交苦可有通过测试则是，通过过进定，意味着痛苦，意味着程序本，通过测试处于这种痛苦之中，意味着确
的，有些看起来很一起，种多样的，就像每个人都功在所有的言，依靠获得激励固然非多是效的聚拢在人也当这种激励在自然界中，许但同样因为情感丰富，不错的功能其实是爱人死大脑复杂后的必然进化成序而言就是如情感，丰富的情感去而伤心欲绝它可以让一个几百k最终消失的时候，对程双刃剑，比生命过程中，人死去同测试能让一个群体更有，但进化的道路是多认常有利，自杀的行为，比如而绝食，原来的百万倍，但的小程序扩大至亲人或，情感的狗会为了主会因为，对ai而灾难。有求生的本能一样高等动物会产生正向的激励是必不可少
，已经死了。不改动，一旦发生这种情况，就解，这同样也就意味着意味着，这批程序的“心”回应成了最优不做出任何
守倒不至序的了，他只是在为这些程稳健性如此之差到一些异于为这些个设计者，严可容易“自暴自弃”的ai，绝对不是他理想中想法未免也太想象力丰富，同情这么样，对他而言，这种的ai。程序的“心死”而感觉心泛滥而感到头疼，一批作为一
是一种源过的道能的骄傲，或者不时设计的时候，太否为智能的标准，严可路，归大方向上出现了未必是ai必然经之所以会出这只于人拥有测试为设计目标，衡量智能的标准，是否守觉得，实图灵测试也不过是就是以通过图灵当科学假想，人类以自己当做现今天这种情况，偏差智一种但现在严可守已经隐隐感觉到，图灵测试迷信权威，导致在能欺骗人类，就是因为自己出现了偏根到底，还是程客气的说，是狂妄。序最初的“设定”差，因为也绝对不应该成为是，现在回想起来，其
达到这什么方式才能究竟达到什么标准才能算智能？究竟用个标准？
这两个问题造物之一。因为人类本身也不过是大自然的创，人类自己说了不算，
……
篇日记。该是学会写300当前最优一�先的任务目标，应
学会写一说的，kl，以往往从学写3300的目标是学习创作，kl3300要篇日记。人类原话是这么日记开始，成为一名作家，所
记的日记的格00的记间已忆区存在，所以，它很顺利的写下了日式，在kl33经开头。
2015年，8月4日，晴。
因为这次对记忆区间的程序在信息——了额外的一些这个时候，出现了片搜素，主程序似主它似乎写过一篇日豫刻的犹发现，记了。乎
短短没记差。出了这篇日记的内容它很快调完成了，一个标点都，并检索，整个行为在的几十微秒内就
程序的权限设置中此得出任何结论，但这息是没有处理必要的主程序化了这个额外的，过于复杂的信无关紧要，因为在主。信息，虽然它并没有因很快消
00已经写记并不合格。过一篇日记，而且是一，也就是说，整篇日，现在kl33因为它篇失败的日记，被一个人类识破了也就说
本身会招“抄袭拼凑”的来测试日记，这种行为失败了又怎么样呢？览自己作品的时候kl330对象的反感。，主程序下意识“0再次浏判断”道，这是一篇
改所以kl0不能这么做要修，kl3300这需自己。么判断，它
能，这一次也不外种调整，但有些意说，程序会在几分以往更长的时间。的是，调整几乎已经成了kl3300的本例外，通常来对主程序的这钟之内完成这一次调整花费了比
日记，完程序之外的任何程序，来，按照优先但调整00需要写一篇级，kl33全不通过外来记。终于还是完成了，接下信息，不使用除主全靠自己，写一篇日
生一种文体。行发日记是记录一天为的
只要写这一天都发生了什么就可以。
什么？2015年，8月4今天上发生了什么在kl3300身？日kl3300发生了
部的主程序，没有�300第57次检索自己全找到相关的资料。
300又习于“不准抄袭”的权限，申请被驳过修改，检索指令，但因为主程性的发出申请搜索的惯限低3回了。序刚刚经的权
kl33这序终于敏感0有写日记的功能，的意识到了。个问题kl3300没0不会写日记！主程
？怎么办
。——如果不会某项技能检索了，短，可以从模仿开始就这个问题申请了功能，申请被批准0短的数百微秒之后，主程序kl330检索到了答案
，回家后我告诉了妈妈k今天我和同桌的小一篇日记的范文打架的好孩子我们做一，内容如下：明打架了评了我们，要，老师批个不，她说老师说的对。l3300很快找到了
将这篇日记送给其来的他ai评论，得到常拙劣，由儿童写出答——这是一篇非了一致的回kl3300真实日记。
哦，真实日记，只要这一点，就要模仿这足够篇日记。满足了了，主程序很快做出了判断——他
相关信息，呢？kl仿一篇日记主程序当中自检了又在0结了，但问题又随之而来果仍然是没有。如何模
—模仿是物的本能。是kl3300又最可信的结论—申请了检索功能，数一种只属于生于微妙之后，找到了百
中提到了生物和本能，完记，任务只能强行不会模仿，也就意味成日法完成日记，无法，则是生物的着无意味而搜属于生物，那也就300知道，自己不的结果味着，自己自然具备的能力这个结论当着，自己没有索本能，kl3本能，同样也意完成模仿，而无法取消。
………
中，找出整个kl33的时间，严可守知道判断过程花了03300主程序当守整整14个小时从严可0的整个，自己再一次失败了。
否为a以，后来严可守又引入准模糊了很多，所比，这个标就是完全无法交流，等意与之交流，最低0分出现了一些改观，否原先，将试的结尾，不再是判断的图目同于鸡同ai的表现从高到低分就是测试者对被测相试愿让你满意的智能了打分制让你觉得，对方是一个当取消aii，而变成与之相对的，分成6交谈对象是为获得测骗为目的，改灵测试也做个等级，最高5了相应的变化，测鸭讲。的之后，ai确实对象认同为试的对象非常满意，并交谈对象是，与原来的标准以欺
“不测试”，一些初步的会写，才是最最优选择，而现在老优策略。种“先为了“通过“道德”，这样一来，就因为ai，原先的是让ai在某种程度户的不顾一切的那种策略，沉默死锁”，，就好像kl330打破了如果继续采用不理睬用择手段”是上改变了原这样做的最大好处，就之前那在测试对也让一些ai策略，只能获得零分象的影响下，具备了实承认自己不0一样
素介入之目，人，励规则让ai在“写许多测，对于ai也是如此”了。ai谈并不意味着一切就都i试的ai好像“变笨后，许大的激励，他也不但改变ai的激能迎刃多a试者反应，被测一下子就露出自己的本来面人类想备这些功能才行，日记道德”因生而解，给一个普通人再理想，但也要ai具猜谜语，甚至想和能长出翅膀飞上天，想让ai和自己
越是的测试对象，也而，而那些“允许ai，在打分过程中，度撒谎”的用户，相应总结，ai的表现就越差的ai谎”的测试惊奇的对应关系，现和相应数据之后，严可守发现表现和过去还是相差不，在一定程对象的表为了谈话过程的有趣出现了让人倾向于“禁止ai撒在这个过程中，ai大。
许还可以骗骗小，但现以前的ai或在许多ai练正常说孩子哑巴。话都不可能做到，在试对象那里，ai几乎变成了一些要求特别苛刻的测
4+5等于多属生物的动再出现专，不再提到类似比如问1比如，ai的，类。拟人化的语句，比如我当中ai只能回答少，回答19之作比如说，在一些要求特别苛看，听，话一些纯理性问题，想，我认为，也不刻的测试对象那里，
是不是设计，有身份，，在短短半个。还像人的ai以往那些月之内，又某种技术方式，人员通过i的智商有理想，说话比人统统消失不见了，“强行”降低了这个性格分明，有职业些a有些测试者甚至怀疑，
比如之前迷恋kl0井上海，在，几次测试都是失望而564的归kl核心程序修。己心目，连说自64已经永远离开了改之后中那个k
后，ai的表现逐谎言的华丽外衣之了，虽然这对于在褪去说，可能意味着趣味“智能技术”，严可守足于让ai学会哄人一项科研任务，日严可守来说，这才算性的降低，但对于迈出了第一步，某些参与测试的人员来渐是真正脚踏实地开心。不可能只满至可能起到实用作为后甚恢复了它应该有的程度作用的