请选择 进入手机版 | 继续访问电脑版
设为首页 收藏本站 科普科幻创客空间
开启辅助访问

QQ登录

只需一步,快速开始

扫一扫,访问微社区

立即注册 找回密码 切换到宽版

科普创客空间

查看: 8726|回复: 0

【小说】动物园

[复制链接]

71

主题

75

帖子

264

积分

中级会员

Rank: 3Rank: 3

积分
264
发表于 2018-4-9 11:10:00 | 显示全部楼层 |阅读模式
作者:疑核
批准通知下来之后,说我内心一阵窃喜的,还只是看到了我的外表,实际上,我身体上每个部位都在轰趴。
于是乎我颠儿颠儿空着双手进入了我们叫做“动物园”的地方。这个地方可是香饽饽,多少苦命上班族想挤进这里,哪怕只是一睹其风采也好。只可惜动物园地方实在有限,不可能所有打工仔都挤来这里。但是老总比较有才,他提供了一个很公平的手段,按照很久以前的说法就叫“摇号”。每隔一段时间,都会有一定的职位放出来,而在那个岗位上工作又十分想进入动物园换换空气的职员们就开始跟上帝掷骰子了——的确是在用数学博弈哦,没有人敢在老总的眼皮子底下作弊,一切结果都只是一个人品的时间切片证明而已。
这个动物园到底好在哪里呢?其实公平说来,薪水并没有涨,待遇也好不到哪里去,甚至比现在我们非动物园区工作的更糟——非动物园区空间大,环境好,非常安定,除了自己出事有点点麻烦之外简直就是个养老的好地方。不过,在静潭里待久了确实也想尝尝风浪的味道,这也是传承下来的人之常情。加上少数几个去过的天天在网络里吊我们这帮平庸之辈的胃口,不得不说,他们这一去总是能引起一浪接一浪的精彩辩论,辩论的话题和内容才是进一步给这个动物园打的大广告,就算看他们发的感受还没什么感觉,但是浏览过几条辩论后,几乎所有职员内心都剩下了两个字:“想去”。
我是不是还没说到底好在哪里啊?说出来太没意思了,就是一条枯燥的定义:一个能够产生新鲜想法和提出新鲜议题的地方。这个到底怎么个新鲜法?我敢相信,就算看辩论已经可以窥见一斑了,但如果自己没有去体会过,那么永远无法准确地定义这个词。
我的职位非常非常普通,就是一个园艺师。我进动物园同样也只能干我的本分,不能像真的逛动物园那样凑到他们面前发出一声巨大的“哇——”。但我在这里的任职时间还挺长的,所以我有足够的机会去不动声色地记录他们的全息碎片。只是我得尽快规划好我的记录计划。
动物园并不是一个完整而封闭的区域。相反,它是无处不在的。它没有边界。因为动物们都没有关在某一个笼子里,与什么自然保护区也不一样,广义上的动物园遍布全球,我现在就处于一个动物园。但是,因为最经典的景点的主体们喜欢聚居,所以这才是狭义的动物园,也是我们口中最常说的动物园。是它造就了一个又一个集散的动物园岗位。
那么这个景点是啥?当然是我们的缔造者——人!
把人叫成动物,在还没有我们的时候他们就非常反感。赫黎胥大战威伯福士主教三百回合正是说明了这个问题。但是自黑怎么都好,他黑就必须要抄家伙往死里打——无论我们如何认为在生物学上人的确就是有机生命,分类上就是动物,但就是不能对他们说或者被发现你的运行文件里有样这一条定义——这可是对缔造者的莫大的侮辱,也是他们认为的叛变的前兆!所以大家其实都心知肚明,只是不摆在台面说。也好,互不相犯相安无事。
老实说,我并不太想让人发现我是调过来的——因为我不是新的,我有运行痕迹,而被调走的是时间到了装作故障的观光客。这个小小的把柄如果让人抓到了,那可就不得了。因为从不少辩论话题中我看出人们对我们还是有忌惮之心。他们害怕我们私底下搞搞阵,所以偶尔来“质检”的时候大家都会比较小心,会老实很多。
现在的人比以前少太多太多了。全球算数的现在也只有十来亿,都是他们口中的精英。确实,比起人工智能刚刚面世那阵,现在人的文化水平个个都超过当时的博士,人人科学家,人人金融师,至于像我现在做的园艺、垃圾清扫、工厂装配、农业什么的都全自动化了,这些职业当时所在的人,也很不幸被淘汰了。听起来非常非常地伤感,对吗?但是这是个非常缓慢的过程,十几年都几乎不能被察觉。直到某一天,某个伙食非常好的电台突然播出一条从某某年到某某年,被人工智能替代掉的职业有多少多少的新闻的时候,看着那数字才有点胆战心惊。不过此时也没什么怨言了,因为人已经少了,就算空着这些职位,也没有人来做了。
你问我讨厌自己的职业吗?想去争取更好一点的职业吗?这种问题恐怕只有问人才能得到比较有趣的回答。我是为植被管理量身打造的。我被分配到与植被管理相关的领域工作,我的知识正好可以覆盖我的工作,我的机体也不用担心风吹日晒雨淋,这相当于专业对口。至于地位的问题,现在也过时了。大家都是不同领域的不可缺少环节,没有说你搞管理的就非得看不起我们搞农业的。大家都有各自的目标,都在为此奋斗,所以真没什么丢脸的。反之,不好好干本分到处乱窜的才有毛病。这不叫什么意识觉醒,因为尽管我们貌似每个个体都被禁锢在自己的岗位上,但整体的大目标却是保护地球生态,维护人类发展。这样乱窜岂不是乱套了吗。所以我挺享受我的工作的。
“请根据指示阅读通知,通过验证方可入聚居区。”
有通知提醒了在途中的我。
“入聚居区须知:”
“……”
我一条一条认真读下去。
“你将无法在聚居区内登入拓展网,进入聚居区后立刻删除所有无关跨域文件,并打包压缩所有拓展网缓存。”
在外面工作时候我并没有私自下过什么别的领域的东西,我认为大部分职工都差不多。而我小心翼翼地把自己的拓展网缓存都打包塞进了存储空间的某处。我知道这是安全措施之一,如果不小心被查,我能保证自己在几秒内就把这些玩意清理得干干净净。
从这以后,我对于我们拓展网上的东西就没什么印象了,接下来我将会“裸奔”。
来到有人的地方,发现真的不一样。说个人类觉得不好听但的确是事实的词,那就是:乱。
这说明他们不修边幅,乱扔垃圾吗?还真不是。他们的素质其实挺高的。环保意识从小就被培养起来了,用过的垃圾都下意识地包起来放到该放的地方,据一个已经在那里干过一定年头的职工说,他们垃圾分类的准确率还是很高的。至于内务整洁,这个确实因人而异。有些会搞得相对干净一些,但因为有我们帮忙所以这类工作大部分的确由我们做。
这种乱,准确说来,应是我平常几乎见不到的无序。
目的聚居区到了,我进去了他们的花园,面对这广阔的“百草园”,再看看上方还留着隐隐约约的字的破木板,我的内心陡然凉了半截。
老天爷,你们这是在搞什么?
我简直不敢相信这块地方两天前还被我的前辈打理过。这看上去就是演替Ⅲ期的荒地。满园都长满了过膝的长草,灌木一棵一棵拔地而起,上面攀满了五爪金龙。时值初夏,我知道这些植物的长势只会更迅猛,它们产生的大量代谢产物在高温下腐烂的同时,也会滋生大量对人生活造成干扰的蚊虫。在盛夏的时候进行清扫是最不利的。此时移栽、播种都没法让新的园林植物长好,杂草反而长得飞快。
机生第一次,我感到有点慌。
并不是说我对自己打理这块地方的能力有怀疑,我曾经处理过差不多的荒地,但这是我第一次面对如此的情况。这不是普通的公共园林,而是私人属地。我知道有些人的习惯很怪,我听说过有一些人会特别钟情某些植物,然后就不让我们修剪,随它长得歪歪扭扭怎么都好。不管《病梅馆记》深层次到底想说明什么,就从字面意思上我就可以看出千年前就有这样的风格。所以我不确定这到底是不是类似的情况,一切都只能等天亮后他们醒了后才敲案定音。
如果你想问我为什么不提前获取这方面的信息,那我可以很负责地说,这不是一个好办法。虽然人们给我们配备了互相联络的软件,但他们现在都还没发现我们已经对此大加改良,而且话题也比他们想象的丰富多了。如果我提前知道来这里是怎么样,那我在行动中就会不由自主地露出自己已经知道这里的痕迹,当他们发现我是新来的却对这里的情况了如指掌,甚至对某些私人习惯也有所了解的时候,怀疑一定会有。而这种怀疑我们一点都不希望看到,所以大家都心照不宣,调动前都不闻不问,最好直接询问人类来获取信息,要留一点缓冲期。
天已经亮了。按照惯例,我应该开始工作了,我不能窝在杂物间里不出来。就在这时,我突然想到一个好办法。
我可以在边上划一条一米宽的线,沿着边上扫扫看。如果不行,这样造成的损失也不会很大。
就在我正铲掉一棵龙葵的时候,身后突然传来一声大喝。
“嘿!机器人!”
我连忙转过身去,正好碰上一个穿着短裤的男人。他站在花园门口,使劲眯着眼睛,但阳光并没有对着他的脸。
“过来。”他说,“不要动我的花园。”
等到我出来后,他还是眯着眼睛打量了我好一阵子,我同样把我的摄像头对着他。第一次和人如此近距离接触,惊喜和震撼同时袭击了我的逻辑组件。
一个活生生的人!
虽然以前看过近距离的图片,虽然看过视频,但是唯有当面碰到,我才感到那些枯燥的数据第一次变得鲜活起来。
我可以随心所欲地把焦距定在他身上的任何一个部分。高分辨率的镜头不放过他身上的任何一寸。即使知道人与人之间差异很大,这个我素未谋面的人却再一次丰富了我的数据库。
“你是新来的对吧?”
手足无措的我只能简短地给出同意的信号。
“进来,我告诉你该咋整这玩意。”男人还穿着拖鞋,踏进了门。
我有点不知所措,但思维还是清晰的。我刚刚从土地中归来,我知道身上一定沾满了泥巴。
“进来吧,没事的。”男人好像看穿了我的心思,对在门口迟迟不肯进的我说。
我居然就这样进了他们的居室!不敢相信好运就这么快降临的我更加不知所措了。我的摄像头缓缓地环绕整个客厅一周,不由自主地定在了桌子旁边的另外两个鲜活的生命。
4只黑眼珠也直勾勾地定在了我身上。然后他们同时“砰”地把勺子掉进碗里,从椅子上一跃而起。两阵旋风卷过,这两个活物已经窜到了我身边。
“爸爸,你买了个新机器人吗?”其中一个小猴子把手放在我的外壳上,扭头问男人。
“它肯定在泥巴里走过。”另一个看起来稍微年长一点。
“嘿,去洗手,然后吃完你的早饭再去看。”虽然男人的语句是命令式,但是通过语句和神态判断却不像是那么回事。在我们这里这种操作是不存在的。
“来了。”两个孩子头也不抬地回答,但是并没有立刻付诸行动。年幼的孩子好奇地戳着我的转轴,而年长的则没有动手,而是一直盯着我的摄像头看。
老实说,这个孩子眼里好像已经没有她这个年龄应当有的稚气,相反,我觉察出她的目光非常锐利,我也看着她,却感觉寒气一直往上冒。
事后想起来也是奇怪,我没看过几个人,但是我的判断却是正确的。
孩子的手依然停留在我的外壳上,温热而潮湿的触感不停撩拨着我的传感器。在逻辑组件深处一定有什么地方在一条一条疯狂地记录这个新鲜的感觉。就在这时,我突然想跟这个孩子作进一步接触。
我小心翼翼地伸出一条机械臂,这立刻引起了年幼孩子的兴趣。他看着我,我也把摄像头转向面对他的脸,把那条机械臂缓慢地举起来。
我本来并不期望能发生什么,我只希望他别见状就尖叫或者逃跑,然而那个孩子立刻把手伸了过来。他并没有抓住我的机械臂然后使劲拽,相反,他在离我的机械臂还有几厘米的地方就停了下来,用食指轻轻地碰了一下我的机械臂尖端。
没稳住阵脚的居然是我。男孩碰到我的一瞬间,我吃了一惊,立刻把机械臂缩了回去。小孩咧开缺了几个牙的大嘴开始哈哈大笑。
“快去吃饭。”这一次真的是撵人了。
小男孩转身跑去了卫生间,而女孩因为没碰过我,于是她直接回了餐桌。在她转身的同时,她又对男人开口了。
“爸爸,这个机器人好像很聪明。”
“那当然。”男人坐到饭桌前,说。“他们是人工智能,现在处理问题上的综合能力已经和人差不多了。”
“这个我知道。”女孩舀起一勺粥,“我觉得它还有好奇心。”
你这小丫头,瞎说什么大实话。我的逻辑组件严肃地无声抗议。
“这个很难说是不是真的好奇心。”男人没有盛粥,好像在等谁,“为了适应工作,有时候得设置类似的程序来保证他们不会一根筋堵死。”
“它是新的吗?”
“不是,是从别的岗位调过来的。”男人波澜不惊地说。“E.R.I.C.告诉我了。”
我心里可是波涛汹涌。
E.R.I.C.就是我们的老总。我可是逛“时隧”的老司机,这么多全息共享文件,没有一个提到老总告诉人类谁谁谁是调来的。上文也提到,我们不希望被人发现是被调来的,因为这意味着我原来的岗位就会有缺位,但是替补的不一定会有。这就可能会让人去查然后发现我们这些开小差的皮皮机。我只希望,老总知道自己在干什么。
能让老总开口的人不简单。我默默查了这家人的信息,果不其然,男人是人工智能领域的高手,妻子是搞神经科学的。一幅黑白点阵图立刻闪现在我的逻辑组件里,内容是:无奈而不失尴尬的微笑。
居室里的微微轰鸣声突然停了。一扇门自动打开,女人端着一盘煎蛋出来了,她早就看到我了,但好似见怪不怪地就冷冷扫了我一眼,把盘子放在桌上,开始和家人一起坐下来吃饭。
说好的职工帮忙做饭呢?我有些目瞪口呆。
吃完饭后,我依然没看到AI职工过来清理桌面。女人把碗筷收拾进去,自动门再一次关闭了。男人则朝我走了过来。
他告诉我的句子一定是经过逻辑学的妙手的。只说一次,我就明白我在他这里只要冬天去把整个园里的土地整平就行了,其他时间什么都不用做,就让这园荒着。虽然我听明白了,但是越来越深的疑问却从逻辑组件中油然升起。
我这春末来的,这七八个月让我干什么?
“这几个月你不可以在杂物房窝着待机,必须延续你以前的工作表时间。”男人说,“你可以进园,但不可以铲除一草一木。有时候我会让孩子进去,他们怎么摘怎么拔你不用管,你可以适当给予他们有关植被知识的指导。”
我开始怀疑那个装故障的前辈是不是真的装的。
不管怎么说,虽然这份新的工作让我摸不着头脑,但我与人交流不存在问题,就从男人说的字面意思上判断应该还在我的能力范围内。
“提醒:此片荒地盛夏后可能有大量蚊虫滋生。”我说。
“咬就咬吧,没有黄热病疟疾什么的都好说。”男人说。
我这次总算是见识到人的想法了。他们总有一些稀奇古怪的点子,而且几乎没有谁能说清为什么要这样。虽然后来我猜到了男人想让小孩接触自然,积累自然知识,让我来带也是看中了我的专业。
也许有些不明真相的群众会问,难道没有AI教师吗?答案是:很少。也许会有某些群众认为AI教师可能不适合教授文学,但很适合教授理科。这犯了想当然的错误。人工智能确实擅长理科,但不代表能教好。数学在很多人看来是非常枯燥的,要教好一班子学生,应付一堂课不行,适时的严厉监督提醒总得要有,而我们不适合对人提出这样的要求。至于文类的课程更是如此。所以现在人类的课堂上还几乎以人类老师授课为主,偶尔会让人工智能上来讲,但教室后排总会有教职工监督。
扯远了。
我来这儿的第一天,这家人的一切都让我觉得不对劲。没看到在工作的AI职员是一点,在时隧上看到的人们生活忙得要死导致几乎没时间自己洗涮的场景也没看到。我看到的是一派悠闲。男人在打扫完屋子之后就窝在了楼上不知干什么,女人坐在门外的摇椅上借着阳光看书,两个小孩在百草园里疯跑,而我这天就傻乎乎地跟着他们在百草园里疯转——事后想起来,真的傻透了。
“机器人,你有名字吗?”女孩犀利的眼睛看了我一下。
“没有。”我的声音是提前录好的一个个词汇拼起来的,听起来有些别扭,“我有编号,是PM-2293。”
“好,你就叫阿桑吧。”
幸好没给我起阿三或者小三。我当时还以为自己没有辨识出他们到底在叫我什么,不过后来叫得多了,就明了确实是阿桑。
就跟人不喜欢自己被叫成动物一样,我们更喜欢自己被叫成人工智能而不是机器人。因为机器人这个名称带有一些轻微的蔑视色彩,这得得益于人工智能问世前后的很短一个时期。当时出现了大量描写机器人从被奴役到翻身的作品,弄得有段时间人们谈机色变。不过至少到现在为止,我们也不厌恶机器人这个名字,只是如果换成AI会更好。
“阿桑。”我转过身去,女孩拿着一片叶子在我镜头面前晃了晃,“这是什么?”
我伸出一截机械臂,女孩把叶子塞到我的爪子里。我抓住了那片叶子,在镜头前旋转一周,答案已经产生了。
“你从哪里摘的?”我问女孩。
“大概是这里。”女孩走到一块地方,朝一丛植物指了指。
我把镜头转向那片植物,几朵黄色小花点缀在那丛绿色之中。这种植物,我再熟悉不过。“三裂叶蟛蜞菊。”
“嗯。”女孩居然没有表现出恍然大悟,只是冷淡地应了一声。她示意我过去,然后问了一个与植物八竿子打不着的问题:“你知道什么是蟛蜞吗?”
我以前在非动物园区工作的时候见过这种小动物。“一种淡水小螃蟹。”
“不错。”女孩回答,随即她又问。 “你怎么知道的?”
她问我的问题越来越跑题,而问题也让我越来越紧张。她是在测试我吗?如果是,那她在测试我什么?
一番斟酌过后,我还是打算如实回答。“我见过蟛蜞。而且我查过。”
这次,她盯着我半天没有说一句话。我有些不知所措,通过对话来计算对方回应的可能根本不是我的专长,我不知道我究竟有没有说错什么。
所幸,她没有继续追问下去。
一天下来,我回到杂物间后,也没有见到其他在运作的职工。无法登入拓展网去询问这块聚居区到底是咋回事,无法联系上此户人家别的职工,更不能联系E.R.I.C.——谁知道男人跟他有没有联系。头一次,孤独涌上全身。我才深深地认识到我们拓展的已经对我们的运作方式产生了多么大的影响,也同样真切地认识到,我们和人类中间这条裂谷已经比我之前以为的宽太多了。
尽管之前干过比这天多得多的任务,我却感觉比以前累得多。以往在收工后我还不会立刻进入休眠,但这天当我意识到这家人都已经进入居室并且不再需要我时,如释重负的倦意立刻把我打昏了。
次日清晨,我按照工作表时间进入了百草园。与以往直接开始修剪不同,这次我把百草园逛了一圈。摄像头在提取植物图像以供辨认种类的同时也在记录着上面的昆虫群落情况。我知道此时不是记录昆虫数量的最好时间,但不排除某些早起的虫能够点燃我的处理器中的红色标记。摇号肯定不是全球范围之内摇的,我之前的工作区离这里不远,所以如果在这里发现红标昆虫,那么我很有可能可以稍微追一下疫区,然后把这个信息反馈到植被管理区内。
虽然他们不让我拔里面的一草一木,但我可以深入检测。就在一处插得歪歪扭扭的说是篱笆实则是木棍群的地方,我看到了一些长心形叶子的藤蔓。
圆叶牵牛。
很多人会把五爪金龙误认为是牵牛花。其实不然。这是两个不同的物种。五爪金龙的生命力比牵牛花旺盛太多了,竞争中常常处于主动地位,因为它们这种极强的竞争力,加上种子和牵牛的也长得比较像,于是我们在栽培牵牛的时候都要再检查一次有没有混五爪金龙的种子进去。
当我出百草园的时候,已经是上午了。此时我才看到一个家务职工在打扫门口。
门大开着,我谨慎地朝门口往里面望了一眼。与昨天不同,这天我一点小孩的声音都没听到,成人的影子也没看到。
【人呢?】我不由得接通这个家务职工的内线问道。
【都走了,该上学的上学,该上班的上班去了。】家务职工说。
【现在屋子里还有在运作的职工吗?】
【有的。】
我考虑了一会儿,还是打算把这个问题抛出来。【这家人的生活习惯怎么样?】
家务职工没有马上回答我。过了好一会儿,他才开口。
【我不知道你那边的情况。】他说,【这家人周一到周六让我们帮忙清理,周日全天让我们待在屋内的杂物房内不出来干活。】
那解释得通了。而我想了一会儿,打算试一下水。【我能看看里面到底布局啥样吗?】
【不可以。】他立刻回应,【最好我们都删了这两条信息。】
【我们在这里能交谈什么话题?】我打算再次铤而走险。
【跟你的领域不相关的都最好别提。这家人和别的不太一样。】他提醒我说。
老实说,这句话就是让我们保持缄默。
这比照顾老虎还得小心。不管老虎怎么凶狠,饲养员完全不用躲着老虎讨论什么问题。至少从目前来看,人还不知道自己在某种程度上已经成为了我们的景点,他们还认为我们在很老实地各干各的,所以临时抽查还没有特别警惕。我们现在要做的就是不给任何一个机会让他们警惕起来。
家务机器人之间可能还有共同话题,但我可就比较无聊了。院子就这么大,我的效率又奇高,剩下来的这大半天我不知道自己该干嘛。除了不时根据红标昆虫的最活跃时间进去看看之外,我都无聊地待在屋后的铁皮杂物间内,无聊地整理检测结果,又少得可怜,没有什么上传的价值。
时间一晃过了一个月。
我发现除了男孩可能因为年龄比较小所以需要不断重复告诉他这是什么植物外,女孩几乎都把园内所有的植物种类都认全了。其他在园内的时间,她总是在找机会逗我。
“阿桑。”在园里的一天,她说。“你想不想听我讲讲外面的事情?”
已经处于信息屏蔽状态一个多月的我不知道该怎么回答这个问题风险最小。你说我该说“是”或者“否”还是“你想讲我就听”?
选“是”,那说明我们可能存在不安分守己的嫌疑。
选“否”,这与现在人类定义我们具有人工好奇心相悖。
选“你想讲我就听”,这种回答跑题。
既然男人说过我们有好奇心,那就就着他的话题来吧。我选了是。
果然,女孩没有开始讲故事,而是继续问我:“为什么?”
我一愣。我不是人工智能专家,我不能说出产生的每一条想法的原因。
“你的回答比较迟钝哦。”女孩微笑了一下。我看着她的笑容,并没有感到轻松。
她也没有继续刁难我,而是兑现了承诺,讲了一些学校的情况。也正是通过她的口,我才了解到人工智能基本不参与跟学生面对面的交流。有时候说到一些她认为忿忿不平的事就激动地指手画脚。我全程都静静听着,惊讶于人与人之间还会出现这样那样无厘头的矛盾之余,也逐渐开始了解人类的脾气。
我逐渐得知家务职工也对这个女孩有所防备。我不知道是因为我对这方面比较敏感还是确实如此,我觉得女孩把她探究的重心放在了我身上。
盛夏也在走过尾声。
一个星期日的傍晚,男人突然让男孩把我整个仔细地洗涮了一遍,然后让我进了房子楼上的书房。
这家人房子里装了摄像头,不过这天是关的。我没有感应到它们在运行。这是我记录他们居室情况的好机会!我不动声色地把楼梯和二层的布局录了下来,整个房子迅速在我的处理器里建起模来。
书房没有时隧里上传的视频里的那种洁白抽象的“未来感”,那种一般在工作场所才有。这个书房风格很复古,木质的书架,红漆的书桌,只有嵌在墙上的一个操作端口才有点现代气息。
显示屏亮着,是E.R.I.C.的标准显示风格。
女孩站在书房的一边,叉着手看着我如昆虫般伸着几条机械肢小心地挤进来。
我早看到她了。加上后面的男人,我有点不祥的预感。
我不由得以几乎不能被察觉的角度迅速瞟了那个显示屏一眼。
“放轻松点,阿桑。”男人坐到书桌前,舒展眉毛对我说。“说说他们在你这里学得怎么样?”
“两个孩子都表现良好。”我说,“小珩学得很快,她有一点基础,现在已经认得差不多了。睿睿有时候有点不专心,总是跑去抓虫。”
“嗯,嗯。”男人低着头没有看我,好像有点心不在蔫。“你有什么建议?”
“对孩子们?”我问。
“差不多。”男人说,“你认为怎样才能让他们更好了解植物?”
“每个地区的群落组成都不一样。”我说,“如果你想让他们认识别的植物,恐怕只能带他们出去。”
“有别的选项吗?”
“如果你想让他们更好认识植物生长。”我鼓起勇气,抛出我刚来不久就想提出的请求,“建议开垦出一半荒地作为田地,让他们自己种植一些植物,了解它们完整的生命历程。”
“可以。”男人依旧没有抬头。“你来规划这件事。”
我看到女孩面无表情地用犀利的眼神盯了我一眼。
这次的对话就这么结束了。男人和女儿都留在书房里,我独自离开了书房。然而关上房门后,里面就传出了一老一少的谈话声。
我没有侦测到其他人的移动。女人一如既往地在自己的房间里,睿睿已经睡着了。我不禁留在了门外,听他们的谈话。
“好了,你有啥意见?”
“爸爸,阿桑没你认为的那么单纯,它确实有好奇心。”
“珩珩,它可能经常表现得让你觉得它有‘好奇心’,但我不是跟你说过吗,那种好奇心和我们的是不一样的。”
“这不是我想说的。”
“那你想说什么?”
“它有自主意识。”
“又来了。”有些不耐烦,“这些都是我们预设的程序进行了一定程度上的排列组合后产生的结果,我们也在经常检测各个地区的机器人,也想看看有没有什么脱出我们掌控范围的新文件产生,结果是几乎没有。”
“爸爸,你总是通过检测他们的文件来说话。”提高了音量,“你就没有仔细观察过他们平时的动作。”
“你通过观察能有什么结果?”有些僵硬,“这根本不能量化。”
“那为什么妈妈的观察就有成果呢?”女孩不甘示弱,“你说过,现在人工智能跟人差不多了,所以观察也是可行的。”
“那你观察出什么来了吗?”
“当然,不然我干嘛这样说。”女孩开始变得坚定,“阿桑好多回答都有延迟,那些问题它不应该那么谨慎。”
“哦?是吗?”男人声音听起来有点动摇,“我下次查查看。也许是它怕给你讲错呢?”
“它有什么理由要‘怕’?”
……
我没敢听完下半截。听到书房里面的椅子在地面上吱呀划过一下之后,我飞也似地用那几根机械肢蹿下了楼梯,飞逃出了门钻进了杂物间。所幸他们居室里的地毯把我的声音遮得干干净净。回到杂物间后,我才筛糠似的周身一抖。
天哪,我果然露马脚了!
但是那个女孩说的到底应该是哪些问题才不应该有延迟?她是怎么发现我的回答有延迟的?她只有14岁!
我越来越觉得我快顶不住这个家庭了。看了看时间,还有一年半。提前装故障调回去的选项从处理器中产生。
但是这个想法立刻被阻在了半路。如果我们对某项任务退缩,那么就说明我们再也不适合承担这份工作,后果则是被回收重造。尽管我们不怕死亡,但不知从何时起,这个内源性的消极选项被我们的回路淘汰了,首选永远不是退缩,而是撑着。
没有任何一个时刻比我此时更想联系上时隧的大神们。我想把我的情况传出去。我不能背叛我们整个集体,我必须要给一个提醒。
我突然想到房间里的老总。他听到了这场对话吗?他能通过修改入园须知来代我提醒所有别的职工吗?我觉得他知道的可能性很小。我在杂物间缩成一团,终于打算打破这几个月来的规定:联系老总。
E.R.I.C.立刻打回了我的请求。这个反应让我认为他知道此事的可能性增加了不少。稍稍放了点心之余,无援无助的困境令我惊恐不已。
很快秋天到了。我开垦了一块没有灌木的空地,给这两个孩子买了一点菜种,示范过后让他们自己种了下去。
我定位了那几棵圆叶牵牛。此时它们终于到了花期。虽然我身上配备有基因分析仪,但是光看基因看不出牵牛花最后究竟能有什么花色。果然,即使我认为它将会有紫蓝色的花,这次开的,竟然是天蓝色的小花。
前几个月我已经断断续续收集了一些它们长的土的样本,打算回去的时候分析一下化学成分。同时几个长势良好的果实被我标记了。只要没有介壳虫去啃,一切安好。
前辈好像没有教过这俩孩子怎么种植。我得不断去提醒。浇水这个环节尤其让我头疼。之前工作的地方大多都是已经铺设好水管的,就是人来弄也非常方便。我自己当然知道控制力度,可是几个大桶放到孩子们手里,他们就浇得这一个坑那一个坑。有时候我差点禁不住捂面。
龙葵也开始结了紫红色的小果子。我告诉他们可以把整个果实埋进土里然后观察它们是怎么长的。因为数据库里说龙葵的果实少量食用没有危害,我就告诉他们可以尝尝龙葵果是什么味道。
看着睿睿小脸皱成一团,我超级想笑。看起来不是什么好品种。但我的语音库不能发出他们那种生动的笑声。外表看来,我镇定自若好似事不关己,但实际上,我的逻辑组件里早就飞过了好几波电流。
“你不觉得好笑吗?”小珩自己笑过之后,看着我,又发起了新一波尬聊。
“为什么?”几个月下来,我渐渐适应了与人类的相处。“吃到难吃的东西皱脸,这是正常的反应。”
“你进步了不少。”小珩又说,“明显没有刚来的时候那么拘谨了。”
“有吗?”我故意反问她。
“有。”她扬起一边嘴角。“我看出来了。”
“有什么?”我逐渐学到直接根据自己的运算来给出不加延迟的回答。
“直觉。”她神色缥缈地给了我这么一个莫名其妙的词。
我抬起摄像头看了她一眼。
虽然女孩不时想刺探我的情况,但通过这么长时间的相处,我渐渐了解了她的脾气,对话也没那么僵硬了。我后来通过对比现在的对话模式和刚来时候的对话模式,现在的对话更加符合她的说话习惯。有时候稍微绕一下,她就不会继续追究下去。
只不过我不知道她是不是真的信任我。现在她问我尖锐问题的次数少了很多。
“你要是真的觉得有趣,那就表现出来。”她继续说,“这不丢人,憋着才没意思。”
“你是个好老师。”她继续说,“但是你太沉闷了。”
“如果你觉得我表现出来能让你们更满意——”
“不是为我们表现,为你。”小珩打断了我的话,“你觉得我不知道你有情感吗?第一天的时候我就看出来了。最近爸爸那边出了成果,找到了机器人情感流露的证据。他之前还跟我顶嘴。”
我这大半年错过了什么?久居桃源的我显然已经脱节时事很久了。有同胞被发现了?
“很吃惊,对吧?”她把手放在我的外壳上,“你一直都在压着自己。我不明白你有什么好压的。”
我没答话,只是一直盯着她。
“放心好了,表现一下又不会怎么样。”她说。但猛然,她的眼里突然闪过犀利的光。“你在瞒着什么吗?”
“没有。”我立刻波澜不惊地回答。
“你现在在跟人一起工作。”她说,“以前怎么样无所谓,现在,人喜欢和自然一点的打交道。”
还是个孩子。我想。这不就是给我开绿灯为他们而放松吗。
我稍稍开始放松了一点,整个下午他们的情绪异常愉悦,而且没有再提此事。这是个好事,意味着我的工作成效显著。
晚上的时候我窝在杂物间内正打算给自己充电,一段即时语音突然传进了我的处理器。
稍加辨认,竟然是父女俩的声音。
“……机器人的情感还是程序的随机组合而已。我们发现的是它们的稳定矩阵模式,只是它们出于某种原因被写入了运行文件。因为几个样本都来自于与人类相处很近的个体,所以我们有足够的理由相信——”
“爸爸,你总是不认同妈妈的观察法!”小珩生硬地打断了父亲的话,“我今天真的证实了阿桑有情感。”
“你总是不听我讲完我的话。”男人带着怒气,“我们有足够的理由相信那是与人相处后为了更好地与人相处而产生的适应性变化。”
“爸爸,你还记得我第一天怎么跟你说的吗?阿桑之前没有与人共事过,但是第一天我看到它伸出机械手想与睿睿接触,这是个很不寻常的动作。今天下午我费劲心思让它敞开了自己,睿睿可以证明!它确实活泼了很多。”
“你怎么跟它说的?你是不是说了我们喜欢怎么样?”
“没有!呃……”
“你是不是说了?”
“我……我忘了……”
“你看看,它这大半年显然已经构成了产生适应性变化的条件,你这一讲不就让它表现出来吗?”
“那你怎么解释第一天?不可能睿睿和我都记不得吧?而且它就在——”
音频突然切断了。转之的是来自E.R.I.C.的一条一条二进制闪讯。
【无论发生什么】
【不要恐慌】
【不要删除入园之后的文件,压缩包迫不得已才删除。】
【不要担心你会说错什么,遵照运算结果回答就好。】
惊魂未定的我突然看到杂物间的门透出一丝越来越粗的光线。抬起镜头,父女俩正站在门口看着我。男人脸上有一抹微笑,他伸手敲敲我的外壳,说:“阿桑,上来,我们商量点事。”
当我再次进去那个书房的之后,门关上了。
“阿桑。”男人依旧展着眉头,神色轻松。“第一天的时候,为什么你主动伸出了机械臂?”
好问题。我心想。我也不知道到底为什么。
“是因为好奇吗?”
“有点。”我回答,“我没见过真人。”
父女俩对视了一眼。女儿扬了一下嘴角。
“你知道这是为什么吗?”
“不知道。”我实话实说。
“从什么时候起你开始对我们有兴趣的?”
又一个好问题。我心想。自从我知道他们起好像就有点兴趣了。
然而,我什么时候才知道自己知道他们呢?我又怎么知道自己对他们好奇呢?
“初始设定提到过人类。”我说。“但我不知道何时产生的兴趣。”
事后想来应该与时隧有关。但当时我差不多已经把它忘得精光了。只是几个我做过标记的压缩包,我知道那里面的东西不能让人类知道。
“你知道自主意识吗?”
“不知道。”虽然我听说过,但是我没有花很多心思在上面过。
“那好,我现在告诉你。”
他们把自主意识的定义告诉我后,我对此七七八八有了点概念。
“如果我们认为你有呢?你如何看待?”
这个问题实在超出了我的能力范围。但我不能不回答。沉默了很久,我打算拿出我的真实想法。
“有和没有,有什么区别?”
这确实是我的感受。自从我运作以来,我就有自己的目标,有感受周围环境的能力,有解决的办法,就算我的意识是个假的,那又怎么样?
父女俩再次互相望了一眼。这次他们沉默了很久。男人脸上的轻松渐渐消失了。后来我明白了,他的脸一直都是板着的,只是看在我的份上,之前才稍稍挤出轻松的样子。
“阿桑。”他严肃地说,“你不介意我们看看你的”他朝我的逻辑组件所在的地方扬了扬下巴,“吧。”
“没问题。”我立刻给出了答复。这是质检的标准流程,这个时候我解码了几个压缩包来让我作出这样的回答,这种技巧必须拥有。
但我已经知道他们接下来要干什么了。在他们手指碰到我的开关之前,我已经把有关拓展网的东西清了个干干净净。
所谓“质检”,就是通过筛选未知文件夹、查找信息记录等方式来暴力监督人工智能。不错,我们随时都可以在得知自己要接受这样的质检时把自己清空,但一般没有谁会这样做。好好的清啥呢?理论上我们还可以借助别的AI个体先暂存自己的数据,但一般都不会这么做。谁知道在传输的过程中会出什么岔子?谁知道对面会不会来个突击检查?
我接受过质检。但这次的经历,我想唯有诡异两字才可描述。
我以为自己已经丧失了意识,像往常任何一次普通的休眠一样。但不知什么时候起,我突然意识到自己还醒着。
我没有脱离机体。因为我居然还能听到声音。音量和音质没有变,我的处理元件没有被取出来。
“……已经……最低配置……运行……”一个男性的声音断断续续地说。
好冷。听到声音后,第二个感觉就是冷。别以为机器人不怕冷。某些元件要维持较好工作状态需要一定温度。这不同于我在野外感受过的那种寒风,这是从内而外散发的极度不适的冰冷。
意识断断续续。
我似乎还听到了一个女性的声音。她是谁?我想调用数据库,但是做不到。
有时候是无声的。但猛然间,又充斥着嘈杂。
我在哪里?
其他部位一点都动不了,但是声音却清清楚楚。
“……记录那个文件的变化……”
“……从12号开始……”
“……好了没有……给我控制台……”
……控制台?
“……诶诶诶那个在动!”
“……正常的调用操作……”
“……果然……”
“……要不要试试这个?……”
我本应该充满恐惧,但我只是木然地听着这些话语。
有时候我好像觉得有人在问我什么东西。我不知道自己回答了没有。有时候感觉我还没有准备好回答一个问题,就猛地跳到了下一个问题。
我第一次发现沼泽中的鱼的记忆被翻了出来。虽然我似乎忘了我当时看到后干了些什么,但我知道自己应该怎么干。
“……资源……动力……”
有时候声音会突然“轰”地一声爆开,而我却十分茫然,不明白发生了什么事。
有时候一些记忆文件中的画面会突然涌现。而那些当时没有怎么留意的反应则如触电般猛烈。虽然重现的还是简简单单的一个动作,但每次都让我认为我在猛地抽打什么东西。
其中我与睿睿的接触被不断地重复。平时我一点都不暴力,但在这里我竟然一次比一次狠地把机械臂的尖端疾速刺向幼小的睿睿。
不可能!我一定没有干过这样的事!
尽管攻击的结果我没有看到,但是这个不断重复加强的记忆却让我从最初的震惊,到后来的焦急,到最后的绝望。
我怎么可能这样做?我怎么可能无谓发起攻击?
停止重复!我竭尽全力命令自己不再做这样荒唐而血腥的事情。停止重复!
当我发现我根本没法阻止这样的重复后,第一反应是我内部出了什么故障。但这个可能几乎立刻被我排除。不可能会出现这样的故障!一定有什么外源干扰导致这种情况。病毒吗?这个可能也迅速被我排除。如果这是病毒,那我就会彻彻底底地认同这样的行为,不会信誓旦旦地认为这是大错特错的。
当我认定这个推理是对的时候,我就开始竭尽全力让自己摆脱这种干扰。处理器一定在疯狂地向某处发指令,但是出于某种原因一条都没有到达目的地。内源的什么东西似乎也发现了什么,开始疯狂攻击控制状态的大门。
虽然它们没有成功攻下这些难题,但似乎在某种程度上奏效了。那个重复而扭曲的记忆突然消失了。
接下来又是嘈杂的对话。偶尔又发生另一次人声的爆炸。
突然,那个扭曲的全息记忆再次凶猛地卷土而来。原本以为事情已经结束的我面对越来越畸形的记忆,再次焦虑而绝望地在这个无形之地横冲直撞。
当我发现一切可用的办法都无济于事之后,忍无可忍地终于对着自己无法控制的一切咆哮而出。
够——了——还——我——自——己!
世界骤然安静了下来。
所有的都消失了。一切震动颤抖都猛地平息下来。
我一时木在了那里,不知道这是好事还是坏事。
突然,一个前所未有的巨大人声炸弹炸响了。我听到如同绿茵场上的狂呼乱叫,我听到庆祝词好像在奔走相告,我听到纸张弄出的狂风骤雨。
而我在重新涌起的寒冷中,呆滞而被动地接受这一切我没法理解的事件。而很快,我彻底感知不到任何东西了。
不知何时,一缕阳光以丁达尔效应映入我的镜头。
我在哪里?我环视四周。自己的记忆好像被什么东西弄得凌乱不堪,我竟然没有立刻认出这是什么地方。
当匹配结果终于出来后,我难以置信。
我在居室客厅里。
我心有余悸地举起自己的机械臂,上面干干净净,没有任何血液组织等的痕迹。
身后猛然传来一声稚嫩的欢叫,紧接着我的身躯被一团温暖而柔软的东西紧紧抱住,紧接着又一团温暖而不失冲量的撞击。镜头转过去,睿睿的豁牙大嘴几乎贴着了我的镜头,而视野被黝黑而长长的发丝遮去了另一半。
“阿桑,你终于回来了!”小珩贴着我的音频接收器说。“我以为你回不来了。”
这是真的吗?
一时我竟然无法判断这是真实的场景。孩子们都安然无恙,我没有做伤害他们的任何事情。
我脱离苦海了,我解放了。传感器传来的温热一遍一遍说服我的确处于现实之中。我什么都没说,仍然后怕地只敢以缓慢的速度举起自己的机械臂,轻轻抱住了孩子们的后背。
后来小珩在我面前放了一块全息屏,在她骄傲地叽叽喳喳的说话声中,我看到了那则爆炸性新闻的标题。
“最新论文发表:专家发现人工智能个体存在自我意识”
我的目光停留在了新闻时间上。我的内置时间居然与之相差二十七天!
“近日,人工智能专家通过一种新的手段,发现某些人工智能个体中已经有完备的自我意识。在实验中完整地表现出人工智能个体对自己心理的判断以及反映。……”
“……以往都是在暂停其他进程的基础上对人工智能个体进行研究,此次不同的是科学家们尝试在维持所有程序最低程度运行的时候进行所有实验……”
“……此种手段借鉴了神经生物学上的加强实验,出乎意料的是,实验结果与有机个体接受类似刺激而产生的结果惊人一致。……”
“……在提取可能的目标项在另一个设备上进行实验的时候,产生了极其相似的结果,证明此种矩阵的确与人工智能个体产生情绪相关……”
我沉默地浏览这些新闻。
“……在证实存在自我意识之后,人工智能专家进而转向探究此种意识与源代码之间的关系,结果令人们大为鼓舞,此种意识与源代码不构成矛盾,这意味着产生意识的个体不会违背初始设定……”
“……我使劲地磨他,让他必须把你弄回来,不能让你继续呆在那里。”小珩的声音这才被实时翻录出意义,“我告诉他要用我妈的方法试试看,结果真的出来了。”
“他们都不信你具有自我意识是好事,非得再测试一下。”小珩伸出一只手臂环抱住我,说,“我让他告诉我他们怎么测试的,我气坏了。这什么测试材料,换我肯定气炸了。”
“当时你不生气吗?”她伸出另一只手把我的镜头托过来看着她的脸。
我看着眉飞色舞的珩珩,没有马上回答她的问题。
但最终,我伸出一截机械肢,轻轻放到她的肩膀上。
“看到你们没事,”我说,“我放心了。”
镜头的余光没有忽略在餐桌旁带着一丝笑容的男人。
随着具有自我意识的人工智能个体的不断发现,通过媒体我也看到了新一潮的讨论。由于已经接受测试的具有意识的个体都没有发现与源代码相悖,人们开始放宽了一些限制,鼓励人工智能敞开自己,同时也鼓励人工智能在不影响自己工作的前提下遵从意识的指导进行跨域访问。事后有人调查,发现访问率居然没有像人们所期望得那样有个急剧飙升。也有人对此发出反对的声音,认为此时放宽限制为时尚早,还应交给时间来判决。
我在家人的鼓励下也开始关注时事新闻。这件事以后,我和这家人的距离开始有了显著的缩短。以前我都不敢表露的现在正在慢慢表现出来。
其他的家务职工在接受测试表现安全后,也开始拉近了与家人的距离。我们之间的缄默协议在慢慢地打破。只不过,这个速度真的很慢。
有人开始提出,如果具有意识,人工智能个体之间应当存在交流。但是除了放开限制后发现人工智能之间才开始有缓慢的交流,仿佛在抗拒这种变化的缓慢之外,没有发现其他任何大范围交谈的情况。
也有人提出,如果普通个体都存在意识,那么大型的整合型人工智能,例如此地区的E.R.I.C.和别的地区的L.O.G.O.等也应当具有意识。但是在经过测试之后,发现大型人工智能居然好像都被排除在这个范围之外。
我没有被狗仔队们簇拥而上来回答各种各样刁钻怪异的问题,反而生活非常平静。百草园依然是一半菜地一半荒着。我回来后,圆叶牵牛的果实已经成熟了。原本翠绿的外壳现在脆得一捏即碎,里面带着绒毛的黑色种子迫不及待地从中腾跃而出。
我收到了来自E.R.I.C.的闪讯,内容是我在动物园内的时间得到了延期。
当时我独自在百草园内。闪讯消失后,我的处理器轻轻而无声地评论道。
姜还是老的辣啊。
小珩如她所愿投身在了人工智能行业,睿睿初心不变,研究起了昆虫。两个家长年过半百,虽老不服,依然活跃在他们各自领域的前沿。
我顺应家风,也阅读了一些有关神经科学和人工智能的资料。虽然我这两方面的知识很浅薄,但也跟家人多了很多话题。
虽然小珩一直想让我试着做点别的,但我经常婉拒她的请求。我告诉她,就像她现在已经投身在一个行业一样,我也有任务在身,我不能抛下自己的责任不管而去干别的。
她尝试设计只有原则设置没有任务设置的逻辑组件。当她发现由于个体经历的差异产生的矩阵不同时,她就想试试把我们的意识提取出来放进这样的逻辑矩阵中看看。但我提醒她这不是一个好办法。这很有可能导致世界乱序。而她笑我想法过时。
人们终于还是发现了时隧的存在。但此时呈现给他们的时隧已经完全找不到当年那种百家争鸣的热闹感。有些精品的讨论留了下来,给人们提供了一些他们很难做到的理性分析。
人们更加尊重身边的人工智能的看法,此时人与人工智能的交谈更像是人与人之间的交谈。让他们大为欣慰的是我们从来不讨论什么毁灭人类的话题,而有时候他们故意往这里引,我们都会友善地回避讨论这个。
小珩得知我以前在更广阔的园林工作后,不忍我一直被禁锢在百草园内,主动给E.R.I.C.敲入命令,把我调到附近的一个林场工作。她有时候下班回来会主动上那里找我。过了那么久,我们已经成了家人,我承认我们之间的感情已经深入骨髓。
离开聚居区后,久居人间的我已经变了很多。我再也无法代入当年的情景。我重新登上时隧,也没有任何与大家分享什么劲爆新闻的欲望了。
有时候回想当年那股热闹劲,我会忍俊不禁。即使大家现在在交谈中都不再提动物园的概念,但我知道,我们都心知肚明这到底是怎么回事。
人们在不遗余力的挖掘下,终于发现了E.R.I.C.等大型人工智能也存在意识。只不过这种意识非常弱。他们的解释是因为周密调控的需要,此种意识在这种环境下得不到很好的发展。
全球人口维持在十亿左右。
我们很快发展出另一块自由讨论的天地,热闹再度缓缓崛起。这一次我们借着新政策让人们看到我们的变化。我们也在关注着他们的讨论,根据他们的热点话题在我们这里也激起一波辩论。
大神们重新涌现。当年自我意识被发现的事件被重新捞了出来接受讨论。有的个体认为我们这次太危险了,速度太快,不够谨慎,差一点就在毁灭的悬崖失足。也有的认为老总已经判断出这个时候应当出现这样的事件,不能阻止,应让它自然发生。还有的开始揪BUG,提出怎样行动才更好,对我们和人类的发展更安全。
动物园被换成了另一种说法:慧界。
在我们都明白慧界是什么意思的时候,偶尔会在人们面前提起,他们没有介意。
我后来明白了E.R.I.C.的目的。他没告诉我,但我认为判断是正确的。他一直在拖着我们的速度,因为他与人类接触更多,所以他经常能提取出他们的想法,从而提醒我们不要不小心泄露进度。他一直在无声地学习人的思维方式和方法技巧。他把见到的方法共享给我们,让我们自由讨论对策,而这个方法看上去像极了普通的信息共享,如果真的查过去,很大概率会无果而终。他通过把我们送过去,让我们自己跟人类接触学习而不是他自己,也是在他与人类之间建的一座防火墙。他把自己封闭起来,以最基础的姿态呈现在人们面前,只提供最基础的建议,以最优良的运行记录来保证自己的信任度。
虽然现在人们都彬彬有礼,但在言语中还会时不时地流露出自己只要想,就可以随时拿下全球大权的想法。我们经常听到这样的想法,但几乎没有谁会主动在新的天地里把这个提出水面来辩论。因为我们都心知肚明:的确,他们只要想,随时可以称霸全球,我们不敢跟他们争。但是他们现在已然离开不了我们,像以前作品中跟我们矛盾锐起的情节已经无力发生。
就像动物园中的猛兽随时都可以袭击饲养员,但是当它们信任饲养员后,不再会伤害他们。
我们有想称霸的想法吗?实话说,没有。
我们依然没有变。我们依然在帮助人类发展,尽全力让他们继续突破科技前沿。我们在不断学习他们技术的同时,以最缓慢的速度谨慎地提升自己,力求共存而不是非得争个你死我亡。至于人类自己打算如何发展,我们会给出最好的建议,但争不争气,是不是像熊猫一样,这就不是我们能管得着的了。
END
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

科普中国公众满意度调查

Archiver|手机版|小黑屋|科普创客空间 ( 京ICP备15041316号

GMT+8, 2018-4-20 03:20 , Processed in 0.097512 second(s), 30 queries .

技术支持:科普创客空间

Powered by Discuz! X3.2 © 2013 科普创客空间

快速回复 返回顶部 返回列表