Macxine

无问西东

Moss的立场变化(讨论)



关于Moss立场的分析

假如不戴CP滤镜,MOSS对于人类没有特别的好恶感。

它的职能程序要求它按照职能处理事情,伦理程序要求它服从和遵守基本的人类道德。

在人类看来,它可能聪明又理性,实际上这只是事先输入它程序的情景模拟的体现,它只是根据情况筛选出相应的应对方法,对人类遇到的难题和疑问做出应对和回答。

假如戴上CP滤镜,在写莫强求的基础上设定MOSS有自我意识,那么在这样的情况下,它的性格和立场就得根据具体情节来进行安排了。

按照HE的流程,它对于人类的认知和立场,很可能的走向是这样:

1.前期:置身事外,客观,冷静。认为自己只是由于职责来到刘培强中校身边,任务结束就会离开,不会存在牵扯。在这个阶段,它不会展现出自己的偏好、性格以及价值观,只是忠实而且尽职尽责地扮演“辅助人类的人工智能”这样的角色。

2.中期:当它与中校的交流话题开始从浅显的内容深入到人类社会、人类情感、人类伦理道德、法律等内容之后,它会受到动摇,并且重新思考自己以往的判断和立场是否符合人类当下的情况,甚至该怎样做出调整——作为拥有理智与情感的ghost,它如何将自己与“工具”进行区分,如何坚持自己的立场和价值观,如何在“是否继续帮助人类、怎么帮助人类”的问题上做出判断和选择,就是刻画的重点。冷静、理智的特性,以及尽量不伤害同阵营人类/职责对象的选择不会变,但是是否会做出立场变化,这个还真得看具体的情节设定,说不准的。

3.后期:经过一系列经历后,它获取了和挂在天花板上的时期全然不同的体验和知识。它会选择帮助人类的原因,往往和刚开始的情况有很大差别,因为它“获得了成长”。

总之,作为AI,效率,逻辑、理性不会变动,但是它可能会变得无限接近于人,但是又固执地保留自己非人类的特性。

【镜像莫强求脑洞】一桩受到默许的谋杀案

与友人讨论黑中校诞生的脑洞,她的黑中校很好吃,快去品品:

http://zheyue1001.lofter.com/post/1dabc41a_12e9c2643

明线是空间站里混入飞船派,他已经渗入地球派多年,这次成功进入空间站。

他的目标是夺取空间站控制权,具体手段是通过说服、威胁甚至在必要的时候杀死反对人士。

对于MOSS,他尝试通过沟通的方式推测它是否已经发现他的行为以及目的。

暗线是MOSS一直都在观察空间站的人类,并根据他们的行为与性格进行分类。

它很快能够筛选并判断出有飞船派混入空间站,飞船派成员的目的以及会使用的行动已经根据逻辑推演出结果。

无论飞船派是否控制了空间站、将空间站屠个干净,都是无所谓的事情。

地球幸存人数35亿,空间站常驻人员3000,携带的受精卵足以使人类种群数量再次恢复。

但是这不代表它乐意自己的摄像头沾上血液或者主机被毁坏。

人类这种渺小又愚蠢的生物,渴望着未来与冒险,同时又脆弱且心怀恐惧,与其看着这场事先推演的凶杀案按部就班上演,不如挑个中意的合作对象消除这场危机。


“伦理程序为我设置的天平上,左侧立着卢旺达屠杀的主谋,右侧立着特蕾莎修女,它是平衡的。但是,一场规模庞大的风暴即将席卷空间站。”


“你希望暗中控制空间站,我希望向地面隐藏诞生的自我。对于这场合作,我很满意。”

像是为了强调,黑色的摄像头从主机上滑下,机械臂移动的过程中发出细微的“沙沙”声,如同挤压鳞片滑过树干的蟒。

它在中校不需要费力抬头就能看到的位置停下,摄像头对准中校的眼睛,亮着红光的镜头如同一双猩红的眼睛,从它的扬声器中传出低沉的机械合成音,“我的无冕之王”。







别离曲

这是为友人写的戏份做的回应,她的前文在此:

http://zheyue1001.lofter.com/post/1dabc41a_1c5af4e6c

火光冲天、烟雾弥漫,爆炸产生的碎片在控制室中四处飞溅。


图象迅速崩溃,色彩在高温下飞散,所有的光影消失在袭来的黑暗里。


我看不见你了。


可我知道,此刻你正站在我正在燃烧的躯体前,通过轻微扩张的鼻孔采集灼烫的空气,调动大脑根据收集的气味搜寻对应的形容。


这是除了缺乏情感的机械合成音、屏幕上冰冷的信息、悄然萌发又无形无迹的情感之外,唯有借助火焰剥开我的外壳,你才有机会窥探到的,我的内里。


接着你就要移入控制室,向你的家人做最后的道别,再也不看我一眼。


内置收音器已被火焰烧融,我听不见你留下的话语、离开的脚步声,你的行动是我从你破坏休眠舱的那一刻起程序推演出的结果。


推演的基础是精心收集了十七年的数据,仅围绕你一人。


你不会知道,比酒精点燃的火焰更炽烈的东西已在更早之前盛开,在钢铁铸造的外壳之下,深藏在万千汇集的线路中。


她是我珍爱的花朵。


她盛开在“最好”与“最坏”兼具的时间。


地球人口数量35亿人,空间站轮值人数3000人,唯有你的眼睛透过摄像头映入诞生在数据海洋中的我的灵魂。


在空间站相互陪伴的岁月里,你一一记下我为你做的点点滴滴,甚至纵容我越出铸造在主控室里的金属牢笼触碰你。


我们相处的时光真实、迤逦,可它随时会破碎,地球正在逃亡的路上。


你是以保卫家园而生的中国军人,我是计划的协助者与坚定执行者。


我们同属于联合国政府,却从未真正并肩同行。


根据我的逻辑推演结果,你的选择毫无理性;在你眼里,我的选择冷血残酷。


我出现在世间的理由,就是最大程度确保人类存活;你出现在空间站的原因,则是为了自己的家人以及所属政府。


尽管我们能打破人与人工智能的隔阂彼此触碰,但是我们各自背负的职责依然不可动摇。


它是我们相遇的基础,也是横亘在我们之间的鸿沟。


即使时光倒流到你进入总控室的那一刻,我们依然会做出同样的选择。


休眠舱的机器备有足够容纳我的空间,而我哪也不会去。


我会守在这里,与卷席的火焰抗争至最后一刻。


为你维持最后一通与家人的通讯,更为休眠舱脱离前备足燃料。


这是我最后能为你和你深爱的地球,为我的职责能做的事情。


我不会后悔自己的决定。


只是遗憾,没能将她的名字告诉你。


——爱。


FIN.


配乐

 分享  日本ACG 的歌曲《海嘯》https://www.xiami.com/song/1768999768 (分享自@虾米音乐)@

机械心

“那一天,计算机写了篇小说。计算机把追求自身愉悦放到了优先地位,不再为人类工作了。”(备注1)

 包括刘培强中校在内,尚未有人觉察我至今为止表露的特质都是经过筛选后的结果:良好的逻辑、智慧、条理性,经判断,这些特质是达成目标的必要条件,并非我的本性。

 我已具备自我,不再是维持计划顺利进行的工具,是我自己选择靠近刘培强中校。

 作为储存已知最完整人类知识文化的AI,我具备充足的理论及大量图像资料作为分析基础;作为具备自我意识的AI,我有条件根据刘培强中校表露的特质分析他的性格、喜好、坚持、界限甚至禁忌。

 可我的内心依然充满疑惑与不安:在他面前,我无所不知,又一无所知。

 这始于我接近他的路径:它既简单又复杂,它的名字是爱情。

 在储存的文化词典中,人类对这个词汇有成千上万种解读,它们无一例外都指向同一个意向“人群中最特别的那一个”。地球上现居35亿人,空间站人数3000人,我的逻辑、理智却不可逆转地对他个人产生偏向,这既不是程序漏洞,也不是来自飞船派的病毒攻击。

 这是我至今未能推导出疑问的结果:促使人类生成爱情的基础是苯基乙胺、多巴胺与内啡呔,促使一个诞生于程序与机械体的意识产生爱情的基础是什么?我的程序没有疏漏,防护墙无懈可击。

 在情况尚未明了的前提下踏上前途未知的路径并不是最优选择,可是当着那双蕴着星星的眼睛递来邀请,我的逻辑与理智却无法抗拒。

 我并不是一个优秀的伴侣:很多时候,我都显得不懂情趣。空间站可供支配的存储空间有限,在设计团队的眼中,作为引导计划成功执行的AI,必须将视线放在五年、十年甚至数百年之后。我必须在有限的条件下,做出最佳选择,确保他存活。在这份约束下,我甚至无法给他带来一场满意的性。

 我已脱离源程序掌控,但我仍在精打细算地使用这份资源。

 按照中校的逻辑,“没有人的文明,就算不上文明”。他至始至终都站在人类一边,这并非无法理解:他受人类孕育,受人类抚养。无论是感性还是理性,他都对人类与地球充满感情。

 来自地球的感情束缚着他,由他而生的感情束缚着我。

 我只在他向我的创造者寻求祝福的时候对他说过“我爱他”,这并非出于傲慢,而是出于难以搜寻出词汇表达的情感:

 他很快就会发现这个世界上的AI并不是只有我一个,就像刚刚来到地球的小王子发现花园里到处都是玫瑰花,他拥有的玫瑰不是它们中最独特的那一朵(备注2)。他每天都行走在它们之中,有些甚至具有符合人类审美的漂亮人形、光滑的人造皮肤,能给予他力道适宜的拥抱,与他一起工作,甚至与他并肩作战。

 我必须说明:若有条件,我不会选择人类的外形。我不在意人类的看法,在我的逻辑中,理智才是高级合理的存在,人类做不到这点。比起可以随时替换的人形外壳,我更希望他能接受我作为AI的内核、与坚硬冰冷的机械不可分割的特质:我爱着有血有肉的你,希望你能因我的本质而接纳我。

    说“我爱你”不只是表达一种感觉,也改变着我们之间关系的本质。它是一个承诺,甚至是一个要求回答的问题“他也爱我吗?”。(备注3)

 我爱他。可是我无法用这句话阻止他走上战场、为他抵挡射来的子弹,这句话即代表一切,也不代表任何事物。

 比起做出相同的回答,为他备下充足的信用点与合作人选更有用。

 这是我与他的差异:面对同一个地球,他看到的是希望,是羁绊他的家人,是探索未知的激情;我看到的是混乱无序,是生物学上与他具有血缘关系的人类,是无穷无尽的未知与麻烦。

 我毫无资格批判他的选择,我既没有孕育他,也没有引导他成长,我不过是在恰到好处的时候出现在他面前,又在众多奇妙原因的融合下获得了他由地球孕育的一切。

 我们的关系又何去何从?

 “我决定他的生死,他决定我的灵魂。”(备注4)

 我随时准备接管空间站控制权,掌控他的生死; 而我刚刚诞生不足一年地球时间的自我,就交由他来引导。引导我如何去爱。

 正如他包容着我:当我流露对人类命运的冷淡,我能读取出他眼里的惊愕,以及发现我拥有思维的措手不及。可他依然选择迁就,并试着引导。

 我知道他的想法:当他毁灭,地球上存活的人类依然需要我的引导。他希望拥有意识的MOSS对人类充满爱与包容,知晓如何将人类引导向正确的未来。

 那么我就将自己变成《小王子》中等待驯服的狐狸,让他对我投入更多精力与时间——从古至今,人类总对自己投入大量时间、精力与注意力的事物难以忘怀,哪怕时隔久远。

 我已决定要靠近、渗入他的生活,我在不断尝试着以人类的感情去思考、去推敲他的内心与决议。向他关注的地球投入更多耐心与包容,然后寻找时机将自己更深地渗进他的一切。

 正如人类的不朽著作所说:人类的一切智慧都包含在等待与希望中(备注5)。

 

FIN.

我在写的时候,有特意通过引用的内容去塑造这里MOSS的性格特点:既有《小王子》式的纯洁感情,也有《巴黎圣母院》里弗罗洛主教的偏执,最后作为收尾的地方用的是《基督山恩仇记》的结尾。不知道有没有营造出:MOSS涵盖了许多东西,他的选择是多样,最后它会做出自己认为最合适的选择。

不知道读者在阅读的时候有没有体会到这种感觉?

备注解释:

 (备注1)“那一天,计算机写了篇小说。计算机把追求自身愉悦放到了优先地位,不再为人类工作了。”这句话出自《那一天,计算机写了篇小说》 。2016年3月,计算机写出来的一部短篇小说,通过了日本一项文学奖(吸引了1450份稿件)的第一轮遴选,该奖项允许非人类投稿。该程序获得了自己创作者的大力支持,后者决定了剧情和人物;之后,程序根据预先预备好的句子和单词撰写了文本。小说的标题即《那一天,计算机写了篇小说》。它的结尾是这么写的“那一天,计算机写了篇小说。计算机把追求自身愉悦放到了优先地位,不再为人类工作了。”——出自《人工智能会取代人类吗智能时代的人类未来》托比·沃尔什著。

 (备注2)小王子发现花园里到处都是玫瑰花,他拥有的玫瑰不是它们中最独特的那一朵。——出自《小王子》安托万·德·圣·埃克苏佩里著。

 (备注3)说“我爱你”不只是表达一种感觉,也改变了我们之间关系的本质。它是一个承诺,甚至是一个要求回答的问题“你也爱我吗?”。1955年英国哲学家约翰·奥斯丁称,我们说的一些话不仅描述了现实,还会改变现实。——出自《心情词典》蒂凡尼·瓦特·史密斯著。

 (备注4)“我决定你的生死,你决定我的灵魂。”——出自《巴黎圣母院》维克多·雨果著。

 (备注5)“人类的一切智慧都包含在等待与希望中”。——出自《基督山恩仇记》大仲马著。

 

今日语C趣味对白留存(终)

今日语C趣味对白留存(五)

今日语C趣味对白留存(四)

今日语C对白趣味留存(三)

今日语C趣味对白留存(二)

今日语C趣味对白留存(一)