死之都市

一个深知生活充满起起伏伏的现实主义者

Moss的立场变化(讨论)



关于Moss立场的分析

假如不戴CP滤镜,MOSS对于人类没有特别的好恶感。

它的职能程序要求它按照职能处理事情,伦理程序要求它服从和遵守基本的人类道德。

在人类看来,它可能聪明又理性,实际上这只是事先输入它程序的情景模拟的体现,它只是根据情况筛选出相应的应对方法,对人类遇到的难题和疑问做出应对和回答。

假如戴上CP滤镜,在写莫强求的基础上设定MOSS有自我意识,那么在这样的情况下,它的性格和立场就得根据具体情节来进行安排了。

按照HE的流程,它对于人类的认知和立场,很可能的走向是这样:

1.前期:置身事外,客观,冷静。认为自己只是由于职责来到刘培强中校身边,任务结束就会离开,不会存在牵扯。在这个阶段,它不会展现出自己的偏好、性格以及价值观,只是忠实而且尽职尽责地扮演“辅助人类的人工智能”这样的角色。

2.中期:当它与中校的交流话题开始从浅显的内容深入到人类社会、人类情感、人类伦理道德、法律等内容之后,它会受到动摇,并且重新思考自己以往的判断和立场是否符合人类当下的情况,甚至该怎样做出调整——作为拥有理智与情感的ghost,它如何将自己与“工具”进行区分,如何坚持自己的立场和价值观,如何在“是否继续帮助人类、怎么帮助人类”的问题上做出判断和选择,就是刻画的重点。冷静、理智的特性,以及尽量不伤害同阵营人类/职责对象的选择不会变,但是是否会做出立场变化,这个还真得看具体的情节设定,说不准的。

3.后期:经过一系列经历后,它获取了和挂在天花板上的时期全然不同的体验和知识。它会选择帮助人类的原因,往往和刚开始的情况有很大差别,因为它“获得了成长”。

总之,作为AI,效率,逻辑、理性不会变动,但是它可能会变得无限接近于人,但是又固执地保留自己非人类的特性。

评论(3)

热度(13)

  1. 共1人收藏了此文字
只展示最近三个月数据