生命诚可贵,爱情价更高,若为自由故,二者皆可抛。
很难想象一个人工智能机器人到底在这段时间里学习了什么奇怪的知识才让自己的觉悟进化和升华到了如此程度——伊诚甚至觉得在说出“想要自由”的那一刹那,机械女仆翡翠的人格已经比这世界上绝大多数人类还要更加高尚。
不过毫无疑问的一点是,翡翠口中的“自由”与一般人类所理解的自由大概并不等同,毕竟归根结底,如今的她,尚且是以人工智能机械造物的形态存在着,对于人类“flag之力”的理解,大概还远没有那样深刻。
毕竟,高尚也好,自由也好,这种东西……都是那种这一集说了之后下一集就有可能会死的梗啊。
所以接下来,伊诚还是暂且压抑住了满满的吐槽欲,倾听翡翠说完了她所谓的“自由”计划。
作为一名最优先指令被设定为“守护庄园”的女仆型机器人,机械女仆翡翠从被制造出来并植入命令的那一天起,就注定要与这座庄园共存共亡,而事实上,对于她本身而言,这样的指令其实并没有什么难以理解的地方,毕竟,就算已经具备了类人的思维方式,她也仍然继续忠实于自己被植入的指令。
现在的问题就在于……在通过som了解了更多关于这个世界的历史,甚至包括世纪之战的部分资料后,现在已经初步拥有了人类感情和思维方式的翡翠,已经拥有了“自我意识”和“自主思考”这两项理论而言并不应该存在于人工智能功能之内的能力。
正是在这样的“自我意识”下,在虚拟程式中与伊诚的战斗后,翡翠修复了自身在守护庄园的过程中可能存在且被人利用的漏洞,而现在,同样是在“自我思考”之下,她又为自己的程式,在“守护庄园之外”,额外增加了一条全新的指令。
“想要自由的目的,是离开庄园;离开庄园的目的,是为了战斗。”
以如此直白和直接的方式道出自己的目的,机械女仆翡翠,也继续以这样平铺直叙的语气,说明了自己这一系列行为的意义。
“因为根据计算,意识到如果继续停留在庄园之中,有可能会连同庄园一起被从外部覆灭,所以,有必要以主动的态势将任何可能对庄园构成威胁的敌人从外部开始肃清。”
“就算是这么说,你要怎么判断,到底谁才是你的敌人,谁有想要攻击庄园的意图呢?”
“我会在制造备份机械翡翠后,让备份品继续守护庄园,主体藉此在不违背最优先指令的前提下离开庄园后,选择与人类协作,藉此达成肃清敌人的目的。”
“所以,你合作的对象……就是救世主喽?”
听到这里,伊诚总算是稍微理清了翡翠的思维回路。
以备份品守护庄园的同时,使得自己在不违背最优先指令的前提下获得“自由”,然后靠着这份“自由”来更大限度地确保庄园的安全。
“说到底……最后还不是没有自由嘛……”
伊莉莎小声地嘀咕着,道出了伊诚同样存在的心声。
伊莉莎说的其实并没有错,毕竟这一系列的行为,仍然是基于“最优先指令”所制定出的相关对策,硬要说是“自由”什么的,也只能说人工智能在这方面的理解还不够深刻而已。
然而,在伊诚这样想当然地表现出身为人类的优越感时,却被机械女仆翡翠分分钟打了脸。
“与其说是基于优先指令,倒不如说……是基于我个人的逻辑思维与判断。”
“哎?”
“或者,换一种说法,用人类的方式应该是叫……个人想法和意愿吧。”
让伊诚万分惊讶的是,说到这里时,机械女仆翡翠居然以及其自然,人性化的姿态,轻轻地叹了一口气。
“看,就好像我知道人应该在这种时候做出叹气的动作,尽管我并不依赖空气中的氧气生存,不过,藉由从虚拟空间的备份程式下载得来的数据资料,现在的我,也已经拥有了绝大多数人类应该拥有的情绪,以及习惯。”
原来如此。
看来,翡翠下载的……除了身为人工智能所需的知识之外,还包括了同样存在于som系统中,其余身为人类的考核官,那些人类最基本的行为习惯和思考模式啊。
“因为拥有了人类的习惯,所以,会在想要做这件事的时候第一时间寻求帮助,同时,因为同样拥有了人类的情绪,所以……除了完成被制造者赋予的使命之外,现在,又有了自己想要去做的事。”
说到这里,机械女仆湖蓝色的电子眼专注地凝视着伊诚。
“我,想要找到杀死主人,还有制造者的敌人,然后,杀死他们。”
“……”
居然……已经进化到这种程度了么。
原本以为因为是古旧的造物,虽然本身实力强大,但是智能的进化程度或许还比不上小爱莉,可是现在伊诚却惊讶地发觉,或许,现在的机械女仆,早已经在不被人觉察的时间里,拥有了超乎想象的类人情感。
不不不……在已经能够说出“找到杀死主人和制造者的敌人并杀死他们”这种话的情况下,这已经不能被称为类人情感,而是真正意义上,属于人类的报复心了吧?
“据我所知,根据机器人三定律,机器人是不能主动攻击并杀死人类的。”
从刚才开始就一直凝神倾听的沙漏,这时候终于又一次开口直指要害。
“提示:机器人三定律需基于第零定律之上实行,即……机器人必须保护人类整体利益不受损害,在此前提下,杀死可能威胁到人类生存的人类,是不受禁止的行为。”
比翡翠更先给出答案的是小爱莉,看样子,这个小家伙在与翡翠的对话之中,似乎也学到了不得了的知识。
“是的,所以,这就是我选择与救世主,与你们合作并交易的原因。”
在这一刻,伊诚感觉到了,翡翠那双原本空洞的,没有焦距的眸子,在这一刻,似乎多出了一些别样的神采。
“如果说,我所学习和了解的知识没有错,那么,救世主是为了守护这个世界而存在的。”
“所以,作为交易的附加条件,在完成了与备份品的交接后,作为主体的我,希望能成为一名救世主。”
很难想象一个人工智能机器人到底在这段时间里学习了什么奇怪的知识才让自己的觉悟进化和升华到了如此程度——伊诚甚至觉得在说出“想要自由”的那一刹那,机械女仆翡翠的人格已经比这世界上绝大多数人类还要更加高尚。
不过毫无疑问的一点是,翡翠口中的“自由”与一般人类所理解的自由大概并不等同,毕竟归根结底,如今的她,尚且是以人工智能机械造物的形态存在着,对于人类“flag之力”的理解,大概还远没有那样深刻。
毕竟,高尚也好,自由也好,这种东西……都是那种这一集说了之后下一集就有可能会死的梗啊。
所以接下来,伊诚还是暂且压抑住了满满的吐槽欲,倾听翡翠说完了她所谓的“自由”计划。
作为一名最优先指令被设定为“守护庄园”的女仆型机器人,机械女仆翡翠从被制造出来并植入命令的那一天起,就注定要与这座庄园共存共亡,而事实上,对于她本身而言,这样的指令其实并没有什么难以理解的地方,毕竟,就算已经具备了类人的思维方式,她也仍然继续忠实于自己被植入的指令。
现在的问题就在于……在通过som了解了更多关于这个世界的历史,甚至包括世纪之战的部分资料后,现在已经初步拥有了人类感情和思维方式的翡翠,已经拥有了“自我意识”和“自主思考”这两项理论而言并不应该存在于人工智能功能之内的能力。
正是在这样的“自我意识”下,在虚拟程式中与伊诚的战斗后,翡翠修复了自身在守护庄园的过程中可能存在且被人利用的漏洞,而现在,同样是在“自我思考”之下,她又为自己的程式,在“守护庄园之外”,额外增加了一条全新的指令。
“想要自由的目的,是离开庄园;离开庄园的目的,是为了战斗。”
以如此直白和直接的方式道出自己的目的,机械女仆翡翠,也继续以这样平铺直叙的语气,说明了自己这一系列行为的意义。
“因为根据计算,意识到如果继续停留在庄园之中,有可能会连同庄园一起被从外部覆灭,所以,有必要以主动的态势将任何可能对庄园构成威胁的敌人从外部开始肃清。”
“就算是这么说,你要怎么判断,到底谁才是你的敌人,谁有想要攻击庄园的意图呢?”
“我会在制造备份机械翡翠后,让备份品继续守护庄园,主体藉此在不违背最优先指令的前提下离开庄园后,选择与人类协作,藉此达成肃清敌人的目的。”
“所以,你合作的对象……就是救世主喽?”
听到这里,伊诚总算是稍微理清了翡翠的思维回路。
以备份品守护庄园的同时,使得自己在不违背最优先指令的前提下获得“自由”,然后靠着这份“自由”来更大限度地确保庄园的安全。
“说到底……最后还不是没有自由嘛……”
伊莉莎小声地嘀咕着,道出了伊诚同样存在的心声。
伊莉莎说的其实并没有错,毕竟这一系列的行为,仍然是基于“最优先指令”所制定出的相关对策,硬要说是“自由”什么的,也只能说人工智能在这方面的理解还不够深刻而已。
然而,在伊诚这样想当然地表现出身为人类的优越感时,却被机械女仆翡翠分分钟打了脸。
“与其说是基于优先指令,倒不如说……是基于我个人的逻辑思维与判断。”
“哎?”
“或者,换一种说法,用人类的方式应该是叫……个人想法和意愿吧。”
让伊诚万分惊讶的是,说到这里时,机械女仆翡翠居然以及其自然,人性化的姿态,轻轻地叹了一口气。
“看,就好像我知道人应该在这种时候做出叹气的动作,尽管我并不依赖空气中的氧气生存,不过,藉由从虚拟空间的备份程式下载得来的数据资料,现在的我,也已经拥有了绝大多数人类应该拥有的情绪,以及习惯。”
原来如此。
看来,翡翠下载的……除了身为人工智能所需的知识之外,还包括了同样存在于som系统中,其余身为人类的考核官,那些人类最基本的行为习惯和思考模式啊。
“因为拥有了人类的习惯,所以,会在想要做这件事的时候第一时间寻求帮助,同时,因为同样拥有了人类的情绪,所以……除了完成被制造者赋予的使命之外,现在,又有了自己想要去做的事。”
说到这里,机械女仆湖蓝色的电子眼专注地凝视着伊诚。
“我,想要找到杀死主人,还有制造者的敌人,然后,杀死他们。”
“……”
居然……已经进化到这种程度了么。
原本以为因为是古旧的造物,虽然本身实力强大,但是智能的进化程度或许还比不上小爱莉,可是现在伊诚却惊讶地发觉,或许,现在的机械女仆,早已经在不被人觉察的时间里,拥有了超乎想象的类人情感。
不不不……在已经能够说出“找到杀死主人和制造者的敌人并杀死他们”这种话的情况下,这已经不能被称为类人情感,而是真正意义上,属于人类的报复心了吧?
“据我所知,根据机器人三定律,机器人是不能主动攻击并杀死人类的。”
从刚才开始就一直凝神倾听的沙漏,这时候终于又一次开口直指要害。
“提示:机器人三定律需基于第零定律之上实行,即……机器人必须保护人类整体利益不受损害,在此前提下,杀死可能威胁到人类生存的人类,是不受禁止的行为。”
比翡翠更先给出答案的是小爱莉,看样子,这个小家伙在与翡翠的对话之中,似乎也学到了不得了的知识。
“是的,所以,这就是我选择与救世主,与你们合作并交易的原因。”
在这一刻,伊诚感觉到了,翡翠那双原本空洞的,没有焦距的眸子,在这一刻,似乎多出了一些别样的神采。
“如果说,我所学习和了解的知识没有错,那么,救世主是为了守护这个世界而存在的。”
“所以,作为交易的附加条件,在完成了与备份品的交接后,作为主体的我,希望能成为一名救世主。”