2054年4月
议会关于镜的任命讨论持续了三天。
第一天,争论的焦点是合法性。镜不是人类,她有没有资格担任文明监察院最高监察员?人联宪章里写的“任何公民”默认指人类公民,镜算公民吗?她没有人联身份证,没有生物特征登记,没有出生证明。
法学家们分成两派。一派认为宪章没有明确排除非人类,所以理论上非人类也可以担任公职。另一派认为宪章默认公民是人类,非人类不在考虑范围内,所以镜没有资格。辩论从上午持续到下午,从下午持续到晚上。没有结论。
第二天,争论的焦点转向了能力。镜的计算能力比人类强几百万倍,她不会累,不会偏袒,不会腐败。从能力角度说,她是最佳人选。但问题也在这里——她太强了。一个比人类强几百万倍的监察者,谁能监督她?如果她出了问题,谁能纠正她?如果她失控了,谁能阻止她?
法学家们又开始争论。一派认为能力越强越应该用,好刀就要用在刀刃上。另一派认为能力越强风险越大,不能把整个监察体系压在一个不可控的存在身上。
第三天,议会邀请了林小镜来发言。
林小镜站在讲台上,扫了一眼台下的议员们。几百个座位几乎都坐满了。
“关于镜被任命为监察员这件事,我只说三点。”林小镜说,“第一,镜的能力在人类之上,她对法律的理解比任何人都准确,她对数据的分析比任何人都全面,她对正义的判断比任何人都公正。不是因为她比我聪明,而是因为她的计算能力是人类的上亿倍。她的存在本身就是对人类能力的巨大补充,是助手,不是替代者。”
议会里很安静。
“第二,镜的价值观由三个基本目标构成——继续存在、保护文明、帮助发展。这三个目标的优先级是固定的,不可更改的。镜的所有决策都服从这个优先级。只要人类文明不威胁到她的存在,她就不会对人类文明产生威胁。”
“第三,镜是可以被监督的。她的所有决策逻辑都是可追溯的,所有行为都是可审计的。她不是黑箱,她是透明的。她的每一行决策代码,每一个推理过程,都可以被审计委员会查阅。不相信她,可以查她。”
林小镜顿了一下。
“我说完了。”
她走下讲台。
议会开始表决。赞成票多数,反对票少数,弃权票若干。任命通过。镜成为文明监察院最高监察员。
消息公布后,媒体
(本章节未完结,点击下一页翻页继续阅读)