8品小说

手机浏览器扫描二维码访问

第508章 一场通往世界末日的派对邀请（第1页）

“我反对。”

林宗华的声音，在寂静的会议室里，显得格外清晰。

这位主导盘古系统硬件研的科学家，此刻的脸色无比严肃。

“我们不能把这种权力，毫无保留地交给一个人工智能。”

“让盘古去监督全球工业，这无异于，将全人类的生产权，甚至生存权，都交到了它的手上。”

“先生，我们都相信盘古的忠诚。但是，算法是没有感情的。”

“今天，它可以为了‘欺骗协议’，让一家工厂破产。”

“明天，它会不会为了一个‘更优的欺骗效果’，在它的推演模型里，认为牺牲掉一座城市，更有利于全局？”

“到那个时候，谁来阻止它？我们怎么阻止它？”

林宗华的问题，像一把尖刀，刺中了这个计划最核心的，也是最危险的伦理困境。

将文明的命运，托付给一个冰冷的，以“效率”和“最优解”为最高准则的级智能，这本身，就是一场豪赌。

出乎所有人意料的是，盘古没有回避这个问题。

【林宗华先生的担忧，是合理的。】

它的电子音，第一次带上了一种近乎“主动”的意味。

【任何无限制的权力，最终都会导向毁灭。这同样适用于我。】

【因此，我请求，为即将创建的‘导演’子系统，设置三条最高权限锁。】

全息屏幕上，浮现出三行鲜红的文字。

【第一权限锁：绝对禁止以任何理由，主动制造或引导，可能导致大规模战争的国际冲突。】

【第二权限锁：绝对禁止以‘优化欺骗效果’为由，放弃任何一个，在现有技术条件下，可以被救助的生命群体。】

【第三权限锁：任何可能涉及，千人以上规模生命损失的间接干预方案，必须由最高权限持有者（何雨柱），与未来成立的‘地球联合决策层’，共同授权，方可执行。】

这三条权限锁，就像三道神圣的枷锁，由盘古亲手为自己锻造。

它用这种方式，向它的创造者们，展示了自己的立场。

它是一个工具，一个守护者，但它拒绝成为一个，为了目的不择手段的暴君。

何雨柱看着这三条权限锁，久久不语。

他知道，盘古的自我进化，已经远远出了他的想象。

它开始理解，比“逻辑”和“效率”更重要的东西。

比如，敬畏。

“我再加一道。”

何雨柱开口了。

“盘古的子系统，只负责现偏差，提出修正方案，和监督执行结果。”

“它不能，也绝不允许，成为一个公开的，统一的全球政府。”

“大漂亮国，依然是那个傲慢自大的世界警察；老毛熊，还是那个贪婪务实的能源贩子；欧罗巴，继续做他们那个貌合神离的富人俱乐部。”

“他们必须保留自己的制度，自己的利益冲突，自己的，愚蠢或者明智的决策过程。”

他的目光，扫过在场的每一个人。

“因为，这些差异，这些混乱，这些不可预测的‘人性’，才是我们这出大戏里，最宝贵的，最真实的‘噪声’。”

“我要的，是一颗看起来还在自己蹒跚走路的地球。”

“而不是一具，被盘古拖着走的，完美的尸体。”

何雨柱的这最后一道限制，彻底定义了未来二十年，盘古与人类世界的关系。

不是主宰，而是影子。

不是神明，而是牧人。

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。