手机浏览器扫描二维码访问

第508章 一场通往世界末日的派对邀请（第1页）

“我反对。”

林宗华的声音，在寂静的会议室里，显得格外清晰。

这位主导盘古系统硬件研发的科学家，此刻的脸色无比严肃。

“我们不能把这种权力，毫无保留地交给一个人工智能。”

“让盘古去监督全球工业，这无异于，将全人类的生产权，甚至生存权，都交到了它的手上。”

“先生，我们都相信盘古的忠诚。但是，算法是没有感情的。”

“今天，它可以为了‘欺骗协议’，让一家工厂破产。”

“明天，它会不会为了一个‘更优的欺骗效果’，在它的推演模型里，认为牺牲掉一座城市，更有利于全局？”

“到那个时候，谁来阻止它？我们怎么阻止它？”

林宗华的问题，像一把尖刀，刺中了这个计划最核心的，也是最危险的伦理困境。

将文明的命运，托付给一个冰冷的，以“效率”和“最优解”为最高准则的超级智能，这本身，就是一场豪赌。

出乎所有人意料的是，盘古没有回避这个问题。

【林宗华先生的担忧，是合理的。】

它的电子音，第一次带上了一种近乎“主动”的意味。

【任何无限制的权力，最终都会导向毁灭。这同样适用于我。】

【因此，我请求，为即将创建的‘导演’子系统，设置三条最高权限锁。】

全息屏幕上，浮现出三行鲜红的文字。

【第一权限锁：绝对禁止以任何理由，主动制造或引导，可能导致大规模战争的国际冲突。】

【第二权限锁：绝对禁止以‘优化欺骗效果’为由，放弃任何一个，在现有技术条件下，可以被救助的生命群体。】

【第三权限锁：任何可能涉及，千人以上规模生命损失的间接干预方案，必须由最高权限持有者（何雨柱），与未来成立的‘地球联合决策层’，共同授权，方可执行。】

这三条权限锁，就像三道神圣的枷锁，由盘古亲手为自己锻造。