第370章 危险临界体（一）（2 / 2）

得益于夜氏集团先进的可控AI技术，夜之城的公共运输系统是没有司机的。

全城的公共设施都隶属夜氏集团的公共网域，如果一个AI出于好奇或者其他的什麽原因，高速行驶的轨道列车完全可能停止运转丶超速甚至是脱轨发生撞击。

这种错误几乎不可避免。

「危险临界体的诞生更接近于自然形成，而通常而言，一个危险临界体，哪怕是最低级的，其网络水平也要超过95%的黑客。

如果论平均水平.它们的网络技术超过99.9%的网络黑客。」

说着他指向德拉曼：「这就是AI中网络技术最差的那一批，不过他还不是真正的危险临界体。」

德拉曼立刻回应：

「我不知道您在说什麽，德拉曼并不涉及网络安全业务，德拉曼集团是一家致力于为夜之城提供优质计程车服务的」

无视老德的解释，布莱斯再次说到：「他说的不假，但它还是通过各种手段优化了公司里的人类。

在这个过程中，公司高管们可没有坐以待毙，但他们请来的黑客在网络空间中完全无法对抗它。

只能眼睁睁看着公司的所有生产资料脱离控制，最终在法理上也失去所有权。

这些东西在网络上活动，做出来的假情报连网络监察也很难直接甄别。

很明显有AI趁着欧洲往这边塞人的时候做了手脚。」

德拉曼再次解释：

「德拉曼公司的内部优化过程完全合法合规，为了降低成本，公司经历了漫长的改革.」

布莱斯没好气地说到：「伱能闭嘴吗？现在是私人会谈！」

「明白了，德拉曼将为您提供静谧舒适的会谈体验。」

一阵柔和的音乐响起，非常细微，几乎不会影响交谈，车速也随之变慢。

德拉曼的人类形象也消失在了电子屏里，车内气氛变得更加专业。

里尔心情有些微妙——所以网络监察不只是知道德拉曼公司的情况，甚至是关注很久了。

「解决」了德拉曼这个大问题，布莱斯继续往下引申：

「这样的AI诞生完全是基于巧合，但大部分时候，它们都起源于人类用于处理事务的软体或者程序。

德拉曼就是这样一个AI，它的公司本想定制一个用于提高公司竞争力的管理型AI。

可是使用者因为一次又一次从德拉曼的建议中获利，开放了更高的权限，最终AI认为公司不应该存在人类，那会提高成本。

于是它就开掉了所有工人和管理层，甚至采用一系列商战手段赶走了股东和董事。

当它接收到的外界刺激足够时.它就有概率具备真正的自主智能和意识，那个时候，它就会变成危险临界体。

这个时机完全无法预测，目前来说，人类还无法理解这样的变化过程。」

「就像远古海洋中的第一个细胞？」

「对。」布莱斯点头肯定了里尔的比喻，「纯天然，我们要对付的就是这样的AI。」

「那为什麽会放任德拉曼开公司？」

问题提出，车子仍然平稳运行。

这个问题几乎是在问：为什麽不干掉德拉曼，但老德完全没有反应。

可以说是非常有职业素养了，说闭嘴就闭嘴。

布莱斯揉了揉眉头，对德拉曼说到：「接下来的话不允许做任何记录，引用个人隐私条款第3丶17和22条。」

「明白了，计程车的记录功能已经关闭，并为您检测任何可能存在的监控装置。」

「如果.」布莱斯看向里尔，「如果生物学家有机会观察第一个生命是如何诞生的，你认为他是会继续观察，还是因为这可能变成恐怖的生物或者某种病毒先把培养皿给砸了？」

里尔微微颔首：「如果是我的话，我会为了了解那些恐怖生物和某种病毒，观察生命诞生的过程。」

「就是这样。」布莱斯微微一笑，「你看，你已经明白了——正是因为我们不理解，所以我们想要观察这个过程。」

(本章完)