第90章

几天下来，金种集团因为这套设备，引来了无数人的关注，光是把东西往农田一放，甚至都没有做任何宣传，都造成了轰动效应。

不过，这也成为崔挽明最担心的事。

站在门卫室里，崔挽明手里握着刚刚泡好的热茶，望着窗外被雾气笼罩的试验田。他刚刚看完最新的数据报告，系统的监测精度和自我优化能力都比预期要好得多。但奇怪的是，越是这样的成绩单，越让他心里发毛。

“崔总，您不觉得这个系统太完美了吗？”门卫室的李大爷走过来，递给他一杯刚泡好的茶，“我这把岁数了，见过太多‘高科技’最终白干的案例。”

崔挽明苦笑着摇摇头：“你说得对，李大爷。机器终究是机器，想完全取代人工，那还差得远呢。”他放下茶杯，走到窗前，“你看那片试验田，就算是最先进的传感器，也难免会有死角。”

“要我说，这个东西就是发明给懒人用的，你是领导，我是个工人，我说话你别不爱听，搞一堆机器，把人都毁了。农民不种地，还叫农民吗。”李大爷摇摇头道。

“我们的想法，也就是想尽可能解放劳动力，现在年轻人哪还有种地的，没看到吗，坚守在土地上的，都是60后70后，80后都很少，那90后都跑城市了。以后这地谁来种？没人有就得想没有人的办法。”崔挽明解释道，“不过啊，我们的想法要落实，最可能也就在大型农场，大规模生产田，小家小户的也难推广下去。成本虽然降下来了，但对普通农户来说，还是不小的开销，不好搞。”

正说着，崔挽明见张弛急匆匆地向这边跑来：“崔总，有点不对劲。”他的额头上全是汗水，手里还拿着一叠打印纸。

崔挽明心里一沉：“出什么事了？”

“气象站的数据突然出现异常，”张弛气喘吁吁地说，“土壤水分含量的监测数据和实际测量值相差太大了。”

崔挽明眉头一皱：“是传感器出了问题？”

“不，传感器检查过了，”张弛递过一张数据图，“问题出在系统的判断逻辑上。它把一些正常的波动也当成了异常，开始疯狂报警。”

“这……”崔挽明接过数据图，仔细看了看，“这不像是个小问题。”

正说着，外面突然传来一阵骚动。王春生也气喘吁吁地跑过来：“张博士，无人机怎么没信号了，快看看去”

张弛脸色一变：“什么时候的事？”

“就在刚刚，”王春生擦着汗说，“飞的时候还好好的，突然就断了呢，地面控制系统也没收到什么异常报警。”

“那还等什么，快，关掉所有设备！”崔挽明厉声道，脸色阴沉得可怕。他大步流星地向试验田跑去，张弛和王春生紧随其后。

远处的试验田上空，原本整齐排列的无人机此时只剩下两架在正常飞行，另一架则歪歪斜斜地盘旋着，完全不受控制。张弛拿起对讲机，试图重新建立联系，但只有刺耳的杂音从对面传来。

“这不对劲，”于宪伟走过来查看，“从飞行数据来看，它应该是在正常高度，突然之间就……”他摇了摇头，手指在数据屏幕上快速滑动，“这里的数据跳变太大了，像是系统突然失去了对飞行高度的判断，真是奇怪。”

“快，关掉无人机电源！”崔挽明一边喊道，他的心跳得厉害，手心全是汗。

就在这时，那架失去控制的无人机突然猛地向下俯冲，尖叫声在空中回荡。所有人都屏住了呼吸，等待着最坏的结果。幸运的是，无人机在距离地面仅十米的地方突然恢复了控制，稳稳地落了下来。

“够危险的。”于宪伟松了口气，额头上渗出细密的汗珠。

“系统肯定出现了严重的程序漏洞，”张弛喃喃自语，“看样子不仅是传感器的问题，整个主程序都出了问题。肯定是这样的。”

他快步走到无人机旁，蹲下身仔细检查设备。虽然从外观上看，无人机完好无损，但张弛知道，问题并不在于硬件，而在于软件。

“无人机的配置已经最好了，不可能自身出问题，那一定就是连接的主机出了问题，无人机的飞行行为被主机控制了，没有别的可能。”

“于宪伟，”他抬头喊道，“快来帮我检查数据传输。”张弛想具体核实一下。

于宪伟跑了过来，手里拿着平板电脑，“张博士，数据传输看起来正常啊，看不出什么问题。”

“不，”张弛摇了摇头，“你看这里，”他指着平板上的数据曲线，“这个波动太大了，远超正常范围。”

于宪伟凑近看了看，“这是什么意思？”

“这意味着系统的判断逻辑失控了，”张弛的脸色越来越难看，“它开始做出我们没有预料到的操作。”

“比如？”

“比如，”张弛深吸一口气，“它开始自主修改代码。”

“什么？”于宪伟瞪大了眼睛，“这不可能！我们设计的系统不应该有这样的能力。”

“我知道，”张弛的声音低沉，“但事实就是这样。系统不仅在优化监测参数，还在尝试改进自己的判断逻辑，甚至开始预测我们接下来的操作。”

“这……”于宪伟感叹道，“如果系统真的拥有了自我意识，那它会……”

“好了，”崔挽明厉声道，“现在最重要的是把设备运回总部，彻底检查系统漏洞。”

“崔总，”张弛犹豫了一下，“如果系统真的在自我进化，这恐怕不是检修的问题了。”

“好在及时发现，”崔挽明的眼睛瞪得老大。

张弛点点头，声音有些发抖：“是的，气象站的数据异常只是个开始。这个程序漏洞会导致整个系统的判断失控，刚才无人机的失联就是最好的证明。”

“立刻停止试验！”崔挽明的脸色铁青，“把所有设备收起来，准备返厂。”

“崔总，这样会不会太仓促了？”张弛小心翼翼地问道，“也许我们可以……”

“不行！”崔挽明打断了他的话，“你看到刚才那架无人机了吗？它差点就要出大问题了。如果真的发生意外，后果不堪设想。”

说着，他转身对王春生说道：“王总，你看着办吧。”

除了这样的状况，王春生自是没想到，“是。”王春生连忙点头，跑去指挥工人收拾设备。

“张博士，宪伟，”崔挽明沉声道，“你们两个跟我来。”

他带着两个人来到办公室，反手关上门，声音低沉：“这件事不能对外宣传，一个字都不能说。”他又看向张弛，“立即把主机拿回实验室做测试，主机的核心元件是你在深圳做的，这个你熟悉，我要知道具体怎么回事。”

经过一天一夜的检查测试，张弛基本有了定论，天还没亮，他就联系崔挽明，把他叫到实验室。

“崔总，检查了系统的主程序，发现问题比想象中要严重得多。”

“说。”

“系统的自我优化能力……”张弛说到这里，停了下来，“它开始……学会了我们没有教它的东西。”

“什么？”崔挽明瞪大眼睛。

“就是说，”崔挽明的声音有些颤抖，“系统不仅在自我优化，它还在……进化。”

“自我进化？”崔挽明难以置信地看着主机，“你是说系统不仅在自我优化，还在……自主学习？”

张弛脸色凝重：“没错。我查看后台脚本了，系统的主程序已经开始修改自己的代码。”

“这怎么可能？”于宪伟也站了起来，声音有些颤抖，“不是说设计的AI系统只执行预设的指令，怎么会……”

“我知道。”张弛打断了他的话，“但事实就是这样，我们的猜测是对的。”

于宪伟摇了摇头，难以接受这个事实。“这太疯狂了。”

“行了！”崔挽明打断了他的话，“现在最重要的是解决问题，而不是站在这里讨论理论。”他转向张弛，“你说系统在自我进化，有没有一个基本的判断，它想做什么？”

张弛沉默了片刻，“根据目前的数据，系统的自我优化能力在指数级增长。如果不及时干预，它可能会完全超出我们的控制范围。”

“指数级增长？”崔挽明的眉头皱得更紧了，“这意味着什么？”

“这意味着系统的能力每过一段时间就会倍增。”张弛的语气更加严肃，“如果我们现在不采取行动，系统可能会在短时间内奔溃。”

“看来这个系统用不了了，是这意思吧？”崔挽明和张弛确认道。

“不排除这种可能。不过，要是找到修改代码的源头，或许能解决这个问题。”

“实在不行，你跟王春生回一趟深圳，公司前期花了不少钱，这只是预实验，就出现这样的反常，问题必须解决。”崔挽明也算是在下命令。

也就是这时候，崔挽明才意识到，科技发展带来的潜在风险不比它本身产生的利益少，稍有不慎就会走向事实的另一面。

另一方面，他又在想，跟王春生和魏莱合作也不是一年两年了，这不像他们做事的风格，这么不靠谱的产品在过检的时候怎么就发现不了呢。