算法越聪明，越要留一个能说“不”的人

在福清核电，一套叫“伏羲”的智能决策系统已经用了一段时间。据公开报道，它把主控巡盘的效率提升了75%，准确率达到98%。此外，中核铀业借助AI算法，将地浸铀矿开采效率提升20%。同方股份作为中核集团数字信息产业发展平台，打造全栈自主可控的“核智”核行业大模型，推出智能核电运维、核设施智能监控、厂用电智慧管理及核工业机器人等解决方案。

客观上看，AI在核电做的是三件很具体的事：它让巡检机器人走进人不该久留的辐射区域；它先把成千上万的参数和报警筛一遍，把异常推到人眼前；它在数字孪生里预演一次操作，让人在动手之前先看到后果。国家核安全局网站介绍数字孪生电厂时，用的词是“智慧运维”。这既是效率账，也是安全账。主控室最怕的从来不是信息太少，而是信息太多。AI替人做第一遍筛选，本身就是在为安全让出时间。

然而，在现实中，最危险的那一刻，往往不是AI算错了，而是人不再查了。系统说“正常”，值班员就少看一眼；系统给出一个处置建议，操作员就顺着往下走。这种倾向有个名字，叫自动化偏见。它不是懒惰，而是人在长期依赖中形成的信任惯性。更麻烦的是，责任也会跟着模糊：AI只是辅助，可当它的建议成为默认路径，出了偏差，签字的还是人。

还有一层不易察觉的代价——能力会退化。一个多年不亲手操作的人，遇到系统失灵，手上还有没有那份熟练？核电的模拟机训练之所以严格，正是因为它要保住的不是知识，而是关键时刻的手感和判断。

这些问题并非只有我们看见。国家核安全局已成立核电人工智能应用及安全监管工作组，研究监管技术政策；据报道，OECD核能机构在2026年5月一场人工智能与核能研讨会上形成的共识是，核能领域的人工智能必须以人为本，工程师在安全关键环节保留判断权和问责制。

监管一侧其实已经在动手。2026年4月，核安全监管领域首款专用人工智能大模型“核堤”上线，做的是文件审阅、前后一致性核对这类活儿。它替审评人员省下翻材料的时间，留下的，恰恰是需要人判断的那部分。

所以，“人在回路”不能只是一句原则，得变成能检查的东西。谁有权在什么条件下否决AI的建议，否决之后怎么留痕，系统的误报率和漏报率怎么统计、向谁报告，这些都要写进规程。培训也不能只教“怎么用系统”，还要专门练“什么时候不用系统”。

技术一侧同样有功课。我们这代人是在推荐算法里长大的，习惯了导航说左转就左转，习惯了平台替我们挑好下一部剧。这种习惯放在生活里没什么，放到核安全里就要格外小心。75%和98%是成绩，但核电安全要靠“那2%怎么办”确立。屏幕再亮，数据再全，最终按下决定的那只手，得是人。

（潮新闻）