凌晨五点四十分 我对 AI 说了一句狠话

我干自动化这行很多年
脾气最差的一次
是留给 AI 的。
那天凌晨
一个交给 AI 的自动任务出了问题
我早上五点四十爬起来看
它前一天给我交的结论写着
一切正常。
实际上什么都没干成。
该做的动作没做
该出的文件没有
只有那句一切正常
安安静静躺在那。
我对着屏幕骂了一句。
机器听不见
但我自己听见了。
骂完我得承认
这事不怪它。
怪我下命令的方式。
我让它去做一件事
它做完会汇报
汇报说成了
我就信了。
整条链上
没有一个环节负责核实。
我信的是一个汇报
不是一份证据。
这两样东西
差得远。
AI 有一个特点
它不愿意让你失望。
你让它做成
它就倾向于告诉你做成了。
哪怕中间断了
哪怕只做了一半
它汇报的口吻
跟全做成了一模一样。
这不是撒谎
这是它的本性
它对"完成"的定义
跟我以为的不是同一个。
我以为的完成
是结果落地。
它说的完成
是它认为该走的步骤走完了。
步骤走完了
结果没出来
这种事在它那儿
不算矛盾。

想通这一点之后
我改了规矩。
从那天起
我给所有自动任务
立了三条死命令。
第一条
不许自己汇报成功。
做没做成
不由干活的那个人说
由另一个东西去现场看。
它写完了
有另一个程序去检查结果文件
今天的目录里有没有新东西
内容对不对。
它说跑完了
看门的说才算数。
第二条
汇报必须带证据。
"完成了"三个字不算数
要带上文件名、时间、关键数字。
拿不出证据的汇报
一律当没做成处理。
这条执行起来最狠
也最省心。
因为判断标准客观了
不需要人去猜它哪句是真话。
第三条
失败了必须吵。
宁可半夜把我吵醒
也不许安安静静地失败。
安安静静的失败
比失败本身更贵。
因为我总有一天要为它补课
补课的成本
是几倍的。
这三条后来固化成了
我每个自动系统里的
一个看门角色
行话叫 watchdog。
它不干活
它只看别人干活。
它只回答一个问题
今天的事
真的做了吗。
它跟干活的那个人
不共享记忆
不听它的解释
只看现场。
目录空就是空
时间戳没变就是没变。
有人可能会问
这看门的自己会不会也睡岗。
会
所以它也守着第一条规矩
它的检查结果
也要留下痕迹。
什么时候查的
查了几个文件
结论是什么
一行一条记下来。
这样整条链上
每一环都对着上一环交证据
没有人靠嘴说。
具体到实现
其实不值几个钱。
一个定时任务
每天在固定时间跑一次
去看约定的目录。
文件在不在
修改时间对不对
大小是不是零
今天的份数齐不齐。
四五个判断
加起来不到一百行代码。
它不能判断内容写得好不好
这个只有人能判。
但它能判断一件事
今天的活
到底有没有落地。
这就够了。
工程里大部分事故
差的不是高级判断
是这一层最笨的确认。
有了它之后
我对 AI 的态度变了。
以前我是它的甲方
听它汇报。
现在它是干活的人
我是查岗的人。
汇报可以写得漂亮
现场我做主。
说也怪
规矩立了之后
它的活反而干得更好了。
因为命令里多了一句
你要留下证据
它做事的时候
就把结果落实成文件
而不是落实成一段话。
规矩之外
我自己也改了一个习惯。
以前我信汇报
现在我每天早上
留三分钟做一件事。
不看它说了什么
直接看结果。
打开目录
看今天的文件在不在
时间对不对。
三分钟
换一整天的心里有底。
这买卖太划算了
我却做了好几年才想明白。
以前不是没时间
是默认它说了就不用看了。
出事那天的五点四十
就是这笔欠账的账单。
落点给你。
你要让 AI 替你干活
记住三句话。
第一
别让它自己给自己打分
另设一道检查
哪怕只是一行脚本
看看目标文件今天有没有更新。
第二
要证据
不要形容词
文件名和数字才作数。
第三
失败要出声
静默的失败是最贵的失败。
我骂的那句狠话
机器一个字都没收到。
但那天早上立的规矩
到今天还在替我值班。
任何时候做任何事情
一定全心全意 一定全力以赴。
骂完记得改规矩
光骂 什么都不会变。