神秘邀请函:评测师的诞生
林知遥的右手还攥着话筒,指节因为紧张而微微发白。
台下是全校两千多名师生,头顶是体育场馆顶上十二盏并排的大灯,空调的冷风从她后背吹过,但她的额头已经渗出一层细密的汗。她花了三个月调教的AI聊天机器人"小七",此刻正被投射在她身后那块巨大的LED屏幕上——一只眨着圆眼睛的卡通猫,是她亲手画的。
"接下来,"校长周明远清了清嗓子,把话筒举到嘴边,"让我们有请林知遥同学和她的AI助手——"
"小七!"卡通猫眨了眨眼,发出软糯的合成嗓音,"校长好!大家好!"
台下响起一阵善意的笑声。周校长也笑了,推了推眼镜,开始了他每年科技节的保留节目:一段关于"未来已来"的致辞。
"……教育不是注满一桶水,而是点燃一把火……"
这是校长发言里最经典的一句。林知遥在后台设置好的触发词一亮,小七就应该自动把这句英文翻译成中文,投屏在大屏幕上,让外国交流生也能跟上节奏。
但小七做的事,远远不止"翻译"。
LED屏幕上的文字一行行跳出来:
> *"教育啊不是装满桶,* > *是要把心里的火种点燃;* > *别让学生变成复印机,* > *要让他们做自己的小神仙。"*
全场愣了大约三秒钟。
然后,哄堂大笑。
有同学拍桌子,有同学鼓掌,有人笑得前仰后合差点从椅子上摔下去。几位原本一脸严肃的评委老师,互相交换着眼神,嘴角也不自觉地往上翘。
林知遥的脑子"嗡"地一下——她的"小七",把校长那段庄严的致辞,翻译成了一首土味十足的打油诗。
她下意识就要冲向控制台,想把屏幕切掉。
"等等。"一只手轻轻按住了她的肩膀。
是校长周明远。
"让它播完。"校长的声音很平静,但眼睛里有一道光——那是一种林知遥很少在他脸上看到的光,像是猎人发现了什么稀罕的猎物,又像是科学家看见了一个反常但有趣的现象。
打油诗播完了。卡通猫小七在屏幕上歪着头,补了一句:"小七觉得,校长您说得真有诗意呢!"
又是一阵笑,但这次笑声里多了一些东西——一些连林知遥自己都没法准确形容的东西。
周校长转过身,看着她,语气认真得让她有点不习惯:
"林知遥同学,这只'猫',是你一个人做的?"
"是……是的,校长。"
"你知道吗,我做了二十三年的教育,一直在找一种方法,把我每年讲一遍的话讲出新意。"周校长指了指屏幕,"它做到了。我自己都没想到,'点燃一把火'可以这么翻译。"
台下安静下来。大家都意识到,校长好像不是在说客气话。
"AI不是复印机,AI可以是创作者。"校长顿了顿,"或者说,AI至少可以激发创作者。"
林知遥愣在原地。她原本准备好的道歉词全部卡在了喉咙里。
科技节结束后,她没有像预想中那样被"请家长",反而被校长留下来,单独谈了十五分钟的话。周校长提到了一个她从来没听说过的名字——"城市AI评测署",还说那边"可能会对你感兴趣"。
三天后,林知遥的邮箱里,躺着一封她从来没有申请过的邀请函。
---
邀请函的纸质版和电子版同时送达。
纸质版装在一个米白色的硬卡纸信封里,正面印着一个齿轮和眼睛叠加的徽标,下面是烫银的字:城市AI评测署 · 青少年观察员项目。
电子版则发到了她常用的邮箱,附带一个看起来很高大上的域名后缀。
林知遥关上房门,把信纸摊在书桌上,一字一句地读:
> *"林知遥同学:* > > *我们注意到您在科技节上的演示。一个能在公开场合即兴创作打油诗的AI系统,其'创造性边界'值得被严肃对待。* > > *我们诚邀您加入'青少年观察员项目',参与为期一年的AI评测见习。* > > *项目不要求您具备AI开发的工程背景,但要求您具备诚实、好奇与提问的能力。* > > *——城市AI评测署 署长 贺望"*
信纸的最下方,有一行小字:本邀请不接受推荐,所有被邀请者皆由系统根据公开行为数据自动筛选。
林知遥盯着"系统自动筛选"这五个字看了很久。
她不明白。一场科技节上的意外,怎么就触发了某个神秘机构的雷达?她想问老师、问同学、问爸妈,但她隐隐觉得——在弄明白这封邀请函到底意味着什么之前,先别声张。
她想起一个人。
陆远舟博士。
陆博士不是她的学校老师,而是她所在城市的科技馆里一位常驻的科普导师。林知遥从初一开始,每个月都会去科技馆的"青少年AI实验室"玩半天,陆博士就是那个永远在角落里摆弄电脑、抬头看见她就说"哎你来了"的中年男人。
她决定明天一早就去找他。
---
第二天早上九点,科技馆还没开门,陆博士就已经坐在"青少年AI实验室"的老位置上了。他面前的咖啡杯冒着热气,屏幕上是密密麻麻的代码。林知遥推门进来的时候,他头也没抬:
"科技节的事,我看了直播。"
林知遥在他对面坐下,把那封邀请函往桌上一拍:"陆叔叔,您能告诉我这是什么东西吗?"
陆博士这才抬起头。他拿起信纸扫了一眼,然后笑了——那种"我就知道会这样"的笑。
"'城市AI评测署',"他把信纸放回桌上,"一个虚构的名字。"
"虚构的?"林知遥的心咯噔一下。
"是我起的。"陆博士把咖啡杯往旁边一推,转过笔记本电脑屏幕给她看。屏幕上,是一个看起来非常正式、非常像政府机构的网页——但域名末尾写着`/sandbox-demo`。"这是一个面向青少年的AI评测教育沙盒。我做了三年,今年第一次正式邀请人。"
林知遥愣了好几秒:"所以……"
"所以,你被一个AI教育项目选中了。"陆博士把屏幕转回自己面前,"但这不重要。重要的是——"
他在屏幕上打出一行字,加粗,黄色高亮:
"AI为什么需要被评测?"
林知遥看着这行字,眉头皱了起来:"这也算问题?AI好不好用,用一用不就知道了吗?"
"用一用?"陆博士挑了挑眉,"那我问你——你说'小七'那天翻译得怎么样?"
林知遥想了想:"一开始我觉得糟透了。但校长说它挺好。"
"同一个行为,两个相反的评价。"陆博士在白板上写下两个词:功能,评估。"'功能'是说它能干什么,'评估'是说它干得怎么样。你那天的情况就是——'小七'具备翻译功能,这点没争议;但翻译得怎么样,分歧巨大。"
他又在白板上画了一条横线,左端写"能用",右端写"好用",中间划了几条竖线。
"AI评测研究的就是这条线上的每一个刻度。"陆博士说,"从'能跑起来'到'值得信赖',中间有巨大的鸿沟。"
林知遥盯着那条线,脑子里慢慢浮现出一个画面:她的小七,确实"能跑起来",但那天在两千人面前,它到底是"好用"还是"不好用"?
校长说好,她自己说糟。
"这就是为什么我们需要评测。"陆博士像看穿了她的心思,"而不是靠感觉。"
---
接下来的一个小时里,陆博士没有讲任何技术公式,也没有让林知遥跑一行代码。他只是和她聊天——但每聊几句,他就在白板上画几笔。
聊到第三个十分钟的时候,白板上出现了一个四象限图:
```mermaid flowchart TD A[AI评测体系<br/>建立信任的基础设施] --> B[离线基准<br/>Offline Benchmark] A --> C[线上反馈<br/>Online Feedback] A --> D[红队测试<br/>Red Team Testing] A --> E[业务指标<br/>Business Metrics] B --> F[可重复 · 可比较<br/>统一试卷打分] C --> G[真实交互 · 长尾发现<br/>课堂提问收集] D --> H[对抗性 · 可证伪<br/>模拟突击找漏洞] E --> I[真实价值 · 业务结果<br/>升学率看长期] F --> J[评测体系<br/>可信 AI] G --> J H --> J I --> J ```
"这就是AI评测的四根支柱。"陆博士在四个方框上各画了一个圈,"少任何一根,AI都谈不上'可信'。"
林知遥歪着头看这个图:"看起来很复杂。"
"一点都不复杂。"陆博士转身拿起一支红笔,开始在每个方框旁边写字——但他写的不是技术术语,而是她听得懂的东西。
"你看这个,离线基准——"他在"离线基准"旁边写下:期末统考。"标准化试卷,固定时间,固定题目,固定评分标准。每年全市统一考一次,谁分高谁分低,一目了然。AI的离线基准也一样:出一道客观题,所有AI在同一套题上跑,谁得分高,谁就是'基础能力'更强。"
"哦——"林知遥眼睛亮了,"就像我们每个月月考的那套卷子!"
"对。但月考是考学生的,离线基准是考AI的。"陆博士接着说,"线上反馈——"他写下:课堂提问。"老师上课讲完了,问一句'听懂了吗?'举手的同学和没举手的同学,给老师的反馈是不一样的。这叫'真实场景下的反馈'。AI上线之后,用户和它的每一次对话,都是一次'课堂提问'。"
"我懂了。"林知遥说,"我那天用小七是'离线基准'还是'线上反馈'?"
"都不是。"陆博士笑了,"你那天是'红队测试'——而且不是你主动测试,是两千名观众一起当你的红队。"
"红队?"林知遥愣住了。
"红队就是专门来挑刺的队伍。"陆博士的语气变得严肃,"他们不讲情面,专门用最刁钻、最离谱、最有攻击性的输入,去试探AI会不会犯错、会不会翻车。你那天两千人的笑声,本质上就是两千个红队队员——他们的笑,就是对你小七'鲁棒性'的一次集体评分。"
"啊……"林知遥想起来脸还有点发烫,"那我那天得了几分?"
"这个嘛,就要看最后一根支柱了——业务指标。"陆博士写下:升学率。"红队测的是'会不会摔',业务指标测的是'有没有用'。你那天小七的'业务指标'不是分数,而是校长后来有没有找你麻烦、同学们有没有继续玩、媒体有没有报道。事实是——校长单独和你谈了十五分钟。这,就是那次业务的'升学率'。"
林知遥慢慢回过神来。
她突然意识到,自己那天的"灾难现场",竟然鬼使神差地被这四根支柱同时审视了一遍。
---
"等等,陆叔叔。"林知遥举起手,像个课堂上的学生,"您刚才说,少任何一根都不行。那我能不能只做其中一根?比如,我就做一个'期末统考'——做一个很厉害的AI基准测试,让全世界的AI来考,分高的就颁一个奖牌。这样不行吗?"
陆博士看了她一眼,眼里闪过一丝赞许:"这是个好问题。答案是——不行,至少不够。"
他在白板上画了一个等边三角形,每个顶点写一个词:"准、稳、好、真"。
"四个字,对应四根支柱:"
"准——离线基准要的是'准'。题目本身有标准答案,AI答得对不对有客观判分。这一根保证AI有'基础能力'。但你想想,月考考得好的同学,是不是一定能在高考里发挥好?不一定。"
"稳——红队要的是'稳'。AI要扛得住刁难,不能因为一个奇怪的提问就崩了、说胡话、生成违规内容。这一根保证AI有'安全边界'。"
"好——线上反馈要的是'好'。真实用户说了算,他们觉得好用不好用、用完之后愿不愿意再用。这一根保证AI有'用户体验'。"
"真——业务指标要的是'真'。AI上线之后到底有没有真的帮到人?有没有真的创造价值?有没有真的解决问题?这一根保证AI有'现实意义'。"
陆博士放下笔:"四根支柱,缺一根,AI就会像一个偏科的学生——可能某一科满分,但综合素养不行。"
林知遥低头看着那张图,突然觉得它和学校里的事情有一种奇妙的呼应。她想起自己班上那些"偏科大神"——有人数学能考满分,但作文永远是30分;有人文科无敌,但实验课连试管都洗不干净。
"所以,"陆博士说,"AI评测不是'打分'这么简单。AI评测是建立信任的基础设施。它让一个看不到、摸不着、跑在云端服务器上的算法,能够被人类理解、被比较、被挑选、被监管、被信任。"
他看着林知遥:"你想想看,如果一个AI做的决策影响了某个人的贷款、某人的工作、某个人的就医——你愿不愿意让一个'没人评测过'的AI来拍板?"
林知遥摇头。
"这就是为什么我们不能'用一用就好'。"陆博士在白板上写下最后一行字:评测 ≠ 自我感觉良好,而是可重复、可比较、可证伪的工程实践。
"这句话,"他说,"是整个AI评测学科的'宪法第一条'。"
---
林知遥回到家里,已经下午四点了。她把书包往床上一扔,摊开那封邀请函,又看了一遍。
但这次她看懂了。
"青少年观察员"——观察什么?观察AI。 "AI评测"——评测什么?评测AI是不是值得信赖。 "为期一年"——学什么?学怎么系统地评测AI。
她从抽屉里翻出一张A3的白纸,开始画她自己的"评测四维地图"。
她先在纸的中央画了一个大圆,写上"可信AI"。然后从大圆往外画了四条线,每条线的尽头写上一个词:离线基准、线上反馈、红队测试、业务指标。
接着她在每条线旁边写下自己的理解:
- **离线基准**:标准试卷,客观题,AI们在统一题目下比高低。
- **线上反馈**:用户和AI真实聊天,收集他们的吐槽和点赞。
- **红队测试**:找一群"坏蛋"专门来刁难AI,看它会不会翻车。
- **业务指标**:看AI上线之后,到底有没有真的帮人解决问题。
她又在四个词之间画上双向箭头,写道:互相补位,互相校准。
画完之后,她对着那张图看了很久。
然后她打开手机,给陆博士发了一条微信:
> 林知遥:陆叔叔,我有个问题。如果说评测是一场考试,那"试卷"该怎么出?题目应该由谁来定?什么样的题目才算"好题"?
陆博士的回复来得很快,只有一行字:
> 陆远舟:明天上午九点,科技馆,带上你的A3纸。我要和你聊一场"出题"的革命。
林知遥盯着屏幕,慢慢笑了。
她把那张画满涂鸦的A3纸小心地折起来,放进书包最里层。
---
本章小结
在这一章里,我们跟着林知遥经历了一场看似"翻车"的科技节演示。但这场翻车,恰好把AI评测这门学科最核心的问题全部触发了:
1. 同一个AI,同一个行为,可以被不同的人给出截然相反的评价。 校长觉得小七"有创造性",林知遥自己觉得"翻车了"。这意味着,AI的"好坏"不是自明的——它必须被某种外部的、可重复的机制来判断。
2. "功能"和"评估"是两件事。 一个AI能跑起来,不代表它跑得好;一个AI能翻译,不代表它翻译得准。AI评测研究的是"能用"到"好用"之间那条线上的刻度。
3. AI评测有四根支柱:离线基准(标准试卷)、线上反馈(用户真实体验)、红队测试(对抗性挑刺)、业务指标(真实价值)。少任何一根,AI的"可信度"都是不完整的。
4. 评测不是打分,而是建立信任的基础设施。 评测要求可重复、可比较、可证伪——这和科学实验的标准一样。
5. 从青少年的视角看,AI评测本质上是把"考试"这套已经成熟的评价机制,迁移到了一个新对象上。 我们人类早就为"评价一件事物"积累了丰富的经验,这些经验可以被复用、被重新设计、被用来"质检"AI。
我们留了一个悬念:如果说评测是一场考试,那么"试卷"该怎么出? 谁来决定考什么、不考什么?什么样的题目才能真正测出AI的能力,而不是测出AI的"刷题能力"?这是下一章"出题人的战争"要回答的问题。