法师归来,速通地球! 第11节
除了模型本身是黑箱外,其他都写的清清楚楚,是立刻就可以喊人上手做的文档。
巴布什金震惊于内容完整和格式的严谨,光是这格式和考虑之细致,压根不像是大一学生,起码也是在人工智能领域摸爬滚打多年,带过团队写出来的东西。
包括训练的设置,没让自己一开始直接就训练他发来的BetaCode。
而是让他先做一个小的实验,验证模型是否有训练的价值。
他也顾不上时差,直接一个电话就拨了过去:“喂,是华国的陈吗?”
电话那边,是江城的凌晨深夜,陈曦被电话吵醒,为了不打扰陷入沉睡的周景言,他拿着手机往天台走。
江城冬天的风很大,在东湖边更甚,呼啸而来的风,有种呼啸山庄的感觉。
这风让只是批了个羽绒服外套的陈曦又在内心哀叹两声,原始的肉体真是孱弱,自己什么时候才能对肉体进行改造。
“喂,巴布什金先生,你说。”陈曦用一口流利地英语说道。
高中学的英语就足够和外国人交流了,只是对大部分人来说,他们在思维上很难转变过来。
他们说英语的时候,总是先出现中文,先想一句完整的中文,然后再试图翻译成英文。
母语思维的惯性限制了他们,让他们把说英语变成了考试。
实际上交流压根没那么复杂,遇到不知道的词,就用表述把它解释清楚就好。
陈曦都不知道会多少门语言,他早八百年就摒弃掉了母语思维。
“陈,抱歉在深夜打扰你,我看了你发给我的邮件,它非常的不可思议,你是对埃隆给你开的价格不满意,想要靠这个来争取更高的价格吗?”伊戈尔问道。
陈曦说:“当然不是,巴布什金先生,我对推特的offer很满意,只是我有了新的想法,我发给你的BetaCode是一个远超AlphaCode的模型,我想把这个模型卖给你,或者DeepMind又或者是推特都行。”
“作为一个商品,那自然要让你验验它的成色。”
“其中的训练方案就是帮你验成色的工具。”
电话那边的伊戈尔深吸一口气,这位华国年轻人的回答显然出乎他的意料。
他以为只是和AlphaCode差不多的模型,用来证明自己的能力。
结果对方居然说是远超。
远超这个词可不能乱说。
AlphaCode是去年年底DeepMind最重要的成果之一,也是他在谷歌的地位来源。
现在一个华国的大一学生就说自己搞定了远超AlphaCode的产品。
如果没有看到训练方案,如果没有看到数据的设置,他是决计不会信的。
但对方不但什么都给他了,甚至连小规模启动实验的方案都给他了。
这不由得他不信。
“陈。”
陈的话音刚落,电话那头传来的声音不清晰,能听出是有风的声音。
“巴布什金先生,你先进行验证,这个模型的交易,我可以不要署名,只要你愿意付出相应的价码,我会把源代码和注释全部给到你,从始至终没有Light_Chen的出现。”
陈曦的方案隔着太平洋和电话线击中了在尔湾别墅里的伊戈尔·巴布什金。
第13章 空手套白狼
如果是匿名的话,这笔生意好像有搞头啊。
无论是继续在DeepMind,还是去推特,这都会是自己的资粮。
在谷歌,摸一摸首席人工智能专家也不是梦。
去推特,自己要掏多少钱给这个华国年轻人,那马斯克给自己开的薪水包起码翻倍。
怎么想都不亏。
“成交,我会喊人去做小规模验证的。”巴布什金说道。
陈曦说:“成交。”
为什么要自己来?
为什么要有卡?
空手套白狼不好吗?
......
伊戈尔·巴布什金先是把文档再重新好好看了一遍。
然后接着把里面一些措辞进行了修改,数据的格式也做了修改,改成更符合自己习惯的命名方式。
然后才把小实验要用到的东西,通过自己的私人邮箱发给自己的心腹。
他给陈曦留的也是私人邮箱,不是谷歌的工作邮箱。
尼克·沃尔什,他招来的手下,在团队里存在感不强,长着一张看上去就睡眠不足的脸,习惯穿着旧卫衣在办公室溜达。
有能力又忠诚,如果自己要去推特,伊戈尔·巴布什金第一个带的就是尼克。
“尼克,我发了个邮件给你,你看看,先做个实验,隔离做,不进主仓库,也不用项目名称,你可以把这看成是我的私活。”
尼克接到电话的时候,正在家里的餐桌旁吃昨天晚上派对带回来的披萨。
听到后,他丝毫没有感到意外。
在他看来,伊戈尔老是这样,冷不丁地丢来一段想法,让他做个验证,或者干个别的事情。
他们的团队每周都会冒出很多有价值的想法,只是最后能落地的少之又少。
因此他回了个:“好的,巴布什金先生。”
话音落下,那边挂断了电话,他继续吃披萨。
吃完才把Mac搬到餐桌上,打开电脑,打开邮箱,打开文档。
“...候选程序数量、可见测试通过率和策略覆盖度是三件不同的事。模型可以通过大规模采样制造出数量上的繁荣,却仍然在少数失败族里打转...”
这是直指AlphaCode的漏洞啊,尼克思忖。
他继续往下看,数据格式写得很具体。
每个训练样本从题目描述、候选程序到隐含的假设、失败边界、最小反例等等无所不包。
尼克看到这里,第一反应是麻烦,第二反应是新的数据设置方案大概率有用。
他开始按文档搭最小验证环境。
伊戈尔·巴布什金给他的限制很明确:不用内部敏感数据,不碰生产系统,不动AlphaCode主流程,只用公开题目和小规模候选程序集。
伊戈尔之所以会这样选,是因为他不想被谷歌发现。
他还想拿着这个模型在谷歌和推特两家之间待价而沽呢。
尼克从公开竞赛题里挑了一批结构清楚的题,按文档要求整理候选程序,把其中一部分错误解法标上失败原因,再用脚本生成针对性的反例探针。
一开始他还有点不耐烦,因为这东西过于手工。
指标漂亮当然是好事。
但前提是,漂亮的指标得是模型自发生成的。
而不是事先知道我要什么样的指标,故意设置甚至是手工修剪出来的指标。
为什么未来华国的模型在测试表现上和阿美莉卡的模型差不多,但使用体验却有明显差距。
就是因为针对测试的指标,进行的人工修剪成分过多了。
来自老板的文档里提前标注了:第一轮要证明失败家族这个变量是否能提供额外信息。
如果这个变量在小规模手工标注里都没有价值,那就没有必要专门写程序把它给自动化。
第一天他跑完第一组基线,普通采样加可见测试过滤后,候选程序在语法聚类上看起来很分散。
按照常规方法看,模型给出了不少不同方案。
一旦用反例探针重新测试,候选程序开始成片成片倒下。
变量名不同,循环结构不同,解法看起来不同,最后死在同一种边界条件上。
尼克盯着结果,又跑了一遍。
结果差不多。
他开始兴奋起来。
隐隐约约的感觉被程序给证实。
原本模糊的现象突然被测出来了。
团队里很多人都知道大规模采样会制造虚假的多样性,也知道候选程序之间存在同质化。
知道是一回事,能把它测出来是另一回事。
他接着按照文档里的方法训练了一个很小的策略判别器。
模型粗糙,数据不大。
它不能和AlphaCode相提并论,更谈不上对外发布。
