664 战略(4K) (第3/3页)
吕海颖看着瞬间孩子气的丈夫:「DLF可以独立的发展,但我们更有钱。」锺志凌展现了志气,「我们也更有资源,如果深度学习真的有路可走,那我们也能走出来。」
吕海颖低头思考几秒,然後抬头说道:「挺好的,这大概就是师兄想看到的。」
锺志凌「嗯」了一声,心里盘算内部资源的更好分配方案。
DLF的模型开源以吴恩达的判断来看,最少也需要一个月左右复现,从零开始更是要半年往上,但是,仅仅两周时间,来自谷歌的团队就宣布复现了TD—1在11项NLP任务上的成绩。
甚至,谷歌还进一步刷新了这个成绩。
「我们很高兴看到DLF在Transformer方案上的开拓发展,事实证明,无论是DLF还是我们,都还没有摸到这套架构的上限。」
「基於Transformer的深度学习模型有望成为新一代通用模型的基座。」
谷歌显然在类似研发上早就存在进度,所以如此快捷的复现并进一步推高了TD—1的成绩。
这种间隔两周的成果证实了DLF在深度学习领域的成果,再一次激起了全球深度学习领域的热情。
只是,相较於学界的躁动,媒体这次就冷静很多,仍然报导了DLF被证明的事情,但没有大肆渲染人工智慧的突破,其中一个原因也是俞兴在抖音上更新了批评这类风向的视
频。
国内大厂在DLF开源的时候就已经开过一次会,这次见到谷歌复现又开了会。
百度的高级副总裁向海龙,在会议上提到聊到这个事,颇有些得意的说道:「DLF开源开的好啊,谷歌能复现就证明它没做什麽手脚,俞总这次是有点傻了,我们可以直接踩在他们肩膀上推研究。」
现任百度研究院院长王海峰听到这种话,神色复杂的说了句:「DLF肯定不会造假的。」
向海龙注意到王院长的不自在,也不觉有什麽不合时宜,直接说道:「那也不能凭他一张嘴就行,反正,DLF从我们这挖了那麽多人,我们踩着他们肩膀也是应该的!」
王海峰保持沉默了。
「DLF是自愿开源,我们当初也没有卡人。」李艳红有点担心王院长走前任院长们的老路,找补了句,又问道,「王院长,你们也全面研究了TD—1的方案,觉得怎麽样?」
「编码器预训练显然是有很大的价值,TD—1的成绩已经把这一点表现出来了。」王海峰组织措辞,「像搜索和信息流等方面都很依赖更加精准的语言理解能力,TD—1有帮助我们在这方面提升的潜力。」
李艳红听到这里,已经微微点头了。
王海峰顿了顿,思索着说道:「不过,就像谷歌说的,这些都是基於Transformer的
架构,但Transformer是用了编码器和解码器,而TD—1是只使用前者,如果沿着Transformer的机制走,我们也可以试试解码器的研究。」
李艳红关心了句:「解码器的方案对我们的搜索也可以提供和TD—1一样的帮助吗?」
「从原理上可能还不行,但那也许是一个有趣的方向。」
王海峰说道,「Transformer的机制还没有完全探索完,我相信DLF也是摸索出来的。」
李艳红不觉得有趣。
他翻看来自研究院的汇报文件,再回想王院长的总结,说道:「我们还是应该进一步追赶TD—1的研发,同时做好公司业务对这方面技术的吸收,一方面提高业务水准,一方面推进研发,这才是最佳的战略应对。」
王海峰忍不住说道:「TD—1未必是最佳的Transformer机制方向,我们可以分出来一个团队去————」
李艳红打断,笑着说道:「必要的时候也是可以相信俞总的,我们要形成以战养战的循环,谷歌也说TD—1的架构还没到上限,我们先把它推到上限。」
DLF做了,谷歌做了,俞总也说了,那就直接踩着他们的判断往前推。
这就是在他们正确的战略上继续正确。