这个周末的情绪尚可,大概是因为下周终究还是有几个面试。无论有多大希望,总之情绪有了托底,精神上就没有松懈。这个周末决定往前赶一赶,把下个星期的研究计划提前启动。看看是否能够早日得到一些阶段性的结果。
这个周末最大的节目其实是远在我出差和被裁员之前就定下来的,也就是带大女儿参加一次这里的区域性的AI研讨会。目的不是让女儿在技术上能够懂什么,而是让她见识一下所谓的conference到底是怎么回事。这个虽然是区域性的,而且主要是华人为主的,但是因为华人在这里的话语权和对AI的深度参与,站在台上的人其实没有一个是弱者,教授好一些,独角兽公司创始人也一大堆,虽然这并不是一个学术前沿的讨论,但是有很多贴紧创业和实用的部分。也正因为如此,让女儿听听也许是个不错的选择。
会场并不大,但是五脏俱全。主会场,分会场,赞助商,甚至还有咖啡 — 狠狠的拿了一大杯,越是没的喝,就越是想喝。会场开始的时候我们挑了一个稍微靠前的位置—我本来想做前排,女儿不愿意,所以挑了一个靠近前排的位置。
这次的开场时现场采访databricks的创始人,也是UC Berkeley的教授。问的第一个问题就很尖锐:AI的发展这么迅猛,你觉得这个行业普遍性的犯了什么错。教授显然猝不及防,沉默了好一会,才开始从产业,布局,和研究方向开始逐步深入的讨论。有些细节我没有听懂,但是结论是:行业在模型的前后推理,记忆体,模型本身,应用(SKILL)上都有很深刻的推进,但是似乎缺乏一个整体性的融合 —— 是融合和不是整合,有些人在讨论AI操作系统,但是AI的发展不是当年的微软时代,也不是互联网时代。如果一定要类比,那就类似于两者的结合。
第二场的讨论是三个初创公司的CTO,CTO和一个Princeton(普林斯顿)的教授,刚刚加入OpenAI的技术董事会。这次讨论的重点是未来几年的突破有可能有什么方向,和现在最大的瓶颈在哪里。虽然讨论还比较激烈,但是结果好像相互印证。简单的说就是Scaling Laws (尺度定律、规模定律)还没有走到尽头,所以目前模型还是在往前走,虽然有递归推理(Recursive Reasoning)带来了更多的讨论,但是本身仍旧是大模型发展的一部分。只不过是属于“后推理”的部分。而如果说要有什么瓶颈,那么一定是数据。而这个数据,基本上超越了书本文字,而是物理世界的三维数据。只有有了这些数据,模型才能更懂人类和人类社会。
第三场是Google的deepmind实验室的VP。台湾人,74年的,介绍中说他用了六年半的时间读完了本科硕士和博士并毕业。他的演讲我觉得是最好的。语言清晰,节奏紧凑,深入浅出,三十分钟里面给大家科普了过去三十年的重要技术发展。最后他的结论是:未来十年的大模型的发展很清晰:就是后推理时代。同时他加了一句话:有些东西,特别是大模型的东西,不是想出来的,是试出来的,只有不断的试错,我们才能理解我们自己创造出来的东西。
第四场也是采访UC Berkeley的教授,但是内容有点混乱,我几句不记录了。全程一共三个半小时,主持人甚至连五分钟的间隔让我们上个厕所的时间都没有留出来。就这点而言,这是我今年最大的考验,差点没过。
中午休息的时候,我问女儿感觉如何。她说:听不懂。我很能理解,于是乎将这些演讲和谈话里面涉及到的基础知识讲了一遍,顺带联系到她能够理解的部分。虽然有些我也不是很能够讲得很透彻,但是女儿基本上还是了解了今天听到的内容。
末了,我告诉女儿一句话:带你来的目的,有三个:1.看看所谓的conference究竟是怎么回事。其实就是听听别人讲课。2.看看那些站在台上的人如何表达。有些人有学术能力,但表达不行,也是很大的短板。沟通的能力其实是非常重要的能力,感受一下外面的那些优秀的人是如何沟通的,看看自己和他们的差距。3.看看前沿科学。重要的不是懂,而是知道原来在目前这个阶段,这个领域,人类前沿的理解究竟是什么,这些人如何思考的。消除一些科学的神秘感。有句话叫做“如果你也不知道,我就放心了”。人看到差距,但是不要无限扩大这些差距。
末了,女儿觉得已经很累了。我们下午的几场关于具身智能的机器人的就没有听。回去的路上,女儿居然睡着了。看来上午的演讲她虽然没有听懂,但是真的也很是努力地在理解了。
对我自己,我觉得学到了很多。特别是之后和Charles聊天,说到‘AI native’ — 原生AI公司和应用的时候,我的一部分思考就是由此而来的。过几天再叙述好了。
Leave a comment