邹澍：我非常荣幸，这一次跟赵老师在 TED。最开始，你为什么要去参加这个深圳的 TED？你是从杭州过来。
赵老师：因为其实这也是朋友推荐的，我们技术圈子里面的。就是由于他推荐了。
邹澍：然后您刚开始就觉得很好，就想来吗？
赵老师：那就来吧。
邹澍：来了之后觉得呢，是不是这样的一种感觉啊？
赵老师：我觉得这次讲者质量真的……我不是说我啊，整体的讲者质量真的很高。最喜欢、最期待的是最后一个，现在还没有开始，徐老师的那个《航海家》我特别好奇。我其实有很多问题想问他，但他现在好像还没有到场。
邹澍：哦，他来了来了。
赵老师：他来了是吧？
邹澍：那要不我们就录到这，你就先去。
赵老师：好。（开玩笑）
邹澍：整个在这个过程当中，您觉得跟自己想象的不太一样的，是哪些难点啊？后来怎么克服的？
赵老师：第一个难点，其实就是要把它给……第二个，实际上就是因为我发现……然后基本上可能就是要背嘛。很多讲者其实选择了背，包括这个翻页，其实是这个在导播台有人操作的。我其实没想到会这么的严格。所以更多的，其实带来了一种新的挑战。其实这辈子出去给的报告倒是不少啊，但是从来没有写过稿子。唯一写过的稿子就是以前……捣乱，这个写检查，得当着全班的面读啊。
邹澍：有没有找到一种那个时候写检查的感觉了？
赵老师：没有。
邹澍：这个过程你会享受吗？
赵老师：讲完了之后也有个简短的采访嘛，就问讲完之后是什么感受。我其实当时就说的就很满足，很 filling。TED 本身主题就是这个所谓的 ideas were spreading。就感觉确实跟彩排不太一样的是，在现场很多的观众会给你眼神的交流。我讲的就是我们自己团队做的东西，这个东西就跟自己的儿子一样，它是有感情的。确实是好像把自己这个花了很多心血做的东西，然后在这个场子里面去把它传播开了。
邹澍：通常来说，你有一件事情你很有感觉，通常 18 分钟是打不住的。这次是怎么能够做到？
赵老师：首先，第一个你帮了很多忙，组委会的很多志愿者也帮了我很多忙。第二个，其实本身今天的观众背景是不太一样的。我确实可能一般给的两个稿子啊，也都是比较偏技术向的。
邹澍：对。
赵老师：最一开始这个名词、那个名词，你怎么能让不同背景的人听懂？我觉得第一个很重要的就是，就讲这一件事，把这一件事把它讲透。其实我最后落在了，就是我们做的 LLaDA 和传统的那些自回归语言模型，它的训练模式到底什么样。我觉得这就够，这个观众听完了之后，他能回去继续思考点啥。
邹澍：今天其实是您还是有那种半即兴的，但是大多数讲者他根本就没这能力。
赵老师：我觉得第一个就是我这人可能……我在高考语文的前一天，才刚刚把所有的背诵默写给背了。之前所有的模拟考我都没背过，我都不写。然后第二个，如果有逐字稿，让我很机械地在背诵的时候，我反而比让我随便说更紧张。其实也是你昨天跟我讲的嘛，把大概的脉络记住，然后每一个点进去之后，就按照那个子模块里面该讲什么东西去讲啥。最后我觉得，因为其实这个东西它是我们日常工作里面会交流，我的嘴部肌肉其实是非常熟悉的，所以不会有特别多的磕巴。如果你今天让我去即兴讲一个我没有那么熟悉的领域，那可能对我来说就更大一个挑战。
邹澍：这次说的内容，两种人工智能的 AGI 的实现路径，一个你说的疯狂接龙，另外一个是自回归扩散、去马赛克的这种模型。这种模型你是怎么找到的？
赵老师：首先，就这个东西，我先要说一下免责声明啊，这个东西的原创我肯定是不敢这么讲的。那么其实首先也是看到扩散模型这种去马赛克的方式，在隔壁赛道，在图像上它确实非常成功。比如最近小红书上很火的那个 Nano Banana，这个虽然没有明确的，但我们大概猜测，它里面肯定是有个扩散过程在里面的。层层去造，去生成这个图像。所以那个时候其实我们在想，有没有可能用扩散模型来生成语言。这个事其实比较疯狂，因为语言是非常适合逐字接龙。我现在讲话也是一个字一个字说的。从数学的意义上来说，其实大家归根结底，自回归也好，扩散也好，都要找一个叫 p（x）的东西。x 就是我们所有的数据，p 是一个概率分布。我们要找的是这个数据分布在哪里。比如说语言，它就是一种数据分布，图像也是一种数据分布。那么实际上就是说，在数学层面上来说，自回归是一种表达形式，扩散模型是另外一种表达形式。然后从数学意义上来说，扩散模型能够代表的那个 p（x），它的探索空间是远远大于自回归模型的。
邹澍：其实就相当于松绑了。我们以前你知道吗，我们的上台的动作，也是排好的，到最后形成肌肉记忆，就是我们有过这个过程对吧。
赵老师：太精确了。那我还是很感谢你今天没这么对我。
邹澍：没有没有。
赵老师：昨天你还跟我说手势可以再进一步地放开一点。
邹澍：也就是说我的算法模型也已经都变了。以前呢，我确实是这样来训练自己，训练我们其他的人，他们也因为这个拿了奖。但是后来呢，我改成另外一种之后更难拿奖了。他更自然了，但是呢别人会觉得好像这个动作没那么精准。但是呢，我会觉得听这种人讲话，我会更愿意听的。然后从这个之后呢，我就开始跟要去参加比赛的那种氛围，就好像有点分道扬镳了，我就开始走另外一条路了。
赵老师：松绑了。
邹澍：对对对。包括我教青少年，别人都教的是那个手啊，一定要怎么怎么样，站啊一定要怎么怎么样。
赵老师：对对对。
邹澍：别人来这就有些家长说，来你这你这学到东西了吗？就孩子挺开心的，怎么玩了一下就回去了。
赵老师：那家长是高兴还是不高兴？有高兴的，也有担忧的是吧。
邹澍：对对对，看认知。有一些家长就是说，哇，老师，你太难得了，这肯定是一个高手才敢做的事。有一些家长就说，哇，你怎么不像这样。包括我最近丢了一个单，他的公司要找一个讲 storytelling 的老师，然后就看了我在网上的视频。他说这个老师讲得太自由了，他们觉得这个跟我们的风格不太一样。
赵老师：不太一样。
邹澍：然后呢，我就找那个培训公司去说，我们要讲出这个自由，那要比你要那个东西要难。所以我觉得，这一次你是我辅导的讲者当中，还有之前所有辅导讲者当中，你唯一一个，你在赶最后一天你还说我这样即兴上去的。
赵老师：昨天那个西西其实也在说这个逐字稿一定要的，然后中间不能打磕巴。然后你过来就说，你这些都扔掉，都忘掉，不要再写了。你给了我信心啊，这个是真的。
邹澍：我们现在教学方法就是这样的。我再跟你分享一个就是，我是在因为我背逐字稿，我就忘词了在台上。因为那事对我太重要了。其实你依托于逐字稿，一旦忘词心里会很慌。其实刚刚我即兴的时候，也有两个瞬间我忘了我下一个模块是啥，但是我其实也很快就能接上。我就大概想想，哦，下面应该好像讲这个事。
赵老师：对，只要用 diffusion 的方式，都基本上都能接上。但你一旦说你都背好了，这一个字一个字把它背出来，类似于自回归这样，那我就觉得就会慌。你心里一慌，在台上一慌，我就完蛋了。
邹澍：对，其实我们在研究紧张感的时候，也是因为这个点。只要你有对错，你一下子就会慌。如果没有对错，而待会还能改呢，这种感觉就特别爽。
赵老师：对啊，你可以能改，就大不了我说错，我再退回去，可以编辑的。
邹澍：对，甚至是，我们在脱口秀里面已经实现这种东西。我们讲了一个东西，抱歉哈，我们刚才忘了一段，然后又回头去重新说。不好意思哈，刚才那段说错了，然后然后，这时候可能人家觉得，这可能就是你 play 的一环。
赵老师：对对对，就自然一点嘛，所以它是另一种说话方式，很有意思。
邹澍：我其实特别意外的就是，我没有想到这一次您讲的内容，其实对我的表达内容是有启发的，而且它是同构的。
赵老师：谢谢谢谢。
邹澍：一开始上台难免还是会紧张的，上台会上瘾吗你觉得？你还想再上吗？
赵老师：再有机会我觉得还会再上。
邹澍：通常只要上过这样的台的人，从此以后都会很想上台。我今年有一个大的计划，我很想在香港搞一个一年的时间来筹备的，也就像是 TED 的那种感觉的。但是，要讲你很专业的内容的，有点挑战的，但是我特别想做这个事。
赵老师：OK，支持。我们就期待以后更多的互动。
邹澍：谢谢，谢谢。
