|
2026年盛夏,李飞联手路机器人领域被一项近乎“黑色幽默”的丹飞实验结果彻底引爆。 由斯坦福大学教授李飞飞、身智英伟达具身智能负责人Jim Fan、条新佐治亚理工学院助理教授徐丹飞领衔,李飞联手路并联合Pieter Abbeel、丹飞Jitendra Malik、身智Ken Goldberg、条新Trevor Darrell等多位顶尖学者组成的李飞联手路“超级团队”,在一项消融对照实验中遭遇了一个令人费解的丹飞现象。 他们在行业经典模型π0.5上执行了一项看似理所当然的身智操作——将触觉信号作为额外信息输入模型。按照常规逻辑,条新增加一种感知模态理应提升精准度。李飞联手路然而结果却截然相反:据论文中的丹飞消融实验数据显示,任务成功率从17%暴跌至6%。身智 加了触觉,机器人反而“瘫痪”了。 这一反常现象如同一记响亮的耳光,打在了整个具身智能行业的脸上。过去几年,业界主流范式是将视觉、语言、触觉等所有感知信息统一转换为同一种格式,强行塞入同一个大模型,坚信“数据堆叠必然引发智能涌现”。而T-Rex论文用一组冰冷的数据证明:这条看似正确的路,可能从一开始就走偏了。 触觉为何成了“猪队友”?问题根源何在?论文作者给出了一个简洁而有力的诊断:频率错配。 据论文及相关技术解读,视觉属于“慢感知”。摄像头以约每秒5帧的频率扫描世界,提供的是稳定的场景语义——明确物体位置与形态。相反,触觉属于“快感知”。当指尖接触物体的瞬间,压力、滑动、形变等信息以毫秒为单位剧烈变化,触觉反馈天然需要在每秒20次甚至更高的频率下才能有效发挥作用。 打个比方:这就像强迫一名长跑运动员(视觉)与一名短跑运动员(触觉)在同一条跑道上以相同配速奔跑。长跑运动员因节奏过快而窒息,短跑运动员因节奏过慢而憋屈。将这两种时间尺度截然不同的信号强行注入同一个低频运行的Transformer中,结果并非“1+1=2”,而是“1+1<1”——触觉的高频优势被彻底压制,反而扰乱了视觉已习得的表征。 换言之,触觉并非无用,而是用错了地方。 面对这一结构性矛盾,研究团队未选择在原有框架上修修补补,而是选择推倒重来。 他们提出了一套名为 T-Rex的全新框架。T-Rex既是“触觉反应式灵巧操作”(Tactile-Reactive Dexterous Manipulation)的缩写,也暗合“霸王龙”之意——尽管霸王龙前肢短小,但该论文旨在解决的核心问题,正是如何让灵巧手真正具备“感知”世界的能力。 T-Rex的核心思路可概括为一句话:别再让触觉和视觉争夺同一条算力通道,为触觉单独开辟一条独立的高速公路。 T-Rex架构:混合Transformer专家系统具体如何实现?论文提出了一套 混合Transformer专家架构(Mixture-of-Transformers,MoT)。
MoT中的“M”恰好同时代表了这两层含义。 三位专家的职责分工
协同工作流程
三位专家各跑各的时钟,各司其职,最终协同输出完整动作。
T-Rex 的 Mixture-of-Transformer-Experts(MoT)架构。(图片来源:T-Rex) 时空触觉编码器:让机器“读懂”触觉为了让触觉专家真正理解触觉信号,论文专门设计了一套 时空触觉编码器。其核心是一个 VQ-VAE模块——可将其视为一个“翻译官”,将过去十几帧的时序力数据压缩为离散的“触觉词汇”。
这套设计的本质,是为高频触觉信号辟出独立通道,避免其被低频视觉节奏拖累。三个专家各跑各的频率,各管各的事,互不干扰,最后协同输出完整动作——既保留了视觉对全局的把控,又彻底释放了触觉在接触瞬间的敏捷反应能力。 数据与训练:从通用到专项数据层面同样下足了功夫。团队构建了一个 100小时的触觉同步数据集:
训练策略极具层次感:
这种渐进式训练的优势在于,触觉能力无需从头学习,而是在视觉运动先验已建立的基础上,以较少数据“嫁接”进来。 12项“刁难级”任务,30个百分点的跨越这套架构是否有效?论文在12项专为“刁难”机器人而设计的精细操作任务上进行了严苛测试——翻书页、转移生鸡蛋、擦盘子、挤牙膏、分纸杯、分拣麻将、开锁、填药盒、模拟化学滴定、抽卡片、发扑克牌、拧灯泡。每一项都要求机器人对接触力进行动态、即时的调节。
T-Rex 完成翻书等接触密集型任务(图片来源:T-Rex) 最终结果令人振奋:
进一步的消融实验反向印证了设计的精妙:
这恰恰说明,T-Rex的成功并非单纯来自“加了触觉”,而是来自“用对了触觉”——赋予其独立的节奏、独立的通道、独立的处理逻辑。 行业警示:从“看见”到“感知”T-Rex论文的价值,远不止于一组漂亮的实验数据。它用一个极具说服力的反例,向整个具身智能行业发出了明确的警示信号:
强行将两者塞进同一个模子,结果不是融合,而是污染。 这让人联想到神经科学中经典的 双流假说——视觉腹侧通路负责“识别是什么”,背侧通路负责“指导怎么做”。T-Rex的混合专家架构,某种程度上是在机器人身上复刻了这种生物演化的高级智慧。 局限性与展望论文也坦诚了当前的局限性:
但这些属于“成长中的烦恼”,并不妨碍T-Rex所确立的范式意义。 这篇论文传递的核心信息已无比清晰:别再让机器人光靠“瞪大眼睛看”来干活了,是时候让它们学会“伸出手去摸”。触觉不应是视觉的附庸,而应是一条独立的、与视觉平起平坐的物理感知通道。 那个“17%跌到6%”的反常实验,或许正是机器人从“看见世界”走向“感知世界”的关键转折点。 (本文首发钛媒体APP,作者 | 硅谷Tech-news,编辑 | 赵虹宇) |



