我们就说，如果你现在拿GPT 5.5或Opus，直接划一条线，你现在可能只需要两年或三年就能完成这种扩散，我们所有人作为生态系统都可以进行变革管理。问题是突破的速度总是比客户实施任何标准架构的速度快。而这些突破往往会使你刚实施的上一代技术过时。这是一个真正苦涩的事情，技术变得如此先进，以至于使你刚实施的先前技术过时，实际上这意味着推广需要更长时间。Speaker 2 | 00:32 - 00:50 大家好，我是Firstmark的Matt Turck。欢迎来到MAD播客。今天我很高兴再次欢迎Box首席执行官亚伦·列维回来。亚伦无疑是我们科技生态系统中关于代理式AI考虑最深入的CEO之一，他有着独特的视角来观察AI实际上如何在全球最大型企业内部署。Speaker 2 | 00:50 - 01:14 在本期节目中，我们深入探讨当前企业AI最紧迫的话题，包括飙升的Token成本、为什么AI模型进展反而在减缓企业部署、无头软件的崛起、内部FDE的出现，以及初创公司仍然可以获胜的领域。请欣赏我与一直出色的亚伦·列维的对话。嘿，亚伦。很高兴见到你。Speaker 1 | 01:14 - 01:16 嘿。很高兴回来。谢谢邀请。Speaker 2 | 01:16 - 01:46 谢谢你再次接受采访。我觉得你在我们的科技生态系统中扮演着非常特殊的角色，一方面你是硅谷的长期参与者，另一方面你是上市公司CEO，你的公司向全球最大型企业销售产品。所以那些辉瑞、宝洁和摩根士丹利实际上是个不错的起点。Speaker 2 | 01:46 - 01:55 这些天硅谷和湾区以及电信系统与全球2000强类型企业之间的差距有多大？Speaker 1 | 01:55 - 02:25 有趣的是，我们一直扮演着这种角色，如果我必须提炼我们一直思考的可能是唯一一个核心概念，那就是我们的工作是将超级先进的技术突破桥接到现实世界。所以在云计算的早期阶段，就像我们可以在云端拥有无限存储一样，要让大多数企业获得这种能力，你需要简单的界面和先进的安全保障。所以我们一直是这种桥梁的角色。这让我们能够同时置身于两个世界。Speaker 1 | 02:25 - 02:55 一个世界是超级先进的，一切都移动得极快。然后另一个世界是有变革管理的世界，你知道系统需要升级等等。所以我们在云时代看到了这一点。现在我们肯定在AI领域再次看到了另一个版本。我想有一个小小的星号，那就是这不仅仅是硅谷对其他所有人。这更像是硅谷工程对其他所有人。Speaker 1 | 02:55 - 03:33 但需要明确的是，工程方面，如果你深入AI，而且你在那些知名公司之一，你在工程部门，你可能看起来和硅谷非常相似。所以更大的问题是硅谷对非工程知识工作的差距。这是现在的大问题，这就是从我们知道已经完全达到逃逸速度的AI编码代理到现在组织其他部门的代理工作的路径是什么？这就是推广的样子？用例会是什么样子？Speaker 1 | 03:33 - 04:06 这些如何实施？所以毫无疑问，这是我们交谈的每个客户目前排名第一的对话。我想我有一个不错的样本量，今年可能有几百位CIO，覆盖财富500强和全球2000强类型的公司。我会说这是主导我们与企业互动的唯一对话。这是每个企业都试图弄清楚的首要事情。Speaker 1 | 04:07 - 04:40 我们仍然处于难以置信的早期阶段。这可能是最重要的总结。有趣的是我们早期的原因，即使我们已经处于AI浪潮三到四年了，每个人才刚刚开始制定他们的聊天系统最终推广计划。人们非常自豪和高兴他们终于推出了那个东西。在一些组织中仍在推广，明确地说，像聊天系统知识工作我们还有五年的增长空间。Speaker 1 | 04:40 - 05:10 但就在那发生的时候，能力已经进一步延伸了。所以每个人都坐在一起说，好吧，当我们从聊天转向时，就像我问一个问题，得到答案回来。生产力提升受到人类对话能力的限制。现在我真的想部署一个代理，它将在企业中做事情并产生真正的工作，可能是处理任务，可能是你通过聊天启动它，或者它只是以有状态的方式运行，你知道我和它互发消息，或者它在工作流中启动。Speaker 1 | 05:10 - 05:34 所以现在每个人都在说，我们认为我们知道聊天是怎么回事。而且，顺便说一句，即使他们知道那是怎么运作的，我会说市场格局仍然不断变化，人们在那里推出很多东西。现在每个人都在说，我们要部署代理。这些会更先进、更有能力。这就像我在说的一个大对话，就像我们作为一个行业处于第一天。Speaker 2 | 05:34 - 06:12 是的。你会如何描述这种情绪？你提到聊天很有意思，因为在我的对话中，我的样本量比你小，但你知道，全球2000强人群中至少有一部分人可能会说，你知道哦是的，两年前你们来找我们，我们已经需要做这个聊天事情，这是超级紧急的，我们要落后了，这就像一个聊天或者你要死了。然后我们做了试点，然后效果真的很好。所以现在两三年后你回来说不不不不不代理是一回事，如果你不做你会死的。Speaker 2 | 06:12 - 06:18 在怀疑和热情之间，你认为大型企业的情绪处于什么位置？Speaker 1 | 06:19 - 06:55 我会说如果做一个最广泛的抽样，我认为情绪在统计上会偏向更乐观，而不是你可能设定的框架中的几个愤世嫉俗的CIO。我想因为正在发生的事情是，CIO和我们的主要受众是CIO。当我们与CIO交谈时，他们知道他们的工程团队正在使用Cloud Code和Codex和Cursor，他们看到来自这些团队的生产力提升。他们说，是的，我的团队构建应用程序的速度更快了。他们能够更快地处理IT项目。Speaker 1 | 06:55 - 07:28 我们更快地进行安全审查。他们在自己的职能中看到生产力提升。我认为他们经常说，我如何将这些相同的IT生产力提升带给组织的非IT部分？他们有业务部门拉动他们说，我想要访问Co Work，我想要访问Codex，我想要访问这些工具。Speaker 1 | 07:28 - 08:11 所以我认为现在这些工具有某种吸引力，业务部门正在说我想上代理列车，因为我看到所有这些很棒的用例。所以我认为基调实际上是相当乐观、兴奋和积极的，而不是，你知道，有一种典型的Gartner炒作周期的失望谷底，我认为人们对没有免费的午餐这件事是睁大眼睛的，这不是会立即转变我们的生产力。我们不再处于对话的那部分了。Speaker 1 | 08:11 - 08:32 也许两三年前我们不是那样的，我认为每个人都非常清楚地知道，事情不会只是被部署然后神奇地转变业务。但同时，他们的员工说，实际上我希望这个东西能够帮我审查所有我的文档。我希望加快我们的客户入职流程。Speaker 1 | 08:32 - 08:51 我希望能够在我们的营销活动流程中生成数字资产。所以我认为需求来自业务部门，IT组织正在看到编码方面正在发生的收益。现在更像是，你知道，像30只是实际的战术问题，我确信我们会谈到其中一些。这就像Token成本的事情。这是你实际上如何推出这些东西？Speaker 1 | 08:51 - 09:12 你有部署这些的人才吗？所以我发现对话相当积极，越来越有雄心，但也有强烈的现实感，这些东西都不是免费的，你知道，除了成本方面，但在部署方式上也不是免费的。Speaker 2 | 08:51 - 09:12 自从你提到Token成本，让我们深入探讨。这是一个非常有趣的话题。而且当我们录制这个的时候也是一个非常及时的话题。有新闻说微软本周取消了他们的内部Cloud Code许可，因为基于Token的计费使成本难以为继。我想几周前Uber CTO也在谈论同样的事情。Speaker 2 | 09:12 - 09:15 所以这似乎是一个正在大型企业中出现的话题。Speaker 1 | 09:15 - 09:23 是的。尽管公平地说，我想微软那个新闻可能被以一些有趣的方式报道了，因为可能更多是他们想要转向——Speaker 2 | 09:24 - 09:25 Code Code对比Codex。是的。Speaker 1 | 09:25 - 09:36 是的，他们将要花在Token上的钱。就像它真的会运行在他们的基础设施上。所以，但新闻真的喜欢在那个故事上做文章。Speaker 2 | 09:36 - 09:54 是的。非常公平。但这确实是一个热门话题。而这种紧张关系，就像Ticket系统的硅谷，那里Token最大化是一回事，而企业担心成本。所以你听到什么，你推荐人们做什么，你的客户？Speaker 1 | 09:55 - 10:31 我不确定我是否有好的建议，但我会说当我们去和现在的组织谈论代理时，Token、Token成本、预算和预算规划以及所有这些可能是与AI相关的一百个最热门问题中的至少三分之一。它甚至可能有一半时间是并列第一的。因为他们看到的是这个转变，我们都在称它为这个行业一直在做补贴，我不认为它是这样运作的。我想说的是，成本只是足够低，这些东西被包含在订阅费里了。Speaker 1 | 10:31 - 11:17 Cursor只是包含了很多使用量，也许有补贴，但实际上他们只是可以在他们的订阅费下相当干净地建模。然后突然发生的事情是这些代理可以做更多的工作，它们的上下文窗口更大，推理成本更高，因为它们有更多参数，能力更好得多。所以我们从，你知道，像聊天机器人或GitHub Copilot中的打字功能的定价模式，到那个定价模式在一个编码代理可能在一个任务上消耗1000美元计算的情况下不再适用。所以很明显，你不能把它全部包含在每月每个用户20美元的费用中。所以这就是真正发生的跳跃。Speaker 1 | 11:17 - 11:34 这一切都发生在一年内，也许不到一年。我的意思是，它基本上与我可以看到的Anropic收入曲线完全相关，这就是一切在成本建模和Token预算方面被颠覆的时间段。Speaker 2 | 11:34 - 11:55 是的，但是前沿Token的每个Token成本增加了，对吧？所以不仅是运行时间更长的代理使用更多Token，实际的前沿Token成本增加了，这与过去几年我们互相讲的叙述完全相反，即Token成本总是会下降？Speaker 1 | 11:55 - 12:23 是的，100%同意。但我认为一个细微差别是，我不是100%确定这主要是补贴的变化，就像不，这些模型只是更大，而且，你知道，硬件不会很快变得更便宜。而且我们有容量限制。