美国知名VC机构 Menlo Ventures 日前发布了年度报告《2024 年：企业中的生成式人工智能发展现状》。报告显示，今年企业在生成式人工智能上的支出激增500%，从2023年的23亿美元增至138亿美元。这表明企业正在从实验转向大规模采用，将AI嵌入其业务战略的核心。其中在应用层投入了 46 亿美元，几乎比去年报告的 6 亿美元增长了 8 倍。
就企业的具体AI用例而言，Menlo Ventures报告显示排名前五的应用分别为：代码生成和辅助工具、聊天机器人、企业搜索、数据转换、会议摘要。
在LLM大模型方面，OpenAI 的先发优势有所减弱，市场份额从 50% 下降到 34%。主要受益者是Anthropic ，随着一些企业在新模型成为最先进的模型时从 GPT-4 转向 Claude 3.5 Sonnet，其企业占有率从 12% 翻了一番达到 24%。在转向新的 LLM 时，企业考虑的因素包括：安全性和安全考虑（46%）、价格（44%）、性能（42%）和扩展功能（41%）。
具体来看全文，enjoy it！
备注：本报告总结了Menlo Ventures在 2024 年 9 月 24 日至 10 月 8 日期间对拥有 50 名或以上员工的企业的 600 名 IT 决策者进行的调查数据。在这些基础数据上，我们叠加了作为该领域活跃投资者的观点和见解。
从试产到投产
2024 年 标志着生成式 AI 成为企业关键任务的一年。这些数字讲述了一个戏剧性的故事：今年 AI 支出激增至 138 亿美元，是 2023 年 23 亿美元的 6 倍多——这清楚地表明企业正在从实验转向执行，将 AI 嵌入其业务战略的核心。
（备注说明：生成式 AI 支出包括用于基础模型、模型训练 + 部署、AI 专用数据基础设施以及来自初创公司和现有企业（例如 Microsoft Copilot、Salesforce Agentforce、Adobe Firefly）的新型生成式 AI 应用程序的资金。请注意，此市场规模不包括芯片（例如 Nvidia）、计算（例如 AWS、GCP、Azure）或 AI 功能（例如 Intuit Assist）的收入。↩︎）
企业支出激增反映出组织乐观情绪的浪潮；72% 的决策者预计在不久的将来，生成式 AI 工具将得到更广泛的采用。这种信心并非只是推测——从程序员到医疗保健提供者，生成式 AI 工具已经深深嵌入到专业人士的日常工作中。
尽管前景乐观且投资不断增加，但许多决策者仍在摸索什么对他们的企业有用，什么对他们无用。超过三分之一的受访者对如何在其组织内实施生成式人工智能没有清晰的愿景。这并不意味着他们的投资毫无方向；这只是强调我们仍处于大规模转型的早期阶段。企业领导者才刚刚开始了解生成式人工智能将对其组织产生的深远影响。
去年，我们的《2023 年企业生成式人工智能现状报告》记录了早期人工智能实验的一段时期。我们的 2024 年报告扩展了 600 位企业领导者的见解， 揭示了随着组织从试点转向生产而出现的趋势，使人工智能成为企业的当务之急。
生成式人工智能支出表明企业承诺不断增加
如今，企业对生成式 AI 的投资有 60% 来自创新预算，这反映出生成式 AI 的应用尚处于早期阶段。然而，40% 的生成式 AI 支出来自更长期的预算（其中 58% 是从现有拨款中重新分配的），企业对 AI 转型的承诺日益坚定。
信息很明确。生成式人工智能正在从一项未来技术转变为一项基本的商业工具。
虽然基础模型投资仍是企业生成式 AI 支出的主导，但受益于基础设施层面设计模式的融合，应用层现在增长更快。企业正在利用这些工具优化跨部门的工作流程，从而创造巨大价值，为更广泛的创新铺平道路。
在以下部分中，我们将探讨企业采用生成式 AI 的两个关键维度：
- 应用层，其中首次出现突破，并为初创企业开辟了绿地市场；
- 现代人工智能堆栈，其中 LLM 军备竞赛正在重塑竞争格局，特定的基础设施模式正在得到广泛采用。
深入研究应用程序：应用层正在升温
2024 年，大部分行动都发生在应用层。随着许多架构设计模式的建立，应用层公司正在利用 LLM 跨领域的能力来解锁新的效率和功能。企业买家抓住了这一时机，在 2024 年向生成式 AI 应用投入了 46 亿美元，几乎比去年报告的 6 亿美元增长了 8 倍。
企业不仅在加大投入，而且在谋划更大。平均而言，企业已确定了这项变革性技术的 10 个潜在用例，表明其目标广泛而雄心勃勃。其中近四分之一（24%）被列为近期实施的优先事项，凸显了实际部署的强劲势头。这仅仅是个开始。大多数企业仍处于采用的早期阶段，只有少数用例投入生产，而三分之一（33%）仍在进行原型设计和评估。
企业内部：排名最有价值的用例
尽管实验仍在进行中，但明显的采用趋势表明，部分用例已经通过提高生产力或运营效率带来了切实的投资回报：
- 代码生成和辅助工具 以 51% 的采用率领先，使开发人员成为 AI 最早的高级用户。GitHub Copilot 迅速攀升至 3 亿美元的营业收入证实了这一轨迹，而 Codeium 和 Cursor 等新兴工具也在快速增长。除了通用的编码助手之外，企业还在购买特定任务的 Copilot，例如用于管道生成和测试自动化的 Harness AI DevOps Engineer 和 QA Assistant，以及能够执行更多端到端软件开发的AI 代理，例如 All Hands。、
- 支持聊天机器人的使用率很高，企业采用率为 31%。这些应用程序为内部员工和外部客户提供可靠的全天候知识型支持。Aisera 、 Decagon 和 Sierra 的代理直接与最终客户互动，而 Observe AI 则在通话期间为联络中心代理提供实时指导。
- 企业搜索 + 检索和数据提取 + 转换（分别为 28% 和 27%）反映了企业对挖掘和利用分散在组织中的数据孤岛中隐藏的宝贵知识的强烈渴望。Glean 和 Sana* 等解决方案可连接到电子邮件、即时通讯和文档存储，从而实现跨不同系统的统一语义搜索，并提供由 AI 驱动的知识管理。
- 会议摘要在用例中排名第五（采用率为 24%），通过自动记录笔记和摘要来节省时间并提高工作效率。Fireflies.ai 、Otter.a i和 Sana 等工具可以捕获和总结在线会议，而 Fathom 则可以从视频中提取要点。Eleos Health 将这一创新应用于医疗保健，自动完成数小时的文档记录并与 EHR 直接集成，以便医疗保健提供者可以专注于患者护理。
我们的数据显示，组织主要投资于实际的、ROI 驱动的用例。前五大用例（代码生成、聊天机器人、企业搜索、数据转换和会议摘要）侧重于提高生产力和效率。
代理和自动化：人工智能掌控一切
当前的实施模式表明，人们更倾向于增强人工工作流程，而不是完全自动化。但我们现在正接近向更自主的解决方案过渡。
能够独立管理复杂端到端流程的人工智能代理的早期例子正在各个行业涌现。金融后台工作流程中的 Forge 和Sema4 等先驱以及 Clay 的上市工具展示了完全自主的生成人工智能系统如何改变传统上由人类主导的行业，并指向未来的“服务即软件”时代，其中人工智能驱动的解决方案提供传统服务提供商的功能，但完全通过软件运行。
自行开发还是购买？具体问题具体分析
在决定自建还是购买时，企业发现两者的比例几乎持平：47% 的解决方案是内部开发的，而 53% 的解决方案来自供应商。这与 2023 年相比发生了明显变化，当时我们报告称 80% 的企业依赖第三方生成式 AI 软件，这表明许多企业越来越有信心和能力建立自己的内部 AI 工具，而不是主要依赖外部供应商。
长期博弈：企业在采用生成式人工智能时优先考虑价值而非短期利益
在选择生成式 AI 应用程序时，企业有明确的优先事项：投资回报率和行业特定定制在选择新工具时最为重要。令人惊讶的是，价格并不是主要问题；我们调查的企业领导者中，只有 1% 的人提到价格是选择时需要考虑的问题。买家正在打持久战：与提供最低价格（1%）的工具相比，他们更关注能够提供可衡量价值（30%）和了解其工作独特背景（26%）的工具。
尽管企业在投资回报率和定制方面尽职尽责，但他们可能会错过实施难题的关键部分。通常，组织发现他们低估了技术集成、持续支持和可扩展性的重要性，但为时已晚。这有点像仅基于燃油效率购买汽车，后来才意识到服务可用性和易于维护对长期而言同样重要。
当 AI 辅助工具出现卡顿或失速时，通常是由于在选择过程中没有充分考虑挑战。尽管买家不会检查价格标签，但 26% 的失败案例提到实施成本，这常常让他们措手不及。数据隐私障碍（21%）和令人失望的投资回报率 (ROI)（18%）也偏离了航向。技术问题，尤其是幻觉（15%），是失败的主要原因。在规划和选择阶段主动解决这些潜在陷阱可以增加成功实施的可能性。
附加与突破：现有企业更容易受到初创企业的干扰
去年，现有企业通过“附加”战略主导了企业市场，该战略将生成式 AI 功能分层到现有产品上。我们曾预测初创公司将日益占据优势，今年的数据证实了我们的想法：虽然 64% 的客户仍然喜欢从现有供应商处购买产品，理由是信任和开箱即用的功能，但现有企业的主导地位开始出现裂痕。
我们的数据显示，人们的不满情绪日益加深：18% 的决策者对现有产品表示失望；而 40% 的人质疑他们目前的解决方案是否真正满足他们的需求，这表明创新型初创公司有机会介入并占据一席之地。
各部门转型
如今，生成式人工智能的采用不仅规模惊人，而且范围也十分广泛。今年，生成式人工智能的预算流向了每个部门。
毫无疑问，技术部门占据了最大的支出份额，其中 IT（22%）、产品 + 工程（19%）和数据科学（8%）合计占企业生成式 AI 投资的近一半。剩余预算分布在面向客户的职能部门，例如支持（9%）、销售（8%）和营销（7%）、包括人力资源和财务在内的后台团队（各占 7%）以及设计（6%）和法律（3%）等较小的部门。
第一批生成式 AI 应用是用于文本和图像生成的横向解决方案，但到 2024 年，越来越多的应用开始将 LLM 的新功能应用于高度特定领域的垂直化工作流程。以下垂直行业正在引领采用：
- 医疗保健：医疗保健传统上采用技术的速度较慢，但目前正以 5 亿美元的企业支出引领生成式 AI 的采用。Abridge 、Ambience、Heidi 和 Eleos Health 等环境记录器正成为医生办公室的必备品，而自动化解决方案正在整个临床生命周期中涌现——从分诊和接收（例如 Notable）到编码（例如 SmarterDx、Codametrix ）和收入周期管理（例如 Adonis、Rivet ）。
- 法律：法律行业历来抵制科技（企业在 AI 上的支出达 3.5 亿美元），但现在正采用生成式 AI 来管理大量非结构化数据并自动化复杂的基于模式的工作流程。该领域大致分为诉讼和交易法，有许多分支专业。Everlaw 扎根于诉讼，专注于法律保留、电子取证和庭审准备，而 Harvey 和 Spellbook 则通过合同审查、法律研究和并购解决方案推动交易法中的 AI 进步。特定实践领域也针对 AI 创新：EvenUp 专注于伤害法，Garden 专注于专利和知识产权，Manifest 专注于移民和就业法，而 Eve 正在重新设计从客户接收到解决方案的原告案件处理方式。
- 金融服务：金融服务（企业在 AI 上的支出高达 1 亿美元）拥有复杂的数据、严格的法规和关键的工作流程，因此已为 AI 转型做好了准备。Numeric 和 Klarity 等初创公司正在彻底改变会计，而 Arkifi 和 Rogo 则通过先进的数据提取加速金融研究。Arch 正在使用 AI 颠覆 RIA 和投资基金的后台流程。Orby 和 Sema4 是更广泛的横向解决方案，从对帐和报告开始，而 Greenlite 和Norm AI 则提供实时合规监控，以跟上不断变化的法规。
- 媒体和娱乐：从好莱坞大银幕到创作者的智能手机，生成式人工智能正在重塑媒体和娱乐业（企业在人工智能方面的支出达 1 亿美元）。Runway 等工具现已成为工作室级必备工具，而 Captions 和 Descript 等应用程序则为独立创作者提供支持。Black Forest Labs、Higgsfield、 Ideogram、Midjourney 和 Pika 等平台为专业人士拓展了图像和视频创作的界限。
深入探究：基础设施和人工智能堆栈
经过一年的快速发展， AI 技术堆栈在 2024 年趋于稳定，企业围绕构成大多数生产 AI 系统运行时架构的核心构建块进行凝聚。
基础模型仍占主导地位。LLM 层吸引了 65 亿美元的企业投资。然而，通过反复试验，企业越来越认识到数据支架和集成在构建复杂的复合 AI 架构方面的重要性，这些架构可以在生产中可靠地运行，而不仅仅是一次性的演示。
LLM 趋势：OpenAI 先发优势减弱，多模型策略盛行
企业不再依赖单一供应商，而是采取务实的多模型方法。我们的研究表明，组织通常在其 AI 堆栈中部署三个或更多基础模型，并根据用例或结果路由到不同的模型。这一策略延伸到开源与闭源之争，尽管行业讨论激烈，但偏好仍然保持稳定。闭源解决方案以 81% 的市场份额支撑着绝大多数使用，而开源替代方案（以 Meta 的Llama 3为首）保持稳定在 19%，仅比 2023 年下降了一个百分点。
在闭源模型中，OpenAI 的先发优势有所减弱，企业市场份额从 50% 下降到 34%。主要受益者是Anthropic，随着一些企业在新模型成为最先进的模型时从 GPT-4 转向 Claude 3.5 Sonnet，其企业占有率从 12% 翻了一番，达到 24%。在转向新的 LLM 时，组织最常提到安全性和安全考虑（46%）、价格（44%）、性能（42%）和扩展功能（41%）作为动机。
基础模型格局继续快速发展。Anthropic 将于 2024 年 10 月 22 日发布 Claude 3.5 Sonnet，该模型具有突破性的功能，包括计算机使用，这表明其市场份额可能会进一步增加。
设计模式趋势：RAG 增益、微调罕见、代理爆发
企业 AI 设计模式（用于构建高效、可扩展 AI 系统的标准化架构）正在快速发展。RAG（检索增强生成）目前占据主导地位，采用率为 51%，较去年的 31% 大幅上升。与此同时，微调（经常被吹捧，尤其是在领先的应用程序提供商中）仍然出奇地少见，只有 9% 的生产模型经过微调。
今年最大的突破是什么？Agentic 架构首次亮相，并且已经为 12% 的实施提供支持。
矢量数据库、ETL 和数据管道：RAG 的基础
为了支持 RAG，企业必须高效地存储和访问相关查询知识。虽然 Postgres (15%) 和 MongoDB (14%) 等传统数据库仍然很常见，但 AI 优先解决方案继续获得发展。
Pinecone 是一个 AI 原生矢量数据库，已经占据了 18% 的市场份额。数据 ETL/准备领域也发生了类似的转变。传统 ETL 平台（例如Azure Document Intelligence）仍然占部署的 28%，但 Unstructured 等专门用于处理 PDF 和 HTML 等文档中非结构化数据细微差别的工具正在开辟自己的空间，占有 16% 的市场份额。在整个堆栈中，我们看到对专门为满足现代 AI 需求而构建的技术的需求。
我们的预测
2024 年是转型和发展的一年，因为我们在 2023 年记录的炒作浪潮让位于现实世界的实施。根据我们今天分享的数据和我们作为投资者观察到的趋势，以下是我们对未来的三个预测：
1、代理自动化将推动下一波转型。
代理自动化将推动下一波人工智能转型，解决复杂、多步骤的任务，这些任务超出了当前专注于内容生成和知识检索的系统的能力。Clay 和 Forge 等平台预示着高级代理将如何颠覆价值 4000 亿美元的软件市场，并蚕食价值 10 万亿美元的美国服务经济。这种转变将需要新的基础设施：代理身份验证、工具集成平台、人工智能浏览器框架以及人工智能生成代码的专用运行时。
2、大卫战胜歌利亚：更多老牌企业将倒下。
ChatGPT 今年对 Chegg 和 Stack Overflow 的颠覆是一个警钟：Chegg 的市值蒸发了 85%，而 Stack Overflow 的网络流量减少了一半。其他类别也面临颠覆。
Cognizant 等 IT 外包公司和 UiPath 等传统自动化公司应该做好准备，迎接 AI 原生挑战者进入他们的市场。随着时间的推移，即使是 Salesforce 和 Autodesk 等软件巨头也将面临 AI 原生挑战者。
3、看不到缓解的迹象：人工智能人才短缺问题愈演愈烈。
我们正处于大规模人才短缺的边缘。随着人工智能系统的普及和日益复杂，科技行业将面临严重的人才短缺。这不仅仅是数据科学家的短缺，更是能够将高级人工智能能力与特定领域专业知识相结合的专家的严重缺口。人才库已经非常少了。
准备好迎接激烈的竞争吧，已经收入丰厚的人工智能技术企业架构师的 2-3 倍工资溢价将成为常态。尽管在培训计划和人工智能卓越中心方面进行了投资，但人才缺口仍将超过这些努力，加剧了对推动下一波人工智能创新所需的有限人才的激烈竞争。
这仅仅是个开始
人工智能正在为新时代的转型铺平道路，这一时代由尖端的人工智能工具、赋能的劳动力和变革性的商业模式推动，将重塑我们的经济。我们在我们的投资组合中亲眼目睹了这一转型：
- 人工智能使诺贝尔奖获得者、Vilya 和 Xaira Therapeutics 联合创始人 David Baker能够通过计算生成新的潜在药物并预测其结构和功能，从而帮助加速为有需要的患者开发新的救命治疗方法。
- 人工智能使 大陆集团、米其林 和 雀巢 等制造商能够掌握部落知识并维持高标准的工厂工作。使用 Squint，他们将教学材料转化为沉浸式增强现实体验，提供实时、分步指导和验证，以提高安全性、减少操作员错误并确保一致的产量。
- 人工智能使公司能够更快、更可靠地识别顶尖工程人才，通过自动化编码评估、个性化问题难度和检测抄袭，使用 CodeSignal 以更高的准确度和效率评估技术技能。
- 人工智能使 Abnormal Security 能够保护企业免受网络钓鱼和商业电子邮件入侵等复杂的电子邮件威胁，通过检测异常并在攻击造成危害之前阻止攻击，每年可避免高达 400 万美元的潜在损失。
- 人工智能让耐克、星巴克和 LG 电子等公司能够利用Typeface大规模制作个性化的品牌内容。借助 Typeface，品牌可以将广告产量提高四倍，将制作时间缩短一半，每月节省数百小时，同时还能提供能引起客户共鸣的引人入胜的内容。
Menlo Ventures 团队很高兴能成为这一转变的一部分，支持那些不断突破人工智能极限的创始人。我们的投资组合公司——包括Abnormal Security、Anthropic、Cleanlab、Eleos、Genesis Therapeutics、Harness、Higgsfield、Neon、OpenSpace、Pinecone、Recursion、Sana、Squint、Typeface、Unstructured、Vilya和Xaira——展示了人工智能如何改变行业并创造全新的工具和业务，造福数百万人。我们离实现智能企业的潜力越来越近了。