当 Token 每月成本超过 2 名全职投行分析师的工资,看这家 AI 原生投行如何选择?

token-is-high-and-hign
token-is-high-and-hign

Token 是今年最热的话题。对大模型而言,是进入到 Token变现周期;对于我们这样的小企业而言, Token 则逐渐成为刚性成本,一边是给同事的开销,一边是产品或服务交付时给客户的成本。

这时候问题就来了:如何规划 Token的成本占比。有个做 AI 营销助手的朋友告诉我,他们的产品成本目前 Token 能占 40-50%,如果再算上营销、推广等,其实产品毛利并不高,相比此前 Web时代的产品、AI产品毛利反而还降低了 10-20 个百分点。这个情况下,企业要如何选择呢 ?就不做 AI了吗?显然不会。

聊下来,大家还是很乐观的,预计 Token成本会随着时间、大幅降低。或许吧,但当 Token背后的大模型也在不断迭代、不断有最前沿模型陆续问世,又该如何选择模型服务商呢?作为既需要把 Token作为成本、又把 Token 作为生产力和产品的我们,计算公式会更复杂了。

前段时间, 社交平台 X 上有个热帖:美国 AI 原生投行 Offdealhttps://offdeal.io/ )的 CEO Ori Eldarov 就算了一笔账:当 Token每月成本超过 2 名全职初级投行分析师的工资,作为专注于中小企业并购的 AI金融科技平台、会如何选择

自今年 1 月以来,我们的 内部 AI agent:Archie 的成本已经增长了 10 倍——现在每月运行成本约为 35,000 美元,这比两名全职投资银行分析师的收入还要多。

Archie于去年12月上线,使用量已从最初的每月几百次聊天,增长到约2400次(而且每次聊天的时间也更长了)。随着我们不断改进 Archie 的AI架构,该产品对我们的投资银行业务来说变得越来越有用,使用量也呈爆炸式增长。

虽然这是产品与市场契合度(product-market fit)极佳的标志,但其背后的 Token账单却也无法被忽视。

早期我们并不在意成本。我们只追求极致性能,眼看着 Archie 在我们日益严苛的评估中,得分从大约 25% 一路攀升到大约 75%。道理很简单——如果 Agent 出现幻觉或者报错了数字,其他一切都无济于事。

但当 Fable 5 发布后,我的联合创始人指出,如果使用这款最前沿的Fable 5 或许能让我们的评估准确度 再提升3-4%,但同时也会使我们的月成本翻倍、达到每月 7万美元(相当于 4位初级投行分析师)。这时我们第一次决定不再采用更先进的前沿模型,因为新增的价值、不足以抵消新增加的成本。

此前,我们都听说过企业 Token 成本飙升的问题,但当我在自己的“小公司”(只有五名投资银行家)亲眼目睹这种情况时,我发现这更像是一个人员配置问题。我认为数百万家小公司都将面临同样的问题:对于当前的任务而言,先进的前沿模型究竟价值几何?

对我们来说,问题从“哪个模型最智能?”变成了“哪个模型最适合这项特定任务?”。

投资银行对此早已心知肚明:分析师做分析师的工作——建模、制作演示文稿、处理流程材料—;而 MD 做 MD 该做的工作——拓展业务、客户管理、做出决策。让 MD 花时间制作 PPT 演示文稿并非明智之举。他们应该把时间花在赢得新业务上。而且在很多情况下,他们完成这项特定任务的速度甚至会比分析师更慢,表现也会更差。

我们认为人工智能的发展方向很可能与此相同。

前沿模型将仅用于最困难的任务——判断、协调、复杂推理以及协调其他模型以实现共同目标。

更小巧、更专业的模型(很多还是开源的)能够更好地完成更具体的工作,而且价格也更便宜。

我们自己也是这样:我们构建了一个混合型法律 Agent 系统,其中开源模型( 智谱的GLM 5.1)作为主工作进程,仅在需要时调用 Opus 4.7 作为“顾问”。在相同的 100 个任务中,该混合型系统在质量( 通过率 18% vs 14%)和成本(368 美元 vs 954 美元)方面均优于 Opus。同样,对 Kimi K2.6 进行微调后,其全通过基准测试也优于 Opus,且成本大约降低了 11 倍。

Cursor 在编码方面也呈现出同样的情况。Composer 2.5 基于 Moonshot 的 Kimi K2.5 构建,并针对 Cursor 特定的智能体编码工作流程进行了训练,在性能相近的情况下,成本降低了约 10 倍。

这似乎是未来的发展方向。模型路由(Model routing )将成为常态,企业会将任务分配到多个模型上,每个模型都针对特定的功能、成本和所需的智能水平进行了优化。

关于“现实生活”中人工智能表现的注意事项

人工智能模型的能力参差不齐。

Archie 非常擅长将 60 个月杂乱无章的损益表和资产负债表整合到一个单一的财务模型中,并进行适当的标准化、加回和调整。但它在最后的润色工作、处理特殊情况的格式以及完整执行保密协议方面仍然有所欠缺。

最后一公里仍然需要人力。只要还需要人力来填补这一缺口,Agent 就无法彻底取代人力。在很多情况下,它只是在人力的基础上增加了成本。

这使得 Token 经济计算变得更加重要。如果人工智能支出是先增加后替代,那么企业就需要认真思考在哪些方面使用前沿智能,以及在哪些方面使用更便宜、更专业的模型就足够了。

我很好奇Jevons Paradox(杰文斯悖论,技术进步提高资源使用效率后,资源总消耗量反而不降反增的经济学现象‌)在未来一年将如何发展。

对情报的需求是无限的,但随之而来的代价将重塑公司大规模部署情报的方式。AI 时代会怎样呢?

One thought on “当 Token 每月成本超过 2 名全职投行分析师的工资,看这家 AI 原生投行如何选择?”

Comments are closed.