Twitxy Saved

Jason Kam

Verified account This account is verified. Learn more

@MapleLeafCap

Joined January 2018
2.3K Following 50K Followers 6K Posts

Latest posts 5

Pinned post

Jason Kam Verified account @MapleLeafCap
看了一下DeepInfer的数。我觉得吧,前几天大家转载的那个SiliconData Index的价格,未来一年估计还得不回头地跌个95%+,具体什么时候影响到GPU Rental rate蛮难预测的。

这个价格体系下,梁圣买张卡估计100天就回本了。一旦有朝一日token价格真的暴跌到影响rental rate,所有股价肯定已经跌了一大轮。

给大家几个数,所有的数都是$ / 1 mm token,基本上1mm token 95% cached = 100-150页的薄书.
- Dylan一直在说Jane Street的变现价是$100-200 USD / 1 mm token
- Opus 5.5 / GPT Astra 的价格在deepinfer的体系下大概是1-2 USD / 1 mm token,比标价便宜个80-95%
- 变态的来了,Deepseek 4.1 Flash off-peak的价格在这是1.5美分,又比SOTA便宜个90%。
- 按照一般的大B300 Cluster,根据deepinfer的计算,一个GPU大概能每小时产出2.7 Bn token, 成本换算过来大概是0.25美分 / 1 mm token,这已经比我想象中便宜很多很多了。之前算过我记得是15美分 / 1 mm token,不过没有计算cache。这个level的成本大概率是大机房+高使用率+超高存储时间,一般机房估计都做不到这个theoratical.
- 这也就是大家看到的80-85%毛利 (1.5 / 0.25)。DeepSeek要是以比这个利润率稍好的功率赚钱的话,一个B300大概2-3个月回本,而不是8个月。真是无与伦比的暴利,比贩毒爽多了,自然是砸锅卖铁也要走私B300。
- 如果B300按照break even算的话,那么成本大概是0.13美分 / 1 mm token. 然后原材料其实是B300 ~600k价格的6%不到(按照产业链毛利计算)。
- 所以最后算下来马斯克如果去完全积压的话,每1mm token的最终生产成本可能是0.01美分, or 0.0001 USD。这基本上跟免费差不了太多了。

这种屠夫版的价格我不知道你怎么看,但是when you see the headline API price of Opus @ 8/40 USD input/output,我只能感觉说只要OSS + Post-train和中国模型蒸馏大法能够持续跟随 + 没有新的breakthrough,token 价格未来一段时间应该是以断崖式的下跌。至于什么时候触碰到rental rate, maybe someone smart can tell me.
37 replies 72 reposts 530 likes 88K views View on X
Jason Kam Verified account @MapleLeafCap
我有个感觉,就是我们离新一轮的超大型多人协作多端MMORPG 不远了:

- 无论是内容制作市场还是研发成本都会跌99%。把游戏做出来+持续生产内容+优化的能力,会跟今天完全不在一个数量级。玩家也可以更高质量参与共创(而不是过去真的就是enthusiast bullshit)
- NPC会无与伦比的智能,AI甚至可以在人下线时取代真人。真正的全天候拟真社交环境变得可能
- AI带来的渲染/性能优化,会让手机承载更复杂的世界。再叠加服务器端的优化,更大规模的多人在线体验也有了空间
- 语言壁垒消失,全球同服?
- 个人看法:娱乐是个钟摆。被动享乐多了,就想自己操控;操控累了,又想回去被动享乐。刷够了别人的故事,总会想亲自下场做点事情

不知道谁能做出来。直觉上未必是大厂,更可能是个新工作室。这应该是个很大的机会+很大的token应用场景。