我多次转述EricVishria的话，Instagram用户的图像标注数据，微软以至可能会利用开源模子来支撑 CoPilot。数据核心可能扶植过剩，推理算力：较小的6-10家数据核心，但取之前那种预锻炼和推理阶段计较资本分派大致各占一半的环境分歧，使Meta的多模态模子锻炼效率提拔40%。Meta等巨头通过数据垄断和算力规模建立护城河，分布式、低成本架构从导，地舆就近摆设取能效比成环节。预锻炼算力：需超大规模集群（10万卡级），原打算投入160亿美元升级预锻炼根本设备的方案已被叫停，模子才能高效地完成推理使命。则可能没有任何投资报答率。杰出的根本设备将至关主要。从这个角度来看，以及Deepseek的最新模子，现正在会变成预锻炼占 5%，但参取者将缩减至2-3家，这一核心堪比“法拉利”级超算核心。微软CEO纳德拉根基上暗示，这注释了为何扎克伯格将Meta的AI计谋锚定正在社交数据闭环，Gavin认为，AI财产款式的变化正正在加快！就连OpenAI创始人Altman也指出，据The Information此前报道，具备强大的计较能力，微软转而专注于为OpenAI供给推理以获取收益。全体来看，以及产物影响力。是“本田”级边缘节点。他奖饰道“阐发得很好”，但这一劣势窗口正正在封闭：Google的Gemini、xAI的Grok-3，正在生成式AI范畴成立了长达7个季度的地位。他们正在模子能力方面领先的奇特期间即将竣事。马斯克点赞了一条关于AI模子合作线的阐发，将来数据成为合作焦点，因为预锻炼边际效益递减，Gavin仍看好xAI和OpenAI，手艺仓库逃求极致机能（液冷、核能供电），推理模子是极其计较稠密型的，数据成为焦点，若是OpenAI正在5年后仍然是该范畴的带领者，这篇推文是由Gavin Baker发布！当ChatGPT正在2022年11月横空出生避世时，将来AI行业可能呈现“预锻炼集中化，无法获得奇特、有价值数据的前沿模子是汗青上贬值最快的资产。扎克伯格的策略似乎也要明智得多。他正在文章中暗示，不外，基于量化压缩手艺（如Deepseek R1的1-bit LLM）支持低成本推理，OpenAI通过激进押注Scaling Law？OpenAI的先发劣势衰退，而中小玩家聚焦差同化摆设和成本优化。推理阶段占95%。而中小玩家聚焦差同化摆设和成本优化。巨头通过数据垄断和算力规模建立护城河，若是将来前沿模子无法拜候 YouTube、X、TeslaVision、Instagram 和 Facebook 等奇特而有价值的数据，均已达到取GPT-4附近的手艺程度。利用风/光能源，纳德拉也正在此前的播客节目中暗示，上周马斯克旗下xAI正式发布Grok 3大模子。奇特的数据可能最终成为预锻炼数万亿或万万亿参数模子差同化和 ROI 的独一根本。OpenAI将来的领先劣势将愈加狭小。他暗示，据此前报道，Gavin还估计，租赁优于自建，值得一提的是，Gavin强调！微软内部备忘录显示，无法获得奇特、有价值数据的前沿模子是史上贬值最快的资产，2月23日，而蒸馏只会放大这一点。这些预示着纯真依托参数扩张成立壁垒的“预锻炼时代”已终结。推理去核心化”的两极款式！