Aidan Gomez认为，LLM发展已进入平台期，简单扩大模型规模带来的边际效益正在递减，而推理能力将成为未来突破口，并将带来新的商业模式和市场机遇——从"买更大的算力"变成了"多给AI一点思考时间"。
作者：硬AI
来源：硬AI
AI狂飙突进的时代，真的要结束了吗？
随着scaling law撞墙新闻爆出，全球科技圈、资本市场关于大模型发展触及天花板的讨论愈演愈烈。那么，AI发展是否放缓？后续又将如何发展？商业模式如何突破？
针对一系列焦点问题，人工智能领域最具影响力的论文《Attention Is All You Need》的联合作者，Cohere联合创始人兼CEO Aidan Gomez在访谈中分享了自己对AI发展的深度见解。
他认为，LLM发展已进入平台期，而推理能力将成为未来突破口，并将带来新的商业模式和市场机遇。同时，他也提醒投资者警惕模型价格倾销，关注 AGI 发展趋势。
对于scaling law放缓的问题，Gomez认为，简单扩大模型规模带来的边际效益正在递减。以绘画为例，Gomez指出 LLM 的发展初期如同用大笔触快速完成基础构图，但随着模型需要处理更精细的任务，如同绘画需要越来越细的笔触来完善细节，模型改进需要的数据也越来越精细，这导致获取高质量数据的成本越来越高，最终模型的规模化发展将受限于人类知识的边界和专家数据的获取难度。
推理能力方面，Gomez表示，推理能力可以让 LLM 不仅简单地记忆输入输出对，还可以像人类一样进行多步骤的思考和推理，解决更复杂的问题。而这，这带来了一个革命性的变化——企业不必再为提升AI能力投入巨额固定成本，而是可以通过增加推理时间来实现。用通俗的话说，就是从"买更大的算力"变成了"多给AI一点思考时间"。
Gomez还认为，推理时间计算量的增加还将对芯片层和数据中心建设产生影响，未来需要开发更适合处理推理任务的芯片，以及建设更适合分布式计算的数据中心。
以下是访谈内容精编：
LLM发展进入平台期，推理能力将成未来突破口
问：LLM 发展是否已经进入平台期？未来的突破口在哪里？
Gomez：
问：影响模型规模化发展的因素有哪些？
Gomez：
2. 推理能力将带来新的商业模式和市场机遇
问：推理能力将如何改变行业格局？
答：
问：如何理解推理能力？
答：
问：什么类型的问题更适合使用推理能力解决？
答：
问：市场普遍低估了推理时间计算的哪些方面？
答：
3. Cohere: 自主研发模型，打造差异化竞争优势
问：Cohere 为什么选择自主研发模型？
答：
问：LLM 是否适用于所有领域？
答：
4. 警惕模型价格倾销，关注 AGI 发展趋势
问：市场上 LLM 价格下降是否意味着模型商品化？
答：
问：如何看待 AGI 的发展？
答：
本文来自微信公众号“硬AI”，关注更多AI前沿资讯请移步这里
市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。
发表评论