Steven 的摸鱼日记
11 小时前
https://x.com/hocyzon/status/2123289962728833347?a=Tk42c2ZUjqbUxCHno9I&s=46
X (formerly Twitter)
幻觉工程师 (@hocyzon) on X
从清华的朋友那求来了姚顺雨昨晚分享的文字稿,貌似有点私密我就不传播了,整场分享价值的确很高,以下是我的笔记:
1. 未来一个值得关注的方向是小模型体系,AI for AI会显著推动小模型发展,因为训练小模型需要的算力更少,可以进行更多实验。未来可能先训练一个能力足够强的大模型,再通过蒸馏得到不同尺寸、分别适配不同任务的模型,最终形成Model Hierarchy,模型的价值将越来越取决于…
Home
Tags
Powered by
BroadcastChannel
&
Sepia