DoNews10月16日消息,據騰訊科技報道,零一萬物今日正式發布了新的預訓練模型 Yi-Lightning。在 Yi-Lightning的發布會上,李開復提到:“據我了解,目前“AI六小虎”在融資方面都有足夠的資金支持,可以承擔起預訓練模型的運行成本。因此,只要這些公司能夠吸引到足夠的優秀人才,并有決心進行預訓練模型的開發,資金和芯片資源都不會成為障礙。”
據了解, Yi-Lightning 與零一萬物上半年發布的千億參數模型 Yi-Large 相比,在性能更進一步的前提下,推理速度方面有著極大提升。
根據官方發布的評測數據顯示,在 8xH100 算力基礎下,以同樣的任務規模進行測試,Yi-Lightning 的首包時間(從接收到任務請求到系統開始輸出響應結果之間的時間)僅為 Yi-Large 的一半,最高生成速度也提升了近四成,實現了旗艦模型的性能升級。
在國際權威盲測榜單 LMSYS 上,Yi-Lightning 排名第六,暫時位列GPT-4o-2024-05-13、Anthropic Claude 3.5 Sonnet之前。
根據李開復介紹,模型性能與推理速度的提升,一方面因為零一萬物重視AI Infra能力的提升,2024年以來,中國大模型行業從狂奔進入到了“長跑階段”,而大模型公司的核心競爭力模型+AI 基礎設施+應用,缺一不可。
另外一方面,Yi-Lightning更新了模型架構,不再應用稠密模型架構,而是采用了 Mixture of Experts(MoE)混合專家模型架構,并在模型訓練過程中做了新的嘗試。
針對于行業長期熱議的大模型公司并沒有建立起真正的PMF問題,李開復進一步強調,核心在于基礎模型能力需要真正強大及大模型成本還不足夠低。
此外,李開復強調,要激活一個健康的生態系統,關鍵在于擁有頂級的模型,并且這些模型的價格要足夠低,以促進應用的發展。如果模型太貴,可能會導致應用開發公司破產。