天眼查App顯示,近日,杭州海康威視數字技術股份有限公司公開了一項重要的發明專利,名為“多模態大語言模型量化方法、裝置、設備、存儲介質及產品”。該專利涉及模型部署技術領域,旨在通過模塊劃分和量化調整,提升多模態語言大模型的部署效果。
根據專利摘要,該技術將待量化的大模型劃分為多模態處理分塊和語言模型分塊,并根據多模態處理分塊中各處理子模塊的量化誤差構建處理子模塊序列。隨后,基于該序列對多模態處理分塊中的各處理子模塊進行量化,并進一步確定語言子模塊序列,對語言模型分塊中的各語言子模塊進行量化。
該技術的創新之處在于,它能夠依據多模態語言大模型的計算特性進行針對性的模塊劃分,并基于模塊劃分順序進行量化調整,確保量化過程符合模型的實際計算特性。這不僅提升了量化部署的效果,還為多模態語言大模型的應用提供了更高效的技術支持。
該專利的公開標志著海康威視在人工智能領域的技術創新邁出了重要一步,未來有望在智能安防、自動駕駛等多個領域發揮重要作用。
風險警告:本文根據網絡內容由AI生成,內容僅供參考,不應作為專業建議或決策依據。用戶應自行判斷和驗證信息的準確性和可靠性,本站不承擔可能產生的任何風險和責任。內容如有問題,可聯系本站刪除。