天眼查App顯示,近日,杭州海康威視數(shù)字技術(shù)股份有限公司公開(kāi)了一項(xiàng)重要的發(fā)明專(zhuān)利,名為“多模態(tài)大語(yǔ)言模型量化方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及產(chǎn)品”。該專(zhuān)利涉及模型部署技術(shù)領(lǐng)域,旨在通過(guò)模塊劃分和量化調(diào)整,提升多模態(tài)語(yǔ)言大模型的部署效果。
根據(jù)專(zhuān)利摘要,該技術(shù)將待量化的大模型劃分為多模態(tài)處理分塊和語(yǔ)言模型分塊,并根據(jù)多模態(tài)處理分塊中各處理子模塊的量化誤差構(gòu)建處理子模塊序列。隨后,基于該序列對(duì)多模態(tài)處理分塊中的各處理子模塊進(jìn)行量化,并進(jìn)一步確定語(yǔ)言子模塊序列,對(duì)語(yǔ)言模型分塊中的各語(yǔ)言子模塊進(jìn)行量化。
該技術(shù)的創(chuàng)新之處在于,它能夠依據(jù)多模態(tài)語(yǔ)言大模型的計(jì)算特性進(jìn)行針對(duì)性的模塊劃分,并基于模塊劃分順序進(jìn)行量化調(diào)整,確保量化過(guò)程符合模型的實(shí)際計(jì)算特性。這不僅提升了量化部署的效果,還為多模態(tài)語(yǔ)言大模型的應(yīng)用提供了更高效的技術(shù)支持。
該專(zhuān)利的公開(kāi)標(biāo)志著海康威視在人工智能領(lǐng)域的技術(shù)創(chuàng)新邁出了重要一步,未來(lái)有望在智能安防、自動(dòng)駕駛等多個(gè)領(lǐng)域發(fā)揮重要作用。
風(fēng)險(xiǎn)警告:本文根據(jù)網(wǎng)絡(luò)內(nèi)容由AI生成,內(nèi)容僅供參考,不應(yīng)作為專(zhuān)業(yè)建議或決策依據(jù)。用戶(hù)應(yīng)自行判斷和驗(yàn)證信息的準(zhǔn)確性和可靠性,本站不承擔(dān)可能產(chǎn)生的任何風(fēng)險(xiǎn)和責(zé)任。內(nèi)容如有問(wèn)題,可聯(lián)系本站刪除。