近日,上海智元新創(chuàng)技術(shù)有限公司,一家與智元機(jī)器人有關(guān)聯(lián)的企業(yè),在技術(shù)創(chuàng)新領(lǐng)域邁出了重要一步。根據(jù)天眼查的財(cái)產(chǎn)線索信息,該公司于4月1日正式公布了一項(xiàng)名為“模型運(yùn)行方法及相關(guān)設(shè)備”的專利。
該專利的核心內(nèi)容揭示了一種創(chuàng)新的模型運(yùn)行策略。具體而言,這一方法首先會(huì)確定一個(gè)待運(yùn)行的模型,并評(píng)估它在同一設(shè)備內(nèi)多個(gè)計(jì)算單元上可能產(chǎn)生的資源預(yù)占用值。這些預(yù)占用值代表了模型在不同計(jì)算單元上運(yùn)行所需的資源預(yù)估量。
緊接著,系統(tǒng)會(huì)綜合考慮這些預(yù)占用值以及每個(gè)計(jì)算單元當(dāng)前剩余的可用資源。基于這一綜合評(píng)估,系統(tǒng)能夠從眾多計(jì)算單元中挑選出一個(gè)最適合運(yùn)行該模型的計(jì)算單元,將其標(biāo)記為目標(biāo)計(jì)算單元。這一步驟確保了資源的最大化利用,避免了資源浪費(fèi)。
最終,利用選定的目標(biāo)計(jì)算單元,該模型得以順利運(yùn)行。這一專利不僅優(yōu)化了單個(gè)設(shè)備在模型運(yùn)行時(shí)的算力利用率,還為未來的高效計(jì)算提供了強(qiáng)有力的技術(shù)支撐。
這一創(chuàng)新成果的公布,標(biāo)志著智元新創(chuàng)在提升計(jì)算效率和優(yōu)化資源配置方面取得了顯著進(jìn)展。隨著技術(shù)的不斷演進(jìn),該專利有望在多個(gè)領(lǐng)域發(fā)揮重要作用,推動(dòng)相關(guān)產(chǎn)業(yè)的進(jìn)一步發(fā)展。