e公司訊,阿里云與知名半導(dǎo)體公司MediaTek聯(lián)合宣布,通義千問18億、40億參數(shù)大模型已成功部署進天璣9300移動平臺,可離線流暢運行即時且精準的多輪AI對話應(yīng)用,連續(xù)推理功耗增量不到3W,實現(xiàn)手機AI體驗的大幅提升。這是通義大模型首次完成芯片級的軟硬適配,僅依靠終端算力便能擁有極佳的推理性能及功耗表現(xiàn),標(biāo)志著Model-on-Chip(片上大模型)的探索正式從驗證走向商業(yè)化落地新階段。
本站所發(fā)布的文字與圖片素材為非商業(yè)目的改編或整理,版權(quán)歸原作者所有,如侵權(quán)或涉及違法,請聯(lián)系我們刪除!
熱門閱讀
推薦閱讀