大模型加速“上手機”聯(lián)發(fā)科與阿里通義千問實現(xiàn)芯片級適配

《科創(chuàng)板日報》3月28日訊（記者 黃心怡）《科創(chuàng)板日報》記者獲悉，智能手機芯片廠商聯(lián)發(fā)科，已成功在天璣9300等旗艦芯片上部署通義千問18億、40億參數(shù)大模型，實現(xiàn)大模型在手機芯片端深度適配，讓通義千問在離線情況下依然可以運行多輪AI對話。未來，雙方還將基于天璣芯片適配70億等更多尺寸的大模型。目前，聯(lián)發(fā)科是全球智能手機芯片出貨量最高的半導(dǎo)體公司。Canalys最新數(shù)據(jù)顯示，其2023年第4季度出貨超1.17億部，蘋果以7800萬出貨量位居第二，高通以6900萬出貨量位居第三。而通義千問是阿里云自研的基礎(chǔ)大模型，迄今已推出千億參數(shù)的2.0版本以及開源的720億、140億、70億、40億、18億、5億參數(shù)等尺寸，以及視覺理解模型Qwen-VL、音頻大模型Qwen-Audio等多模態(tài)大模型。在MWC2024期間，聯(lián)發(fā)科攜多款人工智能應(yīng)用亮相展會，其中就包括天璣9300和8300兩款芯片。據(jù)了解，天璣9300芯片已在國外實現(xiàn)支持Meta Llama 2的70億參數(shù)大模型應(yīng)用，國內(nèi)在vivo X100系列手機上落地端側(cè)70億參數(shù)大語言模型，并在端側(cè)實驗環(huán)境跑通130億參數(shù)模型。此次聯(lián)發(fā)科和阿里云的合作，則是首次實現(xiàn)通義大模型的芯片級軟硬適配。阿里巴巴通義實驗室業(yè)務(wù)負(fù)責(zé)人徐棟介紹：“端側(cè)AI是大模型應(yīng)用落地的重要場景之一，但面臨軟硬件難適配、開發(fā)環(huán)境不完備等諸多挑戰(zhàn)。阿里云與聯(lián)發(fā)科此次完成了大量底層適配及上層開發(fā)的系列技術(shù)及工程難題，真正把大模型‘裝進’手機芯片中，探索端側(cè)AI的Model-on-Chip部署新模式。”除了聯(lián)發(fā)科外，高通也積極推動大模型落地手機終端。3月18日，高通宣布推出第三代驍龍8s移動平臺，支持100億參數(shù)級別的大語言模型，也能夠支持多模態(tài)生成式AI模型，包括目前的Baichuan-7B、Gemini Nano、Llama 2和智譜ChatGLM等來自百川智能、谷歌、META等公司的大語言模型。據(jù)悉，小米Civi 4 Pro將首發(fā)搭載驍龍8s移動平臺。一名消費電子行業(yè)分析師對《科創(chuàng)板日報》記者表示，此次阿里云和聯(lián)發(fā)科的合作，意味著國內(nèi)手機廠商有了百度以外的選擇。記者了解到，榮耀、三星此前都宣布了與百度文心一言的合作。比如，三星最新旗艦手機Galaxy S24系列集成了文心大模型的多項能力，包括通話、翻譯、智能摘要等。另有消息源透露，蘋果方面正在和百度進行接觸，希望使用百度的人工智能技術(shù)，且雙方已進行初步會談。上海人工智能實驗室領(lǐng)軍科學(xué)家林達華表示，隨著云端大模型規(guī)模的指數(shù)級成長，端側(cè)即將迎來黃金增長期。云端協(xié)同將成為未來的重要趨勢，由云側(cè)計算建立天花板，端側(cè)計算將支撐用戶使用大規(guī)模放量。根據(jù)咨詢機構(gòu)IDC的預(yù)測，2024年中國智能手機市場出貨量將達到2.77億臺，同比增長2.3%。其中AI手機出貨量將會達到3660萬，同比增幅超過3位數(shù)。手機端AI大模型的應(yīng)用將更為廣泛。