大模型加速“上手機(jī)”聯(lián)發(fā)科與阿里通義千問(wèn)實(shí)現(xiàn)芯片級(jí)適配

《科創(chuàng)板日?qǐng)?bào)》3月28日訊（記者 黃心怡）《科創(chuàng)板日?qǐng)?bào)》記者獲悉，智能手機(jī)芯片廠商聯(lián)發(fā)科，已成功在天璣9300等旗艦芯片上部署通義千問(wèn)18億、40億參數(shù)大模型，實(shí)現(xiàn)大模型在手機(jī)芯片端深度適配，讓通義千問(wèn)在離線情況下依然可以運(yùn)行多輪AI對(duì)話。未來(lái)，雙方還將基于天璣芯片適配70億等更多尺寸的大模型。目前，聯(lián)發(fā)科是全球智能手機(jī)芯片出貨量最高的半導(dǎo)體公司。Canalys最新數(shù)據(jù)顯示，其2023年第4季度出貨超1.17億部，蘋(píng)果以7800萬(wàn)出貨量位居第二，高通以6900萬(wàn)出貨量位居第三。而通義千問(wèn)是阿里云自研的基礎(chǔ)大模型，迄今已推出千億參數(shù)的2.0版本以及開(kāi)源的720億、140億、70億、40億、18億、5億參數(shù)等尺寸，以及視覺(jué)理解模型Qwen-VL、音頻大模型Qwen-Audio等多模態(tài)大模型。在MWC2024期間，聯(lián)發(fā)科攜多款人工智能應(yīng)用亮相展會(huì)，其中就包括天璣9300和8300兩款芯片。據(jù)了解，天璣9300芯片已在國(guó)外實(shí)現(xiàn)支持Meta Llama 2的70億參數(shù)大模型應(yīng)用，國(guó)內(nèi)在vivo X100系列手機(jī)上落地端側(cè)70億參數(shù)大語(yǔ)言模型，并在端側(cè)實(shí)驗(yàn)環(huán)境跑通130億參數(shù)模型。此次聯(lián)發(fā)科和阿里云的合作，則是首次實(shí)現(xiàn)通義大模型的芯片級(jí)軟硬適配。阿里巴巴通義實(shí)驗(yàn)室業(yè)務(wù)負(fù)責(zé)人徐棟介紹：“端側(cè)AI是大模型應(yīng)用落地的重要場(chǎng)景之一，但面臨軟硬件難適配、開(kāi)發(fā)環(huán)境不完備等諸多挑戰(zhàn)。阿里云與聯(lián)發(fā)科此次完成了大量底層適配及上層開(kāi)發(fā)的系列技術(shù)及工程難題，真正把大模型‘裝進(jìn)’手機(jī)芯片中，探索端側(cè)AI的Model-on-Chip部署新模式?！背寺?lián)發(fā)科外，高通也積極推動(dòng)大模型落地手機(jī)終端。3月18日，高通宣布推出第三代驍龍8s移動(dòng)平臺(tái)，支持100億參數(shù)級(jí)別的大語(yǔ)言模型，也能夠支持多模態(tài)生成式AI模型，包括目前的Baichuan-7B、Gemini Nano、Llama 2和智譜ChatGLM等來(lái)自百川智能、谷歌、META等公司的大語(yǔ)言模型。據(jù)悉，小米Civi 4 Pro將首發(fā)搭載驍龍8s移動(dòng)平臺(tái)。一名消費(fèi)電子行業(yè)分析師對(duì)《科創(chuàng)板日?qǐng)?bào)》記者表示，此次阿里云和聯(lián)發(fā)科的合作，意味著國(guó)內(nèi)手機(jī)廠商有了百度以外的選擇。記者了解到，榮耀、三星此前都宣布了與百度文心一言的合作。比如，三星最新旗艦手機(jī)Galaxy S24系列集成了文心大模型的多項(xiàng)能力，包括通話、翻譯、智能摘要等。另有消息源透露，蘋(píng)果方面正在和百度進(jìn)行接觸，希望使用百度的人工智能技術(shù)，且雙方已進(jìn)行初步會(huì)談。上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家林達(dá)華表示，隨著云端大模型規(guī)模的指數(shù)級(jí)成長(zhǎng)，端側(cè)即將迎來(lái)黃金增長(zhǎng)期。云端協(xié)同將成為未來(lái)的重要趨勢(shì)，由云側(cè)計(jì)算建立天花板，端側(cè)計(jì)算將支撐用戶使用大規(guī)模放量。根據(jù)咨詢機(jī)構(gòu)IDC的預(yù)測(cè)，2024年中國(guó)智能手機(jī)市場(chǎng)出貨量將達(dá)到2.77億臺(tái)，同比增長(zhǎng)2.3%。其中AI手機(jī)出貨量將會(huì)達(dá)到3660萬(wàn)，同比增幅超過(guò)3位數(shù)。手機(jī)端AI大模型的應(yīng)用將更為廣泛。