聯(lián)發(fā)科推出天璣AI開發(fā)套件：全面賦能開發(fā)者，掀起生成式AI應(yīng)用開發(fā)新浪潮

近日，備受矚目的聯(lián)發(fā)科天璣開發(fā)者大會2024（MDDC）在深圳隆重揭幕，其主題為“AI予萬物”。這場盛會匯聚了移動生態(tài)領(lǐng)域的眾多領(lǐng)軍企業(yè)和開發(fā)者，共同聚焦端側(cè)生成式AI技術(shù)的前沿趨勢以及生成式AI手機的發(fā)展方向。聯(lián)發(fā)科攜手行業(yè)生態(tài)伙伴共同發(fā)布了《生成式AI手機產(chǎn)業(yè)白皮書》，闡明了生成式AI手機的定義，并向全球開發(fā)者推出了“天璣AI先鋒計劃”。為促進(jìn)產(chǎn)業(yè)共創(chuàng)實現(xiàn)生態(tài)共贏，聯(lián)發(fā)科還分享了天璣AI生態(tài)戰(zhàn)略和終端生成式AI應(yīng)用開發(fā)一站式解決方案“天璣AI開發(fā)套件”。這一系列措施為基于生成式AI的移動生態(tài)創(chuàng)新潮流注入了新的動能與活力，也激發(fā)了未來開發(fā)者的創(chuàng)意潛能。另外，整合了產(chǎn)業(yè)各方資源，為全球開發(fā)者提供了優(yōu)質(zhì)的資源與平臺，促進(jìn)了生成式AI體驗的創(chuàng)新，賦能全場景生成式AI應(yīng)用的未來成長與革新。

當(dāng)前生成式AI應(yīng)用的體驗升級已成為行業(yè)和用戶的共同期待，智能終端是生成式AI普及的關(guān)鍵載體。智能手機憑借移動便攜性、個人專屬化、多模態(tài)感知以及強勁的AI算力和通信功能，毫無疑問將成為端側(cè)生成式AI應(yīng)用落地的最佳選擇。伴隨生成式AI與智能手機融合加速，智能手機迎來了繼觸控屏幕之后的又一個革新機遇，在聯(lián)發(fā)科等行業(yè)先行者的推動下，屬于“生成式AI手機”的時代已經(jīng)到來。

聯(lián)合產(chǎn)業(yè)伙伴發(fā)布《生成式AI手機產(chǎn)業(yè)白皮書》，共同定義“生成式AI手機”

在天璣開發(fā)者大會上，聯(lián)發(fā)科聯(lián)合Counterpoint并攜手阿里云通義千問、百川大模型、虎牙、酷狗音樂、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo行業(yè)頭部伙伴聯(lián)合發(fā)布《生成式AI手機產(chǎn)業(yè)白皮書》，共同定義了“生成式AI手機”的概念和典型特征。《白皮書》提到：生成式AI手機是利用大規(guī)模、預(yù)訓(xùn)練的生成式AI模型，實現(xiàn)多模態(tài)內(nèi)容生成、情境感知，并具備不斷增強的類人能力。生成式AI手機開啟了智能手機發(fā)展的新周期，長遠(yuǎn)看，智能手機將會發(fā)展為移動智能體。

同時，《白皮書》這樣定義了生成式AI手機的典型特征：在未來，生成式AI手機將具備強大的AI算力，支持大模型的本地部署，或是通過云端協(xié)同的方式執(zhí)行復(fù)雜的生成式AI任務(wù)，無需完全依賴云端服務(wù)器。同時將具備多模態(tài)能力，處理文本、圖像、語音等多種形式的內(nèi)容輸入，以生成各種形式的輸出，確保流暢、無縫的用戶體驗，設(shè)備能夠以自然而直觀的交互方式，快速響應(yīng)用戶的請求。而為了實現(xiàn)這一目標(biāo)，生成式AI手機將需要強大的硬件支持，包括但不限于基于領(lǐng)先工藝和先進(jìn)架構(gòu)設(shè)計的移動計算平臺，集成或者獨立的神經(jīng)網(wǎng)絡(luò)運算單元（如APU/NPU/TPU），大容量和高帶寬的內(nèi)存，以及穩(wěn)定和高速的連接，硬件級和系統(tǒng)級的安全防御。

從《白皮書》中可以預(yù)見，未來的手機將成為一個能夠理解并預(yù)測用戶需求、提供創(chuàng)造性解決方案的智能伙伴，搭載多個AI智能體的生成式AI手機將成為用戶訪問數(shù)字生態(tài)的超級入口，端側(cè)的AI應(yīng)用將進(jìn)入人們?nèi)粘Ｉ畹馁徫铩⒙糜?、游戲等場?#xff0c;扮演購物達(dá)人、私人顧問、互動NPC等專屬角色，實現(xiàn)用戶體驗的優(yōu)化與飛躍。

天璣9300+全大核旗艦亮相，AI芯更強

本屆MDDC2024上，聯(lián)發(fā)科重磅發(fā)布了旗艦5G生成式AI移動平臺天璣9300+，以先進(jìn)架構(gòu)和強勁算力為生成式AI手機提供硬件支持。天璣9300+率先支持AI推測解碼加速技術(shù)，同時支持天璣AI LoRA Fusion 2.0技術(shù)，為用戶帶來高速和個性化的生成式AI體驗。天璣9300+還支持AI框架ExecuTorch，可加速端側(cè)生成式AI應(yīng)用的開發(fā)進(jìn)程。此外，這款旗艦芯支持多種前沿主流AI大模型，包括阿里云通義千問大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2 & Llama 3等。用一句話概括天璣9300+就是，不僅擁有卓越的全大核性能和低功耗設(shè)計，還具備多項業(yè)界領(lǐng)先的生成式AI技術(shù)，以及聯(lián)發(fā)科與生態(tài)伙伴共創(chuàng)的優(yōu)質(zhì)游戲體驗，無疑是當(dāng)下生成式AI手機的最優(yōu)選擇。

天璣AI開發(fā)套件，為廣大開發(fā)者提供“快、全、強、易”的專業(yè)開發(fā)體驗

很多開發(fā)者還面臨著終端生成式AI應(yīng)用開發(fā)起步期的多元挑戰(zhàn)，聯(lián)發(fā)科不僅研發(fā)出領(lǐng)先的天璣芯片，更重要的是，幫助開發(fā)者在搭載天璣芯片的終端上打造出更具創(chuàng)新性的生成式AI用戶體驗，從而推動整個AI新生態(tài)的繁榮與發(fā)展。會上，聯(lián)發(fā)科隆重推出了“天璣AI開發(fā)套件”，為廣大開發(fā)者提供終端生成式AI應(yīng)用開發(fā)的一站式解決方案。天璣AI開發(fā)套件包含四大模塊，包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優(yōu)化技術(shù)和Neuron Studio一站式視覺化開發(fā)環(huán)境等四大模塊，為廣大開發(fā)者提供“快、全、強、易”的專業(yè)開發(fā)體驗，賦能終端生成式AI應(yīng)用開發(fā)全流程。

其中，GenAI 最佳實踐，它可以提升大模型的終端部署速度，從原先的數(shù)周加速到一天即可完成部署。在模型的量化、編譯、推理方面，為開發(fā)者提供先進(jìn)的INT4量化技術(shù)、內(nèi)存壓縮技術(shù)、Token加速技術(shù)、最優(yōu)緩存配置，還可以開放端側(cè)部署源碼。讓開發(fā)者在與時間賽跑的創(chuàng)新競賽中，搶得先機，更好地把握創(chuàng)新機遇。

全面的GenAI Model Hub ，是聯(lián)發(fā)科為開發(fā)者打造的模型庫，目前已適配包括：Meta Llama、百川大模型、阿里云通義千問在內(nèi)的全球主流大模型。開發(fā)者可以輕松獲取并使用這些不斷新增的大模型，進(jìn)而大幅降低模型部署的難度和復(fù)雜性。

強大的GenAI優(yōu)化技術(shù)，是生成式AI應(yīng)用體驗的關(guān)鍵。目前已導(dǎo)入了多項業(yè)界最新、最快的軟件優(yōu)化技術(shù)，包括“推測解碼加速”和“LoRA Fusion”等等，可顯著提升AI應(yīng)用的生成速度，功能包所占用的存儲空間也可以大幅減少。

易用的Neuron Studio 集成開發(fā)環(huán)境，跳出傳統(tǒng)的代碼開發(fā)環(huán)境，可為開發(fā)者提供高度集成的，一站式、可視化開發(fā)環(huán)境 ，帶來“所見即所得”般更易用的開發(fā)體驗，讓開發(fā)過程變得更加直觀、易用。

目前天璣AI開發(fā)套件，已覆蓋包括智能手機、智能汽車、物聯(lián)網(wǎng)、個人電腦等智能終端設(shè)備，推動這些領(lǐng)域的AI應(yīng)用快速創(chuàng)新和落地。

從應(yīng)用落地成果來看，聯(lián)發(fā)科憑借其優(yōu)秀的AI平臺能力，已攜手阿里云通義千問、Cocos、Honor of Kings、虎牙直播、酷狗音樂、美圖、全民K歌、RWKV、Soul、騰訊AI Lab、小紅書等數(shù)十家生態(tài)伙伴共創(chuàng)體驗更精彩的生成式AI應(yīng)用。

天璣AI先鋒計劃啟動，助力開發(fā)者打造創(chuàng)新用戶體驗

然而目前，由于生成式AI模型積累不足、硬件多樣移植難度大、開發(fā)界面不統(tǒng)一等問題，生成式AI普及仍面臨由點向面發(fā)展的巨大挑戰(zhàn)。為促進(jìn)產(chǎn)業(yè)共創(chuàng)實現(xiàn)生態(tài)共贏，聯(lián)發(fā)科在天璣開發(fā)者大會上聯(lián)合阿里云、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米面向全球開發(fā)者啟動“天璣AI先鋒計劃”，提供基于模型化、算力化和軟硬件等方面的開發(fā)資源和支持，并提供廣泛的商業(yè)機遇。通過天璣AI先鋒計劃，開發(fā)者可以充分發(fā)揮天璣移動平臺的優(yōu)勢，加速端側(cè)生成式AI應(yīng)用的開發(fā)與落地，為用戶打造獨具創(chuàng)新的AI體驗。

為實現(xiàn)這一長期計劃和全場景生成式AI愿景，聯(lián)發(fā)科在大會上提出了天璣生態(tài)戰(zhàn)略，從芯片、模型、應(yīng)用三個層面，聯(lián)合產(chǎn)業(yè)伙伴和開發(fā)者共同探索端側(cè)AI技術(shù)路線，推進(jìn)顛覆性的端側(cè)AI應(yīng)用和服務(wù)創(chuàng)新。

可以明顯觀察到，聯(lián)發(fā)科的天璣生態(tài)策略展示了其高度的遠(yuǎn)見、技術(shù)主導(dǎo)性和產(chǎn)品競爭優(yōu)勢。經(jīng)過此次天璣開發(fā)者大會，聯(lián)發(fā)科已從生成式AI產(chǎn)業(yè)的倡導(dǎo)者和參與者，成功演變?yōu)榱嗽摦a(chǎn)業(yè)發(fā)展的引領(lǐng)者，全面推動了生成式AI在端側(cè)的普及和發(fā)展，與產(chǎn)業(yè)合作伙伴共同開創(chuàng)了生成式AI的新局面。