聯發科這場開發者大會看點十足,AI手機終于有了明確定義
關鍵詞: AI手機
2022 年 11 月,ChatGPT 輕輕振動蝴蝶翅膀,為全球帶來了一場生成式 AI 的技術革新風暴,如今,千行百業都在被 AI 改變甚至顛覆。
隨著生成式 AI 從發展邁向應用,端云結合將成為主流的部署模式,特別是端側生成式 AI 的發展正越來越受到重視。讓用戶可以從終端側不聯網就能獲得多數基于生成式 AI 的服務,成為很多企業的愿景,而目前人們使用最高頻的智能手機,無疑就是端側生成式 AI 的第一突破口。
因此,眼下“AI 手機”正成為整個行業無法繞過的發展方向。不過不可否認的是,AI 手機仍處在早期發展階段,AI 究竟會如何改變智能手機,還有很多問題亟待探索。
5 月 7 日,聯發科以“AI 予萬物”為主題舉辦了天璣開發者大會 2024(MDDC 2024),透過這場大會,IT之家看到了關于生成式 AI 手機諸多未知的回答,更看到了作為端側生成式 AI 最早探索者之一的聯發科,是如何在風暴中完成從技術引領到生態革新的角色升級的。
生成式 AI 推動智能手機產業邁進,未來已在眼前
盡管“生成式 AI 手機”的時代尚未真正到來,但好消息是,生成式 AI 已經能為智能手機市場帶來正面的影響。
根據 IDC 最新的季度報告,2024 年第一季度,中國智能手機市場出貨量約 6,926 萬臺,同比增長 6.5%,延續去年底反彈勢頭,且市場表現高于預期。
同時 IDC 預測,2024 年全球智能手機銷量將達到 11.97 億臺,同比增長 2.77%,2028 年全球智能手機銷量將達 13.03 億臺,5 年 CAGR 將達到 2.27%。
智能手機市場將邁向一個新的增長周期,而生成式 AI 手機的普及,就將是這輪新周期的主要推動力之一。
端側為什么需要生成式AI?
自從ChatGPT爆發之后,生成式AI在云側發展如火如荼,各種新奇的AI應用層出不窮,許多讓人拍案叫絕的案例對于行業影響甚廣。然而,在專業用戶已經憑借生成式AI實現創新時,大部分的用戶還無法真正體驗到生成式AI的創造力和便利。如何實現AI普惠成為了聯發科等移動生態先行者重點思考的課題。
而智能手機等移動終端不僅擁有最大的用戶基數,在便捷性、交互性、隱私保護以及多模態輸入輸出和情境感知上獨具優勢,讓AI大模型和生成式AI應用在移動終端上落地,無疑是實現AI普惠的重要步驟。而智能手機作為當下最普及的智能終端,將會是端側生成式AI的首要突破口。
從可以自行安裝App,到物理鍵盤變為超大觸屏,手機在短短二十多年內發生了翻天覆地的變化。生成式AI雖然帶來了新的機遇,但要想搶占市場先機,還需要對技術趨勢的長期跟蹤與大膽跟進。
聯發科較早看到了AI行業發展對手機的必然影響。早在2015-2016年,AI上一次獲得廣泛討論時,聯發科便開始思考端側是不是也有機會搭上這個時代的技術洪流。2017年Transformer架構橫空出世后,聯發科便決定提早布局新的算法來配合尚未出現的新應用。
聯發科技無線通信事業部副總經理李彥輯在近日與「甲子光年」等機構的交流中表示,這是聯發科對于技術投入的決心,當時就會以比較開放的心態看待未來AI的發展。
同時,端側生成式AI也的確擁有幾大優勢。聯發科無線通信事業部技術規劃總監李俊男認為這分別體現在“隱私保護”和“多模態”上:“用戶的很多東西不想上云,但在端側即使沒有網絡的時候,大模型也可以很快地回答和交互”“用戶每天都把手機帶在身上,它有天生的多模態優勢,具有聲音,影像等最自然的交互方式”。
隨著融合的深入,Counterpoint 認為,生成式 AI 技術將在智能手機上孕育出一個甚至多個智能生命體(AI Agent),成為專屬于每個用戶的應用入口。因此,生成式AI手機可以定義為:利用大規模、預訓練的生成式AI模型,實現多模態內容生成、情境感知,并具備不斷增強的類人能力。
顯然,由聯發科引領的生成式AI手機不僅僅是一場技術革命,更是對人機交互模式的深刻重塑,預示著智能手機將從被動響應邁向主動服務的新浪潮。
然而進入手機的大模型越大就越好嗎?
更大的模型通常意味著更高的硬件成本,同時還會影響到手機的續航能力。考慮到算力、內存、發熱的限制,端側需要采取與云側不同的發展策略,并非一味追求更大的參數規模。
聯發科技無線通信事業部副總經理陳一強指出:“幾個月前20億參數的模型,已經比半年前70億參數的模型還聰明很多,它從大變成小,而能力變得更強。我們把這樣的模型搬到手機上,可能又比半年前整個AI能力提升一個等級。”他表示,在新時代剛開始的時候,用算力或具體功能去評估生成式AI手機的標準,可能不是很明確。標準定了,結果半年后就發現原來定的標準這么低,因為生成式AI的進展太快了。
因此,聯發科更側重定性的分析,并且愿意跟所有的生態廠商一起合作,讓生成式AI手機的概念真正落地,通過一系列先進的硬件、軟件和工具,探索更適合端側的技術路線,把生成式AI手機所帶來的體驗構想變成現實,讓AI普惠用戶。
手機廠商AI戰略
手機廠商需要與芯片、AI框架、大模型供應商深度合作,打造真正的生成式AI手機產品。
除了硬件適配,手機廠商還需要在系統層面對生成式AI進行深度整合,提供無縫的多模態生成體驗。廠商需要開發出行業應用,將生成式AI的能力充分釋放。
生成式AI手機生態系統中還包括AI框架和大模型供應商、應用開發者、內容服務提供商等參與者。他們需要為生成式AI手機進行算法優化、應用適配和內容孵化,共同推動生態系統的繁榮發展。
軟硬兼施:聯發科引領移動端側生成式AI
李彥輯指出,早在2015-2016年行業廣泛討論AI的時候,聯發科就看到了這股新的科技趨勢,思考能不能在端側抓住這一機會,而當谷歌2017年提出Transformer算子的時候,聯發科就意識到不同于以往的分析式AI,新的生成式AI或許會成為AI領域的一個新的分水嶺。
2018年前后,聯發科率先將具備AI能力的硬件處理器搭載在其芯片上,最初的應用主要是攝影計算光學的加速,同時也意識到必須要提早布局新的算法、算子,應對未來可能的新應用。
聯發科技無線通信事業部技術規劃總監李俊男表示,ChatGPT看起來是突然出現的,但以技術發展路線來看,它離不開前期的積累,這就是所謂的技術持續投資,是科技公司必須做的事情。
在意識到端側生成式AI的前景之后,聯發科勇敢地擔起了行業革新領導者的角色,聯合定義生成式AI手機也只是第一步。
眼下,端側生成式AI的開發充滿多元化、復雜度高的挑戰,比如每年上市的智能手機都有上百部,大模型已經有上百種,而終端應用更是有上百萬款之多,很容易讓開發者無從下手
天璣AI先鋒計劃的推出,就是希望與率先起步、有明確指標性的開發者聯合起來,加速推動整個生態向生成式AI遷移。
首先是聯合大模型廠商、OEM終端廠商,提供硬件和算力基礎,其次聯合APP開發者,為他們提供資源,高效賦能,推動生成式AI技術在智能終端上的應用普及。
所謂工欲善其事,必先利其器。無論終端還是應用開發,都離不開豐富、強大、便捷的開發資源,天璣AI開發套件正應運而生。
聯發科此前提供的NeuroPilot已經是一個不錯的開發工具,但在生成式AI快速發展的背景下,必須與時俱進,尤其是大模型的部署并不容易。
因此,聯發科就把所有可以利用的工具集結在一起,打造了天璣AI開發套件,包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升性能的GenAI優化技術、Neuron Studio 一站式視覺化開發環境。
這樣一來,就可以為開發者提供一站式解決方案,提供“快、全、強、易”的專業開發體驗,加速終端生成式AI應用的開發全流程。
它和以往最大的不同,就是把分散的各項開發工具整合、優化為一個整體,讓開發者通過最簡單的方式高效使用,未來也會不斷擴充升級。
硬件層面上,聯發科天璣平臺率先在端側集成了AI處理器APU,內建生成式AI引擎,提供最高效的加速,而且持續演進,能力越來越強,規模也越來越龐大。
天璣9300就將APU引擎發展到了第七代(APU 790),在行業內率先通過LoRA Fusion融合支持生成式AI在端側的LoRA融合,率先支持內存硬件壓縮技術,率先在端側運行130億參數大語言模型,率先在芯片上運行330億參數大語言模型……
最新的旗艦5G生成式AI移動芯片天璣9300+,不但有著更高的性能,更率先帶來了端側AI推測解碼加速技術、雙LoRA融合技術、Llama 2 70億參數大模型高速運行等等,再結合MAGT自適應技術軟件開發套件、硬件光線追蹤技術軟件兩大開發套件,為開發者提供頂級的端側生成式AI開發平臺。
面向未來,全新的下一代天璣移動平臺,也正呼之欲出。
