借自研“NPU+AI ISP”愛芯元智如何重塑AI芯片格局?
歷經數年洗禮的AI芯片賽道,如今正快步走進“話語權”爭奪的下半場。畢竟,過去數年,眼見不少新成立的AI芯片公司大多都在通過“玩概念”“蹭熱度”“PPT”等方式來進行炒作,以求達到快速吸引投資、圈錢的目的。但往往越是這類公司,越經不起時間的考驗,僅僅數年光景,就從人們視野中徹底消失,成為半導體圈內茶余飯后的談資。
而那些真正能夠挺到今天的AI芯片企業,無疑都是兼具技術與資本的雙項實力的硬核玩家。愛芯元智就是其中的典型代表,這家2019年5月成立的本土AI芯片公司主打感知和計算兩大關鍵技術,成立僅兩年多就陸續發布了兩顆AI的視覺處理芯片——AX630A和AX620A。
據記者了解,愛芯元智第一顆AI視覺芯片AX630A去年已經達到了量產狀態,已交付給客戶正式出貨,邊緣側等效算力28.8TOPS,強勁的算力使得其能夠用于大多數視覺+感知場景;今年7月,愛芯第二顆芯片AX620A也正式出爐,等效算力是14.4TOPS,據悉年底應該能夠達到量產狀態,這是愛芯元智這家務實的AI芯片企業最近這兩年時間的主要成果。
資方主體半導體背景立志做細分領域“領頭羊”
作為國內AI芯片領域剛起步的公司,前期一定是需要不斷的投入才能在后期看到豐厚的回報,這點是半導體產業投資領域的定律。
對于立志要做AI視覺芯片領域頭部企業的愛芯元智來說,尋求有實力的資方也尤為必要。據愛芯元智半導體(上海)有限公司創始人兼CEO仇肖莘介紹:“到現在為止,我們一共做了三輪融資,Pre A、A輪和A+輪,A+輪是今年6月初做完的,我們注重引進了一些產業界的投資方,最早的Pre A輪主要是啟明創投和聯想之星。今年的A輪、A+輪,我們是引入了美團和韋豪創芯,韋豪創芯是韋爾股份的投資平臺,我們跟豪威有很多協同,所以這個對我們將來的發展是有好處的。同時,像GGV,耀途,還有元禾璞華,石溪資本等,也有一定的協同性?!?/p>
截止目前,愛芯元智的員工數量已300多人,尤其是最近這一年大概差不多翻了一倍。之所以短期內如此快速的擴張,仇肖莘解釋到:“因為我們產品出來以后,各種軟件,客戶支持的人力需求快速增加。同時,我們也希望愛芯能夠做成一個邊緣側和端側人工智能芯片的領軍企業,所以希望我們整個產品研發的節奏能夠支持頭部企業的目標狀態。這樣才能在整個邊緣側、端側整個的競爭的范圍之內,我們能夠處于第一梯隊的狀態?!?/p>
“混合精度NPU+自研AI ISP”如何重塑AI芯片格局?
目前,愛芯元智擁有業內領先的混合精度NPU,憑借高算力、低成本、低功耗的行業領先優勢,為行業及合作伙伴提供高效的AI基礎算力平臺。不僅如此,愛芯元智還擁有自研AI ISP圖像處理技術,基于自有ISP與NPU的聯合架構設計,可以大幅提升傳統ISP中多個關鍵模塊的性能,打造世界先進水平的優秀畫質“樣板間”,為客戶拓展圖形圖像類業務提供基礎設施。
針對業內領先的混合精度NPU,仇肖莘表示:“大家知道,NPU的等效算力其實跟標稱算力是不一樣的,很多人說NPU比如有10T的算力,但是它的有效利用率可能只有10%或者20%,那就是說它的有效算力只有1TOPS或者2TOPS。為什么有效算力這么低,其實不是說NPU的核少了,而是這個數據有內存墻的問題,數據沒辦法送到核里去做運算,卡在數據上。針對這個問題我們有兩個思路,一個思路是說現在有很多在研發中的技術叫存算一體,就是不搬數據了,在數據旁邊做運算,但是這種方案也有它自己的問題,就是工藝節點做不下去,運算能力也上不去。我們的解決方式不是做存算一體,而是盡量減少數據搬運,所以這就是我們混合精度NPU的一個設計初衷,怎么把數據搬運的數量減少,這樣才能夠讓NPU運行的效率大幅增加?!?/p>
除此之外,算法協同NPU設計也是愛芯元智的關鍵技術優勢,愛芯元智ISP負責人、系統架構師張興告訴記者:“我們有整體設計的思維方式,即芯片和算法協同設計的理念,我們一定要對算法比較了解,比如常用的檢測、識別、分割和AI畫質提升的等算法,熟悉常用的大量網絡結構,以及對應的量化需求以及算子需求,整個內存訪問的需求等等。根據這些,我們來定義NPU的架構,算法對NPU的設計有一個指導性的作用,NPU的設計反過來又會對算法的實現有影響。因為NPU的設計會給出算法,現有算子的硬件加速,量化上的限制,數據流訪問、優化、存儲訪問等在硬件上的不同限制,我們將這些限制抽象出來,從算法層面進行協同優化。因此,算法和整個硬件設計是聯合優化和迭代的過程,這樣就會對我們整個的硬件設計起到一個非常好的指導性的作用?!?/p>
(圖片已做面部隱私保護處理)
在ISP方面,愛芯元智的AI ISP被稱為能拓展行業“天花板”的技術,之所以能夠做到如此,仇肖莘解釋到:“因為我們是做感知加視覺處理的,所以ISP是我們重中之重,一個非常重要的IP,我們將整個ISP pipeline里面的幾個重要的模塊,比如高動態,3D降噪,21TM,還有demosaic進行了AI化、AI處理。因為這些處理,我們整個ISP的效果就比傳統的ISP提升了一個數量級。原來傳統的方案是通過sensor信號進來一路去做處理,而我們的做法就是讓信號通過NPU,讓混合精度的NPU去跑HDR和3D降噪的AI模型,然后再通過ISP pipeline往下走,所以是一個ISP和NPU的混合/聯合設計,而且是純自研,這是我們的優勢?!?/p>
目前,愛芯元智的產品已經導入諸如智慧城市、智能交通、消費類電子等領域。除此之外,在視覺處理相機、手機、工業檢測相機、視頻會議等場景都有廣泛的應用。未來,愛芯元智將繼續在AI芯片賽道奮力沖刺,借助自身優勢的純自研IP——ISP和NPU,立足打造行業“天花板”級的產品,成為國產AI芯片行業的“隱形冠軍”。
