新一代人工智能芯片誕生比肩英偉達(dá)
在人工智能芯片領(lǐng)域，NVidia和寒武紀(jì)是目前技術(shù)比較雄厚的兩家公司。GTI的突然殺出吸引了業(yè)界人士的關(guān)注，GTI帶來(lái)人工智能芯片將會(huì)掀起產(chǎn)業(yè)革命。有人將它與NVidia和寒武紀(jì)相比，他們的區(qū)別在哪里。
最近看到這樣一顆AI芯片，在一個(gè)簡(jiǎn)單的開(kāi)發(fā)板上，沒(méi)有外置的存儲(chǔ)器，通過(guò)訓(xùn)練每秒能識(shí)別150張圖標(biāo)。該芯片的聯(lián)合創(chuàng)始人董琪先生說(shuō)，這顆AI芯片的一個(gè)功能，可以把手機(jī)變成尋寶器，鑒別奇珍異寶。比如說(shuō)，你把冬蟲(chóng)夏草的特征數(shù)據(jù)存儲(chǔ)在手機(jī)中，到西部地區(qū)有人給你兜售冬蟲(chóng)夏草，那里是沒(méi)有網(wǎng)絡(luò)信號(hào)的偏遠(yuǎn)地區(qū)，你對(duì)著產(chǎn)品拍照，手機(jī)馬上就會(huì)告訴你冬蟲(chóng)夏草的真?zhèn)魏推焚|(zhì)等級(jí)，即時(shí)處理，庫(kù)卡機(jī)器人，非常快。
聯(lián)想到現(xiàn)在公安部門追捕罪犯時(shí)運(yùn)用的人臉識(shí)別，需要后臺(tái)計(jì)算識(shí)別，結(jié)果延時(shí)造成嫌疑人已經(jīng)離開(kāi)攝像機(jī)覆蓋區(qū)域。未來(lái)通過(guò)這款芯片強(qiáng)大的聲音和圖像處理能力，無(wú)需再把圖片傳送到后臺(tái)，即時(shí)識(shí)別，犯人再也無(wú)處可逃。
GTI帶來(lái)人工智能芯片的革命
這款芯片由GTI出品！GTI，全稱是GyrfalconTechnologyInc.，由一批有創(chuàng)新情懷的硅谷華人人工智能科學(xué)家和半導(dǎo)體芯片行業(yè)的資深工程專家及企業(yè)家組成的團(tuán)隊(duì)，Gyrfalcon（海東青）是一種以飛行速度迅疾著稱的鳥(niǎo)。公司的使命是將云＋人工智能的力量延展到本地設(shè)備上并使其獲得更大的性能和效率，專注開(kāi)發(fā)低功耗、高性能人工智能處理器的芯片。
我過(guò)去曾擔(dān)任EETImes總編12年，造訪無(wú)數(shù)硅谷領(lǐng)先的半導(dǎo)體公司，GTI的團(tuán)隊(duì)依然讓我驚艷。這是一群硅片上的沖浪高手組合，他們精通芯片工藝和算法，整合全球領(lǐng)先的技術(shù)，像工匠一樣精心雕琢出產(chǎn)品。我們希望用高性能和低功耗的產(chǎn)品服務(wù)中國(guó)智造和創(chuàng)新，加速中國(guó)人工智能的產(chǎn)業(yè)化進(jìn)程。董先生告訴我，我們未來(lái)將為中國(guó)的工程師和開(kāi)發(fā)者提供技術(shù)支持，讓中國(guó)的開(kāi)發(fā)者用我們的芯片開(kāi)發(fā)出更酷的創(chuàng)新產(chǎn)品。
GTI與NVidia和寒武紀(jì)的區(qū)別
現(xiàn)在活躍在AI芯片領(lǐng)域的，機(jī)器人維修，形成影響力的有Nvidia和華為麒麟970帶紅的寒武紀(jì)等中國(guó)新星，他們也有不少創(chuàng)新。但是大部分品牌能做到在終端產(chǎn)品內(nèi)大容量本地計(jì)算，不用后臺(tái)計(jì)算機(jī)支撐嗎？功耗方面，他們和GTI同級(jí)別的產(chǎn)品顯然有很大的差距。
GTI的芯片能真正實(shí)現(xiàn)圖片，視頻和語(yǔ)音在手持設(shè)備的本地學(xué)習(xí)和識(shí)別！
我看到了真實(shí)的開(kāi)發(fā)板演示，才敢相信這是真實(shí)存在的。
人工智能是對(duì)人類能力的增強(qiáng)！董先生的想法是讓GTI的芯片給更多有才華的工程師和開(kāi)發(fā)者帶來(lái)新的創(chuàng)新空間。低功耗和高性能同時(shí)具備是GTI的核心競(jìng)爭(zhēng)力。據(jù)董先生介紹，未來(lái)GTI的第二代芯片產(chǎn)品的功耗將做到更低，明年上半年將會(huì)出品。我認(rèn)為這樣的超低功耗配合GTI強(qiáng)大的聲音和圖像處理能力這些將為智能終端領(lǐng)域帶來(lái)顛覆性的改變！更多個(gè)性化的產(chǎn)品，更多基于SDK的二次開(kāi)發(fā)，不僅僅是產(chǎn)品的改變，新的商業(yè)模式也會(huì)出現(xiàn)，值得大家共同期待！
人工智能發(fā)展階段和革命點(diǎn)
人工智能發(fā)展40年，經(jīng)歷兩個(gè)維度和兩個(gè)階段技術(shù)路線。
第一個(gè)維度是早期基于專家系統(tǒng)的人工智能，是建立在人的經(jīng)驗(yàn)基礎(chǔ)上，根據(jù)專家決策思路來(lái)判斷。它不能超越人的智慧，但也通過(guò)計(jì)算機(jī)超算能力把只有專家才能解決的問(wèn)題，變成機(jī)器輔助決策系統(tǒng)。
第二個(gè)階段是基于神經(jīng)元理論的深度學(xué)習(xí)人工智能路線，它是人告訴機(jī)器特征要素，機(jī)器根據(jù)特征要素去自己學(xué)習(xí)。就像媽媽教孩子，這一只鳥(niǎo)，機(jī)器記住鳥(niǎo)的特征，下次見(jiàn)到鳥(niǎo)的圖片就知道是鳥(niǎo)。機(jī)器學(xué)多了就能區(qū)別麻雀、鸚鵡和老鷹，變的聰明起啦。第二個(gè)維度是AI芯片的技術(shù)路線，早期是用CPU計(jì)算能力實(shí)現(xiàn)，發(fā)展到基于GPU的AI芯片，在圖形處理效率上改善計(jì)算效率，它的特點(diǎn)是把圖片存儲(chǔ)起來(lái)，通過(guò)比對(duì)來(lái)識(shí)別和學(xué)習(xí)。它的特點(diǎn)是存儲(chǔ)量大，需要后臺(tái)計(jì)算機(jī)支撐、計(jì)算量大、決策時(shí)間長(zhǎng)和功耗大。
我認(rèn)為，中國(guó)要搶占人工智能的至高點(diǎn)，走產(chǎn)業(yè)化的道路，要解決的關(guān)鍵問(wèn)題就是芯片的低功耗和高性能的平衡！
那么，有沒(méi)有一種不用存儲(chǔ)圖片，占有幾百K-幾兆字節(jié)存儲(chǔ)空間，而僅存儲(chǔ)圖片特征值，從而減少存儲(chǔ)，減少計(jì)算量，完全本機(jī)實(shí)現(xiàn)學(xué)習(xí)和決策的芯片途徑？
人工智能領(lǐng)域的競(jìng)爭(zhēng)就是一場(chǎng)芯片革命！我看到董先生沿著卷積神經(jīng)網(wǎng)絡(luò)的路線，實(shí)現(xiàn)深度學(xué)習(xí)的AI處理器。他的團(tuán)隊(duì)由一批有情懷的硅片人組成，真正做到低功耗、計(jì)算快和無(wú)需芯片外數(shù)據(jù)交換的終端應(yīng)用，這顆芯片實(shí)現(xiàn)了革命性的創(chuàng)新！
GTI的芯片性能
GTI的AI處理器芯片-光矛Lightspeeur2801S已于2017年9月成功流片，該芯片擁有高達(dá)9.3TOPS／Watt的卓越效率能耗比表現(xiàn)，在人工智能邊緣計(jì)算與數(shù)據(jù)中心機(jī)器學(xué)習(xí)領(lǐng)域相比目前市場(chǎng)上的其他方案高出幾個(gè)數(shù)量級(jí)。它有二低二高特點(diǎn)，低功耗低存儲(chǔ)，庫(kù)卡機(jī)器人何服電機(jī)維修，高并行和原位計(jì)算，能有效推動(dòng)各種人工智能應(yīng)用在終端側(cè)及云端的產(chǎn)業(yè)化落地。
光矛基于APiM架構(gòu)，該架構(gòu)使用內(nèi)存作為人工智能處理單元，能夠消除在其他架構(gòu)中的大量數(shù)據(jù)移動(dòng)，極大降低功耗。這一架構(gòu)支持真正的片上并行和原位計(jì)算，成功克服了由存儲(chǔ)器帶寬而導(dǎo)致的性能瓶頸。它有28000個(gè)并行計(jì)算核，不需要使用外部存儲(chǔ)單元用于人工智能推斷。
光矛支持卷積神經(jīng)網(wǎng)絡(luò)，其分布式內(nèi)存塊結(jié)構(gòu)對(duì)CNN計(jì)算相當(dāng)友好并且支持多層結(jié)構(gòu)，每層的尺寸可以不同，內(nèi)置模型壓縮算法能夠?qū)崿F(xiàn)快速且低功耗的CNN計(jì)算。此外，Lightspeeur還同時(shí)支持Caffe、TensorFlow等主流開(kāi)源深度學(xué)習(xí)系統(tǒng)。
光矛2801S采用28nm工藝，并已進(jìn)入量產(chǎn)階段，實(shí)測(cè)功能如下：
1，效率能耗比為9.3Tops/W。
2，單芯片峰值運(yùn)算能力5.6Tops，運(yùn)行VGG網(wǎng)絡(luò)可到130FPS。
3，在功耗180毫瓦下，運(yùn)行VGG網(wǎng)絡(luò)可達(dá)30FPS；運(yùn)行AlexNet網(wǎng)絡(luò)可達(dá)48FPS。
4，ImageNet圖像分類運(yùn)行網(wǎng)絡(luò)精度：VGG為66%，Alexnet為58%。
該芯片無(wú)需外掛DDR，多芯片可無(wú)縫連接，支持更強(qiáng)大計(jì)算要求的AI應(yīng)用如AI服務(wù)器、自動(dòng)駕駛、智慧安防和復(fù)雜條件下工業(yè)應(yīng)用等不同場(chǎng)景。
GTI芯片的產(chǎn)業(yè)化進(jìn)程
GTI在美國(guó)已經(jīng)與著名的自動(dòng)駕駛公司啟動(dòng)無(wú)人駕駛深度學(xué)習(xí)的產(chǎn)品合作，與韓國(guó)手機(jī)品牌開(kāi)始AI手機(jī)方案合作、與日本知名企業(yè)合作專用AI服務(wù)器、與中國(guó)制造業(yè)領(lǐng)軍企業(yè)聯(lián)合啟動(dòng)AI產(chǎn)品表面檢測(cè)、以及與國(guó)內(nèi)安防企業(yè)籌劃真正具備本地AI識(shí)別能力的攝像頭等等。
在云計(jì)算中，光矛可用于人工智能推理服務(wù)器；在邊緣計(jì)算中，該設(shè)備則可以支持人工智能監(jiān)控／視頻攝像頭、智能玩具／機(jī)器人、智能家居設(shè)備、AR／VR產(chǎn)品、語(yǔ)言／語(yǔ)音識(shí)別、自然語(yǔ)言處理等多個(gè)應(yīng)用領(lǐng)域。據(jù)悉，目前已有多家國(guó)內(nèi)和國(guó)際一線工業(yè)和科技巨頭計(jì)劃將Lightspeeur用于其包括服務(wù)器、手機(jī)、家用IoT、工業(yè)智能制造、智慧城市產(chǎn)品和監(jiān)控?cái)z像頭等在內(nèi)的不同應(yīng)用中。