物聯(lián)網(wǎng)與人工智能的結(jié)合帶來了一個規(guī)模和潛力巨大的市場,因此無論是行業(yè)巨頭還是創(chuàng)業(yè)者紛紛涌入其中。芯片作為人工智能發(fā)展的關(guān)鍵,在云端被英特爾、英偉達等巨頭占據(jù)了絕對優(yōu)勢,留給AI芯片創(chuàng)業(yè)者更大的機會在于終端的人工智能,并且有種說法是,前端越智能,人工智能才能產(chǎn)生更強的動能。
鯤云作為眾多AI芯片初創(chuàng)企業(yè)的一員,在成立之前無論是在專利還是技術(shù)上已經(jīng)有了很深的積累,其中Handle-C是鯤云CEO牛昕宇導(dǎo)師90年代初做的一套開發(fā)工具,經(jīng)過三十多年的迭代和經(jīng)驗積累,最終成為了鯤云的核心競爭優(yōu)勢——全自動化工具鏈。該工具結(jié)合鯤云自主研發(fā)的搭載FPGA芯片的雨人板卡,在最大化發(fā)揮FPGA性能的前提下,可以針對不同的應(yīng)用場景需求自動編譯深度學(xué)習(xí)算法到芯片上,不僅實現(xiàn)高性能,還能兼顧通用性,降低開發(fā)成本和難度。
不過,鯤云自主研發(fā)的打通從頂層應(yīng)用到底層芯片的深度學(xué)習(xí)方案真的能夠滿足多場景的需求,實現(xiàn)讓IoT終端都裝上智能大腦的愿景?在眾多的AI應(yīng)用場景中,鯤云
為何選擇優(yōu)先為智慧城市和智能制造的IoT設(shè)備裝上智能大腦?鯤云的直接對手是誰?帶著這些疑問,雷鋒網(wǎng)近期采訪了鯤云科技CEO牛昕宇博士。
2018年4月18日,在深圳舉辦的《2018全球人工智能應(yīng)用創(chuàng)新峰會》上,鯤云科技發(fā)布了一款A(yù)I平臺級產(chǎn)品——鯤云AI開發(fā)平臺。這款以自主研發(fā)芯片架構(gòu)為底層,以開放應(yīng)用平臺為依托,為人工智能的頂層應(yīng)用開發(fā)提供計算資源的人工智能生態(tài)平臺,可以為物聯(lián)網(wǎng)應(yīng)用終端自動生成人工智能算法的DFG、配置人工智能芯片板卡所需的比特流文件。其技術(shù)平臺將與自動駕駛、城市大腦、醫(yī)療影像、智能語音等應(yīng)用層開放平臺形成協(xié)同作用,建立研、產(chǎn)、融相結(jié)合的一體化人工智能生態(tài)平臺。
產(chǎn)品及技術(shù)
雷鋒網(wǎng):你認為終端側(cè)人工智能對整個AI行業(yè)發(fā)展的意義是什么?
牛昕宇:終端側(cè)的人工智能對整個行業(yè)發(fā)展的重要意義可以從短期和長期去看。短期內(nèi)終端側(cè)對于人工智能的重要意義一個是分流,另一個是隱私。分流方面,比如深圳市現(xiàn)在安裝了數(shù)百萬顆攝像頭,這些攝像頭絕大部分都是高清的。一般1080p的攝像頭一秒鐘就要產(chǎn)生5兆左右的數(shù)據(jù),一天大概接近400多G,不過這些物聯(lián)網(wǎng)節(jié)點發(fā)回來的數(shù)據(jù)大多沒辦法直接使用,直接發(fā)回的數(shù)據(jù)并沒有用,而是需要分析識別結(jié)果,這時候其實不需要把所有的數(shù)據(jù)都在服務(wù)器里處理,而是可以通過前端加后端的方式,后者可以更靈活,更實用,成本也更低。
分流里還有一個更極端的例子,就是一些需要閉環(huán)的反饋,比如機器人、自動駕駛的車輛,需要前端馬上做出反饋,然后引導(dǎo)設(shè)備做下一步的工作。這時候就不能依靠服務(wù)器的方式,因為帶寬會不穩(wěn)定、反應(yīng)的速度也無法保證,自動駕駛依靠云端的人工智能是無法想象的一件事情。
另外一個是隱私,現(xiàn)在很多智能的家電終端都裝了攝像頭,所有的計算都在服務(wù)器里進行。但其實用戶對此反應(yīng)比較敏感,因為這個證明所有的數(shù)據(jù)都是要上傳到云端的,這就產(chǎn)生了隱私安全的顧慮。解決這個問題的一個方法是讓前端進行分析,自動判斷并執(zhí)行所需的操作,讓數(shù)據(jù)留在終端。最大限度的做到隱私保護。人工智能只是一個工具,這種工具的作用是讓前端設(shè)備慢慢變得更加智能,當(dāng)網(wǎng)絡(luò)越發(fā)達的時候越需要前端有更強的計算能力,對于前端采集的信息進行實時處理并加以利用。有種說法是前端智能越智能,人工智能才能產(chǎn)生更強的動能,這是中長期的一個大趨勢。
雷鋒網(wǎng):AI芯片的主流類型,目前來看有GPU、FPGA、ASIC等,你們?yōu)槭裁囱鹤PGA?
牛昕宇:首先聲明一點,我們沒有押注FPGA,只是FPGA是ASIC前的一個必要環(huán)節(jié),流片之前都會進行FPGA驗證,雖然FPGA所用資源較多,不過可以實現(xiàn)跟ASIC一樣的功能。至于最終是否流片主要由市場規(guī)模來定。無論是FPGA還是ASIC,只是芯片的不同形態(tài),GPU也可以認為是一種ASIC。用FPGA有兩個方面的考慮,一個商業(yè)考慮,另一個是技術(shù)需求。
從商業(yè)化上說,不管是做什么類型的芯片公司,公司總歸要回到商業(yè)的本質(zhì)。站在客戶的角度,他們不關(guān)心使用GPU、ASIC,還是FPGA,只關(guān)心能不能給他們提供一套方案解決具體問題,需要多少成本。這就意味著不是選擇哪種芯片,而是最終支持人工智能算法的解決方案。人工智能算法要能夠形成一個方案,幫客戶解決具體問題,首先需要解決算力問題,然后把功耗壓到足夠低,讓它能夠在前端應(yīng)用。有自主研發(fā)能力的公司大部分能跨過這個門檻,然后就是成本的問題。FPGA可以認為是固化好的一個完整硬件白板,在這上面寫電路至少能保證電路沒有任何問題,而且它的采購成本是固定的,或者說可以通過談判降低,而ASIC是隨著量的增加成本逐漸降低。所以從商業(yè)化上考慮,到達某個量時才可以大規(guī)模布局一個ASIC,我們現(xiàn)在覺得可能是100萬的出貨規(guī)模。另外,從流片到大規(guī)模流片是兩個事情,F(xiàn)PGA方案落地周期可以做到比較短,并且FPGA現(xiàn)階段是直接提供產(chǎn)品最快速和穩(wěn)定的方式。在AI大規(guī)模的需求還處于萌芽階段時,我們作為初創(chuàng)公司的策略是通過把芯片做成方案解決客戶性能和功能上的問題,同時保持足夠的價格優(yōu)勢。
從技術(shù)上說,目前主要2個方式,一個是基于指令集(如GPU、TPU),另一個是數(shù)據(jù)流。這兩個方式各有優(yōu)劣,基于指令集的方式可能通用性很強,但性能可能沒有那么高;基于數(shù)據(jù)流的方式性能非常強,但通用性可能沒有那么強。我們選擇數(shù)據(jù)流引擎的方式既能解決性能問題,還可以把性能推到極致。而我們端到端的開發(fā)平臺又可以解決通用性的問題。如果我們把深度學(xué)習(xí)比作造車,可能只是針對勞斯萊斯打造的流水線,但要打造奔馳的時候就需要專業(yè)的人員把這個流水線進行對應(yīng)調(diào)整,這個調(diào)整過程門檻非常高。這時候我們做的工作也就是我們的第二項核心技術(shù),做一個全自動化的工具鏈,根據(jù)車型的不同,這個工具自動化的把流水線調(diào)整好,把門檻降下來的同時把通用性補齊。通過數(shù)據(jù)流架構(gòu)加開放平臺的方式,既能提高性能又能兼顧通用性。
雷鋒網(wǎng):相比GPU,F(xiàn)PGA一直存在的一個問題是比較難用,一定程度上提高了開發(fā)者的門檻,鯤云如何讓FPGA發(fā)揮出其自身的優(yōu)勢同時來解決FPGA難用的問題的?
牛昕宇:鯤云的人工智能方案是基于FPGA和之后的ASIC來實現(xiàn)的,這是一條完整的產(chǎn)業(yè)路徑。FPGA和ASIC作為底層硬件,天然具有難用的屬性,因為越往底層,對芯片的性能掌握越高,但對開發(fā)者需要的專業(yè)知識要求就越高,所以面向的用戶就越狹窄,感覺就越難用。
所以從1991年開始,陸院士和他的團隊開始做定制計算這個方向,在性能提高的同時無疑也抬高了使用門檻。為了解決這一問題,我們花了很大的精力在保證性能的前提下盡量把一層層的優(yōu)化步驟通過編譯器來自動化實現(xiàn),從最底層直接打通到最頂層,自動完成硬件的調(diào)整控制、數(shù)據(jù)寬度、算法冗余的優(yōu)化,這時候我們就會發(fā)現(xiàn)FPGA使用的門檻從硬件開發(fā)人員降低到算法開發(fā)人員了,只要給一套深度學(xué)習(xí)算法到我們的開發(fā)平臺上,就可以在我們的芯片上實現(xiàn)所需的功能了,這時候它的開發(fā)難度就可以降到跟GPU一樣。
雷鋒網(wǎng):如何降低開發(fā)者的使用成本?
牛昕宇:我們在做平臺的時候考慮的第一要素是保證開發(fā)者基于我們的產(chǎn)品開發(fā)出的方案能比較快速的實現(xiàn)商業(yè)落地,鯤云的AI平臺主要面向三類用戶:
終端用戶和專業(yè)人員。所謂專業(yè)人員不是僅指有計算機背景的人員,而是各個垂直領(lǐng)域內(nèi)需要AI方案解決實際生產(chǎn)、商業(yè)需求的各行各業(yè)的人員。他們可以基于我們提供的通用化界面以及各種豐富的接口,能夠在不掌握很多專業(yè)算法和硬件細節(jié)的情況下進行開發(fā),最終形成落地解決方案。
算法開發(fā)人員??梢灾苯影鸦赥ensonr Flow訓(xùn)練好的算法上傳到我們的AI平臺,自動映射到硬件中,不需要了解硬件架構(gòu)就可以使用高性能芯片。
高校研發(fā)人員。鯤云AI平臺可以為高校研發(fā)人員提供一個非常穩(wěn)定的平臺去測試或?qū)崿F(xiàn)所需的應(yīng)用,比如優(yōu)化算法、測試性能等。
應(yīng)用場景和公司戰(zhàn)略
雷鋒網(wǎng):鯤云目前在智慧城市和智能制造布局,主要是考量到這些領(lǐng)域的市場規(guī)模比較大?有沒有你們內(nèi)部的一個Top3領(lǐng)域排序?
牛昕宇:人工智能是一個非常寬廣的領(lǐng)域,各種各樣的應(yīng)用都可以做,我們選擇的智慧城市、智能制造等里面有大量的需求,并且這些需求現(xiàn)在沒有得到滿足。選擇什么領(lǐng)域肯定有一個商業(yè)化的考量,我們主要側(cè)重2個問題,一個是體量有多大,市場是不是足夠深、足夠?qū)?,能夠容納一家公司在里面快速成長;另一個,就是在這個領(lǐng)域是否能提供給客戶最需要的價值,這其實是更為核心的一個問題。
這個價值不只是產(chǎn)品本身能夠提供的,還包括與市場上已經(jīng)能提供的方案的價值差。比如說現(xiàn)在大家都做人臉識別方案,我們也有人臉識別方案,但這里能提供價值可能是就會比較小。由于大家都已經(jīng)做到一定水平,即便性能高40%,功耗低個2-3倍,在用戶看來是比較無感的。如果市場上的方案已經(jīng)解決了80分的需求,你的方案號稱能做到85分,那價值也只有5分。大家都盯著標準化、單一化的方案去做會造成人工智能產(chǎn)品的大量同質(zhì)化。
而芯片本身,行業(yè)發(fā)展前期很難給一家公司提供商業(yè)上的額外價值。芯片是一個需要持續(xù)投入的過程,可以在產(chǎn)業(yè)的中期和長期里面發(fā)揮應(yīng)有的產(chǎn)品價值,一顆定制化的芯片可以把整個領(lǐng)域的成本拉到很低,可以有性能和功耗方面的優(yōu)勢,長期來看芯片能夠幫助樹立競爭壁壘,那時候就不是單純技術(shù)層面的競爭了。對鯤云科技而言,我們的優(yōu)勢是從底層硬件到頂層應(yīng)用全部打通,所以開發(fā)一套新的定制化方案的時間成本很低,因此對于看好并進入的市場領(lǐng)域,我們會找到這個市場里面的標桿客戶,比如中國商飛(C919),了解他們的需求并幫他們深度解決各類問題,形成一體化的落地方案,集合到最終的產(chǎn)品中,這樣我們的一個小的板卡就可以應(yīng)用到各種各樣不同的領(lǐng)域,客戶也可以切實解決實際問題,而我們的方案也具備了大規(guī)模推廣的基礎(chǔ)。
總體而言,在選擇領(lǐng)域或場景的時候,我們主要考慮三點:
市場要足夠大,至少要有千億的級別有深耕的價值;
市場足夠深,需求不能是單一;
客戶的付費意愿很強,有些領(lǐng)域它很深也足夠大,但是可能商業(yè)化的前景在5年以后,這個不是我們目前考慮的重點領(lǐng)域。
國內(nèi)目前有非常多的領(lǐng)域滿足這3個條件,鯤云在今年將重心放在了智慧城市、智能制造等領(lǐng)域。
雷鋒網(wǎng):你們押的場景,像某些場景的對手已經(jīng)非常成熟了,比如安防的頭部廠商選這些領(lǐng)域進軍的時候,你們覺得底氣在哪里,優(yōu)勢在哪里?
牛昕宇:我覺得有兩點,第一是我剛才提過的很多領(lǐng)域大家做了很多同質(zhì)化的人工智能應(yīng)用,我們作為一家人工智能公司有技術(shù)實力提供這樣的產(chǎn)品,在這些市場需求很強烈的領(lǐng)域,我們會維持產(chǎn)品線,但鯤云在其中的價值是減去現(xiàn)在客戶已經(jīng)在用的產(chǎn)品價值。在產(chǎn)品同質(zhì)化時渠道的價值和客戶關(guān)系的價值就會相應(yīng)升高,這對于初創(chuàng)企業(yè)來說不是長久之計。第二點是在公司的成長過程中我們要有耐心,眼光一定要準,看準了需求去跟客戶一起成長。這也是我們快速發(fā)展的一個前提,就像剛才提到的,一個個方案陪著客戶做,利用芯片和平臺的優(yōu)勢為客戶創(chuàng)造更高的價值。
我們從成立第3個月開始拿出第一代產(chǎn)品,一直都在陪伴客戶實現(xiàn)一個個的落地方案,安防、智能家居、智能城市、自動駕駛這些方案的需求很多人都能看到,但是真正跟客戶一起去體驗場景、積累數(shù)據(jù)、把應(yīng)用場景去落地好的過程是很辛苦的,但也是最有核心價值的,我們愿意并希望一直這樣做下去。
雷鋒網(wǎng):鯤云的愿景之一是“讓每一個物聯(lián)網(wǎng)終端應(yīng)用都裝上鯤云研發(fā)的智能大腦”,單說IOT這個大場景就需要集中國全公司之力才能應(yīng)對,你們這個愿景是否太大了?
牛昕宇:愿景是公司的一個目標,是我們看到行業(yè)的一個趨勢后的努力方向,這肯定需要大家一起才能完成,loT是一個非常完整的生態(tài),我們盯準其中的非常小的一部分,就是人工智能,我們比較看好物聯(lián)網(wǎng)跟人工智能的結(jié)合。這是很大的一個市場,并且最具潛力,它現(xiàn)在可能是2B或2G的業(yè)務(wù)形態(tài),但后面慢慢會變成2C再變成服務(wù)的形態(tài),如果把自己局限于某一個部分可能會局限在某個階段難以持續(xù)成長。所以,我們當(dāng)時定這個愿景是希望能夠隨著物聯(lián)網(wǎng)和人工智能的慢慢結(jié)合而一起成長。
鯤云的AI業(yè)務(wù)不僅僅局限于深圳,而是全國?
牛昕宇:肯定是全國布局,而且像你剛才說的單位我們都可以合作,不管什么領(lǐng)域我們只做其中一部分,只提供人工智能的落地解決方案,不碰數(shù)據(jù)也不碰基礎(chǔ)的IoT終端,只給原有的loT終端做增值。我們提供的人工智能方案,是一個可以跟多方群體合作共贏的機制,在市場落地上是大城市先采購,隨著物聯(lián)網(wǎng)和人工智能應(yīng)用的不斷下沉?xí)涞氐饺珖踔梁M獾牟煌鞘?,我們目前的客戶群體也包括了一二三線城市的政府機構(gòu)和企業(yè)單位。
雷鋒網(wǎng):有報道指出您是一個技術(shù)和商業(yè)兼顧的創(chuàng)業(yè)者,您技術(shù)跟商業(yè)兼顧的思維最初來源于哪里?
牛昕宇:我本身就是從實驗室出來的,技術(shù)方面不能取代,同時作為一家公司的CEO,要將商業(yè)化作為公司的主要出發(fā)點,去想如何盈利,如何為客戶提供最佳方案并最終商業(yè)落地,技術(shù)如何配合,而我技術(shù)的背景讓我們在商業(yè)化的過程中能夠更好的做到兩者之間的結(jié)合。并且我們實驗室一直就有產(chǎn)業(yè)化的傳統(tǒng),有實驗室的師兄們?nèi)?chuàng)業(yè),我經(jīng)常會去跟他們聊,聊完之后會了解到很多,一些公司從外面看著都很光鮮,但真正的難點只有CEO自己清楚。
我記得一個感觸很深的事情,一個師兄當(dāng)時去了一個非常好的市場,云計算或者服務(wù)器市場,但這個市場太大,并且需求高度定制化,主要的芯片提供商是英特爾和英偉達,競爭非常激烈,很難做出一些差異化再去成長,這就讓新生的創(chuàng)業(yè)企業(yè)在其中很難成長。
我之前在高校做博士到后來留校,考慮的更多是學(xué)術(shù)上的成就,想在學(xué)術(shù)界生長,現(xiàn)在成為CEO,大家聚集到一起,更多的是想要實現(xiàn)個人的一些價值,獲得商業(yè)和成就感的回報。這些都讓我不斷的思考創(chuàng)業(yè)之后帶領(lǐng)這家公司往哪里走,大家聚到一家公司不僅僅是為了技術(shù)上的情懷和理想,也是想做一番事業(yè),這番事業(yè)最核心的問題就是讓市場在商業(yè)上認可并給我們提供良好的成長空間。所以我們在創(chuàng)業(yè)之初就把技術(shù)和商業(yè)化這兩點作為公司的重要兩端來抓,目前來看這個思路是可以帶我們走的更遠的。
雷鋒網(wǎng):我在網(wǎng)上看,好多說您有發(fā)明了專利7項,國際專利1項,可以跟我介紹一下是什么嗎?
牛昕宇:你提到的應(yīng)該是公司的部分專利,目前我們已經(jīng)累積了核心技術(shù)專利數(shù)十項,其中公司第一代底層芯片架構(gòu)和編譯器架構(gòu)是我作為核心人員開發(fā)的,目前我們有超過30名研發(fā)人員,學(xué)術(shù)的背景也很濃,會持續(xù)不斷的進行知識產(chǎn)權(quán)的積累。
除了深圳的辦公室外,我們在倫敦也有一個研發(fā)中心來支持我們的技術(shù)迭代和發(fā)展,上個月深圳人工智能應(yīng)用創(chuàng)新研究院揭牌,這些研發(fā)成果將持續(xù)為我們提供技術(shù)支持,所以在核心技術(shù)的突破以及專利布局上,公司的步驟還是比較穩(wěn)的。
雷鋒網(wǎng):國內(nèi)那些公司你有沒有感覺哪一個比較接近,可以作為你們對標對手的?
牛昕宇:我現(xiàn)在不會過多關(guān)注競爭對手在做什么,因為這無非兩個結(jié)果,如果覺得這個人的方向很對,會懷疑自己的方向,如果覺得別人的方向不對,也會讓自己自滿。這并沒有太大的價值,我更關(guān)注市場以及市場上大家都在用什么樣的方案,以及其中的價值。如果一定要說競爭對手,目前應(yīng)該是英偉達。
國內(nèi)這個領(lǐng)域的多數(shù)企業(yè)還在初創(chuàng)階段,更多的是在把蛋糕做大的階段,我們在接觸客戶的時候,也沒有遇到過在某個領(lǐng)域里客戶說有其他初創(chuàng)企業(yè)也跟他們談過,更多的是說現(xiàn)在的一些方案用的是英偉達,那用鯤云的產(chǎn)品有什么區(qū)別。但英偉達本身不提供方案,只提供板卡平臺,我們提供的一體化的解決方案就是我們的價值,或者給客戶提供的價值比較明顯。
本文轉(zhuǎn)載自:https://mp.weixin.qq.com/s/Fq0fx3eF_kbHCEU-2Ve68g
提供下一代計算平臺 加速人工智能落地
聯(lián)系我們:contact@corerain.com
銷售聯(lián)絡(luò):sales@corerain.com
媒體合作:media@corerain.com
展會合作:events@corerain.com
深圳 | 深圳市福田保稅區(qū)市花路長富金茂大廈14層(總部)
倫敦 | Kemp House,152-160 City Road, London, EC1V 2NX
上海 | 上海市閔行區(qū)龍湖虹橋天街A棟608A
濟南 | 山東省濟南市濟南市高新區(qū)旅游路8661號高科技創(chuàng)新園 5 號樓 9 層
西安 | 陜西省西安市碑林區(qū)大差市十字西南角1幢1單元10503室 (萬達新天地)
廣州 | 廣東省廣州市番禺區(qū)鐘村街鐘二村鐘漢路13號星光薈直播小鎮(zhèn)508A
杭州 | 杭州市江干區(qū)錢江新城城星路98號迪凱城星國際A座27樓