為了AI能落地，英特爾真的很努力 

英特爾中國 2020-05-25 

2020年，在人工智能圈

有句調(diào)侃

行業(yè)大客戶都在忙著「 推理」

推理是啥？從哪里來的？

快速講一個層級關(guān)系

你就瞬間明白「推理」

在人工智能中所處的位置

↓

深度學習是機器學習的一個分支

而機器學習是人工智能的一個分支

三者層層包含

當下最熱的深度學習

可以讓機器模擬人類的思考方式

包含兩個步驟

1、訓練 2、推理

深度學習

1、什么是訓練？

訓練的最終目的是輸出一個算法模型

就是用海量數(shù)據(jù)，訓練出一個“大腦”

2、什么是推理？

有了腦子，就要活學活用

把這個“大腦”，安裝在實際應用場景中

來了新數(shù)據(jù)，拋給大腦判斷一下

輸出答案

推理離應用場景更近

甚至，推理無需訓練也能發(fā)生

在AI項目落地的進程中

訓練和推理的比例，正在發(fā)生改變

??

以前，訓練：推理=1:1

現(xiàn)在，訓練：推理=1:5

推理比重飆升

說明2個趨勢

↓

?說明人工智能的應用變多了

意味著，人工智能越來越 落地了

?說明人工智能的買單用戶發(fā)生改變

對訓練需求比較大的客戶

一般是算法公司、大型互聯(lián)網(wǎng)公司

這類公司是制造“算法模型”

賦能給行業(yè)客戶使用

對推理需求比較大的客戶

一般是「 傳統(tǒng)行業(yè)用戶」

比如公安、金融、醫(yī)療..

他們在意的是“應用層面”

有些甚至跳過訓練這個階段

直接購買算法模型

直接進行推理應用

比如

現(xiàn)在醫(yī)院AI落地最多的就是“讀片”

讀片的算法模型

已經(jīng)有專業(yè)算法公司做出來了

醫(yī)院客戶直接把這套算法模型軟件買過來

稍加優(yōu)化，然后推理應用

而不要從零開始，訓練模型

隨著推理落地應用范圍擴大

客戶越來越理智，也琢磨出了門道

前兩年，行業(yè)客戶嘗鮮人工智能項目時

往往會掉入了一個“大坑”

一上來

↓

然后再淺一腳深一腳地

把深度學習流程全跑一趟

整個過程經(jīng)歷九九八十難

數(shù)據(jù)不夠，硬件不熟，框架欠優(yōu)化，場景不具體

最終，訓出一個不成熟的模型

達不到“實戰(zhàn)”要求

真成了“實驗室”產(chǎn)品

后來，精明的客戶逐漸發(fā)現(xiàn)

在推理場景大行其道的時代

通用處理器拿過來做AI

效果更好，過渡更平滑

比如

新一代英特爾? 至強? 可擴展處理器

內(nèi)置了“AI加速”能力

尤其在推理領(lǐng)域，速度最高能提升30倍！

客戶不需要顛覆式重建

只需在自家原有的機房設(shè)備上

“升級”出一套「人工智能計算平臺」

他們采用的就是

英特爾? 人工智能全棧解決方案

為了讓AI能夠更好落地

英特爾?可算操碎了心

這套方案，包括

丨硬件“全家桶”：計算、存儲、網(wǎng)絡

丨軟件“全家桶”：深度學習框架、工具套件

這個“全家桶”，沒有短板

先看內(nèi)置深度學習加速的

新一代英特爾? 至強? 可擴展處理器

有四大系列

↓

2017和2019先后發(fā)布了兩代

今年即將推出第三代

AI加速能力進一步飆升

具體的加速黑科技，在這里

↓

利用矢量神經(jīng)網(wǎng)絡指令(VNNI)

提升卷積神經(jīng)網(wǎng)絡 (CNN)

和深度神經(jīng)網(wǎng)絡 (DNN) 的計算速度

在大規(guī)模推理應用時，計算速度更快

這個加速技術(shù)，說白了就是

一個指令，能完成以前三個指令的工作

在實時性應用推理場景中

速度變得更快

比如：醫(yī)療影像秒讀、語言翻譯瞬間

第二，英特爾? 傲騰? 技術(shù)

要想AI算得快，存儲不能拖后腿

傲騰一直是英特爾引以為傲的存儲技術(shù)

目前有兩大類產(chǎn)品

①傲騰持久內(nèi)存

②傲騰固態(tài)盤

即擁有逼近傳統(tǒng)內(nèi)存的時延和速度

又保持了硬盤的容量和非易失性

斷電后不需要重新加載數(shù)據(jù)

大幅提升數(shù)據(jù)密集型應用的性能

是深度學習訓練和推理的最佳伴侶

第三是，軟件、工具

英特爾為大力扶持AI發(fā)展

與各類主流深度學習框架合作

對框架進行全面優(yōu)化

性能因此得到不斷提升

客戶也可以選擇使用適合自身需求的深度學習框架做模型訓練，而無需購買或者設(shè)置不同的硬件基礎(chǔ)設(shè)施

工具套件也是滿滿誠意

Analytics Zoo工具包

可以快速高效進行零碎的數(shù)據(jù)預處理工作

↓

   OpenVINO?工具包

可快速部署模擬人類視覺的應用

人工智能落地，并不是一蹴而就的

推理能不能用好，至關(guān)重要

英特爾這種軟硬件協(xié)同優(yōu)化方案

處理器、存儲、框架、工具

極致算力，極致存儲，極致優(yōu)化

提供了一種捷徑，讓我們少走彎路

舉個例子，國內(nèi)AI獨角獸企業(yè)

第四范式

在Intel×第四范式AI聯(lián)合實驗室的

合作開發(fā)下，第四范式推出了

企業(yè)級軟硬一體AI算力平臺

4Paradigm SageOne Advanced

第四范式這套“AI算力平臺”

采用了軟硬優(yōu)化一體設(shè)計理念，包含：

第二代英特爾?至強?可擴展處理器

英特爾?傲騰?持久內(nèi)存

英特爾?FPGA以及第四范式自主研發(fā)的

人工智能平臺、分布式AI框架、自動深度學習算法

…….

這套軟硬一體AI算力平臺

與非一體化設(shè)計相比

性能提升幅度，最高可達10倍

第四范式通過其“1+N”的企業(yè)AI方案

為金融、零售、能源、醫(yī)療等8000多家客戶服務

比如用于預測3年后糖尿病患病概率

其準確率比臨床金標預測高2-3倍

目前在30多個省市500多家醫(yī)院投入使用

如今，各行各業(yè)都在應對全新AI挑戰(zhàn)

這其中，都有“Intel inside”

而且，他們都不需要徹底改造數(shù)據(jù)中心