×
×

為什么選擇 Xilinx AI 方案?

2019-04-11 10:14:42 來源:嵌入式資訊精選
AI人工智能)推斷方案選擇的三大重點:
  • 低時延,低時延,低時延
  • 加速整體應用,而非單項加速
  • 匹配創新的速度,手慢無

1. 最低時延的 AI 推斷
 

在數據中心 AI 平臺上,對于低時延 AI 推斷,賽靈思能以最低時延的條件下提供最高吞吐量,在 GoogleNet V1 上進行的標準基準測試當中,賽靈思 Alveo U250 可為實時推斷提供比現有最快的 GPU 多出 4 倍的吞吐量。
 


而在邊緣 AI 平臺,賽靈思方案利用 CNN 剪枝技術獲得了 AI 推斷性能的領導地位,比如,可實現 5-50 倍的網絡性能優化;大幅增加 FPS 的前提下降低功耗。對于開發者來說,賽靈思支持 Tensorflow、Caffe 和 MXNet 等網絡,并用賽靈思提供的工具鏈將網絡部署到賽靈思的加速器上。
 


如下圖所示,傳統 CPU/GPU 只能在“高吞吐量”和“低時延”兩者選擇其一,如需低時延則無法滿足大批量規模的吞吐量;而一旦需要使用大批量規模實現吞吐量,在處理之前,器件必須等待所有輸入就緒之后再處理,從而導致高時延。而使用 FPGA,則可以采用小批量規模實現吞吐量,并在每個輸入就緒之時開始處理,從而降低時延。
 


2. 整體應用加速

通過將自定義加速器緊密耦合在動態架構芯片器件中,優化了 AI 推斷,并對其它對性能有關鍵影響的功能進行硬件加速。
 

提供端對端的應用性能,該性能比 GPU 等固定架構 AI 加速器高很多;因為使用 GPU,在沒有自定義硬件加速性能或效率的情況下,應用的其它性能關鍵功能須仍在軟件中運行。
 

 

3. 匹配 AI 創新的速度


人工智能模型正在迅速發展,新算法層出不窮,靈活應變的芯片支持基于特定區領域架構(DSA)的設計,從而無需更換芯片,即可開始優化最新的人工智能模型。從而最大限度地匹配創新的速度,為客戶贏得寶貴的 Time To Market。從下圖可以看出,專用芯片開發周期長,在對 DSA 的支持上非常不友好,無法滿足現階段 AI 創新的更迭速度。

 

  1. EETOP 官方微信

  2. 創芯大講堂 在線教育

  3. 創芯老字號 半導體快訊

相關文章

全部評論

  • 最新資訊
  • 最熱資訊
车险商城怎么赚钱 星悦云南麻将开挂器 互联网金融投资平台 股票平台有哪些 四方河南麻将最新版 快乐彩走势图浙江下 新股上市时间一览表 有什么棋牌游戏好玩 靠谱网赚 陕西麻将手机版下载 捕鱼王2客户端下载