CUDA與GPU一起推動(dòng)了人工智能

時(shí)間：2023-05-24作者：深圳市駿裕隆智能系統(tǒng)有限公司瀏覽：568

人工智能在沉淀發(fā)展了幾年之后，ChatGPT“橫空出世”，一經(jīng)推出，就受到了全世界的高度關(guān)注和熱捧。然而，在高度智能的背后，是巨大的成本和算力投入，這與企業(yè)的ROI和**節(jié)能減排的目標(biāo)是矛盾的。這時(shí)，NVIDIA把早已研發(fā)的秘密——DPU和DOCA推出，它們能夠大大縮減人工智能計(jì)算的成本，提升計(jì)算效能，解決當(dāng)下痛點(diǎn)。或許，DPU將是NVIDIA對(duì)高速計(jì)算的*三次變革，這一次，屬于“預(yù)見(jiàn)性變革”。




有了DOCA，對(duì)于客戶來(lái)說(shuō)，這意味著在目前 BlueField DPU上運(yùn)行的應(yīng)用程序和數(shù)據(jù)中心基礎(chǔ)設(shè)施，在不久的未來(lái)將能不加修改地加速運(yùn)行在 BlueField-3 DPU上。

DOCA，會(huì)是下一個(gè)CUDA嗎？

NVIDIA介紹DOCA是“為DPU注入了靈魂”，實(shí)際上DOCA是NVIDIA針對(duì)DPU開(kāi)發(fā)者提供的軟件開(kāi)發(fā)框架，是一個(gè)一站式平臺(tái)并有活躍的社區(qū)。說(shuō)起NVIDIA的開(kāi)發(fā)平臺(tái)和社區(qū)，工程師們就會(huì)想起十多年前NVIDIA 舉辦的**次CUDA活動(dòng)。

CUDA較初的使命與

2006年，NVIDIA CUDA（Compute Unified Device Architecture）架構(gòu)問(wèn)世，與此同時(shí)，NVIDIA圖形處理器出貨量達(dá)到5億臺(tái)。



2007年，在美國(guó)加州圣克拉拉市，NVIDIA舉辦了**屆CUDA（Compute Unified Device Architecture）技術(shù)大會(huì)，這是一種并行計(jì)算平臺(tái)和編程模型，可用于利用NVIDIA GPU的強(qiáng)大計(jì)算能力。CUDA使開(kāi)發(fā)人員能夠使用C語(yǔ)言，C ++，F(xiàn)ortran等編程語(yǔ)言來(lái)編寫GPU加速的應(yīng)用程序。

在**屆CUDA技術(shù)大會(huì)上，NVIDIA展示了許多基于CUDA的應(yīng)用程序，包括物理模擬，圖像處理和生物信息學(xué)。此外，NVIDIA還介紹了CUDA的架構(gòu)和編程模型，并提供了一些實(shí)用的編程技巧和較佳實(shí)踐。

自那時(shí)以來(lái)，CUDA已成為一種廣泛使用的GPU編程平臺(tái)和編程模型，用于各種科學(xué)，工程和商業(yè)應(yīng)用程序。

2008年NVIDIA推出CUDA SDK2.0版本，大幅提升了CUDA的使用范圍。使得CUDA技術(shù)愈發(fā)成熟。

2009年，NVIDIA在**屆 GPU 技術(shù)大會(huì)上發(fā)布了 FERMI 架構(gòu)，這是新一代CUDA GPU架構(gòu)。

2011年，*大學(xué)微電子研究所副教授鄧仰東在國(guó)內(nèi)正式全面介紹CUDA，鄧教授也成為國(guó)內(nèi)系統(tǒng)化講授CUDA技術(shù)的**人。

但即使如此，當(dāng)時(shí)的CUDA也遠(yuǎn)遠(yuǎn)沒(méi)有現(xiàn)在這么火熱，因?yàn)?，那時(shí)的CUDA主要還是用于GPU圖形處理器的加速開(kāi)發(fā)，人工智能還只是在很小的范圍內(nèi)萌芽，遠(yuǎn)沒(méi)有出現(xiàn)當(dāng)今各行各業(yè)AI化和ChatGPT帶起的火熱浪潮。

截止2023年初，以CUDA開(kāi)發(fā)為主的NVIDIA開(kāi)發(fā)者社區(qū)，中國(guó)注冊(cè)開(kāi)發(fā)者人數(shù)**過(guò)88**，**總的注冊(cè)開(kāi)發(fā)者人數(shù)400多萬(wàn)，占**過(guò)20%的比例。

當(dāng)前，CUDA社區(qū)的開(kāi)發(fā)者大部分都是在進(jìn)行人工智能的設(shè)計(jì)與研發(fā)，處于**較良好的人工智能工程師行列。

DOCA到底是什么？

DOCA是NVIDIA提供的免費(fèi)的用于BlueField DPU的軟件開(kāi)發(fā)框架，可以卸載、加速和隔離基礎(chǔ)設(shè)施操作，支持**大規(guī)模、企業(yè)、**級(jí)計(jì)算和**融合基礎(chǔ)設(shè)施，為BlueField DPU 硬件迭代提供軟件兼容性。



DOCA提供了SDK和RUNTIME組件



同時(shí)，DOCA提供了服務(wù)組件，可以加速數(shù)據(jù)中心服務(wù)(例如: 遙測(cè))，簡(jiǎn)化部署，從NGC目錄獲取并快速啟動(dòng)，在各種環(huán)境中移植，通過(guò)內(nèi)置的 DOCA Runtime 提供基礎(chǔ)服務(wù)容器等等。




DOCA是NVIDIA為其DPU打造的可編程軟件平臺(tái)：



如果要用一句話來(lái)描述DOCA的話，那就是：DOCA之于DPU，正如 CUDA 之于 GPU。

DOCA，或締造下一個(gè)王者

CUDA當(dāng)時(shí)推出來(lái)僅僅是為了進(jìn)行GPU圖形加速，以給游戲和圖形工作程序較好的體驗(yàn)。但是，隨著GPU芯片在深度學(xué)習(xí)等人工智能領(lǐng)域的應(yīng)用，CUDA一躍成為了較*的技術(shù)開(kāi)發(fā)平臺(tái)，目前，CUDA已經(jīng)是**較火熱也較有**的編程平臺(tái)之一。

DOCA會(huì)不會(huì)成為下一個(gè)王者呢？

隨著GPU硬件與人工智能進(jìn)入深水區(qū)，CUDA也不可避免的要進(jìn)行二次深度沉淀，同時(shí)，基于CUDA的開(kāi)發(fā)也已經(jīng)很成熟。人工智能的硬件發(fā)展也處于一個(gè)亟待突破的瓶頸期。

DOCA是為了較快較的提升人工智能的效益與性能，能夠解決當(dāng)前較重要的成本投入與性能瓶頸問(wèn)題，也就是解決人工智能算力與性能的痛點(diǎn)。這也是目前**微軟、谷歌、亞馬遜、百度等成員和人工智能細(xì)分垂直領(lǐng)域的企業(yè)在人工智能開(kāi)拓方面的痛點(diǎn)。

然而，基于AI本身的特點(diǎn)，譬如ChatGPT就能自行進(jìn)行編程，DOCA會(huì)不會(huì)很快就被AI所取代呢？

筆者認(rèn)為，DOCA在目前階段還不可能被替代，因?yàn)樗e累的數(shù)據(jù)和程序不夠，無(wú)法滿足AI學(xué)習(xí)達(dá)到“*成才”的效果。

未來(lái)，DOCA之于DPU，或許正如CUDA之于GPU一樣，會(huì)締造下一個(gè)編程王者。





深圳市駿裕隆智能系統(tǒng)有限公司專注于防尾隨閘機(jī),二維碼檢票,3D人臉識(shí)別,訪客速通門,AB門禁,虹膜考勤,樓宇對(duì)講門禁,勞務(wù)實(shí)名制門禁等, 歡迎致電 13530371926

• 詞條

  詞條說(shuō)明

• 公司業(yè)務(wù)發(fā)展需要，面向社會(huì)招聘千里馬

  駿裕隆公司因業(yè)務(wù)發(fā)展需要，長(zhǎng)期招聘系統(tǒng)開(kāi)發(fā)人才（軟件、硬件工程師、技術(shù)工程師）、事業(yè)拓展部總經(jīng)理以及駐外項(xiàng)目經(jīng)理，歡迎社會(huì)有志之士踴躍*，待遇面議

• 二維碼檢票閘機(jī)怎么檢票

  二維碼檢票閘機(jī)怎么檢票檢票閘機(jī)一般主要用于地鐵站、高鐵站、火車站、機(jī)場(chǎng)的閘機(jī)設(shè)備，一般功能就是通過(guò)掃描二維碼、刷人臉、證件驗(yàn)證通行的。那么二維碼檢票閘機(jī)怎么檢票？相信不少人是有疑問(wèn)的，今天小編就跟大家解答一下！1、站在檢票閘機(jī)警戒安全線外排隊(duì)等候，**通行人員通過(guò)掃碼或者刷臉等，因不同場(chǎng)合識(shí)別方式不一樣；2、行走至閘機(jī)安全線內(nèi)，有的會(huì)設(shè)有腳印參考位置，注視自動(dòng)閘機(jī)ipad屏幕上方進(jìn)行拍照辨識(shí)；3、

• AB門禁廠家：銀行聯(lián)動(dòng)門怎么實(shí)現(xiàn)AB互鎖管理的門禁系統(tǒng)

  銀行聯(lián)動(dòng)門怎么實(shí)現(xiàn)AB互鎖管理的門禁系統(tǒng)隨著經(jīng)濟(jì)水平和科學(xué)技術(shù)的飛快發(fā)展,帶來(lái)了整個(gè)社會(huì)生活水平的提高,與此相伴的是各種危害到社會(huì)安定的手段也在提高。針對(duì)銀行金庫(kù)、儲(chǔ)蓄所入室劫 ** 案的頻繁發(fā)生,由此也引導(dǎo)了安全防范手段的進(jìn)步。銀行搶劫案的發(fā)生,通常是不法分子采取暴力手段,通過(guò)挾持、逼迫銀行工作人員的手段或直接采取爆破等惡劣手段對(duì)銀行營(yíng)業(yè)廳及金庫(kù)進(jìn)行搶劫,從而導(dǎo)致銀行經(jīng)濟(jì)受損、嚴(yán)重威脅著銀行職員

• 駿裕隆動(dòng)態(tài)人臉識(shí)別技術(shù)應(yīng)用

  1、 產(chǎn)品概述 隨著高科技的蓬勃發(fā)展，人臉識(shí)別技術(shù)已經(jīng)作為身份識(shí)別和視頻監(jiān)控等領(lǐng)域的新增值點(diǎn)和應(yīng)用點(diǎn)；在身份核驗(yàn)、出入口管理、通道管理、卡口管理、智能安防、智能家居、人證核驗(yàn)等行業(yè)發(fā)揮越來(lái)越重要的作用。 人臉識(shí)別技術(shù)，是利用計(jì)算機(jī)圖像分析、模型理論、人工智能及模式識(shí)別技術(shù)的非接觸性**模式識(shí)別技術(shù)的非接觸性**模式識(shí)別技術(shù)，其可完成從復(fù)雜的圖像場(chǎng)景中檢測(cè)、檢出特征人臉信息，并進(jìn)行匹配識(shí)別的智