AI 時代的摩爾定律?黃氏定律靠的是自身技術力將 AI 性能年年加倍
作者 雷鋒網 | 發布日期 2020 年 12 月 16 日 8:45
1965 年,時任快捷半導體公司工程師,也是後來英特爾(Intel)的創始人之一的戈登·摩爾(Gordon Moore)提出了摩爾定律(Moore’s law),預測積體電路上可以容納的晶體管數目大約每經過 24 個月便會增加 1 倍。
後來廣為人知的每 18 個月晶片性能將提高 1 倍的說法是由 Intel CEO 大衛·豪斯(David House)提出。過去的半個多世紀,半導體行業按照摩爾定律發展,並驅動了一系列的科技創新。
有意思的是,在摩爾定律放緩的當下,以全球另一大晶片公司 NVIDIA 創始黃仁勳(Jensen Huang)名字命名的定律——「黃氏定律(Huang’s Law)」對 AI 性能的提升作出預測,預測 GPU 將推動 AI 性能實現逐年翻倍。
Intel 提出了摩爾定律,也是過去幾十年最成功的晶片公司之一。NVIDIA 作為當下最炙手可熱的 AI 晶片公司之一,提出黃氏定律是否也意味著其將引領未來幾十年晶片行業的發展?
AI 性能將逐年翻倍
受疫情影響,一年一度展示 NVIDIA 最新技術、產品和中國合作夥伴成果的 GTC China 改為線上舉行,黃仁勳缺席今年的主題演講,由 NVIDIA 首席科學家兼研究院副總裁 Bill Dally 進行分享。Bill Dally 是全球著名的電腦科學家,擁有 120 多項專利,在 2009 年加入 NVIDIA 之前,曾任史丹佛大學電腦科學系主任。加入 NVIDIA 之後,Dally 曾負責 NVIDIA 在 AI、光線追蹤和高速互連領域的相關研究。
在 GTC China 2020 演講中,Dally 稱:「如果我們真想提高電腦性能,黃氏定律就是一項重要指標,且在可預見的未來都將一直適用。」
Dally 用三個項目說明黃氏定律將如何得以實現。首先是為了實現超高能效加速器的 MAGNet 工具。NVIDIA 稱,MAGNet 生成的 AI 推理加速器在模擬測試中,能夠達到每瓦 100 tera ops 的推理能力,比目前的商用晶片高出一個數量級。
之所以能夠實現數量級的性能提升,主要是因為 MAGNet 採用了一系列新技術來協調並控制通過設備的訊息流,最大限度地減少數據傳輸。數據搬運是 AI 晶片最耗能的環節已經是當今業界的共識,這一研究模型以模組化實現能夠實現靈活擴展。
Dally 帶領的 200 人的研究團隊的另一個研究項目目標是以更快速的光鏈路取代現有系統內的電氣鏈路。Dally 說:「我們可以將連接 GPU 的 NVLink 速度提高一倍,也許還會再翻番,但電信號最終會消耗殆盡。」
這個項目是 NVIDIA 與哥倫比亞大學的研究團隊合作,探討如何利用電信供應商在其核心網絡中所採用的技術,通過一條光纖來傳輸數十路信號。據悉,這種名為「密集波分複用」的技術,有望在僅一毫米大小的晶片上實現 Tb/s 級數據的傳輸,是如今連網密度的 10 倍以上。
Dally 在演講中舉例展示了一個未來將搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。這意味著,利用「密集波分複用」技術,不僅可以實現更大的吞吐量,光鏈路也有助於打造更為密集的系統。
想要發揮光鏈路的全部潛能,還需要相應的軟件,這也是 Dally 分享的第三個項目——全新程式語言系統原型 Legate。Legate 將一種新的編程速記融入了加速軟件庫和高級運行時環境 Legion,借助 Legate,開發者可在任何規模的系統上運行針對單一 GPU 編寫的程序——甚至適用於諸如 Selene 等搭載數千個 GPU 的巨型超級電腦。
Dally 稱 Legate 正在美國國家實驗室接受測試。
MAGNet、以光鏈路取代現有系統內的電氣鏈路以及 Legate 是成功實現黃氏定律的關鍵,但 GPU 的成功才是基礎。因此,GPU 當下的成功以及未來的演進都尤其重要。
GPU 是黃氏定律的基礎
今年 5 月,NVIDIA 發布了面積高達 826 平方毫米,整合了 540 億個晶體管的 7 奈米全新安培(Ampere)架構 GPU A100。相比 Volta 架構的 GPU 能夠實現 20 倍的性能提升,並可以同時滿足 AI 訓練和推理的需求。
憑藉更高精度的第三代 Tensor Core 核心,A100 GPU AI 性能相比上一代有明顯提升,此前報導,在 7 月的第三個版本 MLPerf Training v0.7 基準測試(Benchmark)結果中,NVIDIA 的 DGX SuperPOD 系統在性能上開創了 8 個全新里程碑,共打破 16 項紀錄。
另外,在 10 月出爐的 MLPerf Inference v0.7 結果中,A100 Tensor Core GPU 在雲端推理的基準測試性能是最先進 Intel CPU 的 237 倍。
更強大的 A100 GPU 迅速被多個大客戶採用,迄今為止,阿里雲、百度智能雲、滴滴雲、騰訊雲等眾多中國雲服務提供商推出搭載了 NVIDIA A100 的多款雲服務及 GPU 實例,包括圖像辨識、語音辨識,以及計算流體動力學、計算金融學、分子動力學等快速增長的高性能計算場景。
另外,新華三、浪潮、聯想、寧暢等系統製造商等也選擇了最新發布的 A100 PCIe 版本以及 NVIDIA A100 80GB GPU,為超大數據中心提供兼具超強性能與靈活的 AI 加速系統。
Dally 在演講中提到:「經過幾代人的努力,NVIDIA 的產品將通過基於物理渲染的路徑追蹤技術,即時生成令人驚豔的圖像,並能夠借助 AI 構建整個場景。」
與光鏈路取代現有系統內的電氣鏈路需要軟硬體的匹配一樣,NVIDIA GPU 軟硬體的結合才能應對更多 AI 應用場景苛刻的挑戰。
Dally 在此次的 GTC China上首次公開展示了 NVIDIA 對話式 AI 框架 Jarvis 與 GauGAN 的組合。GauGAN 利用生成式對抗網路,只需簡略構圖,就能創建美麗的風景圖。演示中,用戶可通過語音指令,即時生成像照片一樣栩栩如生的畫作。
GPU 是黃氏定律的基礎,而能否實現並延續黃氏定律,僅靠少數的大公司顯然不夠,還需要眾多的合作夥伴激發對 AI 算力的需求和更多創新。
黃氏定律能帶來什麼?
NVIDIA 已經在構建 AI 生態,並在 GTC China 上展示了 NVIDIA 初創加速計劃從 100 多家 AI 初創公司中脫穎而出的 12 家公司,這些公司涵蓋會話人工智慧、智慧醫療 / 零售、消費者網路 / 行業應用、深度學習應用 / 加速數據科學、自主機器 / IoT / 工業製造、自動駕駛汽車。
智慧語音正在改變我們的生活。會話人工智慧的深思維提供的是離線智慧語音解決方案,在佔有很少空間的前提下實現智慧交互,語音合成和語音辨識保證毫秒級響應。深聲科技基於 NVIDIA 的產品研發高質量中英文語音合成、聲音定制、聲音複製等語音 AI 技術。
對於行業應用而言,星雲 Clustar 利用 NVIDIA GPU 和 DGX 工作站,能夠大幅提升模型預測精確度以及解決方案處理性能,讓傳統行業的 AI 升級成本更低、效率更高。
摩爾定律的成功帶來了新的時代,黃氏定律能否成功仍需時間給我們答案。但這一定律的提出對 AI 性能的提升給出了明確的預測,並且 NVIDIA 正在通過硬體、軟體的提升和創新,努力實現黃氏定律,同時藉生態的打造想要更深遠的影響 AI 發展。
黃氏定律值得我們期待。
附圖:▲ NVIDIA GPU 助推 AI 推理性能每年提升 1 倍以上。(Source:影片截圖)
▲NVIDIA 首席科學家兼研究院副總裁 Bill Dally。
▲ 搭載 160 多個 GPU 的 NVIDIA DGX 系統模型。
資料來源:https://technews.tw/2020/12/16/huang-law-predicts-that-ai-performance-will-double-every-year/?fbclid=IwAR1vXHWAGt_b8nDRW6VUqzpAINX_n_DzJ0KwJvdBnl18s8Q1A3Thk7hgBoI
「渲染軟體意思」的推薦目錄:
- 關於渲染軟體意思 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
- 關於渲染軟體意思 在 Joe's investment Facebook 的最讚貼文
- 關於渲染軟體意思 在 [譯詞] 轉載〈Render 翻譯〉 - 看板Translate-CS - 批踢踢實業坊 的評價
- 關於渲染軟體意思 在 Rendering 的最佳中文翻譯? (可加分) - Mobile01 的評價
- 關於渲染軟體意思 在 #C4DQuickTip 19 : 什麼是渲染? - YouTube 的評價
- 關於渲染軟體意思 在 3d rendering電腦-在PTT/IG/網紅社群上服務品牌流行穿搭 的評價
- 關於渲染軟體意思 在 3d渲染軟體免費的評價費用和推薦,FACEBOOK、EDU.TW 的評價
- 關於渲染軟體意思 在 Blender台灣使用者小聚| 想請問幾個關於【輸出渲染圖檔太大 ... 的評價
渲染軟體意思 在 Joe's investment Facebook 的最讚貼文
先不急著去思考創新,培養自己的獨立思考會更優先重要,Joe到中學以前都還在玩樂高,樂高至今還收藏在床下,很多可以訓練青年和幼兒自我思考的玩具其實不少,有些遊戲和玩具可以帶給我們一些創意思維或經營概念,現在Joe最喜歡的是桌上遊戲。
有興趣的人或許可以試試看,例如《1830:The Northeast US》或《汽車傳奇》等商業遊戲
http://big5.cntv.cn/…/games.c…/2011/news_10_0831/45094.shtml
內文
這個時代傳授創新的報刊雜誌不計其數,但真正有用的鳳毛麟角,但對這個問題的追問卻從未停止:創新到底從何而來?
和所有的聰明人一樣,你不斷尋找著這個答案,閱讀 Elon Musk,賈伯斯和比爾蓋茲等人的創業故事,沉醉在 Twitter 和 Facebook 的神話裡;甚至還有一個專門的產業,研究創新到底從何而來。但是,這種方法沒有解決一個致命的問題,你需要在正確的地方尋找創新。所有矽谷發生的傳奇都只是創新的結果,他們或許可以解釋這些人為什麼成功,但卻無法教會我們如何創新。想要真正明白創新從何而來,我們不能把目光局限在創新的結果,而應該回到一切開始的地方,我們的童年。
我們需要明白,創新不會在一夜之間發生。它是一系列有序事件的結果,在我四五歲的時候,我的父母就開始給我玩樂高。對我來說,他們不僅僅簡單的塑料積木,他們為我拓展了無盡的未來,兒童以及青少年的頭腦是非常具有可塑性的,這時候是培養他們的關鍵時刻。培養什麼品質?空間的意識、想像力以及好奇心。這些是樂高積木在我們幼小的心靈中慢慢滲透進去的。你可以用樂高積木在腦海中創造你想到的任何東西,有時甚至不需要把積木拿在手裡,而完全憑藉你的想像。
這些就是我六、七歲的時候在學校幹的事情,上課期間,我會完全沉醉,思考的問題是:我如何造一架飛機?然後,我就開始在腦海中努力搜尋家中那個「大桶」裡的每一塊積木。接著,我會利用我的空間想像力在腦中構建一架飛機並努力記住,這樣我回到家的時候就知道怎麼搭了,每次,我都會和我的樂高玩上的幾個小時,這也造就了我敏銳的空間意識和想像力。我能在腦海中就設計出最直觀的用戶界面;我能想像出一個軟體的外觀和使用起來的感覺,如何設計動畫效果,畫面是否流暢,諸如此類。這一切對我來說都太過自然,有時候難以解釋,這都是樂高帶給我的,樂高不斷在全新領域帶給我們驚喜。比如視頻中這個有趣的形象,叫做樂高機器人(Lego Mindstorms)。它其實是一組集合了可編程的樂高積木、傳感器、馬達等的套件,並有自己的編程語言。對我來說,這就是創新,2007年,在我12歲的時候,我得到了這樣一套東西。長話短說,樂高機器人把我帶進了編程的世界。他帶我認識了Arduino(一種開源的微控制器),而Arduino又帶我認識了iOS的編程,然後,就有了現在的我。
Facebook也不是一夜之間創造出來的,Mark Zuckerberg花了八年才成功,如果你把創新當做一系列事件的結果,那麼你就會意識到,它與之前的理解已經大不相同。舉個例子,對於每一位想創造下一個Facebook的創業者,他們需要明白一個簡單的道理:Facebook並不是Zuckerberg的第一個項目。
媒體把Facebook描述成扎克伯格在宿舍花了一個晚上就完成的簡單事情,好像每個人都能做到一樣。這是完全錯誤的!創新是一系列事件的結果,是一個很長的時間段。事實上,Zuckerberg出於興趣,花了8年的時間和精力在以下幾個項目上,才最終導致了Facebook的成功。
1. Synapse:一種可以了解你的喜好的音樂播放器。後來 AOL 和微軟有意收購,但被他拒絕了。
2. CourseMatch:一個根據朋友選課情況讓用戶參考選課的程序。
3. Facemash:為女生的外貌評分的網站,由於過於火爆而使得哈佛的網絡癱瘓。
4. Facebook:一個讓用戶與他們朋友連接的網站。
如果你覺得Facebook的成功是一夜之間的,那麼請你再仔細想想,其實Facebook 的成功是一系列事件的結果。它始於Zuckerberg學會編程,每個項目都是他創造新奇事物的嘗試,只是到了第四次嘗試的時候,他創造了所有人都喜愛的東西,這才是創新,創新不能一蹴而就,你必須先把 A,B,C 都做好,才有可能再做好D。
遺憾的是,大多數創業者無法明白這一點。媒體只會渲染最終的產品,而不是這些產品是如何一步步成型的。所以,如果你只會從最終產品學習創新,那你永遠也無法理解樂高。
這就是我在本文最想表達的2個觀點,儘管效果也許20年才能體現,但是我們必須感謝樂高讓這個世界更加美好。如果不是樂高在我們童年時種下的想像力和好奇心,這個世界會缺少很多創新。下一次如果你看到一個小朋友,記得送點樂高,有一天你會看回報的,創新是一系列有序事件的結果。
你無法在沒有Synapse、CourseMatch和Facemash的基礎上憑空創造Facebook。如果你要懂得創新,先懂得樂高吧。
http://techorange.com/…/the-lego-theory-where-innovation-c…/
渲染軟體意思 在 Rendering 的最佳中文翻譯? (可加分) - Mobile01 的推薦與評價
Rendering 的最佳中文翻譯? (可加分)現在流行翻作「渲染」(對岸用語,極易誤解) 或「彩現」(香港用語?,不太合意),台灣早期則常說「跑圖、算圖」, ... ... <看更多>
渲染軟體意思 在 #C4DQuickTip 19 : 什麼是渲染? - YouTube 的推薦與評價
![影片讀取中](/images/youtube.png)
欲想獲得完整教學內容,請鎖定宙盟資訊教育訓練中心教育訓練: https://www.syzygia.com.tw/education_class_all.html 宙盟資訊: 02-2659-2525#MAXON ... ... <看更多>
渲染軟體意思 在 [譯詞] 轉載〈Render 翻譯〉 - 看板Translate-CS - 批踢踢實業坊 的推薦與評價
原文網址: https://breezymove.blogspot.tw/2013/12/render.html
全文轉載已徵得原作者同意
本文以 markdown 語法撰寫
______________________________________________________________________
3D 軟體中有個著名詞語叫做 Render。
目前有各種翻譯,最常見的「算圖」,
次常見但越來越普遍的「渲染」,
比較少見的「算繪」及「彩現」。
我就來一一討論翻譯是否適切。
首先,得了解什麼是 Render 才有辦法討論下去。
以電腦圖形領域來說,Wikipedia 上的 Render (Computer Graphic) 條目
一開頭便寫到:
> Rendering is the process of generating an image from a [model]
> (or models in what collectively could be called a scene file),
> by means of computer programs.
[model]: https://en.wikipedia.org/wiki/3D_model
簡單翻成中文,Render 就是指透過電腦程式製作出模型
(或是放在一種整體來說稱為「場景檔」內的眾模型) 影像的一道程序。
這道程序主要有兩個步驟,
一是電腦計算模型的材質紋理如何與光照、光影著色法...
等設置交互影響後結果為何,
二就是將成果以像素一點一點地呈現成影像給使用者。
那麼口語中呢?Oxford dictionary 中提到,
Render 作動詞用時,其實是指藝術的「表現手法」:
> represent or depict artistically:
> the eyes and the cheeks are exceptionally well rendered
> 1. perform (a piece of music):a soprano solo reverently
> rendered by Linda Howie
> 2. translate:the phrase was **rendered into** English
> 3. Computing process (an outline image) using colour and shading
> in order to make it appear solid and three-dimensional:
> he is forced to render images by intermixing pixels
> of a few basic colours
不管是繪畫領域,如描繪圖畫;
音樂領域,如表演樂曲;
或是文學領域,如語言翻譯;
抑或是電腦程序,如使用色彩與光影著色表現使其結果看來如實且具體,
都可以用 Render 一詞。
有了這些資料,我們大致上就可以約略了解 Render 的意義,
著重於指稱「表現方式」。
由於中文沒有這種汎用於指稱表現手法的詞語,
因此翻譯此詞語時不能執意直譯,
而是各個領域必須找出自己對應的翻譯方式。
音樂領域,或許是「演奏」;
翻譯方面,大約就是「翻譯」;
電腦圖形這塊呢?就是我們現在所要討論的主題。
來看看「算圖」好了。
確實,Render 在 3D 領域幾乎就是算成圖給使用者。
再來談談「渲染」。渲染這翻譯可爭議大了,
第一因為它原是指國畫的水墨表現技法,後來文學上有了許多衍生意。
例如「過度渲染」、「大肆渲染」,
就是以渲染技法使用拙劣而造成反效果而延伸出來;
再來「情節的渲染與人物的刻寫」、
「店裡的擺設、燈光、音樂,渲染出獨特的甜蜜氣氛」的渲染,
則是以渲染技法表現得當為比喻。
因此,這樣一個多重意義的中文字眼,
搭上 Render 著實不妥當,
除了極可能被誤解成水墨表現外,
更有負面的「誇大的過度表現」之意。
至於以渲染技法作 3D 領域中 Render 的比喻,
或許真有點藝術味在裡頭,
但這裡的意義卻明顯非指渲、非指染。
如果把「渲染」二字套進去 Wikipedia 的解釋中,如下:
渲染就是指透過電腦程式製作出模型影像的一道程序。
一般讀者腦中馬上就會浮現疑問,
「什麼?渲染是電腦程序?是我看錯了嗎?」,
因為在大眾的了解中,渲染一詞就是水墨技法,怎麼會是這道程序。
重新定義既有中文詞彙之意,或許很酷,但卻畸型。
找出更能貼切表達出 Render 此刻意義的翻譯才是翻譯者該走的路,
這也就是翻譯者職責所在。
至於「算繪」,沒錯,這領域中 Render 就是算、繪,直覺易瞭。
繪一詞更表達出 Render 類似藝術的描繪,
只不過不是真的繪畫,而是改用算的。
那麼比起算圖呢?
算繪一詞更有「動作」感,也就更有處理這道程序的味道。
拿 Wikipedia 中一句話作實例來說,
「An example of a modern simulation which renders frames in real time.」
如果套用算繪作譯詞,中文粗略講如下:
一則實時算繪框幀的現代模擬範例。
姑且不論其他細節,就拿 renders frames 與算繪框幀來看,
「算繪」的角色扮演得很成功。
那麼以算圖作譯詞,粗略講如下:
一則以實時方式對框幀算圖的現代模擬範例。
由於「算圖」已經把「圖」寫死在翻譯中,
所以不能算「框幀」成圖,只能對框幀算圖。
所以個人認為算圖一詞沒有「算繪」二字來得靈活好用,
直白的文字更沒有算繪來得藝術。
最後,說到「彩現」。
彩現大約就是把「表現」作修改,
賦予「表現出色彩」的意涵,
或是「色彩現身」的感覺。
當然,這麼說也沒有錯,確實 Render 能表現出色彩,
不過彩現並無法讓讀者瞭解 Render 的過程。
雖說黑白也是色彩的一種,
但講「彩現」或許也給予讀者不必要的純色彩暗示。
再來,彩現聽起來與「踩線」相同,
因此不普及此詞語的現今社會,當你提到彩現如
「跟你說喔,我昨天彩現後整個感覺都不對了...」,
可能對方以為你在講「踩線」,馬上感興趣地期待有什麼八卦好聽。
如果那時講算繪或算圖就沒有此種困擾,
即使對方沒有任何背景,都可以馬上瞭解你所講的,
大約就是演算後繪製成影像或把東西算成圖的概念,第一次就上手。
總結以上,個人認為最佳的翻譯是「算繪」,
依次是「算圖」,「彩現」,
最後是最好別用的「渲染」。
Wikipedia 條目:
https://en.wikipedia.org/wiki/Rendering_%28computer_graphics%29
Oxford dictionaries:
https://www.oxforddictionaries.com/definition/english/render
--
錢鍾書: 說出來的話
https://www.psmonkey.org
比不上不說出來的話
Java 版 cookcomic 版
只影射著說不出來的話
and more......
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.129.129.199
... <看更多>