EP01-兩場關鍵活動與極具野心的開源裝置

OVERVIEW
本期重點

• 2024 NVIDIA GTC 3 個觀察

• 2024 SXSW 最有啟發的三部演講

• Open Interpreter 極具野心的開源 AI 裝置

HOTNEWS
2024 NVIDIA GTC 3 個觀察

NVIDIA CEO Jensen Huang 在 March 18, 2024 於 NVDIA GTC 大會上表示，公司新推出的 Blackwell 計算平台是為應對即將到來的創造性人工智慧時代所設計的技術。這個平台將不僅能提供實時創造性 AI 的運行，也能支持具有百萬億參數的大型語言模型。此外，Huang 還介紹了 NIM（NVIDIA 微服務）、Omniverse Cloud API 等產品，以實現更多的 AI 部署和物理世界的集成。

其中有三個點是我認為值得持續觀察的

▊Blackwell 架構

新的 Blackwell 採用台積新版的 4 奈米 ( np ) 製程，因此電晶體數相較上一代並沒有顯著的提升 ( 80B > 104B )。但還是實現運算速度 5 倍的提升，從 5FLOPS 提升四倍到 20FLOPS。

是怎麼辦到的？

1. 並聯 : 透過結合兩個 B100 晶片合成一個 B200，物理性的增加晶片尺寸來突破限制

2. Transformer Engine² : 推出新的編譯器降低運算精度來減少運算量，例如原本會計算到小數點第 8 位，現在縮小到第 4 位

3. 串聯 : 新的 NVLink5 相較上一代頻寬增加 1 倍，串聯所有的 GPU 成為一個巨型處理器

也就是說，在製程沒有推進的時候，NVIDIA 本身的技術儲備就能實現一次跳躍式升級，在 AI 伺服器領域持續保持領先。

不敢想像當 3 或 2 奈米製程加入後會加速多少，到時可能反而要思考，還有什麼模型需要這麼大的算力？蛋白質?

▊ NIM microservice

NIM 是個我比較訝異的產品， 因為這基本上是在搶自己客戶的生意 ( 微軟、Google 、 亞馬遜 )，也就是雲服務的生意。現在除了閉源的模型無法在各大雲服務上使用，現有的開源模型基本上只要貼上 API KEYS 都可以隨 Call 隨用。

api_key="YOUR_NVIDIA_API_KEY"

現在大概只要顯示上面那行 code 就可以開始你的雲服務大業。

真正讓我疑惑的是，會有多少公司願意遷移自己使用已久的服務，搬遷到 NIM？ 從目前的訊息來看唯一的優勢僅有 NVIDIA 整合自家 CUDA 資料庫方便使用，未解之謎，留著日後觀察。

▊ Omniverse + 機器人

Omniverse 是多年前 NVIDIA 為企業所打造的數位孿生模擬系統，目的是在協助客戶在實際施工前能在模擬的世界中設計並測試。常見於工廠、物流、醫療、電力工廠等領域使用。

近幾年 Omniverse 逐漸將模擬領域延伸到機器視覺與機器人訓練，如自駕車與機器人行為等。

在 AI 模型訓練過程裡，有一個終極的訓練，叫做用自己生成出來的資料來訓練自己，英文叫做「synthetic data」。只要將模型的能力推升至此，往後再也不需要人類的幫助，就可以持續的增進，如同 Alpha Go 透過大量的自我對弈來提升能力。

NVIDIA 有意透過 Omniverse 成為所有機器人誕生前的幼兒園，展示的影片中可以看到，上百隻人形機器人蹣跚學步的在 Omniverse 的模擬器中學習如何走路，對比要在現實中佈署同樣的規模與場景，著實省下不少心力。

NVIDIA 內部的高級 AI 研究員也曾表示過，OpenAI 的 Sora 應該有使用遊戲引擎 Unreal 創建的級逼真 3D 場景來訓練模型。一來訓練可以 24/7 無間斷的供給，二來 3D 場景的物件都是獨立且可標註的，對 AI 訓練來說可是頂級的資料。

同時，NVIDIA 也提供自家的機器人通用平台架構 Jetson ，讓你可以在這個平台上設計自己的機器人。

Omniverse + Jetson ，將會是 NVIDIA 這家公司未來發展的重點，我認為是一個非常早期的階段，勢必需要時間才能看到成果。

▊ 延伸

上個月我很喜歡的 All In Podcast EP 167 有個 Part 正好在討論 NVIDIA 最近亮眼的財報 ，其中有幾個觀點是我不曾想過的，紀錄的同時也擷取幾張圖表分享給大家。

當我們看到財報時都只會想到我是不要進去買，現在投資還來不來的及等散戶心態，但這些頂級投資人看到的是

chamath : 在資本的世界，買入的伺服器最終必須轉換成營收，以NVIDIA 第四季伺服器銷售 220 億美金來看，這筆金額將必須創造出至少 440 億美金的收入 ( 以雲服務 50% 利潤來算 ) ，他會著眼誰有能力創造出這些營收。

friedberg : 這些伺服器購入成本對 Big tech 的會計太有利了，他們手上有幾千億的現金不知道該買什麼，這些伺服器的支出反而還可以記在資產上用 4-7 年去攤提，而不會被記入投資虧損。

接著他們繼續討論這銷售榮景能持續多久， David 分享這張 Cisco 與 NV 的股價走勢圖

davidsacks : 在網路爆發前，Cisco 因為建置網路基礎服務而推升股價，很多後進的公司最終都消失了，只有 Cisco 留下來。他們鋪設的大量光纖網路並沒有讓公司存活，但這些光纖網路最終成為後續網路服務的骨幹。

90 年代上傳一張自己的大頭照都會導致流量過載，若沒有大量的光纖的投資，讓頻寬費用下降，我們現有的網路世界根本不存在。

基礎設施最終將會成長成新的應用服務，我們正在 AI 產業成長的初期，未來受到這個基礎設施激勵的產品將比想像的多更多。

chamath : 想像 Intel 所翹動的經濟，沒有 Intel 的話我們現行的所有經濟活動將無從推進。以 Intel 目前 1880 億美金所翹動的經濟超過 3-5 萬億美金，若以同樣的比例，他期待看到用目前 5 萬億美金的經濟去推動 100 萬億美金的新經濟。

實在太喜歡們分享的洞見，給不是財經背景的自己理解投資人的觀點，以及他們對未來的看法。

我自己的 Take away 是:

• 用數據來預測，而不是用感覺

• 股價是既定事實，不能代表未來漲跌

• 既然是事實，分析這些銷售會建構什麼未來

• 若要成就預測的未來，什麼事是我們現在可以觀察的

• 持續觀察，直到符合自己的猜想

因此我的短期觀察將會是

• NV 伺服器業務將還是得力於製程推進與技術儲備受惠

• 哪家能發展新的 AI 服務的商業模式，來維持買進伺服器

• Big Tech 哪家會暫停購買伺服器

NIM 和 Omniverse 都還太早期，應是為未來 100萬億美金的新經濟所鋪墊。

以上就是本期的內容，感謝你的閱讀。

SHARING
2024 SXSW 最有啟發的三部演講

SXSW 兩週前在德州奧斯丁落幕，官方的 Youtube 頻道也陸陸續續上傳活動的演講。上周末花了點時間閱聽了幾場，下面三個演講是我收穫最多的。

稍微簡介一下 SXSW ，SXSW 自 1987 年開始，是一個融合電影、音樂和互動多媒體的盛大藝術盛會，吸引著全球的創作者、藝術家和科技愛好者。活動會以多天舉行，近年議題涵蓋越來越廣，也漸漸成為科技、商業以及頂尖意見領袖發表新發現與思潮的重要場域。

我擷取三個收穫最多的演講，主題涵蓋科技趨勢、人工智慧、創作者經濟以及個人如何在 AI 時代下生存。

1. Amy Webb ─ 2024 Emerging Tech Trend Report

影片連結

Amy Webb 為富比世評選全球 5 個最具影響力的女性之一，其主要領域為科技趨勢研究與策略思考。她的研究報告不僅涵蓋廣泛且揭示著未來，今年的 Report Keynote 她濃縮了 1000 多頁的報告分享對人工智慧的影響與預期，以及個人、企業、政府該如何面對未來的問題。

身為一個科技樂觀主義者，我本沒有預期這份報告會給我多大感受，但 Amy Webb 在報告最後預測的未來場景，卻是那麼令人悲觀與失望。

讓我意識到，現在或許還來的及讓更多人理解以及思考我們該如何避免走向令人失望的未來。

2. Jack Conte ─ Death of the Follower & the Future of Creativity on the Web

影片連結

Jack Conte 真是一個頂級演說者，這絕對是因為他在創作者領域打滾超過 15 年以上所散發的獨特魅力，作為早期從 Youtube 獲得巨大成功的創作者先驅，Jack Conte 一步步分享他所觀察到的創作者經濟的誕生、成長、衰敗以及再生，絕對是所有創作者必看的祖師爺級分享。

Oh 忘了提，Jack Conte 同時也是 Patreon 共同創辦人以及 CEO ，演講中也詳細的闡述他創辦 Patreon 的初心以及他認為創作者需要面對的未來是什麼。

3. John Maeda ─ Design in Tech Report 2024: Design Against AI

影片連結

John Maeda ，熟知互動設計與電腦視覺設計的朋友應該不陌生，開源軟體 "Processing" 的創造者之一，前 MIT Media Lab 教授。 他在和新創公司及大型公司高層一起工作的過程中發現 「設計」 這個詞包含了太多的東西，傳統的設計教育已無法滿足需求。 過去數年，他開始每年推出 “Design in Tech Report” 來嘗試闡述設計在各規模類型產業中的影響力。

與 Kevin Kelly 一樣，都是我從大學追隨至今的 Living Mentor ，他所揭示設計工作者應朝向 Computational Design 轉移也一直是我努力的目標。

引用一小段

❝ Computational Thinking Is Invaluable: Coding isn’t key — but understanding computation will help. Learn how to speak machine ❞

運算思維是無價的：會不會寫程式不是關鍵，但理解運算的原理會有幫助。學習如何讓機器說話

以上就是我精選的三場 SXSW 演講，希望對大家有幫助，也期待大家與我分享其他 SXSW 演講。

OPENSOURCE
Open Interpreter 極具野心的開源 AI 裝置

X 連結

99 鎂就能帶走的 AI 語音助手，又或者你是開發者，家裡剛好有 3D 列印機，下午就能自己打造這款裝置。

01 Light 是 Open Interpreter 推出的一個開源專案，他們認為開源、共享才能幫助更多人使用 AI 。

在介紹影片中觀察到，01 Light 可以透過連接伺服器或是自己的個人電腦來訪問 AI

，最令人驚豔的部分是他們開發的 AI 工作流能直接執行你所交辦的任務，像是上網查閱資料，或是傳送訊息，相當類似另一個 AI 裝置 Rabbit R1 所預想的操作行為 (Large action model)。

更酷的是，他能夠用語音教這個 AI 如何學會新的技能，試想一個可以用語音搭建的 Zapier or Make 工作流，但是加入 AI 在每個節點判斷該執行什麼任務，這個概念絕對是巨大的，能讓每個人用最小的成本來創建自己的 AI 工具。

▋以下是個人看法

去年底，Kevin Kelly 來台分享未來 5000 天的樣貌，他認為 Conversational Interface (對話式交互介面) 將會實現。我的看法與他一致，但我私心認為應該會是在一年過後才會出現。

Well 居然半年不到就看到開源的專案，且是軟硬整合的開源方案，若他的願景能實現，這影響絕對是巨大的，因為基本上會封死各大公司的 AI 產品開發路徑。

不管是硬體公司也好軟體公司也好，現階段最難克服的問題就是如何跟用戶收費。把那貴貴的運算費轉嫁給消費者，消費者當然也不是蠢蛋，當然是盡可能找免費的方案來滿足需求。

01 Light 的 AI 工作流若能實現，將解放大公司與個人技術不對等的地位，消費者會更挑剔的來檢視付費是否合理，當然中間還是有很多資訊不對等的地方可以產生價值，但長遠來看 01 Light 會設下一個基準線，就像 Meta 開源的 llma 2 是最基本要達到的能力。

玩具商應該會感到振奮，誰小時候不曾夢想有個可以陪自己對話的芭比、機器人或是皮卡丘。