EP12 - 隱私。AI 時代最看不見的力量

WWDC | Apple Intelligence | Privacy | 財哥專業機器人

歡迎來到降噪,一起消除雜訊洞察價值

OVERVIEW
本期重點

  • Apple Intelligence 帶來的兩個影響

  • 蘋果掀開 AI 底牌後的影響

  • 財哥專業機器人

HOTNEWS
Apple Intelligence 帶來的兩個重大影響

Apple WWDC 2004

Apple WWDC 發表會終於在台北時間 6/11 登場,眾所期待的 AI 功能也如願公佈於大眾眼前。

我擷取 Apple Intelligence 的片段來介紹並說明感想。

▋ Apple Intelligence 簡介

Apple Intelligence 是一個專屬於個人的智慧應用,用戶可以在更新後立即開始訓練個人專屬的智慧助理。

Apple Intelligence 五個核心

蘋果智慧的五大核心

◆ 強大的性能
◆ 直觀易用
◆ 深度整合
◆ 絕對個人化
◆ 注重隱私

Apple Intelligence 可以完全在本地設備上運行,無需依賴伺服器雲端的大模型訓練(有必要才會上私有雲計算)。

▋ Apple Intelligence 的主要功能

◆ 文字生成與再編輯:利用大語言模型(LLM)進行訓練,可以快速整合和濃縮文本重點,並減少冗長的資訊。

LLM 文字編輯功能

◆ 文本校對與重寫:可生成多種版本的文本,滿足用戶對語氣和措辭的要求,幾乎涵蓋所有App應用,包括第三方應用。

◆ 文生圖功能:通過文字創建圖像,包括全新的 Genmoji,可以根據特定情境創建新的表情符號。

Genmoji

▋ Siri 的全新能力

◆ 自然交流:憑藉全新的設計和更豐富的語言理解能力,與 Siri 的交流比以往更加自然。

◆ 個人化背景理解:Siri 能夠理解使用者的個人背景,並在 App 內和跨 App 執行操作。

◆ 螢幕感知能力:Siri 可以理解螢幕上的內容並採取行動。例如,可以根據朋友分享的地址自動添加到聯繫人名片中。

Siri 可以理解手機上發生的事情

◆ 語音與文本輸入:用戶可以在任何位置鍵入 Siri 命令,尤其在不便大聲說話時更加實用。

◆ 數據隱私:用戶數據永不存儲,只用於當前請求,提供可驗證的隱私承諾。

▋ ChatGPT 整合

◆ 多功能支持:將 OpenAI 的 ChatGPT 整合到 Siri 和寫作工具中,可以提供更多專業知識,無需在工具間跳轉。

SIri 整合 ChatGPT,可以在必要時呼叫ChatGPT

◆ 創建原創內容:寫作工具中的撰寫功能可以從頭開始創建和說明原創內容,用戶可以控制何時使用 ChatGPT。

◆ 免費使用與訂閱:任何人都可以免費使用 ChatGPT,而訂閱者則可連接帳戶以使用付費功能。

◆ 更多模型整合:未來將不只支援 ChatGPT,有機會整合其他 LLM。

▋ 感想

這次的發表會果然端出了 Apple 自家的 AI 方案,是由端設備運行 3B 小模型混合自家私有雲計算的整合方案。

Tim cook 在發佈會最後並沒有提到經典的 Only apple can do,但說了 It's a game changer.

確實,這套組合拳並不是僅此一家,現在熱潮上的 AI PC 就是相同的概念。

Apple 突破的點在於,即便用上 Apple 私有雲的計算也完全免費!

◆ 對 AI PC 的實質打擊

長遠來看,我認為這一步會對 AI PC 產生威脅,因為微軟目前的 Copilot 上雲計算的使用次數還是有限制。

且 Copilot 雲端用的是 ChatGPT 最新的模型,每次一的上雲計算都需要用到最高階的 data center 來處理,在成本上不容易控制。

而 Apple 自建的私有雲則是使用自家的 M 系列晶片來計算,不只不會受制於 Nvidia 還能有效的控制計算成本。

我想,這才是 Apple 有底氣採取免費策略的重要關鍵。

先讓自家所有用戶免費使用 AI,習慣之後再推出更強更先進的訂閱版本( 猜測 )。

同時也替 Apple 爭取到一些時間來佈局下個階段的戰略。

分散的 AI PC 製造商要思考如何聯合微軟突破這個成本結構,不然每個月 20$ 的訂閱費非但賺不到,伺服器與計算費的支出可能就先壓垮財報。

◆ Intents API 對應用開發的影響

另外要特別點到的就是 Apple intents API。

Apple intents API

我每次都會耳提面命在軟體公司上班的朋友,要積極思考怎麼讓公司的應用能被 AI 調用。

因為未來的使用者交互將會大量的發生在最上層,也就是 SIRI 層。

Apple intents API 如同 ChatGPT 的 Function Calling,能在背景抓取應用的資料以及動作。

提供給 Siri 來做更進一步的任務分配。

因此要回到產品的核心,思考用戶到你的應用裡要的是什麼?

不然辛辛苦苦打造的 APP 將來只會是個替 SIRI 找資料或儲存資料的打工仔。

同樣的趨勢也發生在網路上,雖然 Google 聲稱新的 AI Overview Search 能帶更多流量給網站。

但事實是,用戶更傾向獲得需要的資訊後便離開搜尋。

網站無從選擇,只能任 Google 爬取你的資料。

但對 App 則是個兩難,一方面知道 Apple 往後肯定會大力推廣有添加 Intents API 的應用 ( App store 推廣 )。

另一方面則需要思考,若未來 Siri 都透過 Intents API 接走資料與動作,商業模式能否支撐這樣的改變?

這才是 Tim Cook 所說的 It's a Game Changer.

SHARING
蘋果掀開 AI 底牌後的影響

隱私成為 Apple 最關鍵的一張牌

一直對 AI 還沒正式表態的蘋果終於在 WWDC 上發佈自家的 AI 方案。

市場先是不買單而造成股價急墜,隨後一個交易日又急拉創歷史新高。

個人還是十分讚賞蘋果這次方案,在戰略上完整的發揮他生態系的優勢。

並【挾用戶隱私以令諸侯】的姿態定調了蘋果往後的發展。

思考了一個晚上,其中有個想法跟大家分享。

先從大家最關心的輝達說起

---

▋ Nvidia 還需努力

蘋果這次的 AI 方案直接的表示:我不是 Nvidia 高階伺服器的客戶,我用自家的晶片就能服務我的用戶!

以目前蘋果公開的 AI 模型架構來看,蘋果在做的是減法。

透過 fine-tuning、剪枝、縮減精度與鎖定特定用法來優化模型,目的就是能放進去自家的設備端,間接的斷掉對伺服器的依賴。

這對輝達來說無疑是個壞消息,蘋果的用戶占 PC 10% Mobile 20% 平板 38%,等於失去直接服務這群高階用戶的機會。

Nvidia 從運算虛擬貨幣的 Tokens 轉移到大模型的 AI Tokens

我上週文章說:Nvidia 正在打造 Token = Money 的商業模式,而從蘋果目前的策略來看,蘋果並不買單這個故事。

蘋果認為 AI 只是提升用戶體驗的手段,衍伸的成本應是由服務商來買單。

當然,這是因為蘋果對自家產品有訂價權,這個方案對他們來說就只是把成本轉嫁給消費者。

不過我認為 Nvidia 還是有機會說服蘋果,著眼於未來多模態的 AI 模型必定數萬倍優於小模型,這個 Token = Money 的故事還是有機會從蘋果的 Keynote 裡說出 ( 黃爸加油! )。

但現階段對 Nvidia 來說,蘋果就變成與他們搶台積電高階製程的競爭對手。

可預期蘋果將需要非常大量的 M 系列晶片來擴充私有雲,也可預期年末 IPhone16 會有爆炸式的成長。

兩者都需要巨量的高階晶片( TSMC魏董沒說錯 ),也部分解釋了黃仁勳上週來台固供應鏈舉動。

一方面知道少掉蘋果這個客戶要尋找更多可能,另一方面又必須與蘋果競爭搶下更多的產能。

---

▋ AI PC 一片光明

WWDC 的發佈會還是聚焦在蘋果最關注的個人用戶上,公布的功能與更新都是在強調如何提升個人的使用效率。

這對目標設定在企業用戶的微軟 AI PC 陣營無疑是個超級好消息。

少掉了蘋果競爭企業用戶,微軟只需要盯著 Google 的動態就好。

微軟陣營的 AI PC 將迎來換機潮

另外,Apple Intelligence 全面更新的時間有點晚,今年秋天只會支援英文,其他語系預計要到明年才有。

這段無人競爭的黃金時間會給 AI PC 陣營一個很好的銷售窗口。

而企業是很樂意為工作效率買單的,更何況很多企業本身就是微軟全家桶的客戶。

一個軟硬與 AI 整合的機器相信會是大家買單的最大理由。

然而,最大的擔憂只有一個。

就是 arm base 芯片架構的軟體支援度還是不足。

雖然現在軟體服務的趨勢是佈署在瀏覽器上,不過許多重磅的企業級軟體還是深深的綁定在 X86 架構的平台。

微軟還需要給個梯子,加速這些軟體服務商能挪到 arm 的平台上。

如同 Apple 轉移到 M 系列晶片時所推出的編譯器,讓這些軟體能順利的跑在新的環境裡。

接下來說說我對 Apple 這次 AI 方案的感想

---

▋ 挾用戶隱私以令諸侯

Apple 不虧是 Apple,也始終是我們熟悉的 Apple。

總是能在關鍵處著力,在關鍵處訂下規範。

從早年超愛自訂硬體規格到今天訂出一個有可能是軟體產業史上最重要的隱私使用規範。

為什麼我會這麼說呢?

可以從幾個地方來說明

◆ 解開隱私保護束縛的規範

過往應用與應用之間資訊互動會被系統的隱私保護政策給限制,應用與應用之間需要建立自己的帳號系統來確認使用者的狀態以及可使用的範圍。

意即,每個服務是獨立的個體,需要各自維護自己的用戶資料與授權。

但現在可以透過 Apple intents api 將服務的授權彙整到 Siri 層,由 Siri 來處理相關的隱私授權問題。

也就是說,Apple 打開了給所有應用互相交流的大門。

但前提是,你的應用服務必須符合這次的隱私規範。

並且!並且!並且!要由 Siri 來中介。

Siri 將在最上層發配任務

上幾期的 AI 語音裝置大爆發的電子報有談到,之所以 AI Pin、Rabbit R1 等裝置要跳出來自做的原因就是要取得用戶資料與應用的使用授權。

現在,Apple 站出來說,好啦好啦,我現在讓你們可以互相交流,但是得在我的眼皮底下。

未來,你可以對 Siri 說:幫我媽叫台車,她快到南港高鐵站了。

Siri 便可以自行查閱你的通訊錄,找到媽的名字與電話,填入 Uber 叫車訊息中,透過 Uber 完成叫車,甚至連 APP 都不用打開。

我想電商的應用會更有趣。

因此,若你的應用是靠流量或廣告收入的,需要思考一下其他商業的模式。

因為部分的需求可能在 Siri 層就做完了。

◆ 私有雲計算

WWDC 發佈的另一個有趣的架構便是新的私有雲計算。

Apple 建立了一個新的私有雲的運算系統,雖然這個計畫本是要補充本地 AI 運算不足時來協助運算的系統。

但為了要讓資料上雲端處理,Apple 還是非常謹慎的設計隱私保護的架構。

為了取信大眾,Apple 還破天荒的允許部分受權的開發者可以透明的察看雲計算的內部資訊。

除了顯現我們很透明不怕別人看態度,也顯示 Apple 這次對雲計算的隱私設計有十足的信心。

蘋果的私有雲計算

這讓我聯想到一個可能性。

一直以來我對 Apple 沒有開展雲服務 ( 不是icloud 那種,企業用的 ) 十分不解。

以 Apple 開發者的數量,要維持一個體驗良好 ( 現在的雲服務體驗真的爛透了 ) 又運作順暢的雲服務應該不是難事 ( 可能利潤太差?)。

但藉由這次的私有雲機算的機會,是否可能在未來開放給其他應用?讓其他的服務佈署在 Apple 的私有雲中?

還是問題是相反的,往後未來如果不把服務放到 Apple 的雲計算中,就別想接觸到蘋果的用戶?

我不確定。

我只感受到 Apple 深思熟慮的打出了一張名為隱私的牌,記得上次那張好像叫做 RE100。

註:RE100意旨「100%再生能源」,是由氣候組織(The Climate Group)及碳揭露計畫(Carbon Disclosure Project, CDP)所提出的國際再生能源倡議。

SHARING
財哥專業機器人

第二支教學影片上線。

這次會比上支教學稍微再進階一些,所以建議有漏掉上一支影片的朋友先看把上一支補完,比較不會有聽不懂的情形。

這次要教大家如何使用 Chat-GPT 生成財哥體,並自動回覆到財哥粉專的貼文中。

同樣也是使用 MAKE.COM 自動化工作流平台。

它可以簡單的串連不同的應用程式而完全不需要寫任何一行程式碼。

有任何疑問歡迎留言,一起今天學,馬上用。

下面是本集教學內容的工作流

EP02財哥專業機器人blueprint.json38.83 KB • JSON File

Reply

or to participate.