當AI的能力越強、應用越廣,企業對AI的依賴程度也正急速加深,課題開始從「如何用AI」,轉向如何兼顧成本、安全、自主性的情況下,有策略的使用AI。
八月五日,日本樂天集團在橫濱舉辦的年度大會Rakuten AI Optimism上,該集團會長三木谷浩史直接將這層顧慮端上了檯面。
樂天拉高自研模型比重
為了安全與成本,不依賴第三方
「如果完全依賴第三方AI,這在數據安全上是有問題的,另一方面,我認為成本也會變得越來越高。」他在說出這句話的同時,頭頂上方的大螢幕,同步展示了過去三年多來,樂天自行研發的成果:「目前最高等級的模型有七千億個參數,是足以對抗ChatGPT的模型。」他說,樂天推出的一系列自研模型中,也有小到可以跑在手機上的版本。不依賴,不只是一個口號。他秀出另一張曲線直往右上角貫去的圖表,顯示樂天自研AI所消耗的Token數量,在短短一季之內快速成長,截至四月,在集團內的占比已拉高到接近兩成。
這個變化,並非來自對外部工具的刻意限制。樂天集團AI與數據部門傑出工程師李廣達表示,「我們的核心目標一直都是把科技帶到我們的商業和產品裡面。」所以對於使用AI工具,他們的態度很簡單:「如果市場上有現成工具可以解決問題,就直接使用。」
那麼,自研AI為何受到青睞?
關鍵在於,樂天自研模型得益於內部獨有數據的滋養,展現出了對業務端更高程度的理解,且在成本上也更具優勢。
「像購物模型、金融科技模型,都是非常針對業務場景的。」李廣達說:「市場上的開源模型,或者商業模型,實際上和我們模型具備的產業知識是有落差的。」
李廣達預期,接下來自研AI模型在集團內的用量占比,勢必還將持續增長。
隨著自研模型比重拉高,樂天正在一步步強化AI的自主權。不過從樂天這個例子也可以看到,模型自主,只是企業強化AI自主力的要素之一,不是唯一。
在模型背後,有一項不可或缺的要件,就是包括算力在內的基礎設施。
日本經濟產業省在二○二四年推出了企業模型開發算力補助專案GENIAC,樂天也是獲得該專案補助的公司之一。李廣達表示,這確實是樂天能夠放手挑戰大參數模型的強大後盾。
建立機制,留住數據、經驗
AI資產不怕被掏空,營運有韌性
而在模型和算力之外,數據,在這條走向自主的路上,也扮演了關鍵角色。數據是企業自主研發模型能夠創造差異化的關鍵,若少了這層優勢,將難以和Gemini、Claude等市場上幾大領先的通用模型相比拚。反過來說,有了專屬數據加持,企業就可以將更多工作在自有模型內運行,擴大本身對模型使用的選擇。
而這也帶出另一項關鍵要素:營運能力。
樂天許多服務的背後,都不是硬性規範使用單一模型,而是同時提供了多個模型做為候選,然後根據每一次任務需求的不同,即時調度最合適的版本。建立這樣的能力,除了有利於減少不必要的Token浪費,以及最佳化營運效率,更重要的是,可以避免受到單一供應商服務異動的影響,確保營運的穩定性,強化營運韌性。
IBM亞太區總經理德克斯(Hans Dekkers)認為,這是企業追求AI自主時,必須自我檢核的提問:在沒有外部廠商協助時,能否自行開發和修復AI應用?是否有其他替代方案,讓公司的營運不停擺?
而且AI營運能力,更關乎企業的長期競爭力。
就如IBM歐洲、中東及非洲與亞太區高級副總裁兼主席阿西斯(Ana Paula Assis)的比喻,AI之於企業,已經不再只是裝上一顆燈泡那樣的單點技術,而是正在長成一整套工作流程。她認為,企業現在需要的是一套新的AI營運模式(AI operating model)。
若企業能夠建立一套機制,將企業整套工作流程,每一個環節的數據、經驗累積在自己身上,建立起微軟執行長納德拉所說的「學習迴圈」,則企業不僅可以將AI資產留住,不被外部AI供應商掏空,這個可以帶得走的能力,也將是企業抵禦外部變動,最強的護城河。
需要懂連結的「指揮家」
將技術與第一線場景和需求融合
要實現AI自主,還有最後一項要素,是人才。這裡所說的人才,不僅僅只是懂得使用高階算力、訓練模型,或清理、標記數據的技術人才。因為如同前面提到的,企業現在需要新的AI營運模式,而要想建立一套營運模式,就勢必要有懂得將AI與第一線業務場景和需求連結的人,以及懂得讓AI與人類和諧奏出交響樂的指揮家。
樂天集團代理人體驗部行動產品群經理張宇鵬表示,今天AI的能力已經非常強大,經常會給人帶來一種「即使我不了解這個行業,我也能做任何事」的錯覺,但實際上,當他們嘗試為特定領域開發代理人服務時,往往會發現自己其實不真正了解該行業的需求。
他認為,如何縮小AI與業務端之間的差距,其實是相當具挑戰的任務。
這也正是德克斯談論企業AI自主力時,特別強調的「技能」。他認為人才不能只是具備天賦或學識,真正關鍵的,是能夠將技術與實務融合的複合能力。
模型、基礎建設、數據、營運能力和人才,這就是企業追求AI自主這項長期價值,關鍵的五大支柱。
小心掉入「主權悖論」陷阱
採用巨頭解決方案可能強化依賴
但主權AI並非全有或全無的二元論,實際上即使是Google、OpenAI等科技巨頭,迄今也無法做到百分之百的自給自足。如果沒有掌握住這個核心概念,反而可能掉入主權AI的陷阱。
全球頂尖AI學術研究機構—史丹佛大學以人為本AI研究院(Stanford HAI),今年七月發表了《主權AI產品與服務商業格局分析》,他們在報告中,就點出了「主權悖論」的問題。
當前基於Token費用飆升帶來的成本壓力、對數據外流的隱憂、合規需求的考量,以及頂尖AI模型Claude Fable 5出口禁令事件所展示出來的模型不確定性等,在多方因素帶動下,不論企業或國家,對主權AI的追求都急速升溫,這也讓主權AI成為各大廠商眼中的巨大商機。
麥肯錫預估,到二○三○年,全球有三成到四成的AI支出,也就是上看六千億美元的市場規模,將受到主權AI的影響。
然而,史丹佛報告指出,目前各大科技公司打著「主權AI」旗號推出的解決方案,往往只是一種「重新配置」,而不是真正消除依賴。
舉例來說,採用輝達的AI工廠解決方案,雖然能做到將數據留在本地端,但未來若想從輝達切換到AMD或英特爾等其他方案,將面臨極高的轉換成本。換言之,這實際上反而可能是在強化對單一廠商的依賴。
又或者,OpenAI推出的「國家合作計畫」(OpenAI for Countries)主權AI解決方案,雖然強調會提供本地化部署和數據留存,但因為底層模型仍是黑盒子,意味著使用者無法檢查或修改。
前述史丹佛報告認為,這種「自主」實際上是建立在對美國技術高度依賴的基礎上,且缺乏撤退路徑。
現成的解方,或許能在最短時間看到成效,但建立「切換選擇權」的能力,才是從國家到企業,不被單一AI模型或組織綁架,能夠真正建立起長期護城河的關鍵。