Delta Game Emulator Now Available From App Store on iPhone（首圖來源：科技新報）。
換個說法，若與智慧手機電力相比，充飽一次電需要 0.012 KWh，執行圖像生成模型換算下來可充飽超過 950 支手機，相當驚人。現今 AI 熱潮推動下，到了 2026 年，資料中心用電上看 620~1,050 TWh，這種增加趨勢相當於增加一整個國家的電力需求，例如瑞典或德國。
論文更提到，效率最低的圖像生成模型需要消耗 11.49 KWh。在討論核電能否解救 AI 用電瓶頸前，我們得先了解 AI 究竟要吃掉多少電。亞馬遜執行長賈西（Andy Jassy）也曾警告，目前沒有足夠能源推動新的生成式 AI 服務，解決缺電問題是當務之急。在 Instagram 查看這則貼文TechNews 科技新報（@technewsinside）分享的貼文Booming AI demand threatens global electricity supplyHow much electricity does AI consume?A.I. Could Soon Need as Much Electricity as an Entire Country（首圖來源：pixabay）延伸閱讀：核能救 AI？》難以承擔的風險，核子事故如何發生？核能救 AI？》人工智慧帶來高用電需求，核能會是電網救星嗎？核能救 AI？》時代新星，小型模組化核反應爐進展到哪了？。AI 正在深入社會各個領域，但訓練和使用 AI 需要消耗大量電力，讓核能發電再度受到關注。
回到數年前，OpenAI 還會公開他們訓練模型的相關資訊，包括使用什麼硬體設備、訓練長達多少時間，但到了 ChatGPT、GPT-4、Sora 等便不再對外揭露，外界難以探究訓練最新模型需要消耗多少能源。▲ AI 圖像生成消耗能量遠高於文字類。荷蘭半導體設備業龍頭艾司摩爾（ASML Holding N.V.）高層預測，中國客戶的需求將續強，公司積壓訂單占比約 20%。
中國市場機台營收占比卻從39%上升至49%。googletag.cmd.push(function() { googletag.display(div-gpt-ad-1703223425197-0); }); 路透社、CNBC等外電報導，ASML執行長Peter Wennink 17日在第一季（1~3月）財報電話會議表示，荷蘭、美國政府正在接洽，討論有關的國安問題，但目前ASML仍可繼續服務中國已安裝機台的客戶。（本文由 MoneyDJ新聞 授權轉載。他說，中國晶片製造商正在擴充成熟製程產能，這些晶片並未落入美國跟盟友的出口管制範圍，主要用於冰箱、手機、玩具及汽車。
Dassen說，中國決定擴充產能，因此需求相當強勁，預測中國全球市場占比幾年內再上升，拉高自給自足率。ASML財務長Roger Dassen則表示，中國客戶對公司積壓訂單的占比約20%。
根據ASML財報，Q1台灣、韓國市場機台營收占比分別由前季13%、25%降至6%、19%。首圖來源：A ansems, Public domain, via Wikimedia Commons）延伸閱讀：美國對中國禁令全面施行，ASML 首季新訂單不如預期營收滑落趕出貨？中國 11 月荷蘭微影設備進口額飆升 10 倍根據ASML財報，Q1台灣、韓國市場機台營收占比分別由前季13%、25%降至6%、19%。荷蘭半導體設備業龍頭艾司摩爾（ASML Holding N.V.）高層預測，中國客戶的需求將續強，公司積壓訂單占比約 20%。
Dassen說，中國決定擴充產能，因此需求相當強勁，預測中國全球市場占比幾年內再上升，拉高自給自足率。ASML財務長Roger Dassen則表示，中國客戶對公司積壓訂單的占比約20%。首圖來源：A ansems, Public domain, via Wikimedia Commons）延伸閱讀：美國對中國禁令全面施行，ASML 首季新訂單不如預期營收滑落趕出貨？中國 11 月荷蘭微影設備進口額飆升 10 倍。（本文由 MoneyDJ新聞 授權轉載。
中國市場機台營收占比卻從39%上升至49%。googletag.cmd.push(function() { googletag.display(div-gpt-ad-1703223425197-0); }); 路透社、CNBC等外電報導，ASML執行長Peter Wennink 17日在第一季（1~3月）財報電話會議表示，荷蘭、美國政府正在接洽，討論有關的國安問題，但目前ASML仍可繼續服務中國已安裝機台的客戶。
他說，中國晶片製造商正在擴充成熟製程產能，這些晶片並未落入美國跟盟友的出口管制範圍，主要用於冰箱、手機、玩具及汽車googletag.cmd.push(function() { googletag.display(div-gpt-ad-1703223425197-0); }); 隨著生成式 AI 橫空出世，全球雲端 AI 伺服器的出貨量不斷創新高。
（Source：科技新報）再就 Orchestration 協作策略而言，鮑志偉強調它是三大框架最具核心的部分，也是打破邊緣 AI無法大量普及的關鍵。另一個是邊緣 AI 模型的生命週期管理，由於 AI 模型會不斷迭代新增各種不同功能，所以這方面的管理非常重要。鮑志偉表示，研華邊緣 AI 的核心發展策略也會依據這樣的三層式框架推行，首先在平台策略方面的重點莫過於聯手合作夥伴共同致力邊緣AI產品組合與 Form factor 的標準化。比起邊緣 AI，雲端 AI 尤其會有傳輸成本高、即時性不足與安全風險高等問題，這些問題也成為邊緣 AI崛起的關鍵促因。當前 AI、IoT 及 Edge 話題熱度居高不下，產業發展焦點也逐漸開始從雲端 AI 移向邊緣 AI，以便催生能滿足各行各業不同需求的創新利基型邊緣 AI 應用。目前研華已累積種類繁多且成熟的工業 AI 運算平台，包括 Nivida Jetson AI 系統、Nvidia IGX 伺服器（2022 年 Nvidia 推出工業級邊緣 AI 平台 IGX，研華率先推出樣品測試並量產）、工業用 AI 攝影機、以及與 Nvidia、Intel、AMD 及 ARM 共同推出的工業 GPU 卡/AI 加速器以及工業級 GPU 伺服器。
看好這樣的發展趨勢，研華將以由下而上的「Platform、Orchestration、Sector」三層式策略框架，全面推動 AIoT+Edge AI。鮑志偉表示，目前研華攜手 Nvidia、Intel、AMD、ARM、高通、聯發科及 Halio 等生態系合作夥伴共同推出各種邊緣 AI 產品組合，並打造邊緣 AI 價值鏈。
邊緣 AI 盡顯優勢，AI 運算從雲端走向邊緣已成趨勢研華產業雲暨影像科技事業群副總經理鮑志偉表示，AI 運算從雲端走向邊緣已成趨勢。除此之外，舉凡邊緣裝置的可用性、應用程式及裝置韌體更新也都被納入協作管理的範疇內。
對此，目前邊緣 AI 安全有幾個重要的發展模式及方向，包括普遍應用在 IoT 裝置的可信賴平台模組（TPM）、分區設置防火牆，以及透過 AI 提升邊緣裝置安全。▲研華產業雲暨影像科技事業群副總經理鮑志偉表示，目前工業邊緣 AI 伺服器會在既有 CPU 運算基礎下新增AI加速器（包括迷你 PCIe AI 模組、AI SoM 系統模組或 AI ASIC），母須高規格高效能的 CPU，即可滿足不同產業應用所需最低 40 TOPS 的算力要求，同時讓整體功耗下降。
但隨著雲端 AI 伺服器安裝量達到一定程度後，市場上將會出現 AI 應用熱潮從雲端朝向邊緣發展的跡象。資料來源：科技新報）。一時之間，人們關注的焦點不是哪些AI伺服器搭載了突破性的 Nvida HGX/DGX 主板，就是內建了效能更高的 Nvidia GH200/GB200 Grace Hopper 超級晶片。不論如何，在兩巨頭的強力推動下，AI PC、AI 伺服器及各種邊緣 AI 應用將會迎來新一波的亮麗成長。
至於位於工業 AI 伺服器中的邊緣 AI，則專為垂直應用市場提供搭配影像處理技術的邊緣運算，換言之，邊緣 AI 會依據高度細分利基市場中的不同應用區隔（智慧門鈴、入口監控、工廠產線瑕疵檢測、智能購物車、車隊管理等）提供最適化的邊緣AI運算平台。新 Prompt 操控邏輯，生成式 AI 將成邊緣 AI 成長催化劑隨著生成式 AI 的大行其道，大型語言模型（LLM）和大型視覺模型（LVM）也將在工業場域裡嶄露頭角，尤其是工業資料分析、公共安全及工廠自動化將會進入另一層次的優化與蛻變。
鮑志偉接著指出，當前針對 IoT 裝置已廣泛採用的管理平台並不適用於邊緣 AI 裝置上。事實上，邊緣 AI 的採用已在許多領域開花結果，其最早是從公共安全領域開始的，目前正進入工廠自動化及機器人（包括自動搬運車、協作機器人、機器手臂、無人機等）兩波導入潮的交界之際，至於人形機器人將會是第四波使用邊緣AI的領域。
Gartner report 預估指出，到了 2030 年，80% 的應用皆屬人機互動的機器人，屆時邊緣 AI 將無所不在。生成式 AI 打破了當前工廠物件檢測必須為不同元件與物品訓練並載入模型的侷限，也解開了具備機器視覺功能的機器手臂或協作機器人在應用上處處受限的封印。
鮑志偉斬釘截鐵地表示，各產業邊緣 AI 之旅早已展開，在研華與生態系合作夥伴共同打造的邊緣AI 價值鏈的強力推動下，邊緣 AI 在兩年內將會有爆發性的增長，屆時我們將會看到整個產業翻天覆地的質變。它是工廠自動化實現單一模型就搞定一切的關鍵，也是讓邊緣 AI 在不久後高速成長的另一個關鍵促因。至於 Sector 產業策略，研華會聯手生態系合作夥伴共同推出針對不同特定應用的解決方案，對此，研華提供專屬的邊緣 AI 軟體開發套件，各垂直應用領域客戶能以最少資源及人力，讓不同類別的應用程式能快速採用研華邊緣 AI 平台，並加快導入符合自身特定需求之解決方案的進程。這些產品組合能針對不同應用區隔市場的特定需求，定義並設計不同的效能、功耗、熱量及 Form factor。
自 2023 年 3 月開始，研華也開始將微軟生成式 AI 導入至既有的工作流程中，它也成了該公司推動 AIoT+ Edge AI的加速器。由於邊緣 AI 比雲端 AI 更安全，所以在近端處理隱私也將成為趨勢。
因為邊緣 AI 會不斷迭代新增更多功能在邊緣裝置上，而且功能替換的部署技術並未統一，所以需要標準化的邊緣管理機制。除了 Intel「CPU+GPU+NPU」架構的定義之外，微軟定義 AI PC 必須具備 40 TOPS 算力並支援 Copilot 的運行，TrendForce 預估符合微軟定義的首批 AI PC 將可能在 2024 下半年出現。
研華董事長劉克振表示， 研華 2023 年年營收達 20 億美元，其中邊緣運算就占了一半達 10 億美元，邊緣 AI 則貢獻了 8,000 萬美元，雖然僅佔營收 4%，卻是含金量最高的市場，研華及研揚皆已積極部署重兵在研發上，預計在接下來的 2 到 3 年，邊緣 AI 將成為該公司最具潛力的高速成長引擎。三管齊下，研華與 Eco Partner 攜手帶動邊緣 AI 爆發性成長研華未來十年的發展願景將會遵循「Platform、Orchestration、Sector」三層式企業戰略框架，全面推動融合既有 AIoT + Edge Computing 邊緣硬體平台產品群、WISE-IoT 工業物聯網軟體平台以及產業AI解決方案與行業知識的產業整合應用協作經營模式。