AI伺服器是什麼？

AI伺服器是隨著生成式AI需求爆發而興起的核心硬體設備，主要用於處理大規模的AI模型訓練與數據分析等工作。不同於傳統伺服器偏重在資料儲存、網路服務或後台運算，AI伺服器更著重在深度學習與推論所需的大量矩陣計算與大規模的資料處理能力。

AI伺服器VS一般伺服器：

AI伺服器和傳統伺服器主要有3個不同的關鍵配置，包括：

運算方式：傳統伺服器主要依賴CPU進行「串行處理」，適合執行一般業務應用、資料存取與伺服器虛擬化等工作；而AI伺服器搭載大量GPU或TPU，能同時處理成千上萬筆資料，實現高速的「平行運算」，大幅加速深度學習模型的訓練與推理能力。

記憶體與儲存架構：AI伺服器通常支援高頻寬記憶體（如HBM）與高速儲存技術（如NVMe SSD），可快速載入大型資料集並即時進行模型運算，有效降低瓶頸時間。以利於處理影像辨識、語音分析與自然語言處理等任務。

電源與散熱設計：由於AI運算對能耗的需求遠高於傳統應用，AI伺服器的電源設計正朝向「高效能、高功率、高密度」的方向發展，意即在有限空間中，需要提供穩定且高輸出的電力，才能結合和強化散熱方案，確保長時間運算不中斷。

AI伺服器製程階段：

AI伺服器的L1-L12層級代表從基礎零組件製造到完整系統整合的不同製程階段。

各階層	各階層 / 階層說明
L1~L5	L1~L5 基礎零組件製造與組裝。包含機殼、機架、電源、線材等基本物理零件的製造與組裝。
L6	L6 主機板製造與組裝。涉及伺服器核心零件如主機板的製造與基本組裝。
L7~L9	L7~L9 關鍵零組件整合。將CPU、GPU、記憶體、硬碟等關鍵零組件整合到主機板上，並進行初步測試。
L10	L10 整機組裝與系統測試。將所有零組件組裝成一台完整的伺服器。進行全系統及元件級別的測試，確保功能正常。安裝作業系統和相關軟體，準備出貨。
L11	L11 整機櫃組裝與整合。將多台L10伺服器組裝成一個機櫃。完成佈線、電力、網路交換器等整合，並進行整櫃燒機與網路驗證。
L12	L12 多機架系統整合與測試。處理更複雜的多機架系統整合，例如資料中心或雲端服務的伺服器架構。進行多台伺服器之間的網路設定與管理。

台灣伺服器代工廠最常切入的製程階段是L6、L10、L11、L12。目前為了避免過度仰賴輝達（NVIDIA）的GPU，雲端服務業者（CSP）已紛紛開始投入自研晶片（ASIC）與機櫃的研發。

對於伺服器代工業者而言，無論客戶最終選擇GPU方案、還是ASIC方案，對業務的區別不大，主要還是以提供雲端服務廠商的需求為主。不過，這兩種方案對代工廠的要求有所不同：

1. NVIDIA GPU方案：代工廠從H系列或GB系列整櫃方案，必須依照輝達的設計以及認證等要求來生產。

2. CSP自研ASIC方案：雲端服務商的ASIC自研AI方案，從AI伺服器的整機系統到整櫃，都相對倚重伺服器代工業者整體的設計研發能力。

總體而言，台灣伺服器代工廠憑藉其在L6至L12各階段的技術優勢，在全球AI伺服器市場中取得了關鍵地位，並將持續受益於生成式AI需求的推動。

市場發展前景：

DIGITIMES於2025年10月報告中，維持2025年高階AI伺服器出貨109萬台的預估，並預估2026年出貨成長至130萬台，年增率將再下降，主因預期NVIDIA Vera Rubin因各方面技術跨度較高，恐使其不亦如預期在2026年下半顯著放量，加上大型雲端業者2024~2025年AI運算力部署較高，皆影響2026年採購力道。

此外，據TrendForce於2025年10月底提出的AI server產業分析中指出，2026年因來自雲端服務業者（CSP）、主權雲的需求持續穩健，對GPU、ASIC拉貨動能將有所提升，加上AI推理應用蓬勃發展，預計全球AI server出貨量將年增20%以上，占整體server比重上升至17%。

隨著生成式AI快速演進與大型語言模型應用的急遽擴張，全球對AI運算能力的需求來到前所未有的高峰，全球主要雲端服務供應商（CSP）如亞馬遜AWS、Google Cloud、微軟Azure和阿里雲，積極擴展其AI基礎設施。在這波算力競賽中，台灣憑藉深厚的ICT產業基礎與完整的供應鏈體系，成為支撐全球AI伺服器生產的關鍵樞紐，截至2025年，全球超過9成AI伺服器出自台灣製造。