由於,AI人工智慧發展快速。根據工研院產科所最新預估,2024年台灣半導體產業產值將突破5兆元。這邊就來更新一下IOT記憶體、AI高寬頻記憶體設計公司,愛普*。愛普*,正在積極發展3D堆疊的寬頻記憶體,應用於AI人工智慧和HPC。
愛普,提供客製化記憶體相關積體電路產品之設計、生產及銷售,為全球非標準型記憶體晶片設計之領導廠商。目前除設計生產使用於 IoT 相關邊緣運算裝置(Edge device)之虛擬靜態隨機存取記憶體(Pseudo SRAM)及低功耗動態隨機存取記憶體 (Low Power DRAM)之晶片產品;另愛普VHM™ 為全世界 DRAM 與邏輯晶片的真3D堆疊異質整合技術之首例,提供高頻寬運算之記憶體解決方案。
以下為愛普狀態:
(1)在中國市場,持續增長的市場,引起了其他競爭者的興趣。愛普預期在未來幾年,市場競爭將更為激烈。
(2)推出VHMStack™
愛普推出VHMStack™,是一種為多層的 VHM™。
到目前為止,愛普的 VHM™量產都是 1+1 的版本為主,一片邏輯和一片 DRAM,用 Wafer-on-Wafer 堆疊在一起。這樣的結構徹底地解決 Bandwidth 和 Power 的問題,但是記憶體容量被一層 DRAM 的密度和邏輯的 Die Size 所限制住了,那這個容量的限制也影響了 VHM™到目前為止的應用領域。
愛普一直在開發多層堆疊的技術和供應鏈。這種多層堆疊的結構可以叫做 1+多,或是 1+N。多層的 DRAM 堆疊在一片邏輯上面。DRAM 的層數可以依照應用的需求客製化。所以這種架構進一步解決了 DRAM 容量的限制,並且還保有了原來的 Bandwidth 和 Power 的優勢。愛普把這種 VHM™架構稱為 VHMStack™。 目前愛普已經有多個 POC 的產品,跟客戶在合作開發當中。主要應用是大語言模型 AI,包含了 In-Cloud 以及 On-Device。
那 AI 市場逐漸從 Training 擴展到 Inference。Inference 市場規模更大,使用的場景更多,更需要低功耗的 VHM™。特別是 On-Device Inference,需要 Bandwidth,但是因為空間、功耗、成本等各種原因不可能用 HBM。那目前市場上只有 VHMStack™是最適合的 一個解決方案。
(3)切入電源管理
愛普為滿足高效能運算在低電壓、高功率規格下不斷增加的穩壓需求,進一步切入電源管理領域,整合開發具有高效能、高功率密度的電源傳輸架構。
在 112 年 11 月,愛普亦藉由取得來頡科技股份有限公司(6799.TW)9.4%之股權,以推動雙方在電源管理領域上的深度合作,藉由愛普 3D 堆疊技術而應用於 HPC 電源管理領域的合作開發,符合愛普長期佈局及擴展規劃。
(4)S-SiCap™電容的 Interposer,已經有客戶完成驗證
這一塊主要是用於 HBM3 以及 HBM3E 的 2.5D 封裝,這是因為使用先進 HBM 的 SOC 對性能的要求。
以下為愛普的產品:
(1)IoT 相關記憶體產品 (IoTRAM™)
IoT 事業部專注於為全球物聯網市場提供高效益低成本的 IoTRAM™產品。愛普的 IoTRAM™是一系列非 JEDEC 標準的產品線,因應各應用之需求來優化規格,並提供最適成本與最佳能效。經由設計前期的討論,客戶接受並導入愛普特定內存介面設計,因而增加競爭者的替換成本。也由於客製化特性,IoTRAM™不像一般標準記憶體的高價格波動性,IoTRAM™產品的毛利率在當前行業持續低迷的情況下,仍能相對保持穩定。
IoT事業部持續領導全球IoT 應用之客製化DRAM市場,將PSRAM、 Low-power DRAM 等產品線以良裸晶(Known-Good-Die, KGD)及晶圓級封裝 (WLCSP)形式,推展於Cellular network、穿戴裝置、智慧聯網及智慧影音之應用上。IoT 事業部產品之年出貨量約 10 億顆。
IoT 事業部的主要應用領域分為三塊:Connectivity、Wearable 及 Video/ Audio/ Others。在 Connectivity 的部分,應用主要是在蜂巢式網路(比如說:4G/5G modem)、Wi-Fi、 Bluetooth 以及部分的 industrial IoT。Video/ Audio/ Others有 Smart Home 以及小型 Display 相關的應用...。
產品主要可分為以下三大類:
A.虛擬靜態隨機存取記憶體(Pseudo SRAM)
具有低引腳數、體積小及低耗電等特性,主要係應用於穿戴式裝置及物聯網相關產品上,愛普為該產品全球主要領導廠商。
B.低功耗動態隨機存取記憶體(Low Power DRAM)
具有低成本、體積小及低耗電等特性,可應用於智慧型手機及各式行動裝置中。
C.客製化 DRAM 產品(Customized DRAM)
為支援特殊應用規格而優化之客製化 DRAM 產品,如超低功耗 (ultra-low-power)、超高頻寬(ultra-high-bandwidth),以支援新一代高速物聯網應用。
(2)AI相關記憶體產品及其IP授權與設計服務
愛普 AI 事業部於完成全世界第一個 3D 異質整合 DRAM 及邏輯晶片之開發後,推出 VHM™ DRAM 及 IP 等產品線,打造出全新的市場及生態。VHM™ 及 VHMLInK™ IP 於晶圓量產前,帶來權利金收入,並於量產後帶來晶圓銷售收入。AI事業部之產品應用包括AI及高效能運算(HPC)應用,在超高頻寬及Efficient IO power 等規格佔有領先優勢。
另外,愛普還有提供VHMInterposerTM。透過 VHMInterposerTM 與 SoC 的 3D 堆疊,VHMInterposerTM 可提供 VHMTM 的頻寬優勢與 Silicon Interposer 的繞線功能。VHMInterposerTM 在每 100mm^ 擁有超過 1.2GB 容量,並可另外嵌入 S-SiCapTM,以提升 SoC 的電源完整性。
人工智慧的大量運算需要使用大容量、高頻寬的快取記憶體記憶體來使系統可以快速執行運算,尤其是目前最熱門的大型語言模型 (Large language model),需要更高的記憶體頻寬和容量。
愛普之客製化高速記憶體(VHMTM) 產品及設計,藉由 3D 異質晶圓堆疊技術(Wafer-on-Wafer)之整合,可提升系統效能,相較於高頻寬記憶體(HBM),在頻寬及功耗上更具優勢,主要應用於高速運算之 AI、網通等領域。
AI事業部營收主要分為 IP licensing 、VHM™以及 S-SiCap™ Interposer 的 Wafer Sales。其中,愛普的 S-SiCap™ Interposer 是目前行業内唯二的可量產方案。
(3)矽電容相關產品及 IP 授權服務 (S-SiCap™)(歸類在 IoT BU)
愛普跨足到矽電容 (Silicon Capacitor)的領域,借用了堆疊式電容(stack) 技術以取代傳統深槽刻蝕(Deep trench)作法來研發設計矽電容產品,以滿足高階手機及高效能運算晶片的需求。
矽電容(Silicon Capacitor)是一種整合式被動元件(IPD, Integrated Passive Device),愛普的矽電容命名為 S-SiCap™,是 Stack Silicon Capacitor 的縮寫。 因其採用先進的堆疊式結構 (Stack),能夠達到高電容密度,同時體積更薄,且具有極佳的溫度與電壓穩定性,符合高階手機及高速運算晶片的需求。 S-SiCap™ 技術可應用於多種產品類型,並搭配先進封裝製程,提供客戶有效 的解決方案。
目前愛普各事業部皆應用矽電容 IP (S-SiCap™) 開發多項新的產品線及服務,搭配先進封裝製程,以滿足高階手機及高速運算需求規格,進一步提升 SoC 系統單晶片的效能。
另外,愛普提供S-SiCapTM Interposer IP。愛普運用DRAM製程工藝中內含電容的特性,提供內含S-SiCapTM Interposer方案。相較於DTC方案,愛普提供的S-SiCapTM Interposer 有較低的電容高度可以實現較薄的中介層厚度並減少TSV寄生電阻與電容值。
VHM™或 VHMStack™與 HBM3/4/5 相比的優勢在哪?
HBM2/3/4 因為結構性的限制,在 Bandwidth 跟功耗方面有一定的瓶頸,HBM5 目前 roadmap 還不清楚。
愛普的 VHM™、VHMStack™是一個 3D 的架構。在 Bandwidth 的功耗都有 10 倍以上的優勢,這是最重要的優勢
DRAM市場概況
在5G、生成式 AI 應用、邊緣 AI 應用和 IoT 產品持續發展演進的趨勢下,記憶體大廠生產主力轉向DDR5及符合AI應用的HBM3等高階產品,而各終端應用所需記憶體容量及頻寬也大幅提升。
(1)IoT
物聯網(Internet of Things, IoT)為受各界矚目之領域,藉由裝置、機械、 數位機器間的數據傳輸,可將小量的數據封包匯集至一個較大節點,進行從個人、家用乃至於整座工廠設施的整合與自動化,進一步拉近分散的資料,統整物與物 間的數位資訊。
(2)邊緣 AI
隨著智慧工廠、城市等場景對數據分析越發需要精準、即時且大量處理的需求,AI 與 IoT 結合已是現在進行式。在 AI 晶片助益下,IoT 邊緣與終端裝置可透過機器學習或深度學習等技術加值,同時帶出無延遲、低成本、高隱私等優勢,顯示出 AI 晶片的重要性。預估全球 AI 晶片產值至 116 年將達 720 億美元。
與此同時,邊緣運算透過 AI 使終端設備於運行上更加智慧,不僅保有邊緣運算於延遲性、隱私性、連接性、功耗、成本等優勢,並進一步使系統具有主動性與智慧性。若以場景角度切入,邊緣 AI 相較傳統邊緣運算,其主要帶來的效益包括數據處理過濾和邊緣智慧分析,此也將成為兩技術持續結合的動能。
愛普,是一家IOT記憶體、AI高寬頻記憶體設計公司。近5年ROE為13%,25%,51%,31%,-1%。毛利率為42%,44%,46%,29%,14%。資產負債率為10%,6%,24%,22%,32%。以2023年為例,公司銷售以記憶體積體電路晶片銷貨佔92.31%,勞務收入佔4.87%,IP授權收入佔2.13%,其他收入(出售樣品及工程品收入)佔0.69。以2024Q3為例,AI佔28%。銷售區域以中國佔68%,台灣佔11%,歐洲佔1%,美洲佔2%,其他佔18%。愛普研發佔營收比例為14%。
競爭
DRAM 產業經汰弱整理後,已經逐漸整合,全球主要 DRAM 製造廠商為 Samsung、Micron、SK Hynix 等,國內較具規模之 DRAM 製造商則為南亞科、華邦電及力積電。國內 DRAM IC 設計廠商包括南亞科、華邦、晶豪科、鈺創等,皆以標準型記憶體為主要業務,而愛普則專注於客製化記憶體產品之設計,針對客戶及產品應用需求進行開發。
記憶體晶圓代工
力積電為愛普目前唯一之記憶體晶圓代工廠。
發展趨勢
在人工智慧及物聯網應用的帶動下,DRAM 的需求更加多元化,其中省電、 高效能、微型化為主要特性之客製化記憶體已被市場重視且廣泛採用,以下說明發展趨勢:
(1)超低功耗
因穿戴式裝置及物聯網設備等應用對於電力耗用上有更高之規格需求,甚至要求不到傳統DRAM 之十分之一耗電量。愛普持續專注於低功耗記憶體之研究開發及量產,現為此規格之佼佼者。
(2)晶粒尺寸縮小化、腳數減少
傳統 DRAM 藉由縮小晶粒尺寸,增加晶片單位產出數量,以降低成本。 而在系統單晶片(SoC)隨著邏輯製程發展而持續微縮,客戶亦相對要求 DRAM 之晶粒尺寸縮小及腳數(pins)減少,愛普之 1-IO、4-IO 及 8-IO 之記憶體產品即為業界領先規格產品。
(3)IoT應用範圍廣泛
隨著 IoT 技術的普及,大量新興應用崛起,有更多更小的裝置需連結網路來傳送各種資料。由於 IoT 裝置通常有低功耗、高效能和小尺寸等要求,使得對客製化記憶體及低功耗記憶體的需求相對增加。
(4)AI發展帶來之 DRAM 新應用
人工智慧 (AI) 和超級運算等新型應用需要進行大量的資料運算和高頻寬的數據傳輸,比傳統運算裝置所需的 DRAM 要求更高。隨著人工智慧演算法的不斷演進,諸多晶片技術架構,包括CPU、GPU、FPGA 以及 ASIC,也紛紛被採用以對應相關 AI 模型的要求,進而催生各種不同類型的 DRAM 以滿足不同應用場景。
由於進行 AI 模型運算時需要反覆快速地在記憶體中儲存和讀取大量的數據,因此需要高效能、高頻寬、低功耗的記憶體來提供快速的數據傳輸,以降低整個系統的能耗和熱量產生,提高運算效率和性能。
0 意見:
張貼留言