項次 |
標題新聞 |
資訊來源 |
日期 |
1 |
耐能 AI獨角獸躍台灣之光 |
摘錄經濟A5版 |
2024-12-15 |
耐能智慧(Kneron)是台灣AI晶片新創,專注邊緣AI處理器(Edge AI)發展,創辦人劉峻誠更是最早定義NPU(神經網路處理器)架構的始祖,他們不僅賣IP、晶片、模組主板也做系統,外傳耐能智慧擬於2025年赴美國NASDAQ上市,成為台灣AI熱潮中最受矚目的AI獨角獸。
耐能成立於2015年,由劉峻誠與兩位朋友一起在美國聖地牙哥創立,在此之前,他在高通、三星電子研發中心、晨星半導體(MStar)和Wireless Info等科技業工作,當市場主流認知是以GPU來運算AI,劉峻誠2015年就投入更低功耗且可堆疊的人工智慧架構開發,九年前,當時AI是否能普及都仍備受質疑,直到2022年生成式AI問世才出現拐點。
耐能因為研發NPU早,布局專利完整,包括EE times、Semiconductor Industry Magazine、CRN等國際媒體,都評選耐能為世界十大AI晶片強者,與之平起平坐的科技巨頭有:英特爾、輝達、高通、AMD、Alibaba、IBM、Alphabet等,放眼群雄中,只有耐能一家還未上市,耐能個頭雖小,但實力驚人。
明年大目標前進美國掛牌
近期外媒報導,耐能正在展開新一輪融資,屆時市值將上看10億美元,成為AI半導體獨角獸,目標2025年赴美上市。不過對此消息,耐能表示目前不評論。
創業九年,耐能目前已經累積200家客戶,晶片開發至第七代,由於布局NPU時間早,專利掌握完整,近年包括英特爾、高通、AMD、聯發科等晶片巨頭都宣布開發內建NPU的AI處理器,身為NPU始祖,劉峻誠感慨萬千,創業時,得費勁口舌跟客戶解釋NPU是什麼,AI是什麼,如今水到渠成。
「台灣歷史上,沒有任何一個企業能定義晶片架構,我們的NPU現在全世界都在跟,大咖都在做,我們是真正從0到1的創新。」劉峻誠說:「希望有一天,就像想到CPU會想到英特爾,想到GPU會想到NVIDIA,想到NPU會想到我們,耐能要成為全球性領導者。」
今年各國主權AI建置需求火熱,著眼於NPU的低功耗與可擴充性,包括沙烏地阿拉伯、日本、韓國政府也都找上耐能,洽談建置主權AI計畫,考量更多中小型企業不懂AI,耐能也開發一套AI軟體模組,客戶只要放入資料庫,就能一鍵即用,在地端用AI找內容,不怕資料外洩。
「我們是做顛覆性NPU式AI,是下世代低功耗技術,對地球也比較健康,可以組大組小比較靈活。」劉峻誠說,為推廣Edge AI應用,耐能不只是賣NPU晶片,他們從授權IP、晶片、模組主板,甚至邊緣伺服器系統及機櫃,耐能的晶片從車用、智慧門鎖、安控鏡頭、智慧空調無所不在,不少企業擔心資料上雲不安全,耐能也開發AI PC設備KNEO,至今處理器銷售量已超過數億顆。
2019年耐能成功跟韓國最大、世界第四大(排除中國品牌)安控品牌韓華集團合作,這家巨頭不僅是全球500大,也是韓國最大軍工業者,韓華要在安控產品放入AI功能,所用AI晶片中有七、八成來自耐能。
五年來,韓華的安控系統AI滲透率從1%慢慢提高至5%,今年官方更宣布,要在未來三年內將旗下95%安控產品都都導入AI,讓耐能迎來收穫期。
Edge AI的發展費時,客戶要做無數的測試,新創必須氣夠長才能撐到放量期,回首創業路,劉峻誠聽到的冷嘲熱諷不少,從對手亂放話,到投資人質疑:要挑戰巨頭?甚至質疑NPU是美國定義的。
變形蟲策略 跨足主權商品
沒想到耐能一路打不死,像一隻變形蟲,遇到困難就去解決,現在耐能不只是晶片商,從IP到系統及軟體,耐能都能提供,「我們定位是AI公司」,不僅實現當初的Edge AI夢,如今也跨入主權AI,幫各國造AI算力。
九年前,劉峻誠跟一群伙伴離職創業,從一開始沒有辦公室,過著要開會再去慈濟會所借辦公桌,平日蹲車庫工作的日子,直到拿下第一張騰訊訂單,2017年第一顆晶片問世,2019年客戶開始量產,至今耐能已開了七代晶片,以用12奈米製程生產來說,一顆AI晶片開發成本上看1.7億美元,高投入門檻雖不易跨入,但一旦跨越,也成AI半導體新創的護城河。
一直以來,半導體晶片架構定義一向由國際大廠主導,從沒人想過台灣人也能定義NPU架構,「就像棒球中華隊一開始還沒打到世界冠軍時,大家也不看好,會說打不贏啦!我們很弱啊!結果後來打到世界第一。」劉峻誠喃喃地說,他希望透過耐能的故事,「要讓家鄉人也敢去做大夢,不要自卑,其實我們很強!」
|
2 |
他的著作 成為大學上課教材 |
摘錄經濟A5版 |
2024-12-15 |
最早喊出NPU名稱,並定義架構,開發出晶片推向市場,耐能智慧創辦人劉峻誠與張懋中及一位友人合作創業,苦熬九年終於等到NPU春天,而劉峻誠寫的《Artificial Intelligence Hardware Design: Challenges and Solutions》也成大學教科書,目前多份「NPU」商標權都由他註冊,稱劉峻誠是NPU之父已不為過。
劉峻誠在人工智慧、電腦視覺和影像處理領域擁有超過30餘項國際專利AI,2021年更獲IEEE頒發達靈頓最佳論文獎,2023年進一步獲得旗下CTSoc頒發企業創新領袖獎,為其商用化表現背書,他也曾在大學客座教書,2015年他就開始談NPU架構,2017年量產第一顆NPU晶片,領先業界。
2024年,耐能已開發第七代晶片,2025年更計畫從一年一代增加為一年雙代晶片開發計畫,是目前市場上開發迭代最多的NPU開發商,不僅最早定義NPU架構,耐能也掌握最多NPU專利。劉峻誠打開商標註冊網站,包括Neural Network Processor Unit(NPU)、Neural Processor Unit(NPU)等商標登記都在他名下。
除了寫書,成為國外知名大學教科書,耐能團隊也跟台積電慈善基金會合作,寫了很多AI教材給台灣中小學研習,如《初探機器學習:從認識AI到Kaggle競賽(學AI真簡單系列1)》,劉峻誠想在家鄉推廣AI教育,「我們很早就認為AI很重要」,他也為台科大寫教科書,希望能讓更多人瞭解。
如今的耐能從當年的兩人,快速茁壯成一家250人規模的跨國企業,由美國跟台灣的研發團隊合作,24小時日夜都有人工作,每天早上跟晚上都各舉行一次會議,早上,美國完成的東西會傳遞給台灣,台灣下班後再將工作交給美國,兩地接力研發,讓耐能可以比對手更快速成功。
|
3 |
迎向AI新時代座談 聚焦提升三大力 |
摘錄經濟D4版 |
2024-07-30 |
由於全球產業對生成式AI、大語言模型(LLM)與數位轉型需求的快速成長,讓今年的COMPUTEX成為全球科技業關注焦點,更讓台灣資通訊產業成為各國媒體報導重要議題。
為延續COMPUTEX展覽能量,積極面對AI新工業時代,台灣資通訊產業可能遇到的機會與挑戰,台北市電腦公會日前(TCA)主辦,台灣玉山科技協會協辦,「迎向AI新時代-從COMPUTEX看台灣資通訊產業的下一步」產業座談,雖碰到凱米颱風進逼,仍吸引了多家中外媒體與貴賓到場。
座談會由資策會產業情報研究所(MIC)資深產業顧問兼所長洪春暉,以「從COMPUTEX看台灣資通訊產業的下一步」為主題進行專題演講,分析台灣資通訊產業未來優勢,探討生成式AI趨勢及資通訊產業生態系演進,並邀請TCA榮譽理事長暨台灣玉山科技協會理事長童子賢、宏碁營運長高樹國、神通資訊董事長蘇亮、台智雲策略長李立國、所羅門董事長陳政隆與耐能智慧董事長劉峻誠進行座談。
台北市電腦公會理事長彭双浪表示,從今年COMPUTEX展出的內容,讓許多人知道,算力就是國力,算力也需要電力,所以賴總統在開幕典禮就承諾,台灣一定會有足夠的電力,期待除足夠的電力外,希望有足夠的綠電與更好的能源配比,政府更承諾在未來會有更多的低碳能源,而另外一個關注重點就是人才培育。
彭双浪指出,「算力」、「電力」、「人才」這三力,能促進台灣資通訊產業,在AI新時代更進一步發展;透過大家共同討論台灣資通訊產業下一步發展,一起提升台灣三力,進一步提升台灣地位,提升台灣產業競爭力,並把今年COMPUTEX展會創造出來的氣勢,能夠繼續延續下去,更希望能變成台灣產業的氣勢。
|
4 |
新漢、耐能強強聯手 搶進Edge AI |
摘錄工商C6版 |
2024-07-18 |
工業電腦大廠NEXCOM新漢集團以及AI晶片開發新創公司耐能智慧7 月11日簽署合作意向書(MOU),建立雙方在Edge AI邊緣運算領域的 合作關係,未來NEXCOM新漢集團利用自身在產業垂直應用的深厚經驗 與耐能智慧在人工智慧領域的前沿技術,共同打造專為終端應用市場 所量身設計的AIoT智慧物聯網解決方案。
耐能智慧的NPU晶片具備低能耗、高隱私性和彈性客製的特性,結 合NEXCOM新漢集團在應用市場積累的AI系統整合經驗,共同合作硬體 系統的設計製造、邊緣AI運算與邊緣GPT應用開發、系統化AI產品共 同行銷等,將全面為AI金礦-各類大數據應用提供多樣化的邊緣應用 及卓越的AIoT開發平台。
NEXCOM新漢集團董事長林茂昌表示,AI發展浪潮將持續推演,科技 大廠間無論是AI雲服務或是AI伺服器供應鏈,現階段都只停留在基礎 建設的軟硬體供給,而放眼未來AI垂直應用與邊緣整合的龐大需求, 才是新漢集團所看見與專注投入的持續性藍湖市場。
林茂昌強調,未來將整合雙方資源,包括軟硬體運算平台技術整合 、業務通路與行銷活動串聯、並以聯名方式推出Edge AI運算平台產 品線,耐能智慧會是NEXCOM新漢集團在Edge AI/Edge GPT發展中最 重要的策略夥伴。
耐能智慧董事長劉峻誠提到,耐能智慧致力於發展AI前端技術,在 技術應用場域的落地需要豐富經驗的強力夥伴,整合雙方在軟、硬體 的技術優勢才有辦法面對客戶實際應用需求。NEXCOM新漢集團除了擁 有在物聯網深厚的產業技術實力外,更協助無數企業進行物聯網數位 轉型,未來強強聯手、加乘效應可期。
|
5 |
COMPUTEX展 耐能智慧邊緣AI伺服器亮相 |
摘錄工商C4版 |
2024-06-07 |
總部位於美國聖地牙哥的人工智慧公司耐能智慧於COMPUTEX2024上 宣佈推出最新的邊緣AI伺服器及一款內置耐能AI晶片的PC設備。KNE O330是耐能最新且第二款端側GPT伺服器。首款產品KNEO 300於2023 年推出,已在製造業、金融服務和大學教育領域擁有企業客戶,包括 史丹佛大學和加州大學洛杉磯分校。KNEO 330擁有48TOPS的AI計算能 力,最多可支持八個併發連接,支持LLM和Stable Diffusion。在較 低的硬體條件下,其RAG精度與雲端解決方案相當,大幅降低了小型 企業的整體AI成本,降幅可達30%~40%。
與大多數雲解決方案相比,KNEO 330實現了更簡單的集成和分層許 可權管理,極大地提高了隱私和安全性。其全面的功能包括多模態G PT的離線版本。耐能智慧創辦人兼執行長劉峻誠表示:「AI近期蓬勃 發展,強大的AI模型發展速度超出了許多專家的預期。平衡AI的道德 倫理與盈利驅動是AI真正的挑戰。諸如訓練AI模型所需的電力和數據 以及AI幻覺的潛在問題等擔憂都是現實問題。我們相信我們的產品是 解決當前GPT ESG和能耗問題的關鍵。」
除了KNEO 330耐能還推出搭載第三代NPU晶片KL830的PC設備。AIP C的時代已經來臨,根據IDC報告,銷量預計將從2024年5000萬臺增長 到2027年的超過1.67億臺,占整體個人電腦市場的60%以上。同時G artner機構預測2024年全球AI個人電腦和AI智慧手機的出貨量將達到 2.95億臺,比2023年的2900萬臺增長十倍多。KL830使得低成本AIPC 成為可能,將為更廣泛的消費者群體帶來AI的普及和應用。KL830提 供高達 10eTOPS@8bit 的綜合計算能力(CCP),峰值功耗僅為2W, 將使個性化GPT成為現實。
|
6 |
耐能前進國際電腦展 秀領先技術 |
摘錄工商C5版 |
2024-04-26 |
「AI串聯,共創未來」AIGC和大語言模型的崛起,正逐漸成為推動 智慧化轉型的關鍵力量。在這個發展趨勢下,耐能智慧即將於6月4日 亮相於2024年臺北國際電腦展,並在AI計算暨系統解決方案區N1223 號展位,展示各種耐能最新技術和先進解決方案的領先客戶產品,以 及耐能如何將其應用於各種行業,以實現更智慧、高效的解決方案。
耐能此次將展出EDGE GPT解決方案,能夠離線進行即時的數據分析 和智慧決策,大幅降低了企業及科研機構資料洩露風險,亦可以相容 於公司既有的權限存取管理,安裝於公司防火牆之後,無聯網需求, 避免資安問題。該產品具備大算力、高性能、低功耗、易部署、隱私 安全等特點。
AI PC方案:隨著AI大語言模型的迅猛發展,為PC端實現人機交互 的智慧化提供了必要的技術基礎,耐能與PC產業鏈緊密合作,推出基 於耐能新一代KLL830晶片的AI PC方案,以支持在PC終端上部署本地 RAG及大語言模型能力。即使在離線狀態下,也能在AI PC設備上運行 大規模語言模型,實現更專業的本地知識庫問答及智慧文檔管理和搜 索。
AI板卡(GPU+NPU):採用耐能可堆疊架構的KLL830,提供高達40 TOPS等效算力的板卡,體積小、性能強、功耗低,使得邊緣設備承載 大模型能力成為現實,可用於PC,工業電腦或是終端伺服器上。
汽車智慧駕駛:耐能帶來的智慧輔助駕駛方案,透過成熟的ISP及 AI演算法,有效監測駕駛員狀態並適應行車過程中「隧道場景」、「 逆光」等複雜光線場景。支持120db寬動態、星光級低照,並可識別 人、車、標誌和障礙物等。
AI物聯網:基於耐能AI Soc和高能ISP演算法的IP Cam及諸多智慧 場景方案,覆蓋了門禁,全場景會議,及紅外熱成像監控場景。滿足 客戶多種複雜安防環境及智慧需求。具備離線運算,以及高精度、低 延遲等優勢。
|
7 |
劉峻誠:NPU的性價比最高 |
摘錄經濟A4版 |
2024-03-28 |
AI晶片新創耐能智慧創辦人暨執行長劉峻誠昨(27)日表示,神經處理單元(NPU)可取代繪圖處理器(GPU),讓生成式AI應用更多元化,能耗、成本都較低,是可推動AI普及、性價比(C╱P值)最高的下世代AI解決方案。
劉峻誠在專題座談上,暢談如何透過NPU,協助企業在切入AI應用的同時,解決最關鍵的能耗問題。
劉峻誠舉例,進行一次ChatGPT搜尋所消耗的電,能將一隻小雞烤熟,耗電量相當龐大,而廣達先前在伺服器中導入耐能產品,發現降低75%至80%的能耗,中華電信導入後,營運成本也降低85%
劉峻誠表示,耐能2015年就開始做NPU,雖然不像通用型GPU,但專攻AI應用,多年來一直想告訴市場,「這是最適合AI時代的解決方案」,而去年底英特爾也開始走向NPU。
除了能耗問題外,劉峻誠指出,從目前金融業、製造業上看到的痛點之一,就是機密資料無法傳輸上網,而NPU是封閉式的AI,相對沒有資安問題,也不會像開放式AI一般,被大眾餵養大量錯誤資訊後,產生錯誤判斷。
劉峻誠說,今年COMPUTEX中,將揭露與筆電廠、板卡廠、車廠等產業的合作計畫,他認為,NPU將是下世代AI應用的趨勢,「我們畢竟是先行者,這也是我們的機會」。
|
8 |
iKala獲中華電投資 |
摘錄工商A 14 |
2024-03-22 |
人工智慧AI及雲端服務成為企業數位轉型的主軸,新創公司iKala 愛卡拉也獲電信公司青睞,下周將宣布獲中華電信策略性投資。除了 引進中華電成為股東,未來中華電信的雲端客戶,若有AI導入及相關 需求,iKala愛卡拉將可提供資源和服務。
iKala共同創辦人暨執行長程世嘉在台灣軟體界也頗有名氣。他畢 業於台大資管系,取得美國史丹佛電腦碩士學位,曾在Google美國總 公司工作,回台灣後加入剛成立不久的Google台灣辦公室,成為第三 號員工,曾投入Google Map及Android相關的專案。2012年時轉戰iK ala擔任執行長,加入新創公司的行列。
iKala愛卡拉目前主要的服務為雲端服務、大數據行銷,並提供企 業AI轉型解決方案。目前已協助逾1,000家亞太區企業客戶數位轉型 。
未來獲中華電信策略投資後,雙方將在雲端、AI兩大面向的合作。 ikala與中華電預計3月26日召開記者會,對外宣布投資案及策略合作 內容。而出席者除了iKala共同創辦人程世嘉、iKala董事簡立峰,還 有中華電信的主管。iKala目前主要股東包括緯創數技投資控股、耐 能智慧、M17等。
這也是繼雲端服務公司萬里雲(Cloud Mile)2022年獲台灣大共1 ,544萬元的投資後,又有電信公司投資新創公司,布局雲端及AI事業 。而另一家電信公司遠傳旗下的雲端服務商博弘科技則是於年初時登 錄興櫃。
|