台新創團隊研發AI技術 加速運算助企業競爭力

【新唐人北京時間2024年01月25日訊】隨著人工智能運用層面越來越廣,發展趨勢也受到廣泛關注。台灣新創團隊「奎景運算」,本月帶著人工智慧(AI)技術走訪北美展會,表示可以有效提升中小企業的競爭力。

生成式AI應用近年來愈發受到關注,不過,開發這類應用往往需要極大的人力、時間和成本。

台灣新創公司奎景運算科技(Avalanche Computing),本月走訪北美,在國際消費性電子展(CES)亮相,並出席台灣新創基地(TTA)洛杉磯路演活動,向投資人介紹最新研發技術。

新產品「AIthena」,是針對邊緣運算的應用場景而設計,還能實現線下生成式AI的應用。

奎景運算科技聯合創辦人 陳俊傑:「我們用這樣的工具可以幫他把它的模型跟系統的環境整合起來,直接部署到邊緣裝置上,就可以跑目前700億參數的語言模型。這樣子的好處除了它的內部開發團隊只要專注在領域知識,如何去教AI他們的知識。另外一個就是它可以離線使用,速度就好像在雲上面跑那麼快一樣。」

陳俊傑Jay Chen表示,「AIthena」結合了自家人工智慧(AI)加速運算軟體與台灣半導體、硬體優勢,是首個生成式AI軟硬體整合產品,有助於幫中小企業實現AI轉型。

奎景運算科技聯合創辦人陳俊傑:「如果是醫院端或者是製造端,自己本身有所謂的預測性維護,或者是它有所謂的檢測瑕疵。這些資料都很大,運算會越來越慢。我們就可以幫助他加速他的運算,讓他趕快拿到模型。(本來)你可能要等7天、10天才可以得到一次運算結果,但是經過我們的加速之後,你一天就可以得到好幾次結果。你比競爭者快,你就更容易做出對的東西,在對的方向上。」

曾在輝達(NVIDIA)工程團隊的陳俊傑表示,科技產業發展快速,「AIthena」能增加業者競爭力,領先取得優勢。

奎景運算科技曾隨台灣官方組織參展多次,也在2024消費電子展前的Taiwan Demo Day,榮獲最佳投資人青睞獎項。

奎景運算科技聯合創辦人陳俊傑:「(台灣)有一個很強的半導體跟硬體的製造,大部分的科技人才在他拿到碩士學位的時候,他已經有很多AI的實作經驗,像在學校內做的專案,很多是跟正式的廠商做合作的,也因為這樣子我覺得光是這些智慧的結晶,是台灣真正最大的寶庫。」

隨著AI應用技術在全球持續增長,根據國際數據資訊(International Data Corporation)預估,台灣人工智慧平台(AI Platform)市場規模將從2023年的6,690萬美元,成長到2024年的8,390萬美元,年成長率高達25.4%。

新唐人電視台記者郭約希、林永峰加州帕薩迪納採訪報導

相關文章
評論