台新创团队研发AI技术 加速运算助企业竞争力

【新唐人北京时间2024年01月25日讯】随着人工智能运用层面越来越广,发展趋势也受到广泛关注。台湾新创团队“奎景运算”,本月带着人工智慧(AI)技术走访北美展会,表示可以有效提升中小企业的竞争力。

生成式AI应用近年来愈发受到关注,不过,开发这类应用往往需要极大的人力、时间和成本。

台湾新创公司奎景运算科技(Avalanche Computing),本月走访北美,在国际消费性电子展(CES)亮相,并出席台湾新创基地(TTA)洛杉矶路演活动,向投资人介绍最新研发技术。

新产品“AIthena”,是针对边缘运算的应用场景而设计,还能实现线下生成式AI的应用。

奎景运算科技联合创办人 陈俊杰:“我们用这样的工具可以帮他把它的模型跟系统的环境整合起来,直接部署到边缘装置上,就可以跑目前700亿参数的语言模型。这样子的好处除了它的内部开发团队只要专注在领域知识,如何去教AI他们的知识。另外一个就是它可以离线使用,速度就好像在云上面跑那么快一样。”

陈俊杰Jay Chen表示,“AIthena”结合了自家人工智慧(AI)加速运算软体与台湾半导体、硬体优势,是首个生成式AI软硬体整合产品,有助于帮中小企业实现AI转型。

奎景运算科技联合创办人陈俊杰:“如果是医院端或者是制造端,自己本身有所谓的预测性维护,或者是它有所谓的检测瑕疵。这些资料都很大,运算会越来越慢。我们就可以帮助他加速他的运算,让他赶快拿到模型。(本来)你可能要等7天、10天才可以得到一次运算结果,但是经过我们的加速之后,你一天就可以得到好几次结果。你比竞争者快,你就更容易做出对的东西,在对的方向上。”

曾在辉达(NVIDIA)工程团队的陈俊杰表示,科技产业发展快速,“AIthena”能增加业者竞争力,领先取得优势。

奎景运算科技曾随台湾官方组织参展多次,也在2024消费电子展前的Taiwan Demo Day,荣获最佳投资人青睐奖项。

奎景运算科技联合创办人陈俊杰:“(台湾)有一个很强的半导体跟硬体的制造,大部分的科技人才在他拿到硕士学位的时候,他已经有很多AI的实作经验,像在学校内做的专案,很多是跟正式的厂商做合作的,也因为这样子我觉得光是这些智慧的结晶,是台湾真正最大的宝库。”

随着AI应用技术在全球持续增长,根据国际数据资讯(International Data Corporation)预估,台湾人工智慧平台(AI Platform)市场规模将从2023年的6,690万美元,成长到2024年的8,390万美元,年成长率高达25.4%。

新唐人电视台记者郭约希、林永峰加州帕萨迪纳采访报导

相关文章
评论