工業電腦廠研揚 (6579-TW) 宣布,和達運 (6120-TW)、喬泰科技合作,完成研發製造生成式 AI 辨識系統,目前已經安裝在捷運、火車站、機場等多個公共場所,這也是研揚產品首發應用在生成式 AI 的解決方案。
研揚表示,目前市面上並沒有很多落地生成式 AI 的產品,尤其是包含語音及影像辨識的生成式 AI 系統,且市面上現有的智慧客服系統,大部分語言的選擇都是手動設定,而後端只是使用呼叫雲端 API,因此反應時間通常會因網路而延滯(3 秒為業界常態)。
此外,由於大語言模型生成內容無限制,回覆時間會更長,再者,一般智慧客服系統必須依賴網路的特性也意味網路安全威脅無可避免,對於使用這些系統的企業而言,不僅存在隱私暴露的風險,若網路斷線,系統也會停止運作。
研揚表示,與達運精及喬泰科技合作開發的這款生成式 AI 辨識系統,改善了上述缺點,不僅能由 AI 自動辨識語言,回覆反應時間也在 1 秒內,讓使用者可以即時獲得回應,充分展現生成式 AI 的優勢。
同時,這款系統連接的是企業私有雲,資料安全得到了充分保障,再加上「檢索增強生成(Retrieval-Augmented Generation, RAG)」的大語言模型,讓系統反應更快速,全面 VPN 可以保護隱私,系統也可以離線工作,不需依賴網路。
此次產品由研揚為達運完全客製化設計,其中,產品開發中交期最長的顯卡,由於研揚優先布局,讓產品在 4 週內開發完成,交付樣品給達運,這比標準需時 8 週的產品客製化時程,快了一倍,也讓這款產品快速上市。
研揚表示,此產品搭載第 13 代英特爾 Core i9 處理器,並配備水冷式顯卡和空冷式 CPU 散熱方案,以確保高效運算處理器的散熱效果,同時可配置四個 2.5 吋 HDD 槽和兩個超高速乙太網路連接埠,一個 USB Type-C 和兩個 USB 2.0 連接埠,更提供七個擴充槽,供未來更多功能的擴充使用。