人物專訪

【AIoT 的智慧未來】AI 新創的 A Team：杰倫智能、先知科技、Redefine Innovation

台灣的半導體製造業近年愈來愈搶手，不過若要轉型智慧製造，因為這樣的明星展業技術獨步全球，卻也造成國際上可以直接套用的方案稀少，讓這三位創辦人想要貢獻自己在國際大廠的經驗與知識，從台灣尖端的半導體領域出發，讓所有製造業都能夠進入智慧製造的時代。

曾任職於 ASML、IBM/SAP、台積電，這些科技業赫赫有名的大公司，為什麼會「頭去撞到」跑去創業？Redefine Innovation 的創辦人 Vince、杰倫智能的共同創辦人暨執行長 Jerry、先知科技的創辦人高季安，在先前的工作經驗中，看到了台灣 AI 產業的潛力，跳脫人人稱羨的舒適圈，分別創立協助製造業不同階段所需的 AI 技術的新創公司。後來更將彼此的專業結合，組成「AI 新創的 A Team」。

「既然台灣的高科技製造業已經走到全世界的頂端，在 AI 剛萌芽的初期，我們乾脆在台灣做這樣的產品。」

Jerry 說起當初創業的原因，三個人都從過往經驗中，發現台灣半導體產業的技術與資源優勢，並希望把這樣的技術帶出半導體產業，協助更多企業。

在國際趨勢中看到台灣製造智慧化潛力

曾任職於 ASML 的 Redefine Innovation 創辦人 Vince 表示，在 2020 年底從 ASML 荷蘭總部回到台灣，發現台灣半導體產業已經研發非常多好用的技術和科技。因為希望把這些投入許多資金和人才所研發出來的技術發展到其他產業，讓其他產業不用再花那麼多資源重新做一次，於是創立了 Redefine Innovation。

杰倫智能的共同創辦人暨執行長 Jerry，擁有 20 年在外商軟體公司，如 IBM、SAP 等，服務的經驗。當初主要是把國外比較好的企業系統軟體，帶進大中華與台灣，協助高科技製造業在管理、製造可以做得更好。然而，在 2017 年市場對 AI 技術認識還很初期，他發現 AI 的新產品不好賣，客戶會認為沒有那麼適合他們，或是買回去用起來很不順，需要花很多的資源再去客製。

那時的 Jerry 和夥伴一起問了許多高科技的前輩，收集到一個結論：之所以會發生這樣的問題，是因為 20 年前高科技製造業是以國外營運跟製造為基準。但現在台灣的高科技製造業已經走到供應鏈的頂端，因此台灣的製造跟營運有自己的獨特性，沒有辦法像之前一樣直接照著國外的模板來使用。於是在前輩的鼓勵之下，Jerry 和在外商的兄弟帶著軟體專業，一起創辦了杰倫智能。

先知科技的創辦人高季安，在台積電時負責自動化、智慧化和人工智慧的發展。在台積電跟成大鄭芳田老師合作 AI 專案的機緣下，高季安便跟著鄭老師念了博士。在讀博士的期間，覺得台積電把這些智慧製造、AI 的技術發展得很好，如果都一直留在台積電太可惜，於是創立先知科技，想把台積電這樣的觀念和理念帶出來，把台灣甚至於全世界製造業，關於智慧製造和 AI 相關的技術和應用帶起來。

三個人共同的想法是既然台灣高科技製造在全球做到頂尖，那有沒有辦法把這些方法透過軟體、透過服務上的一些簡單設計，讓百行百業都可以享受到台灣這麼精華的智慧製造。Jerry 開玩笑說，「我現在客戶有做晶圓的、有做貢丸的。你把它攤開來看其實是一樣的。原料來，製造，最後賣出去。客人覺得貢丸不好吃，或是晶圓有瑕疵、退貨，都是這個流程。所以這就是為什麼我們一直想要做這件事情。假設我們可以把高科技這麼好的方法都複製在百行百業，那麼整個台灣製造業都能提升。當然對我們自己的業績和公司的能見度都會是好的。」

「（團隊名稱）我們有想過啦，就是類似「AI 新創的 A Team」。因為對於 A Team 這種團結、打國家隊的想法其實是蠻喜歡的。」Jerry 說。

高季安表示，要讓 AI 成功在客戶端落地，能夠真的變成一個生活、工作、工廠所需，其實需要三大要素。第一，是一定要有客戶的領域知識，在團隊中負責扮演這個角色的就是 Redefine Innovation。很多時候客戶自己並不知道重要參數是什麼。Vince 也提到，客戶會遇到的問題是收了很多資料，卻不知道要怎麼利用。Redefine Innovation 透過經驗分享，讓客戶知道怎樣快速、不用繞路就把 AI 的潛力發揮出來。

第二，很重要的就是 AI 的演算法，這方面就是靠杰倫智能擅長的 autoML 技術，大幅縮短時間，並且降低客戶跨入 AI 的障礙。因應製造業講求快速的特性，Jerry 更提出「一週 AI 落地，半天上手」的口號。

第三，就是要把這些領域和 AI 演算法落地，而先知科技就是負責在客戶端實作和執行。

靠著彼此的專長，將三間公司組成一個實力堅強的團隊。被問到是否有幫團隊想過團名，Jerry 笑說：「我們有想過啦，就是類似『AI 新創的 A Team』。因為對於 A Team 這種團結、打國家隊的想法其實是蠻喜歡的。」

除了演算法，AI  還需要產業經驗引入門

被問及在 AI 技術逐漸普及的現在，對新出現的 AI 新創競爭者有什麼看法。Jerry 表示 AI 技術本身不是很艱深的事，它應該是每一個人都會的技術。重要的在於每一個人的領域 know-how 加上 AI 產生的新的價值。

當沒有領域知識的時候其實很難和客戶簡報、對談。比方在台積電，如果簡報沒有內容，大概十分鐘就會被趕走，就是這樣的節奏。這也是為什麼他們聚焦的是台灣的重點產業，透過 2、30 年的經驗，其實有一定的領域知識門檻。高季安也說到，重要的是人，AI 在那邊，但人怎麼去使用它這個才是最重要的。

最後，在討論台灣頂尖的公司如何透過 AI 提升競爭力時，高季安認為 AI 扮演的角色是可以取代很多重複性的工作，讓這些人力可以再去做更有創造力的事情。Jerry 補充到 AI 可以規模化傳統老師傅的經驗傳承，現在是應用在製造業，但未來可以運用到更多地方。

舉例來說：最近的奧運，戴資穎可能也是一種老師傅，而他的經驗除了透過教練的方式傳承給新的一代，或許可以透過 AI 的方式留下一些東西，比如訓練標準化的設計。其實現在在台灣有很多製造或研發的節點是「工人智慧」，依靠人力和多年的經驗去做預測和參數的決定，甚至很多時候老師傅會說，這些判斷靠的是一種感覺。但如果透過 AI 把這些東西變成數位化的預測模型，便可以標準化良率跟品質。

高季安則認為 AI 可以解決少子化下人力不足的問題。他提到以前做良率分析，會需要一個課 10-15 個人，花兩個禮拜的時間去搜集資料和分析。後來運用相關的資料的大數據、AI 的技術去做，只要一個工程師按一個鍵，不到 20 分鐘就做完分析，而且準度更準。

最後 Jerry 比喻，未來 AI 就像電影少林足球的最後一幕，每一個人都會少林武功的時候，在工作上可以省很多力氣。未來 AI 的預測模擬最佳化會在很多生活的節點裡面，改善我們的生活品質，或著增強某個產業的競爭門檻。

這裡聽完整訪談：【塞掐 Side Chat】EP 23｜進了人人稱羨的超大企業，為何離職創業？ft. AI 新創 A Team

產官學跨界交鋒！一次看懂AIoT＋數位轉型大商機

2021 INSIDE未來日 AIoT智慧未來 產業轉型最佳解方｜免費線上論壇 歡迎取票！

延伸閱讀：


最新發展：

人工智慧

AI 賽局 AWS 保持優勢的秘密！Anthropic 被亞馬遜投資 40 億美金後 Claude 3 模型對上雲企業有何效益？

在全球擁有數十萬用戶的雲端服務領導業者 AWS 推出之生成式 AI 平台「Amazon Bedrock」推出滿一周年之際，耳熟能詳的 AI 模型如 Stable Diffusion 、 Claude 、 Mistral 、 Llama 陸續登上 Bedrock 。另一方面， AWS 近期完成對 Anthropic 的 40 億美元投資案，這些佈局背後用意，如何讓 AWS 在長期的 AI 軍備競賽當中，保持領先地位？

Photo Credit: TNL Brand Studio

打造三層 AI 蛋糕，中層 Amazon Bedrock 累積超過一萬家客戶

關於這幾年 AWS 在 AI 有哪些具體的投入？ Mark Relph, Director of Generative AI Go-To-Market, Amazon Bedrock 用了一個比喻，他說：「可以想像我們正在打造一個三層的蛋糕，每一層各有不同目的及功能項目。」

Mark 逐一解釋， 最底層的基礎設施，也就是運算、網絡、架構層，舉例來説， AWS 積極發展兩款用來訓練生成式 AI 的訂製晶片，分別是 AWS Trainium 及 AWS Inferentia  ，幫助更多客戶獲得具成本亦得運算能力。另外一個是 AWS 推出全託管的機器學習（ ML ）服務 Amazon SageMaker ，它讓 AI 開發人員和數據科學家的得以快速建構大型語言模型（LLMs）和其他基礎模型（FMs）。

中間層則是模型層， AWS 透過 Amazon Bedrock ，讓用戶可以透過單一 API 建置生成式 AI 應用程式所需的各種廣泛功能，搭配安全、隱私與負責任的 AI ，幫助企業使用熟悉的 AWS 服務，將生成式 AI 功能安全整合並部署到應用程式之中。蛋糕的最上一層則是應用層，針對各種應用程式內建 AI 功能，一方面幫助開發人員生成程式處理的工具，另一方面則針對商業應用，受惠企業以更有效率打造 AI 助手。

其中， Amazon Bedrock 之所以受到各界關注， Mark 解釋，「因為這是一項屬於無伺服器的全託管服務，開發者不用管理管理任何 IT 基礎設備，可以直接透過 API 嘗試使用 Amazon Bedrock 上面的生成式 AI 模型，接著把模型安全整合到對應的應用程式當中。」

目前累積超過一萬家活躍客戶使用 Amazon Bedrock ，這個雲端 AI 模型平台之所以有這麼高的黏著度，很重要的一個因素就是「集結」多個重要 AI 模型。攤開名單，包含 Stable Diffusion 、 Mistral 、 Llama 、 AWS 自家的 Amazon Titan ，以及 AI 新創公司 Anthropic 推出的  Claude 3 系列模型（包含 Sonnet 、 Haiku 、 Opus ），這些模型提供給客戶多種選擇，讓客戶找到最適合自己的基礎模型，應用場景包含但不限於常見一些
用來生成文本、圖像、音訊或是執行對話、摘要總結、文字處理作業等的應用。

Photo Credit: TNL Brand Studio
▲Mark Relph（上）、FOx（下）視訊訪談畫面

AWS 投資 Anthropic 聯手力推 Claude 3 ，讓 AI 模型「混搭」效率大

今年 3 月，亞馬遜宣布完成對 Anthropic 的 40 億美元投資，談到雙方合作契機， Mark 解釋， AWS 與 Anthropic 有共同的目標，就是提供客戶一個快速、安全及負責任地探索生成式 AI 。拆解雙方的進一步合作細節，目前可知 Anthropic 會採用 AWS 的 Trainium 及 Inferentia 晶片，建構、訓練及部署其 AI 模型，而 AWS 也會在 Amazon Bedrock 開放、存取 Anthropic 最先進的 AI 模型權限。

而 Anthropic 打造的 Claude 3 Opus ，除了登上 Amazon Bedrock 供更多人使用之外， Claude 3 Opus 之所以備受矚目，另一原因是 Claude 3 Opus 在今年 3 月在專門盲測大型語言模型（ LLM ）能力的 LMSYS Chatbot Arena 排行榜上（資料來源：https://www.ithome.com.tw/news/162023），成功「篡位」拿下冠軍寶座。

根據 Anthropic 測試，處理複雜的開放式問題， Claude 3 Opus 的準確率比 Claude 2.1 提高約兩倍，而且跟其他模型進行特殊知識表現比較，像是研究生水準專家推理、基礎數學等，理解力和熟練度都更為優異。除了有 Claude 3 Opus 的加持， Amazon Bedrock 持續受到歡迎的因素， Mark 給了另一個角度的詮釋。

「我們發現越來越多企業在不同的 AI 模型之間切換，例如用一個模型做文字檔案摘要，接著需要用另一個模型做問題推理及解決，所以他們傾向把模型『串連』在一起，來解決複雜的業務問題。 Amazon Bedrock 正可滿足這樣情境的基礎建設環境，秉持以客戶為中心並從解決問題的角度出發，也是為什麼 Amazon Bedrock 引起客戶共鳴的關鍵，」 Mark 補充道。

除了建置好用的雲端平台環境，從 2023 年開始， AWS 還成立「生成式 AI  創新中心」投入一億美元預算，用來聯結 AWS 平台上的 AI 和機器學習專家與全球客戶，協助構想、設計和推出新的生成式 AI 產品、服務和流程。 AWS 與 Anthropic 內部的合作，也是透過生成式 AI  創新中心的資源，讓更多客戶受惠 Claude 3 系列模型，將 AI 真正普及到各行各業。

把通才 AI 變成公司的專才秘書，負責任 AI 確保企業數據足夠安全

不論是潛力新創公司、領先的成功企業、或是政府組織，前仆後繼成為 Amazon Bedrock 的用戶， AWS 也看到不同產業的生成式 AI 使用情境實際落地。 Mark 提到幾個案例，例如客服部門有 Claude 3 加持，讓人與人的對話過程即時掌握顧客需求，客服同仁可以從 AI 工具獲得文字提示，當下就能完整歸納出給客戶的解答，不僅可減少通話時間又提升對話價值。

除此之外，生成式 AI 還可以在製造業（例如：分析維修手冊提供下次機台需要進修時間）、醫療業（例如：提供該位顧客返家後用藥須注意事項）、金融業（例如：針對該客戶的貸款狀況、提交的財務文件快速指出下一階段業務內容）等領域有所貢獻。

但從上述的情境當中可發現，這類回答往往需要更專業、更適合的答案，而且不能輕易「糊弄」提問者。對此， Cathy Lai, Lead, Service Specialist Team, AWS Taiwan 就提到， Amazon Bedrock 內建負責任 AI（responsible AI） 及 RAG（Retrieval-Augmented Generation） 檢索增強生成功能，可以把大型語言模型從「通才」訓練成「專才」。

不過要把 AI 訓練成專才，當然需要企業內部的知識資料庫內容，包含訓練手冊、技術文件、關鍵數據等資料，藉此讓  RAG 模型內的資訊擷取元件，從新資料來源提取資訊。從而提供給 LLM 使用新的知識及其訓練資料來建立更好的回應，將資料轉換為數值表示並將其儲存在向量資料庫中。此程序建立一個生成式 AI 模型可以理解的知識庫，並使用數學向量計算和表示來計算及確立相關性。因此大語言模型就能更具專業內容和具邏輯性的回答。但企業內部重要資料攸關營業機密，要放到 AI 平台進行模型訓練當然更關注安全性。

對此， Mark 以嚴肅口吻回答，「隱私和安全性。始終是 AWS 最關注也最在意的項目。」目前 Amazon Bedrock 導入防護機制，可設定閾值的內容篩選條件，以篩選涉及仇恨、辱罵、犯罪活動以及提示攻擊等有害內容。同時 Amazon Bedrock 也提供 Guardrails 功能有效實施客製化的安全措施，可以限制大語言模型不提供可能造成財物損失的投資建議等訊息。另外防護機制也會偵測使用者輸入內容和  FM 回應中的個人身分識別資訊（PII）等敏感內容，以保護隱私權。「最後要強調，每家企業的資料不會傳回給 AI 模型供應商，同時 AWS 也絕對不會隨意拿取客戶的資料。」 Cathy 補充道。

展望未來， AWS 會努力尋找用更簡單的方式，給非資工背景的人享受到 AI 效益，甚至自主創建專屬的 AI 應用。 Mark 提到他們有一個「PartyRock」網站（https://partyrock.aws/），底層就是由 Amazon Bedrock 驅動，讓一般大眾在網站根據自身需求（例如希望幫自己的 YouTube 頻道寫腳本）來客製化自己的 AI 應用程式。「可以肯定的是， AWS 將確保提供最好的 AI 工具給我們的客戶，這是永遠不變的承諾！」 Mark 表示。 

爲了提供大衆體驗 Claude 3 及其他部分 Amazon Bedrock 平台大語言模型（LLM）的機會，現在就邀請大家限時免費體驗，每一個在本 AWS 網頁開設的測試帳戶現在不需要綁定信用卡、且享有 24 小時內完全免費，讓你輕鬆一鍵創造實驗環境！

點此即刻享受 AWS 的精彩體驗

點此免費體驗AWS的生成式AI 來建置你的APP

- 禁 止 酒 駕 未 滿 十 八 歲 禁 止 飲 酒 -