關於 AI 的一些雜談

過去兩年來最熱門的話題，就是 AI 人工智慧。除了個人在投資上靠 NVDA TSLA PLTR 這幾支股票翻了倍之外，在工作的部份也是受到需要思考導入 AI 技術的挑戰。

工作的話題分兩個部份來說，首先是我從公司本業分叉出來，透過海關提單進行國際貿易業務開發的系統 i-Trade，目前除了基本的逐月統計、客戶統計、類別統計等功能之外，還有提供進階的市場分析、訂閱新提單和推薦相似買/賣家功能等。

會往海關提單著手，除了 1) 為了找出不要和本業太類似，但是能利用本業的領域知識為公司建立更穩定的營收成長和 2) 本業這部份累積的數據看起來無法使用，但是在可以購買到的數據上是以海關提單最有值得往下開發的潛力。

以一個開發系統來說，第一個步驟已經到了一個結果，以垂直整合來說，我覺得下一個階段要開始進行 Outreach 的工作，也就是整合連絡人的方式，讓使用者可以直接在系統上得到相關職位的連絡方式。不過這個部份就踢到了一塊大鐵板，買家的部份，以網路上主要的供應商，像是 RocketReach、ZoomInfo 等，他們都不能同意將連絡人資訊提供給第三方，也就是說我不能買了之後再轉手，但也沒有得到一個統一的說法為什麼不行。

另一個部份就是賣家的部份，賣家的連絡資訊無法簡單的在網路供應商中找到，可能的原因是這些賣家大多都是來自中國、東南亞的國家，相對要尋找連絡人資訊的難度高上許多。由於目前我還在單兵作戰的階段，這兩個問題看起來都還不是我能解決的，就只能先放著看怎麼解決。

那 AI 能幫助我什麼呢？目前的想法是去解決前端功能限制的問題。目前這個服務還是停留在 Web 2.0 的前後端設計，前端能呈現什麼資訊取決於我這個開發者對需求的理解，但是我相信真正在這個業界的使用者，像是採購，業務或是報關行等，他們應該要能從海關提單中攝取出更多有用的資訊。因此，跳脫出前端設計的思維，轉換成對話式的界面，說不定能讓使用者得到他們比較想要的資訊。

目前正在嘗試的，是去實作 Table Question Answering 的機制在 i-Trade 上，簡單的來說是讓使用者發問，由大型語言模型 LLM 理解，並且產生資料庫查詢的語法，在後端查詢後將結果傳給大型語言模型產生回覆給使用者。會採用 Table Question Answering 這種比較限制的作法，主要是因為要串接的海關提單數量是超過四千萬筆，無法透過普通的 RAG 方式進行微調。至於結果會是如何，或許再用一篇新的文章來介紹比較合適。

但是我覺得在目前的時間點，大型語言模型的發展已經到了一個高原期，不需要再等待有跳躍式的進步，反而是應該要基於現在的成果盡快開發有市場區隔的應用，快點拉開和相似競品的差距。這點由美國幾個科技巨頭的 CEO 所發表的言論差不多，Google 的 CEO 也說，透過 Transformer 所能得到的效率已經不會再好了。我是蠻期待接下來軟體能帶來什麼翻天覆地的變化，滿街都是 Palantir 的日子不遠矣？

除了在 i-Trade 這邊的工作之外，另一個在 2025 年的發展應該是在代理人部份會有很大的進展。這部份我自己認為是可以加速公司內工作效率的一個機會。

在資本主義市場，有效率是一個永遠在追求的目標，無論是增加收入(如我開啟了新的領域)或是縮減成本，都能讓公司這個個體得到更多的營收。以我們公司來說，三十年前靠著業務拎著皮箱出國尋找機會，在台灣尋訪合作的代工廠；二十年前領先同業引進了 ERP 系統(但我對這個封閉的台灣公司甚有微詞)將工作數位化，適時的縮減了不必要的人力維持高營業額低毛利，養活了公司活了下來。十年前開始設立官網接觸除了熟悉的美國市場外的客戶。

我的理解，有效率的作法，就是要自動化。自動化能在我們睡著的時候還持續工作，就像是資產一樣，無時無刻都能自我成長。以我們公司來說，十年前的動作就是把行銷自動化的一個步驟，二十年前引入 ERP 系統也是。但是自動化要能往下一步的關鍵是要能產出數據，有了足夠的數據才能做為自動化的燃料，但是我認為行銷的部份欠缺，在 ERP 系統的部份也是。

那是否是表示就沒有可以再進步的空間呢？我是沒有這麼的悲觀，在看到代理人 Agentic AI 之後，我覺得在工作流程端會有很大的變化。但這只是我的一個想法，以接單流程來說，收到客戶來信，業務向工廠取得確認的報價，在 ERP 系統上產生報價單或是成交確認書，收到客戶的回覆之後就進入生產流程。

以上所有的流程，除了我們有些工廠還是用電話或是傳真報價之外，大多數的平台都是使用瀏覽器，收信，上 ERP 系統產生文件等。現在許多代理人已經開始在 Window/瀏覽器上運作，我認為可能在未來的一年左右，業務收到信之後就可以直接讓 Gmail 產生合適的回覆，等業務選定回覆傳送之後，就會自動到下一步的採購環節，向工廠發送採購單等。這部份的效率應該會大幅度的進步，也能類推到定艙、修改訂單等。十分期待這樣子的未來，空出來的人力，就能協助公司開發更多的客戶，形成正向的循環。

或許這樣子的未來很美好，但是需要一些智慧，選擇合適的工具，還有勇氣去打破現在的流程，雖然有一些痛苦，但我覺得得到的成果會讓人驚豔的。