在《人工智慧在產業的應用-AI 智慧客服系統》這篇文章中，我分享了「AI 智慧客服系統」的產品開發經驗，並提到透過 LLM 技術來優化客戶問答系統的可能性。在這個過程中，我進一步發現，LLM 不僅能應用於客服對話，還可以在專業數據的解讀和分析上發揮重要作用，這啟發了我另外的想法，透過 LLM 來產生專業報表分析工具的思路。
商業智慧（Business Intelligence，BI）一直是企業決策的重要工具，透過數據探勘、分析及視覺化，企業得以掌握營運狀況。然而，隨著 AI 技術的快速發展，BI 系統迎來了新一輪的升級。特別是在大數據分析、時序數據處理和市場預測中，AI 能夠提高數據的準確性和預測的精度，讓企業能夠更迅速地應對市場變化，進而提升競爭力。
不過，除了數據分析與預測，BI 最大的挑戰在於如何從數據中提取有價值的「洞見」。這往往是數據分析師或資料科學家通過專業知識進行的工作，然而許多中小型企業並不具備這些專業資源與人力，甚至購買了 BI 工具或服務後，也面臨數據解讀的瓶頸。
以我之前服務的旅宿業為例，大多數經營者依賴「經驗」進行決策，對於收益管理的相關理論可能只是一知半解。雖然統計分析數據可以提供一些指引，但數據背後的策略可行性卻常常難以解讀。這正是多數產業都面臨的一大難題。
LLM 技術為這個困境提供了一個突破口。在 LLM 技術中，提示詞（Prompt）是關鍵。提示詞的設計影響 LLM 如何解讀輸入數據並生成有意義的回應。然而，LLM 也會出現「幻覺」（Hallucinations），即當 LLM 缺少對應資料時，它會生成不準確的答案（畢竟它就是一個文字接龍）。這常常讓初次使用者感到失望。
透過精心設計與不斷修正的提示詞，我嘗試將 LLM 應用於數據解讀中，並取得了一定的成果。雖然 LLM 對於處理過於複雜的數據存在挑戰，但通過分層彙整數據、簡化數字資訊後，再引導 LLM，能夠生成具有參考價值的策略建議。
前置研究裡我進行了超過兩百次的數據分析實驗，並不斷調整提示詞來觀察 LLM 的反應。當確認 LLM 能夠提供具有參考價值的數據解讀後，我們的團隊開始開發一個專業報表分析系統，通過預先設置的提示詞餵給 LLM 並保留其輸出結果，再進行人工審查，確保數據解讀的準確性。