擘劃 AI 前沿

Tom Godden：
Hello.歡迎收看由 AWS 為您帶來的 Executive Insights 播客。我是 Tom Godden。我是 AWS 的企業策略總監。今天我們很高興邀請到 Matt Fitzpatrick。

Matt，非常感謝你參加今天的對談。

Matt Fitzpatrick：
感謝您的邀請。

Tom Godden：
非常感謝。你可以簡單介紹一下嗎？ 談談你在麥肯錫的角色，還有關於 Quantum Black Labs 的工作。我真喜歡這個名字。

Matt Fitzpatrick：
你可以把 McKinsey Engineering 廣義地理解為，我們有幾千位工程師駐點在客戶現場，負責建立模型、開發技術。而 Quantum Black Labs 則是支援這整個流程的技術開發團隊。

舉例來說，不論是用來提升顧客留存率的模型，還是推薦引擎，都涵蓋在內。任何可以被視為以模型為核心、用來輔助決策的軟體介面，都是我們的工作範疇。以生成式 AI 來說，這可能就像聊天機器人那樣，這正是我們 Quantum Black 團隊的工作重點。

而 Quantum Black Labs 則專注於打造支援這些前線工程師的工具與產品開發。

Tom Godden：
你現在在麥肯錫應該看到很多 AI 方面的發展。我們的客戶也總是能從這些見解中受益良多。我自己也常追蹤麥肯錫的研究來獲得靈感。那你認為目前 AI 領域最受關注的是什麼？

Matt Fitzpatrick：
是的，我覺得過去兩年真的非常有趣。很明顯，AI 現在已經成為大家關注的焦點。幾乎每天都是新聞頭條，出現在每份報紙的頭版。

Tom Godden：
AI 是最受矚目的熱門話題。

Matt Fitzpatrick：
但我認為實際情況比大家預期的要更具挑戰性。很多人一開始以為 AI 就像是安裝一套新的 ERP 系統，只要裝上去就能運作。但實際上，AI 更像需要不斷試驗和摸索的…

Tom Godden：
訓練。

Matt Fitzpatrick：
訓練。所以，許多傳統的非技術性組織，這些組織過去只是使用軟體，偶爾使用一些模型，現在都試圖轉型成為更具技術性的開發團隊。這代表他們將處於完全不同的情況。二十五年前，沒有人會用自己的主機建立專屬軟體，因為那非常困難。但我認為，在這種背景下，當你考慮利用所有可以組合的不同技術，來使用像生成式 AI 模型那樣的工具，這過程與大多數企業或《財富 5000》公司以往的經驗截然不同。根據我們看到的數據，目前大約 92% 的模型無法成功投入生產。

Tom Godden：
真的？

Matt Fitzpatrick：
現在只有約 8% 的建設成果投入使用。我認為對於大多數傳統公司來說，這個調整過程非常艱難。

Tom Godden：
那麼讓我們深入探討一下，這背後有哪些挑戰呢？ 是什麼阻礙了人們將這個比例從 8% 提高到 80% 呢？

Matt Fitzpatrick：
我認為這背後有幾個原因。我認為最明顯的問題是在生成式 AI 中的「幻覺」問題。在機器學習中，相對來說簡單一些。你可以說：「這是我的相依變數，這是我需要的準確度」，然後你就可以放心運用這項技術。但在生成式 AI 的情境中，如果你決定建立一個模型，這個模型可能沒有明確的定義，比如說一個聊天機器人，用來討論某人想訂購哪種咖啡。定義「好的結果」實際上是相當困難的。

Tom Godden：
對。聽起來很容易。

Matt Fitzpatrick：
我認為，許多組織如果有一百個試點計劃，他們並不確定該如何定義「這個可以進入生產階段，這個是有效的」的標準。 因此，我認為這個定義非常重要，說明「我要衡量的 KPI 是這個，並且我會設定邊界進行測試，確保自己對結果有信心且沒有風險。」 我認為這是最大的挑戰。而且，你也看到了一些非常引人注目的公共問題，像是一些組織發布的聊天機器人做出了相當尷尬的事情。所以我認為這無疑是最大的挑戰。

Tom Godden：
我認為人們在這方面的擔憂很合理，雖然有些反應過度。但確實沒人想成為社交媒體或《華爾街日報》頭版上被人討論的公司。

Matt Fitzpatrick：
完全同意。順便提一下，有趣的是，其實有一些方法可以在相當高的確信下進行，確保你已經有效地管理了風險。這意味著你需要為那些可能涉及偏見或有害內容的部分設置防護機制。你可以設置防護機制，並且可以說：「看，這是我期望的結果，是這個範圍內的推薦。」 或者，如果你需要提出像是建議購買某個產品或定價的建議，你其實可以使用一個非常可審計、清晰且透明的機器學習模型來進行管理，然後讓大型語言模型作為包裝層，成為圍繞這些建議的對話性包裝。

在這種模式下，風險非常小。你清楚你的建議會是什麼，也知道你可以設置防護機制，確保它不會說出任何令人擔憂的內容。但問題是，對於那些從來沒有建立過這類系統的組織來說，這樣的學習曲線是非常陡峭的。

我認為這背後的另一個挑戰在於，它需要組織進行大量的變革，去適應「測試與學習」的模式。 而這正是這整件事中最難的部分之一。我認為大多數正在建構技術的組織，希望能在六個月內能看到一個可預期的成果，並且能夠確定系統是如何運作的。

Tom Godden：
這就是特別之處，因為這就像是一個有生命、會呼吸的系統，它會隨著輸入和互動的資料不斷演化與改變。我認為你說得很對，這種思維模式對許多人來說非常陌生，這很合理。我的意思是，這是可以理解的，但接著他們可能會有些慌張，不知道該如何應對。

Matt Fitzpatrick：
沒錯。我認為，如果你一直在一個軟體穩定運作、或是模型高度可預測的環境中運作，比如基本的統計模型，然後突然要轉向「測試與學習」的模式，那確實不是一件容易的事。

Tom Godden：
那會完全顛覆你的想像。

Matt Fitzpatrick：
想想看，即使是一些用來賦能第一線人員的應用，比如 Salesforce 的業務代表或客服中心的接線員，他們必須根據一個可能一開始並不完美的建議來做出決策。光是這樣就已經很困難了。有趣的是，如果你能夠習慣這樣的運作方式，並且在正式上線前做好適當的訓練與測試，那最終就能達到非常好的成果。但問題是，大多數組織並沒有這樣的能力或習慣。

Tom Godden：
我來帶回一點話題。我們談到了幾個挑戰，稍後我們會繼續討論，但現在讓我們來談談機會。你看到哪些公司正在積極投入並採取行動？ 有什麼令人興奮的事情？ 另外，Matt，簡單的成功點在哪裡？ 我的意思是，說說成功的案例。這個成功是什麼？

Matt Fitzpatrick：
我認為我們會在五到十年後回顧，發現前兩年比人們預期的要更加艱難，但從現在到十年後的變化，將會在很多方面超出人們的預期。我認為如果你從幾個不同的維度來看，比如編程和軟體開發，我認為…

Tom Godden：
這是個值得深入探討的使用案例。

Matt Fitzpatrick：
是的，想想看，五年或八年前，如果你想創立一家公司並開發一個應用程式，你必須找到人來幫你建設一個網頁，這其實是一件相當痛苦的事情。像是文字轉 HTML、文字轉 SQL 之類的概念，將大幅度地讓新技術開發的門檻變得更加普及。

我認為這對社會來說將是一個非常積極的變化，對任何想創業的人來說，這都是一個好機會。這也會讓工程師變得更加有效率。我的意思是，我們已經看到有許多工程師在開發時大量使用生成式 AI。與只能透過搜尋的程式碼庫相比，這在很多方面更有效率。所以我認為我們已經處於軟體開發改進的第三階段。但我認為這是一個巨大的…在我看來，這將是未來幾年內，影響最大的領域。

Tom Godden：
我喜歡這一點，不僅是因為生成式 AI 會立即帶來價值，還能激發開發人員的思維。當開發人員開始使用生成式 AI 作為編程助手時，他們會想：「我能不能也用它來改善客戶服務呢？」 這也表明我們所談論的是增強個人能力，而不是取代他們。所以我認為，將這些概念融合在一起，你就能獲得編程的好處和價值。我的意思是，這感覺簡直是「天啊，這太棒了！」

Matt Fitzpatrick：
完全同意。此外，還要想想全球範圍內存在的數兆美元的舊有軟體系統。再想想那些擁有二十年歷史、以舊有程式庫為基礎構建的老系統，對那些組織來說會有多痛苦…

Tom Godden：
我可以從這個版本的 dot-net 升級到下一個版本嗎？

Matt Fitzpatrick：
這對你的客戶來說會是一個糟糕的體驗。對你的員工來說也是一個糟糕的體驗。想像一下…

Tom Godden：
這沒有區別，對嗎？ 這只不過是你必須完成的工作，讓你能夠開始處理真正重要的事情。

Matt Fitzpatrick：
我認為，如果你考慮到數位時代的背景，這也是許多公司無法真正向數位化邁進的原因之一，就是這些龐大的舊有程式碼基礎。

因此，我認為如果能夠進入一個更有效率地現代化舊有系統的世界，並讓你的組織能夠更具數位化優先的思維，這將對於讓更多傳統企業變得更像科技公司產生巨大影響。我確實認為這將會對企業運作方式帶來正面的變革。因為任何擁有三十年歷史系統並試圖依賴它來營運的人，都知道重構這樣的系統是一個極其痛苦的過程。

我認為另一個重要的領域是客戶體驗。任何與客戶接觸的過程，像是呼叫中心、外發郵件、外發簡訊等。現在這些流程通常都相當痛苦。

舉例來說，我們可以看到，大多數呼叫中心的客戶滿意度分數都不盡理想。大多數人並不喜歡在電話中等待 25 分鐘的體驗。想像一個世界，當你打電話到呼叫中心時，不再是只有單一的選擇流程，讓你只能討論帳單或服務，而是可以進行對話，並解決問題。這將會大大減少你在客服中心等待的時間。

而且，你與客戶聯繫的能力，也將會帶來一個重大的變革。現在，如果你發送出發電子郵件，大多數情況下都是關於某事件的標準格式信。但想像一下，如果這些郵件能掌握收件人帳戶的相關資訊，它就能真正提供一個量身打造的專屬優惠。我認為這將是非常有意義的改變。

另一個我認為同樣非常關鍵的領域，就是知識管理。想像任何一個擁有龐大資料量的組織，不論是理賠處理公司，或是汽車維修業者，他們往往擁有大量分散在各處的資訊，但這些資料並沒有被妥善地整理或結構化。因此，很多時候每當要完成某件事時，都得從頭開始。而且可以說，這些組織幾乎沒有任何制度性的記憶可言。我認為這個領域將帶來顯著的轉變，並且會引起許多人的興趣。

Tom Godden：
AWS 官網上有一個很棒的案例，是一間從事電梯、手扶梯等設備的公司，他們在 AWS 上打造了一套出色的 AI 解決方案，能夠回溯過去所有的維修紀錄。所以當你在某個地點嘗試修理這台手扶梯或電梯時，與其每次都從頭開始，不如回頭查閱所有曾經發生過的維修紀錄，來判斷最有效的檢修方式，這樣不是更有效率嗎？ 而這只是其中一個例子，我相信還有很多類似的場景可以善加利用。

Matt Fitzpatrick：
我認為服務電話是這方面最好的例子之一。如果你想想現在地球上幾乎每一間組織是如何處理服務電話的，除非他們擁有一套非常先進的客服中心系統，否則通常都是派一個人去做判斷、做評估，而這個判斷可能對也可能錯，然後這些資訊往往沒有被儲存或再利用。我們整個社會在各種服務現場經常面對因為判斷錯誤而產生的不必要痛點。我認為，這方面的改善將會是非常正面的發展。

Tom Godden：
我們在 2023 年和 2024 年經歷了生成式 AI 的熱潮，充滿了興奮，但也有一些隨之而來的過度炒作。我相信，並且我認為我們在 AWS 這裡堅信，隨著時間的推移，我們將會看到幾乎每一個應用程式都會被 AI 和生成式 AI 增強。但在這樣的背景下，我們該如何幫助領導者在提出生成式 AI 的商業案例時保持理性，以免過度誇大其詞？ 這樣他們才能找到正確的價值。你會如何建議人們在這方面繼續前進呢？

Matt Fitzpatrick：
這也稍微能解釋為什麼現在只有 8% 的人成功實施這項技術。我確實認為，成功的不確定性是商業案例開發過程中棘手的部分。我的意思是，假設你想安裝一個新的軟體系統來處理某個流程，比如報銷流程。 現在你會建立一個商業案例，並且你會清楚知道該系統將執行的具體工作流程，並對此有很高的信心。因此，為這樣的情況建立商業案例是一個非常簡單的過程。但假設你的商業案例是圍繞著 12 個不同的事項來構建，而這些事項都能在你的組織內使用…

Tom Godden：
就像是求解 N。

Matt Fitzpatrick：
其中五個可能有效，七個可能無效。我認為你其實需要改變商業案例的開發方式，讓它更像風險投資。我不認為這代表只有十分之一的案例會成功。我認為這代表你必須對實驗保持開放的態度，嘗試 10 個、12 個、14 個不同的方案，隨著時間推移，在第一批中，你會有五個成功的方案。在接下來的批次中，你會有 10 個成功的方案。而且，你也不會投入大量資金來開發每一個方案。

我的想法是，以知識管理為例，你用來處理服務呼叫的數據，可能也可以用於聯絡中心，還可以用於生成有關通話過程的文件，類似這些用途。這樣一來，你最終會得到 5、6、7 個與你成功建立的案例相關聯的使用情境。

Tom Godden：
我很喜歡這樣。我經常建議人們這麼做，先運用文件摘要使用案例，再將其運用在人力資源部門或財務部門。你可能需要稍微調整並訓練模型，但你已經完成了 80% 或 90% 的工作。

Matt Fitzpatrick：
這一直是商業案例中最難的部分。你不再採用那種需要兩年時間的模式，並且是一個龐大的商業案例，最終完成後就結束了。而比較像一種模式：「我需要為這個使用情境收集四個不同的數據組件。」這些數據組件都是模組化的，我可以將它們用於其他四個使用情境。所以實際上我的商業案例開發是：「這是否值得？我將建立足夠的能力，並且能夠證明啟動是合理的，因為它將對許多事情反覆有用。」隨著時間推移，無論是三年還是五年，你的投資將會帶來多倍的回報。只是這些回報可能不會出現在第一個項目上。

Tom Godden：
Matt，假設我是一位 CIO，作為一位前 CIO，這對我來說並不難假裝。假設我現在面臨一種情況，我希望擁有一個非常獨特、量身定制的方案，但又希望它能夠便宜，對吧？ 這不是我們常常面對的情況嗎？ 麥肯錫是如何看待這件事，並如何建議人們在自建與購買之間做選擇呢？ 當你選擇自建時，你可以進行定制。但成本會高得多。當你選擇購買時，理論上成本較低，但定制化程度較低。作為 CIO，我現在進退兩難。幫幫我吧。你會給我什麼建議？

Matt Fitzpatrick：
是的，我的看法是，其實「自建」與「購買」的定義在我們作為技術組織的思考方式中，已經變得非常偏頗。我的意思是十年前，「自建」與「購買」的定義是，購買就是我從貨架上拿下來的東西，它能夠運作，並且有固定的價格。而在自建的情況下，我就需要搭建一台大型主機。我得從頭開始編寫大部分的程式碼，這通常是在大約十五年前的情況，但…

Tom Godden：
全部自建。

Matt Fitzpatrick：
你真的在從零開始建造某個東西，而你的投資將會非常龐大。

Tom Godden：
很感謝你這麼說，因為這有點像是 AWS 的策略。幫助你減少那些沒有差異化的繁重工作。

Matt Fitzpatrick：
如果我從一個更廣泛的角度來看，不針對任何特定的技術提供商，現今的「自建」代表我啟動一個雲端執行個體。我使用各種模組化的元件。我從 GitHub 提取程式碼和包含資訊的程式碼庫。我從六、七個不同的現成元件中挑選，這些元件讓我能以十年前的一小部分的成本搭建起來，而且對我的組織非常有用且是量身打造的。

三年前，我曾與一位客戶合作，他們在考慮是否購買一個現成的系統。他們是一家大型資產管理公司，需要重建他們的信用系統。他們在猶豫該購買一個現成的信用平台，還是自己開發一個？ 這並不是一家科技公司，十年前，建造一個信用平台的想法簡直是異想天開。

Tom Godden：
警鐘已經響起。

Matt Fitzpatrick：
但當他們仔細分析後，最終發現，若要購買這個現成系統，我需要投入相當大的資金來自訂資料架構，才能使其能夠與現成的信用平台相匹配。接著，我還需要設計符合需求的界面…他們當時有一個自家開發的系統，正打算用現成系統來取代。然而，要將現成系統自訂成他們所需要的樣子，將需要大量的投資。將資料對應到這個系統也需要投入大量的資金。因此，當他們完成這些工作時…

Tom Godden：
最終目標是什麼？

Matt Fitzpatrick：
他們基本上是在這種現成的系統上構建一個全新的系統。因此，他們的另一個選擇是利用現有的所有現代工具，包括現代資料工具、雲端基礎設施等，直接搭建一個系統。而實際上，這樣做竟然比使用現成系統還不更貴，這真是令人驚訝。

而且我們現在越來越常看到這樣的情況。我認為生成式 AI 會大大加速這個趨勢，因為我非常欣賞生成式 AI 生態系統的一點，就是各種應用之間的高度互通性。沒有人在開發這些技術時會說：「你只能用我們家的。」 大家都在強調，你可以自由選擇最優秀的工具參與其中。所以只要有新的技術出現，你就能夠無縫接軌、立即參與其中。所以問題就在於，如果你今天建立了一個新的信用應用系統，選擇購買了一套現成方案，但之後有某個有趣的生成式 AI 工具問世，你就無法使用它。實際上，使用那種已有十年歷史的現成信用平台，會產生比你自行打造一套現代化、可互操作、可持續更新的技術架構還要更多的技術負債，後者反而能讓你靈活使用各種最新的元件。

我必須說，現在能夠並且願意自行開發系統的公司，數量比五年前高出非常多。而這一切都要歸功於雲端和基礎設施的投入，讓開發速度變得大幅加快。

Tom Godden：
所以 Matt，你參與過許多轉型，帶領過很多，也見識過不少。麥肯錫經常談到，為了能夠應對這些變革，需要對組織進行重構。你觀察到，面對生成式 AI 的發展，哪些文化層面的成功模式可以幫助企業順利轉型並取得成功？

Matt Fitzpatrick：
我認為有幾個關鍵因素對此至關重要。其中之一就是要非常清楚哪些使用案例真正重要並能帶來實質改變。我再次強調，如果回顧十年前的情況，當時技術團隊和業務團隊之間的溝通並不順暢，那肯定會導致失敗。你需要對自己的願景有清晰的認識。 我將嘗試哪十個使用案例？我的技術團隊和業務團隊將如何合作進行測試和學習？ 這整個過程是一項全新的能力。我認為現在最受關注的技能是所謂的「翻譯者技能」，也就是那些既懂數位技術又能理解業務的人。舉例來說，我曾與許多房地產客戶合作，能夠同時理解技術和房地產行業的人，比只懂其中一方的人要有價值得多。

我認為，你需要建立技術團隊與業務團隊之間的聯繫，這樣所建構的系統才能夠可行並且符合業務使用者的需求。所以我認為，翻譯者技能變得非常重要。

我也認為，你必須多思考再技能培訓，或至少提升你工程團隊的技術能力。比如說，如果你的工程團隊不懂如何使用 Python，甚至像 Rust 這些較新的技術，那麼要利用許多現代化的生成式 AI 工具就會變得更加困難。因此，這可能會導致需要進行重新訓練、再技能培訓，或者招聘新員工，但你勢必需要增強你傳統的工程團隊。

Tom Godden：
你剛才提到，十年後我們會更深入地回顧這最初的兩年。十年後的我們會身處何處？ 我們將前往何方？

Matt Fitzpatrick：
這是一個我認為值得抱持正面看法的觀點。儘管對於十年後會是什麼樣子確實存在不少爭議，但我想從正面角度來談談。

我們現在花費大量時間在手機上。你想一想自己花在手機上的時間，再加上大家每天都要處理的大量報告與文件，這個數量非常驚人，對吧？ 每個人都有成千上萬份客戶報告、試算表和各種資料，通常每天還會花上一到兩個小時盯著螢幕，而不是關注現實世界。現在想像一個這一切都被取代後的世界。順帶一提，這其中很大一部分其實與我們日常使用的各種應用程式或工具有關，像是用來管理機票預訂，或是生活中各種不同面向的工具。你可能會用不同的應用程式來處理這些事。

現在想像一個不再需要成千上萬應用程式和試算表的世界。就像你戴著某種眼鏡之類的裝置，在現實世界中走動，並開始在眼鏡上看到各種提醒。順帶一提，這些東西其實已經存在了，所以我並不是在說什麼顛覆性的創新。不過，當你再加上一個在你耳邊的虛擬助理時，整個體驗就完全不同了。現在，假設你是在那樣的世界裡擔任 CEO，與其每天瀏覽 17 份不同內容的報告，你只需要讓你的虛擬助理…

Tom Godden：
幫我總結報告。把重點說給我聽。

Matt Fitzpatrick：
你可以說：「給我看一下我在歐洲的銷售數據，依照客戶和這五個維度來切分。」 然後這些資訊就會顯示在你的眼鏡裡。接著你走在路上看到一個有趣的廣告，便問說：「這是誰做的？」 你其實可以與這個世界互動。科幻小說往往是這種景象最好的預測指標，而你在科幻世界中看到的種種跡象…

Tom Godden：
是科幻小說，還是《辛普森家庭》？

Matt Fitzpatrick：
就是這樣。就是這樣。但在科幻作品中，你會看到各種圖書管理員型的角色，或其他可以互動的角色，當你需要資訊時，他們會即時提供你所需的一切。我是以樂觀的態度看待這件事，這樣的未來其實能替所有人每天節省大量時間。想像一下，如果你把現在花在交通上的時間都換成坐在無人駕駛車裡，並且在這個世界中，你隨時都可以要求任何你想要的資訊。這將創造無數用來開創新業務、開發新產品的機會，我認為這非常令人興奮。

Tom Godden：
那麼在結束之前，對於即將踏上這段旅程的人，你有什麼建議嗎？ 你在這方面有很多經驗。你會給他們什麼建議？

Matt Fitzpatrick：
我確實有一個非常具體的建議。我最近讀到一篇有趣的研究，指出隨著生成式 AI 出現，你可以看到人們對計算機科學的興趣有所下降。2006 年之後，人們對計算機科學的興趣確實有一波上升。但隨後出現了悲觀情緒，他們認為人們會對此失去興趣，因為生成式 AI 將解決所有問題。我認為這完全不正確。其實我認為，擁有工程思維的人將會開發出各種方式來利用這項技術。所以我給大家的建議是…

Tom Godden：
我太太聽了會很高興的。

Matt Fitzpatrick：
我對任何想到這一點的人的建議是，思考一下如何學習和深入了解這方面的知識。

無論這代表你是在工作 20 年後，考慮以較年長的身分回去進修，還是你還在上大學，不管情況如何，我認為工程技能將成為一切的核心。即使你不一定親自編寫程式碼，你創造事物的能力也會隨著時間的推移而大大提高。這就是我主要的建議。

Tom Godden：
我非常喜歡參與這樣的對談，因為我總是能學到一些新的東西。今天從你這裡我學到了很多。Matt，非常感謝您參加我們的訪談。不勝感激。

Matt Fitzpatrick：
謝謝你邀請我來，Tom。

立即收聽

立即收聽

立即收聽