Hype Cycle for Artificial Intelligence, 2024
標題：2024年人工智慧炒作週期
來源：https://readwise.io/reader/shared/01j346cwkhtw8xqbazpgy6mx99
發布日期：2024年6月17日
重點摘要：
關鍵洞見
生成式人工智慧（GenAI）雖然仍備受關注，但已度過了過度期待的高峰期。展望2024年，更多價值將來自其他AI技術的專案，這些專案或獨立運作，或與GenAI結合，並具備標準化流程以利實施。為了最大化效益，AI領導者應該整合炒作週期各階段的創新方法，以複合式AI技術為基礎，構建未來的系統架構。
隨著AI專案數量和規模的擴大，連鎖效應開始顯現。因此，治理、風險、所有權、安全性和技術債務的緩解等議題日益受到重視。這些問題正在國家、企業、團隊和個人實踐者層面被積極處理，但即使相關法規已進入成熟階段，整體成熟度仍有很長的路要走。
炒作週期解析
今年炒作週期中最引人注目的兩大變化是AI工程和知識圖譜，凸顯了穩健且大規模處理AI模型的迫切需求。AI工程是大規模部署企業AI解決方案的基礎，這需要全新的團隊組織結構。相較於GenAI使用的深度學習技術具有強大但不可靠的預測能力，知識圖譜則提供了可靠的邏輯和可解釋的推理能力。
處於創新觸發階段的技術包括複合式AI、AI就緒數據、因果AI、決策智慧、AI模擬和多智能體系統。這些反映了將流程和決策自動化推進到單一模型輸出之外，邁向協調的多輪複合服務的growing需求。
在過度期待的頂峰期，負責任的AI、AI TRiSM、提示工程和主權AI等技術凸顯了人們對企業和個人快速採用AI的治理和安全方面日益增長的憂慮。
即將離開頂峰或已進入幻滅低谷的技術包括合成數據、ModelOps、邊緣AI、神經形態計算和智慧型機器人。這些創新雖然仍有發展動力，但實施程度各異，且經常被誤用或對其商業價值抱持過高期望。值得注意的是，神經形態計算和智慧型機器人在過去一年取得顯著進展，顯示出可能快速通過炒作週期剩餘階段的潛力。
雲端AI服務在今年的炒作週期中有所退步，主要是因為大量基於GenAI的雲端AI服務湧入市場。這些服務的供應商和用戶面臨著服務容量、可靠性、模型更新頻率和成本波動等問題，不過這些或許可視為成長過程中的陣痛。
在 Gartner 人工智慧炒作週期的"啟蒙坡度"階段，我們看到一些已經歷多年創新並即將進入主流應用的 AI 技術。儘管在某些領域仍面臨嚴重質疑、法規限制，甚至部分營運許可被撤銷，自動駕駛車輛的使用在一些地區仍有所增加。由生成式人工智慧（GenAI）驅動的智慧型應用程式已開始進入職場，但要客觀量化其對生產力的影響還需要更多時間。
今年的炒作週期新增了量子 AI、實體化 AI 和主權 AI 等項目，這反映了企業和政府開始應對 AI 主導未來的潛力和風險。
優先度矩陣
相較於其他許多炒作週期，本次週期的特點是有大量具有變革性或高度效益的創新，沒有中等效益的創新，僅有一項低效益的創新。
Gartner 預測，在未來兩年內，複合 AI（結合多種 AI 技術的方法）將成為開發 AI 系統的標準方法，並將被廣泛採用。另一項變革性創新——電腦視覺，已經通過智慧型裝置在消費市場得到廣泛應用。
在距離主流採用還有兩到五年的創新中，特別值得關注的包括決策智慧、實體化 AI、基礎模型、生成式 AI、智慧型應用程式和負責任的 AI。及早採用這些技術將帶來顯著的競爭優勢，並有助於解決在業務流程中使用 AI 模型所面臨的挑戰。
在距離主流採用還有五到十年的創新中，神經形態運算（模仿人腦神經元運作的計算方式）可能為全新的 AI 架構開闢道路。這項技術的進一步發展將仰賴新思想和創業企業的湧入。
AI 領導者應在戰略性探索潛在變革性或高度效益的創新，以及調查那些已經商品化、不需要深厚工程或數據科學專業知識的創新之間取得平衡。後者包括獨立應用程式和整合式商業解決方案中的 AI 組件。
表 1：2024 年人工智慧優先度矩陣
效益
距離主流採用的時間
2 年以內
退出炒作週期
以下創新已從今年的炒作週期中移除：
操作型 AI 系統：被 AI 工程所取代。
數據標記和註釋：因與 2024 年數據科學和機器學習炒作週期更相關而移除。
AI 製作和教學工具包：由於缺乏市場熱度而移除。
崛起中
自主系統
分析者： Erick Brethenoux, Nick Jones
效益評級： 變革性
市場滲透率： 不到目標受眾的 1%
成熟度：新興
定義：
自治系統是能夠自我管理的物理或軟體系統，在特定領域內執行任務，具備三個基本特徵：自主性（無需外部協助即可獨立做出決策並執行任務）；學習能力（根據經驗、環境變化或目標調整自身行為和內部運作）；以及主動性（具有對自身狀態和目的的認知，引導學習方向和內容，並能夠獨立行動）。
為何重要
自治系統正成為一個重要趨勢，因為它們能實現傳統人工智慧（AI）技術難以達成的業務適應性、靈活性和敏捷性。在操作環境難以預測且實時監控和控制不切實際的情況下，自治系統的靈活性尤為寶貴。此外，當某項任務可以通過學習掌握，但缺乏明確的算法（複合人工智慧）來實現時，自治系統的學習能力就顯得格外重要。
對業務的影響
自治系統在以下情況下特別有效：
運用複合人工智慧技術的常規自動化不足，或使用固定訓練數據不切實際或缺乏靈活性。
提供即時人工指導不可行，或無法預料訓練條件。
無法精確編程學習算法，但任務可持續學習。
任務或環境持續或快速變化，導致機器學習系統頻繁重新訓練和測試成本過高或耗時過長。
推動因素
自治系統是三個階段發展的culmination：
自動化系統是一個極為成熟的概念。它們執行明確定義的任務，具有固定的確定性行為（如汽車生產線上的焊接機器人）。越來越多使用 AI 技術的自動化應用為自治系統奠定了堅實基礎。
自主系統超越了簡單的自動化，增加了獨立行為。它們可能表現出一定程度的適應性行為，但主要受算法控制（如自動駕駛汽車或波士頓動力公司（Boston Dynamics）的 Spot 機器人，其整體路線和目標由遠程操作員設定，但在特定任務上具有相當大的本地自主性）。適應性 AI 能力是自治系統的必要基礎，有望加速自治系統的採用。
自治系統通過學習和自我修改算法展示適應性行為。例如，愛立信（Ericsson）已經展示了使用強化學習（一種通過試錯來學習的 AI 技術）和數字孿生（物理實體的虛擬複製品）技術來創建一個動態優化 5G 網絡性能的自治系統，同時創建優化規則。這一趨勢正在證明此類系統的可行性。對於謹慎界定範圍的自治系統進行早期學習和實踐，將有助於建立對它們獨立運作能力的信心。
自主行為是一個廣泛的範疇。舉例來說，聊天機器人從網路討論中學習；串流服務了解你喜好的內容；送貨機器人共享路徑和障礙物資訊以優化車隊路線。具備學習和調適行為能力的系統，其優勢將變得愈發吸引人。
基於代理的系統正經歷一波採用浪潮，這主要是由於現有應用程式日益複雜，以及大型行動模型的出現所推動。
目前，學術界正在進行大量關於自主系統的研究，這將促使其更廣泛地應用。
不確定性： 持續學習和適應行為的系統本質上難以預測。這對於可能不理解系統運作方式和原因的員工和客戶來說，將帶來諸如法律等方面的挑戰。
不成熟： 在自主系統成為主流之前，相關領域的專業技能將相當缺乏。可能需要新型的專業服務（如自主業務技能）。
社會疑慮： 當系統與人互動時，不當行為、不可預測性或理解不足可能引發公眾抵制。
數位倫理與安全： 自主系統需要完善的架構和安全限制，以防止在無人監督的情況下學習到不當、危險、不道德甚至違法的行為。
法律責任： 自主系統供應商可能難以為其行為承擔全部責任，因為系統的表現取決於既定目標、運作環境以及學習內容。
用戶建議
首先累積自主系統的實際經驗，以了解組織在法律、技術和文化方面的限制和要求。在早期採用能為軟體或實體系統帶來靈活性和效能提升的情況下，試行自主技術。
透過分析部署自主系統可能帶來的商業、法律和道德影響來管理風險，特別是考慮到這些系統部分具有不可預測性。建議成立一個跨領域專家小組來執行這項任務。
為了最大化自主技術的效益，建議在複雜且快速變化的環境中進行試點，特別是在那些早期採用能為軟體或實體系統帶來靈活性和效能提升的場景。
樣本供應商
Gartner 推薦閱讀
分析師： Chirag Dekate, Soyeb Barot
效益評級： 低
市場滲透率： 不到1%的目標受眾
成熟度： 萌芽期
定義：
量子人工智慧（quantum AI）是一個在量子技術與 AI 交會處萌芽的研究領域。量子 AI 旨在運用量子力學的獨特性質，開發出比傳統計算更強大、效能更佳的全新 AI 演算法，有望催生專為量子系統設計的嶄新 AI 演算法。
重要性
量子 AI 是當前備受關注的研究領域。一旦實現商業化，量子 AI 可能帶來以下效益：
讓組織能夠利用量子系統，以遠少於傳統 AI 超級運算資源的成本，更快速地進行高階 AI 分析。
開發出利用量子力學原理的新型 AI 演算法，實現超越傳統系統的能力。
在藥物研發、能源產業和物流等領域unlock顛覆性應用。
商業影響力
儘管目前量子 AI 這個新興領域的商業影響力有限，但隨著相關技術的成熟和驗證，量子 AI 將為各行業帶來競爭優勢，例如：
生命科學： 縮短研發時程、降低成本並提升成果，徹底改變藥物研發流程。
金融： 優化投資組合、降低風險並強化詐欺偵測系統。
材料科學： 發現能revolutionize能源運輸和製造業的新材料，創造新的營收來源。
量子技術的熱潮正推動更多企業和研究人員探索量子與 AI 的結合。
量子系統創新速度加快（包括更多高品質 qubit、更穩定可靠的量子系統），激發了人們對量子 AI 等應用領域的興趣。
量子運算即服務的普及降低了入門門檻，促進研究人員之間的合作，並推動新演算法和技術的探索。
全球政府和企業正加大對量子（包括量子 AI）研究的資金投入，加速創新進程。
生成式 AI 熱潮的連帶效應正引發人們對包括量子 AI 在內的替代研究方法的新關注，這些方法可能帶來全新的顛覆性成果。
大學和培訓機構正在開發課程，培養適應量子時代的人才。
硬體限制： 儘管現今的量子系統穩定性有所提升，但仍易出錯且內含雜訊，這限制了其在實用量子人工智慧（AI）領域的應用和影響力。
演算法侷限： 雖然已有多種量子AI演算法被提出，但經過嚴格審查和驗證的寥寥無幾，距離企業級應用仍有相當距離。
成本因素： 雖然用途有限但可及性較廣的噪聲中級規模量子（NISQ）系統發展迅速，但其相對高昂的成本可能會阻礙量子AI演算法所需的研發工作。
系統擴展性： 將量子系統擴展到足以支援企業級量子AI的規模，仍是一個重大的技術挑戰。
計算模式差異： 將傳統數據和分析流程與量子系統整合本質上極具挑戰性，因為量子系統在數據表示和計算方式（非馮·諾伊曼模型）上採用了截然不同的運作模式。
專家建議
優先投資於AI和生成式AI，而非量子AI。量子AI仍處於起步階段，短期內不宜進行重點投資，且在未來兩到三年內難以產生實質效益。
透過贊助學術研究與當地大學建立夥伴關係，以降低量子AI投資風險，並建立從學界到產業的人才培育管道。
建立量子AI機會追蹤機制，持續關注相關基礎技術和演算法的發展進程，以便在這個新興領域中把握最大的價值創造機會。
代表性供應商
亞馬遜、谷歌、IBM、IonQ、Multiverse Computing、Pasqal、SandboxAQ、Zapata AI
Gartner 推薦閱讀
基本原理AI（First-Principles AI）
分析師： Erick Brethenoux, Svetlana Sicular
效益評級： 具變革性
市場滲透率： 目標受眾的5%至20%
成熟度： 新興階段
定義：
基本原理AI（又稱物理導向AI）將物理和類比原理、基本定律和領域知識整合到AI模型中。相較之下，純粹的「數位」AI模型不一定遵循物理系統和基本原理的根本法則，也難以有效應用於未經訓練的情境。基本原理AI將AI工程擴展到複雜系統工程和基於模型的系統（如代理人基礎模型）。
重要性
隨著人工智慧（AI）在工程和科學領域的應用日益廣泛，它需要更強大的問題建模能力和更佳的情境表述能力。純數位 AI 解決方案難以在訓練範圍外有效應用，因而限制了其適應性。基本原理 AI（FPAI）則能更可靠地呈現情境和物理現實，從而產生更具適應力的系統。這不僅縮短了訓練時間，提高了數據使用效率，還改善了通用性並增強了物理一致性。
商業影響
符合物理原理且科學合理的 AI 模型能顯著提升其實用性，尤其是在工程應用方面。FPAI 能以較少的數據點進行模型訓練，加快訓練過程，使模型更迅速地趨近最佳解決方案。它提高了模型的通用性，能夠對未曾遇到的情況做出可靠預測，包括應用於非穩態系統。此外，FPAI 還增強了模型的透明度和可解釋性，從而提升了其可信度。
基本原理人工智慧（FPAI）方法為系統運作環境和條件提供了更靈活的表述，使開發者能夠構建適應性更強的系統。傳統的商業建模方法往往較為脆弱，這是因為構成解決方案的數位元素難以有效地推廣到初始訓練數據之外，從而限制了解決方案的適應能力。
FPAI 方法引入了額外的物理知識表述，如偏微分方程等，用以指導或約束 AI 模型。傳統的 AI 技術，尤其是機器學習類技術，在因果關係和依賴性分析、可接受值範圍、環境適應性和記憶保留機制等方面面臨嚴重限制。以資產為中心的行業已開始在物理原型設計、預測性維護或複合材料分析等領域運用 FPAI，並結合增強現實技術。
氣候模型、大規模數位孿生（即實體物件的數位化複製品）和複雜的健康科學問題等複雜系統特別難以建模。複合 AI 方法雖能為這些問題提供更具體的答案和可管理的解決方案，但其工程實現仍然是一大挑戰。在這方面，FPAI 能夠提供更直接的解答。
基本原理知識通過定義問題和解決方案的邊界，簡化並豐富了 AI 方法，減少了機器學習傳統上採用的窮舉法範圍。例如，已知物理物體的軌跡可以簡化 AI 輔助的天空監測。基於基本原理的語義分析還能揭示深度偽造內容。
對更強大和適應性更強的商業模擬系統的需求也將推動 FPAI 方法的採用。借助更廣泛的情境建模和更精確的知識表述技術，模擬將變得更可靠，能夠涵蓋更多可能的情境，且更貼近現實。
然而，FPAI 的採用也面臨一些挑戰：
在基準數據集和問題上進行系統化測試和標準化評估的發展可能會減緩 FPAI 能力的採用速度。
在大型數據集上有效擴展複雜 FPAI 模型的訓練、測試和部署在計算上將是一個難題。
跨多個不同領域（如物理學、數學、計算機科學、統計學、AI 和各專業領域）的協作將是一個挑戰。
窮舉法在 AI 中普遍存在，對數據科學家來說較易實施，而基本原理方法則需要額外的學科基礎知識，因此需要一個跨學科團隊。
通過辨識無法消除的錯誤和無法解決的差異（包括數據品質問題），設定切實可行的開發目標。
鼓勵從小規模問題著手，建立可重複驗證的模型；複雜系統（從科學角度定義）通常適合採用這種方法。
對基於物理學和第一性原理的相關領域模型，實施測試準確性和物理一致性的標準，同時明確不確定性來源。
推動 FPAI 模型的連貫性訓練，並使用具有代表性的應用場景數據進行訓練，包括噪聲、稀疏性和不完整性等特徵。
以性能隨外推程度下降的方式來量化模型的泛化能力，特別是針對未見過的初始條件、邊界條件和情境。
確保多學科 AI 團隊中具備相關專業背景和教育的人才（包括領域專家），使團隊能夠開發有效且可驗證的解決方案。
範例供應商
Abzu、IntelliSense.io、MathWorks、NNAISENSE、NVIDIA、VERSES
Gartner 推薦閱讀
實體化人工智慧
分析師： Pieter den Hamer
效益評級： 變革性
市場滲透率： 目標受眾中不到1%
成熟度： 初期階段
定義：
實體化人工智慧基於這樣一種觀點：智能與其在特定環境中的體現密不可分 — 兩者相互塑造。這種方法將物理或虛擬 AI 代理的模型與其用戶介面、感測器、外觀、執行器或其他與特定真實或模擬環境互動所需的能力一併訓練和設計。這使得 AI 能夠更穩健、可靠且富有適應性地執行智能任務。
重要性
實體化人工智慧旨在創造能夠自主行動或在實際、動態環境中增強人類能力的 AI 代理，遠勝於目前的 AI 技術，包括在決策和行動方面可靠性和有效性有限的抽象大型語言模型。這是通過主動感知和適應性行為實現的，由 AI 代理的智能與其宿主或載體在特定環境中的能力和限制協同運作。
商業影響
實體化人工智慧將在各種應用場景中進一步釋放 AI 的價值，特別是在需要更多實踐知識、更好地呈現環境的物理、社會或其他特徵，以及更強大的應對意外或破壞性事件能力的情況下。應用實例包括虛擬助理、數位化身、遊戲角色、自動駕駛車輛和智能機器人。這將為更有效和可信賴的 AI 鋪平道路，並推動 AI 在創新產品、服務和商業模式方面的突破性應用。
生成式人工智慧（GenAI）的興起加速了人工智慧的廣泛應用，但同時也凸顯了當前人工智慧技術的侷限性，尤其是在可靠性、情境理解和現實世界落地等方面仍面臨諸多挑戰。
實體化人工智慧充分利用了計算能力的提升和生成式人工智慧的進步，支持通過強化學習進行逼真的模擬訓練，以培養人工智慧代理的適應性行為。這種方法還支持在實際部署前，同步演化人工智慧代理的基礎實體化形態和智能水平。
實體化人工智慧的發展得益於多種新興技術的融合，包括基於物理原理的人工智慧（融入物理定律或工程經驗法則）、複合式人工智慧（如利用神經符號人工智慧進行時空推理），以及因果人工智慧（模擬因果關係）。
虛擬/擴增/混合實境、遊戲、智慧型機器人、自主系統、自然語言生成和情感人工智慧等領域的創新，進一步推動了人們對實體化人工智慧的興趣。這些創新都致力於改進物理和虛擬人工智慧代理的設計。此外，感測器技術、機器人工程的進步，以及用於實現更自然機械動作和觸覺互動的新材料，也為物理代理的發展帶來了助力。
實體化人工智慧的進步建立在對智慧本質不斷深入的科學認知之上。如今，智慧不再被視為僅限於大腦的集中式概念，而是認識到感知、情感、推理和行為等認知特徵實際上分佈在身體各個部位並協同演化。這一認知與分散式人工智慧系統架構（包括多代理系統）不謀而合。
實體化人工智慧被視為邁向未來人工通用智慧的關鍵一步，因為它與其運作實體密不可分，能夠直接與環境互動。這意味著，實體化人工智慧並非脫離現實的抽象概念，而是通過設計深植於現實世界，有望為其知識表徵提供內在意義，並發展出「原生」的常識理解能力。
我們所處的世界極其複雜、難以預測，甚至可說是一片混沌。正因如此，開發真實的模擬系統、高效的機器人技術，以及真正自主的汽車等，都被證明是極具挑戰性的任務。
在現實世界中進行互動，需要即時且高度反應的人工智慧（AI），即使在能源和運算資源有限的情況下（如在行動裝置或邊緣設備上）也不例外。然而，要開發更輕量化、更節能的 AI 並非易事。
實體化 AI 有望實現更強大、更自主的 AI 系統。不幸的是，這項技術可能不僅促進善意應用，也可能被惡意利用。然而，為負責任的 AI 制定有效的監管和風險管理措施並非理所當然。
AI 的實體化設計有時會不必要地模仿人類形態（如具有兩條腿和兩隻手臂的身體），這反而帶來了額外的複雜性和挑戰。
實體化 AI 的發展需要跨領域合作，涉及機器學習、圖形設計、機械工程等多個領域的專家。根據不同的應用場景和 AI 代理類型，可能還需要其他領域專家的參與。
讀者建議
識別可能受益於實體化 AI 應用的場景，包括較為虛擬的領域，如線上客戶互動或知識工作者輔助，以及更偏重實體的領域，如製造業或物流業。
探索實體化 AI 如何通過克服當前 AI 在理解方面的限制來創造價值，例如在倉儲中的物理限制或客戶互動中的文化規範。這可能分別提高 AI 使用的安全性或減少偏見。
擴展 AI 代理開發或訓練的思維方式。從單純的模型建構轉向考慮 AI 模型與代理實體設計之間的協同效應。這可能涉及虛擬代理的面部表情，或實體代理的動作協調等方面。
範例供應商
Amazon、Figure、Google、Hanson Robotics、Intel、Intrinsic、NNAISENSE、Qualcomm、Tesla
Gartner 推薦閱讀
多代理系統（MAS）
分析師： Leinar Ramos、Pieter den Hamer、Anthony Mullen
效益評等： 高
市場滲透率： 目標受眾中不到1%
成熟度： 初期階段
定義：
多代理系統（MAS）是一種由多個獨立但互動的代理組成的 AI 系統，每個代理都能感知環境並採取行動。這些代理可以是 AI 模型、軟體程式、機器人或其他計算實體。多個代理可以協作實現超越單一代理能力的共同目標，具有更強的適應性和穩健性。
重要性
目前的人工智慧技術主要聚焦於開發針對特定用途的單一智能體，這限制了人工智慧在商業上的潛在價值，僅能解決較為簡單、可由單一綜合模型處理的問題。然而，多個自主智能體的協同應用不僅能夠應對單一智能體無法解決的複雜任務，還能創造出更具適應性、可擴展性和穩健性的解決方案。這種方法也特別適用於需要分散式決策的環境。
商業影響
生成式人工智慧： 協調多個AI智能體以完成複雜任務
機器人技術： 運用機器人群和無人機群進行倉儲優化、搜救行動、環境監測等
能源與公用事業： 智慧電網優化和負載平衡
供應鏈管理： 優化調度、規劃、路線安排及整體供應鏈效率
電信業： 網路優化和故障偵測
醫療保健： 利用智能體模擬各類角色（如個人、家庭、專業人員）
生成式人工智慧智能體： 大型語言模型（LLMs）正不斷被強化，增添了內部記憶和外部應用程式插件等功能，以實現更強大的AI智能體。一種新興的設計模式是將這些基於LLM的AI智能體組合成更強大的系統，這大大提高了多智能體系統的可行性，也激發了相關領域的興趣。
決策複雜度提升： 人工智慧在現實世界的工程問題中的應用日益廣泛，這些問題往往涉及複雜系統，其中大規模的相互作用部件網絡會產生難以預料的整體表現。多智能體系統的分散特性使其在面對複雜決策時更具靈活性和適應能力。
模擬與多智能體強化學習： 隨著模擬引擎在真實性和性能上的進步，以及新型多智能體強化學習技術的應用，我們現在可以在模擬環境中訓練多智能體AI系統，然後將其部署到現實世界中。
訓練複雜度： 多智能體系統通常比單一 AI 智能體更難訓練和建構。這些系統可能展現難以預料的行為，因此需要更為穩健的訓練和測試機制。
多智能體的監控和管理： 智能體之間的協調和協作極具挑戰性。為確保整個多智能體系統能達成預期目標，需要謹慎的監控、管理以及建立共同基礎。
採用和準備度有限： 儘管多智能體系統具有諸多優勢，但在實際應用中仍未廣泛普及，導致企業對其認知不足，實施準備也不充分。
需要專業技能： 建構和部署多智能體系統需要超越傳統 AI 技能的專業知識，特別是在強化學習和模擬方面。
供應商市場分散： 供應商市場的分散阻礙了客戶的採用和參與度。
使用建議
將多智能體系統應用於需要分散決策且單一 AI 智能體無法解決的複雜問題。這包括需要智能體適應的動態環境問題，以及可以結合不同專長的多樣化智能體來完成目標的問題。
由於多智能體系統是新興研究領域，其風險和效益尚未完全明確，建議採取漸進式的轉型策略。
在實施多智能體系統時，制定明確的安全措施，包括關於自主性、責任歸屬、安全防護和數據隱私的法律和道德準則。
投資 AI 訓練的模擬技術，因為模擬環境是建構和測試多智能體系統的主要平台。
培訓 AI 團隊了解多智能體系統的特性，其與單一智能體 AI 設計的差異，以及相關的訓練和建構技術。
相關供應商
Alphabet、Ansys、The AnyLogic Company、Cosmo Tech、FLAME GPU、MathWorks、Microsoft、OpenAI
Gartner 推薦閱讀
分析師： Leinar Ramos、Anthony Mullen、Pieter den Hamer、Jim Hare
效益評估： 高
市場佔有率： 目標受眾的 1% 至 5%
發展階段： 新興
定義：
AI 模擬是結合 AI 和模擬技術的應用，用於共同開發 AI 智能體及其訓練、測試和部署的模擬環境。它包括運用 AI 來提高模擬的效率和實用性，以及利用多種模擬模型來開發更靈活、更具適應性的 AI 系統。
重要性
決策日益複雜正推動市場對人工智慧（AI）和模擬技術的需求。然而，目前的 AI 技術仍面臨挑戰，主要是因為它對環境變化較為敏感，且通常需要大量數據支持。另一方面，高擬真度的模擬系統往往成本高昂，且難以建構和操作。為解決這些難題，一種新興的方法是結合 AI 和模擬技術：利用模擬來增強 AI 的穩定性並彌補訓練數據不足的問題，同時運用 AI 來提高模擬的效率和真實性。
商業影響
透過模擬生成合成數據（例如用於生成式 AI [ GenAI ] 的合成數據），擴大 AI 在數據稀缺情況下的應用範圍，從而提升其價值
利用 AI 技術降低複雜且高擬真度模擬系統的開發和使用成本，提高整體效率
運用模擬技術生成多樣化情境，增強 AI 在不確定環境中的表現，提高其穩健性
重複利用模擬環境來訓練未來的 AI 模型，減少技術負債
人工智慧訓練資料的稀缺正推動合成資料技術（如模擬）需求上升。基於物理的三維模擬等技術，在生成多元化人工智慧訓練資料集方面具有獨特優勢。隨著訓練資料日益匱乏，這對生成式人工智慧而言愈發關鍵。
模擬能力的進步使其在人工智慧領域的應用價值與日俱增。受益於計算性能的提升和更高效技術的發展，模擬能力正在快速提升。
決策複雜度的增加激發了市場對人工智慧模擬的興趣。模擬能夠產生多樣化的『極端情況』場景，這些情境在現實世界中罕見，卻對訓練和測試人工智慧至關重要，有助於提升其在不確定環境中的表現。
人工智慧領域日益嚴重的技術負債（指因快速開發而積累的系統複雜性和維護成本）正驅使業界尋求模擬所提供的可重複使用環境。隨著組織部署數以百計的人工智慧模型，重點轉向建立持久、可重複使用的環境，以訓練、客製化和驗證多個人工智慧模型。模擬環境因其可重複使用、可擴展，且能同時訓練多個模型的特性，成為理想之選。
模擬的日益複雜反過來推動了人工智慧的應用，提高了整體效率。現代模擬系統耗費大量資源，這促使業界運用人工智慧來加速模擬過程。通常做法是採用人工智慧模型取代模擬的部分環節，避免執行耗資源的逐步數值計算。
對「世界模型」（即學習型模擬）的研究正引發人工智慧模擬領域的關注：越來越多的研究致力於訓練能夠根據當前狀態和代理行為預測環境演變的世界模型。這類學習型模擬可能使人工智慧模擬更加可行，因為它無需直接設定模擬參數。
模擬與現實的落差： 模擬系統只能模仿而非完全複製真實世界。儘管這個差距會隨著模擬技術的進步而縮小，但仍將是一個關鍵因素。由於這種落差的存在，在模擬環境中訓練的人工智慧模型一旦部署到現實世界，其表現可能會有所不同。模擬訓練數據集與真實世界數據之間的差異可能影響模型的準確性。
人工智慧模擬系統的複雜性： 人工智慧與模擬技術的結合可能導致更為複雜的系統，增加測試、驗證、維護和故障排除的難度。
採用人工智慧模擬的準備不足： 人工智慧從業者對於如何充分利用模擬技術的認知不足，可能阻礙組織實施人工智慧模擬方案。
供應商市場分散： 人工智慧和模擬市場較為分散，提供整合人工智慧模擬解決方案的供應商不多，這可能會減緩相關技術的推廣和應用。
讀者建議
運用模擬技術來輔助人工智慧，以優化商業決策。在缺乏真實世界數據的情況下，可利用模擬環境生成合成數據或進行強化學習。
利用人工智慧來增強模擬能力，如應用深度學習來加速模擬過程，並使用生成式人工智慧來擴展模擬的範圍和精度。
促進人工智慧和模擬團隊、項目和解決方案之間的協同效應，以開發新一代更具適應性的解決方案，應對日益複雜的應用場景。逐步建立一個更為通用和互補的模型基礎，使其能在不同的應用場景、業務環境和生態系統中重複使用。
為人工智慧、模擬和其他相關技術（如圖形分析、自然語言處理或地理空間分析）的綜合應用做好準備。優先考慮那些能夠整合多種人工智慧技術（複合人工智慧）並提供模擬功能的平台供應商。
代表性供應商
Altair、Ansys、The AnyLogic Company、Cosmo Tech、Epic Games、MathWorks、微軟、NVIDIA、羅克韋爾自動化、Unity
Gartner 推薦閱讀
分析師： Pieter den Hamer、Ben Yan、Leinar Ramos
效益評級： 高
市場滲透率： 目標受眾的 1% 至 5%
成熟度： 新興
定義：
因果人工智慧致力於識別並利用因果關係，超越了基於相關性的預測模型，朝向能更有效地制定行動方案並更自主地運作的人工智慧系統邁進。它包括多種技術，如因果圖和模擬，這些技術有助於揭示因果關係，從而改善決策過程。
重要性
人工智慧的終極價值在於促進更明智的決策和更有效的行動。然而，目前廣泛採用的相關性分析方法存在一定局限性。儘管這種方法在預測方面可能尚可（假設未來與過去不會有顯著差異），但僅僅預測結果並不足以理解其成因及改進方法。因此，當我們需要更穩健的預測能力，並能針對特定結果提供更具指導性的最佳行動建議時，因果人工智慧就顯得尤為重要。
商業影響
透過評估干預效果，提升人工智慧系統在決策輔助和自主性方面的能力。
利用領域知識優化人工智慧模型，實現小數據集的高效訓練。
通過捕捉易於理解的因果關係，提高系統的可解釋性。
利用在變動環境中依然有效的因果關係，增強系統的穩定性和適應力。
能夠以更低成本、更短時間進行實驗，有效提取因果知識。
透過明確因果關聯，減少人工智慧系統中的偏見問題。
分析需求正從預測性轉向更具指導性的能力。雖然準確預測仍然至關重要，但對於如何影響預測結果的因果理解變得越來越重要。
人工智慧系統越來越需要自主行動，特別是在時間緊迫且複雜的情況下，人為干預往往不可行。要實現這一點，人工智慧必須能夠理解行動的影響並知道如何有效干預。
某些應用場景中的數據有限，需要更高效的技術，如因果人工智慧。因果人工智慧利用人類對因果關係的專業知識，在小數據環境中優化人工智慧模型。
商業環境日益複雜和多變，需要更強大的人工智慧技術。近年來的市場波動暴露了各行業中基於相關性的人工智慧模型的脆弱性。相較於統計相關性，因果結構變化較慢，使得因果人工智慧在快速變化的環境中更為穩健和適應。
對提高人工智慧可信度和可解釋性的需求正推動更直觀的模型開發。因果人工智慧技術，如因果圖，能夠清晰地展示原因，並以人類易於理解的方式解釋模型。
生成式人工智慧（GenAI）可加速因果人工智慧的實施。GenAI正成為探索文件和其他數據源以獲取現有因果知識的有力工具。它可以用來生成候選因果圖，雖然仍需人工驗證或完善，但可能大大減少耗時的手動工作。
人工智慧的下一階段發展需要因果人工智慧。當前的深度學習模型，特別是GenAI，在可靠性和推理能力方面仍有局限。將GenAI與因果人工智慧（尤其是因果知識圖）相結合的綜合方法，為將人工智慧提升到更高水平提供了一個極具前景的途徑。
因果關係並非易事。並非所有現象都能輕易地以因果模型來解釋。無論是否運用人工智慧（AI），某些因果關係可能仍然難以捉摸。
因果人工智慧（Causal AI）模型的品質取決於其因果假設及建模所用的數據。這些數據可能存在偏見和失衡，且在反映所有已知或未知的因果因素方面可能不夠完整。
正確評估因果效應需要技術和領域的專業知識。與建立基於相關性的預測模型相比，建立因果AI模型通常更具挑戰性，需要領域專家和AI專家密切合作。
AI專家可能對因果方法不甚了解。若AI專家過度依賴如機器學習（ML）等數據驅動的模型，組織在推行因果AI時可能會遇到阻力。
因果AI的供應商生態系統尚在起步階段，企業採用率目前偏低。這使得組織在進行初期因果AI試驗和識別最適合應用因果AI的特定場景時面臨挑戰。
使用者建議
認識到以相關性為基礎的AI和ML方法的侷限性，這些方法主要利用相關性而忽視因果關係。這些限制同樣適用於大多數生成式AI（GenAI）技術，包括基礎模型和大型語言模型。
當您需要在決策智能方面獲得更多輔助和自動化時，應考慮使用因果AI。也就是說，當AI不僅需要生成預測，還需要理解如何影響預測結果時。應用範例包括客戶留存計劃、行銷活動資源分配、金融投資組合優化，以及智能機器人和自主系統。
根據特定使用場景的複雜程度選擇不同的因果AI技術。這些技術包括因果規則、因果圖和貝氏網路、模擬，以及用於因果學習的機器學習。
對您的數據科學團隊進行因果AI培訓。說明因果AI與基於相關性的AI之間的差異，並介紹可用於納入因果關係的各種技術。
代表性供應商
Actable AI、causaLens、Causality Link、Geminos Software、IBM、Microsoft、Parabole.ai、Scalnyx、Vizuro、Xplain Data
Gartner 推薦閱讀
AI就緒數據
分析師：Roxane Edjlali、Svetlana Sicular、Mark Beyer
效益評級：高
市場滲透率：目標受眾的1%至5%
成熟度：萌芽階段
定義：
能否證明數據適合特定AI用例，決定了該數據是否為AI就緒數據。這種準備就緒的證明來自於持續滿足AI需求的能力，包括評估數據與用例的一致性、實現數據資格認證和確保數據治理。因此，AI就緒數據只能根據特定用例和所使用的AI技術來判定，這促使了新型數據管理方法的出現。
為何此事至關重要
隨著預訓練模型的崛起和生成式人工智慧（AI）的熱潮，各組織及其資料管理領導者正站在為 AI 制定資料策略的最前線，以確保他們的資料能夠支援 AI 並為資料驅動的應用奠定基礎。資料長和資料管理領導者需要能夠迅速回應 AI 就緒資料的需求。一切都始於提供支援 AI 使用案例的 AI 就緒資料。
商業影響
提供 AI 就緒資料以支援企業 AI 策略的能力，對實現 AI 的商業價值至關重要。因此，所有大規模投資 AI 的組織都需要發展其資料管理實踐和能力，不僅要保留資料管理的經典理念，還要將其擴展到 AI 領域。關鍵在於迭代地提供 AI 就緒資料，以滿足業務當前和未來的需求，確保信任，保護智慧財產權，並減少偏見和 AI 產生的幻覺（指 AI 生成的錯誤或不實資訊）。
模型，尤其是生成式 AI 的模型，越來越多地來自供應商而非企業內部開發。資料正成為企業從這些預訓練模型中獲取價值的主要手段。
最常見的 AI 解決方案依賴於資料的可用性、品質和理解，而不僅僅是 AI 模型的建構。許多企業試圖在不考慮 AI 特定資料管理問題的情況下實施 AI。AI 中資料管理的重要性常常被低估，因此資料管理解決方案現在必須針對 AI 需求進行調整。
傳統資料管理正面臨被顛覆以支援 AI 發展的時機。AI 的快速進展在組織和管理 AI 資料方面帶來了新的挑戰。我們預計將出現一個更適合滿足 AI 資料需求的增強型資料管理技術週期。建立在資料織物（一種整合性資料管理架構）基礎上的資料生態系統標誌著這個新週期的開始。
資料管理能力、實踐和工具極大地有利於 AI 開發和部署。AI 社群發明了新的以資料為中心的方法，如聯邦機器學習和檢索增強生成（RAG），這些方法受益於資料織物和資料湖倉（結合資料湖和資料倉儲的優點）等資料管理創新。例如，將知識圖譜作為資料織物的一部分實施，允許大型語言模型主導的查詢從圖譜提供的上下文中受益，這將增加生成程式碼的準確性。
新的資料管理解決方案有助於緩解源於資料解釋、標記和記錄在資料中的人類行為所導致的 AI 偏見放大問題。偏見緩解和幻覺是一個迫切且 AI 特有的問題，迫使資料管理必須確定如何構建、分析和準備資料。
生成式 AI 正在模糊結構化和非結構化資料之間的界限，因此要求資料管理適應這些新的應用方式。
人工智慧（AI）與資料管理之間存在斷層。AI 社群大多不瞭解那些能夠極大提升 AI 開發和部署效能的資料管理能力、實踐和工具，這可能導致在實際生產環境中擴展原型時面臨挑戰。傳統資料管理也忽視了 AI 特有的考量，如資料偏差、標記和偏移；儘管這種情況正在改變，但進展緩慢。
雖然 AI 的資料面向至關重要，但它往往被低估。這個面向包括準備數據集，以及清楚理解資料收集的方式、資料的意義，以及資料中可能存在的偏差等任務。
負責任的人工智慧需要對資料和 AI 模型採取新的治理方法。這些是許多企業希望通過工具而非治理來解決的 AI 特定資料實踐。
資料管理活動並不會在模型開發完成後就結束。部署考量和持續的偏移監控需要專門的資料管理活動和實踐。
使用者建議
將 AI 就緒資料正式納入您的資料管理策略。實施主動元數據管理、資料可觀察性和資料織物作為此策略的基礎。結合基礎和新功能以滿足 AI 需求。建立明確的角色和責任以管理支援 AI 的資料。
鑒於 AI 模型依賴代表性資料，應採用以資料為中心的方式進行 AI 模型開發。多元化資料、模型和人員以確保 AI 的價值和倫理。
利用資料管理專業知識、AI 工程、資料操作（DataOps）和機器學習操作（MLOps）方法來支援 AI 生命週期。在部署模型時納入資料管理要求。開發資料監控和資料治理指標，以確保您的 AI 模型持續產生正確的輸出。
執行 AI 資料適用性政策。為每個使用案例的 AI 就緒資料及早定義和衡量最低資料標準，並在擴大 AI 應用規模時持續驗證資料適用性。這包括檢查資料來源、品質和治理評估、版本控制和自動化測試。
探索那些在增強資料管理功能方面表現出色，且能與創新資料中心 AI 功能（如聯邦機器學習和檢索增強生成, RAG）的 AI 工具良好整合的資料管理工具。
樣本供應商
Databricks、Explorium、Google、illumex、Landing AI、LatticeFlow、Microsoft、MOSTLY AI、Protopia AI、YData
Gartner 推薦閱讀
決策智能
分析者： Erick Brethenoux、David Pidsley、Pieter den Hamer
效益評級： 變革性
市場滲透率： 目標受眾的 5% 到 20%
成熟度： 新興
定義：
「決策智能」（ DI ）是一門實用學科，透過深入理解並精心設計決策制定的過程，以及如何評估、管理並根據回饋改進結果，來提升決策品質。
為何這很重要
目前，在人工智慧（ AI ）技術（包括生成式 AI ）推動下，自動化決策和增強智能備受關注，使得 DI 正處於過度期待的高峰期。近期的危機凸顯了商業流程的脆弱性。要重新設計這些流程，使其具備韌性、適應性和靈活性，將需要有系統的方法和技術。快速崛起的決策智能平台（ DIPs ）市場已開始為決策者提供具韌性的解決方案。
對企業的影響
DI 透過使決策過程明確化和透明化，提供更優質、更即時且更優化的決策。 它通過掌握業務脈絡，降低決策結果的不確定性。
DI 減少技術負債並提高可視性。 它顯著提升決策模型的一致性，這建立在模型的相關性和透明度之上，使決策過程變得透明且可稽核，從而改善商業流程的整體效能。
**商業環境變得日益動態複雜，其節奏愈發難以預測且充滿不確定性：**兩股力量正在決策智能平台（ DIPs ）周圍創造新市場。首先是結合了規則、知識圖譜和機器學習等人工智慧技術。其次是複合式 AI 、智慧商業流程、即時事件處理、洞察引擎、決策管理和進階個人化平台等技術集群的匯流。
**需要遏制非結構化、臨時性的決策，這些決策往往孤立且缺乏連貫性：**這類決策通常欠缺協調，為了局部優化而犧牲全局效率。
**人機協作範圍不斷擴大：**這種協作，加上對技術的信任不足，正逐漸取代人力工作，引發人們的不安。決策智能實踐致力於提升決策模型的透明度、可解釋性、公平性、可靠性和問責制，這對於採用能夠創造業務差異化的技術至關重要。
**法規日趨嚴格，風險管理變得更加普遍：**從隱私和道德準則到新法律和政府授權，組織在理解其決策的風險影響方面面臨挑戰。決策智能透過促進明確的決策模型來降低風險。
**組織內部決策一致性存在不確定性：**缺乏對決策的明確表述，阻礙了集體決策結果的適當協調；決策智能可解決這個問題。
決策智能平台等軟體工具的出現： DIPs 將使組織能夠實際落實決策智能專案和策略。
**生成式 AI 與現有決策智能技術和實踐的協同效應：**生成式 AI 的出現為決策提供了更有效且更豐富的脈絡。它加速了複合式 AI 模型的研究和採用，這些模型是 DIPs 的基礎。
**事業單位之間缺乏適當的協調：**無法客觀地重新審視部門內部和跨部門的關鍵決策流程，降低了早期決策智能努力的成效。
**碎片化：**決策孤島已經造就了難以調和的數據、能力和技術集群，可能會減緩決策模型的實施進度。
**次優的營運結構：**圍繞先進技術的組織結構不足，例如缺乏 AI 卓越中心，可能會阻礙決策智能的發展。
**缺乏更廣泛脈絡下的建模：**在幾乎完全專注於技術技能的組織中，人類決策的其他關鍵面向——心理、社會、經濟和組織因素——未受到應有的重視。
**AI 素養不足：**許多組織仍然對 AI 技術缺乏全面理解。這種對 AI 認知的不足可能會減緩決策智能專案的發展。
使用者建議
建立以增強可追蹤性、可複製性、相關性和可信度為原則的模型，以提升跨組織決策的韌性和永續性。
透過模擬決策參與者的集體行為，同時評估其全球貢獻與局部優化，來提高決策過程的可預測性和一致性。
培養員工在傳統和新興決策輔助及自動化技術方面的專業知識，包括預測性分析和指導性分析（如優化和業務規則）。提升業務分析師的技能，並發展決策工程師和決策管理員等新角色。
與領域專家、人工智慧專家和業務流程分析師合作，根據每個決策情境的具體需求，量身定制適當的決策技術。
鼓勵實驗生成式人工智慧（一種能創造新內容的AI技術）並加快部署複合式人工智慧解決方案，以加速決策智能（DI）項目的發展。
Gartner 推薦閱讀
神經符號人工智慧
分析師： Erick Brethenoux, Afraz Jaffri
**效益評級：**高
**市場滲透率：**目標受眾中不到1%
**成熟度：**新興
定義：
神經符號人工智慧是一種複合式AI，它結合了機器學習方法和符號系統（例如知識圖譜），以創建更強大和可靠的AI模型。這種融合使得概率模型能夠與明確定義的規則和知識相結合，使AI系統更能表示、推理和概括各種概念。這種方法為更有效地解決廣泛的業務問題提供了推理基礎。
為什麼這很重要
神經符號AI之所以重要，是因為它解決了當前AI系統的一些局限性，如輸出錯誤、缺乏處理多樣任務的能力，以及無法解釋得出結果的過程。這種技術帶來了更強大、更靈活和更易理解的AI解決方案，使AI系統能夠以類似人類的推理方式處理更複雜的任務。
業務影響
神經符號AI將提升整個業務流程中AI系統的效率、適應性和可靠性。通過整合邏輯和多種推理機制，減少了對大型AI模型及其支持基礎設施的依賴。這些系統將較少依賴於處理海量數據，使AI變得更加靈活和具有韌性。神經符號方法可以增強和自動化決策過程，同時降低意外後果的風險。
驅動因素
單純依賴機器學習技術的 AI 模型存在局限性，它們過於注重相關性而忽視了理解和推理。最新一代的大型語言模型因常給出事實錯誤的答案或產生意外結果而廣受關注。神經符號 AI 旨在解決這些問題。
在受監管行業和涉及私人數據的系統中，AI 輸出的可解釋性變得尤為重要。
在處理現實世界實體的系統中，需要優先理解詞語背後的含義，而非僅關注其排列方式。這意味著在特定領域中，要著重語義而非語法，為詞語賦予實際意義。
用於整合不同類型 AI 模型的工具正在增多，且變得更易於開發人員、數據科學家和終端用戶使用。目前主流方法是將不同模型的結果串聯起來（即複合 AI），而非依賴單一模型。
整合多種推理機制以實現靈活的 AI 系統，最終將導向自適應 AI 系統的出現，特別是通過類似黑板的機制。
大多數神經符號 AI 方法和技術仍在學術界或產業研究實驗室中開發。儘管相關工具的可用性有所提高，但在商業或企業環境中的實際應用仍然有限。
目前尚無公認的神經符號 AI 實施技術，儘管已出現實際應用案例，研究人員和從業者對結合不同方法的效果仍存在分歧。
AI 新創公司的商業和投資策略幾乎將所有資金投向深度學習方法，只有少數願意押注未來的投資者會投資神經符號 AI 的發展。
相較於其他 AI 方法，神經符號 AI 在大眾媒體和學術會議中的曝光度仍然不足。
用戶建議
在構建 AI 系統時採用複合 AI 策略，運用多種技術來增強 AI 模型的穩健性和可靠性。神經符號 AI 方法可以很好地融入複合 AI 架構中。
透過識別適用的應用場景，投入時間學習和應用神經符號 AI 方法。
投資於能夠支持神經符號 AI 技術基礎的數據架構，如知識圖譜和基於代理的技術。
當生成式 AI 模型的局限性阻礙其在組織中的實施時，可考慮採用神經符號 AI 架構。
代表性供應商
Google DeepMind、Elemental Cognition、Franz、IBM、Microsoft、RelationalAI、Wolfram|Alpha
Gartner 推薦閱讀
複合 AI
分析師： Erick Brethenoux、Pieter den Hamer
效益評級： 變革性
市場滲透率： 目標受眾的20%至50%
成熟度： 邁入主流初期
定義：
複合人工智慧（複合 AI ）是指結合運用多種 AI 技術，藉此提升學習效率並拓展知識表徵的層次。這種方法擴大了 AI 的抽象能力，最終為有效解決更廣泛的商業問題提供了堅實平台。
重要性
複合 AI 的核心理念在於認識到沒有任何單一 AI 技術可以解決所有問題。它致力於融合「連接主義」AI 方法（如機器學習和深度學習）與「符號主義」及其他 AI 方法（如規則推理、圖形分析或最佳化技術）。其目標是開發出耗用較少數據和能源就能學習的 AI 解決方案，同時具備更強大的抽象能力。複合 AI 現已成為生成式 AI （ GenAI ）和決策智能（ DI ）市場的核心技術。
商業影響
複合 AI 使那些缺乏大量歷史數據或標記數據、但擁有豐富人類專業知識的組織也能夠運用 AI 的強大力量。它不僅擴大了 AI 應用的範疇，還提升了應用品質，能夠應對更多類型的推理挑戰。此外，複合 AI 還具有更佳的可解釋性、內建的韌性，並支援增強智慧等優勢。值得注意的是，最新一波的生成式 AI 實作高度依賴複合 AI 技術。
推動因素
隨著人工智慧在決策中的角色日益重要，組織紛紛轉向複合式人工智慧。透過結合規則導向和最佳化模型——這種組合通常被稱為規範性分析——可以更精準地確定最佳行動方案。
面對小型資料集或資料可用性有限的情況，組織開始整合多種人工智慧技術。企業已開始利用知識圖譜和生成對抗網路（GANs）等額外的人工智慧技術來彌補稀缺的原始歷史資料，進而生成合成資料。
結合多種人工智慧技術的效果遠勝於單純依賴啟發式方法或完全數據驅動的方法。例如，在預測性維護中，可以將啟發式或規則導向的方法與深度學習模型結合。來自人類專家的規則或物理/工程模型分析可能會指出某些感測器讀數顯示資產運作效率低下。這些資訊可作為特徵，用於訓練神經網路以評估和預測資產健康狀況，同時整合因果人工智慧的能力。
電腦視覺和自然語言處理（NLP）解決方案的普及使得識別或分類圖像中的人物或物體成為可能。這些輸出可用於豐富或生成一個圖譜，呈現圖像實體及其關係。
多智能體建模是複合式人工智慧的下一波趨勢。複合式人工智慧解決方案由多個智能體組成，每個智能體代表生態系統中的一個參與者。將這些智能體整合為一個系統，能夠創建共同的情境意識，實現更全面的規劃最佳化、靈活的調度以及流程韌性。
生成式人工智慧的出現正在加速複合式人工智慧模型的研究和採用，透過生成人工智慧內容、流程和協作，為決策智能平台奠定基礎。
缺乏運用多種人工智慧方法的意識和技能： 這可能阻礙組織考慮特別適合解決特定問題類型的技術。
部署模型營運（ModelOps）： 模型營運領域（即多個人工智慧模型的實務操作，如最佳化模型、規則模型和圖模型）仍然更像是一門藝術而非科學。需要一個健全的模型營運方法來有效管理複合式人工智慧環境，並使其與其他領域（如開發營運DevOps和資料營運DataOps）協調一致。
信任和風險障礙： 人工智慧工程學科正在成形，但只有成熟的組織才能在實際操作人工智慧技術時應用其效益。在整合的人工智慧技術中，必須解決安全性、模型行為倫理、可觀察性、模型自主性和變更管理實務等問題。
使用者建議
辨識完全依賴數據驅動或單純機器學習方法效率不佳或不適用的專案。例如，在資料不足或現有機器學習模型無法有效表現模式的情況。
結合機器學習和/或因果模型，運用決策管理、業務規則和知識圖譜，捕捉領域知識和人類專業經驗，為數據分析結果提供更豐富的背景。
將機器學習、圖像識別或自然語言處理技術與網絡分析相結合，提升至更高層次的符號化和關係性智慧。
擴展機器學習專家的技能範疇，或招聘/培訓更多人工智慧專才，以涵蓋網絡分析、最佳化等複合人工智慧技術。在規則和啟發式方法方面，考慮培養知識工程技能，以及新興的提示工程等專長。
透過鼓勵使用生成式人工智慧進行實驗，加速決策智慧專案的開發，進而促進複合人工智慧解決方案的落地。
代表性供應商
ACTICO、Aera Technology、FICO、Frontline Systems、IBM、Indico Data、Peak、SAS
Gartner 推薦閱讀
通用人工智慧
分析師： Pieter den Hamer
效益評級： 具變革性
市場滲透率： 目標受眾中不到1%
成熟度： 萌芽階段
定義：
通用人工智慧（AGI），又稱強人工智慧，指的是一種（目前還是假設性的）機器智能，能夠完成任何人類可以執行的智力任務。AGI 被視為未來自主人工智慧系統的一項特質，使其能在各種現實或虛擬環境中實現目標，其效能至少與人類相當。
為何重要
隨著人工智慧日益複雜強大，特別是生成式人工智慧（GenAI）最近的重大突破，越來越多人認為AGI不再只是純粹的假設。至少深入理解AGI的概念，對於引導和規範人工智慧的未來發展至關重要。同時，管理合理期望並避免過早將人工智慧人格化也同樣重要。然而，若AGI真的實現，其對經濟、（地緣）政治、文化和社會的影響將不容小覷。
商業影響
短期內，組織必須意識到許多利害關係人中存在AGI炒作，這引發了對當前人工智慧實際能力的恐懼和不切實際的期望。這種對AGI的預期已經加速了更多人工智慧法規的出現，並影響了人們對目前應用人工智慧的信任和意願。長遠來看，不論有無AGI，人工智慧的力量將持續增強，對組織的影響也將與日俱增，包括機器客戶（由人工智慧驅動的自動化購買者）和自主業務（高度自動化的業務運作）的出現。
驅動因素
近期生成式人工智慧（GenAI）應用、基礎模型以及大型語言或多模態模型使用方面的重大突破，引發了對通用人工智慧（AGI）的廣泛關注。這些進展主要得益於深度學習的大規模擴展，以及海量數據和計算能力的可用性。然而，要進一步推動人工智慧向AGI演進，現有技術還需要輔以其他方法，包括一些新興技術，如知識圖譜、多智能體系統、模擬、進化算法、因果人工智慧、複合人工智慧，以及可能尚未被發現的其他創新技術。
Google、IBM和OpenAI等科技巨頭正公開討論並積極研究AGI領域，這給外界造成了AGI即將實現的印象。然而，這些公司對AGI的定義卻大相徑庭，往往可以有多種解讀。
人類追求遠大目標的天性也是推動AGI發展的重要因素。回顧歷史，人類曾夢想通過模仿鳥類來實現飛行。如今，飛機旅行已成為現實。人類思維的好奇本性，從自然和自身汲取靈感的能力，將持續推動我們探索未知。
人類傾向於將人性特徵賦予非生命物體，這種傾向也延伸到了人工智慧驅動的機器。ChatGPT等人工智慧系統的擬人化回應，以及人工智慧成功通過多項高等教育考試的事實，進一步強化了這種認知。
複雜的人工智慧系統常常表現出未被明確編程的行為。這主要源於系統內部眾多組件之間的動態交互。因此，人們越來越傾向於將理解力等人性化特徵歸於人工智慧。儘管許多哲學家、神經心理學家和其他科學家認為這種歸因過於誇大或具有高度不確定性，但它已經在公眾心中種下了AGI即將實現或正在逐步接近的印象。這種印象進而引發了大量媒體關注、多項管理AGI潛在風險的監管呼籲，以及出於經濟、社會和地緣政治考量對人工智慧的大規模投資熱潮。
目前人工智慧系統存在的不可靠性、不透明度和有限推理能力等問題，難以僅憑深度學習的機率性方法來解決。單純增加數據量或提升運算能力來擴大模型規模，不太可能克服這些障礙，更遑論實現通用人工智慧（AGI）。
「智慧」以及「理解」等相關概念，在科學界尚未達成共識，這也包括AGI的定義和詮釋。人腦和心智的極度複雜性，使得我們對人類智慧的科學認知仍面臨巨大挑戰。在我們尚未完全理解人類智慧的情況下，任何關於AGI的論述——無論其可能呈現何種形式——都難以得到有力驗證。即便未來我們能夠準確定義和理解AGI，要將其付諸實現可能還需要更多技術突破。因此，按照目前的定義，AGI短期內不太可能成為現實。
若AGI真的實現，很可能會催生出一些自主行為體，隨著時間推移，這些行為體可能被賦予完全的自學能力、主體性、身份認同，甚至道德意識。這將引發一系列有關AI法律權利的討論，並觸發深刻的倫理乃至宗教層面的辯論。AGI的出現也可能對人類社會產生負面影響，從就業危機到新一輪AI驅動的軍備競賽等。這些影響可能引發嚴重的社會反彈，在不久的將來，我們可能會看到旨在禁止或管控AGI的法規出台。
使用者建議
與各方利害關係人積極溝通，解答他們的疑慮，並建立或維持切合實際的期望。當前，人們對AI的態度可能出現兩個極端：要麼過度擔憂未來AI會取代人類，要麼對當前AI的能力和商業影響過於樂觀。這兩種態度都不利於我們務實有效地運用現有的AI技術。
密切關注可能預示AGI出現的科學和創新突破。同時，持續應用當前的AI技術，從中學習經驗，獲取實際效益，並逐步建立負責任的使用規範。
儘管AGI尚未成為現實，但當前的AI技術已經在偏見、可靠性等方面帶來了顯著風險。企業應該未雨綢繆，為即將出台的AI法規做好準備，同時推動內部AI治理，以有效管理AI當前及未來可能帶來的風險。
範例供應商
Gartner 推薦閱讀
高峰期
主權AI
分析師： Lydia Clougherty Jones, Clementine Valayer
效益評級： 高
市場滲透率： 目標群體的20%至50%
成熟度： 發展期
定義：
主權人工智慧（AI）是指各國致力於自主開發和應用 AI 技術，以減少對商業市場的依賴。這一趨勢反映了不同國家的政治和文化差異，旨在推進其主權目標，包括在制定 AI 策略時，在創造價值的同時也注重適合本國國情的風險控制。由於各國在 AI 創新和潛在風險方面存在顯著差異，主權 AI 對國際關係、全球貿易和經濟市場產生了難以預料的影響。
重要性
主權 AI 反映了各國快速採用 AI 技術的趨勢，目的是提高政府內部各項職能和活動與運營目標的一致性。雖然這可以增強一國的軍事防禦能力，但其他國家使用 AI 技術也可能削弱這些國家安全努力。主權 AI 旨在最大化 AI 的價值，同時降低其風險。一些國家甚至在這方面展開合作，以實現共同目標，例如減少 AI 生成的「深度造假」（deepfake）技術在政治領域的負面影響。
商業影響
主權 AI 幾乎影響了政府及其互動企業的所有方面。它通過自動化任務來提高運營效率，例如在政府客服中心的應用。由於主權 AI 推動了政府業務的現代化，它可以改善公務員工作體驗，並加速公民參與。當各國能夠控制自己的 AI 系統時，他們就能減少對其他國家和私營科技市場的依賴。
驅動因素
越來越多國家正積極規劃並建立自身的人工智慧（AI）基礎設施和能力，以提升國際競爭力並確保未來發展。這些國家正在發展他們認為可持續的「國家自主人工智慧」。
AI 不當使用可能對公民和社會造成已知和未知的風險，這促使主權國家希望加強對 AI 系統開發的控制，尤其是在政府使用生成式 AI （即能夠創造新內容的 AI ，如 ChatGPT ）的場景中。
主權國家越來越需要自我規範，包括如何利用本國數據來訓練大型語言模型（即能夠理解和生成人類語言的 AI 模型）。例如，許多國家正在使用 AI 工具來制定重要的政府決策，但據客戶反映，這些決策往往外包給私營公司，缺乏公眾參與和監督。這種透明度和問責制的缺失促使主權國家自行開發 AI 工具，以應對這些關鍵決策過程中可能存在的偏見和利益衝突問題。
各國希望減少對他國和科技市場的依賴，特別是在難以充分代表本國文化和語言特點的情況下。
國家自主人工智慧在數位主權中扮演重要角色，它著重於對 AI 數據和系統的主權控制，包括對計算能力、數據存儲、人力資源獲取以及 AI 應用開發專有知識的掌控。反之，數位主權也能顯著影響國家自主人工智慧的發展，例如本地存儲的數據可用於訓練 AI 模型。
國家自主人工智慧與國家數據戰略有所不同。前者的核心在於成為 AI 技術的開發者和使用者，而非監管者。國家數據戰略則反映了國家對其公民、私營產業和經濟中的數據和 AI 使用進行監管的努力。
打擊深度造假技術（即利用 AI 生成逼真的虛假影像或音頻）擴散所帶來的政治穩定威脅。
現在就提升政府工作人員的技能，為打造未來更具 AI 應用能力的政府勞動力做好準備。
滿足推進地方和國家防禦戰略日益增長的需求。
在新興科技領域推進發展並保持領先地位。
建立 AI 就緒的資訊科技基礎設施。
培養具備 AI 技能的政府人才。
推動政府文化現代化，以接納先進分析和自動化技術。
突破現有資訊科技基礎設施的限制和分散的業務網絡帶來的挑戰，開發並實施自主 AI 系統。
缺乏適合訓練大型語言模型的優質資料，導致 AI 輸出效果參差不齊。
缺乏技術嫻熟的人才參與 AI 開發和應用全程，增加了 AI 使用帶來意外負面影響的風險。
各國政治文化差異造成的需求和支持多樣性，阻礙了政府部門加速採用 AI。
政治和文化價值觀的差異將導致各國對 AI 價值與風險的評估不一，進而對國際貿易和全球市場產生難以預料的影響。
全球各國獨立發展 AI 將導致 AI 解決方案需求的分散，甚至可能產生矛盾，這些需求中許多無法由公共或私營部門單獨滿足。
使用者建議
致力於發展符合國家戰略目標的自主可控 AI 系統的國家應：
從小規模專案著手，優先發展能最大程度推進政府業務目標和利害關係人利益的 AI 應用。
制定 AI 戰略藍圖，從內部應用逐步擴展到面向民眾的服務。
確保 AI 戰略能夠識別關鍵價值機會和潛在風險。
密切關注並學習其他國家的自主 AI 發展經驗，包括紐西蘭、歐盟執委會、印度、美國和英國的相關計畫。
與友好國家合作加速學習進程，分享失敗教訓和意外成功的經驗。
參考顧能（Gartner）的《成功人工智慧戰略的支柱》報告，引導國家邁向 AI 發展的自主治理，創造實質價值並實現具有競爭力的國家領導地位。
顧能（Gartner）推薦閱讀
分析師： Avivah Litan、Bart Willemsen、Jeremy D'Hoinne
效益評級： 高
市場普及率： 目標受眾的 5% 至 20%
成熟度： 初步進入主流市場
定義：
人工智慧信任、風險和安全管理（AI TRiSM）旨在確保 AI 系統的治理、可信度、公平性、可靠性、穩健性、效能和資料保護。AI TRiSM 涵蓋多項解決方案和技術，包括模型和應用程式的透明度、內容異常檢測、AI 資料保護、模型和應用程式的監控和操作、抵禦惡意攻擊，以及 AI 應用程式的安全性。
重要性
AI 模型和應用程式在開發和運行階段都應受到保護機制的規範，以確保它們能基於預定目標持續創造價值，並維持可接受的使用方式。因此，AI TRiSM 作為一個框架，結合了一系列風險、隱私和安全控制措施，以及信任促進因素，協助企業管理 AI 模型和應用程式的全生命週期，進而達成業務目標。這不僅能改善成果和效能，還能加強對各項法規（如歐盟人工智慧法案）的遵循。
對業務的影響
未能持續管理 AI 風險的組織更容易遭遇不良後果，例如專案失敗、AI 效能不佳和資料機密性遭破壞。AI 系統若產生不準確、不道德或非預期的結果，或出現流程錯誤、無法控制的偏見，以及遭受善意或惡意人士的干擾，可能導致安全漏洞、財務和聲譽損失，甚至引發法律責任和社會危害。此外，AI 表現不佳還可能導致組織做出不當或錯誤的商業決策。
驅動因素
OpenAI 的 ChatGPT 推動了第三方生成式 AI 應用程式的普及化，並徹底改變了企業競爭和工作的方式。然而，這也意味著雲端託管的生成式 AI 應用程式帶來了顯著且快速演變的風險。
普及化的第三方 AI 應用程式往往存在相當大的資料機密性風險。這部分是因為用於訓練 AI 模型的大規模敏感資料集通常來自多個來源，包括這些應用程式使用者分享的資料。
為避免不利的監管、商業和聲譽影響，必須嚴格控制機密資料的存取。
AI 風險和安全管理帶來了新的營運要求，這些要求目前尚未被完全理解，也無法透過現有系統解決。新興供應商正在填補這一空缺。
必須持續監控 AI 模型和應用程式，以確保其實施符合法規、公平且合乎道德。風險管理工具可以在（訓練）資料和演算法功能中識別並調整偏見控制（如有需要）。
未經審核的 AI 輸出可能因不準確、非法或虛構的資訊而影響商業決策，導致組織做出錯誤決策或有害行為。
必須透過觀察和測試模型和應用程式的輸出，持續驗證 AI 模型和應用程式的可解釋性和預期行為。這樣可以確保 AI 模型和應用程式的原始解釋、詮釋和預期在運作過程中保持有效。如果不符合預期，就必須採取糾正措施。
偵測和阻止針對 AI 的惡意攻擊需要新的方法，而大多數企業安全系統目前尚未提供這些功能。
AI 風險管理的法規——如歐盟 AI 法案（EU AI Act）以及北美、中國和印度的其他監管框架——正推動企業採取措施來管理 AI 模型和應用程式風險。這些法規定義了組織必須滿足的新合規要求，這些要求是在現有要求（如隱私保護相關規定）之上的額外規範。
AI 信任、風險和安全管理（AI TRiSM）通常被視為次要考慮。大多數組織直到 AI 模型或應用程式投入實際運作後才會開始關注這個問題。
企業在使用雲端託管的大型語言模型（大語言模型，LLMs）時，往往缺乏自動過濾輸入和輸出的本地功能。這可能導致機密資料政策違規，或在決策過程中使用不準確資訊等問題。此外，企業必須依賴與供應商的授權協議來確保其機密資料在託管環境中的隱私安全。
一旦 AI 模型和應用程式投入使用， AI TRiSM 就更難整合到現有的 AI 工作流程中，這不僅降低效率，還可能引入潛在風險。
許多內嵌 AI 的商業軟體往往是封閉系統，不支援第三方產品的應用程式介面（API），因此難以執行企業的安全政策。
大多數 AI 相關的威脅目前尚未被充分理解，也未能有效應對。
AI TRiSM 需要一個跨領域團隊，包括法律、合規、資安、IT 和數據分析等專業人員，共同制定目標並使用統一框架，但這在實踐中相當具有挑戰性。
儘管困難重重，但透過 AI TRiSM ，仍有可能將生命週期控制整合到 AI 系統中。
專家建議
成立專門的 AI TRiSM 管理部門，納入對 AI 項目有深入了解的相關人員。
制定詳細且可執行的 AI 使用政策。
建立數據分類和權限管理系統，確保企業政策得到有效執行。
建立系統記錄並審核所有基於 AI 的應用程式，定期要求使用者確認其使用符合預定目的。
採用適當的 AI TRiSM 工具組，管理 AI 模型、應用程式和代理的信任風險和安全性。
要求 AI 元件供應商提供可驗證的 AI 行為保證。
實施 AI 數據保護解決方案，針對不同使用場景和組件採用適當的保護方法。
在與大語言模型託管供應商的授權協議中，明確規定數據保護和隱私保障條款。
不論 AI 系統的規模大小，都應持續驗證和測試組織內所有 AI 的安全性、可靠性和風險狀況。
代表性供應商
Aporia、Bosch Global Software Technologies (AIShield)、Harmonic、Lasso Security、ModelOp、Prompt Security、Protopia AI、TrojAI
Gartner 推薦閱讀
AI 提示工程
分析師： Frances Karamouzis、Jim Hare、Afraz Jaffri
效益評級： 高
市場滲透率： 目標受眾的5%至20%
成熟度： 新興
定義：
提示工程是一門專門針對生成式人工智慧（AI）模型的輸入設計學科。它通過提供文字或圖像形式的輸入，來指定並限制模型可產生的回應範圍。這些輸入能夠引導模型產生所需結果，而無需像模型微調那樣更改模型的實際參數權重。提示工程也被稱為「情境學習」，即通過提供範例來進一步引導模型的行為。
為何如此重要
提示工程是確保AI系統產出符合企業需求的關鍵。其重要性在於大型語言模型（LLMs）和生成式AI模型對輸入的細微變化極為敏感。輕微的調整可能會將錯誤的答案轉變為可用的輸出。每個模型都有其獨特的敏感度，而提示工程的核心就是通過反覆測試和評估來掌握這種敏感度。
對企業的影響
提示工程對企業有以下影響：
性能提升： 有助於改善模型表現並減少「幻覺」（即AI產生的不實或不相關信息）。
業務對準： 使主題數據科學家、領域專家和軟體工程師能夠引導原本通用的基礎模型，使其與特定業務、領域和行業需求相符。
縮短上市時間、提高品質、效率和效果： AI領導者需要在眾多架構和執行選項中取捨平衡。同時，各種提示優化工具的出現將減少（或至少改變）手動工程的需求。
驅動因素
平衡與效率： 提示工程的根本驅動力在於它能讓組織在使用「現成」AI產品和採用更昂貴、耗時的模型微調方法之間取得平衡。生成式AI模型，尤其是大型語言模型，都是預先訓練好的，企業無法將自己的數據直接加入訓練集。而通過提示，可以將內容輸入模型並指示其執行特定功能。
流程或任務特定客製化及新用例開發： 通過插入影響模型輸出的上下文和模式，可以為特定企業、領域或監管要求進行客製化。設計提示有助於提高各種用例的品質 — 如領域特定問答、摘要生成、分類等 — 無需或減少對模型進行昂貴或不切實際的微調。這種方法也適用於創建和設計新的用例，充分利用模型的圖像和文字生成能力。
驗證與確認： 測試、了解並記錄模型的限制和弱點至關重要，這有助於降低AI產生「幻覺」和不當輸出的風險。
• 提示工程：新興的關鍵技能
提示工程是一門正在快速發展的新興學科，專注於設計和優化使用者對大型語言模型（LLM）或 LLM 驅動的聊天機器人的輸入，以獲得最佳效果。工程師們發現，使用生成式 AI 創造、除錯、驗證和複製所需輸出往往充滿挑戰。為此，全球各地的專業社群正在開發創新的提示工程方法和技術，以實現理想成果。
• 方法、技巧與擴展性：尚待統一與完善
目前，提示工程尚無統一的標準方法。面對複雜情境，工程師需要將其拆解為更小的組件。複雜提示的除錯過程具有挑戰性，理解特定提示元素如何影響 LLM 的運作邏輯至關重要。對大多數組織而言，開發可擴展且易於維護的提示工程方法仍是一項進行中的工作。
• 跨領域合作：發揮團隊協同效應
在提示工程中，數據科學家扮演著關鍵角色。他們深入了解模型的能力與局限，能夠決定是採用純提示方法、微調方法，還是兩者結合的方式來客製化 AI 系統。長遠來看，業界的目標是運用機器學習技術自動生成最佳提示，實現提示優化的自動化。這與一般使用者單純通過手動調整提示來改善回應的做法形成鮮明對比。
專家建議
• 提高認知：迅速建立對提示工程的認識和理解，為塑造適合的提示工程團隊和工作流程奠定基礎。 • 培養技能：在團隊中培養多元化的關鍵技能，包括數據科學、業務分析、領域專業知識、軟體工程和公民開發等，以實現協同效應。 • 工具教育：讓團隊熟悉各種提示優化工具，這些工具將減少手動工程的需求，或至少改變其性質。 • 保持警惕：強調提示工程並非萬無一失，企業團隊需要保持嚴謹和勤勉，以確保解決方案的成功實施。
相關供應商
更多閱讀資源
負責任的 AI
分析師：Svetlana Sicular、Philip Walsh
效益評級：變革性
市場滲透率：目標受眾的 5% 至 20%
成熟度：發展階段
定義：
負責任的人工智能（RAI）是一個綜合概念，涵蓋在採用 AI 時所需考慮的各種商業和道德層面。這包括商業和社會價值、風險管理、信任建立、透明度、公平性、偏見消除、可解釋性、可持續發展、問責制、安全性、隱私保護和法規遵循等方面。RAI 強調組織在確保 AI 開發和運營過程中保持正面、負責任和道德的責任與實踐。
重要性
隨著生成式人工智能（AI）的初期應用，負責任的AI（RAI）再次成為AI領域的焦點話題。AI技術在大規模應用中展現出利弊並存的結果，而RAI則致力於在確保商業價值的同時降低風險，以實現最佳成果。RAI涵蓋了一系列工具和方法，包括針對特定行業的解決方案，這些已被供應商和企業廣泛採納。同時，越來越多的司法管轄區正在引入新的法規，推動並挑戰組織採用RAI實踐。
商業影響
RAI強調在個人、組織和社會層面對AI開發和使用負責。與僅由特定群體實施的AI治理相比，RAI的影響範圍擴大到了參與AI過程的所有利益相關者。儘管數據中常常存在固有偏見，RAI仍致力於實現公平；儘管透明度和可解釋性的方法仍在發展中，RAI有助於建立信任；儘管AI本質上具有不確定性，RAI還能確保合規。
驅動因素
RAI協助AI參與者開發、實施、利用AI技術，並應對他們面臨的各種挑戰。隨著AI的進一步普及，RAI的驅動因素變得愈發重要，供應商、買家、社會和立法者對此的認識也不斷深化：
生成式AI的採用帶來了新的問題，如幻覺、敏感數據洩露、版權爭議和聲譽風險，這促使安全、法律和採購等領域的新角色參與到RAI中來。
領先的供應商開始為其生成式AI產品提供賠償保證，作為RAI方法的一部分，提升了客戶信心。儘管這是積極的一步，但仍有待完善。
從組織角度看，RAI需要在監管、商業和道德的框架內平衡商業價值和相關風險。這包括重新培訓員工以適應AI技術，以及保護知識產權等考慮。
從社會角度看，RAI需要在確保AI安全以促進社會福祉和維護人類自由之間尋求平衡。現有和即將出台的法律指南和法規，如《歐盟人工智能法案》，使RAI成為必然趨勢。
從客戶/公民角度看，RAI建立在公平和道德的基礎上，需要在隱私和便利之間取得平衡。客戶/公民可能願意為某些利益交換他們的數據。
AI影響著各個層面的生活，涉及所有社會階層。因此，RAI面臨的挑戰是多方面的，難以一概而論。隨著技術和應用的快速發展，新的問題將不斷出現。
RAI 責任歸屬不明確，致使其看似美好卻難以落實。
組織往往低估 AI 的潛在風險。許多機構直到遭遇 AI 負面影響後才開始重視 RAI ，殊不知預防遠比補救容易。
AI 法規多處於草案階段。 AI 產品需遵守隱私和知識產權等多項法規，使組織難以全面合規並規避所有潛在法律風險。
快速演進的 AI 技術，如可解釋性、偏見檢測、隱私保護和部分合規工具等，容易讓組織產生虛假的安全感。然而，僅憑技術是遠遠不夠的，還需要嚴謹的 AI 倫理和治理方法。
難以衡量成效。若只是制定和實施 RAI 原則，而不定期評估進展，將難以維持 RAI 實踐的持續性。
用戶建議
在所有 RAI 重點領域公布統一的方法。企業 RAI 最典型的領域包括公平性、偏見消除、倫理、風險管理、安全、隱私、可靠性、可持續性和法規遵循。
為每個使用案例指派一名專責人員，負責 AI 的負責任開發和使用。
制定 AI 生命週期框架。在整個週期中貫徹 RAI 原則，並解決艱難的權衡問題。
為員工提供 RAI 培訓，將 AI 素養和批判性思維納入培訓內容。
落實 RAI 原則。確保參與者的多元化，並建立便捷的 AI 問題反饋機制。
參與行業或社會 AI 團體。學習最佳實踐並分享經驗，促進共同進步。確保政策兼顧內外部利益相關者的需求。
樣本供應商
Adobe、Arthur、Fiddler AI、Google、H2O.ai、IBM、Microsoft、Responsible AI Institute、SolasAI、TruEra
Gartner 推薦閱讀
AI 工程
分析師： Soyeb Barot、Anthony Mullen、Leinar Ramos、Joe Antelmi
效益評級： 高
市場滲透率： 目標受眾的 1% 至 5%
成熟度： 發展期
定義：
AI 工程是企業大規模實現 AI 和生成式 AI (GenAI) 解決方案的基石。該領域整合了 DataOps 、 MLOps 和 DevOps 流程，以建立一體化的企業級 AI 系統，涵蓋開發、部署（混合、多雲、邊緣計算）和運營（流式處理、批處理）等環節。
重要性
人工智慧（AI）解決方案的需求急劇攀升，這主要源於生成式 AI（GenAI）持續引發的熱潮。然而，僅有少數組織具備將個別試驗項目擴展至大規模生產所需的數據、分析和軟體基礎，更遑論在企業層面大規模運作 AI 解決方案組合。在這過程中，工程、流程和文化方面的挑戰不容忽視。為了滿足 AI 解決方案擴展的需求，企業必須建立統一的 AI pipeline，以支援各類 AI 模型（包括統計、機器學習、生成式、深度學習、圖形、語言和規則導向）的開發、部署、重複使用、治理和維護。
對業務的影響
AI 工程使組織能夠穩健且安全地建立和擴展高價值的 AI 解決方案組合。目前，大多數 AI 開發受限於運營和文化瓶頸。透過採用 AI 工程方法—包括數據運營（DataOps）、模型運營（ModelOps）和開發運營（DevOps）—企業可以在結構化、可重複的工業化模式中將模型部署到生產環境。
推動因素
DataOps、ModelOps 和 DevOps 為 AI 開發生命週期中的工作流程提供最佳實踐。跨數據和模型 pipeline 的標準化加速了 AI 解決方案的交付。
摒棄傳統的數據管理和 AI 工程孤島方法，不僅能夠提高數據工程效率，還能減少數據擷取、處理、模型工程和部署各環節之間的不協調，這些不協調在 AI 模型投入生產後往往會逐漸顯現。
AI 工程使企業環境中的 AI 資源（如數據目錄、知識圖譜、程式碼庫、參考架構、特徵儲存庫、模型儲存庫等）更易於發現、組合和重複使用。這對於在企業範圍內擴展 AI 至關重要。
AI 工程使跨混合雲、多雲、邊緣 AI 或物聯網的解決方案整合成為可能。
更廣泛地採用基礎平台，為在現有數據、分析和治理框架上擴展 AI 計劃的生產提供了初步成功。
AI 工程實踐、流程和工具必須適應並解決 GenAI 帶來的挑戰。針對 GenAI 的特定調整包括支援提示工程、向量資料庫/圖形知識庫、多代理系統的架構和部署，以及互動式部署模型。
AI 工程工具可分為以模型為中心和以數據為中心兩類。雖然業界常用 DataOps、LLMOps（大型語言模型運營）、LangOps（語言運營）或 FMOps（基礎模型運營），或更廣泛的術語如 ModelOps 或 MLOps（機器學習運營），但我們認為這些都是 AI 工程的分支。
企業級 AI 基礎計畫的主導權尚未明確。由於 AI 賦能帶來的變革性潛力，高層主管正積極爭取企業 AI 責任。
AI 工程需要同步發展跨領域的流程和平台基礎設施。
AI 工程需要整合全方位解決方案與特定工具，包括開源技術，以最小化功能重疊的方式填補企業架構缺口。這些缺口涉及資料提取、轉換和載入儲存、特徵儲存、模型儲存、模型監控、流程可視化和治理等方面。
AI 工程需要雲端成熟度，可能需要重新架構，或具備跨部署環境整合資料和 AI 模型流程的能力。對於剛起步的組織來說，分析與 AI 工作負載的潛在複雜性、管理難度及成本可能成為阻礙。
企業常尋求全能型專家來將 AI 平台產品化。臨時性的供應商解決方案會增加成本，並可能使原本就複雜的整合和模型管理任務變得更加棘手。
用戶建議
為企業範圍的 AI 基礎計畫建立領導階層授權。
通過建立 AI 工程實踐來最大化持續 AI 計畫的商業價值，優化資料、模型和實施流程。
透過識別操作端到端 AI 平台所需的功能並建構 AI 專用工具鏈，簡化資料和分析流程。
謹慎使用單點解決方案，僅用於補足全功能資料操作（DataOps）、機器學習操作（MLOps）、模型操作（ModelOps）和平台操作（PlatformOps）工具中的功能或能力缺口。
開發 AI 模型管理和治理實踐，協調模型性能、人類行為和商業價值交付，使用戶更容易採用 AI 模型。
利用雲端服務供應商環境作為 AI 工程的基礎。同時，在遷移到雲端時優化您的資料、分析和 AI 組合。
採用平台方法實現生成式 AI（GenAI），投資集中式 AI 工程工具，以實現跨廣泛 AI 模型和供應商的自動化、治理和用例啟用。
提升資料工程和平台工程團隊的技能，採用推動 AI 成果持續整合/持續開發的工具和流程。
示例供應商
Amazon Web Services、Dataiku、DataRobot、Domino Data Lab、Google、Microsoft、neptune.ai、OctoAI、Seldon Technologies、Weights & Biases
Gartner 推薦閱讀
分析師： Eric Goodness
效益評級： 高
市場滲透率： 目標受眾的 5% 至 20%
成熟度： 發展中
定義：
端緣 AI 指的是將 AI 技術嵌入非 IT 產品（包括消費性和商業用途）、物聯網端點、網關和端緣伺服器中。它的應用範圍涵蓋消費者、商業和工業領域，例如行動裝置、自動駕駛車輛、增強醫療診斷能力和串流影片分析。雖然主要聚焦於 AI 推論，但更複雜的系統可能包含本地訓練功能，以優化端緣的 AI 模型。
為何重要
許多端緣運算的應用場景對延遲敏感且資料密集，需要自主進行本地決策。這使得在廣泛的端緣運算和終端解決方案中，對基於 AI 的應用需求大增。例如，用於預測性維護的端緣資料即時分析、輔助決策的推論和影像分析等。近來，生成式模型（包括較小型的語言模型）已成為實驗和投資的熱門領域。
商業影響
即時資料分析和決策智慧。
提升營運效率，如製造業的視覺檢測系統，可識別缺陷、動作浪費、等待時間和產能過剩或不足。
透過產品內嵌的 AI 回饋機制，提升客戶體驗。
藉由減少端緣和雲端之間的資料傳輸，降低連線成本。
無論網路連線狀況如何，都能維持功能和解決方案的可用性。
由於只有優先處理的資料會傳送至核心系統，因此可減少儲存需求。
在終端保護資料隱私。
推動因素
整體而言，端緣 AI 受惠於 AI 能力的進步，包括：
MLOps 和 ModelOps 工具與流程的成熟，支援更廣泛的 MLOps 功能，使用更加便利。早期，許多公司進入市場時僅專注於模型壓縮。
機器學習（ML）技術性能的提升，以及相關資料可用性的增加（如來自工業資產的時間序列資料）。
企業對於僅能透過端緣 AI 實現的新穎和改進成果有殷切需求，包括：
運用基於視覺的解決方案進行監控或檢查，減少全職員工數量。
透過自動化各種流程，提高製造生產品質。
優化各行業的營運流程。
創新客戶體驗方式，如行動裝置上的個人化服務，或零售業中基於端緣的智慧結帳銷售點。
對本地部署生成式 AI 的興趣日益增長。
在既有系統環境（「棕地」環境）中，越來越多用戶選擇升級舊有系統和基礎設施。透過使用機器學習操作（MLOps）平台，人工智慧（AI）軟體可以部署在邊緣運算設備、網關（資料匯集點）中，或嵌入具備必要運算資源的產品內。
更多製造商將 AI 嵌入端點設備，作為產品服務化策略的一環。在這種架構下，物聯網（IoT）端點（如汽車、家用電器和商業建築基礎設施）能夠運行 AI 模型，解讀端點收集的數據並驅動某些功能。
對於在邊緣訓練去中心化 AI 模型以實現自適應 AI 的研發需求日益增加。這些新興解決方案源於具體需求，如保護隱私或在離線（脫離雲端）情況下運行機器和流程。
邊緣 AI 受到所部署設備的應用和設計限制，包括外形尺寸、功耗預算、數據量、決策延遲、位置和安全要求等。
採用 AI 技術的系統可能呈現非確定性特徵。這將影響其在某些用例中的適用性，尤其是在安全和保安要求較高的情況下。
基於某些機器學習和深度學習技術構建的邊緣 AI 解決方案具有自主性，這常常引發信任問題，特別是當其推論過程難以解釋或說明時。隨著自適應 AI 解決方案的普及，如果最初相同的模型部署到相同的端點後開始呈現不同的行為，這些問題將會更加突出。
缺乏高質量和充足的訓練數據是 AI 應用中的普遍挑戰。
神經網絡中的深度學習是計算密集型任務，通常需要使用高性能晶片，相應地也需要較高的功耗。這可能會限制其部署位置，尤其是在對小型設備和低功耗要求至關重要的場景中。
用戶建議
評估使用邊緣 AI 是否能提供足夠的成本效益改進，或者傳統的集中式數據分析和 AI 方法是否已足夠且具有擴展性。
慎重考慮何時選擇邊緣 AI 而非集中式解決方案。邊緣 AI 特別適用於通訊成本高、對延遲敏感、需要即時回應或在邊緣產生大量數據的應用場景。
評估支援邊緣 AI 的各種技術及其供應商的可行性。許多潛在供應商是新創公司，可能擁有創新產品，但支援能力有限。
使用邊緣網關和伺服器作為數據匯集和過濾點，執行大部分邊緣 AI 和分析功能。對於計算密集型端點，可以考慮在設備本身執行基於 AI 的分析，作為特殊情況處理。
樣本供應商
Chooch、Edge Impulse、IFS（Falkonry）、Litmus Automation、MicroAI
Gartner 推薦閱讀
基礎模型
分析者： Arun Chandrasekaran
效益評級： 具革命性
市場滲透率： 20% 至 50% 的目標受眾
成熟度： 初步普及
定義：
基礎模型是在廣泛的數據集上以自我監督方式訓練的大規模參數模型。這些模型主要基於轉換器（transformer）或擴散深度神經網絡架構，並逐漸發展為多模態。之所以稱為基礎模型，是因為它們對廣泛的下游應用場景具有關鍵重要性和適用性。這種廣泛適用性得益於模型的預訓練和多功能特性。
重要性
基礎模型因其大規模預訓練和廣泛的應用場景，成為人工智慧（AI）發展的重要里程碑。它們能以超越前代技術的效能提供最先進的功能。這些模型已成為自然語言處理的首選架構，並已擴展應用至計算機視覺、音視頻處理、軟體工程、化學、金融和法律等領域。
商業影響
基礎模型有潛力增強各種企業應用，將對不同行業和業務功能產生廣泛影響。隨著越來越多新創公司基於這些模型開發企業應用，其影響力正在加速擴大。基礎模型將通過提高勞動力生產力、自動化和優化客戶體驗，以及實現新產品和服務的快速、高性價比開發，推動企業內部的數位轉型。
驅動因素
更快實現價值 — 基礎模型可通過預建的應用程式介面（API）、提示工程（prompt engineering）、檢索增強生成或進一步微調來有效創造價值。雖然微調可能實現更多客製化，但其他選項較為簡單、快速且經濟。
跨領域卓越表現 — 這些模型與先前的神經網絡解決方案相比有顯著進步。大型預訓練模型能以前所未有的規模和準確度生成連貫的文字、程式碼、圖像、語音和視頻。
創新步伐加快 — 過去一年湧現了大量基礎模型，以及由此衍生的較小型、針對特定領域預訓練的模型。這些模型多以雲端API或開源專案形式提供，進一步縮短了實驗時間、降低了成本，促進了企業更快採用。
生產力提升 — 隨著基礎模型自動化任務能力的擴展，它們正在影響企業的廣泛業務功能。營銷、客戶服務和資訊科技（特別是軟體工程）等領域是客戶尋求初步效益的重點。
結果並非完美無缺 — 儘管基礎模型代表了重大進步，但仍需謹慎訓練並設置適當的限制。由於其訓練方法和內部運作機制的不透明性，這些模型可能會產生不可接受的結果或虛構內容。此外，它們也可能將訓練數據集中存在的偏見或版權問題傳播到下游應用中。
需要相應的專業技能和人才 — 與所有人工智慧解決方案一樣，基礎模型的最終效果取決於訓練者和使用者的技能、知識和才能，特別是在提示工程（prompt engineering）和微調等方面。
規模擴張到不切實際的程度 — 大型模型可能包含數十億甚至數萬億個參數。對大多數組織而言，訓練如此龐大的模型在實際操作上是不可行的，因為所需的計算資源可能導致高昂的成本和不環保的問題。
權力集中化 — 這些模型主要由擁有巨額研發投資和頂尖人工智慧人才的大型科技公司開發，導致權力集中在少數財力雄厚的實體手中。這種情況可能在未來造成嚴重的失衡。
用戶建議
制定戰略文件：通過協作方式概述這些模型的優勢、風險、機遇和執行計劃。
將基礎模型引入現有的語音、文本或編碼領域：如果您正在使用較舊的語言處理系統，轉向基於轉換器（transformer）的模型可能會顯著提升性能。知識搜索、內容摘要和生成等應用已成為各行業新興的熱門用例。
優先選擇具有完善生態系統支持的模型：這些模型應具備適當的企業級安全和隱私保護措施，並已在市場上廣泛部署。
客觀評估：在選擇基礎模型時，需要權衡準確性、成本、安全性、隱私保護以及價值實現時間等因素，以確定最適合的模型。考慮到複雜性和高昂的成本，應謹慎考慮是否從頭開始構建模型。
培訓人才：對開發人員、數據和分析團隊進行教育，使其掌握提示工程和其他操控這些模型所需的高級技術。
組建專門團隊：指定一個孵化團隊，負責監控行業發展動態，展示技術可能性，與各業務部門進行實驗，並在公司範圍內分享寶貴的經驗教訓。
樣本供應商
阿里巴巴集團、Anthropic、Cohere、Databricks、Google、Hugging Face、IBM、Microsoft、Mistral AI、OpenAI
Gartner 推薦閱讀
合成數據
分析者： Arun Chandrasekaran、Anthony Mullen、Alys Woodward
效益評級： 高
市場滲透率： 目標受眾的 5% 至 20%
成熟度： 發展階段
定義：
合成數據是一種人工生成而非直接源自真實世界觀察的數據類型。它在多個領域中被用作真實數據的替代品，包括數據匿名化、人工智慧（AI）和機器學習（ML）開發、數據共享以及數據變現等。
為何至關重要
目前，AI 開發面臨的一大挑戰是獲取和標註真實世界數據所需的巨大工作量。這不僅耗時，還十分昂貴。而合成數據能夠更快速、更經濟地生成，有效解決了這一問題。此外，對於某些特定應用場景，如訓練自動駕駛車輛模型，要收集涵蓋所有極端情況的真實數據幾乎是不可能的。更重要的是，合成數據可以在不含個人識別信息（PII）或受保護健康信息（PHI）的情況下生成，這使其成為保護隱私的重要技術。
商業影響
合成數據的應用正在各行各業迅速擴大。根據 Gartner 的預測，其採用率將大幅上升，原因如下：
在訓練機器學習模型時，可通過生成原始數據的合成變體或替換部分數據來避免使用個人識別信息。
顯著降低機器學習開發的成本和時間。
由於提供更多訓練數據，從而提升機器學習的性能。
使組織能夠探索真實數據稀缺的新應用場景。
更有效地解決公平性問題。
推動因素
在醫療保健和金融領域，買家對合成表格數據的興趣日益濃厚，因為它可以在 AI 訓練數據中保護隱私。
為滿足自然語言自動化訓練（尤其是聊天機器人和語音應用）對合成數據日益增長的需求，新舊供應商紛紛推出創新產品，擴大了供應商生態系統，推動了合成數據的採用。
合成數據的應用範圍已經超越了汽車和計算機視覺，擴展到數據變現、外部分析支持、平台評估和測試數據開發等領域。
轉換器（Transformer）和擴散（Diffusion）架構作為生成式 AI（GenAI）的基礎，正在實現前所未有的高質量、高精度合成數據生成。AI 模擬技術通過更精確地重現真實世界場景，進一步提升了合成數據的品質。
合成數據正在擴展到更多數據類型。除了常見的表格、圖像、視頻、文本和語音應用外，研發實驗室正在將合成數據的概念擴展到圖形領域。合成生成的圖形將與原始圖形相似但不重疊。隨著組織開始更廣泛地應用圖形技術，預計這種方法將日益成熟並推動更多採用。
隨著生成式 AI 模型的普及和未來的客製化需求，對用於預訓練這些模型的合成數據的需求將持續增長。
合成數據雖然前景廣闊，但仍面臨諸多挑戰。首先，它可能存在偏見問題，無法捕捉自然界的異常現象，開發過程複雜，或無法為現有的真實數據提供新的洞察。此外，合成數據的品質高度依賴於生成模型的優劣。
目前，業界尚未就如何有效結合合成數據與真實數據進行人工智慧開發形成共識，合成數據的生成方法也缺乏統一標準。驗證合成數據的準確性也是一大難題。儘管合成數據集可能表面上看起來真實可信，但要確保它能準確反映底層的真實環境實屬不易。
由於缺乏相關專業知識，許多潛在用戶對於何時以及如何運用這項技術仍感到困惑。安全性和隱私保護同樣是不容忽視的問題，因為合成數據可能暴露組織的敏感信息。值得注意的是，機器學習模型可能通過主動學習（active learning）技術被逆向工程，這意味著學習算法能夠主動向用戶或其他信息源查詢標籤，從而獲取新的數據點。
另一個值得關注的問題是，如果種子數據集中缺少邊緣或極端情況（edge cases），這些情況就無法在合成過程中被生成。因此，對於這類邊界情況的處理需要格外謹慢。最後，用戶可能對合成數據持懷疑態度，認為它們是「劣質」或「虛假」的。
針對這些挑戰，我們提出以下建議：
識別組織中數據缺失、不完整或獲取成本高昂的領域，這些往往是阻礙人工智慧計劃的瓶頸。特別是在醫療保健或金融等受監管行業，更需要謹慎行事，嚴格遵守相關法規。
在需要使用個人數據但又必須保護隱私的情況下，可以考慮使用原始數據的合成變體或部分替代數據。
通過系統性的培訓計劃，讓內部利益相關者充分了解合成數據的優勢與侷限性。同時，建立健全的保護機制，以應對用戶懷疑和數據驗證不足等挑戰。
客觀衡量並有效傳達合成數據專案的商業價值，分享成功案例的同時也不迴避失敗教訓。
目前，合成數據領域的主要供應商包括 Anonos（Statice）、Gretel、Hazy、Howso、MOSTLY AI、Parallel Domain、Rendered.ai、Tonic.ai 和 YData 等。
根據 Gartner 的分析，合成數據技術的效益評級為「高」，但市場滲透率仍處於 1% 至 5% 的初期階段，屬於新興技術。
值得一提的是，模型操作化（ModelOps）是一個相關的重要概念，它主要聚焦於高級分析、人工智慧和決策模型的全方位治理和生命週期管理。這涵蓋了基於機器學習、生成式人工智慧、知識圖譜、規則、優化、語言學和智能代理等多種模型。
這些發展對於推動人工智慧技術的進步和應用至關重要，將為各行各業帶來深遠影響。
ModelOps 技術助力企業標準化、擴展並增強其分析和人工智慧計劃，協助組織將模型從實驗室環境順利過渡到生產環境。相較於主要聚焦於機器學習模型監控和治理的 MLOps，ModelOps 的應用範圍更廣，涵蓋了所有高級分析、決策和人工智慧模型的運作和管理，包括生成式人工智慧（GenAI）和檢索增強生成（RAG）系統。
業務影響
為多元化的人工智慧、分析和決策系統提供全面的管理和運作能力。
建立複雜的子系統，實現人工智慧、分析和決策系統的全面監控，包括版本控制、即時監測、自動化流程、數據協調、實驗管理和結果解釋等功能。
促進業務、開發和部署團隊之間的緊密協作，並能將人工智慧、分析和模型成果與企業關鍵績效指標（KPI）有效對接。
驅動因素
現代人工智慧系統正朝向生成式和傳統人工智慧模型、智能代理和軟體功能的融合發展。隨著組織內部高級分析、人工智慧和決策模型數量激增，有效管理各類預製或客製化模型的需求日益迫切。
企業渴望在高級分析和人工智慧流程中實現更高的靈活性和適應性，不僅涉及模型本身，還包括數據、應用程序和基礎設施的快速調整。
ModelOps 提供了一個完整框架，明確劃分各團隊在不同環境（如開發、測試和生產）中構建、測試、部署和監控各類模型的職責。這種方法不僅提高了生產效率和團隊協作，還大幅降低了項目失敗的風險。
ModelOps 提供了有效工具，用以應對模型隨時間推移而產生的數據漂移和偏見問題。在某些情況下，確保模型的可治理性、可解釋性和完整性更顯重要。
雖然機器學習模型的操作化挑戰由來已久，但利用 ModelOps 在組織層面實現多樣化模型的生產部署仍處於發展階段。
企業不願意為管理 ModelOps 而部署大量開源工具，但市面上能夠提供端到端模型操作化解決方案的供應商卻寥寥無幾。值得注意的是，並非所有功能都需要立即實施。通常，版本控制、監控和模型協調等基礎功能的建立，會先於特徵存儲、管道和全面可觀察性系統的完整部署。
生成式人工智慧的應用將需要更多的測試關注，同時也需要引入新的功能來進行版本控制、管理和自動化提示、路由以及檢索增強生成系統。此外，模型微調也將需要強化的 ModelOps 功能，以有效管理複雜的領域特定和功能性訓練數據集。
許多組織在採用不同類型的模型時，往往在高級分析系統已陷入混亂、缺乏管理之後，才開始著手建立適當的營運、治理和管理能力。
目前並非所有分析技術都能受益於成熟的操作化方法。由於機器學習（ML）技術備受關注， MLOps （機器學習操作）的 AI 實踐相對較為成熟。然而，某些模型，如代理模型和優化技術，在 ModelOps （模型操作）實踐和平台中仍需更多關注。
協助生成式 AI （ GenAI ）產品化的 ModelOps 能力正在萌芽，但尚未成熟。此外，由於數據、安全和法規方面的顧慮，許多組織在將 GenAI 投入生產時遭遇困難。
組織可能會採用一些暫時用不到的 ModelOps 平台功能。同時，那些部門各自為政、未能採用全面 ModelOps 策略的組織，在操作化過程中往往會重複勞動。
使用者建議
購買整合到您主要 AI 平台中的 ModelOps 功能。對於特徵存儲或可觀察性等特殊需求，可採用最佳的開源或專有 ModelOps 解決方案來強化這些功能。
在複合 AI 、數據、模型和應用程序中運用 ModelOps 最佳實踐，以確保順利轉型、減少阻力並提升價值創造。
招募或培訓能夠掌握處理非結構化數據、搜索、圖形和優化的 AI 系統 ModelOps 的額外工程師。
促進開發和部署團隊間的協作，賦予團隊權力以自動化、擴展分析和 AI 管道，並提高其穩定性。
與軟體工程團隊合作擴展 ModelOps 。將操作化職責轉移給生產支持團隊，有助於在複雜的 AI 應用生態系統中提升 ModelOps 的專業化程度和精密度。
代表性供應商
「DataRobot」、「IBM」、「ModelOp」、「Modzy」、「Neptune.ai」、「OctoAI」、「SAS」、「Valohai」、「Verta」、「Weights & Biases」
Gartner 推薦閱讀
生成式 AI
分析師： Svetlana Sicular
效益評級： 變革性
市場滲透率： 目標受眾的20%至50%
成熟度： 成長期
定義：
生成式 AI （ GenAI ）技術能夠透過學習大量原始資料，生成全新的內容、策略、設計和方法。生成式 AI 對商業有深遠影響，包括內容的發現、創作、真實性和法規面向；人類工作的自動化；以及客戶和員工體驗的提升。
重要性
企業用戶積極試驗生成式人工智慧（GenAI）。多數產業的早期採用者已在 GenAI 應用上取得初步成果。
主要科技廠商優先推出支援 GenAI 的應用程式和工具。
為創新 GenAI 的基礎模型、硬體和資料，市場湧現大量解決方案。
受 GenAI 熱潮影響，各國政府正著手制定 AI 法規，並投資國家級 AI 策略。
商業影響
企業關注焦點正從基礎模型的興奮轉向能帶來實質 ROI 的應用場景。目前，大多數 GenAI 的實施仍屬低風險且限於內部使用。隨著生產力工具和 AI 治理實踐的快速進展，企業將在產業垂直領域和科學探索中，為更關鍵的應用場景部署 GenAI 。長遠來看， GenAI 驅動的對話式介面將促進科技商業化，使 AI 和其他科技更加普及化。
驅動因素
生成式人工智慧（GenAI）的產業應用正在蓬勃發展，已深入娛樂、行銷、設計、音樂、建築和內容創作等創意領域。
隨著首批企業級部署的實施，最佳實踐經驗正逐漸累積，推動了頂級 GenAI 企業應用案例的發展，如進階聊天機器人、程式碼輔助和內部服務台。根據 2023 年 Gartner 企業 AI 調查顯示，18% 深度參與 AI 的領導者表示，他們的組織在 GenAI 採用方面已達先進階段。
GenAI 已成為主要科技供應商的關鍵競爭領域，它們在基礎模型、企業就緒程度、定價策略、基礎架構、安全性和賠償保證等方面展開激烈競爭。
新版本、新規模和新功能的基礎模型正快速湧現，使 GenAI 能應用於更多場景。同時，向量資料庫、圖形技術、大型語言模型（LLM）測試、安全防護和開源資源等工具正在提升模型的穩健性，使 GenAI 更易於應用。
多模態模型（如 Gemini 或 GPT4-Video）的進展顯著。這些模型能同時處理圖像和文字輸入，例如允許用戶針對圖像提問並獲得文字答覆。模型還能結合概念、屬性和風格來創作原創圖像、影片和藝術作品，或將音訊轉換為不同聲音和語言。特別值得一提的是，文字轉圖像/影片生成技術已能根據文字描述創建高度詳細且逼真的視覺內容。
企業正學習透過提示工程（prompt engineering）和微調（fine-tuning）技術，將自身數據與 GenAI 結合使用。AI 就緒數據及其相關元數據已成為 GenAI 策略的核心。
合成數據協助企業補充稀缺數據、減少偏見、實現超高解析度或保護數據隱私。
GenAI 正在改變軟體工程領域。開發自動化技術有望自動化 5% 到 10% 的程式設計師工作。企業現在也願意借助 GenAI 來解決舊有系統現代化的問題。
生成式人工智慧（GenAI）引發新的倫理和社會疑慮。政府法規可能會阻礙 GenAI 的研究發展，而相關待定法規正在快速增加。
目前，由於存在幻覺、偏見、運作機制不透明等問題，加上缺乏完整 AI 生命週期的實務經驗，GenAI 尚無法應用於關鍵性場景。
各供應商對 GenAI 的責任歸屬、授權方式和定價策略不一，可能使客戶陷入困境。
重現 GenAI 的結果並找出生成資訊的來源仍具挑戰性，但一些驗證解決方案已開始出現。
資安專家對於如何認證和保護 GenAI 解決方案尚缺乏經驗，建立相關安全最佳實務仍需時日。
GenAI 已被用於不法目的。完全準確地辨識如深度偽造和虛假資訊等人工生成內容，仍然極具挑戰性，甚至可能無法實現。
訓練 GenAI 模型所需的運算資源，對多數企業而言難以負擔。同時，GenAI 高耗能的永續性問題也日益受到關注。
給企業用戶的建議
辨識可透過購買現有功能來改善業務的低風險應用場景。參考供應商的產品發展藍圖，避免重複開發類似的內部解決方案。
設計 GenAI 解決方案時應考慮近期升級的可能性，因為基礎模型和相關數據工具正在快速演進。
試行導入機器學習驅動的程式碼輔助工具，以快速推廣為目標，提升開發人員的生產力。
運用合成數據加速開發週期並減少法規遵循的顧慮。
量化評估 GenAI 的優勢與侷限。制定 GenAI 政策和準則，因為它需要專業技能、資金投入，且須謹慎使用。
與法務、採購、資安和防詐欺專家合作，降低 GenAI 的相關風險。需要在技術、制度和政策層面採取干預措施，以對抗 AI 可能帶來的負面影響。
採用混合 AI 方法，結合 GenAI 與其他 AI 技術，以優化 AI 解決方案的成本效益。
代表性供應商
阿里雲、亞馬遜雲端服務、Anthropic、Google、Hugging Face、IBM、Meta、微軟、Mistral AI、OpenAI
Gartner 推薦閱讀
進入低谷期
神經形態運算
分析師：Alan Priestley
效益評級：具變革性
市場滲透率：目標受眾不到 1%
成熟度：萌芽期
定義：
神經形態運算是一種技術，旨在使用數位或類比處理技術，更精確地模擬生物大腦的運作方式。這類設計通常採用脈衝神經網路（SNN），而非深度神經網路（DNN），具有非馮·諾依曼架構的特性，其特點是處理單元簡單但互連性極高。
此技術的重要性
目前，大多數人工智慧（AI）開發仍依賴於基於 GPU 的並行處理設計。儘管 GPU 具有高性能，但其高耗電特性限制了在多種場景中的應用。相比之下，神經形態運算採用非同步、事件驅動的設計，有望實現極低功耗運作。這使得神經形態運算特別適用於邊緣裝置和終端設備，能夠支援物體和模式識別，從而實現圖像、音訊和感測器數據分析。
對企業的影響
神經形態運算架構有潛力以極低的能耗為模式識別和信號分析提供卓越性能。相較於其他 AI 模型，它可使用較小的數據集進行訓練，甚至可能實現現場訓練。
神經形態運算設計可在低功耗裝置上實現，這有助於將 AI 技術推廣到網路邊緣，從而加速圖像和聲音識別等關鍵任務。
推動因素
現今的深度神經網路（DNN）演算法和大型語言模型（LLM）需要高性能處理裝置和海量數據進行訓練，這限制了其部署範圍。
神經形態運算設計正朝兩個方向發展：用於數據中心的大規模裝置，以及用於邊緣運算和終端設計的小規模裝置。這兩種路徑都利用脈衝神經網路（SNN）實現非同步設計，相較於目前基於 DNN 的設計，具有極低功耗的優勢。
半導體廠商正在開發利用 SNN 來實現 AI 解決方案的晶片。
可用性：目前 GPU 比神經形態運算更容易取得和程式設計。然而，隨著神經形態運算及其支援生態系統的成熟，這種情況可能會改變。
知識缺口：神經形態運算的程式設計將需要新的編程模型、工具和培訓方法。
擴展性：互連的複雜性挑戰了半導體製造商創造可行神經形態裝置的能力。
整合：要與其他 AI 架構競爭，神經形態運算在架構和實現方面仍需重大突破。儘管 DNN 和 LLM 架構的快速發展可能會減緩神經形態運算的進展，但預計在未來十年內仍可能出現重大突破。
給用戶的建議
未來五年內，神經形態計算架構可能成為可行技術，企業應及早做好準備。
識別可能受益於神經形態計算的關鍵應用領域，制定相應的發展路線圖。
與神經形態計算領域的行業領袖合作，開發示範性項目。
明確成功開發神經形態計算項目所需的新技能，並設定業務目標或預期價值，以指導管理層制定長期策略。
代表性供應商
AnotherBrain、Applied Brain Research、BrainChip、GrAI Matter Labs、英特爾、Natural Intelligence、SynSense
Gartner 推薦閱讀
智慧型機器人
分析師： Dwight Klappich
效益評級： 高
市場滲透率： 目標市場的 1% 至 5%
成熟度： 新興技術
定義：
智慧型機器人是一種由人工智慧驅動、通常可移動的機器，能夠自主執行一項或多項實體任務。這些任務可能依賴或產生機器學習，進而應用於未來活動或應對新情況。智慧型機器人可根據任務或用途分為不同類型，如個人助理、物流和工業機器人等。
重要性
智慧型機器人是人工智慧的一個具體應用，而普通機器人未必涉及人工智慧。雖然智慧型（實體）機器人的採用率低於工業機器人，但它在市場上引起了極大關注。過去一年，由於企業致力於改善物流運營、推動自動化以及在各種工作中輔助人類，對智慧型機器人的興趣和投資大幅增加，使其在技術趨勢中的排名上升了數位。
業務影響
智慧型機器人將在資產密集型、產品導向和服務業等廣泛領域產生初步影響。它們能夠降低人類面臨的實體風險，同時以更高的可靠性、更低的成本和更高的生產力完成工作，這一特點在上述行業中普遍適用。目前，智慧型機器人已在物流、倉儲和安全等領域與人類協作。
驅動因素
近兩年來，技術的快速發展使市場變得更加活躍，衍生出許多新的應用場景，徹底改變了人們對智慧型機器人的認知及其價值創造方式。
隨著處理器、攝像頭和感測器等元件成本的逐步下降，機器人的價格變得更加親民。
智慧型機器人的硬體組件（如馬達、執行器、底盤和輪子）持續優化。同時，物聯網（IoT）整合、邊緣運算AI和對話能力等領域也取得了突破性進展。這些進步為機器人的部署帶來了全新的範式。
供應商專業化程度的提高，促使解決方案的商業價值更高，因為全能型或多功能設備要麼難以實現，要麼價值較低。
各行各業對智慧型機器人的興趣日益濃厚。這些機器人在醫療保健、製造業、最後一公里配送、工業設備檢測、農業和辦公場所等多個領域擔任各種任務。
儘管智慧型機器人仍屬新興技術，但隨著供應商擴展產品線並探索新技術，未來幾年內市場熱度和期望值將持續攀升。加入強化學習等功能將有助於推動機器人的持續學習循環和群體管理。
企業仍在努力尋找有價值的商業應用場景，並評估機器人的投資回報率，尤其是在製造業和運輸業以外的領域。
任務的複雜性和多樣性要求更高級的決策能力。目前的智慧型機器人擅長處理重複性和可預測的任務，並能適應不同的工作環境。
定價模式和購買選項的不斷演變以及缺乏統一標準，為企業帶來了不確定性。企業難以比較和評估各種購買方案，如月租、按小時收費、機器人即服務或直接購買等。
用戶建議
• 評估智慧型機器人如何在製造業、配送、物流、零售、醫療保健或國防領域取代或輔助人力。 • 啟動試點計劃，評估產品性能並量化效益，即使小規模部署也可能實現投資回報。 • 隨著在此領域累積經驗，準備好調整和發展您的流程和機器人策略。 • 檢視現有業務流程，必要時重新設計以支援智慧型機器人的導入。 • 考慮智慧型機器人的多種採購模式，如機器人即服務或混合資本支出/營運支出模式。 • 開發培訓資源，將機器人作為助手引入人類工作環境，以消除員工的疑慮。 • 確保未來兩年內有足夠的雲端運算資源，以支援高速低延遲的連接。 • 鑑於機器人市場的分散性，評估多家全球和區域供應商。
樣本供應商
Ava Robotics、Geekplus、GreyOrange、HAHN Group（Rethink Robotics）、iRobot、Locus Robotics、軟銀機器人、Symbotic、temi、優必選科技
Gartner 推薦閱讀
分析師： Van Baker, Bern Elliot
效益評級： 高
市場滲透率： 目標受眾的 5% 至 20%
成熟度： 早期主流
定義：
雲端 AI 服務提供 AI 模型建構工具、預建服務的 API 和相關中介軟體，使機器學習（ML）和生成式 AI 模型的建立/訓練、部署和使用成為可能，這些模型運行在預建的雲端基礎設施上。這些服務包括預訓練的視覺、語言和其他生成式 AI 服務，以及自動化 ML 和微調功能，用於創建新模型和客製化預建模型。
為何重要
雲端 AI 服務的使用持續增加。供應商已推出額外服務，包括大型語言模型（LLM）API 和具完整整合 MLOps 流程的解決方案。低程式碼工具的加入提高了易用性。應用程式經常在語言、視覺、表格資料和程式碼生成中使用 AI 雲端服務，以自動化和加速業務流程。開發人員了解這些產品，並越來越多地在應用程式中使用預建和客製化的 ML 模型。
業務影響
雲端 AI 服務影響企業運營的應用程式，允許開發人員增強應用功能。生成式 AI 為這些解決方案增添了新類別，允許對 LLM 進行微調以優化性能。資料驅動的決策需要包含 ML 模型以增強應用功能。部分 AI 技術已趨成熟，但生成式 AI 仍包含一些不太成熟的功能。雲端 AI 服務透過可評分、預測和生成內容的模型增強應用程式，實現資料驅動的業務運營。
驅動因素
• 把握新洞察力帶來的機遇。來自內部和第三方的豐富數據提供了新見解，例如將預測性機器學習模型整合到應用程式中，實現數據驅動的智慧決策。
• 滿足對話式互動的需求。生成式人工智慧和大型語言模型的出現，促進了對話式應用程式的發展，使用者可以透過大型語言模型與數據源互動，獲得深入見解。
• 達成業務關鍵績效指標（KPI）的需求。企業必須透過部署人工智慧和機器學習模型來自動化流程，以提高準確性、改善回應速度並降低成本。
• 降低進入門檻。使用預訓練的生成式人工智慧模型並進行微調，降低了訓練模型所需的大量數據需求。開發人員和業務分析師可以透過API調用大型語言模型，進一步擴大開發團隊對人工智慧的應用。
• 自動化機器學習促進客製化開發。使用自動化機器學習來客製化套裝服務，以滿足業務的特定需求變得更加容易，且不需要數據科學家的參與。
• 廣泛的雲端人工智慧服務。市場上有來自多家專業供應商的雲端人工智慧服務，包括用於簡化解決方案部署的協調層。
• 新興的人工智慧模型市集。新的市集應該能夠透過雲端人工智慧服務，協助開發人員採用這些技術。
• 開發人員和業務分析師缺乏將這些服務應用於特定使用案例的相關知識。
• 生成式人工智慧模型的落地具有挑戰性，需要精心設計的檢索增強生成（RAG）解決方案，通常包括向量嵌入和其他功能來實現。許多雲端人工智慧開發服務（CAIDS）提供商將這些功能作為其生成式人工智慧產品的一部分提供。
• 基於使用量的雲端人工智慧服務定價模型對企業來說存在風險，因為使用這些服務的成本可能會迅速累積。需要全面的成本模型工具來解決這個問題。
• 開發人員和業務分析師對使用多種服務的整合解決方案需求增加。
• 能夠將人工智慧和機器學習模型整合到應用程式中的模型運營（ModelOps）工具的可用性有限。
• 開發人員缺乏以負責任的方式有效實施這些服務所需的技能，如提示工程和微調。
使用者建議
• 選擇可客製化的雲端人工智慧服務，而非量身訂製的模型，以應對多種使用情境，實現更快速的部署和擴展。
• 透過實驗各種人工智慧技術來提高策略成功機會，包括使用生成式人工智慧模型（如大型語言模型和多模態模型）以及其他雲端服務。由於技術仍在快速演進，確保生成式人工智慧模型保持靈活可調整。
• 利用雲端人工智慧服務構建較簡單的模型，提升人工智慧生產力，同時將數據科學資源釋放用於更高優先級的專案。
• 為非數據科學家提供自動演算法選擇、資料集準備和特徵工程等功能，賦予他們更多能力。善用現有的雲端服務操作專業知識來支援技術團隊。
• 運用預訓練的生成式人工智慧模型，加速大型語言模型支援解決方案的原型設計和部署。
• 開發成本預測工具，使企業能有效評估人工智慧模型在各業務應用中廣泛部署時的使用和管理成本。
代表性供應商
阿里巴巴雲（Alibaba Cloud）、亞馬遜網路服務（Amazon Web Services）、百度（Baidu）、Google、H2O.ai、IBM、微軟（Microsoft）、NVIDIA、甲骨文（Oracle）、騰訊（Tencent）
Gartner 推薦閱讀
技術成熟度曲線攀升階段
自動駕駛車輛
分析師： Jonathan Davenport
**效益評級：**變革性
**市場滲透率：**目標受眾不到 1%
**成熟度：**新興
定義：
自動駕駛車輛運用多種車載感測和定位技術，如雷射雷達、雷達、攝像頭、全球導航衛星系統（GNSS）和地圖資料，結合人工智慧決策系統，實現無人監督或干預的駕駛。此技術廣泛應用於客車、公共汽車和卡車，以及採礦和農業拖拉機等特定領域。
重要性
自動駕駛車輛有望徹底改變交通運輸經濟，降低營運成本並提高車輛使用效率。在城市地區，低廉的車資和優質服務可能減少私家車需求。道路安全將大幅提升，因為人工智慧系統不會分心、酒後駕駛或超速。私家車的自動駕駛功能將允許乘客在車輛自主行駛時進行工作或娛樂活動。
對業務的影響
自動駕駛車輛正在開啟顛覆傳統汽車產業商業模式的可能性。這種以軟體為基礎的駕駛系統，作為服務的一部分銷售，將為企業帶來高利潤收入。自動駕駛系統將刺激車載運算需求，以執行人工智慧軟體，從而大幅提高車輛的整體成本。繼辦公室和家庭之後，車輛將成為第三個可以創造和消費數位內容的空間。隨著時間推移，車隊營運商可能會重新培訓並調配其人類商業駕駛員，使其在公司內擔任其他更高附加價值的角色。
驅動因素
自動駕駛車輛法規和標準的制定將有助於技術的實施。自動車道保持系統（ALKS）技術已獲得聯合國歐洲經濟委員會（UNECE）批准。這是第一個針對SAE 3級車輛自動化的具有約束力的國際法規，最高運行速度為每小時60公里。隨著新的監管環境形成，全球汽車製造商開始推出3級自動駕駛解決方案。
賓士汽車是首個獲得國際有效系統認證的汽車製造商，並已在德國推出相關服務。在美國，其3級自動駕駛解決方案已在內華達州和加州獲得批准。BMW則推出了個人駕駛員L3功能，可自動控制汽車速度、與前車距離和車道定位，目前已在新7系車型上提供。在中國，長安汽車、長城汽車和小鵬汽車也已宣布推出3級自動駕駛系統。
自動駕駛車輛市場預計將從先進駕駛輔助系統（ADAS）逐步發展到乘用車更高級別的自動化，而非出現以無人計程車為基礎的革命性變革。這將需要靈活的車輛運行設計域（ODDs）。
自動駕駛卡車展現了極具吸引力的商業前景。司機薪資是商用卡車車隊最大的營運成本之一，而自動駕駛技術可以大幅降低這項支出。此外，由於不再需要休息時間，貨物可以更快速地運送到目的地。Aurora Driver產品目前已進入「功能完整」階段，計劃在2024年底推出「中程」無人駕駛卡車服務。
隨著生成式人工智慧（GenAI）能夠產生合成數據，人工智慧算法在模擬環境中的訓練速度可以大幅提升。
在非道路使用情境中，自動駕駛車輛可以協助、取代或重新調配人力資源，以提高工作精確度、降低營運成本並提升工作安全性。
由於自動駕駛車輛設計的複雜性，將其商業化的成本遠超過公司預期，需要大量投資。
當自動駕駛車輛開始商業化運營時，車輛開發商而非乘客將對車輛的自動操作負責。這需要專門的保險方案來承保可能發生的事故。
挑戰日益包括監管、法律和社會層面的考量，如營運許可和人機互動的影響。
汽車製造商的計劃正在推遲。例如，現代汽車的 Genesis G90 和起亞 EV9 原本預計將配備 Level 3（3級）高速公路自動駕駛輔助系統（HDP）。延遲原因是系統需要應對各種複雜的真實駕駛場景。
儘管 Level 4（4級）感知算法和更廣泛的自動駕駛系統（如用於機器人計程車）持續改進，無人駕駛服務並未迅速擴展到不同城市。Cruise 在 2023 年發生的事故導致其策略調整，裁員近四分之一。
各方建議
政府 必須：
制定國家法規，確保自動駕駛車輛能與傳統車輛安全共存，並建立相關審批和註冊框架。
與自動駕駛車輛開發商密切合作，確保緊急救援人員能安全應對道路交通和其他緊急情況，同時自動駕駛車輛不會妨礙相關活動。
自動駕駛移動服務運營商 應通過持續關注安全和打造無事故道路環境來增強消費者對自動駕駛車輛技術的信心。
計劃採用自動駕駛技術的 傳統車隊運營商 應制定政策和計劃，培訓並將駕駛員（包括巴士、計程車和卡車司機）轉移到其他崗位，以最大程度減少對現有工作的衝擊。
汽車製造商 應制定計劃，說明如何將更高級別的自動駕駛技術部署到正在設計和製造的車輛中，以確保車輛購買的未來適用性，並實現未來的功能即服務（FaaS）收入流。
代表性供應商
Aurora、AutoX、百度、Cruise、Mobileye、NVIDIA、Oxa、小馬智行、Waymo、Zoox
Gartner 推薦閱讀
知識圖譜
分析者： Afraz Jaffri
效益評級： 高
市場滲透率： 目標受眾的 5% 到 20%
成熟度： 早期主流
定義：
知識圖譜是物理和數字世界的機器可讀表示。它們包括實體（人、公司和數字資產）及其關係，這些關係遵循圖數據模型 — 由節點（頂點）和連接（邊/弧）組成的網絡。
重要性
知識圖譜：人工智慧的新基石
知識圖譜以直觀的視覺方式呈現世界資訊，同時能夠表達複雜的關係。這項技術已成為搜尋引擎、智慧助理和推薦系統等多種產品的核心。知識圖譜不僅支援協作與共享，還能促進探索、發現，並通過分析提供深度洞察。近來，結合生成式人工智慧模型與知識圖譜的新技術「GraphRAG」或「G-RAG」正在興起，這種方法能提供更精確的語境理解，從而產生更準確的輸出。
商業影響
知識圖譜在多個領域都有顯著的商業價值，包括：
數位職場（如協作、資訊共享和搜尋）
自動化（如從各類內容中擷取資料以進行流程自動化）
機器學習（如擴充訓練資料）
調查分析（如執法、網路安全和風險管理）
電子商務（如產品資訊管理和個人化推薦）
資料管理（如元資料管理、資料目錄和資料織理）
發展動力
需要補充現有人工智慧和機器學習方法（如目前的基礎模型）的不足。這些方法僅能檢測資料中的模式，而知識圖譜則能提供明確的知識、規則和語意。
為了更有效地利用儲存在文件、通訊、圖像和影片中的非結構化資料，企業需要標準化的元資料來建立關聯、管理這些資料，並為人工智慧應用奠定基礎。
在處理大量企業資料時，越來越多地將知識圖譜與大型語言模型（LLM）結合使用，以提供更佳的語境理解，從而更準確地回答問題。
人們越來越意識到知識圖譜在消費產品和服務中的應用，如智慧設備、語音助理、聊天機器人、搜尋引擎、推薦系統和路線規劃等。
隨著Web3應用程式的興起，跨信任網路的資料存取需求增加，促使去中心化知識圖譜的發展，以建立不可篡改且可查詢的資料結構。
面對日益增多的資料孤島，其中資料經常重複，且意義、使用方式和消費模式不明確，需要更好的管理方法。
利用圖形演算法和機器學習來識別複雜網絡中的關鍵影響者、客戶群體、欺詐活動和瓶頸。
智慧應用善用學習適應能力，自主回應人類和機器的互動。儘管一般應用也能表現智能，但智慧應用本質上更具智慧和主動性。傳統基於條件邏輯的規則方法正逐漸被數學模型訓練所取代，這使得應用能在各種情況下，包括全新或獨特的場景中，做出恰當的反應。這項技術使得各種場景和用例中的工作得以增強和自動化。
為何如此重要
人工智慧（AI）目前是企業應用的競爭重點，許多技術供應商正透過內建、附加、代理或客製化等方式，在其產品中導入 AI 功能。AI 的最新發展持續擴展應用的自主運作範圍，同時提升其質量和生產力。整合智慧和 AI 不僅能支援交易流程，還能輔助決策過程。
商業影響
採用或強化智慧應用為組織帶來三大優勢：
自動化 — 提升自動化和動態決策能力，降低人為干預的成本和不穩定性，增進業務流程效率。
增強 — 根據情境和風險，加快動態決策速度並提高質量，無論是自動化決策還是輔助人為決策。
情境適應 — 應用能因應用戶或流程的具體情境調整，創造個人化體驗。
驅動因素
生成式 AI 和大型語言模型（LLMs）的熱潮，以及對話式介面的普及，不僅激發了創新，還揭示了在現有應用程式中整合 AI 功能的寶貴方法。如今，推薦、洞察和個人化等功能可透過自然語言指令更輕鬆地使用。未來，聊天式介面的廣泛應用將以靈活的方式模糊介面與智能之間的界限。
AI 能力和功能正加速整合到企業應用套件中的 ERP、CRM、數位工作場所、供應鏈和知識管理軟體。嵌入式生成式 AI（如前述的 LLMs）和傳統 AI 功能（如預測分析）有助於從這些應用中獲取更多洞察。2023年 Gartner 企業 AI 調查顯示，實現生成式 AI 應用場景的首選方式是使用嵌入到現有（購買的）應用程式中的生成式 AI（詳情請參閱 調查顯示生成式 AI 如何考驗組織 AI 成熟度）。
企業對應用程式的功能需求不斷提高，無論是自行開發還是外部採購，都期望能透過推薦、洞察和額外資訊來強化現有的交易和決策流程。這反過來使供應商能夠提供更高的價值，並推動價格上漲。
可組合業務架構的趨勢凸顯了提供先進且靈活的功能以支援、增強和自動化決策的可能性，這些決策傳統上需要底層數據架構和封裝功能來構建。然而，LLMs 的廣泛採用有潛力成為可組合的介面層，加速實現可組合架構的能力。
資料不足 — 智慧應用需要存取多個系統的資料，這意味著應用程式供應商需要考慮其解決方案以外的資料管理技術和流程。
引入 AI 增加了營運 複雜性 — 模型需要訓練和維護，使用者必須了解使用的資料。將洞察置於上下文中需要業務元資料。
過度使用 AI 進行行銷 — 供應商有時忽視了對業務影響的關注，這可能會引起企業買家的反感，尤其是當 AI 過去未能提供價值時。
對系統生成洞察的信任 — 企業用戶需要時間來認識這些洞察的價值並信任它們，一定程度的可解釋性至關重要。
使用者建議
敦促您的套裝軟體供應商在其產品發展藍圖或生態系統中闡明如何整合人工智慧（AI），以透過多元AI技術提升商業價值。
評估供應商的系統架構時，請考慮一流智慧應用程式的特點：從根本設計上能持續從其他系統收集數據，並擁有以數據織物為基礎的強大數據層。
優先投資於以單點解決方案形式提供的專業和領域特定智慧應用程式，這些應用程式有助於解決客戶參與和服務、人才招聘、協作和互動等關鍵問題。
將AI元件引入您的可組合企業架構中，以實現更快速、更安全的創新，通過建立可重複使用性來降低成本，並為業務與IT部門的合作奠定基礎。同時，請留意AI的獨特性，特別是如何更新機器學習模型以避免實施和使用上的挑戰。
樣本供應商
Alkymi、ClayHR、Creatio、Eightfold AI、JAGGAER、OpenText、Prevedere、Salesforce、Sievo、SugarCRM
Gartner 推薦閱讀
進入穩定期
電腦視覺
分析師： Nick Ingelbrecht
效益評級： 變革性
市場滲透率： 目標客群的20%至50%
成熟度： 初期主流
定義：
電腦視覺是一組涉及捕捉、處理和分析真實世界圖像和影片的技術，目的是從物理世界中提取有意義、具情境的資訊。
重要性
電腦視覺（CV）包含一系列變革性技術，包括AI/生成式AI、先進感測器和分析技術，這些對於感知和理解環境至關重要。CV技術正在推動多個行業和應用場景的創新，並創造出前所未有的商業應用和機會。
商業影響
CV技術應用於各行各業，解決了廣泛且不斷增長的商業需求。這些應用包括實體安全、醫療保健、零售、汽車、機器人、製造、供應鏈/物流、銀行和金融、農業、政府以及媒體和娛樂。電腦視覺不僅運作於可見光譜，還包括紅外線、高光譜成像、光達、雷達和紫外線等不可見光譜。
驅動因素
CV的採用主要由日益增長的自動化需求所驅動，目的是降低成本並提升監控和回應能力。其他驅動因素包括：
機器學習（Machine Learning，ML）方法、工具和服務的可用性和應用 顯著提升 ，同時硬體處理效能、數據生成和擴增技術也有所 進步 。
電腦視覺（Computer Vision）與大型語言模型（Large Language Models，LLMs）的 多模態訓練 ，促進了非結構化圖像數據的自然語言情境搜索，並能在大規模視頻流中關聯數據。
新型架構、模型和算法的改進 持續提高電腦視覺應用的價格效能比。卷積神經網絡（CNNs）與視覺轉換器（Vision Transformers）的結合正帶來頂尖效能。
圖像和視頻生成技術的突破 ，如 Google 的 Lumiere 和 OpenAI 的 Sora，在文字轉視頻生成的複雜度和真實感方面取得重大進展。
攝影機和其他感測器的普及造成圖像數據呈指數級增長 ，這產生了對自動分析、管理和從數據中提取價值方法的迫切需求。 動態視覺系統 已開始整合到智慧型手機中，而較低成本的光達（LiDAR）產品則開創了新的創新領域。
新技術如鄰近注意力點渲染（Proximity Attention Point Rendering，PAPR）和 3D 生成式 AI 的應用，使真實世界物體和環境的 3D 擷取、建模和編輯 成為可能。
邊緣運算框架 、開發者生態系統、模型壓縮和晶片技術的進步。
新興商業模型和應用 範圍廣泛，包括智慧型手機相機和濾鏡、全球影音內容製作和發行、可救生的醫學影像診斷、自動駕駛車輛、安全用途的影像監控、機器人技術，以及製造業自動化。
感測器融合 技術、多光譜和高光譜成像擴大了應用範疇。
可靠性、價格、效能和功能的改進 創造了顯著的商業價值。
利用生成式 AI 的 開放世界識別 技術不僅能識別和分類已知物體，還能在新穎情境中處理未知或未見過的物體和活動類別，無需針對特定範例進行模型訓練。
高端系統成本高昂，難以建立具備足夠投資回報率的商業案例。
電腦視覺市場缺乏獨立的標準化和性能指標，先進解決方案遠未普及，可靠性仍然是自動駕駛車輛等關鍵應用的主要障礙。
由於缺乏開放接口，系統整合面臨重重困難。
企業在業務流程中難以有效運用電腦視覺模型，同時面臨數據安全、組織調整等挑戰，以及用戶對視覺監控的抗拒。
擴展解決方案面臨挑戰，主要源於硬體成本高昂、高度客製化需求，以及龐大的服務支援需求。
充足的訓練數據往往取得不易或成本過高，尤其是在開源電腦視覺數據集日漸減少的領域。
專有算法和專利池的存在阻礙了創新。
已浮現諸多倫理、隱私和監管問題，包括利用深度偽造技術（即使用AI生成的逼真影像或影片）進行挪用公款、誤導性廣告和勒索，以及捕獲面部和其他生物特徵數據，還有新興電腦視覺技術對版權和真實性的衝擊。
使用者建議
評估電腦視覺項目對組織及其成員的變革管理影響。
初期聚焦於少數小型項目，採用快速驗證失敗的方法，並藉助跨領域團隊將最具潛力的系統擴展至生產環境。
及早在真實環境中測試生產系統，因為光線、色彩、物體擺放和移動可能會導致開發階段表現良好的電腦視覺解決方案失效。
建立內部電腦視覺能力和流程，以充分利用圖像和影片資產。
善用第三方電腦視覺工具和服務，加速數據準備並降低成本。
在項目初期就評估電腦視覺專案相關的法律、監管、商業和聲譽風險。
透過解決兩大主要挑戰 — 訓練數據不足，以及硬體昂貴且受限 — 來降低採用電腦視覺技術的門檻。可投資於合成和增強數據解決方案，以及模型壓縮技術，藉此提升模型效能並拓展更多高價值應用場景。
Last updated