想法簡述
本文探討了 UX 設計師如何通過了解影響代理行為和用戶交互的四種關鍵能力類型來有效地與 AI 代理合作。 它強調在設計過程早期評估人工智能代理的感知、推理、行動和學習能力的重要性，以創造現實、合乎道德和以用戶為中心的體驗。 該作品提供了實用的框架和示例——從智能家居設備到醫療保健機器人——以幫助設計師提出正確的問題、跨職能協作以及負責任地使用人工智能。
隨著人工智能 (AI) 越來越深入地融入產品，設計師必須了解這些系統真正能做什么。本文介紹了一個圍繞感知、推理、記憶和代理四大核心能力構建的實用框架，旨在幫助用戶體驗 (UX) 專業人士設計更智能、更值得信賴的 AI 體驗。本書包含真實案例和實用技巧，對于任何致力于塑造 AI 界面未來的人士來說，都是必讀之作。
許多人認為，人工智能代理已經存在，只是分布不均。然而，目前很少有案例能夠展現與這種近未來人工智能的良好交互體驗。幸運的是，在最近的 AWS Re: Invent 大會上，我偶然發現了一個與人工智能代理交互的用戶體驗的絕佳示例，我迫不及待地想在本文中與大家分享這一愿景。但首先，人工智能代理究竟是什么？
什么是 AI 代理？ 想象一下一個蟻群。在一個典型的蟻群中，有不同專長的螞蟻：工蟻、兵蟻、雄蟻、蟻后等等。蟻群中的每只螞蟻都有不同的工作——它們獨立運作，但又像一個緊密結合的整體。你可以“雇傭”一只螞蟻（代理）為你做一些簡單的半自主工作，這本身就很酷。然而，試想一下，你可以 雇傭整個蟻丘 去做一些更復雜或更有趣的事情：找出你的系統出了什么問題，預訂你的行程，或者……做幾乎所有人類在電腦前能做的事情。每只螞蟻本身并不非常聰明——它們高度專業化，專注于完成特定的工作。然而，不同專長的螞蟻組合在一起，呈現出一種我們將其與高級動物聯系起來的“集體智慧”。我們在博客中一直使用的“人工智能”（AI）與人工智能代理之間最顯著的區別在于自主性。您不需要向 AI 代理提供精確的指令或等待同步輸出 - 與一組 AI 代理的整個交互更加流暢和靈活，就像蟻丘解決問題一樣。
《人工智能用戶體驗：設計人工智能驅動產品的框架》 (Wiley出版社，2025年) 。 圖片來源： Greg Nudelman
AI 代理如何工作？ 代理型人工智能 (Agentic AI) 的工作方式多種多樣——這是一個內容豐富的主題，值得專門寫一本書來探討（或許一兩年后）。在本文中，我們將以系統故障排除為例，闡述一個涉及主管代理（也稱為“推理代理”）和多個工作代理的復雜流程。該流程始于人類操作員收到問題警報。他們啟動調查，然后由主管代理領導的半自主 AI 代理團隊幫助他們找到根本原因，并提出解決問題的建議。讓我們用步驟圖來分解與 AI 代理交互的過程：
多階段代理AI流程。圖片由 Greg Nudelman提供
上圖所示的多階段代理工作流程包含以下步驟：
人類操作員向主管 AI 代理發出一般請求。 然后，主管 AI 代理啟動并向幾個專門的半自主工作者 AI 代理發出一般請求，這些代理開始調查系統的各個部分，尋找根本原因（數據庫）。 工作代理將調查結果帶回主管代理，主管代理將其整理為對人類操作員的建議。 人類操作員接受或拒絕各種建議，這會導致主管代理啟動更多工作人員進行調查（云）。 經過一段時間的反復，主管代理提出了關于根本原因的假設并將其交給人類操作員。
如同與典型的人類組織簽訂合同一樣，主管AI代理擁有一支由專業AI代理組成的團隊。主管可以將消息路由到其監管下的任何AI工作代理，這些代理將執行任務并反饋給主管。主管可以選擇將任務分配給特定代理，并在稍后獲得更多信息時發送附加指令。最后，任務完成后，輸出將反饋給用戶。然后，人類操作員可以選擇向主管AI代理提供反饋或附加任務，在這種情況下，整個流程將重新開始。
人類無需擔心任何內部事務——所有事務都由“主管”以半自主的方式處理。人類所做的只是提出一個通用請求，然后審查并響應這個代理“組織”的輸出。如果你能做到這一點，這正是你與蟻群溝通的方式：你將工作分配給蟻后，讓她管理所有工蟻、兵蟻、雄蟻等等。與蟻群類似，單個專業代理不需要特別聰明，也不需要直接與人類操作員溝通——它們只需要能夠半自主地解決它們被設計執行的專業任務，并將精確的輸出反饋給“主管”代理，僅此而已。“主管”代理的工作就是完成所有的推理和溝通。這種人工智能模型更高效、更經濟，并且在許多任務中都非常實用。讓我們來看看交互流程，以便更好地感受這種體驗在現實世界中的感受。
使用案例：使用 AI 代理進行 CloudWatch 調查 為簡單起見，我們將遵循本文前面的工作流程圖，流程中的每個步驟都與圖中的步驟相對應。此示例來自 AWS Re: Invent 2024 — 不要停滯不前：互聯遙測如何助您前進 (COP322)，由 YouTube 上的 AWS Events 主持， 從 53 分鐘開始。
步驟 1 該流程始于用戶發現名為“bot-service”的服務（屏幕截圖左上角）故障急劇增加，并啟動新的調查。然后，用戶將所有相關信息以及一些額外的指令傳遞給主管代理。
步驟 1 ：人工操作員啟動新的調查。圖片來源：AWS via YouTube
第 2 步 現在，在步驟 2 中，主管代理接收請求并生成一組工作 AI 代理，這些代理將半自主地查看系統的不同部分。該過程是異步的，這意味著右側的建議初始狀態為空：調查啟動后不會立即顯示結果。
步驟二 ：主管代理啟動工作代理，工作代理需要一些時間才能匯報結果。圖片來源：AWS via YouTube
步驟3 現在，工作代理返回了一些“建議的觀察結果”，這些結果由主管處理并添加到屏幕右側的建議中。請注意，屏幕右側現在更寬了，以便于閱讀代理建議。在下面的屏幕中，不同的代理提出了兩個截然不同的觀察結果，第一個代理專門負責服務指標，第二個代理專門負責跟蹤。
步驟3：工作代理返回可能與系統遇到的問題相關的建議。圖片來源：AWS via YouTube
這些“建議的觀察結果”構成了調查中的“證據”，旨在找出問題的根本原因。為了找出根本原因，此流程中的人類操作員會提供幫助：他們會向主管代理反饋哪些觀察結果最相關。因此，主管代理和人類操作員并肩協作，找出問題的根本原因。
步驟4 人工操作員會點擊“接受”按鈕，確認他們認為相關的觀察結果，這些結果會被添加到屏幕左側的調查“案例檔案”中。現在，人工操作員已經添加了反饋，表明他們認為這些信息是相關的，代理流程將啟動調查的下一階段。主管代理收到用戶反饋后，將不再發送“更多相同的信息”，而是會進行更深入的挖掘，甚至可能調查系統的其他方面，以尋找根本原因。請注意，下圖中右側出現的新建議屬于另一種類型——它們現在正在查看日志以尋找根本原因。
步驟4 ：收到用戶反饋后，代理會進行更深入的分析，并提出不同的建議。圖片來源：AWS via YouTube
步驟5 最后，主管代理掌握了足夠的信息，開始嘗試找出問題的根本原因。因此，它從證據收集轉向推理根本原因。在步驟3和4中，主管代理提供了“建議性觀察”。現在，在步驟5中，它準備好進行重大揭秘（也可以稱之為“結局場景”），因此，就像文學偵探一樣，主管代理提出了它的“假設建議”。（這讓人想起游戲“線索”，玩家輪流提出“建議”，然后，當他們準備好發起攻擊時，他們就會提出“指控”。主管代理在這里也做了同樣的事情！）
步驟5 ：主管代理現在可以指出“犯罪”的罪魁禍首了。圖片來源：AWS via YouTube
建議的假設是正確的，當用戶點擊“接受”時，主管代理會提供后續步驟來解決問題，并防止將來再次出現類似問題。代理似乎在對人類指手畫腳，建議他們“實施適當的變更管理程序”——這是任何良好系統衛生的基礎！
Supervisor Agent 還提供了后續步驟來修復問題并預防未來再次發生。圖片來源：AWS via YouTube
最后的想法 代理流如此引人注目，并成為當今眾多人工智能開發工作的焦點，原因有很多。代理引人注目、經濟實惠，并且能夠實現更加自然靈活的人機界面。代理能夠填補人類與機器之間溝通的空白，真正實現人機思維的融合，形成超越人類的“增強智能”，其價值遠超其各部分之和。然而，要從與代理的交互中獲得最大價值，也需要我們徹底改變對人工智能的理解方式，以及設計支持代理交互的用戶界面的方式：
靈活、可調節的用戶界面： 代理與人類一起工作，為此，人工智能代理需要一個靈活的工作流程，以支持人與機器在多個階段的持續交互——開始調查、接受證據、形成假設、提供后續步驟等。這是一個跨越多個迭代的靈活循環流程。 自主性： 雖然目前，人機交互似乎是代理工作流程的常態，但代理展現出非凡的能力，能夠提出假設、收集證據，并根據需要迭代假設，直至解決問題。它們不會感到疲倦，也不會窮盡所有選項而放棄。AI 代理還展現出能夠有效地“編寫代碼……讓工具自行構建工具”的能力，從而探索解決問題的新方法——這很新穎。這種交互本質上需要“積極主動”的 AI，例如，這些代理接受了最大召回率的訓練，愿意嘗試所有可能性，以確保獲得最真實的積極結果（請參閱我們 在此處 的價值矩陣討論）。這意味著，有時代理會“只是為了嘗試”而采取行動，而不會“考慮”假陽性或假陰性結果的成本。例如，一個積極主動的 AI 代理“醫生”可能會開出侵入性腦癌活檢手術，而不會先考慮風險較低的替代方案，甚至不會停下來征求患者的同意！所有這些都需要更深層次的人機分析，以及針對激進的人工智能“探索想法”的多個新的審批流程，這些想法可能會導致人類傷害，或者只是導致超出預算的成本膨脹。 需要新的控件： 雖然大部分交互可以通過現有屏幕完成，但大多數代理操作都是異步的，這意味著大多數采用傳統事務型、同步請求/響應模型的網頁都無法適應這種新型交互。我們需要引入一些新的設計范式。例如，開始、停止和暫停按鈕是控制代理流程的良好起點，否則你很有可能最終陷入幻想曲中“魔法師的學徒”的境地（自我復制的掃帚不停地打水，造成巨大且昂貴的混亂）。 你“雇傭”AI來執行任務： 這與傳統的工具使用方式截然不同。它們不再是工具，而是具有推理能力的實體，各自擁有智能。AI服務目前已包含多個由主管監控的專用代理。很快，我們將引入多級管理，由下級主管和“團隊負責人”向最終與人類打交道的“客戶經理代理”匯報……就像今天的人類組織一樣。到目前為止，組織需要跟蹤產品、人員和流程。現在，我們為“人”添加了新的定義——AI代理。這意味著需要開發可行的用戶界面來保護機密信息、基于角色的訪問控制 (RBAC) 和代理版本控制。保護代理數據將比與人類員工簽署保密協議更為重要。 持續學習系統： 要充分發揮智能代理的價值，它們需要持續學習。智能代理會不斷學習，迅速成為其所用系統方面的專家。最初的智能代理就像新來的實習生一樣，知識儲備有限，但他們很快就會成為“房間里的成年人”，擁有比大多數人更豐富的訪問權限和經驗。這將在職場上引發巨大的權力轉移。我們必須做好準備。
無論你對人工智能代理有何看法，它們無疑會與人類同行共同發展，并持續存在。因此，我們必須了解代理人工智能的工作原理，以及如何設計能夠讓我們安全高效地與它們協同工作的系統，充分發揮人類和機器各自的優勢。
蘭亭妙微( www.tuitetiyu.cn )是一家專注而深入的界面設計公司，為期望卓越的國內外企業提供卓越的大數據可視化界面設計 、B端界面設計 、桌面端界面設計 、APP界面設計 、圖標定制 、用戶體驗設計 、交互設計 、UI咨詢 、高端網站設計 、平面設計 ，以及相關的軟件開發服務，咨詢電話：01063334945。我們建立了一個微信群，每天分享國內外優秀的設計，有興趣請加入一起學習成長，咨詢及進群請加藍小助微信ben_lanlan。
