可信Agent構建之道:AI如何重塑工作流?
2024-08-07
來源: AI小智
在之前的博客文章中,我們探討了基于聊天的代理用戶體驗,其中用戶需要主動思考如何與AI進行交流。但如果AI能在后臺默默為您工作,那會怎樣呢?
我認為,為了讓代理系統真正發揮潛力,我們需要轉變觀念,讓AI在后臺默默工作。當任務在后臺處理時,用戶通常更能接受較長的完成時間,因為他們對即時響應的期望降低了。這樣,代理就能更自由地進行工作,往往比在聊天界面中更加細致和認真。
此外,讓代理在后臺運行,也使我們能夠更有效地擴展我們的能力。聊天界面通常限制我們一次只能處理一個任務。但如果代理能在后臺環境中運行,就可以有多個代理同時處理多個任務。
那么,這種后臺代理的用戶體驗應該是什么樣的呢?
編輯注:本文經翻譯并二次整理自UX for Agents, Part 2: Ambient一文。
建立對后臺代理的信任:從“人在循環中”到“人在循環上”要讓代理在后臺運行,需要建立一定程度的信任。如何建立這種信任呢?
一個簡單直接的方法是向用戶展示代理正在做什么。展示它采取的所有步驟,并讓用戶能夠觀察整個過程。雖然這些信息可能不會立即顯示(就像實時響應那樣),但它應該可以讓用戶點擊查看。
接下來,不僅要讓用戶看到發生了什么,還要讓他們糾正代理。如果用戶發現代理在10步中的第4步做出了錯誤的選擇,他們應該能夠回到第4步并進行某種方式的糾正。
這種糾正可以采取多種形式。讓我們以一個具體的例子來說明,比如糾正一個錯誤調用工具的代理:
你可以手動輸入正確的工具調用命令,讓它看起來像是代理自己輸出的,然后從那里繼續執行。
你可以給代理明確的指示,告訴它如何更好地調用工具——比如,“使用參數X而不是參數Y”,然后讓代理更新其預測。
你可以更新代理在特定時間點的指示或狀態,然后從那個步驟重新開始執行。
選項2和3的區別在于代理是否意識到了自己的錯誤。在選項2中,代理面對自己之前的錯誤生成,并被要求進行糾正;而在選項3中,它并不知道自己的預測錯誤(只是簡單地遵循了更新后的指示)。
這種方法將人類的角色從“在循環中”轉變為“在循環上”。“在循環上”意味著能夠向用戶展示代理采取的所有中間步驟,允許用戶在工作流程中途暫停,提供反饋,然后讓代理繼續執行。
一個已經實現了類似這種用戶體驗的應用是Devin,AI軟件工程師。Devin可以長時間運行,但你可以看到所有采取的步驟,回溯到特定時間點的開發狀態,并從那里進行糾正。
整合人類輸入:代理在需要時如何尋求幫助盡管代理可能在后臺運行,但這并不意味著它需要完全獨立地完成任務。總會有一些時刻,代理不知道該怎么做或如何回答。這時,它需要引起人類的注意并請求幫助。
以我正在構建的電子郵件助理代理為例。盡管電子郵件助理可以處理基本的郵件,但它經常需要我在某些任務上的輸入,這些任務我不想自動化。這些任務包括審查復雜的LangChain錯誤報告,決定我是否參加會議等。
在這種情況下,電子郵件助理需要一種方式來告訴我它需要信息來響應。注意,它不是要求我直接回應;相反,它尋求我對某些任務的意見,然后它可以利用這些信息來制作和發送一封漂亮的電子郵件或安排日歷邀請。
目前,我將這個助手設置在Slack上。它向我提出問題,我在線程中回應它,這樣自然地融入了我的工作流程。如果我考慮這種類型的用戶體驗,而不僅僅是針對我自己的電子郵件助手,我會設想一個類似于客戶支持儀表板的界面。這個界面將顯示所有需要人類幫助的區域,請求的優先級,以及任何額外的元數據。
- 推薦
- 新聞
- 觀點
- IT/互聯網
- 軟件信息
- CIO
- CDO
- 數字經濟
- 工業互聯網
- 智能制造
- 人工智能
- 戰略
- 研發
- 生產制造
- 運營
- 市場營銷
- 銷售
- 財務
- 人力資源
- IT
下一篇
推薦
-
一年一度的中國數字化年會將于11月28日-30日再次攜手成都,為數字化轉型決策者們打造一場不可錯過的年度數字化盛宴!
-
在這個日新月異的變革時代,我們將于11月28日-30日在成都舉辦“2024中國數字化年會”,匯聚行業精英與各界力量,共同探討數字化時代下的轉型策略與路徑。
-
11月28日-30日,中國數字化年會將于成都正式開幕,本屆年會以數智萬象 無界新生”為主題,設置2場主論壇、1場高峰論壇、5場專題論壇、4項特色活動、2場頒獎典禮等14項活動,以及2天數字化轉型供需對接展。
-
零次方科技發布了其首款人形機器人,可以在多種不規則路面、復雜地形中長時間穩定行走,且具備優秀的抗干擾性能,即使受到各方向的強沖擊也能保持穩定站立。
-
近日,第四屆“青年科學家502論壇”在南方科技大學舉行,美國國家工程院外籍院士沈向洋做了《通用人工智能時代,我們應該怎樣思考大模型》的主題演講,并給出了他對大模型的10個思考。
-
深度解析Meta Reality Labs的生態布局
我要評論