人機協同：探索AI與人的協作潛力及挑戰 | 學術光華

　　如今，人機協同在業界有著廣泛的應用場景。而人機協同在業界的流行，也促使越來越多的學者關注這一領域，以探究人在AI的協助下會產生什么樣的行為、決策等變化。

　　北京大學光華管理學院市場營銷學系副教授張穎婕，特別關注從人機協同和共同進化的視角來系統性設計評估智能策略，在提升商業價值的同時兼顧社會公平性。研究發現，人機協同在提升系統性能和效率方面存在巨大潛力；而在人機協同過程中，也需要充分考慮人的因素和作用。

　　技術驅動下的人機協同發展
　　在AI技術相對成熟的現階段，張穎婕發起叩問，人還能發揮多大的作用呢？人是否能挖掘出AI未能觸及或者未能實現的價值呢？張穎婕以AI的發展為切入點，思考在人工智能進入社會后，人類應當如何發揮主觀能動性，由此引出了自身關于人機協作的研究主題，以及人類應當如何實現自身價值的問題。
　　基于這一問題，張穎婕回顧了學術界對不同情境下AI應用的最新研究，并介紹了AI技術在業界受到了哪些挑戰。
　　張穎婕表示，當前人工智能研究領域有兩類學者：一類關注技術方向上的突破與演進，如借由算法和大數據改進模型，優化股票走勢預測，促進商業智能化轉型；另一類則將目光聚焦在“人”身上，基于現有技術，研究如何更好地配合人工智能，如何在現有技術條件下與人工智能進行互動。她屬于后者。
　　關于人在人機協作中的行為特點，近年來的研究也做了不少探索嘗試：一方面是AI-Aversion現象，即人由于缺乏信任、依賴個人經驗和直覺、擔憂低層次工種被取代等原因，對AI存在“抵制”，另一方面是Cyborg Effect現象，這是前者的極端反面，即AI給定決策建議后人的能動性下降，人更加依賴AI而不愿意主動決策。
　　在她看來，隨著AI的“類人”性以及自身算法能力的不斷提升，再加上AI的“商業版圖”的不斷壯大，AI和人共存合作的可能性和必要性也在不斷增強。換句話說，人是難以避免和AI產生接觸的。
　　消費者與AI制造
　　先前的研究表明，消費者不太喜歡機器人客服，因為機器人客服不夠聰明，無法與消費者共情。然而，隨著人工智能技術的不斷發展，如ChatGPT等智能AI的出現，這些問題正在逐漸解決。現在的AI產品已經進化到與人相似的程度，消費者可能會慢慢接受這些產品。
　　因此，張穎婕認為先前的研究結論可能不再適用，她想探索的是在新的技術背景下，消費者對于AI產品的態度和接受度。
　　當AI已經成熟了，當世界上AI已經很普遍了，作為消費者的自己，會怎么樣面對？在張穎婕看來，機器學習是一個向上走的趨勢，會越來越智能，這是毋庸置疑的。作為消費者或者作為人這個群體來說，對人工智能的態度，已經或者即將不能用“AI不夠聰明”來作為抵制AI產品的理由了。
　　“但不知道人們的態度會不會是一個曲線，就是當機器進化到一定程度的時候，人們會先欣然接受并享受AI制造，但是當AI進一步進化之后，消費者或用戶的態度又會如何則是一個難以預測的問題。我們需要持續跟進并及時作出預測。”張穎婕說。
　　張穎婕表示，在不同領域人與AI之間的合作和決策過程可能因情境而異，需要考慮不同的因素。在金融領域進行的研究可能得出的結論與其他領域不同，因為不同行業的工作特點和需求不同。
　　在某些情況下，人工審核決策可能沒有任何作用，而人工智能能夠以更高的準確率來做出決策。在另外的場景中，人類仍然具有價值，需要通過刺激來發揮他們的作用，這可能涉及提供大量數據、解釋人工智能的決策以及使用激勵方法。
　　人機協同的應用與提升
　　在張穎婕看來，AI賦能生產力是現階段AI持續進化帶來的一大益處，甚至是最大益處。但AI的賦能同樣離不開有效的人機協同。機器與人如果能發揮協同作用，決策的整體效果會更好。
　　針對這一情況，張穎婕的研究試圖解答三個問題：一是通過系統設計探索人類在人機協作中的貢獻；二是解析這一人機協作的生成機制與原因；三是探討如何利用人類的異質性來提升協作效能。
　　張穎婕選取亞洲的小額貸款公司為研究對象，對比了人工和AI在批準借款人違約率方面的決策差異。實驗結果顯示：在AI與人無合作（分別獨自決策）的情況下，AI決策比人工決策結果違約率更低，給AI提供大數據能夠顯著降低違約率（但數據量對人工決策結果違約率無顯著影響）；而在給人工提供AI決策建議且這一建議與人工決策結論產生分歧時，有60%—80%的人會選擇接受AI的決策建議改變自己的決策（當提供AI決策依據時這一比例會更高）。
　　結果揭示了幾個關鍵的發現。首先，當人工和AI各自獨立做決策時，AI的判斷準確率明顯超過人工，特別是當數據量大的情況下，人在決策時明顯存在信息過載等問題。其次，在小數據情況下，人的參與并不能顯著提升合作效率。并且，在大數據環境下，人類只有在被告知AI決策邏輯的前提下，才能對違約率判斷產生積極的價值。
　　換言之，如果信息復雜度（即大數據環境）和AI決策邏輯信息二者不能同時滿足時，人類信審員在AI的輔助下要么全盤聽從，要么錯誤地堅持己見，從而使得合作效率與AI獨自決策時相差無幾；但兩個條件的同時滿足卻能及時激發人工展現其獨立思考和糾錯能力，這恰恰體現了人類在人機協同場景下的獨特價值。
　　“在大數據背景下，人工難以有效運用如購買記錄等大數據信息，并將其與自身決策融合，盡管仍依賴傳統數據，人工的判斷能力并未顯著提升。”張穎婕說。
　　相比之下，AI在處理大數據信息上，顯示出更強的提取、轉化和運用能力，從而得出更精準的判斷。另外，當面對中間情況且處于糾結狀態時，人工更傾向于依賴AI的決策，但當申請人的情況較為極端時，人工通常會依賴自己的判斷而非接受AI的建議。
　　算法面前人的情感不可忽視
　　張穎婕的研究，揭示了人機協同在提升系統性能和效率方面的巨大潛力。在互聯網金融借貸的實驗中，人機協作行為使得整個系統的預測正確率提升了一倍，系統違約率從原先的6%降低到3.8%。這項研究表明，人機協同可以提高系統的性能和效率，同時也需要充分考慮人的因素和作用。
　　研究發現，在引入機器學習算法進行先期預測推薦后，人工審核員在大部分情況下會傾向于聽從算法的意見。然而，當提供了用戶大數據以及算法的具體機制解釋之后，人們會在看到算法建議之后，自發地進行一個重思考的過程，不再一味地認為AI是好的，而是對AI進行有效修正。
　　值得關注的是，人的情感也應當是人機協同中被考量的重要因素，這涉及AI向善和倫理問題。在外賣騎手的例子中，騎手有時候并不會遵從算法規劃的路線，這可能由于算法決策沒有考慮到騎手的情況，例如騎手位置、疲勞程度、實際路況等，亦或是騎手的過往經驗讓他們做出背離算法的決策。
　　“機器只能給你建議，最后還得是人來完成。”張穎婕表示，算法其實是非常厲害的，如果騎手能夠按照算法推薦的路線，他的收益一定是最高的。但事實卻是，百分之七八十的騎手，都不會完全遵從算法的推薦。
　　在張穎婕看來，這些問題不是人工智能本身造成的，而是使用者和管理者存在的問題，如平臺方和企業。人機協同固然可以提高系統的性能和效率，但也需要充分考慮人的因素和作用。在設計和應用AI技術時，需要考慮到人的需求和利益，以確保AI技術能夠真正為人類服務。
　　那么人與AI，什么時候能達到最優的調和效果呢？
　　一種新的算法策略出現了：即算法會去預測人會不會違約，會不會不遵守算法，而把人的情感考慮到算法的模型里邊。在設計者看來，這種策略按算法來說可能不是最優的，但一定是算法加人最優的。

　　“如果在特定的場景下，只能依靠人來做最后決策的話，你就要考慮全局，把人的情感也考慮進去。”張穎婕說。

　　參考文獻
　　1、Lu， Tian and Zhang， Yingjie， 1 + 1 > 2？ Information， Humans， and Machines. Available at SSRN： https：//ssrn.com/abstract=4045718
　　2、Lu， Tian， Zhang， Yingjie， Li， Beibei. Profit vs. Equality？ The Case of Financial Risk Assessment and A New Perspective on Alternative Data. MIS Quarterly， 2023， 47（4）： 1517-1556.

　　張穎婕，光華管理學院市場營銷學系副教授，卡內基梅隆大學博士（信息管理系統方向），曾就職于美國德州大學達拉斯分校，主要研究領域包括跨學科方法論研究、人機協同、共享經濟、社交媒體、用戶行為等。