中新經緯客戶端5月31日電 （薛宇飛）如今，演算法無處不在，對演算法倫理的研究很多，但對與演算法相關的資料隱私、演算法偏見等爭議問題卻探討甚少。為此，由清華大學社科學院主辦的“人工智慧心理學與演算法倫理”研討會於近日舉行，清華大學社科學院院長彭凱平等十幾位專家、學者共同參與，對學界關注的話題予以討論，併發布了《人工智慧心理學與演算法倫理研究報告》（下稱報告）。
對技術的不理解容易形成“演算法厭惡”
“人工智慧心理學與演算法倫理”研討會。來源：主辦方供圖
上述報告認為，演算法決策的發展是不可逆的潮流，但由於人們對演算法的認知還未跟上技術進步的腳步，很容易形成對演算法的偏見即“演算法厭惡”。人們在並不瞭解演算法的表現之前就體現出對演算法的負面行為和態度，可能導致對演算法決策的拒絕或不充分利用，進而給個人和社會帶來損失。
清華大學社科學院心理學系博士後、助理研究員許麗穎。來源：主辦方供圖
研討會上，清華大學社科學院心理學系博士後、助理研究員許麗穎表示，“演算法厭惡”的傾向首先體現在對決策主體上，相對於演算法，人們更偏向於人類來做決策；其次是在人類和演算法決策的利用程度上，如果他們都做出了決策，人們卻更傾向採納人類做的決策或給出的建議；最後是評價上，在演算法與人都做出決策時，人們對人類做出的決策評價更好。
報告稱，提高人們對人工智慧或演算法的熟悉度，可以提升對演算法決策的欣賞。而可靠和準確的演算法，更容易贏得人們的信任，提供關於演算法如何執行的解釋可以減少“演算法厭惡”，使用者也應提高對演算法的熟悉度。研究發現，如果演算法可以很好了解使用者個人偏好，不但其決策和推薦會更有效，也有助於人們對演算法的接受，演算法接受度受到使用場景影響，人們對文娛、網購等領域個性化服務的態度比在嚴肅資訊等領域更積極。
西安交通大學人文學院哲學系長聘副教授、碩士生導師丁曉軍。來源：主辦方供圖
西安交通大學人文學院哲學系長聘副教授、碩士生導師丁曉軍研究認為，對大資料的使用以及推而廣之，可以考慮提升使用者對相關技術的使用經驗，透過各種途徑提升對它的信任程度。
清華大學新聞傳播學院博士後、助理研究員李凌。來源：主辦方供圖
清華大學新聞傳播學院博士後、助理研究員李凌更關注演算法的公開，他在研討會上稱，演算法應當做到可公開、可解釋、可追溯。
報告指出，人們希望AI和演算法帶來便利、高效、個性化體驗甚至一對一定製化服務，實現更好的功能性滿足和親密關係塑造，如果在資料匿名、轉碼、加密等環節設定得當，演算法可以更好地保護使用者隱私；需要尋找使用者個性化體驗和機器資料收集之間的平衡，加強使用者、AI應用、企業、政府等的合作，根據技術變革發展程度對隱私邊界動態更新完善。
演算法的道德責任如何確定？
清華大學社科學院院長彭凱平。來源：主辦方供圖
研討會上，彭凱平提出了人工智慧是否需要承擔道德責任的問題。他說，“除了企業和人出於社會責任感而做出一些行為，能不能讓機器也擔當這種責任？自動駕駛技術已經很成熟，但是誰都不願意用，主要是誰擔責的問題，撞了人，需要機器負責嗎？”
上述報告也認為，人們始終對技術之後的人提出更為嚴苛的道德要求，AI犯錯總是會引發對人工智慧的負面印象和對相關研究的不支援，而嚴重的社會性歧視和剝削等AI負面事件會產生對企業的連帶效應。
“面對演算法倫理的複雜性和技術與人的互相影響，僅憑空泛規則並不能很好解決問題，需要從社會心理學出發，確定人與AI的關係、人對倫理問題的感知、對AI道德地位的判定以及如何對AI進行道德歸責，建立以演算法輔助人類、促進人機合作決策、以人為本的人工智慧發展方向。”報告提出。
清華大學社科學院社會學系教授、博士生導師李正風。來源：主辦方供圖
清華大學社科學院社會學系教授、博士生導師李正風認為，透明演算法只是一個目標，在某種意義上而言，演算法的不透明會受到一些因素的約束。他舉例說，國家或者公司的機密中所隱含的技術訣竅往往就不適用透明的要求。其次，即便把演算法擺在沒有專業素養的普通人面前，它依然是不透明的。討論倫理道德問題更多的是對公眾講演算法透明性，但這解決不了個人所面對的問題，演算法透明更重要的是它的可塑性、可設計性和可能性。
李正風稱，價值反思和倫理治理對於演算法設計具有重要的指導作用，應當使演算法在倫理的約束下執行，得到具有“道德”的結果。
武漢大學哲學學院心理學系教授、博士生導師喻豐。來源：主辦方供圖
武漢大學哲學學院心理學系教授、博士生導師喻豐指出，對於人工智慧來說，不應列出空泛的倫理規條，應該用“美德論”的方法設計出負責任、道德的人工智慧體。要設定大量具體情境，把它設定成倫理指令碼，這一點不僅對人工智慧的使用者、設計者來說很重要，對於人工智慧本身也重要。如果只是設計一條所謂的透明度原則，對每個資料的來源都進行等級、審查，是沒有用的。
“只有把它設計成具體規則，這樣會怎麼樣，那麼會怎麼樣，自上而下地列出規則，讓人工智慧體知道它如何做，那才有用。”喻豐說。
清華大學社科學院長聘副教授、博士生導師孟天廣。來源：主辦方供圖
清華大學社科學院長聘副教授、博士生導師孟天廣則稱，未來要建立適應人工智慧社會更有效、更有倫理性的治理結構，必然是一個雙邊甚至多邊的關係，人工智慧治理可能是大量主體同時形成共識，設立一個聯合契約，這會是比較好的方法。
演算法的應用提升人們獲得感
從讀新聞、看影片，到點外賣、騎單車，人們的日常生活裡早就有大量人工智慧演算法的滲入。報告認為，演算法和人工智慧技術的進步給社會帶來了革命性的變化，可以說，演算法決策的發展是不可逆轉的潮流。演算法決策具有很強的優越性。首先，有些決策可能超出了人類的計算能力，人類無法有效率的甚至沒有能力完成這些決策；其次，演算法決策在許多方面的表現優於人類；再次，演算法決策可以彌補人類的主觀性、偏見等固有缺陷；最後，演算法決策相對於專家建議，成本更低、適用更廣。
彭凱平稱，現在的人工智慧與機器演算法，可能讓那些能幹的人掌握了一些知識、技能及資源，而在未來，讓普遍人也有參與感和獲得感也是很重要的。他還說：“短影片讓普通老百姓都參與了進來，這就是一個好事，一個保安、一個外賣員能夠從中得到快樂，這就挺好，增加了人們的獲得感。”
武漢大學信管學院副研究員趙靚。來源：主辦方供圖
如今，演算法正在與更多學科進行深入融合，賦能社會更加健康地發展。武漢大學信管學院副研究員趙靚將人工智慧與社會心理服務結合起來，研究個體及群體的心理變化。她稱，人工智慧的技術幫助人們以一種資料的方式，來理解更加宏觀的社會心理文化上的變化。“把專家的知識和資料及技術本身的優點結合起來，可能是更好的探索，可以整合多元、多模態的大資料，做社會文化心理的監測服務，助力社會治理，提供各種政策建議。”
清華大學社科學院心理學系副教授、博士生導師伍珍。來源：主辦方供圖
清華大學社科學院心理學系副教授、博士生導師伍珍關注的是智慧教育領域，她稱，人工智慧在一定程度上可以做到尊重學生的個性特徵、興趣、特長，滿足學習者的個性化需求，並能夠做一些適應性的教學策略選取、個性化資源推薦等等。但是，如果人工智慧演算法使用的是片面化、不完整的學習樣本進行訓練，那可能就會出現錯誤的結果或者加深偏見歧視，人工智慧背後的開發者需要思考怎麼塑造價值觀、引領學生思想，制定知識圖譜和學習路徑。
北京市社會科學院外國所助理研究員單許昌。來源：主辦方供圖
談及當前火熱的短影片，北京市社會科學院外國所助理研究員單許昌稱，短影片改變了人們的生產與生活方式，“以前說‘網際網路+’是未來的趨勢，在現在應當說‘短影片+’才是未來的大趨勢。”他指出，短影片促進了知識傳播與行業創新，背後演算法要平衡好效率、公平與和諧三個價值。
西安外國語大學新聞與傳播學院講師李薇。來源：主辦方供圖
西安外國語大學新聞與傳播學院講師李薇也關注演算法公平問題，她分享了某平臺不因演算法優勢而對公司進行優待的案例，指出如果平臺沒有公平，使用者就不會流入。從行業內一些好的做法可以看出，平臺的演算法公平可以讓平臺本身和運營企業發展得更好，保證流量池會進入更多創作者的優質內容。
清華大學社科學院政治學系博士後、助理研究員李珍珍。來源：主辦方供圖
清華大學社科學院政治學系博士後、助理研究員李珍珍提出應將理論與實證結合起來，加強關於人工智慧倫理與治理的研究。
彭凱平最後總結道，當前政府和社會科學對人工智慧倫理的研究是相對滯後的，人工智慧僅僅依靠企業、計算機科學家及商界人才推動是不夠的，還需要社會科學各領域的更多人才參與，這樣才能確保預見的先進性。（中新經緯APP）
中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編以其它方式使用。