(資料圖)

中新經(jīng)緯7月15日電 (王玉玲)近日，由對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主辦的“算法公平治理與實(shí)現(xiàn)”研討會(huì)在線上舉行。中國(guó)人民大學(xué)高瓴人工智能學(xué)院助理教授陳旭對(duì)推薦算法領(lǐng)域公平性進(jìn)行了介紹。

推薦算法是今日頭條、優(yōu)酷等各大網(wǎng)站中標(biāo)配的組件，它可以緩解信息過載問題，幫助用戶節(jié)省大量時(shí)間，找到自己感興趣的商品、視頻和其他信息，也可以幫助企業(yè)提升銷量，在互聯(lián)網(wǎng)當(dāng)中應(yīng)用廣泛。

陳旭介紹道，從人工智能角度來講，推薦算法和傳統(tǒng)人工智能，包括計(jì)算機(jī)視覺、自然語言處理有所差別，后者偏向客觀AI，前者偏向主觀AI，公平性指標(biāo)對(duì)其更為重要。由于推薦系統(tǒng)用戶本身的差異，基于用戶的公平性在實(shí)現(xiàn)過程中更關(guān)注不同組用戶對(duì)推薦結(jié)果滿意度的公平，而不局限于追求推薦結(jié)果的一致性。主觀AI以提升利益方的效益為目的，而并非單純提升準(zhǔn)確度，利益方包括用戶、商家、其他人員，如騎手等?！靶б姹葴?zhǔn)確度的范圍要大很多，公平性就是效益的一個(gè)重要方面。”陳旭說道。

對(duì)于推薦系統(tǒng)領(lǐng)域的公平性，陳旭將其分為三類，包括基于用戶的公平、基于商品的公平和基于用戶和商品的公平?；谟脩舻墓接袃煞N比較常用的定義，第一種是希望對(duì)于不同組的用戶，推薦結(jié)果應(yīng)該盡量相似。但推薦結(jié)果相似，對(duì)于個(gè)人來講滿意度可能會(huì)降低，所以在這個(gè)基礎(chǔ)上人們又提出基于用戶滿意度的公平性。比如對(duì)于不同用戶，并不需要給他們推薦相似結(jié)果，只需要讓不同用戶之間滿意度比較相似即可。如果有的用戶滿意度比較高，有的用戶滿意度比較低，則被認(rèn)為是不公平的。所以基于推薦結(jié)果的滿意度公平性目前在推薦系統(tǒng)領(lǐng)域較為推崇。基于商品的公平性希望熱門商品被推薦的概率稍微低一點(diǎn)，冷門商品被推薦的概率盡量高一點(diǎn)?；谟脩艉蜕唐返墓叫允菍⑸鲜鰞深惙椒ㄈ诤显谝黄?。

從實(shí)現(xiàn)的角度來講，基于公平性的推薦算法通常可以分為三類，第一是前處理方法，這類方法往往直接去除敏感變量或通過調(diào)整權(quán)重、刪除樣本等方式使敏感變量和預(yù)測(cè)結(jié)果相互獨(dú)立；第二是中處理方法，它希望模型學(xué)習(xí)產(chǎn)生的結(jié)果本身就是公平的，而無需對(duì)數(shù)據(jù)進(jìn)行預(yù)處理；第三是后處理方法，在這類方法中，人們通常先預(yù)訓(xùn)練推薦模型，然后對(duì)推薦結(jié)果進(jìn)行重排序，使得它能夠滿足群組或個(gè)體的公平性約束。對(duì)于推薦算法的公平性，未來仍需研究三個(gè)問題：第一，個(gè)人如何能夠感受到算法是否公平；第二，算法公平性的定義眾多，以何種標(biāo)準(zhǔn)來定義公平更為合適；第三，對(duì)于多敏感變量，特別是相互矛盾的敏感變量，如何權(quán)衡實(shí)現(xiàn)公平。(更多報(bào)道線索，請(qǐng)聯(lián)系本文作者王玉玲：wangyuling@chinanews.com.cn)(中新經(jīng)緯APP)

責(zé)任編輯：李中元

關(guān)鍵詞： 陳旭算法公平需兼顧用戶滿意度和商品公平性