演算法濫用亂象下將如何約束演算法的“權力”?

在移動網際網路時代,每個人都在產生“資料”。而“資料”可以被平臺以各種方式採集,然後透過演算法分析出使用者的習慣和喜好,從而精準提供資訊、娛樂、消費等各類服務。但是,這種基於演算法的技術創新在為使用者提供精準服務的同時,也產生了諸如“大資料殺熟”等問題。

為了加強網際網路資訊服務演算法綜合治理,近日,中央網信辦牽頭開展“清朗·2022年演算法綜合治理”專項行動,行動持續到今年12月初,這期間,將深入排查整改網際網路企業平臺演算法安全問題。

演算法濫用亂象下將如何約束演算法的“權力”?

我們的生活已被網路演算法深深影響

不少人吐槽,自媒體平臺上的毒雞湯、各類養生謠言,似乎長了眼睛,專挑老年人推送。而一些遊戲類的內容,更喜歡推給青少年使用者。除了千人千面的短影片平臺以外,各大電商平臺的“猜你喜歡”、搜尋App的結果排序、瀏覽器中的推送資訊,基本都運用了推薦演算法。

不少消費者告訴記者,他們經常在電商平臺上遭遇這樣的“推送”。

李女士表示:“我可能在直播間買了如磨砂膏之類的東西,之後平臺就會反覆推給我磨砂膏的商品。”

方女士表示:“比方你喜歡搜洗衣液相關的內容,平臺這段時間可能就一直給推洗衣液相關的東西。”

這些其實並不是個別現象,而是真切地被演算法改變的大眾生活。除了推薦演算法之外,同樣的訂單,老客比新客多付錢,這樣的大資料“殺熟”也時有發生。

演算法濫用亂象下將如何約束演算法的“權力”?

其實演算法的初衷,是實現更高效、更公平的資訊分發。但是伴隨著演算法對移動網際網路的統治,由於大公司掌握了演算法背後的分發權,過度追求利益,導致演算法陷入了巨大爭議。

中央財經大學中國網際網路經濟研究院副院長歐陽日輝分析:“演算法本身正面的好處、積極的作用還是很多的,比如消費者可以節省搜尋時間,透過演算法提供物美價廉的產品來進行選擇,這些優點也是要肯定的。如果說演算法沒有一個向善的心態,缺失科技向善理念的話,就很容易滑向消極的一面。”

所謂消極的一面就是剛才我們提到的“大資料殺熟”和過度精準推送帶來的“資訊繭房”問題。中國資訊保安研究院副院長左曉棟說:“這些服務推送是網路服務提供者給我們定製的,那麼定製就容易產生濫用,這種濫用輕則損害我們個人權益,重則危害國家安全。因此演算法推薦必須要進行規範。”

確立演算法應用規矩 治理演算法濫用亂象

面對演算法濫用的問題,去年以來一系列的法律法規相繼落地。其中,今年3月1日施行的《網際網路資訊服務演算法推薦管理規定》提出:演算法推薦服務提供者應當向用戶提供不針對個人特徵的選項,或者向用戶提供便捷的關閉演算法推薦服務的選項。

從記者的觀察來看,目前多個平臺陸續上線了個性化內容推薦和個性化廣告推薦的關閉按鍵,但是部分平臺採取的關閉方式十分繁瑣、難找,一定程度上反映出部分網際網路巨頭短期內並不願意將選擇權真的交給使用者。

為加強網際網路資訊服務演算法綜合治理,有效推動《網際網路資訊服務演算法推薦管理規定》落地見效。4月8日,中央網信辦牽頭開展“清朗·2022年演算法綜合治理”專項行動,此次專項行動將持續到今年12月初。

演算法濫用亂象下將如何約束演算法的“權力”?

國家網際網路資訊辦公室網路管理技術局局長於永河介紹:“專項行動將聯合有關部門共同開展,目標是聚焦網民關切,解決演算法難題,維護網民合法權益。重點是落地、落實、落好《管理規定》,推動演算法綜合治理工作的常態化和規範化。”

此外,中央網信辦將牽頭會同有關部門和各地網信部門組成聯合檢查組,對部分網際網路企業開展現場檢查,各地網信部門可結合當地實際自行對屬地其他企業開展檢查,重點檢查企業演算法合規情況和演算法安全能力。

此次專項行動還明確:督促企業配備與業務規模相適應的演算法安全治理機構和專門人員,建立完善演算法安全相關規章制度,積極利用演算法服務正能量傳播、處置違法和不良資訊等工作,監測演算法濫用亂象,防範演算法安全風險。

於永河表示,演算法的“權力”必須被約束。他進一步介紹:“深入檢查各類演算法應用的情況,針對違反《管理規定》的現象和行為,依法依規進行懲治和處罰,嚴厲打擊演算法違法違規行為;同時也督促企業開展演算法備案,履行好主體責任。督促整改演算法不合理應用帶來的‘資訊繭房’‘演算法歧視’‘大資料殺熟’等影響網民生產生活的問題,切實維護好網民合法權益。”

(來源:央視新聞客戶端)