抖音總裁韓尚佑宣布安全與信任中心上線，堅(jiān)定推進(jìn)算法向上向善
3月30日，抖音總裁韓尚佑在2025中國網(wǎng)絡(luò)媒體論壇上宣布，“抖音安全與信任中心”網(wǎng)站(95152.douyin.com)上線。網(wǎng)站面向社會公開抖音算法原理、社區(qū)規(guī)范、治理體系和用戶服務(wù)機(jī)制。
今年1月，抖音宣布擬推出10項(xiàng)措施，推動平臺工作透明化。抖音方面曾表示，將以安全與信任中心為依托，介紹社會關(guān)切議題，借此讓公眾對平臺工作更加親身可感，回應(yīng)公眾關(guān)切，接受公眾監(jiān)督。此次網(wǎng)站上線，意味著相關(guān)措施正逐一落地。
韓尚佑表示，抖音將堅(jiān)定推進(jìn)各項(xiàng)舉措，讓算法更透明、治理更完善、服務(wù)更到位，從機(jī)制層面，最終實(shí)現(xiàn)算法的向上和向善，讓科技進(jìn)步服務(wù)于美好生活。
抖音首次公布算法原理，多樣化推薦目標(biāo)打破“信息繭房”
韓尚佑在會上介紹了抖音算法原理，他表示，很多人對推薦算法技術(shù)存在誤解，認(rèn)為算法是給內(nèi)容打上對應(yīng)標(biāo)簽，再通過給用戶打上對應(yīng)的屬性，最后通過數(shù)據(jù)運(yùn)算，把對應(yīng)標(biāo)簽的內(nèi)容，推薦給有對應(yīng)屬性的用戶。
但隨著機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，抖音的推薦系統(tǒng)，已經(jīng)幾乎不依賴對內(nèi)容或者用戶打標(biāo)簽，而是通過一系列神經(jīng)網(wǎng)絡(luò)計(jì)算，直接預(yù)估每一個(gè)用戶對每一個(gè)內(nèi)容的目標(biāo)行為，比如點(diǎn)贊、關(guān)注、分享、評論的概率，并挑選出概率最大的一部分內(nèi)容，推薦給用戶。這意味著，算法無需理解內(nèi)容類型或語義，就能直接預(yù)測用戶行為。
3月30日，抖音總裁韓尚佑在2025中國網(wǎng)絡(luò)媒體論壇上宣布，“抖音安全與信任中心”網(wǎng)站(95152.douyin.com)上線
韓尚佑表示，大規(guī)模計(jì)算模型也帶來了挑戰(zhàn)，例如，即使最好的算法工程師，可能也沒辦法具體解釋出為什么把這個(gè)視頻推薦給了某個(gè)用戶，而另一個(gè)用戶認(rèn)為會更喜歡的視頻沒有被推薦。這些都讓算法給用戶帶來了一些陌生和“不可控”的感覺。
但抖音通過一系列實(shí)踐認(rèn)知到，算法雖然很復(fù)雜，卻可以被“調(diào)教”和“馴化”。韓尚佑表示，真正實(shí)現(xiàn)算法的“向上” 和“向善”，需要回到算法的原理和生效機(jī)制層面去持續(xù)改進(jìn)。
以優(yōu)質(zhì)內(nèi)容推薦為例，抖音曾嘗試給知識、歷史、科技等內(nèi)容，做簡單的加熱，但最終發(fā)現(xiàn)效果非常不好。這種做法改變了模型正常的計(jì)算邏輯，產(chǎn)生大量低于模型常規(guī)概率的臟數(shù)據(jù)，影響了算法的數(shù)據(jù)循環(huán)，導(dǎo)致這些內(nèi)容后續(xù)的推薦反而受到干擾，并沒有真正幫助這些內(nèi)容找到他們的受眾。
為解決這一問題，抖音轉(zhuǎn)換思路，專門訓(xùn)練了預(yù)估收藏和重復(fù)觀看概率的模型，并且將收藏按鈕，放在了首頁最容易點(diǎn)的地方。由此，抖音里的有用性內(nèi)容和長內(nèi)容分發(fā)得到了很大改善。“2024年，一條《450分鐘解讀紅樓夢》的超長視頻，最終獲得了超過3億的播放，700萬的收藏。這是一個(gè)用戶和算法雙向奔赴的最佳實(shí)踐。”韓尚佑舉例稱。2025年，抖音優(yōu)質(zhì)內(nèi)容曝光預(yù)計(jì)將增加300%。
為了引導(dǎo)推薦系統(tǒng)分發(fā)更加豐富多元的信息，抖音建設(shè)和平衡了100多個(gè)像“收藏”這樣的不同目標(biāo)，解決單一目標(biāo)下系統(tǒng)容易重復(fù)推相似內(nèi)容的問題。抖音的算法里設(shè)置了專門的探索流量，幫助用戶持續(xù)拓展興趣內(nèi)容。抖音還加強(qiáng)了推薦系統(tǒng)中對搜索行為的應(yīng)用，讓系統(tǒng)更實(shí)時(shí)地根據(jù)用戶搜索興趣進(jìn)行調(diào)整。抖音還優(yōu)化了“不感興趣”“設(shè)置屏蔽詞”等功能，實(shí)現(xiàn)用戶對算法的調(diào)控。
韓尚佑表示，抖音將以“平等友善、豐富多元、真實(shí)美好、積極健康、尊重知識、鼓勵表達(dá)”的《社區(qū)運(yùn)營規(guī)范》作為原則，不斷優(yōu)化平臺算法和業(yè)務(wù)運(yùn)營。
詳解平臺治理體系，內(nèi)容流量越高評估次數(shù)越多
近年來，網(wǎng)絡(luò)暴力、謠言等平臺生態(tài)治理問題備受關(guān)注。
韓尚佑在會上表示，抖音投入了非常多額外資源，建設(shè)了一套完整的內(nèi)容治理體系。通過對內(nèi)容進(jìn)行機(jī)器和人工識別，在不同階段過濾掉不好的內(nèi)容，來解決因?yàn)橄到y(tǒng)對內(nèi)容理解缺失帶來的安全問題。抖音也會在用戶最終看到這些內(nèi)容之前，通過一些聚類打散和重組的方式，避免內(nèi)容過度密集和同質(zhì)化。
“抖音安全與信任中心”網(wǎng)站也首次公開平臺治理體系，詳解治理體系如何對算法進(jìn)行約束、規(guī)范，保障內(nèi)容安全。網(wǎng)站介紹了平臺治理標(biāo)準(zhǔn)制定、治理流程、專項(xiàng)治理概況。其中詳細(xì)解釋了抖音機(jī)器審核與人工審核的協(xié)同機(jī)制，初審、復(fù)審、三審的審核流程，及每一層審核環(huán)節(jié)對應(yīng)的把關(guān)要點(diǎn)。經(jīng)由此鏈路，所有在平臺發(fā)布的內(nèi)容均會經(jīng)過評估。流量越高的內(nèi)容經(jīng)過評估的次數(shù)越多，標(biāo)準(zhǔn)也越嚴(yán)格。
3月30日，抖音安全與信任中心網(wǎng)站 95152.douyin.com上線，面向社會公開抖音算法原理、社區(qū)規(guī)范、治理體系和用戶服務(wù)機(jī)制
“抖音安全與信任中心”顯示，除了普遍性風(fēng)險(xiǎn)內(nèi)容的治理，針對社會普遍關(guān)心的、呈現(xiàn)聚集特征的焦點(diǎn)問題，抖音也成立了專項(xiàng)治理團(tuán)隊(duì)。如抵制網(wǎng)絡(luò)暴力、未成年人保護(hù)、AI生成違規(guī)內(nèi)容治理、謠言治理等典型問題，平臺均設(shè)置了相應(yīng)的治理標(biāo)準(zhǔn)、識別策略、處置手段和風(fēng)險(xiǎn)巡查能力。
除了闡釋公眾關(guān)切的算法、治理等議題，網(wǎng)站也公布了平臺倡導(dǎo)的社區(qū)價(jià)值，以及對優(yōu)質(zhì)內(nèi)容的定義。“用戶服務(wù)”板塊中，網(wǎng)站提供了常見問題答疑，及未成年人保護(hù)、人身與財(cái)產(chǎn)安全服務(wù)、用戶與企業(yè)權(quán)益服務(wù)等路徑指引。
韓尚佑表示，平臺工作尚不夠完善，依舊存在提高空間，歡迎大家的討論和監(jiān)督。讓算法更可控更透明，需要產(chǎn)品提供明確交互功能，用戶的主動參與和表達(dá)，創(chuàng)作者的信任和堅(jiān)持，算法的精準(zhǔn)計(jì)算，模型和數(shù)據(jù)的正向循環(huán)，以及平臺的堅(jiān)定導(dǎo)向，共同構(gòu)建一個(gè)健康的生態(tài)。
抖音將堅(jiān)定推進(jìn)各項(xiàng)舉措，讓算法更透明、治理更完善、服務(wù)更到位，最終實(shí)現(xiàn)算法、平臺和社會生態(tài)共同的向上和向善，讓科技進(jìn)步服務(wù)于美好生活。
本文鏈接：http://www.albanygandhi.com/news-1-9646.html抖音總裁韓尚佑宣布安全與信任中心上線，堅(jiān)定推進(jìn)算法向上向善
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
