1月13日，抖音發(fā)布“2024網(wǎng)絡(luò)黑產(chǎn)治理盤(pán)點(diǎn)”，過(guò)去一年平臺(tái)持續(xù)打擊網(wǎng)絡(luò)黑色產(chǎn)業(yè)鏈，通過(guò)升級(jí)AI大模型技術(shù)、迭代風(fēng)控策略、優(yōu)化舉報(bào)機(jī)制等系列舉措，加強(qiáng)對(duì)網(wǎng)絡(luò)黑產(chǎn)的識(shí)別和治理能力，封禁欺詐、水軍和違規(guī)導(dǎo)流相關(guān)黑產(chǎn)賬號(hào)超600萬(wàn)個(gè)，并向相關(guān)部門(mén)提供涉嫌違法犯罪的線(xiàn)索，全力守護(hù)用戶(hù)的用網(wǎng)安全。

前置攔截欺詐信息 多渠道提醒用戶(hù)謹(jǐn)防被騙

2024年，仿冒領(lǐng)導(dǎo)、親友和官方客服是最受關(guān)注的欺詐類(lèi)型，尤其是仿冒抖音客服的黑產(chǎn)，用廣撒網(wǎng)方式撥打電話(huà)、發(fā)送短信、即時(shí)通訊軟件撥號(hào)等方法，與受害人直接聯(lián)系，一步步引導(dǎo)對(duì)方共享屏幕或者下載第三方app，從中獲取用戶(hù)銀行卡賬戶(hù)信息、誘導(dǎo)用戶(hù)不斷轉(zhuǎn)賬等。

刷單詐騙、購(gòu)物詐騙也是2024年平臺(tái)重點(diǎn)打擊的欺詐類(lèi)型。刷單詐騙黑產(chǎn)以招工、兼職、致富為由，或偽裝成單身交友人設(shè)，誘導(dǎo)用戶(hù)下載第三方軟件進(jìn)行欺詐；另一類(lèi)黑產(chǎn)鏈路則以售賣(mài)演唱會(huì)內(nèi)部門(mén)票、贈(zèng)送小馬寶莉卡、低價(jià)轉(zhuǎn)游戲皮膚等噱頭，鎖定目標(biāo)用戶(hù)去第三方平臺(tái)進(jìn)行交易欺詐。

平臺(tái)根據(jù)黑產(chǎn)作弊鏈路，在評(píng)論、建群、拉人等多個(gè)場(chǎng)景阻斷黑產(chǎn)觸達(dá)受害者，上線(xiàn)反詐客服“驗(yàn)證助手”，并根據(jù)黑產(chǎn)的特征每月迭代反詐策略200個(gè)以上，在站內(nèi)外多個(gè)渠道發(fā)送反詐提醒，日均保護(hù)潛在受害人200萬(wàn)次。2024年，警方根據(jù)抖音提供的線(xiàn)索，打擊詐騙團(tuán)伙69個(gè)，抓獲犯罪嫌疑人451名。

精準(zhǔn)識(shí)別網(wǎng)絡(luò)水軍 重點(diǎn)打擊四大類(lèi)

售賣(mài)水軍服務(wù)、惡意控評(píng)、流量造假、惡意舉報(bào)，是過(guò)去一年抖音重點(diǎn)打擊的四類(lèi)水軍行為。黑產(chǎn)在站內(nèi)售賣(mài)刷粉刷贊、招募水軍等違規(guī)服務(wù)，或有組織、有目的地批量發(fā)布評(píng)論錯(cuò)誤引導(dǎo)用戶(hù)認(rèn)知，利用作弊手段偽造虛假流量、炒作熱度，甚至利用平臺(tái)舉報(bào)規(guī)則牟利，惡意舉報(bào)導(dǎo)致他人賬號(hào)受影響。

2024年抖音搭建刷手、買(mǎi)手用戶(hù)模型，精準(zhǔn)識(shí)別風(fēng)險(xiǎn)賬號(hào)，并實(shí)施攔截異常操作，阻斷水軍造假途徑；通過(guò)大模型技術(shù)提升識(shí)別能力，對(duì)機(jī)器賬號(hào)和受騙用戶(hù)差異化處置。一年來(lái)抖音日均攔截違規(guī)信息6200萬(wàn)次，共封禁賬號(hào)110萬(wàn)個(gè)，并將涉嫌違法行為的線(xiàn)索上報(bào)相關(guān)部門(mén)。過(guò)去一年根據(jù)抖音提供的線(xiàn)索，警方抓獲水軍黑產(chǎn)犯罪嫌疑人90名。

升級(jí)視頻關(guān)鍵幀識(shí)別能力 阻斷違規(guī)外鏈導(dǎo)流風(fēng)險(xiǎn)

除了欺詐和水軍，黑產(chǎn)集中的另一方向是違規(guī)外鏈。黑產(chǎn)組織通過(guò)作弊手段繞過(guò)平臺(tái)風(fēng)控策略，在多種渠道插入二維碼、聯(lián)系方式、圖片、網(wǎng)址等，引導(dǎo)用戶(hù)點(diǎn)擊跳轉(zhuǎn)至第三方違規(guī)、違法網(wǎng)站，這些第三方網(wǎng)站則以提供色情、賭博等違法服務(wù)為主。

為應(yīng)對(duì)黑產(chǎn)新手法，抖音風(fēng)控團(tuán)隊(duì)在前置識(shí)別的基礎(chǔ)上，新增了自動(dòng)黑樣本庫(kù)，通過(guò)AI技術(shù)可自動(dòng)識(shí)別、歸類(lèi)違規(guī)行為并進(jìn)行處置；結(jié)合黑產(chǎn)行為模式，升級(jí)視頻截取關(guān)鍵幀模型能力，可第一時(shí)間定位黑產(chǎn)在視頻中植入的違規(guī)頁(yè)面；新增彈幕場(chǎng)景模型，有效運(yùn)行該場(chǎng)景的違規(guī)攔截策略。2024年，抖音封禁相關(guān)違規(guī)賬號(hào)超120萬(wàn)個(gè)，同時(shí)警方根據(jù)抖音提供的線(xiàn)索，打擊違規(guī)導(dǎo)流團(tuán)伙8個(gè)，抓獲嫌疑人40名。