偽裝嫖客、做卧底，我是抖音“守夜人”
風控，不就是一群封號的人嗎？
很長一段時間，互聯網企業的“安全人”都被外界冠以這樣的誤解。
他們最大的成績，就是平台上沒有犯罪、沒有黑產、無大事發生。他們的努力，也和黑產一樣不被陽光所照射。
但沒有人知道的是，國內的互聯網黑產已是千億規模的市場。虛假點擊、羊毛黨、“假靳東”、“寵粉詐騙”、同城招嫖，各種欺詐黑產層出不窮。
用戶的信息無時不刻不被黑產竊取，一旦被盯上，等待他們的是精心布下的陷阱。
然而，同黑產對抗沒有捷徑可走，完全是一場人力和財力的比拼。
幸運的是，在這場戰爭中，有一支不計較財力、發誓要暗中保護大家的隊伍。
就像是《冰與火》之歌裏面的守夜人，永遠眺望着森林幽暗的深處。這支守夜人隊伍，則24小時盯着互聯網黑產的深淵。
以下是關於這些守夜人的真實故事：
兩個男孩擁抱親吻，這正常嗎？
“這個帳號不太對勁”，2020年3月，一凡收到了審核員發來的一條特殊視頻。
視頻內容的主人公是兩個小學生模樣的男孩在互相輕吻、擁抱。“這看起來一點都不像這個年紀的孩子會做的事情”，一凡的直覺告訴自己。
她翻看了發布視頻的帳號，發現該帳號的歷史視頻里還有大量類似的內容：男主角永遠是這兩個男孩，除了輕吻、擁抱，還會彼此撫摸。
更奇怪的是，有些視頻里還出現了一個成年男性，看起來似乎正在指揮這兩個男孩的動作。
這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經驗，這種內容的直接處理方式就是下架視頻、封帳號，確保平台上的內容正向、健康即可。
“但這樣就足夠了嗎？”一凡猶豫了起來。
如果只是封鎖帳號，那兩個男孩真的遇到了危險，誰來幫忙他們？那個成年男性明顯存在問題，封鎖帳號並不會阻止他繼續傷害孩子。
這是一次和潛在犯罪分子搶時間的賽跑。當時是夜裡11點，一凡決定直接請示上級，如果對方沒看到信息，她就打電話過去說明情況。
幸運的是，領導馬上回復“拉群，同步線下打擊組同學報警。”。
“報警”對應着最高風險等級——意味着高危內容背後可能有犯罪行為，通常需要極強的證據，經過法務和各方面研究判斷後，才能下達“報警”的指令。
但面對一些比較極端的案例，抖音安全中心會直接評估是否需要立即報警。
“線上封幾個號沒用，得讓這種渣滓現實中接受懲罰才行”，一凡的領導岳文峰當機立斷地回復。
幾乎是同一時間，審核組的同事，經過篩查帳號的歷史視頻，根據視頻中的一些建築、廣告牌等場景信息，了解到了視頻拍攝者的所在地——嫌疑人住在四川的某個縣城裡。
知道視頻拍攝者所在地區的信息后，一凡線下打擊組的同事就立刻動身從北京出發了——這也是少有的沒有拿到研判結果就出發的情況。
拿不到研判結果，意味着證據不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受疫情影響，國內北京到事發地沒有直飛航班，轉機也讓線下打擊組的人增加了滯留和隔離風險。
但他們沒有遲疑過，每個人心裏都清楚，每耽擱一分鐘，視頻里的兩個小男孩就會遭受多一些傷害。
在線下打擊組提供的線索和幫助下，該案件於3月27日偵破，當地警方發布通告稱嫌疑人被抓獲，兩個小男孩被安全解救。
此時，距離一凡發現那條視頻僅剛過去一周。
後續調查結果显示，這兩個男孩都是四川當地的留守兒童，父母長期在外打工。
疫情期間，學校封禁，由於家中沒有WIFI無法上網課，兩個男孩前往犯罪嫌疑人家中使用網絡，被哄騙拍攝視頻並威脅不能告訴家長，嫌疑人還將視頻在多個社交軟件、其他短視頻平台及網盤渠道發布兜售。
在警察實施抓捕的時候，嫌疑人還計劃對兩個未成年男童進行猥褻。
據《2019年性侵兒童案例統計及兒童防性侵教育調查報告》显示，2019年共發生301起兒童性侵案件，熟人作案超七成，其中師生關係佔比最高。
性侵兒童案往往發生在非常隱蔽的情況下，除了當事人的陳述證言，很難有其他證據佐證。另外，還有受害人保存證據不及時導致證據遺失、當前低齡兒童證據採信難等問題。
抖音安全中心的及時介入，配合協助警方獲取了重要線索和證據、鎖定了犯罪嫌疑人，才保證了兩個孩子才沒有遭受更大的傷害。
得知兩個孩子被成功解救以後，一凡焦灼的心才終於放下了。
“不想出成績、害怕被cue到”
在此之前，一凡一直定義自己所在的團隊，是一支最怕被領導cue到、也“不想做出成績”的團隊。
她所在的抖音安全中心，是抖音創辦之初就設立的部門。儘管目前團隊擁有數千名成員，但每個成員都過得很“憋屈”。
“平台沒事發生，才說明你的工作到位了”，一凡說，但平台沒事發生，外界也感知不到團隊做了哪些工作。
這個年輕的團隊被稱為“抖音的安全護衛隊”，目前團隊平均年齡僅25歲。僅到今年12月初，該團隊就處理了超過730萬個違規帳號、1380多萬違規視頻。
在這裏，忙碌是常態。他們每天要為平台上6億用戶保駕護航，要關注平台上每天所產生的數百億次行為，這其中，要關注和處理無數風險性內容、違禁內容、以及黑產行為。整個團隊的下班打車記錄里，時常出現夜裡11點至凌晨2點的情況。
一凡是在今年年初剛加入團隊，上司岳文峰在她入職的頭一天就給了個“下馬威”。
“抖音有4億用戶（一凡加入時），全國500萬黑產從業者對這4億用戶虎視眈眈，我們的責任就是和500萬黑產人做對抗，保護用戶的生命財產安全”。
從沒有過“安全”經驗的一凡心裏有些發虛。但想到這即將面臨的挑戰，她充滿了興奮，“這是誰都想嘗試的抖音啊！”
但一凡沒想到，等待她的第一個任務，是當一名“嫖客”。
當時抖音正從4億用戶邁向6億用戶飛速增長。流量暴增的同時，背後多帶來的黑產行為也成比例增長。
儘管抖音一直針對違規帳號進行打擊、不斷升級風控策略模型，但“道高一尺，魔高一丈”，狡猾的黑產人也通過各種方式逃避機器和算法的追捕——為此抖音不得不採用“無間道”的方式，通過異常帳號上留下聯繫方式，假扮“嫖客”，打入黑產內部。
初接這個任務時，一凡有些為難，她壓根看不懂黑話——最開始她盯着後台發現的“茶恭弘=叶 恭弘”、“邀請喝茶”的帳號們百思不得其解。
“茶恭弘=叶 恭弘招誰惹誰了？”在看到“上新”和一些美女視頻時，一凡才發現事有蹊蹺。
通過一段時間的卧底，一凡才知道“茶恭弘=叶 恭弘”相關的一整套引流術語是風月行業的黑話：“上新”則是指有新人加入了、“歡迎喝茶”則是表明營業了。
光知道黑話還不夠，一凡必須找到證據證明帳號涉黃才能封號。同時，她必須研究和定義新犯罪行為的特徵，輔助機器學會自動識別。
然而，大部分犯罪行為會跨平台進行：通過抖音上引流、去別的平台交流、再到第三方平台實現付款交易，每個平台的數據無法打通、很難跨平台取證。
一開始，一凡“放不開”。
“我還是個未婚女性，哪兒知道怎麼做‘嫖客’？”，一凡說，常常是她一開口，對方就知道不是正經‘嫖客’，聊着聊着就不見了。
很長一段時間里，挫敗感包裹着一凡。那段時間，她常常全天苦於如何‘更像’一個嫖客，每天都在質疑自己是誰、從哪兒來、為什麼要干這個。
和一凡有着類似困惑的，還有反欺詐項目的負責人王宸。他是個95后，也是因為“讀書時就玩抖音、喜歡抖音濾鏡”而加入抖音。
但加入抖音后，他才發現這份工作並不如想象的有趣。“我無時無刻不在開始懷疑人生”，王宸說。
王宸每天的工作都要審核大量帳號、總結欺詐帳號相關的特點供給機器學習。“每天要看成千上百個帳號、發現各種細小的特徵來判斷黑產”，王宸說。
這種忙碌是永無止境的，在做重點專項打擊項目的時候，加班到12點以後都是常事。
尤其是今年疫情爆發，抖音的用戶也迎來飛躍增長。“從今年4月以後，團隊里的人幾乎就沒有個人生活”，王宸說，同城招嫖、“假靳東”、雙十一電商詐騙等各個事件層出不窮。
最忙的時候，一凡和王宸要加班到凌晨3點、甚至直接在公司過夜。
但下班時，內心的焦慮感依然沒有減輕，唯恐自己的休息、“沒有做到極致”，而讓平台上的黑產多肆虐一天、讓無辜的孩子多受一份傷害。
但也是在這樣無數次的自我懷疑、痛苦掙扎后，一凡和王宸感覺自己突破了，得到了一種全新的體驗。
通過和同事、警方的學習和總結，一凡摸索出來了和涉黃人員交流的話術。她開始直接詢問對方“多少錢、在哪裡、安不安全”。
問完這三句話之後，對方會發來“菜單”（價格表），取證環節才算完成，緊接着再截圖舉報到對應平台，一個任務圓滿結束。
“後來組裡都開玩笑說我是‘女流氓’了”，一凡說。
通過一凡她們堅持跨平台取證、舉報，加上團隊的努力，已經有其他互聯網平台和抖音建立了合作。抖音提供取證完畢后的被舉報帳號，對方再通過這個帳號查詢IP，可以將相關的IP帳號全部封掉。
王宸則收到了一封感謝信，對方說自己因為抖音安全中心反欺詐小組的工作讓自己免於被騙。
王宸這才體會到這份工作的意義：審核是第一道關卡，看起來普通，但在審核基礎上，如何去用自己的力量幫助行業高效運轉，這才是更重要的事情。
在今年雙十一抖音成交額達到187億時，王宸更覺得自己在做一件有意義的事情。
通過他所在的團隊努力，今年雙十一他們總共阻止了幾十萬風險帳號、幾千萬次的惡意攻擊，在這背後，是無數羊毛黨和數以億計的止損額。
“我們為用戶創造更好的網絡環境，幫助他們獲得成功，這種成就感，不是隨便能得到的。”
確保安全，絕不是一刀切封號了事
被誤解、自我懷疑……一凡和王宸的痛苦，岳文峰也一直看在眼裡。
作為他們的直屬上司，岳文峰也有相似的疑惑。
他入職抖音時，抖音在7個月內用戶新增兩億、安全中心的成員也成倍增長。但外界對團隊一直存在誤解，大部分認為安全團隊最大的作用就是“封號”。
如果團隊做得好，其達到的效果是外界根本不知道有該團隊的存在，但這樣又如何讓團隊實現自我價值感？
這在他看來是極其荒謬的，“安全部門的工作不是簡單封號就可以解決的。背後的問問往往比大家想的更複雜。”
但這種誤會卻曾一度引發內部產生巨大矛盾。
5月末，岳文峰被緊急拉進一個群里。一個自稱家長的用戶稱兒子在看抖音時出現了早熟行為，要求封掉相應帳號。對方表示，該帳號有大量涉黃裸露內容。
但團隊研判后發現該帳號是衝浪領域的垂直號，“裸露畫面”是穿泳衣的衝浪愛好者，並沒有達到封帳號標準。
但家長不依不饒，聲稱如果不封帳號，就要找媒體曝光。
抖音安全中心內部一下分成兩派：一方主張封號，免得家長去曝光；一方主張不封號，因為原帳號沒有任何問題，誰也說服不了誰。
在旁人看來，這無非就是一個簡單的封號手續，但是在岳文峰看來是關乎底線的問題——不能因為一次不符合標準的舉報而誤殺。
岳文峰堅持“不封”。但這個舉動一度讓主張封號的團隊成員不理解，甚至在雙月會後收集問題時，有人提問質疑他：到底能不能帶好團隊。
沒過幾天，此前被舉報的衝浪愛好者帳號突然發布了一條高危敏感的內容，符合封號條件。
雖然如此，岳文峰卻覺得有哪裡不對，一個衝浪領域的垂直號，突然發布一條明顯違規的內容，有違常理。岳文峰還是選擇“不封”，僅下架相關內容。
同時，他讓安全技術團隊的同事查詢帳號是否存在異常，結果發現，這個帳號在發布違規視頻時候的登錄 IP 地址與以往不同，卻和“舉報家長”IP地址高度類似。
“會不會是舉報人黑了帳號”，岳文峰暗自猜想。但怕冤枉好人，團隊迅速以“遭受攻擊”為名迅速報警。
警方出動調查后回復，一切正如岳文峰所預判的那樣：舉報人因舉報不成而盜取帳號、發布高危內容誘導抖音封號。
但岳文峰沒有想到的是，舉報家長根本就沒有兒子，該帳號在抖音的視頻搶了舉報人在三亞的衝浪生意，舉報人希望通過封對方的號來挽回生意損失。
這也進一步證明了岳文峰的設想，風控絕不僅是封號而已。一旦簡單粗暴地對待複雜問題，對抖音百害而無一利。
比如僅在與“騙”相關的案件上，就分為欺騙、詐騙、哄騙等等類型的案件。其中，“欺騙”就分為騙錢的“寵粉案”和騙互動數據（類似“假靳東案”）兩種。
前者涉嫌違法犯罪，後者違規，處理方式完全不同，並不是僅靠封號能解決。
“封號是最簡單的，最偷懶的做法”，岳文峰說。
另一方面，早期干預也可以降低風險。比如，為了防止青少年沉迷抖音、受到超過其年齡的內容影響，抖音也推出了青少年模式，對視頻內容、使用時長進行了針對性設計。
“黑產是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當犯罪成本高了，自然數量就下降了。”
從早期干預，到合理預判，到線下打擊，通過岳文峰等人不計成本地建造這座“看不見”的圍牆，抖音才得以保留健康、安全的內容生態。
守最長的夜，做最忠於用戶的“守夜人”
在參与解救四川兩個被猥褻男孩之前，一凡一度認為自己的工作“沒有實感”。
作為全線上化的風險防範團隊，對於風險、犯罪內容的審核和處理也大多是線上化進行，即便是成員自身都很難評估自己對企業、社會所作出的價值。
“但真的看到兩個留守兒童因為我們的參与而獲救，那一刻我覺得自己值了，這份工作非常實在”。
一凡說，“這個效果比我們在線上封幾個帳號有效 1 萬倍”，必須採取手段從精神、肉體上對其進行雙重打擊。
在此之後，她再也沒有懷疑過自己加入抖音的目的和未來，“我每天敲的那些代碼是能夠實際上幫助到有需要的人的”。
曾做過10年“安全人”的岳文峰表示，抖音是他見過的、為數不多的在安全領域“不設上限”的公司，“在創辦抖音之初就建立安全團隊、為安全擴建進千人員工……”
“長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衛。我是抵禦寒冷的烈焰，破曉時分的光線，喚醒眠者的號角，守護王國的堅盾。我將生命與榮耀獻給守夜人，今夜如此，夜夜皆然。”
這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護着網絡暗處的“抖音守夜人”。
在城中的老百姓幸福生活時，總要有人站在城牆上，眺望黑暗，及時扼殺逼近的危險。
讓人慶幸的是，留下來的“守夜人”里，幾乎沒有選擇離開的。
【本文作者常寧寧，由合作夥伴顯微故事授權發布，文章版權歸原作者及原出處所有，轉載請聯繫原出處。文章系作者個人觀點，不代表立場。如內容、圖片有任何版權問題，請聯繫（editor@zero2ipo.com.cn）處理。】【其他文章推薦】
※刷卡換現金大利多?
※只需幾分鐘就搞定信用卡換現金?過來人的經驗談..
※刷卡換現金怎麼選最划算
※屏東房屋二胎申辦真簡單!分享四大步驟
※未上市股票買賣運作流程及應注意事項為何?