頭條出品靈犬反低俗助手小程序來(lái)反低俗內(nèi)容

　　Hishop最新消息，今日頭條本周正式上線(xiàn)了小程序“靈犬”，這是國(guó)內(nèi)首款反低俗信息小程序。

　　這款小程序脫胎于今日頭條反低俗算法模型，用于鑒定低俗信息。用戶(hù)可以將文字或者文章鏈接放置到搜索框內(nèi)，即可查詢(xún)?cè)摋l信息的健康程度。

　　不過(guò)，在文字檢測(cè)上，“靈犬”團(tuán)隊(duì)規(guī)定，用戶(hù)輸入的字?jǐn)?shù)必須超過(guò)10個(gè)字，才能進(jìn)行檢測(cè)。

　　為此，“靈犬”團(tuán)隊(duì)給出了解釋?zhuān)河脩?hù)給的上下文、語(yǔ)境等信息越充分，機(jī)器判斷的準(zhǔn)確度就會(huì)越高。

　　那么，在算法機(jī)制機(jī)制背后，“靈犬”是如何判斷一段文字或網(wǎng)址鏈接為低俗呢?

　　“靈犬”團(tuán)隊(duì)給出的解釋是，算法模型處理低俗內(nèi)容，有一條最常見(jiàn)的路徑：“收集數(shù)據(jù)-標(biāo)注樣本-訓(xùn)練模型”。

　　對(duì)于用戶(hù)輸入的文字或鏈接，“靈犬”會(huì)先進(jìn)行提取、分詞和語(yǔ)義識(shí)別，然后根據(jù)設(shè)定的規(guī)則，輸出對(duì)應(yīng)的分?jǐn)?shù)、評(píng)級(jí)和結(jié)論。

　　不過(guò)，測(cè)試員將帶圖片和視頻的鏈接進(jìn)行測(cè)試時(shí)，檢測(cè)效果并不太好。

　　“靈犬”團(tuán)隊(duì)給出的解釋是：因?yàn)閳D片、視頻提取需要較長(zhǎng)的時(shí)間，返回結(jié)果較慢，考慮到工具的即時(shí)性，暫時(shí)還不支持檢測(cè)。

　　“靈犬”的誕生，將被納入到今日頭條內(nèi)容審核體系中，它與今日頭條內(nèi)容審核機(jī)制是一條“犬”和一支“工作犬部隊(duì)”的關(guān)系?？梢岳斫鉃?，“靈犬”是頭條審核機(jī)制中反低俗部分的一個(gè)簡(jiǎn)化版本。

　　據(jù)了解，在內(nèi)容審核方面，今日頭條目前投入了4000多人專(zhuān)業(yè)審核團(tuán)隊(duì)。

　　“靈犬”團(tuán)隊(duì)對(duì)外稱(chēng)，這是國(guó)內(nèi)最大的審核團(tuán)隊(duì)，并搭建色情、低俗、標(biāo)題黨、虛假信息、低質(zhì)模型180多個(gè)，結(jié)合人工、技術(shù)手段，有效提升了內(nèi)容審核的效率和準(zhǔn)確度。

　　其實(shí)，今日頭條在去年就謀劃這件事情了，在今年1月底，“靈犬”團(tuán)隊(duì)曾面向全社會(huì)招募反低俗測(cè)試員，最終從超過(guò)5000位報(bào)名用戶(hù)，選出了30位代表，包括政府部門(mén)工作人員，媒體記者、編輯，大學(xué)教授、學(xué)生，互聯(lián)網(wǎng)公司產(chǎn)品經(jīng)理和技術(shù)人員，自媒體人等。

　　在內(nèi)測(cè)階段，“靈犬”團(tuán)隊(duì)根據(jù)測(cè)試員的意見(jiàn)反饋，增加了大量人工策略，幫助完善“靈犬”小程序。增加的策略包括：對(duì)于權(quán)威媒體報(bào)道和詩(shī)詞類(lèi)內(nèi)容，予以算法推薦傾斜;對(duì)于時(shí)政等機(jī)器難以直接處理的內(nèi)容，必須交由人工審核判斷。

　　今日頭條方面表示，“靈犬”反低俗助手還將持續(xù)升級(jí)、迭代，除了“靈犬”，今日頭條還計(jì)劃逐步開(kāi)放更多算法模型，如辟謠、標(biāo)題黨等。目前，在微信內(nèi)搜索“靈犬反低俗助手”，就可以找到并使用這款小程序。

HiShop小程序工具提供多類(lèi)型商城/門(mén)店小程序制作，可視化編輯 1秒生成5步上線(xiàn)。通過(guò)拖拽、拼接模塊布局小程序商城頁(yè)面，所看即所得，只需要美工就能做出精美商城。

更多小程序熱點(diǎn)，盡在：http://westcoastpropertyservices.com/xiaocx/