近一段時(shí)間,短視頻平臺(tái)快手因存在不良內(nèi)容的問(wèn)題而引發(fā)關(guān)注。
4月1日,央視新聞點(diǎn)名快手、火山小視頻等平臺(tái)上存在未成年孕婦、未成年媽媽和未成年二胎媽媽主播,央視新聞?wù)J為,早婚早育現(xiàn)象在中國(guó)部分經(jīng)濟(jì)欠發(fā)達(dá)地區(qū)一直存在,而短視頻平臺(tái)則把這種現(xiàn)象推送到大眾面前。短視頻平臺(tái)絕非無(wú)辜,它提供的平臺(tái),嚴(yán)重影響了少年兒童,起到了相當(dāng)惡劣的作用。
對(duì)此,4月1日,快手做出回應(yīng)稱,針對(duì)報(bào)道中提及的問(wèn)題,快手進(jìn)行了全站清查,采取了以下措施:查刪了數(shù)百個(gè)以低齡懷孕進(jìn)行炒作的視頻,對(duì)個(gè)別影響惡劣的賬號(hào)直接封號(hào)。關(guān)閉關(guān)聯(lián)推薦功能,在搜索入口進(jìn)行攔截,增補(bǔ)了審核規(guī)則,升級(jí)人工智能識(shí)別系統(tǒng),發(fā)現(xiàn)用戶上傳相關(guān)內(nèi)容,將對(duì)上傳賬號(hào)立即處理,嚴(yán)重者直至封禁。
4月3日,快手發(fā)表創(chuàng)始人、CEO宿華的署名文章《接受批評(píng),重整前行》。在文章中,宿華表示:“它(指快手)就像我的孩子,我和我的團(tuán)隊(duì)耗費(fèi)了無(wú)數(shù)的心血,但它卻并沒(méi)有長(zhǎng)成我們理想中的樣子,平臺(tái)上出現(xiàn)了不該有的內(nèi)容,對(duì)社會(huì)造成了非常不好的影響。十分感謝中央電視臺(tái)等媒體對(duì)快手的批評(píng),讓我清醒地認(rèn)識(shí)到自己的不足。”
宿華稱,社區(qū)運(yùn)行用到的算法是有價(jià)值觀的,因?yàn)樗惴ǖ谋澈笫侨耍惴ǖ膬r(jià)值觀就是人的價(jià)值觀,算法的缺陷是價(jià)值觀上的缺陷。
對(duì)此,宿華稱將重整社區(qū)運(yùn)行規(guī)則,將正確的價(jià)值觀貫穿到算法推薦的所有邏輯之中,堅(jiān)決抵制和刪除違法違規(guī)及色情低俗視頻,建立專門(mén)的青少年保護(hù)體系,打造一個(gè)風(fēng)清氣朗、健康向上的負(fù)責(zé)任的互聯(lián)網(wǎng)社區(qū)。
具體而言,快手提出了五條整改措施:一、用正確的價(jià)值觀指導(dǎo)算法,二、梳理完善社區(qū)運(yùn)行規(guī)則,三、建立未成年人保護(hù)體系,四、堅(jiān)決打擊和清除低俗色情內(nèi)容,四、堅(jiān)決打擊和清除低俗色情內(nèi)容。
快手官方網(wǎng)站的資料稱,GIF快手創(chuàng)始于2011年3月,在2013年從工具化應(yīng)用轉(zhuǎn)型為短視頻社交應(yīng)用,并于2014年更名為快手,目前快手全球用戶超過(guò)了4億。2016年,在快手走紅初期,一個(gè)頗為流行的說(shuō)法是,快手平臺(tái)內(nèi)的作品多以農(nóng)村生活為背景、接地氣、獵奇、甚至以自虐為賣點(diǎn)。2017年,快手試圖改變過(guò)去的品牌形象,將平臺(tái)建設(shè)成:“記錄這個(gè)世界每個(gè)人平凡而美好的生活”的工具型應(yīng)用。但隨著用戶基數(shù)的不斷增大,平臺(tái)不良內(nèi)容識(shí)別與處理以及自我監(jiān)管問(wèn)題也成為了平臺(tái)的運(yùn)營(yíng)難點(diǎn)。
不只是快手,其他的短視頻、直播平臺(tái),也受到了監(jiān)管部門(mén)的密切關(guān)注。近來(lái)火爆的短視頻平臺(tái)抖音,有抖音用戶因模仿抖音平臺(tái)上流行的翻跟頭動(dòng)作,而致使孩子受傷,對(duì)此,抖音回應(yīng)稱我們提醒包括廣大家長(zhǎng)在內(nèi)的抖音用戶,在拍攝視頻時(shí)要注意安全,對(duì)于有難度的視頻不要輕易模仿,此外,抖音還將上線“風(fēng)險(xiǎn)提示系統(tǒng)”。
附:快手微信公眾號(hào)文章《接受批評(píng),重整前行》
親愛(ài)的朋友們:
今年是快手社區(qū)誕生的第8個(gè)年頭。它就像我的孩子,我和我的團(tuán)隊(duì)耗費(fèi)了無(wú)數(shù)的心血,但它卻并沒(méi)有長(zhǎng)成我們理想中的樣子,平臺(tái)上出現(xiàn)了不該有的內(nèi)容,對(duì)社會(huì)造成了非常不好的影響。十分感謝中央電視臺(tái)等媒體對(duì)快手的批評(píng),讓我清醒地認(rèn)識(shí)到自己的不足。
所有信賴喜歡快手的用戶,以及關(guān)心愛(ài)護(hù)快手的朋友,我要向你們說(shuō)聲對(duì)不起。
我一直在反思,我們做快手社區(qū)的初衷是希望讓每一個(gè)人都有能力記錄自己的生活,每一個(gè)人都有機(jī)會(huì)被世界看到,從而消解每一個(gè)人的孤獨(dú)感,提升每一個(gè)人的幸福感?,F(xiàn)在看起來(lái),我們做得不好,社區(qū)發(fā)展在一定程度上偏離了原來(lái)的方向。如果社區(qū)發(fā)展不能遵循初心,一切會(huì)變得沒(méi)有意義。社區(qū)運(yùn)行用到的算法是有價(jià)值觀的,因?yàn)樗惴ǖ谋澈笫侨?,算法的價(jià)值觀就是人的價(jià)值觀,算法的缺陷是價(jià)值觀上的缺陷。
今天,快手爆發(fā)出來(lái)的問(wèn)題,是長(zhǎng)久以來(lái)我們一直沒(méi)能重視的問(wèn)題,我們不會(huì)推諉責(zé)任和逃避監(jiān)管??焓挚释械挠脩粢黄穑c這個(gè)國(guó)家、這個(gè)時(shí)代共成長(zhǎng)。我們將重整社區(qū)運(yùn)行規(guī)則,將正確的價(jià)值觀貫穿到算法推薦的所有邏輯之中,堅(jiān)決抵制和刪除違法違規(guī)及色情低俗視頻,建立專門(mén)的青少年保護(hù)體系,打造一個(gè)風(fēng)清氣朗、健康向上的負(fù)責(zé)任的互聯(lián)網(wǎng)社區(qū)。
一、用正確的價(jià)值觀指導(dǎo)算法
1.只有符合國(guó)家法律法規(guī)、遵循社會(huì)公序良俗的作品,才能進(jìn)行算法推薦。
2.所有的算法規(guī)則,必須服從健康積極、陽(yáng)光向上的價(jià)值觀。
3.改進(jìn)算法,優(yōu)先推薦個(gè)性化的更符合用戶興趣的正能量作品,放大優(yōu)秀作品的影響力、感染力。
4.與高校開(kāi)展AI技術(shù)及人才合作,不斷提升視頻分析理解方面的算法技術(shù)能力,并應(yīng)用到視頻管理策略中去。
二、梳理完善社區(qū)運(yùn)行規(guī)則
1.從即日起,無(wú)限期關(guān)閉推薦相似用戶的功能,直到確保該功能完全綠色正能量。
2.完善身份認(rèn)證措施,對(duì)于未成年用戶,將用專門(mén)的策略限制內(nèi)容展現(xiàn)和設(shè)置相應(yīng)的社區(qū)權(quán)限。
3.加強(qiáng)用戶引導(dǎo)和教育,嚴(yán)厲打擊各類以不當(dāng)方式吸引眼球的行為。
三、建立未成年人保護(hù)體系
1.對(duì)視頻進(jìn)行分級(jí),對(duì)于未成年用戶可能看到的視頻,進(jìn)行嚴(yán)格過(guò)濾。
2.未成年用戶上傳的視頻中如含有各類不合適內(nèi)容,嚴(yán)格清理并進(jìn)行引導(dǎo)教育。
3.禁止未成年人在不受監(jiān)管情況下注冊(cè)消費(fèi),如有侵犯未成年人權(quán)益,平臺(tái)將主動(dòng)退還消費(fèi)款項(xiàng)。對(duì)成人賬號(hào)疑似被未成年人使用消費(fèi)情形,平臺(tái)將限制消費(fèi)額度,并采取多次提醒家長(zhǎng)制度。
4.建立相關(guān)未成年人保護(hù)公益基金,盡可能幫助面臨困難的未成年人。
5.在社區(qū)內(nèi)成立未成年未婚早育危害宣傳委員會(huì),幫助快手平臺(tái)內(nèi)的年輕人樹(shù)立正確的婚戀觀、價(jià)值觀。
四、堅(jiān)決打擊和清除低俗色情內(nèi)容
1.打擊各類使用低俗標(biāo)題、封面誘導(dǎo)點(diǎn)擊的行為。
2.對(duì)低俗與擦邊球內(nèi)容全量多輪人工審核,研發(fā)升級(jí)算法識(shí)別體系。
3.積極配合公安機(jī)關(guān),對(duì)違反社會(huì)治安、行為可疑或體現(xiàn)明顯惡意的用戶進(jìn)行舉報(bào)。
4.對(duì)色情內(nèi)容零容忍,聯(lián)合多平臺(tái)共同打擊跨網(wǎng)絡(luò)犯罪團(tuán)伙。
五、借助各方力量,共建清朗快手
1.積極接受政府有關(guān)部門(mén)管理和指導(dǎo),改進(jìn)優(yōu)化審核規(guī)則和算法推薦。
2.邀請(qǐng)法律、傳播、社會(huì)、倫理等領(lǐng)域?qū)W術(shù)專家,組建短視頻內(nèi)容合規(guī)性研究委員會(huì),加大對(duì)視頻內(nèi)容合規(guī)性案例的分析研判。
3.與高等院校和科研機(jī)構(gòu)合作,利用平臺(tái)獲取的海量視頻大數(shù)據(jù),探討用戶體驗(yàn)和社會(huì)責(zé)任的合理界限。
4.優(yōu)化舉報(bào)處置流程,加強(qiáng)舉報(bào)處置團(tuán)隊(duì)建設(shè),著手研究舉報(bào)核實(shí)獎(jiǎng)勵(lì)機(jī)制,組建社區(qū)監(jiān)督員隊(duì)伍。
此時(shí)此刻,我必須再一次向所有因?yàn)槲覀兊腻e(cuò)誤而受到傷害的用戶和朋友們致以最深的歉意,希望你們能一如既往地關(guān)心、批評(píng)和支持我們。我也真誠(chéng)接受并感謝媒體的監(jiān)督與批評(píng),認(rèn)真落實(shí)管理部門(mén)的指導(dǎo)意見(jiàn),不斷優(yōu)化和提升社區(qū)品質(zhì)。
快手社區(qū)一路走來(lái),離不開(kāi)每一個(gè)用戶的真誠(chéng)陪伴。無(wú)論如何,我都希望你們相信,記錄這個(gè)世界每個(gè)人平凡而美好的生活,讓我們共同見(jiàn)證時(shí)間沉淀后的記錄價(jià)值,是我永不改變的追求。
我希望總是能與你們站在一起。
快手CEO 宿華
2018年4月3日