科技日報實習記者 李詔宇

(相關(guān)資料圖)

近日，一個女孩因為抑郁癥結(jié)束了自己年輕的生命。女孩的抑郁癥并非憑空產(chǎn)生，造成這一悲劇的罪魁禍首，就是網(wǎng)絡(luò)暴力。

據(jù)了解，2022年7月，該女孩在社交平臺分享了爺爺打開她的碩士錄取通知書的欣喜時刻。令人意想不到的是，她竟因為染了粉色頭發(fā)而引起了某些不懷好意之人的關(guān)注。一時間，“不正經(jīng)女孩”“粉毛怪”等穢語流言彌漫網(wǎng)絡(luò)。遭受長時間的網(wǎng)絡(luò)暴力后，女孩患上了抑郁癥，并最終釀成了不久前的這場悲劇。

近年來，類似的網(wǎng)暴事件并非孤例。劉學州事件、成都確診女孩事件等，均因網(wǎng)暴而起，得到了社會的廣泛關(guān)注。

如何更好地認定網(wǎng)絡(luò)暴力行為？應(yīng)該采取何種措施應(yīng)對網(wǎng)絡(luò)暴力？記者針對上述問題采訪了有關(guān)專家。

兩方式結(jié)合認定網(wǎng)絡(luò)暴力

近年來，網(wǎng)絡(luò)在人們的生活中發(fā)揮著越來越大的作用，它在給人們帶來了許多便利的同時，也帶來了網(wǎng)絡(luò)暴力這一讓無數(shù)人聞之色變的“洪水猛獸”。

“一般來說，個人或群體有意識地通過網(wǎng)絡(luò)傳播攻擊性言論，以針對某一明確的個人或團體反復、持續(xù)實施侵害的行為，就是網(wǎng)絡(luò)暴力行為。”談到何為網(wǎng)絡(luò)暴力，首都經(jīng)濟貿(mào)易大學法學院訴訟與司法制度研究中心主任陳磊指出。網(wǎng)絡(luò)暴力的侵害形式主要包括威脅、騷擾、侮辱和社會性孤立等，行為通常伴有侵犯他人名譽、披露他人隱私等。

要制止網(wǎng)絡(luò)暴力，首先要準確、高效地認定網(wǎng)絡(luò)暴力行為。

相對于傳統(tǒng)語言暴力行為，網(wǎng)絡(luò)暴力行為因為采用了虛擬化、模糊化的互聯(lián)網(wǎng)語言而更難識別，與正常的調(diào)侃、玩笑等行為較難區(qū)分。與此同時，由于網(wǎng)絡(luò)傳播具有的迅速性、普及型等特點，網(wǎng)絡(luò)暴力的傳播速度遠遠快于傳統(tǒng)語言暴力，其傳播范圍也遠遠廣于傳統(tǒng)語言暴力。因此，僅僅采取傳統(tǒng)的人工識別方式認定網(wǎng)絡(luò)暴力，不僅費時費力、效率低下，而且容易因為識別者主觀原因出現(xiàn)誤判甚至錯判，總體效果不夠令人滿意。

“在認定網(wǎng)絡(luò)暴力行為上，人工智能技術(shù)可謂是堪當大任。”北京理工大學網(wǎng)絡(luò)與安全研究所所長閆懷志認為。

采用人工智能識別技術(shù)，能夠有效地在公共網(wǎng)絡(luò)空間中將各種惡意語言、圖片、視頻等網(wǎng)絡(luò)暴力“源頭”識別出來。這種識別基于人工智能技術(shù)的先進算法，相比于人工識別，具有更加高效、準確、客觀等優(yōu)勢。“必須指出的是，人工智能識別技術(shù)不能代替人工識別，應(yīng)該把二者結(jié)合起來，發(fā)揮各自的優(yōu)勢。”閆懷志說。

雙舉措并施制止網(wǎng)絡(luò)暴力

網(wǎng)絡(luò)暴力給社會、個人帶來的危害可謂是有目共睹。為了讓“粉發(fā)女孩”的悲劇不再次發(fā)生，我們應(yīng)該采取技術(shù)與法律的雙重手段，有效制止網(wǎng)絡(luò)暴力。

“人工智能技術(shù)對于遏制網(wǎng)暴的最大作用，依賴于其強大的自然語言理解能力。”閆懷志指出。針對評論、彈幕等典型的非結(jié)構(gòu)化語言數(shù)據(jù)，人工智能可以利用情緒解析、文本觀點提取、詞法分析、文本相似度識別等技術(shù)，實現(xiàn)對網(wǎng)暴的全量、多維度、快速分析，并進一步在此基礎(chǔ)上，弄清楚相關(guān)受眾在看待相關(guān)話題時的想法、情緒值與核心觀點，從而阻斷網(wǎng)暴傳播鏈的環(huán)節(jié)，最大限度降低網(wǎng)暴帶來的負面影響和危害。

除此之外，公共網(wǎng)絡(luò)空間平臺還應(yīng)該普及評論智能過濾、評論或私信動態(tài)關(guān)閉、識別屏蔽惡意用戶等功能，有效遏制網(wǎng)暴問題。同時，還可以利用人工智能識別技術(shù)，在對評論進行大數(shù)據(jù)模型匹配和校驗后，向違規(guī)發(fā)言者做出言論提醒，及時制止網(wǎng)絡(luò)暴力行為。

“網(wǎng)絡(luò)暴力行為實施者依其行為的惡劣程度，可能要承擔民事、行政和刑事責任。”陳磊指出。根據(jù)我國民法典的相關(guān)規(guī)定，網(wǎng)絡(luò)暴力實施者造成他人損害的，應(yīng)承擔侵權(quán)責任；如果其行為較為惡劣或者情節(jié)較為嚴重，則需要承擔相應(yīng)的行政責任；如果其以肉體暴力或者其他極端方法進行網(wǎng)絡(luò)暴力，情節(jié)特別嚴重的，就需要承擔刑事責任。

陳磊進一步指出，任何個人和組織使用網(wǎng)絡(luò)應(yīng)當遵守憲法法律，遵循公共秩序和社會公德，不得利用網(wǎng)絡(luò)從事侵害他人合法權(quán)益等活動。整治網(wǎng)絡(luò)不良行為亂象，需要行政監(jiān)管、互聯(lián)網(wǎng)平臺、網(wǎng)民等多方主體共同參與，合力凈化網(wǎng)絡(luò)生態(tài)，營造積極健康、清朗有序的網(wǎng)絡(luò)環(huán)境。

關(guān)鍵詞： 雙管齊下