大语言模型，救不了“网络暴民”

语言可以杀人——信息化时代，相信没有人可以否认这一点。

语言攻击，是有代表性的网络暴力之一。谩骂刚缺失儿子的母亲，诬蔑女孩的粉色头发，嘲笑男性气场“太娘”，中药炮制方法无谓的浅黄色谣言……不计其数侮辱性的语言，在网络间横行无阻，给了别人带来了一望无际的精神伤害。

语言暴力倾向，变成了网络治理的全球性难题。

各式各样方案被使出，但都很难有效阻止“网络暴民”的提升和语言简单粗暴的猖獗。在这其中，技术层面的解决对策，就是利用AI优化计算方法来自动识别有毒语言，按照战斗能力来设定副作用评分，而且对大副作用语言进行预防处理，比如屏蔽、心理指导等。

但由于语言的抽象化，以前的人工智能技术扩展性较差，很容易做出错误做法，导致鉴别干预的结果并不太好，仍然需要许多人力资源审核员。不仅处理效率低下，而且长期阅读有毒语言还会继续危害大家审核员身体健康。

ChatGPT这种大语言模型，拥有丰富的扩展性和模型泛化能力，展现出了前所未有的语言逻辑思维能力。

按理说，秉持着“技术性从善”的发展理念，大语言模型理应被用来更有效、有效地防止网络暴力，可是为什么迄今为止，我们依旧没有见到有关技术？反倒是应用大语言模型产生很多产生危害视频内容“技术性做恶”风靡。

大语言模型，也挽救不了“网络暴民”，难道说我们终究一定要在有毒网络环境下“数字化生存”吗？

大语言模型，主要内容检验技术性的一大步避免，是治理网络暴力最重要的环节。应用AI主要内容检验来预防网络暴力，相关科学研究已有多年悠久的历史。

2015年就有人提出，自我情绪反应便和有伤害作用间有显著关联，运用人工智能算法来测试社交媒体中的产生危害行为，被称作网络暴力检测优质指标。

也就是说，一个人在日常日常生活遇到了巨大变化、艰苦或感觉低落、心烦情感状态差时，就容易在网络上传来憎恶、攻击、诬蔑等惹恼性语言。