360搜索推广西安营销服务中心

西北营销服务中心

 *360搜索推广新客户开通帐号即可享受:1、免费开通企业400电话(含1200元话费) 2、免费创建360企业地图  3、免费开通360企业百科词条等360增值服务,联系电话:029-62712629 

029-62712629

大语言模型,救不了“网络暴民”

语言可以杀人——信息化时代,相信没有人可以否认这一点。

语言攻击,是有代表性的网络暴力之一。谩骂刚缺失儿子的母亲,诬蔑女孩的粉色头发,嘲笑男性气场“太娘”,中药炮制方法无谓的浅黄色谣言……不计其数侮辱性的语言,在网络间横行无阻,给了别人带来了一望无际的精神伤害。

语言暴力倾向,变成了网络治理的全球性难题。

各式各样方案被使出,但都很难有效阻止“网络暴民”的提升和语言简单粗暴的猖獗。在这其中,技术层面的解决对策,就是利用AI优化计算方法来自动识别有毒语言,按照战斗能力来设定副作用评分,而且对大副作用语言进行预防处理,比如屏蔽、心理指导等。

但由于语言的抽象化,以前的人工智能技术扩展性较差,很容易做出错误做法,导致鉴别干预的结果并不太好,仍然需要许多人力资源审核员。不仅处理效率低下,而且长期阅读有毒语言还会继续危害大家审核员身体健康。

ChatGPT这种大语言模型,拥有丰富的扩展性和模型泛化能力,展现出了前所未有的语言逻辑思维能力。

按理说,秉持着“技术性从善”的发展理念,大语言模型理应被用来更有效、有效地防止网络暴力,可是为什么迄今为止,我们依旧没有见到有关技术?反倒是应用大语言模型产生很多产生危害视频内容“技术性做恶”风靡。

大语言模型,也挽救不了“网络暴民”,难道说我们终究一定要在有毒网络环境下“数字化生存”吗?

大语言模型,主要内容检验技术性的一大步避免,是治理网络暴力最重要的环节。应用AI主要内容检验来预防网络暴力,相关科学研究已有多年悠久的历史。

2015年就有人提出,自我情绪反应便和有伤害作用间有显著关联,运用人工智能算法来测试社交媒体中的产生危害行为,被称作网络暴力检测优质指标。

也就是说,一个人在日常日常生活遇到了巨大变化、艰苦或感觉低落、心烦情感状态差时,就容易在网络上传来憎恶、攻击、诬蔑等惹恼性语言。

网站分享:

联系地址:西安市科技二路72号西安软件园唐乐阁A座

开户热线:029-62712629  

在线客服
 
 
 工作时间
周一至周五 :8:30-17:30
周六至周日 :9:00-17:00
 联系方式
开户热线:029-62712629
邮箱:2965608513@qq.com