首页

女王踩阳

时间:2024-07-05 23:25:22 作者:别让AI虚假新闻成网络谣言重灾区 浏览量:73426

  □ 刘津宁

  避免AI炮制虚假新闻成网络谣言重灾区,平台在刺激创作的同时,还应肩负起杜绝、消除虚假信息传播的社会责任。

  6月中旬,一家MCN机构的实际控制人王某某被警方予以行政处罚,处罚原因在于王某某利用AI软件生成虚假新闻并大肆传播,扰乱了公共秩序。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。最终,王某某依法被处以行政拘留5日,涉案MCN机构亦被责令停业整改。

  随着AI技术的跨越式发展,科技发展的正向效果与负面冲击交织出现,给人类带来了全新的机遇与挑战。近年来,诸如此类涉AI炮制谣言违法犯罪行为屡屡出现,也恰恰证明了生成式AI的“双刃剑”属性日益凸显。这些通过AI生成的虚假新闻主题集中、风格鲜明,多以险情、灾情、刑事犯罪或其他涉民生、社会热点事件为内容,辅以夸张、猎奇的情节和看似相关却实际无关的图片、视频,并以新闻撰稿人的角度、方向、语气对外发布,普通人难以辨别真伪。以前述事件为例,通过警方的披露我们才知道,相关违法主体不是仅用单一账号发布虚假信息,而是通过多平台多账号矩阵式发布,这就加剧了信息的传播规模及可信性,迷惑性极强。

  AI虚假新闻的横行,违背了新闻的本质特性——真实性,冲击了新闻报道的权威性。同时,当网络世界被大量AI炮制的虚假新闻充斥时,真正需要被关注的社会公共事件、重大政策发布就会因传播空间被挤占而无法进入更多人的视野,消耗人们有限的注意力资源,甚至还极易引发恐慌和骚乱。不少虚假新闻在经警方辟谣,甚至进入司法程序后,公众方才直呼“上当受骗”,可见,AI炮制假新闻一方面透支了公众信任,另一方面也消耗了本应发挥更大效能的司法行政资源。

  为何会有虚假新闻源源不断产生?笔者认为根本原因在于造假成本低、传播收益高。对于生产者来说,相关新闻均由AI软件生成,他们只需给出关键词,软件便会自动在网上抓取相关信息,形成一段看起来信息量很大实际子虚乌有的内容,全程基本无需人工参与,时间及经济成本几乎为零。此外,很多网络平台都有鼓励创作的奖励机制,会向流量高的内容和用户支付报酬,变相刺激了一些用户发布虚假、擦边等违法内容并藉此牟利。例如,前述事件中的王某某编造的虚假新闻中最高一条收入700元,警方估算其每天的收入可在1万元以上。

  避免AI炮制虚假新闻成网络谣言重灾区,平台在刺激创作的同时,还应肩负起杜绝、消除虚假信息传播的社会责任。违法行为在翻新,平台防控亦应升级。一方面,要注重事前预防,强化注册、变更账号信息审核程序,用户在发布涉及国内外时事、公共政策、社会事件等相关信息时,要将信息来源在显著位置展示。另一方面,要持续从完善谣言标签功能、规范账号运营、明确营利权限开通条件、限制违规行为获利、完善粉丝数量管理措施、加大对“自媒体”所属MCN机构管理力度等方面予以常态化事中管理。同时,加强事后惩戒,对制作发布谣言、蹭炒社会热点事件或矩阵式发布传播违法和不良信息造成恶劣影响的“自媒体”,及时予以关闭、纳入平台黑名单账号数据库并上报网信部门,并通过大数据技术发现不同人实名注册但实为一人控制使用的违规账号,据其违法行为分别采取取消互动功能、清理粉丝、取消营利权限、禁言、关闭等惩戒措施。

  还需注意的是,在炮制虚假新闻的产业链条中,相关AI软件也是违法内容生成的重要一环,不论其功能是否主要为生成热点虚假信息,还是正规软件被违法行为人恶意利用,都暴露出此类软件存在一定的设计漏洞。因此,监管机关在查处散布虚假新闻行为的同时,还应对此类软件开发者是否合规进行必要检查。

  (作者单位:北京市第四中级人民法院)

  来源:人民法院报

展开全文
相关文章
耶伦:健康的经济关系将为美中两国带来显著益处

2月24日,中共中央台办、国务院台办在北京举办 2024年“庆元宵·迎团圆”台商联谊活动。中国台湾相声女演员、演员姬天语现场为观众送上祝福。姬天语表示,此前参演的电视剧《星落凝成糖》2023年在大陆播出,随后在台湾也一度冲至某平台热播第一,甚至在新加坡、越南、泰国等地都拥有众多观众。姬天语说,没想到国剧的影响力可以这么大。

外交部回应“city不city”走红:欢迎大家来中国

3月27日,在莎车县的某处巴旦木种植基地内,巴旦木花开得正艳,花香袭人,形成了一道独特的风景线。道路两旁、田野边,大片的粉色、白色花朵在碧绿色麦田的衬托下,赏心悦目,吸引了无数游人前来观赏。众多游客共同欣赏这片美丽的花海,感受春天的气息。

四川省社会科学院马识途研究中心成立

亚洲经济前景及一体化进程2024年度报告》预计,亚洲今年经济增速有望高于2023年,达到4.5%左右。按照购买力平价计算,2024年亚洲经济体经济规模占全球比重预计为49%。“在变乱交织的背景下,亚洲仍是全球增长的关键驱动力。”博鳌亚洲论坛秘书长李保东表示。

2023年度全国十大考古新发现:郑州商都书院街墓地

同新加坡、泰国互免签证协定分别于2月9日、3月1日起正式生效;自3月14日起,对瑞士、爱尔兰、匈牙利、奥地利、比利时、卢森堡6国持普通护照人员试行免签;进一步提升境外来华人员支付便利性……不断优化的政策措施,彰显中国开放合作的诚意,也为深化中外友好交往与互利合作带来更多机遇。

英科学家伊恩·威尔穆特去世:曾培育出世界第一只克隆羊

在解放战争中,徐向前先后指挥了临汾战役、晋中战役和太原战役等,为解放全中国作出重要贡献。新中国成立后,徐向前先后担任人民解放军总参谋长、国务院副总理兼国防部长,是黄埔一期军职最高的共产党员将领。1984年黄埔军校同学会成立,徐向前担任首任会长,这也是他晚年担任的唯一职务。

相关资讯
热门资讯
链接文字