帖子主题:AI让造谣更简单?不妨“用魔法打败魔法”
|
发表时间:2024-7-18 13:30
AI让造谣更简单?不妨“用魔法打败魔法”
木头花 发表在 辣眼时评 华声论坛 https://bbs.voc.com.cn/forum-76-1.html
近期,多地公安机关发布了多起利用AI工具实施造谣的相关案件,如发布“西安突发爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,每天收入在1万元以上,而公司实际控制人王某某经营着5家这样的机构,运营账号达842个。专家指出,便利的AI工具大幅降低了造谣的制造成本,提升了谣言的数量级和传播力。AI造谣呈现出门槛低、批量化、识别难等特点,亟待加强监管,斩断背后利益链条。
AI应用的加速让很多事情变得更简单,这里面也包括制造谣言。这不仅是指利用AI造谣,可以实现批量化的谣言信息生产,更是指它往往让谣言变得更加难以辨认。比如,过去人们坚信“有图有真相”,但AI技术的普及,让制图更容易、更逼真,在很大程度上使得这条规则开始失效了。甚至,除了图文,配音视频、换脸后模仿声音等,这些都可以利用AI产生,在人工进行微调并融入一些真实的内容后,就会变得难以辨别。 更值得注意的是,正是因为AI可帮助内容生产降低门槛并实现大规模操作,这也进一步强化了一些人利用AI制造谣言来牟利的动机。“用AI批量生产爆款文案,突然你就变有钱了”“让AI帮我写推广文,1分钟搞定3篇”“图文创作,AI自动写文章,单号轻松日产500+,可多号操作,小白轻松上手”等“致富”文章广为流传,就是一个非常现实的注脚。 所以,总体上,随着AI应用的愈发普及,人们面对的是一个更加真假难辨的信息环境,并且辟谣的难度也在增大,这的确是一个必须直面的挑战。 到底如何应对呢?将AI生产出的信息与一般的信息区别开来,以提升公众的防骗意识,当是重要方式之一。事实上,之前相关部门发布的通知中就明确,要求加强信息来源标注展示;使用AI等技术生成信息的,必须明确标注系技术生成;发布含有虚构、演绎等内容的,必须明确加注虚构标签。而针对疑似使用AI技术的内容,目前一些平台已在下方贴上“内容疑似AI生成,请谨慎甄别”的提示。这项工作是很重要的,各信息发布平台都应该推动这类提示的普及,最大程度上压缩借AI生产内容浑水摸鱼的空间。 另外,也不妨重视“用AI打败AI,用魔法打败魔法”。要知道,当各式AI生产内容的“真假”难以分辨,传播能力增强时,是不是在相应的内容把关及内容传播机制、流量分发上,也能够借助AI的力量来强化真实性判断、提升辟谣的效率,并及时阻断谣言的传播呢?随着AI谣言带来的破坏性日益显现,这方面的技术性应对,是时候引起更多的重视了。 当然,回到本质上,通过AI技术来制造谣言,背后的主体依然是人。要扼住这股将AI用偏了的不良风气,归根结底还是要加大对背后的始作俑者的惩处力度。如对一些专门利用AI来炮制谣言并借此牟利的灰色产业,应该依法予以严肃打击和清理,亮明底线和红线,遏制各个环节参与者的侥幸心理。同时,也有必要加大AI时代信息产生状况的公众普及,让更多人对于利用AI造谣的行为有更多预防、警惕心理,并养成查看信息来源的习惯,提高AI时代的信息素养。(朱昌俊) ![]() |