帖子主题:李蓬国;尽信AI,不如无AI
![]() |
发表时间:2025-1-18 09:01
李蓬国;尽信AI,不如无AI
李蓬国 发表在 辣眼时评 华声论坛 https://bbs.voc.com.cn/forum-76-1.html
据泰国《曼谷邮报》报道,泰国总理佩通坦在概述该国2026财年预算的政策和指导方针时,提及了人工智能(AI)诈骗问题,并表示:“曾有诈骗分子利用AI伪造外国领导人的声音与我联系,我差点就上当了。”此事件立即引发了网民讨论。(1月16日《北京日报》)
从复旦大学附属华山医院感染科主任张文宏在遭到AI技术篡改下“被带货”,到泰国总理透露自己曾遭电信诈骗且“差点就上当”,引发了人们对于AI技术滥用的关注和热议。 AI技术的发展,无疑是人类社会的重大科技变革,其产生的影响是难以估量的。有了AI,就可以实现智能导航,不仅可以指引人们到达目的地,而且还可以找到最短、最畅通的路线。哪怕是“路痴”,也不必随身携带地图,不必时常停下车来问路,不必担心因为走错路而浪费大量时间。 实际上,AI的应用远不止于此。从智能手机到“小爱同学,帮我开空调”“小度,小度,帮我放首歌”,从智能送餐的机器人、智能驾驶的汽车,到智能行动和作战的机器狗,再到嫦娥六号在月球背面自动取壤,AI已经深入到人类生活、生产、科学的方方面面,极大地方便和造福了人类。 但AI的发展也是双刃剑。张文宏“带货”的视频是AI合成的,模仿某国领导人骗泰国总理捐款的声音也是AI合成的,甚至连“被压在废墟下的小男孩”照片居然也是AI合成的。一项全球范围内的调查显示,在来自世界各地的7000多位受访者中,有四分之一的成年人,经历过AI语音骗局,70%的受访者表示,他们难以分别克隆声音与真实人声。 AI诈骗频发,名人屡被“冒充”,青少年与AI对话后自杀……AI技术发展过程中,安全挑战一直如影随形。以前人们常说,“尽信书,不如无书”。如今,我们也要意识到,“尽信AI,不如无AI”。 众所周知,核技术如果用于发电就造福人类,如果用于战争就带来毁灭。基因技术如果用于治疗疾病就造福人类,如果用于克隆人就带来伦理灾难。同样的道理,虽然AI作为科学技术是中性的,本无善恶之分,但如果开发、使用它的人居心不良,就有可能导致AI被用于伤害而非服务人类。因此,如何确保“AI向善”,已经成为一个不得不面对和解决的时代课题。 “AI向善”强调的是AI发展的伦理性。AI的本质属性是工具,人类发展AI技术的目的,是让AI更好地服务、造福人类社会。如果人们忘了、偏离了这个目的,就有可能“走得太远,忘了为什么出发”,导致AI的滥用、异化,反过来伤害人类。 人们在使用AI作画、写作时,不能造谣、“照骗”、抄袭,也不能因为开上了智能汽车,就在它的技术尚未成熟的时候,躺在驾驶室里睡大觉,更不能放弃对AI发展的引导,让任由其野蛮生长。盲目的信任与放任,必然导致事与愿违,最终反噬人类。 针对AI滥用带来的社会问题,人们可以通过构建治理机制、加强技术研究、优化伦理训练与数据、加强知识产权保护等方面多管齐下,引导科技向善,推动AI行业良性发展。同时,加大对AI防御与鉴伪技术的研发和应用,以技术防御和人工干预相结合的方式,筑牢安全防线。此外,对于利用 AI技术从事侵犯他人权利、危害公共安全等行为的不法分子,必须依法严惩,绝不姑息。 总之,“尽信AI,不如无AI”。对于AI的发展,人们不能盲目乐观,更不能盲目信任和放任,而要提高警惕,增强忧患意识。只有从技术监管、法律规范、道德引领等方面对AI发展进行规范,给它戴上“紧箍”,才能把“AI向善”落到实处。(文/李蓬国) 作者声明:本帖为本人原创,未经本人和华声论坛许可,不得转载 ![]() |