Board logo

标题: 广纳众言，为生成式人工智能划底线 [打印本页]

作者: 冇有    时间: 2023-4-13 10:03     标题: 广纳众言，为生成式人工智能划底线

　　据新京报报道，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。

　　所谓“生成式人工智能”，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术，近来大火的ChatGPT即属于此类技术。而此次征求意见稿的公布，距离2022年11月30日全新对话式AI模型ChatGPT的发布还不到半年时间，监管与新技术突破接踵而至的速度之快，前所未有。

　　这种高效监管，一方面显示出此次生成式人工智能新技术爆发之迅猛，另一方面也显示出国家层面对这一新技术的支持与重视。如征求意见稿所述，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，制定本办法的目的是“为促进生成式人工智能健康发展和规范应用”。

　　新技术落地，大多会对既有监管体系形成冲击，进而促成监管制度的完善，在以往这一过程常以年或者十年计算，但以ChatGPT为代表的生成式人工智能技术不同，它仅数月间就震动全球，国内市场包括百度、华为、阿里等多家科技企业也高速跟进。

　　这就使得既有监管可能会更迅速地面临挑战，管理办法的制定也显得更为迫切。就在同一天，美国商务部也就相关人工智能监管问题正式对外公开征求意见，而此前欧盟多个国家也表示要对ChatGPT采取更严格监管措施。

　　生成式人工智能技术的突破将引发生产力变革，但也不能忽视其“暗黑”的一面。为此，包括马斯克在内的1000多名科技研究人员近期发公开信呼吁暂停开发更强大的AI系统，认为其将对社会和人类构成深远的风险。

　　就现实而言，其争议性可能包括对人们的隐私权构成新的挑战，使内容造假或者作恶的门槛降低。比如，以往，生成一张可以乱真的照片需要很高的技术能力，但现在通过新技术可能几秒钟就完成了；过去写代码需要长期的训练，现在却可以借助生成式人工智能技术实现无代码编程，使普通人也具备了当黑客的实力。诸如此类新现象，都需要监管的与时俱进。

　　因此，征求意见稿提出一系列相应要求：生成式人工智能产品提供服务前需申报安全评估；需对生成的图片、视频进行标识；内容应当真实准确；不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销等。

　　在征求意见稿公布之前，国际上尚无一部规制生成式人工智能的法律法规。此次管理办法率先发布，也反映了中国在人工智能治理领域的先发位置。

　　而掌握人工智能治理的规则制定权，又与未来获取相关领域国际竞争优势深度相关。越是人工智能发达的国家对治理的需求越迫切，其背后则是中国在人工智能技术领域的世界领先地位以及相关制度优势。

　　事实上，今年1月10日中国已经开始施行《互联网信息服务深度合成管理规定》，这是中国首部专门针对人工智能特定技术制定的法规，也意味着中国在深度合成治理方面走在了世界前列。

　　法立于上则俗成于下。无疑，未来新法规的出台，将界定新技术服务的“底线”和“红线”，使科技得以在合乎伦理的轨道上运行发展。同时也应注意到，新产业、新业态和新模式，虽然意味着新的风险，但也正在为生产力和经济增长注入新动能。

　　新法规的制定，需要坚持包容审慎监管原则，尽量为市场留足发展空间，减少对技术进步的负面影响。这也正是管理办法出台前向社会公开征求意见的重要目的，希望社会相关各方积极参与其中。
作者: 寻缘草    时间: 2023-4-13 10:04

快去提意见啊大家！！
作者: xiefanlldp    时间: 2023-4-13 10:05

非常及时！
作者: ineedyou    时间: 2023-4-13 10:07

文心一言，你怎么看？
作者: bluegio    时间: 2023-4-13 10:08

是该整治了
作者: 待发火山    时间: 2023-4-13 10:09

AI工具提供的信息应当尽可能合乎法律法规，确保各种数据的真实、准确、客观等
作者: 色炫孤狼    时间: 2023-4-13 10:10

国家要出手了
作者: 冉嵩    时间: 2023-4-13 10:11

AI 提供的东西必须真实准确，不能用 AI 生成虚假内容
作者: 贝尔法斯特    时间: 2023-4-13 10:12

有些条目看上去好像监管起来有难度，很容易最后变成模糊地带不好管理
作者: haotaicn    时间: 2023-4-13 10:13

搞这个不违法，是重点
作者: 孤云伴月    时间: 2023-4-13 10:15

这个反应速度算是很快了
作者: 紫柠檬    时间: 2023-4-13 10:15

这个反应速度算是很快了
作者: 吾缘吾分    时间: 2023-4-13 10:16

先把百度上的虚假广告治治？
作者: 湖南一刀    时间: 2023-4-13 10:17

目前来看还允许个人提供服务
作者: aogi    时间: 2023-4-13 10:18

很好，与时俱进
作者: hnsxy2002    时间: 2023-4-13 10:19

人工智能还没搞起来，怎么管人工智能已经提上议事日程了
作者: 莱芜有    时间: 2023-4-16 21:28

首先要确定生成式人工智能要有组织意识，要不然领导多尴尬
作者: 网际浪客    时间: 2023-4-23 14:42

集思广益与时俱进



欢迎光临 华声论坛 (http://bbs.voc.com.cn/)