数据安全、隐私泄露引担忧,ChatGPT类AI监管“踩刹车”
行业专家对记者表示,ChatGPT类AI技术发展过程中,面临着虚假信息、数据安全、知识产权合规、伦理等各种各样的风险。
类似ChatGPT的AI(人工智能)技术合规和安全性备受关注。4月11日,中国国家网信办正式发布《生成式人工智能服务管理办法(征求意见稿)》(下称“意见稿”),促进生成式人工智能技术健康发展和规范应用。
与此同时,美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查。此前,意大利、德国监管机构已发布ChatGPT禁令,法国、爱尔兰、西班牙等国也开始考虑对AI聊天机器人采取更严格的监管。
收紧对ChatGPT类AI的监管折射出的是人们对数据和隐私信息泄露的担忧。“大规模使用网络公开数据训练模型,很有可能意外泄漏个人隐私信息。”多位行业专家对记者表示,ChatGPT类AI技术发展过程中,面临着虚假信息、数据安全、知识产权合规、伦理等各种各样的风险。
数据、隐私信息泄露受诟病
ChatGPT类AI工具一直饱受“泄露数据和隐私信息”诟病,中国支付清算协会4月10日发布的《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》(下称《倡议》)指出,ChatGPT类智能化工具已暴露出跨境数据泄露等风险。
博通咨询金融行业首席分析师王蓬博对记者表示,ChatGPT等工具需要对数据库不断更新,通过持续训练才能逐渐进化。在这个过程中,很有可能造成个人信息泄露。
“不可否认的是,在ChatGPT发展过程中,面临着虚假信息、数据安全、知识产权合规、伦理等各种各样的风险。” 萨摩耶云科技集团创始人林建明告诉记者。
金融壹账通人工智能研究院总工程师徐亮在接受记者采访时表示,目前,ChatGPT存在事实性错误、实时性差、缺乏稳定和可重复性等不足,通过OpenAI放出的训练核心步骤可以发现,ChatGPT更像是一个组合了数种新技术模块的基本框架,这个框架自身的每个部分都还有广阔的改进空间。
冰鉴科技董事长顾凌云也对记者表示,类似ChatGPT的AI技术目前确实还存在不少风险。比如大规模使用网络公开数据训练模型,可能会使得意外泄漏的个人隐私信息留存在神经网络中,存在隐私风险。
顾凌云进一步指出,ChatGPT模型使用人类的反馈来对模型进行调优,但这些反馈无法代表所有的人,这也给模型带来了统一的有偏好的价值判断,存在一定的道德风险。
ChatGPT类AI监管正当时
为了促进生成式人工智能技术健康发展和规范应用,中国国家网信办发布的意见稿指出,提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据,不但要符合《中华人民共和国网络安全法》等法律法规的要求,还不能含有侵犯知识产权的内容。如果数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形。此外,还要能够保证数据的真实性、准确性、客观性、多样性。
中国支付清算协会发布的《倡议》表示,支付行业从业人员要遵守所在地区的网络使用规定,正确认识ChatGPT等工具的机遇和风险,全面评估使用ChatGPT等工具处理工作内容的风险,依法合规使用ChatGPT等工具。在使用ChatGPT等工具时,要严格遵守国家及行业相关法律法规要求,不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。
不单单是中国在抓紧对ChatGPT类AI的监管,据外媒报道,美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查,美国AI巨头将共同商议并制定AI相关安全协议。
此前的3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器人ChatGPT,并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。
意大利个人数据保护局认为,ChatGPT泄露了用户对话数据和付款服务支付信息,没有告知用户将收集处理其信息,缺乏大量收集和存储个人信息的法律依据,同时缺乏年龄验证系统,因此未成年人可能接触到非法信息。OpenAI公司必须在20天内通过其在欧洲的代表,向意大利个人数据保护局通报公司执行保护局要求而采取的措施,否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。
随后,德国监管机构也宣布禁止使用ChatGPT,法国、爱尔兰、西班牙等欧洲国家也开始考虑对AI聊天机器人采取更严格的监管。加拿大隐私专员办公室在当地时间4月4日宣布对聊天机器人ChatGPT开发公司OpenAI展开调查,该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。
最近更新
-
公募基金去“明星化”
20:18
-
微盟集团,四年累亏约45亿
20:15
-
成绩单发榜!上市金融科技公司AI赋能效果如何?
20:10
-
独家专访IMF驻华首席代表史蒂文·艾伦·巴奈特:中国经济正向更温和与更高质量的增长过渡
17:32
- 好利科技融资余额1.41亿元,受损股民可索赔
- 东方时尚控股股东超500万持股将被司法拍卖,投资者索赔麻烦待解
- 2024,商家如何向阿里妈妈要增长?
- 【20240329早评】3000点若诱空成立,再冲年线更有劲
- 八年四闯IPO,中超股份左手分红右手募资
- 今晚有事,就简单点吧。
- 炸裂!大定5万台,带货一堆配件,大定引争议——小米汽车发布会有趣细节
- 21.59万元起售,雷军造车三年终于交卷
- *ST太安独董发飙,要求管理层讨要被占用资金,已被罚可索赔
- 累亏上百亿,腾讯、小米押宝的黑芝麻智能越做越亏
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
1984人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
72人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
334人已购
¥588.00/月
推荐阅读
- 营收增速领跑股份行,浙商银行交出“喜人”成绩单
- 沪指涨超1%,周期板块表现抢眼,机构大幅减空4300手!
- 浙商银行23年报:练好「善、智、勤」三字经,开高质量发展新篇章
- 张朝阳,时间不改“弄潮儿”本色
- 小米汽车大卖后股价能上涨吗?来看看券商的分析
- 越秀今年要用400亿元补仓|直击业绩会
- 指数大涨,调整完毕,反弹继续行情又来一波走起,三条线看博出什么消息
- 2024成都品茶工作室最新经纪人详情介绍
- 拆解天伦燃气(01600)2023年报:销气业务稳健成长,其他业务释放强劲成长动能
- 中泰化学最新股东户数11.57万户,投资者维权进行中
- TCL电子(01070):归母净利润劲增66%,多元增长曲线齐头并进
- 价格迎欢呼、大定破五万,小米汽车稳了吗?