专家联名警告AI对人类“生存威胁” 中国信通院:正在编制人工智能模型许可证

2023-05-31 富美财经 浏览量:

中国信通院云大所开源和软件安全部主任郭雪表示,AI大模型的本质决定了开源是其必经之路。为充分发挥大型模型的通用性优势,促进大型模型技术在产业中真正落地,中国信息通信研究院联合产业各方共同编制“纸鸢”开放人工智能模型许可证,下一步将发布《纸鸢开放人工智能模型许可证(征求意见稿)》。  有业内人士认为,此举有助于政府对AI的监管,同时也在一定程度上避免“重复造轮子”。  据智东西统计,自2023年11月ChatGPT发布至5月29日,国内至少有55个类GPT大模型已经推出或马上面世。其中,在AI企业发布的大模型中,最受关注的无疑是NLP领域龙头企业科大讯飞(行情002230,诊股),其于5月6日推出的“星火”大模型已经开始内测。据发布会上,科大讯飞董事长刘庆峰释放的消息,6月9日,“星火”大模型将迎来第一次升级。  行业高管与知名学者警告AI对人类“生存威胁”  据界面新闻,非营利组织“人工智能安全中心”(Center for AI Safety)5月30日在其网站刊出多位行业高管、学者与公众人物联名签署的声明,指出“减轻AI(给人类)带来的灭绝风险应成为全球性的优先事项,与大流行病及核战争等其他影响社会的大规模风险同等级别”。  联名签署人包括OpenAI首席执行官山姆·阿尔特(行情300825,诊股)曼、谷歌DeepMind首席执行官德米斯·哈萨比斯和Anthropic首席执行官达里奥·阿莫迪三大AI企业高管,“深度学习三剑客”中的两人、图灵奖得主杰弗里·辛顿与约书亚·本吉奥,微软首席技术官凯文·斯科特、OpenAI首席技术官米拉·穆拉蒂与谷歌负责技术和社会事务的高级副总裁詹姆斯·马尼卡,清华大学智能产业研究院(AIR)院长张亚勤以及中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任曾毅也参与联名。  专家联名警告AI对人类“生存威胁” 中国信通院:正在编制人工智能模型许可证  自我监管 凭证入场  早在5月中旬,OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)在美国国会针对人工智能监管的听证会上,反复强调,AI的强大,让监管在现在看起来就非常重要,而且他很同意需要一个新的机制来处理AI的监管问题。他甚至有备而来地在这次听证会上建议美国政府应该如何监管像OpenAI的公司,包括提出了三点计划:  ? 组建一个新的政府机构,负责为大型AI模型颁发许可,如果有公司模型不符合政府标准,该机构可以撤销该公司的许可证;  ? 为 AI 模型创建一套安全标准,包括对其危险能力的评估。模型必须通过某些安全测试,例如它们是否可以“自我复制”和“随意渗透”,即开始自主行动不受控制。  ? 要求独立专家对模型在各种指标上的表现进行独立审计。  不过,对于当下开源界和企业界对AI模型最大的争议之一——训练数据

是否应该透明化的问题,他却没有正面回答;也没有对另外一些颇有争议的问题提出回应,比如AI是否可以基于有版权的作品进行训练,以及AI开发者该如何补偿这些作品的创作者。  奥特曼此前曾表示, “需要一部针对人工智能的新法律”。而这次,他也非常清楚地表明,230条款不是正确的监管人工智能的框架。(美国《通信规范法案

》第230条被视为互联网行业的法律基石:如果用户在网站上发布虚假、有害内容,网站无需对用户发布的有害信息承担连带责任)。  奥特曼还警告说,如果AI出错了,那后果会非常严重。“对于一项非常新的技术,我们需要一个新的框架。“当然,我们这样的公司对我们推出的工具负有很多责任,但工具用户也一样。”  不过网友对他的这番话也不全像议员们那样买账。有推特网友就讽刺说,奥特曼的实际想法其实是,”现在OpenAI领先了,政府快来管管我们的竞争者吧。“ 许多 AI研究人员也认为这是一种反竞争行为,因为”凭证入场“对大公司有利,却可能难倒小公司、研究人员和免费的开源替代方案。  招商证券(行情600999,诊股)大模型采购“半日游” 网友:利好国产大模型  5月29日下午三点,招商局集团电子招投标平台发布《招商证券微软大语言模型服务采购项目-询价采购公告》,采购人为招商证券股份有限公司。然而至当晚九点,据招商局集团电子招标采购交易平台显示,该采购项目已终止,终止原因为采购需求变更。  专家联名警告AI对人类“生存威胁” 中国信通院:正在编制人工智能模型许可证  招商证券原计划引进微软Azure-Open AI大语言模型,根据其业务需求场景进行AI能力研究开发工作,预先研究及论证大语言模型在量化投研、精准营销、财富管理、客户服务、智能投顾、人员效能等场景上产生的应用价值。  招商证券此举抓住了人工智能技术的风口,值得肯定。我们也可以看到,证券机构也越来越多的采用大模型技术应用,认可人工智能技术对业务发展的帮助。  此次招标被快速终止后,引发网友广泛讨论。  有网友称:“下午看到招标公告感觉不可思议”、“一直强调数据安全,国产崛起被招商当耳边风了。  也有网友称,此举利好国产大模型,招商证券放弃采购国外大模型技术,或许是为了选择国产技术。

为你推荐