搜索: 标题

背景:
阅读详情

AI应该要像航空和核能一样 拥有严格的安全规范

日期:2023年07月11日 09:46 来源:观察者网 作者:佚名

 

【文/观察者网 陈思佳】ChatGPT在全球掀起了人工智能热潮,让生成式人工智能的概念进入公众视野。但AI技术的高速发展也让人们产生了新的担忧,AI会不会被用来作恶?AI会不会对社会运行产生负面影响,甚至威胁人类的安全?

7月7日,在第六届世界人工智能大会(WAIC)的“人工智能风险与安全”论坛上,多名海外专家通过视频方式,讨论了对AI技术应用前景和潜在安全风险的看法。他们普遍认为,当前的AI技术还存在很多信息安全方面的漏洞,未来应用前景也具有不确定性,研究人员和监管机构应当引起重视,尽早制定安全措施。

美国非营利研究机构“人工智能安全中心”董事丹·亨德里克斯(Dan Hendrycks)认为,与人类相比,AI系统具有更强的适应性,强大的能力可能导致AI系统在很多领域取代人类的工作,甚至直接参与到决策过程中来。

他警告说,企业AI竞争可能导致安全措施遭到削减,导致公司在安全方面“走捷径”,“一个无限制的市场可能导致AI接管所有决策”。另一个令人担忧的问题则是,人类可能过度依赖AI系统的决策,“我们可能失去控制的机会,越来越无法看到甚至理解AI的行为……这可能带来更大的风险。”

亨德里克斯认为,AI开发者需要保持谨慎和安全意识,不能尝试淡化规模化的社会风险,为应对意外事件做好准备。有关机构和组织应该要考虑如何开展更加安全的AI系统研发,安全人员需要明确制定使AI系统更加安全的措施。

美国加州大学伯克利分校计算机科学教授斯图尔特·罗素(Stuart Russell)谈到了如何防止AI“反客为主”的问题。在他看来,AI需要构建成以人类利益为核心动机结构的形式,“事实上,我们感兴趣的不是具有智能的机器,而是对我们有益的机器。”

他注意到,AI的“黑箱”模型并不透明,人们并不理解其内部运作方式。他举例说,在今年早些时候曾出现过“令人毛骨悚然的微软Bing聊天机器人敦促科技专栏作家离婚”的新闻,“至少表明上来看,AI可能主动追求某种目标。”

因此罗素认为,人们应该利用“可以理解的组件”构建AI系统,并确保不会部署和运行不安全的AI系统。“人工智能对社会的潜力是巨大的,为进一步发展创造了不可阻挡的动力。但如果我们继续按照我们过去的方向发展,我认为我们可能会失去控制……AI要像航空和核能一样,拥有严格且不可绕过的安全标准,并且需要通过国际合作确保安全标准得到遵守。”

加州大学伯克利分校计算机科学教授宋晓东(Dawn Song)则重点讨论了信息安全问题,她指出,高速发展的AI技术加剧了敏感信息泄露和恶意内容传播的风险。

宋晓东表示,在与谷歌研究人员的早期研究中,他们发现攻击者可以通过简单查询的方式,从GPT-2等模型中提取训练数据中的个人身份信息。尽管GPT-3.5、GPT-4等模型加强了对个人身份等信息的保护,但攻击者依然能通过特定的提示“欺骗”AI,从而获取敏感信息。

另一个潜在风险是,攻击者可能滥用AI技术以生成恶意内容,“而且,通过人工智能辅助生成的内容数量可能超过人类生成内容的数量,我们将很难区分AI生成内容和人类生成的内容,尤其是生成式AI技术还在不断改进。”

她强调,人们迫切需要建立防御机制应对恶意操纵生成的内容,并构建大语言模型可信度的评估体系。

针对高速发展的AI技术,包括中国、美国和欧洲在内的诸多国家已开始推动AI立法工作,探寻有助于AI技术发展和监管的路径。

欧洲议会在6月14日以499票赞成、28票反对和93票弃权的结果,通过《人工智能法案》草案,正式进入最终谈判阶段。草案将AI风险划分为不可接受的风险、高风险、有限风险和低风险四个级别,对风险较高的应用程序实施严格的监管。

草案还为AI使用场景划定禁区,严格禁止“对人类安全造成不可接受风险的AI系统”,包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。实时远程生物识别技术在最新投票中还被调整为“不可接受的风险”,禁止AI在该领域的应用。

美国消费者新闻与商业频道(CNBC)称,尽管草案正式成为法律还需要时间,但欧洲议会已经为立法扫清“主要障碍”,欧盟这项法案或将成为全球首批正式的AI法规之一。

美国政府则从今年4月起开始研究是否需要对ChatGPT等AI工具进行审查。作为潜在监管手段的第一步,美国商务部在4月11日就相关问责措施公开征求意见,包括新AI模型在发布前是否应该通过认证程序等问题。

美国国会参议院民主党领袖查克·舒默在6月提出“人工智能安全创新”框架,主张在鼓励创新的同时推进安全、问责制、基础和可解释性。他呼吁美国国会在该框架下加快对AI立法的进展,希望能在“几个月内”制定联邦层面的AI法案。

中国的AI立法相关工作也已经提上日程。今年4月,中国国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》,这是国内生成式人工智能(AI)领域的首份监管文件。

据澎湃新闻报道,7月6日,在世界人工智能大会科学前沿全体会议上,科技部战略规划司司长梁颖达表示,人工智能法草案已被列入国务院2023年立法工作计划,提请全国人大常委会审议。展望未来,梁颖达表示,我国将鼓励人工智能前沿研究和原始创新,鼓励人工智能技术开源发展,坚持科技向善的理念,发展负责任的人工智能。


本文地址:https://www.24fa8.com/n101095c26.aspx,转载请注明24FA出处。
| |
评论: AI应该要像航空和核能一样 拥有严格的安全规范 - 网民评论 全部评论 0
姓名: 字数
点评:
评论声明:
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规。
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任。

    • 本周热门
    • 今日热门

    首页 焦点(3503) 热点(2575) 新闻(12881) 国际(5043) 娱乐(4250) 视频(131) 综艺(1809) 影视(3380) 音乐(2082) 民生(3515) 行业(234) 财经(1510) 股票(344) 时装(9) 商机(19) 女性(412) 男士(75) 美容(44) 时尚(29) 珠宝(40) 饰品(28) 品牌(12) 保健(59) 健康(270) 养生(104) 医学(340) 母婴(113) 亲子(56) 旅游(375) 购物(11) 美食(58) 创业(89) 社会(9655) 观点(1000) 房产(1057) 汽车(266) 家居(21) 安防(40) 环保(57) 科技(612) 展会(4) 数码(203) 足球(220) 体育(972) 教育(1334) 高校(1582) 法制(2082) 军事(549) 游戏(236) 小说(31) 美女(17889) 欧美(32) 运营(18) 网络(402) 读书(294) 励志(177) 灵异(52) 奇闻(158) 趣闻(177) 历史(330) 人物(87) 星相(383) 艺术(46) 两性(296) 情感(151) 文学(300) 武林(261) 道教(62) 佛教(147) 广州(134) 地区(13)