当前位置 > 万达娱乐 > 企业文化 > 【人工智能也是“双刃剑”】

【人工智能也是“双刃剑”】

时间:2018-12-30 17:41:48 来源: 万达娱乐 作者:匿名


原标题:人工智能也是一把“双刃剑”

最近,在2019财年国家授权法案的批准下,美国国家人工智能安全委员会在美国成立。这是继美国国务院后在国家安全领域建立的另一个高级人工智能咨询机构。国防部今年成立了联合人工智能中心。根据要求,委员会将采取必要的方法和手段,促进美国人工智能,机器学习和相关技术的发展,以充分满足美国的国家安全和国防需求。此举意味着美国将进一步加强人工智能在国家安全战略层面的军事应用。

据报道,美国众议院武装部队新兴威胁和能力小组委员会提出建立美国国家人工智能情报委员会,由15名成员组成。该委员会的使命是审视美国的竞争力,国家保持竞争力的方式,以及需要关注的“道德问题”,审查人工智能,机器学习开发和相关技术的进展。具体职责包括:审查军事用途中人工智能的风险以及对国际法的影响;审查国家安全和国防中人工智能的伦理问题;建立公共培训数据标准,促进公共培训数据的共享。

从国家安全战略层面出发,美国推动人工智能技术的发展,以保持技术领先地位和优势地位的战略地位。 9月7日,美国国防高级研究计划局在成立60周年时宣布将投资20亿美元用于推动人工智能的发展。由国防部高级研究计划局代表的技术研究机构对人工智能的研究长期以来不再局限于众所周知的无人系统,而是局限于诸如“机器如何获得类似的通信和推理能力”等更深层次的系统对人类。“机制研究。

与此同时,美国也特别强调保持其在人工智能潜在领域的主导地位。美国国防部执行副部长罗伯特沃克曾说过,“人工智能是当前美国国防战略的重要组成部分,旨在重塑美国的军事技术。”

在这两个因素的推动下,美国政府继续加大对人工智能的投入。今年年初宣布的《国防战略报告》明确表示,它将向自主技术,人工智能和机器学习等军事应用注入更多资金,并加速吸收商业领域的突破性技术,以获得军事竞争优势。根据计划,美国军方将在2019财年投资137亿美元,以支持包括人工智能和无人系统在内的尖端技术研发。随着人工智能研究的深入,美国开始关注人工智能可能带来的技术风险和应用威胁,同时充分发挥人工智能技术的优势。 10月10日,美国陆军训练和条令司令部发起了一项“疯狂科学家”调查,讨论人工智能对未来战场的影响。在115名与会者提交的意见书中,形成了八项意见。一方面具体针对需要对抗人工智能所带来的风险,即人工智能支持的数据和算法容易受到欺骗,降级或其他形式的颠覆。其中,致命的自治是最受关注的问题。

今年7月,智库新美国安全中心发布报告称,人工智能技术的未来是无限的,但它仍然不成熟。存在四种隐患:一是机器可能作弊,即人工智能系统可能违反人的设计意图。情况是完成任务;第二,机器也有“偏见”,即在数据保护不足的情况下,人工智能系统的错误响应可能会产生灾难性的后果;第三,人工智能思维过程是一个谜,即人工智能有一些行为不被人类所理解;第四是人机交互失败,即设计者与用户之间的差异可能导致人机交互失败的风险。美国兰德公司在今年早些时候的一项研究中警告说,军事人工智能系统在分析情况时犯错误的可能性将导致各国出现轻率的,可能是灾难性的决定。

为此,美国开始认识到人工智能不仅是一个领域的应用问题(特别是在军事领域),而且应该在政府层面进行规划。今年9月,美国众议院监督和政府改革委员会信息技术小组在《机器的崛起》报告中报告说,人工智能有可能以意想不到的意外方式扰乱社会的每个部门。鉴于这种潜在危险,联邦政府必须解决人工智能带来的各种挑战,包括其当前和未来的应用。这一概念在军事技术中的直接表现是保持对某些任务的控制。美国国防部高级研究计划局目前正在开发一种合作自治系统,以确保人类能够实现“进入决策”,即机器是自主的,但受人为监督。可以看出,美国军方也意识到无论人工智能多么先进,它都无法完全给机器带来战争。(作者:空军工程大学)

王鹏出处:中国青年报

2018年12月12日,第12版