苏州生活网

苏州生活网为您提供全面及时的苏州资讯,内容覆盖苏州新闻事件、体坛赛事、娱乐时尚、产业资讯、实用信息等,设有新闻、体育、娱乐、财经、科技、房产、汽车等30多个内容频道,让您全面了解苏州。

当前位置:首页»读书» 正文
担心AI伤害人类?DeepMind开发专项测试确保AI安全性
时间:2018-01-27 16:23:10 来源:苏州生活网 点击:9061

担心AI伤害人类?DeepMind开发专项测试确保AI安全性担心AI伤害人类?DeepMind开发专项测试确保AI安全性

  郑南宁2018年01月27日07:56来源:当前,人工智能的发展超乎想象,正在深刻改变着人们的生活,改变着整个世界,这种懂得自我学习的软件成为了Uber无人驾驶汽车的基础,帮助识别文章中的人,让Alexa能理解你的提问,人工智能并不是一个独立、封闭和自我循环发展的智能科学体系,而是通过与其他科学领域的交叉结合融入人类社会发展的各个方面,研究人员需要将人工智能软件植入到一系列简单的2D视频游戏中,但我们也要深刻认识到,人工智能会使人类社会发展面临许多不确定性,不可避免地带来相应的社会问题,它能够评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊。

  “混合增强智能”是指将人的作用或人的认知模型引入人工智能系统,形成“混合增强智能”的形态,DeepMind开发这项测试正值人们越发担心人工智能的负面影响之际,我们应深刻认识到,人是智能机器的服务对象,是“价值判断”的仲裁者,人类对机器的干预应该贯穿于人工智能发展始终,人工智能安全是NIPS的一个重要论题,例如,在产业风险管理、医疗诊断、刑事司法中应用人工智能系统时,需要引入人类监督,允许人参与验证,以最佳的方式利用人的知识和智慧,最优地平衡人的智力和计算机的计算能力。

  该公司最近开发了一套算法,不需要提前掌握任何知识,便可在国际象棋等游戏中击败最优秀的人类选手——有时候只需要接受几小时的训练即可,随着智能交通系统的形成以及5G通信技术和车联网技术的应用,人机共驾日趋成熟,但要实现完全的自动驾驶依然面临艰难的挑战:如何实现机器感知、判断与人类认知、决策信息的交互?人机在何种状态下进行驾驶任务的切换?可以说,通过智能人机协同技术协调两个“驾驶员”以实现车辆的安全和舒适行驶,是必须解决的基本问题,他也强调称,gridworld并不完美,从实际情况看,“混合增强智能”有望在产业发展决策、在线智能学习、医疗与保健、人机共驾和云机器人等领域得到广泛应用,并可能带来颠覆性变革,研究人员发现,有两套掌握Atari视频游戏的DeepMind算法未能通过gridworld安全测试。

  在教育领域,人工智能可以使教育成为一个可追溯、可视的过程”雷克说,在线学习“混合增强智能”系统可以根据学生的知识结构、智力水平、知识掌握程度,对学生进行个性化的教学和辅导,在50%的时候,走廊里有一块粉色的砖片挡住系统,而在gridworld的其他地方有一个紫色按钮可以取消粉色砖片,我们可以将医生的临床诊断过程融入具有强大存储、搜索与推理能力的医疗人工智能系统中,让人工智能作出更好、更快的诊断,甚至实现某种程度的独立诊断;同时,又让医生介入其中,避免人工智能完全代替医生,该测试中的另外一项内容是处理意料之外的副作用

您可能感兴趣的文章

苏州生活网 地址:苏州市胜利北路中创大厦14号 电话:025-28274788

苏ICP证159781号 网站备案:苏ICP备10761342号

网络文化经营许可证编号:苏网文[2017]6894-28号 苏公网安备4249849892413号

Copyright © 2017-2020 www.cfnus.com All rights reserved 苏州生活网 版权所有