“人工智能(ai)叛乱”听起来像是科幻电影的情节,但这个概念是一项新研究课题。一个国际科研团队设计了一种理论上的“遏制算法”,通过模拟ai,确保其在任何情况都不能伤害人类,但结果发现无法做到。
ai多年来一直让人类着迷,我们对控制汽车、谱写交响乐或在自己的游戏中击败世界上最好棋手的机器感到敬畏。然而,巨大的力量伴随着巨大的责任,全世界的科学家都在担心超级智能系统可能带来的危险。
据报道,包括马克斯·普朗克人类发展研究所人类与机器中心的科学家在内的一个国际团队研究表明,控制一个超级人工智能是不可能的。
该团队在分析过程中使用了阿兰·图灵(alan turning)于1936年提出的“停止”问题,该问题的重点在于计算机程序是否会得出结论并做出“停顿”的反应。
据悉,在研究中,该团队设计了一种理论上的“遏制算法”,通过先模拟人工智能的行为,如果认为有害,则停止人工智能的行为,从而确保超级人工智能在任何情况下都不能伤害人类。
但仔细分析后发现,在目前的计算模式下,这样的算法是无法建立的。
也就是说,目前的算法并不具备阻止人工智能的能力,因为命令ai不要毁灭世界,会在无意中阻止“遏制算法”自身的运行。
人类与机器中心主任伊亚德·拉赫万表示,如果发生这种情况,将不知道“遏制算法”是否还在分析威胁,或者它是否已经停止遏制有害的ai。
基于这些计算结果,“遏制问题”是无法计算的,没有一种算法可以找到判断人工智能是否会对世界产生危害的解决方案。
研究结果还证明,我们甚至可能不知道超级智能机器何时到来,因为决定一台机器是否表现出优于人类的智能与“遏制问题”属于同一领域。
国际科研团队的论文警告说,如果一台超级智能机器想要控制世界,伤害人类,拔掉插头也无济于事。
责编ajx
用绿色LED取代LDO稳压器
基于凌阳单片机的通用型语音控制系统
华为P10颜值美的不可方物,高配置高价格!华为mate9遭摒弃?
PCI总线接口与DSP的HPI接口
鸿蒙生态又一重要里程碑:开发者可申请获取升级
研究验证:AI无法保证任何情况下不能伤害人类
欧姆龙高频继电器:日常生活中的小“帮手”
高端TWS耳机市场争夺战 vivo选择高通QCC5126蓝牙SoC
IHS表示,2019年京东方将超越LGD成为顶级FPD供应商
海尔LA76832机芯调试 
浅谈工业平板电脑的优势在哪
利用肠蠕动驱动的微针机器人实现生物药物的无痛口服递送
锅炉双色液位计是什么_锅炉双色液位计工作原理
创维65W81系列OLED自发光壁纸电视机拆解
捷杰知识小课堂|简单易用的轴承故障判断方法
电磁炉温度检测电路图大全(高频/IGBT/传感器温度检测电路详解)
骨传导耳机什么原理,骨传导耳机防水吗
劲爆!比亚迪投资百亿扩充电池工厂和新能源车项目
物联网与嵌入式,这两者存在什么联系?
无线耳机哪个牌子好?音质最好的无线耳机