Hinton：如何开发人工智能的好处，同时尽量减少失业和算法歧视等不利因素
《连线》杂志专访geoffrey hinton，关于ai自主武器、ai研究的挑战、思考大脑的运作方式如何启发人工神经网络等。hinton很确定，不会有ai寒冬，因为ai已经成为人们日常生活的一部分。
20世纪70年代初，来自英国的研究生geoffrey hinton开始构建简单的数学模型，来描述人脑神经元如何在视觉上理解世界。几十年来，人工神经网络一直被认为是一项不切实际的技术。但在2012年，hinton和他在多伦多大学的两名研究生利用人工神经网络将计算机识别图像中物体的准确度大幅提升。这三位研究人员一起创立了一家创业公司，仅仅6个月就被谷歌收购。从前鲜为人知的人工神经网络也开始成为硅谷的热门话题。
上周，在七国集团(g7)首次的人工智能会议上，《连线》杂志采访了hinton。来自世界主要工业化经济体的代表们在会上讨论了如何开发人工智能的好处，同时尽量减少失业和算法歧视等不利因素。
以下是经过编辑的采访实录：
《连线》：加拿大***justin trudeau在g7会议上表示，ai带来的道德挑战还需要做更多的努力。你怎么看?
geoff hinton：我一直担心致命的自主武器有可能被滥用。我认为应该有一个类似于《日内瓦公约》的条约来禁止自主武器，就像禁止化学武器一样。即使不是每个人都在上面签名，它的存在也会起到某种道德约束的作用。人们会看谁没有签名。
问：有4500多名你的谷歌同事联名签署了一封公开信，抗议一项谷歌与五角大楼的合同，涉及将机器学习应用于无人机图像。谷歌称这并非用于攻击性的用途。你在信上签名了吗?
hinton：作为一名谷歌的高管，我认为我不应该公开抱怨，所以我是私下抱怨。我没有在给[谷歌联合创始人]谢尔盖•布林(sergey brin)的信上签名。他说他对这件事也有点不高兴。所以他们后来没有继续深究。
问：谷歌的领导决定走完那项合同，但不续签合同。他们还发布了一系列使用人工智能的指导原则，其中包括承诺不将该技术用于武器。
hinton：我认为谷歌的决定是正确的。会有各种各样的事情需要云计算，很难知道在哪里画一条线，从某种意义上说，画线这件事情是相当任意的。我很高兴谷歌画出了这条线。这些原则在我看来很有意义。
问：人工智能在日常生活中也会引发伦理问题。例如，当软件被用于在社会服务或医疗保健中做决策时。我们应该注意什么?
hinton：我是让技术起作用方面的专家，但不是社会政策方面的专家。在这方面，我确实拥有相关技术专长的是，监管机构是否应该坚持要求技术人员解释你的ai系统是如何工作的。我认为那样的话，将是一场彻底的灾难。
对于现在的ai系统所做的大部分事情，人们无法解释它们是如何工作的。比如说，当你雇佣一个人的时候，这个决定是基于各种各样你可以量化的东西，然后是各种各样的直觉。人们不知道他们是怎么做到的。如果你让他们解释他们的决定，你是在强迫他们编一个故事。
神经网络也有类似的问题。当你训练一个神经网络时，它会学习十亿个数字，这些数字代表了它从训练数据中提取出来的知识。如果你输入一张图像，输出的是正确的决策，比如说，它会回答“这是不是一个行人”。但是如果你问“它为什么这么认为？”好吧，如果有任何简单的规则能判断一张图像是否包含行人，那么这个问题应该很久以前就已经解决了。
问：那么我们怎么知道，什么时候可以信任这些系统呢?
hinton：你应该根据它们的表现来规范它们。你要运行实验，看看这个系统是否有偏见，或者它与人类相比，做同样的事情杀死的人是否更少。对于自动驾驶汽车，我认为人们现在多少接受了这一点。即使你不太清楚自动驾驶汽车是如何做到这一切的，如果它的事故比人驾驶的汽车少得多，那它就是一件好事。我认为我们必须像对待人那样对待ai：你只需要看看它们表现如何，如果它们反复运行崩溃，那么就要说它们不够好。
问：你曾说过，思考大脑是如何工作的，启发了你对人工神经网络的研究。我们的大脑通过突触连接的神经元网络，从我们的感官中获取信息的。人工神经网络通过数学神经元网络提供数据，这些神经元由称为权重的连接连接起来。在上周发表的一篇论文中，你和几位合著者认为，我们应该做更多的工作来揭示大脑中运作的学习算法。为什么?
（注: 论文题为assessing the scalability of biologically-motivated deep learning algorithms and architectures，地址：https://arxiv.org/abs/1807.04587）
hinton：大脑解决的问题与我们大多数的神经网络非常不同。大脑大约有100万亿个突触。一般来说，人工神经网络的权重数量比大脑突触至少要小10000倍。大脑用很多很多的突触从几个片段中学到尽可能多的东西。当有很多情节或例子可以从中学习时，深度学习擅长利用神经元之间更少的连接来学习。我认为大脑不关心怎样把大量的知识压缩到几个连接中，它关心的是利用大量的连接快速提取知识。
问：我们怎样才能构建起更强大的机器学习系统呢?
hinton：我认为我们需要转向另一种计算机。幸运的是，我这里有一个。
（hinton把手伸进皮夹，拿出一块闪亮的大硅片。这是graphcore的一个原型，graphcore是一家英国初创公司，致力于开发一种新型处理器，为机器/深度学习算法提供动力。）
几乎所有我们运行神经网络的计算机系统，甚至是谷歌的特殊硬件，都使用ram(存储正在使用的程序)。从ram中提取神经网络的权重需要耗费大量的能量，这样处理器才能使用它。所以每个人都要确保一旦他们的软件获得了权重，就能多次使用它们。这是巨大的成本，因为你不能为每个训练样例改变所做事情。
问：最近对人工智能和机器学习的兴趣和投资激增，意味着用于研究的资金比以往任何时候都要多。该领域的快速发展是否也带来了新的挑战?
hinton：机器学习社区面临的一大挑战是，如果你想要在机器学习领域发表一篇论文，必须要有一个表，表上首行是各种不同的数据集，沿着左列是各种不同的方法，而且你的方法必须看起来是最好的。如果不是这样，就很难发表。我不认为这能鼓励人们去思考全新的想法。
现在，如果你提交的论文有一个全新的观点，它是没有机会被接受的，因为它会遇到一些不理解它的初级审稿人。或者你会遇到一位资深审稿人，他审稿的论文太多了，但第一次看不懂，认为这肯定是胡说八道。任何费脑子的东西都不会被接受。我认为这很糟糕。
尤其是在基础科学会议上，我们应该追求的是全新的想法。因为我们知道，从长远来看，一个全新的想法将比一个微小的改进产生更大的影响。罔顾了这一事实，我认为这是机器学习领域的一个主要缺点，这个领域资深的人不多，年轻人更多。
问：这会阻碍这一领域的发展吗?
hinton：只要再等几年，这种不平衡就会得到纠正。这是暂时的。现在公司都在忙于教育人们，大学也在忙着教育人们，大学最终会在这个领域雇佣更多的教授，它本身会自我纠正的。
问：一些学者警告说，当前的炒作可能会进入“人工智能的寒冬”，就像上世纪80年代那样，当时由于进展没有达到预期，投向ai的兴趣和资金都枯竭了。
hinton：不，不会有人工智能的寒冬，因为ai驱动着你的手机。在过去的人工智能寒冬，ai并不是人们日常生活的一部分。现在它已经是了。
PIC单片机与MCS-51单片机有什么区别
安超云参与编写的《中国多云管理平台发展洞察报告（2023）》正式发布！
vivo X21世界杯非凡版5月26日正式上市销售 定价为3698元
关于JVM的调优知识
XGBoost中无需手动编码的分类特征
Hinton：如何开发人工智能的好处，同时尽量减少失业和算法歧视等不利因素
如何鉴别有线电视电缆接头的优劣
“四跨”再升级，移远C-V2X 模组支持多款量产车型完成公开演示
安防产业的AIoT化正逐步深化 细分的新生业务被独立出来形成新的领域
开启AI算力芯时代
嵌入式数据库mSQL在Linux下的应用
跃然科技：首款跃然人工智能交易基金成立
威马汽车协同紫光、芯鑫强化车载芯片在汽车智能网联领域的深入应用
3D打印或将打破汽车设计常规 重新定义汽车设计
小米或于11月份推出电竞显示屏？
需要了解ubuntu下GTK+配置
11种深度学习框架影响力对比
做好PCB电路板接地的方法
浅谈电瓶修复技术，电池组是否存在着累计容差
新红旗历时7个月打造的全新智能工厂于18年12月落成，立志将概念变为现实
20世纪70年代初，来自英国的研究生geoffrey hinton开始构建简单的数学模型，来描述人脑神经元如何在视觉上理解世界。几十年来，人工神经网络一直被认为是一项不切实际的技术。但在2012年，hinton和他在多伦多大学的两名研究生利用人工神经网络将计算机识别图像中物体的准确度大幅提升。这三位研究人员一起创立了一家创业公司，仅仅6个月就被谷歌收购。从前鲜为人知的人工神经网络也开始成为硅谷的热门话题。
上周，在七国集团(g7)首次的人工智能会议上，《连线》杂志采访了hinton。来自世界主要工业化经济体的代表们在会上讨论了如何开发人工智能的好处，同时尽量减少失业和算法歧视等不利因素。
以下是经过编辑的采访实录：
《连线》：加拿大***justin trudeau在g7会议上表示，ai带来的道德挑战还需要做更多的努力。你怎么看?
geoff hinton：我一直担心致命的自主武器有可能被滥用。我认为应该有一个类似于《日内瓦公约》的条约来禁止自主武器，就像禁止化学武器一样。即使不是每个人都在上面签名，它的存在也会起到某种道德约束的作用。人们会看谁没有签名。
问：有4500多名你的谷歌同事联名签署了一封公开信，抗议一项谷歌与五角大楼的合同，涉及将机器学习应用于无人机图像。谷歌称这并非用于攻击性的用途。你在信上签名了吗?
hinton：作为一名谷歌的高管，我认为我不应该公开抱怨，所以我是私下抱怨。我没有在给[谷歌联合创始人]谢尔盖•布林(sergey brin)的信上签名。他说他对这件事也有点不高兴。所以他们后来没有继续深究。
问：谷歌的领导决定走完那项合同，但不续签合同。他们还发布了一系列使用人工智能的指导原则，其中包括承诺不将该技术用于武器。
hinton：我认为谷歌的决定是正确的。会有各种各样的事情需要云计算，很难知道在哪里画一条线，从某种意义上说，画线这件事情是相当任意的。我很高兴谷歌画出了这条线。这些原则在我看来很有意义。
问：人工智能在日常生活中也会引发伦理问题。例如，当软件被用于在社会服务或医疗保健中做决策时。我们应该注意什么?
hinton：我是让技术起作用方面的专家，但不是社会政策方面的专家。在这方面，我确实拥有相关技术专长的是，监管机构是否应该坚持要求技术人员解释你的ai系统是如何工作的。我认为那样的话，将是一场彻底的灾难。
对于现在的ai系统所做的大部分事情，人们无法解释它们是如何工作的。比如说，当你雇佣一个人的时候，这个决定是基于各种各样你可以量化的东西，然后是各种各样的直觉。人们不知道他们是怎么做到的。如果你让他们解释他们的决定，你是在强迫他们编一个故事。
神经网络也有类似的问题。当你训练一个神经网络时，它会学习十亿个数字，这些数字代表了它从训练数据中提取出来的知识。如果你输入一张图像，输出的是正确的决策，比如说，它会回答“这是不是一个行人”。但是如果你问“它为什么这么认为？”好吧，如果有任何简单的规则能判断一张图像是否包含行人，那么这个问题应该很久以前就已经解决了。
问：那么我们怎么知道，什么时候可以信任这些系统呢?
hinton：你应该根据它们的表现来规范它们。你要运行实验，看看这个系统是否有偏见，或者它与人类相比，做同样的事情杀死的人是否更少。对于自动驾驶汽车，我认为人们现在多少接受了这一点。即使你不太清楚自动驾驶汽车是如何做到这一切的，如果它的事故比人驾驶的汽车少得多，那它就是一件好事。我认为我们必须像对待人那样对待ai：你只需要看看它们表现如何，如果它们反复运行崩溃，那么就要说它们不够好。
问：你曾说过，思考大脑是如何工作的，启发了你对人工神经网络的研究。我们的大脑通过突触连接的神经元网络，从我们的感官中获取信息的。人工神经网络通过数学神经元网络提供数据，这些神经元由称为权重的连接连接起来。在上周发表的一篇论文中，你和几位合著者认为，我们应该做更多的工作来揭示大脑中运作的学习算法。为什么?
（注: 论文题为assessing the scalability of biologically-motivated deep learning algorithms and architectures，地址：https://arxiv.org/abs/1807.04587）
hinton：大脑解决的问题与我们大多数的神经网络非常不同。大脑大约有100万亿个突触。一般来说，人工神经网络的权重数量比大脑突触至少要小10000倍。大脑用很多很多的突触从几个片段中学到尽可能多的东西。当有很多情节或例子可以从中学习时，深度学习擅长利用神经元之间更少的连接来学习。我认为大脑不关心怎样把大量的知识压缩到几个连接中，它关心的是利用大量的连接快速提取知识。
问：我们怎样才能构建起更强大的机器学习系统呢?
hinton：我认为我们需要转向另一种计算机。幸运的是，我这里有一个。
（hinton把手伸进皮夹，拿出一块闪亮的大硅片。这是graphcore的一个原型，graphcore是一家英国初创公司，致力于开发一种新型处理器，为机器/深度学习算法提供动力。）
几乎所有我们运行神经网络的计算机系统，甚至是谷歌的特殊硬件，都使用ram(存储正在使用的程序)。从ram中提取神经网络的权重需要耗费大量的能量，这样处理器才能使用它。所以每个人都要确保一旦他们的软件获得了权重，就能多次使用它们。这是巨大的成本，因为你不能为每个训练样例改变所做事情。
问：最近对人工智能和机器学习的兴趣和投资激增，意味着用于研究的资金比以往任何时候都要多。该领域的快速发展是否也带来了新的挑战?
hinton：机器学习社区面临的一大挑战是，如果你想要在机器学习领域发表一篇论文，必须要有一个表，表上首行是各种不同的数据集，沿着左列是各种不同的方法，而且你的方法必须看起来是最好的。如果不是这样，就很难发表。我不认为这能鼓励人们去思考全新的想法。
现在，如果你提交的论文有一个全新的观点，它是没有机会被接受的，因为它会遇到一些不理解它的初级审稿人。或者你会遇到一位资深审稿人，他审稿的论文太多了，但第一次看不懂，认为这肯定是胡说八道。任何费脑子的东西都不会被接受。我认为这很糟糕。
尤其是在基础科学会议上，我们应该追求的是全新的想法。因为我们知道，从长远来看，一个全新的想法将比一个微小的改进产生更大的影响。罔顾了这一事实，我认为这是机器学习领域的一个主要缺点，这个领域资深的人不多，年轻人更多。
问：这会阻碍这一领域的发展吗?
hinton：只要再等几年，这种不平衡就会得到纠正。这是暂时的。现在公司都在忙于教育人们，大学也在忙着教育人们，大学最终会在这个领域雇佣更多的教授，它本身会自我纠正的。
问：一些学者警告说，当前的炒作可能会进入“人工智能的寒冬”，就像上世纪80年代那样，当时由于进展没有达到预期，投向ai的兴趣和资金都枯竭了。
hinton：不，不会有人工智能的寒冬，因为ai驱动着你的手机。在过去的人工智能寒冬，ai并不是人们日常生活的一部分。现在它已经是了。
PIC单片机与MCS-51单片机有什么区别
安超云参与编写的《中国多云管理平台发展洞察报告（2023）》正式发布！
vivo X21世界杯非凡版5月26日正式上市销售 定价为3698元
关于JVM的调优知识
XGBoost中无需手动编码的分类特征
Hinton：如何开发人工智能的好处，同时尽量减少失业和算法歧视等不利因素
如何鉴别有线电视电缆接头的优劣
“四跨”再升级，移远C-V2X 模组支持多款量产车型完成公开演示
安防产业的AIoT化正逐步深化 细分的新生业务被独立出来形成新的领域
开启AI算力芯时代
嵌入式数据库mSQL在Linux下的应用
跃然科技：首款跃然人工智能交易基金成立
威马汽车协同紫光、芯鑫强化车载芯片在汽车智能网联领域的深入应用
3D打印或将打破汽车设计常规 重新定义汽车设计
小米或于11月份推出电竞显示屏？
需要了解ubuntu下GTK+配置
11种深度学习框架影响力对比
做好PCB电路板接地的方法
浅谈电瓶修复技术，电池组是否存在着累计容差
新红旗历时7个月打造的全新智能工厂于18年12月落成，立志将概念变为现实