图灵奖得主：人类不得不面对人工智能被滥用的现实
从深度学习的寒冬走入爆发期，今年三位图灵奖得主跋涉过了数十年岁月。
当图灵奖把荣耀颁予深度学习，奠基人之一、加拿大计算机科学家 yoshua bengio 却日渐感受到滥用 ai 的危险，比如威权政府的监控和无人机杀手。在三位深度学习奠基人之中，唯有 bengio 全职留在学界。他在加拿大蒙特利尔大学任教，并带领由 google 资助的蒙特利尔算法学习人工智能实验室 (mila)。
图1：图灵奖获得者，深度学习奠基人之一、加拿大计算机科学家 yoshua bengio。
bengio 认为，在军事实验室、安全组织、为政府或警察提供服务的私营公司中，人工智能正在被滥用。技术本无善恶，但日渐强大的人工智能如同一柄双刃剑，终将同时拥有推动科学进步和破坏人类社会的力量。
因此，2018 年 12 月，在人工智能和机器学习的盛会 neurips 上，bengio 提出了人工智能的一系列道德准则，被称为《蒙特利尔宣言》。
最近，这位深度学习奠基人与《nature》（《自然》）进行了一场对话，谈及人工智能的方方面面，bengio 也重申了滥用人工智能的危险和应对措施。或许这位在人工智能方面的先行者，会启发我们有一些不一样的思考。
《nature》：你是否看到很多公司或者国家不负责任地使用 ai？
yoshua bengio：已经有很多这样的事情，而且可能会有更多。所以我们必须在坏事发生之前警醒世人。许多最令人担忧的事情并非在光天化日之下发生。它发生在军事实验室、安全组织、为政府或警察提供服务的私营公司中。
《nature》：能举一些例子吗？
yoshua bengio：无人机杀手很让人担忧。这既有道德问题，也有安全问题。另一个例子是监控。你可以说它具有潜在的积极作用。但滥用的风险，特别就威权政府而言，是非常真实存在的。从本质上讲，人工智能是一种工具，可以被掌权者用来巩固权力，并且加强权力。另一个问题是，人工智能可以放大歧视和偏见，例如性别歧视或种族歧视。因为用来训练 ai 的数据中就存在偏见，这受到人为影响。
《nature》：什么使蒙特利尔宣言与类似举措有所不同？
yoshua bengio：我认为这个宣言最先纳入了广泛的群体，不局限于人工智能研究人员，而是广泛引入社会科学、人文学科方面的学者，乃至公众，并且是以深度参与的方式。这带来了变化：由于与专家和公众进行讨论，我们将原则从 7 条改为 10 条。组织可以遵循这些原则。
《nature》：什么是最适合人工智能道德讨论的平台？
yoshua bengio：我们正试图在蒙特利尔建立能够实现这个目标的组织：人工智能和数字技术社会影响的国际观察站（the international observatory on the societal impacts of artificial intelligence and digital technologies）。它应该纳入以下所有行动者：政府，因为他们是可以采取行动的主体；民间-社会专家，既有人工智能技术专家，又有社会科学、医疗保健和政治科学专家；以及正在制造这些产品的公司。
但我们必须谨慎行事。因为当然，公司可能会把规则向他们的最低水平压低。
《nature》：你是否认为这一行动会推动出台人工智能的政府或国际法规？
yoshua bengio：是。自我监管不会起作用。你认为自愿征税有效吗？它没有。与不遵守道德准则的公司相比，遵守道德准则的公司反而将处于不利地位。这就像开车一样。无论是左侧还是右侧，每个人都需要以同样的方式驾驶；否则，我们就会有麻烦。
《nature》：你曾表达担忧公司从学术界偷走了人才。这还是个问题吗？
yoshua bengio：这还在继续。但也有一些好事发生。我们在蒙特利尔取得了成功，因为人工智能的生态不断发展，并且出现了一种人才逆向流动。人们从境外来到加拿大从事人工智能研究。
蒙特利尔正在发生另一件事，我认为世界其他地方也有这样的情况。在业界工作的学术研究人员，正在承担兼职教师的角色，他们辅导或帮助辅导大学离的研究生。mila 就有这样的情况。
我们也在努力培养学生。我们在蒙特利尔的机器学习教授人数翻了一番。这部分要归功于加拿大政府的人工智能投资策略。
《nature》：你认为欧洲在人工智能方面落后于中国和美国吗？
yoshua bengio：没错。但我不认为欧洲应该接受这一点。欧洲有巨大的潜力成为领导者。欧洲有优秀的大学。事实上，我们在 mila 的许多学生来自欧洲。欧洲还有一个建立不久但是充满活力的初创公司技术社群，分布在几个地方。欧洲政府开始意识到人工智能的重要性。法国政府可能是第一个朝这个方向迈出重要一步的欧洲政府。
《nature》：人工智能的下一件大事是什么？
yoshua bengio：深度学习。目前深度学习在感知方面取得了巨大进步，但它在能够理解高等级表征的系统方面，尚未有所突破——就是那些人类在语言中使用的概念。人类能够使用这些高级概念，进行有力的归纳。甚至婴儿都能做到这一点，但机器学习却做的非常糟糕。
我们有能力推断数据中实际没有发生的东西。例如，我们在生成式对抗网络方面取得了一些进展（这种技术是设置一个生成式网络与图像识别网络竞争，以帮助二者改善表现）。但人类比机器要出色得多，我猜测，重要因素之一是人类对因果关系的理解。
对话内容来源于《nature》网站。
APS-C画幅口袋相机富士XF10评测 无论是细节表现还是控噪能力都可圈可点
区块链抵押借贷平台开发,数字资产P2P抵押借贷系统搭建
简单的说明一下机器在线检测缺陷的难题
生活秩序逐步重建 移动办公带来数据存储新热潮
新能源电动汽车品牌有哪些_新能源电动汽车品牌排行版
图灵奖得主：人类不得不面对人工智能被滥用的现实
2019年全球可穿戴设备的出货量情况分析
生物毒性实验室仪器如何选择
研讯科技——工控机配置，嵌入式工控机箱内部结构分析
OPPOReno10倍变焦版高清图赏
太阳能气象站的应用、特点及功能
利用MAX2180 LNA设计AM/FM有源天线LNA方案
当信号源的幅度过大，在两级放大器的输出端分别会出现什么情况？
AT＆T和移动行业正在敦促FCC将5G排除在数据收集范围外
轻松打通用友、金蝶ERP系统，摆脱手工录入导出，自动数据分析
非常非常实用的手机技巧 关键时刻能救命！
PC卡外挂光驱(笔记本每日一贴)
基于蓝牙mesh全栈解决方案实现无线智能照明平台
负压净化装置的功能与工作原理
不怕高通！德仪：OMAP应用处理器事业会继续做下去
当图灵奖把荣耀颁予深度学习，奠基人之一、加拿大计算机科学家 yoshua bengio 却日渐感受到滥用 ai 的危险，比如威权政府的监控和无人机杀手。在三位深度学习奠基人之中，唯有 bengio 全职留在学界。他在加拿大蒙特利尔大学任教，并带领由 google 资助的蒙特利尔算法学习人工智能实验室 (mila)。
图1：图灵奖获得者，深度学习奠基人之一、加拿大计算机科学家 yoshua bengio。
bengio 认为，在军事实验室、安全组织、为政府或警察提供服务的私营公司中，人工智能正在被滥用。技术本无善恶，但日渐强大的人工智能如同一柄双刃剑，终将同时拥有推动科学进步和破坏人类社会的力量。
因此，2018 年 12 月，在人工智能和机器学习的盛会 neurips 上，bengio 提出了人工智能的一系列道德准则，被称为《蒙特利尔宣言》。
最近，这位深度学习奠基人与《nature》（《自然》）进行了一场对话，谈及人工智能的方方面面，bengio 也重申了滥用人工智能的危险和应对措施。或许这位在人工智能方面的先行者，会启发我们有一些不一样的思考。
《nature》：你是否看到很多公司或者国家不负责任地使用 ai？
yoshua bengio：已经有很多这样的事情，而且可能会有更多。所以我们必须在坏事发生之前警醒世人。许多最令人担忧的事情并非在光天化日之下发生。它发生在军事实验室、安全组织、为政府或警察提供服务的私营公司中。
《nature》：能举一些例子吗？
yoshua bengio：无人机杀手很让人担忧。这既有道德问题，也有安全问题。另一个例子是监控。你可以说它具有潜在的积极作用。但滥用的风险，特别就威权政府而言，是非常真实存在的。从本质上讲，人工智能是一种工具，可以被掌权者用来巩固权力，并且加强权力。另一个问题是，人工智能可以放大歧视和偏见，例如性别歧视或种族歧视。因为用来训练 ai 的数据中就存在偏见，这受到人为影响。
《nature》：什么使蒙特利尔宣言与类似举措有所不同？
yoshua bengio：我认为这个宣言最先纳入了广泛的群体，不局限于人工智能研究人员，而是广泛引入社会科学、人文学科方面的学者，乃至公众，并且是以深度参与的方式。这带来了变化：由于与专家和公众进行讨论，我们将原则从 7 条改为 10 条。组织可以遵循这些原则。
《nature》：什么是最适合人工智能道德讨论的平台？
yoshua bengio：我们正试图在蒙特利尔建立能够实现这个目标的组织：人工智能和数字技术社会影响的国际观察站（the international observatory on the societal impacts of artificial intelligence and digital technologies）。它应该纳入以下所有行动者：政府，因为他们是可以采取行动的主体；民间-社会专家，既有人工智能技术专家，又有社会科学、医疗保健和政治科学专家；以及正在制造这些产品的公司。
但我们必须谨慎行事。因为当然，公司可能会把规则向他们的最低水平压低。
《nature》：你是否认为这一行动会推动出台人工智能的政府或国际法规？
yoshua bengio：是。自我监管不会起作用。你认为自愿征税有效吗？它没有。与不遵守道德准则的公司相比，遵守道德准则的公司反而将处于不利地位。这就像开车一样。无论是左侧还是右侧，每个人都需要以同样的方式驾驶；否则，我们就会有麻烦。
《nature》：你曾表达担忧公司从学术界偷走了人才。这还是个问题吗？
yoshua bengio：这还在继续。但也有一些好事发生。我们在蒙特利尔取得了成功，因为人工智能的生态不断发展，并且出现了一种人才逆向流动。人们从境外来到加拿大从事人工智能研究。
蒙特利尔正在发生另一件事，我认为世界其他地方也有这样的情况。在业界工作的学术研究人员，正在承担兼职教师的角色，他们辅导或帮助辅导大学离的研究生。mila 就有这样的情况。
我们也在努力培养学生。我们在蒙特利尔的机器学习教授人数翻了一番。这部分要归功于加拿大政府的人工智能投资策略。
《nature》：你认为欧洲在人工智能方面落后于中国和美国吗？
yoshua bengio：没错。但我不认为欧洲应该接受这一点。欧洲有巨大的潜力成为领导者。欧洲有优秀的大学。事实上，我们在 mila 的许多学生来自欧洲。欧洲还有一个建立不久但是充满活力的初创公司技术社群，分布在几个地方。欧洲政府开始意识到人工智能的重要性。法国政府可能是第一个朝这个方向迈出重要一步的欧洲政府。
《nature》：人工智能的下一件大事是什么？
yoshua bengio：深度学习。目前深度学习在感知方面取得了巨大进步，但它在能够理解高等级表征的系统方面，尚未有所突破——就是那些人类在语言中使用的概念。人类能够使用这些高级概念，进行有力的归纳。甚至婴儿都能做到这一点，但机器学习却做的非常糟糕。
我们有能力推断数据中实际没有发生的东西。例如，我们在生成式对抗网络方面取得了一些进展（这种技术是设置一个生成式网络与图像识别网络竞争，以帮助二者改善表现）。但人类比机器要出色得多，我猜测，重要因素之一是人类对因果关系的理解。
对话内容来源于《nature》网站。
APS-C画幅口袋相机富士XF10评测 无论是细节表现还是控噪能力都可圈可点
区块链抵押借贷平台开发,数字资产P2P抵押借贷系统搭建
简单的说明一下机器在线检测缺陷的难题
生活秩序逐步重建 移动办公带来数据存储新热潮
新能源电动汽车品牌有哪些_新能源电动汽车品牌排行版
图灵奖得主：人类不得不面对人工智能被滥用的现实
2019年全球可穿戴设备的出货量情况分析
生物毒性实验室仪器如何选择
研讯科技——工控机配置，嵌入式工控机箱内部结构分析
OPPOReno10倍变焦版高清图赏
太阳能气象站的应用、特点及功能
利用MAX2180 LNA设计AM/FM有源天线LNA方案
当信号源的幅度过大，在两级放大器的输出端分别会出现什么情况？
AT＆T和移动行业正在敦促FCC将5G排除在数据收集范围外
轻松打通用友、金蝶ERP系统，摆脱手工录入导出，自动数据分析
非常非常实用的手机技巧 关键时刻能救命！
PC卡外挂光驱(笔记本每日一贴)
基于蓝牙mesh全栈解决方案实现无线智能照明平台
负压净化装置的功能与工作原理
不怕高通！德仪：OMAP应用处理器事业会继续做下去