NIPS 2017倒计时一周,我们为你整理了这九个不容错过的好内容

 

高山仰止,景行行止。...

整理:Tom R


下周人工智能界备受瞩目的机器学习盛会——NIPS 2017就要开幕啦,来自世界范围内优秀的科学家、研究人员和从业者都将汇聚一堂,相互切磋工作,共商人工智能的未来发展。这其中的Tutorials是十分引人注目的部分,不但会为我们呈现某个领域的发展进程和前沿研究方向,还能为之后的研究带来启发。

在将门小分队出发去和大家见面前,不如先一起和我们来预览下今年的NIPS Tutorials都有哪些不能错过的内容吧!记住他们的样子哟,说不定会在现场偶遇呢~
1
Reinforcement Learning with People


时间:周一 8:00-10:15 AM

地点:Hall C

演讲人:Emma Brunskill



近年来强化学习领域有着突飞猛进的发展,特别是在游戏和机器人领域的进步显得尤为突出。然而最大的影响来自于强化学习系统与人类的交互。这一教程将要介绍强化学习在人类协助下的一系列研究工作,以及实现这个过程的框架和途径:

  • 在人的协助下实现以人类为中心的强化学习应用;
  • 强化学习中的一些前沿观点;


Emma Brunskill是斯坦福计算机系的助理教授(层就职于CMU计算机学院助理教授),主要致力于提升人类在人机交互的机器学习中的强大潜能。演她希望能为听众展示出目前以人为中心的强化学习领域所面临的挑战,并使观众理解这一领域中的一些算法和实现,并熟悉一些(除了游戏和机器人外)还能够受益于强化学习的领域。

这里是她的主页信息:http://www.cs.cmu.edu/~ebrun/

她曾于2015年秋开设“日常生活中的强化学习”课程,下面链接可以找到相应的课程和slides:http://www.cs.cmu.edu/~ebrun/15889e/schedule.html
2
深入浅出最优化传输


时间:周一 8:00-10:15 AM

地点:Grand Ballroom

主讲人:Marco Cuturi & Justin M Solomon





最优化传输理论(Optimal transport (OT))对于概率的测量是一个十分有力而且灵活的武器,无论是离散还是连续问题包括点云、直方图、数据集、参数化以及生成模型都有很好的效果。自十八世纪提出以后,这一理论逐渐发展并取得了诺贝尔奖(Koopmans and Kantorovich)和菲尔兹奖(Cédric Villani)。

近年来OT理论逐渐进入到机器学习领域,可以处理一系列充满挑战的问题,包括维度减约问题、结构化预测直方图输出问题,以及在高度退化的高维问题中进行类似GANs的生成模型估计问题。尽管最近在机器学习方面取得了一系列进展面对,但由于数学的公式化使得这一领域的研究还存在很多的挑战。这一教程将介绍一系列OT关键理论、计算、算法那和实操,以便机器学习领域能够更好的应用这一理论。

由于这一问题在机器学习领域还十分前沿,并且对数学的要求很强,这次的两位主讲人都有很强的数学背景。

其中Marco Cuturi是巴黎萨克雷大学的统计学教授,研究领域包括机器学习、最优化传输、非参数统计(正定核方法),时序过程和协整关系等,他的个人主页:http://marcocuturi.net/。同时他还在京都大学和普林斯顿大学开设了课程。

Justin Solomon是MIT的CSAIL助理教授,领导几何数据处理团队进行几何数据问题的处理、研究分析,并开设了一系列图形学和几何学的相关课程,见个人主页:

https://people.csail.mit.edu/jsolomon/#about

以及最优化传输的一些相关介绍:

https://mp.weixin.qq.com/s/mT1Uz5i1XlqWCDxJlR927Q

https://www.zhihu.com/question/55198447

https://arxiv.org/pdf/1009.3856.pdf
3
深度学习:实践与趋势


时间:周一 8:00-10:15

地点:Hall A

主讲人:Nando de Freitas & Scott Reed & Oriol Vinyals





深度学习在近年来成为了一个在每个领域都广泛应用的基础工具箱,从实验室到工业场景再到消费品都有它的身影。这一教程的目的在于为刚刚进入这一领域的新人提供深度学习全景的了解,包含最近的前沿模型以及在不同数据形态(图像、视频、音频、序列和图形等)上的应用,以及如何在一些复杂的问题上(学会学习、生成分子等任务)应用深度学习的能力。

Nando de Freitas是牛津大学的计算机教授,同时在DeepMind作为领导研究院进行人工智能的相关工作,研究主要集中在深度学习、迁移学习、抽象、强化学习以及多主体研究,并应用于机器人和各种不同的数据形式上。他曾在牛津大学开设机器学习课程,他的个人主页:

http://www.cs.ox.ac.uk/people/nando.defreitas/

Scott Reed目前就职于DeepMind,主要研究方向集中于表象学习和深度学习,多尺度物体检测、多模式学习等方面,同时致力于自动表象生成的泛华神经网络结构研究。他的个人主页:

http://www.scottreed.info/

Oriol Vinyals曾就职于谷歌大脑,目前作为研究科学家参与DeepMind的研究工作,主要研究方向在算法那理论、分布式系统和并行计算、机器学习、感知、NPL翻译等等。他的个人主页:

https://research.google.com/pubs/OriolVinyals.html
4
统计相关性人工智能:逻辑、概率和计算


时间:周一 10:45 -13:00

地点:Hall C

主讲人:Luc De Raedt & David Poole & Kristian Kersting & Sriraam Natarajan





这一教程主要为了介绍统计相关性人工智能的基础,并介绍与之相关的一系列逻辑、概率、学习以及他们之前的组合作为理解的基础。谓词逻辑和概率理论作为命题逻辑的颜色,前者通过增加关系、个体和量化变量实现,后者则测量一系列可能的词汇和条件问题。当逻辑和概率在人工智能中被独立的研究和实现时,它们彼此并不冲突并且还协同作用。这也解释了最近二五年来结合第一性逻辑和概率的而研究,演变成了现今被称为统计相关人工智能(Statistical Relational Artificial Intelligence (StarAI))的领域。

统计相关智能由相关性和概率结构构成了这一领域的基石。在关系模型的基础上,StarAI在推理、优化、学习和多变量最优化上应用,并在机器学习、约束满足、概率推理等AI方面展开研究。这一教程的目的是给初学者介绍相关的背景知识并克服入门时多学科交叉带来的挑战。

四位主讲人是这一领域的牛人,曾合著《统计相关性人工智能》一书,是这一领域的经典文献。

http://trove.nla.gov.au/work/211599166?q&versionId=232375729+244934951

Luc De Raedt就职于比利时鲁汶大学的计算机系,主要研究方向是人工智能、机器学习和数据挖掘,同时致力于概率逻辑学习的研究。个人主页:

https://people.cs.kuleuven.be/~luc.deraedt/

David Poole是不列颠哥伦比亚的计算机系教授,主要研究方向集中于人工智能、知识表示、不确定性下的推理、计算逻辑学以及推理决策等。他还是两本计算机领域著名书籍的作者之一:《计算智能》和《人工智能:计算Agent基础》。

个人主页:https://www.cs.ubc.ca/~poole/

Kristian Kersting是德国多特蒙德大学计算机系助理教授,主要研究方向在机器学习、数据挖掘和统计相关人工智能,并应用于医疗、作物表现型和交通、人群等,出版了一系列专著。

个人主页:http://www.ml.informatik.tu-darmstadt.de/

Sriraam Natarajan是印第安纳大学的助理教授,主要研究方向在大规模、结构化和不确定的领域进行学习理论和推理,并应用在生物医学问题上。

个人主页:http://homes.soic.indiana.edu/natarasr/research.html
5
机器学习的公平性


时间:周一 10:45-13:00

地点:Grand Ballroom

主讲人:Solon Barocas & Moritz Hardt





近年来公平性问题在机器学习凸显出来,人们发现模型可能会出现歧视的偏见、长期的不平等以及对历史弱势群体的劣势表现。人们已经意识到这一问题并着手描述和解决。这一教程将为听众展示这一领域的最新进展,并从统计、因果、计量等三个方面展开。每个方面都从不同的角度来阐述问题。我们并不希望与通过一个技术框架来解决这一问题,而期待观众们能获得批判性的思维来检验机器学习中的公平性问题。

Solon Barocas是康奈尔大学的助理教授,主要研究方向在于信息技术政策、机器学习的公平性、责任和透明性以及隐私权等,并对于机器学习的伦理学、对人类生活的影响有深入的研究。

个人主页:http://infosci.cornell.edu/faculty/solon-barocas

Moritz Hardt是加州大学伯克利分校的助理教授,致力于建立一套理论和工具使得机器学习在科学和工业上的应用变得更加可靠、透明和有效。同时他也是FATML(https://www.fatml.org/)的联合创始人,致力于机器学习的公平、责任、透明。

个人主页:http://www.mrtz.org/
6
基于高斯过程的深度概率模型


时间: 周一 10:45—13:00

地点:Hall A

演讲人: Neil D Lawrence



频率派和概率派一直是机器学习的两大分支。神经网络和高斯过程是其中的两个重要的代表。神经网络模型的算法很简单但是数学上很复杂,而高斯过程模型的数学很简单但算法却十分复杂。这一教程主要讲述深度高斯模型的建立。利用高速过程需要我们利用数学上的简单但客服算法上的复杂。教程将回顾高斯过程并着重讲解这一过程中的算法近似以解决面临的问题:变分方法。随后将探索应用实例不确定性量化,并以开放问题结束。

Neil D Lawrence目前就职于英国谢菲尔德大学,是高斯过程研究的棋手之一。多次在全球范围内举办过高斯过程的冬夏令营,并领导团队开发了多个高斯过程工具包。

他的个人主页和代码,同时还包含一系列教程:

http://sheffieldml.github.io/

http://inverseprobability.com
7
利用概率程序、程序归纳和深度学习进行智能的工程和逆向工程


Engineering and Reverse-Engineering Intelligence Using Probabilistic Programs, Program Induction, and Deep Learning

时间: 14:30—16:45

地点: Hall  C

主讲人:Josh Tenenbaum & Vikash K Mansinghka



近年来在计算机视觉、自然语言处理和其他人工智能的相关领域复杂的模式识别方法——特别是深度神经网络取得了巨大的成功,但人类的智能却不仅仅是模式识别那么简单。人类对于世界的理解基于一系列的认知和建模能力,这使得我们可以再模糊的情形下决策、解释和理解我们看到的,拥有想象,并解决和规划使之变成现实,建立新模型进一步了解世界。

在这个教程中,我们将会谈到将人类这些惊人的智慧进行逆向工程,使得机器更加聪明或者更像人类般运行思考。将介绍概率程序的基本概念和技术、包括推理编程和规划归纳,并结合深度学习和现代游戏引擎来捕捉日常智慧的方方面面。教程将从一下几个方面展开:

  • 从算法上定义概率程序并通过现代游戏引擎来进行表示;
  • 通过为系统建立高阶推理的公式化模型,建立一个可以从单一样本中学习概念的程序学习程序;
  • 建立大规模、通用、推理高效、模型发现并且对于终端用户易用灵活的概率程序系统是可能的,介绍了概率编程语言PPL,将为成为机器人、人机交互和科研的有力工具。


Josh Tenenbaum是MIT计算认知科学研究团队的主任,是这一领域领导者之一。主要致力于探索人类的认知能力,研究兴趣在于人类学系和认知推理,期望从认知科学和计算机科学两个方面共同促进互相提高。曾在科学上发表封面文章Human-level concept learning through probabilistic program induction。

个人主页:http://cocosci.mit.edu/josh

Vikash K Mansinghka作为博士后研究院就职于MIT 的CSAIL,主要致力与建立概率计算系统,并从数据中探索不确定性的知识,推导概率原因、进行预测标定和有效的选择行为。同时还研究相关的计算原理和分析手段。他同时还领导着MIT的概率计算项目:

http://probcomp.org/

个人主页:https://industry.datascience.columbia.edu/profile/vikash-mansinghka
8
差分隐私机器学习:理论、算法和应用


时间:周一 14:30--16:45

地点: GrandBallroom

演讲人:Kamalika Chaudhuri & Anand D Sarwat





差分隐私事实上作为一个标注的隐私度量工具来衡量在敏感数据上的计算表现和结果的传播。算法保证差分隐私具有随机性,而这一随机性会导致性能的损失和效果。随着数据的增加,管理隐私效果的权衡变得容易了。很多机器学习算法可以在恰当地引入随机性(例如计算中的噪声)后实现查分隐私。这一教程主要介绍差分隐私的基本框架,保护隐私的关键机制以及如何为当代的机器学习工具(凸优化、贝叶斯方法和深度学习)找到合适的差分隐私近似方法。

Kamalika Chaudhuri是加州大学圣迭戈分校的助理教授,主要研究内容在于机器学习中的隐私保护问题和非监督学习。在她的主页上有一系列和隐私保护相关的研究内容:

http://cseweb.ucsd.edu/~kamalika/

Anand D. Sarwate是新泽西罗格斯大学电子和计算机工程系的助理教授,主要研究兴趣在于信息理论、机器学习和信号处理,以及在分布式系统、隐私和安全以及生物医学研究上的应用。

个人主页:http://www.ece.rutgers.edu/~asarwate
9
在图和流形上的几何深度学习
 

时间:14:30--16:45

地点: Hall A

主讲人:Arthur Szlam & Xavier Bresson & Yann LeCun



在过去的几年里深度学习在从计算机视觉到语音识别的广泛领域里都取得了前所未有的成就,但到目前为止我们研究的问题还集中于欧式结合的数据上,但很多重要的问题却需要在非欧数据上进行研究和处理,例如图和流形问题。这类型的非欧几何数据日益变得重要起来,无论实在计算机图形学还是三维视觉中,还是在传感器网络、新药研发、生物医学、推荐系统以及网络应用方面都有重要的意义。这些领域采用深度学习的研究方法显著的落后于机器学习的主流应用,主要是由于非欧几何对象的本质使得深度学习的一些基本操作在其中很难得到应用。

这一教程的目的在于介绍几何深度学习在图和流形上的应用,并展示目前对于这类问题存在的解决方案和应用,同时也指明了这其中存在的问题和今后的研究方向。

Arthur Szlam是facebook AI研究院的科学家,主要研究方向在机器学习以及图和数据中的谐分析。

个人主页:https://research.fb.com/people/szlam-arthur/

Xavier Bresson 是南洋理工大学数据科学与AI中心的助理教授,目前主要致力于研究稀疏数据和谱图理论来设计适应大数据科学的新型算法。在NYU开设了人工智能和数据科学的课程。

个人主页:http://www.ntu.edu.sg/home/xbresson/index.html

以及图卷积网络的实现:https://github.com/xbresson/graph_convnets_pytorch

Yann LeCun:大家都知道是FAIR的领导人,纽约大学数据科学中心主任,三(四)巨头之一。大家都知道,在博物馆里都被认出来 :)

个人主页:http://yann.lecun.com/
-END-
欢迎加入将门技术社群!


现已涵盖CV、机器人、NLP、ML、IoT等多个当下火热的技术话题。我们每周邀请来自产学研的优秀技术人进行线上分享,目前群里已汇聚数千位上述领域的技术从业者。

入群方式>>关注“将门创投”(id:thejiangmen)微信公众号,在后台回复关键词“技术社群”,提交入群申请表。通过审核后,我们会在第一时间发出邀请。
点击右上角,把文章分享到朋友圈



将门创投

让创新获得认可!

微信:thejiangmen

service@thejiangmen.com


    关注 将门创投


微信扫一扫关注公众号

0 个评论

要回复文章请先登录注册