伯克利发布AI系统挑战报告，从系统、架构、安全和速度四方面提出新方向

促进AI的功能性、理解力、安全性和可靠性的发展。...

来源：Berkeley News

编译：Tom Ren

近日，伯克利大学的实时智能安全执行实验室（RISELab）发布了一份关于AI系统所面临的挑战的报告，主要着眼于目前在系统、架构、安全和速度这四个方面还可以提高的问题，并针对这些问题提出了一系列新的研究方向。

实验室主任Stoica表示，人类已经意识到AI是人类社会进步的强大动力，但依旧面临着许多巨大的挑战需要克服，包括系统工程、计算机架构和安全等方方面面，所以提出并理解这些挑战是十分重要的。这份报告在这一方向走出了坚实的一步，提出并讨论了一系列挑战，并给出了一系列相关的研究方向。这会给学术界和工业界都带来研究发展发现的启发和建议。

报告首先从AI 的发展现状开始，随后对数据安全、对抗欺骗、隐私、数据爆炸、动态环境适应以及与真实世界的交互和数据的可靠性等七个方面进行了阐述。

获取报告全文：请在“将门创投”微信公众号后台回复“伯克利”获取。

AI应用近年来已经开始进入主流商业化的进程，越来越多的AI应用正在不断涌现。在先进算法和巨量数据的驱动下，计算机硬件不断进步，这一技术也得到了更广泛的应用。如今AI已经在搜索引擎、高速交易以及众多电子商务中有了广泛的应用。同时在与物联网、生物技术、增强现实、机器人外科以及自动驾驶、金融服务、安防领域的结合中有了更蓬勃的生机和活力。作者希望这一报告可以启发技术研究人员们不断地推动AI的进步，促进AI的功能性、理解力、安全性和可靠性的发展。

安全

在报告中，安全作为一个AI面临的关键因素被提出。由于当今很多公司的AI应用都部署在公有云服务器中，没办法获取完全的控制权限，服务器有可能被恶意用户甚至是直接竞争对手所共享。

RISELab实验室的安全研究人员 Raluca Ada Popa认为解决这一问题有两种方式，要么将敏感数据进行加密处理，要么就将AI系统中的关键部分备份到独立的硬件上来保证安全的运行环境。

对抗攻击

由于AI系统的性能强烈的依赖于系统输入的数据，他们在新型的攻击下很可能会陷入崩溃。通过操纵特征引起网络误分类的对抗学习就是其中典型的例子。例如一个对抗样本可以欺骗自动驾驶系统将停车标志识别成让行标志。

实验室的AI安全专家 Dawn Song表示，需要一种新的机器学习模型和架构来鲁棒地处理训练和预测数据中的对抗样本，这是接下来需要进行的研究方向。

隐私

AI系统同样会广泛应用于类似个人助理的个性化系统中，但很多公司为了研发出性能更好的产品会破坏一部分的用户隐私，同时还会在公司之间共享数据已获得双赢的解决方案（类似于银行间共享数据来防止欺诈）。同时在一些时间优先度高的高度专业化领域中也同样存在同样的问题（例如自动驾驶和机器人外科等）。

海量数据

数以十亿计的设备每天在产生着海量的数据，如何处理这些数据成为了我们需要面对的一大挑战。知名的计算机架构专家 David Patterson表示，解决这一问题的一个可行方式是设计出安全的、针对AI的计算机来优化目前计算机所面临的海量任务。例如Google的TPU可以以15-30倍的速度来处理传统CPU，GPU处理的数据集，而能耗只有1/30-1/801。

动态AI

未来很多AI系统都喜欢部署在动态的环境中以适应连续的意外的变化。AI系统必须迅速的响应这些变化并连续平滑的与外界交互，同时也需要针对意外情况做好相应的准备。

AI领域的研究先驱Michael Jordan说：“强化学习为我们提供了一种可能的途径，但强化学习广泛应用的前提是需要研发出一套可以大规模扩展的系统架构”。

交互

AI与真实环境交互过程中面临着无法进行足够大样本数量的实验。为了解决这一问题，一个可能的方式是将AI系统与现实世界同步，它就可以利用模拟来预测真实世界中将要发生的状况。

实验室成员Ken Goldberg举了个例子，我们可以真实地模拟几百万次抓取策略的模拟来提高对传感器和控制误差的鲁棒性。

数据有效性

AI系统有时控制着至关重要的决策过程，而其中的误差有时候是人命关天的。AI系统的性能由数据决定，而完美的数据和精确的标记只存在与理想状态下，但真实数据充满了噪音和偏差。解决这一挑战的方法之一便是数据溯源。

RISE实验室的科学家 Joseph Gonzalez表示可以通过建立一个衔接输出变化与数据源中引起变化部分的系统来自动的判断数据集的可靠性。

希望这些挑战和随之而来的研究课题可以激发广大科研人员的灵感，解决问题克服挑战，不断释放AI技术的潜力造福社会。

-END-

欢迎加入将门技术社群！

现已涵盖CV、机器人、NLP、ML、IoT等多个当下火热的技术话题。我们每周邀请来自产学研的优秀技术人进行线上分享，目前群里已汇聚数千位上述领域的技术从业者。

入群方式>>关注“将门创投”（id:thejiangmen）微信公众号，在后台回复关键词“技术社群”，提交入群申请表。通过审核后，我们会在第一时间发出邀请。