十问OpenAI，马斯克人工智能的初心与方向

作者｜硅谷加先生

编辑｜小鱼

网址｜

ID｜Xtecher

2017年如火如荼的人工智能浪潮，没人能忽视OpenAI的存在。

这个由特斯拉CEO Elon Musk、linkedIn创始人Reid Hoffman、YC掌门人Sam Altman和PayPal创始人Peter Thiel于2015年底联合投资10亿美金创办的非营利性研究机构，在创办之初就本着“创造一个全新的人工智能实验室，不受任何机构或者任何人控制，一切研究成果属于全人类”的初心。

OpenAI旨在跻身地球上最强的人工智能研究团队之列，致力于进行非监督式学习和强化学习的研究。OpenAI的使命和长期目标是以最大限度地造福全人类的方式发展人工智能。

如今，OpenAI成果如何？它所进行的研究有没有背离原有的初衷？作为一个非盈利性AI研究机构，OpenAI未来将如何场景化落地？Xtecher抛出十个问题，从现在和未来的角度，与OpenAI的研究员、OpenAI Universe项目的完成者之一施天麟进行了深度交流。

OpenAI的研究员，OpenAI Universe项目的完成者之一施天麟

OpenAI，以未来为目标进行研究

Xtecher：目前OpenAI团队的大致规模是多大？核心成员主要来自哪里？

OpenAI：我们现在大概有50名研究人员，主要是各大学校博士，还有来自谷歌的10位左右的科学家。

Xtecher：OpenAI成立的愿景是什么？一般来讲与校企合作是比较常见的方式，但是为什么OpenAI要以非盈利的模式来推进人工智能研究呢？

OpenAI：大家都觉得因为谷歌在AI方面非常强势，它雇佣了很多研究者，做出很多有意思的事情。现在AI的研究越来越多的靠大量的计算和数据。谷歌有很多积累的数据，所以吸引了大量的AI方面的顶尖人才，像很多教授也加入了Google Brain和 DeepMind，像Geoff Hinton，Jeff Dean现在是谷歌里面做技术最强的那波人。

但谷歌是个私人企业，没人能保证它在未来不会做出非常危险的事情。所以Elon Musk和Sam Altman就想创造一个可以用AI和AI相抗衡的组织。OpenAI就这样诞生，我们希望把人工智能的技术以开源的形式进行研究。但是受限于人工智能发展对数据的需求，单纯的学术界已经无法满足未来的规划，所以OpenAI采取非盈利组织的形式进行发展。

Xtecher：OpenAI成立的时候，说要“以未来为目标进行研究，不用关心产品和技术盈利，”那什么是研究成果的考核标准呢？发表文章吗？

OpenAI：发表文章是一方面，OpenAI和一般的学术机构的不同是，一般学术机构可以有很多不同的方向，看到什么新问题，就会发表一篇论文。但是创始人Elon Musk认为，所有人都应该朝着一个方向去努力，因为这才是一个组织能力发挥到极致的地方。对于OpenAI来说，这个方向就是机器人。他希望把所有人的努力都聚集于此，在未来几年内集中力量去推动这方面的发展。

这是比较宏伟的目标，现在看很多机器人还非常初步，甚至很多还是非常基本的手动机械和控制逻辑。而OpenAI想通过深度学习的方法，将机器全部自动化，成为真正实现能自由行走、灵活操作的机器人。

OpenAI的两位联合创始人：

左：创业孵化器Y Combinator总裁山姆·奥特曼(Sam Altman)

右：特斯拉CEO埃隆·马斯克(Elon Musk)

Xtecher：你觉得以你对OpenAI和这个行业的了解，这样的机器人还要多久能实现商业化落地？

OpenAI：我觉得五年到十年左右，这也是我们为什么现在不关心商业化的原因，因为现在还太早，所以我把更多的时间放在fundamental research（基础研究），把控制机器人最基本的框架和算法先研究进步，等时机成熟的时候，再去商业化。

AI平台与产品落地

Xtecher：如果说我们给人工智能做一些设置，让它在执行任务时保证人类的安全，那么人工智能自身的进化，是否有可能让他们随时抛弃掉这些安全准则？OpenAI在安全领域有什么产品化落地吗？

OpenAI：AI的安全领域一直是我们的担忧。当我们发明越来越智能的算法时，怎么样保证人工智能的安全性？因此，OpenAI专门设立了一个叫AI Safety团队。他们的目标就是我们如何从策略、政治方面，来保证我们研究的机器人无法占有世界。

至于你说的情况完全有可能。首先你这个安全准则是怎么定义的，即便是看上去是很安全的准则，但也有可能会有潜在危险。举个例子说，比如说你制定了一个准则，说AI要去提升人类的幸福感，这个目标看上去非常安全了吧？但是你怎么样界定这个安全，怎么定义幸福指数，某个人的幸福指数，还是所有人的平均幸福指数？如果你把这个定义为全人类的平均幸福指数，那你是不是可以通过杀死一部分人，然后提高其他人的幸福指数，所以这些是很模棱两可的。

Xtecher：同为开源平台，OpenAI和DeepMind最大的区别是什么？

OpenAI：OpenAI更开源。DeepMind的代码其实有很多细节并没有被披露，论文里面宣称的成果，通过它的开源代码很难达到。此外，OpenAI也更开放一点。它会和很多高校合作，比如和伯克利有个双学位项目。如果你的项目在OpenAI没有做完，你还可以在学校接着做。这和其他平台不同。最后，我觉得OpenAI是平台上的开源，体现更多的是打造人工智能的社区，形成让AI训练的平台。DeepMind更偏向算法上的开源。DeepMind也有一些平台，但是它的平台并没有像OpenAI Gym那样火热。我们希望，通过OpenAI平台的开源，能够让世界各地的研究机构更加协作，共同参与到算法研究中。

Xtecher：既然说到了去年发布的OpenAI Gym（一款用于研发和比较强化学习算法的工具包），现在这个工具包使用情况怎么样？OpenAI Gym开发到现在最令人兴奋的事情是什么？

OpenAI：很多，可以说每个学校和主流的研究机构都在用。只要和Reinforcement learning (增强学习)有关，和机器人有关，都可能会用OpenAI Gym来作为一个测试的平台。

最兴奋的一件事情是，看到越来越多人在这个平台上打造新的软件，因为Gym不仅仅是一个平台，它更多是一个标准，它是一个开放的接口，假如说你有一个软件，或者一个游戏，你可以轻松运用Gym的工作平台，让AI在里面去学习。

Xtecher：如果你有无限的预算，你会利用OpenAI的平台做什么，OpenAI本身又会做什么？

OpenAI：我个人的话，我现在在做World of Bits，是OpenAI平台上的一个框架，我们的目的是能够让AI自动地像人一样浏览互联网，帮我们做订机票、订酒店，或者查餐厅这样的事情。之所以这是令人兴奋的，是因为它是虚拟世界的机器人，因为它需要解决和现实社会接近的问题。怎么样给AI设计他们生活的环境，以及AI在我们生活的环境有什么不同是我要解决的人机交互问题。如果仅仅在已有环境中训练机器，那就很简单了，完全可以通过一些API等方法实现。难就难在怎么样去设计这样不规则的环境。

OpenAI会继续在机器人领域发力。这是一个令人兴奋的一件事情，希望未来五年，真正能够看到有机器人在家里为你做家务，可以帮你烧饭、做菜，帮你洗衣服、整理床单，将科幻电影中的一些场景变成现实。

“通识”与AI解决所有问题的未来

Xtecher：很多说深度学习，可以给机器带来一些近似于通识的能力，就是像人类一样思考并整合常识。OpenAI通过OpenAI Universe训练人工智能通识的可能性大吗？你们认同吗？

OpenAI：目前这个阶段，可能性不大。OpenAI Universe一开始的愿景，是打造AI能够在新的环境中快速学习的能力，就是所谓的Learning to learn。这是人很擅长的，人遇到新的问题，很容易去通过分析和观察，并快速地去学会解决这个问题。那么AI现在，更多的是我有一个数据，然后我用大量数据去训练一个模型，但是这个数据和模型可能并不适用于新的信息。

所以OpenAI Universe的想法是，我们能够去建立一个非常多样化的游戏场景，让虚拟世界变成人工智能的游戏场。不仅是一个游戏场景，可能是一百种相似的场景，让AI在场景训练。然而，common sense（通识）是很难的事情，因为common sense是相当于需要所谓的Life long learning，就是人是通过和其他人不断交流，和自身经验的积累，把所有的知识给总结归纳出一些common sense。我觉得AI还没有做到那一点。所以它对于重复的Task（任务），它能够掌握得非常好。但是如果总结和归纳，我觉得还比较远。

这个方向肯定是我们想达到的。但我认为，现在还比较早。它更多是我们要实行的目标，我们有benchmark(标准)，但是现在算法层面还没有达到那个层次。所以这是不断积累的过程。

Xtecher：正如OpenAI 的联合创始人Ilya Sutskever所说，“一个真正的 AI 应该能解决任何你交给它的问题”，如果要实现这一目标，OpenAI认为还有多久？

OpenAI：50年。如果你给AI的问题在框架之内，是清晰定义的问题，那么大量数据的自动化可以达到这个水平。如果你给的问题不在框架内，或者亦有的数据无法训练它，AI是怎么完成？现在大家都没有想清楚，只能慢慢尝试。