深度 深入解读 OpenAIElon Musk 解放人工智能的狂野计划

选自 《连线》

作者:CADE METZ

机器之心编译

参与:原野、吴攀、李亚洲

去年 Elon Musk 等几位成立的非盈利公司 Open AI是否会朝着他们设想的理想化道路前进呢?许多人发出了质疑的声音。

星期五下午发的一堆新闻通常是为了掩盖不利的消息,这是家和资本家的一项盛大的传统(译者注:星期五下午关注的人较少,将不利的新闻集中在这一时段一起发布可以减轻公众对不利事件的注意力)。所以当特斯拉的创始人 Elon Musk 和著名的科技孵化器 Y Combinator 的总裁 Sam Altman 在去年 12 月为期一周的蒙特利尔人工智能大会接近尾声时公布新公司,这着实有点怪异。

但当天他们那么晚公布 OpenAI 是有原因的。并不是没人盯着他们,而是所有人都在盯着他们!当硅谷一些强大的科技公司听到风声时,它们就开始向 OpenAI 新组起的人工智能研究骨干提供巨额的资金,想要挖走这些大思想家留为己用。最后的出价(有些在大会过程中已经被挖走)大到足以迫使 Musk 和 Altman 延迟宣布。当时准备加入 OpenAI 的研究者 Wojciech Zaremba 说,「资金额度处在疯狂的边缘。」之前他结束了在谷歌和 Facebook 的实习工作,他也是那些在最后一刻收到巨额资金的人中的一个。

究竟多少资金算是「疯狂的边缘」?两年前,当新型机器学习技术市场开始火热的时候,微软研究院 Peter Lee 就说过,在人工智能研究者上的投入足以让美国国家橄榄球联盟顶尖的四分卫黯然失色。而且这还是在平时的情况下,更别说当硅谷最有名的两位企业家尝试挖走你的专家时。Zaremba 说当 OpenAI 组建时,他得到的价钱是当时市场价值的两到三倍。

OpenAI 没有给出能与之匹敌的出价。但它给出了一些别的东西:只以未来为目标的研究机会,不用关心产品和季度盈利;而且最终还可以和任何想要的人分享大部分的研究成果——如果不是全部的话。确实如此:Musk、Altman 和这家公司的目标是分享可能成为 21 世纪最具变革性的技术成果——而且是免费分享。

Zaremba 说实际上正是是这些相当疯狂的资金让他选择了拒绝——尽管他特别崇尚谷歌和 Facebook 这样的公司。他认为钱是阻止 OpenAI 创立的最不值一提的努力,只是一种赢得他服务的手段,这甚至还将他推向了OpenAI。「我意识到,」Zaremba 说,「OpenAI 是最好的地方。」

这就是这个故事核心中的讽刺之处:即使世界上最大的科技公司像 NFL 球队想要留住明星四分卫一样,想要留住他们研究人员,而这些研究者却还只是想要分享。在人工智能研究纯净的世界里,最聪明的头脑并没被——或至少并不只是被——下一个产品周期或利润率所驱动。他们想让人工智能更好。而且当你想把最先进的研究留作己用时,他们宁愿不发展人工智能。

今天上午(4月27日),OpenAI 将发布首批人工智能软件,这是一个通过「强化学习(reinforcement learning)」技术方法开发的人工智能系统工具包。强化学习是许多成果的关键技术之一,其中包括谷歌旗下掌握古老围棋游戏的人工智能系统AlphaGo。使用这个工具包,你也可以开发模拟生物的机器人、玩 Atari 游戏的系统,当然也可以开发下围棋的系统。

但玩游戏只是个开始。OpenAI 是一项推动人工智能尽可能向前发展的,价值十亿美元的努力。在该公司的组建方式和其计划要做的事情中,你可以看到下一波创新浪潮正在形成。我们离了解 OpenAI 能否成为那一变革的主要力量还相去甚远。但推动这一创业公司组建的力量表明,新类型的人工智能将不仅能重塑科技,而且还能重塑我们科技开发的方式。

人工智能无处不在

硅谷并不完全反对夸大。它总是能明智的区分各种大胆的想法。但在人工智能领域,变革是真实的。在谷歌和 Facebook 这样的地方,一项被称为深度学习(deep learning)的技术已经在帮助互联网服务识别照片中的人脸、识别对智能手机说出的指令以及响应互联网搜索请求。而同样的技术还能解决未来许多任务。它可以帮助机器理解自然语言(人来交流、写作的方式);它可以创造新类型机器人,让它不仅能执行任务,还具备在工作中学习执行任务的能力。而且一些人还认为深度学习最终将给机器带来一些近于「常识(common sense)」的能力,让其像人类一样思考的能力。

但这样的愿景也伴随着深深的焦虑。Musk 和 Altman 担心如果人们可以开发出做好事的人工智能,那么他们也就可以开发出做坏事的人工智能。这两位并不是唯一担忧机器人霸主的人。但不同的是,Musk 和 Altman 认为与恶意人工智能战斗的最好方式并不是限制人工智能的使用,而是扩展它。这是吸引年轻且高智商的理想主义者到他们的项目中的部分原因。

去年夏日的一个夜晚,OpenAI 开始于硅谷 Rosewood 酒店的一个私人房间里。这家高档的、牧场风格的酒店坐落在加州门洛帕克 Sand Hill 路旁风险投资世界的中心。Elon Musk 当时与正在开发谷歌大脑(Google Brain)的 Ilya Sutskever 一起吃了顿晚饭。谷歌大脑项目是谷歌倾力开发深度神经网络的努力,这种神经网络可以通过分析海量数字数据学习执行任务,其中包括照片识别、书写电子邮件、语音对话等。Sutskever 是这一项目中的一位思想家。但是还有更大的想法正在酝酿中。

Ilya Sutskever

促成这次会面的人是 Sam Altman,他的 Y Combinator 帮助引导了 Airbnb、Dropbox 和 Coinbase 这样公司。Altman 将几位人工智能研究者和一位年轻但经验丰富的公司创始人 Greg Brockman 聚集到了一起;Brockman 之前是硅谷备受瞩目的数字支付创业公司 Stripe 的首席技术官, Stripe 正是 Y Combinator 孵化的公司。这个组合有点不拘一格,但他们有一个共同的目标:创造一个新式的人工智能实验室——不仅不受谷歌这样的大公司控制,也不受任何人控制的实验室。「我能想到最美好的事,」Brockman 说,「就是让人类离安全开发真正人工智能的方式更近一点。」

Musk 出现在这里因为他是 Altman 的老朋友,还因为他的很多业务中人工智能是关键,当然,也为了人类整体的未来。特斯拉要实现自动驾驶需要人工智能;Musk 的另一家公司 SpaceX 要将人送入太空并保证他们的安全也需要人工智能。而且在警告人类有一天可能会失去对有自主学习能力的系统的控制上,Musk 也是其中最大的呼声之一。

问题是:许多最有资格解决所有这些问题的人都已经在为谷歌(和 Facebook 和微软和百度和 Twitter)工作了。而,这次晚餐中没有人能十分肯定这些思想者会被一家新的创业公司吸引,即便这家公司背后有 Musk 和 Altman。但至少有一位关键角色对跳槽的想法是开放的。「我觉得这是有风险的,」Sutskever 说,「但也是一件可以尝试的非常有趣的事情。」

打破循环

在Musk、Altman 和 酒店其他人的鼓励下,Brockman 很快就参与到了他们设想的实验室的创建中。他专职推动这一项目,并接触了蒙特利尔大学的计算机科学家、深度学习运动的奠基人之一 Yoshua Bengio。这一领域的另外两位先驱——Geoff Hinton 和 Yann LeCun——现在分别在谷歌和 Facebook,但 Bengio 致力于学术界,很大程度远离产业界目标。Bengio 起草了一份这一领域最好研究者名单。在接下来的几周里,Brockman 尽可能多地接触了清单上的、以及名单外的人。

许多研究者喜欢这样的想法,但对于这样大的跳跃,他们也很谨慎。为了打破这样的循环,Brockman 挑选了他最想要的 10 位研究者,并邀请他们于周六在纳帕谷的一家酒庄喝酒吃饭,最重要的是劝说。对 Brockman 来说,开车前往纳帕谷时间都被他用来促成这一项目。「将人们聚集到一起的一个被忽略的方式是利用开车到达目的地的时间交谈。」他说,「你必须到达那里,你也必须交谈。」而当他们抵达这个葡萄酒之乡时,交谈的氛围依然存在。Brockman 说:「那就是一个你可以说化学真的存在的时候。」或用 Sutskever 的话来说:「相对于交谈,葡萄酒是次要的。」

Greg Brockman,OpenAI 的创始元勋之一以及首席技术官

那天结束时,Brockman 请求这 10 位研究者加入该实验室,然后他给了他们三周时间去考虑。到截止日期,他们中有九个人选择了加入。而且即使有硅谷巨头的那些大邀约,他们一直留了下来。「对我来说,他们确实做得非常有吸引力,所以这不是一个容易的决定。」Sutskever 谈论他的前雇主谷歌时说,「但最后,我决定和 OpenAI 一起走,部分是因为团队非常强大,在很大的程度上,是因为它的使命。」

深度学习运动开始于学术界。直到最近,谷歌和、Facebook 、微软这样的企业才开始推动进入这一领域,这是因为原始计算能力的进步让深度神经网络成为了现实,而不再仅仅是一种理论。像 Hinton 和 LeCun 这样的人离开学术界进入谷歌和 Facebook 的原因是这些公司的海量资源。但他们仍然有与其他思考者合作的意向。事实上,正如 LeCun 解释的那样,深度学习研究需要这种思想的自由流动。「当你秘密地进行研究时,」他说,「你就落后了。」

因此,现在大公司共享了很多它们的人工智能研究。这是一个真正的变革,尤其是谷歌,长期以来该公司都将科技作为其网络帝国的秘密核心。最近,谷歌开源了驱动其神经网络的软件引擎。但在通往未来的比赛赛道上,谷歌仍处在内圈占据优势。Brockman、Altman 和 Musk 的目标是将这种开放的理念进一步向前推进,他们不希望一或两家大公司控制人工智能的未来。

有限制的开放

所有这一切听起来都很不错。但对于 OpenAI 的理想主义来说,研究者可能会发现他们面临一些和旧工作上一样的妥协。开放有其限制性。人工智能的长期愿景并不是参与者的唯一兴趣点。OpenAI 并不是慈善机构。Musk 的公司可能从该创业公司的成果中获取极大利益,还有 Altman 的 Y Combinator 支持的许多公司也可以。「肯定会有一些竞争目标,」LeCun 说,「OpenAI 是非营利性的,但却和 Y Combinator 有非常紧密的联系。而且人们获得的回报和他们在产业界工作时一样。」

据 Brockman 表示,该实验室给出的薪资没有谷歌和 Facebook 中的人工智能研究者那样高。但他说该实验室也想「给他们好的待遇」,而且也在使用股票期权补偿研究者——先是 Y Combinator 的股票期权,后面可能还有 SpaceX的(和特斯拉不一样,SpaceX 仍然是一家私有公司)。

尽管如此,Brockman 坚称 OpenAI 不会向其姊妹公司给予特殊待遇。他说,OpenAI 是一个研究机构,不是一家咨询公司。但在媒体发布时,他承认OpenAI 的理想化愿景也有其局限性。该公司可能无法开源其产出的一切,尽管其目标是最终通过研究论文或互联网服务的形式共享其大部分的研究。「公开做所有研究必然不是最好的研究方式。你肯定想要先酝酿一个想法,看其如何发展,最后再发表它。」Brockman 说,「我们将产出大量开源代码。但也有大量我们还没准备好发布的的东西。」

Sutskever 和 Brockman 都补充说 OpenAI 还可能会为一些成果申请专利。「在短期内我们不会申请任何专利,」Brockman 说,「但如果我们发现这对世界是最好的话,我们对长期策略的改变持开放态度。」他说,比如 OpenAI 可以使用先发制人的专利申请,阻止他人占有该专利。

但对一些人来说,专利意味着利润动机——或者至少比 OpenAI 创始人信奉的开源承诺要弱一些。「那就是专利系统的作用,」艾伦人工智能研究所负责人 Oren Etzioni 说,「这让我疑惑他们到底要走那个方向。」

强人工智能问题

当马斯克和 Altman 公布 OpenAI 的时候,他们也把这一项目作为压制恶性强人工智能威胁的手段。当然,强人工智能也可能因为 OpenAI 建立的技术而出现,但他们坚持认为任何威胁都能被缓和,因为这一技术能够被所有人使用。「我们认为这就像很多很多的人工智能一起努力,终止偶然出现的坏角色。」Altman 说。

但并非领域内的所有人都吃这一套。牛津大学哲学家 Nick Bostrom 曾提醒人们提防人工智能的危险,他指出如果你没有限制的分享研究,坏人可能会在人们确保它的安全性之前就霸占它。他说,「如果你手握一个按钮,能够在世上做坏事,你肯定不想把它交给每个人。」另一方面,如果 OpenAI 为防止为坏人所用隐瞒他们的研究,那它和谷歌、Facebook 又有什么区别呢?

他说尽管 OpenAI 的非盈利性质不一定能改变一些事情。这一项目的真正能力是确实能抑制谷歌、Facebook 这类公司。「它能减少强人工智能被垄断的可能性」他说,「它能除去一种可能存在的原因:为什么一些实体或团体拥有比其他人都特别好的人工智能。」

但就像这位哲学家在新论文中解释的那样,像 OpenAI 这样免费分享工作成果的机构的主要影响是它能加速人工智能的进展,即使是短期进展。而且,因为利他主义的原因,它选择了更高水平的开放而不是最理想的商业化,这也可能加速长期发展。

「一个慈善目的的研发投资者通过追求开放的科学可能加速人工智能发展进程,这听起来还是可信的,」他说。

就像施乐帕克研究中心

在 1 月份早期时候,Brockman 的9 位人工智能研究人员在他旧金山教会区的住处会面。这一项目是如此的新以致于连白板都没有。(你能想象吗?)他们是在当天才买了一些白板,然后开始工作。

Brockman 说 OpenAI 开始于探索强化学习,这是一种机器通过一遍又一遍重复任务、追踪产生最好结果的方法达成学习任务的方式。但另一个主要目标是非监督学习,创造没有人类手动指导、能自己学习的机器。如今,深度学习是由仔细标记的数据驱动。如果你想要教一个神经网络识别猫的图片,你必须向它填充一定量的样例,而且这些样例必须标记上是猫的图片。这种学习要由人类标记员监督着完成。但像很多研究人员一样,OpenAI 意图创造没有标记数据就能学习的神经网络。

「如果你有很好的非监督学习方式,机器就能从所有的互联网知识中学习,就像人类四处观察或阅读书籍就能学习一样。」Brockman 说。

他把 OpenAI 设想成施乐帕克研究中心的现代化身,施乐帕克研究实验室兴盛于 20 世纪 70 年代。就像帕克实验室很大程度上的开放、无拘无束的研究环境促使图形用户界面、激光印刷机、对象导向编程语言等事物的兴起一样,Brockman 和他的组员追求探索的更深,包括探索一些我们认为是科幻小说中的东西。帕克实验室是属于施乐公司,但它服务了如此多的对象。最有名的就是苹果公司。因为像乔布斯这样的人了解帕克实验室的研究。Brockman 也想要每一个人了解OpenAI 的研究。

这个月,为了推动它能走的更远,Brockman 和 OpenAI 抓住了其他几个知名的研究人员,包括 Ian Goodfellow。他是谷歌脑工作团队中的另一位高级研究员。Brockman 说,「帕克实验室不同的一点是他们把一堆聪明的人聚在一起,但允许他们随意去哪里。有一个共同的愿景,但不集中控制。」

放弃控制是开源理想的本质。如果足够多的人集中精力做集体目标,完全能打败你秘密策划所取得的所有成就。但如果人工智能变得如期望的那样强大,平衡就被打破了。我们必须要保证新的人工智能出现后,能继续坚持与初始时同样的平等主义理想。马斯克、Altman 和Brockman 正在通过集体的智慧实现他们的信念。但如果他们的信念是正确的,未来智慧群体将不仅是人类。

©本文由机器之心编译,转载请联系本公众号获得授权。

✄————————————————

加入机器之心(全职记者/实习生):hr@almosthuman.cn

投稿或寻求报道:editor@almosthuman.cn

广告商务合作:bd@almosthuman.cn