计算资源持续垄断化,AI前沿研究何去何从?
导读:从大型机到个人电脑,从互联网到智能手机,计算机技术的每一个重大进步都为更多的人在数字前沿创造了机会。
(原标题:计算资源持续垄断化,AI前沿研究何去何从?)
从大型机到个人电脑,从互联网到智能手机,计算机技术的每一个重大进步都为更多的人在数字前沿创造了机会。
但越来越多的人担心,科技行业的新前沿——人工智能,正在逆转这一趋势。
计算机科学家表示,人工智能研究的成本越来越高,需要大型数据中心进行复杂的计算,这使得更少的人能够轻松获得开发自动驾驶汽车或数字助理等未来产品所需的计算能力。
他们表示,危险在于,开创性的人工智能研究将是一个贫富差距明显的领域。拥有这些数据中心的主要是一些大型科技公司,如谷歌、微软、亚马逊和Facebook,它们每年都要花费数十亿美元建设自己的数据中心。
研究人员发出警告之际,人们对大型科技公司的实力日益感到担忧。人们的注意力大多集中在当前这一代技术上——搜索、在线广告、社交媒体和电子商务。但是科学家们担心探索未来科技发展的障碍,因为这需要惊人的计算能力。
大型科技公司的现代数据中心规模庞大且保密。这些建筑有足球场那么大,或者更大,有成百上千台电脑的架子。门是防弹的,墙壁是防火的,外人很少被允许进入。
那些云计算的引擎室,它们为智能手机和笔记本电脑提供了丰富的娱乐和信息,并使数百万开发人员能够编写基于云的软件应用。
但在大型科技公司以外的人工智能研究人员看来,他们的领域出现了令人担忧的趋势。艾伦人工智能研究所最近的一份报告,利用了另一个人工智能实验室OpenAI的数据,发现计算量需要在诸如语言理解等人工智能任务中处于领先地位,在过去的六年里,游戏和常识推理的数量激增了约30万次。
所有这些计算燃料都需要为所谓的深度学习软件模型提供动力,这些模型的性能会随着更多的计算和数据而提高。近年来,深度学习一直是人工智能取得突破的主要驱动力。
微软亿万富翁联合创始人Paul Allen于2014年创立的艾伦研究所,其首席执行官Oren Etzioni表示:“成功的话,会带来巨大的好处。但做研究的成本正呈指数级增长。作为一个社会和一个经济体,如果只有少数几个地方可以让你走在最前沿,我们就会遭殃。”
OpenAI的发展表明了经济的变化,以及深度学习人工智能技术的前景。
OpenAI成立于2015年,并获得了马斯克的支持。它最初是一家非盈利研究实验室。它的抱负是在人工智能的前沿开发技术,并与更广泛的世界分享收益。这一设想暗示了一个有灵感的程序员的计算传统,即独自在笔记本电脑上工作,想出了一个伟大的想法。
今年春天,OpenAI在一款名为Dota 2的复杂电子游戏中,使用其技术击败了世界冠军人类玩家团队。它的软件通过几个月的不断尝试和错误学会了这款游戏,相当于玩了4.5万年的游戏。
OpenAI的科学家们已经意识到,他们从事的工作更像是粒子物理或天气模拟,这些领域需要巨大的计算资源。例如,赢得Dota 2,需要花费数百万美元租用数以万计的云计算数据中心内的计算机芯片,这些数据中心由谷歌和微软等公司运营。
今年早些时候,OpenAI转型为一家以盈利为目的的公司,以吸引资金。今年7月,OpenAI宣布微软将投资10亿美元。OpenAI表示,大部分资金将用于实现其目标所需的计算能力,其中仍包括在向投资者支付报酬后广泛分享AI的好处。
作为OpenAI与微软协议的一部分,这家软件巨头最终将成为该实验室唯一的计算资源。
OpenAI的首席科学家Ilya Sutskever说:“如果你没有足够的计算机,你就无法取得突破。”
学术界也对先进的人工智能软件所消耗的能量提出了担忧。马萨诸塞大学阿姆赫斯特分校的三位计算机科学家在最近的一篇研究论文中估计,训练一个大型的深度学习模型,可以产生相当于五辆美国汽车寿命的碳足迹。(大型科技公司表示,他们购买了尽可能多的可再生能源,减少了数据中心对环境的影响。)
Etzioni和他在艾伦研究所的合著者表示,或许可以通过改变衡量人工智能技术成功程度的方式,至少部分地解决这两个问题——电力使用和计算成本。
他们说,该领域一心一意地专注于准确性,使研究偏向了一条过于狭窄的道路。
效率也应加以考虑。他们建议研究人员也报告在项目中取得成果的“计算价格标签”。
自从他们的“绿色人工智能”论文在7月份发表以来,他们的观点在研究界引起了很多人的共鸣。
罗切斯特大学计算机科学教授Henry Kautz指出,准确度“实际上只是我们在理论和实践中所关心的一个方面”。他说,其他方面包括能源的使用量,AI技术工作需要多少数据和多少熟练的人力。
Kautz补充说,如果研究项目不那么依赖原始的计算能力,一个更多维的视角可能有助于在大型科技公司的学术研究人员和计算机科学家之间建立公平的竞争环境。
大型科技公司正在努力提高其数据中心和人工智能软件的效率,他们表示,这将使外部开发者和学术界更容易获得计算能力。
谷歌人工智能部门的杰出科学家John Platt指出,谷歌最近开发的深度学习模型EfficientNets,比传统模型小10倍,速度更快。他说:“这是民主化的用武之地。我们希望这些模型能够被尽可能多的人训练和使用。”
几年来,这些大科技公司已经给大学提供了数百万美元的资助和捐赠,但一些计算机科学家说,他们应该做更多的工作来缩小AI研究人员的贫富差距。他们说,如今,科技巨头与大学之间的关系主要是作为买家,把教授、研究生甚至本科生都招走。
华盛顿大学教授Ed Lazowska表示,这些公司最好也为学术研究提供实质性支持,包括更大程度地获取其丰富的计算资源——因此,对创意和突破的竞争超出了企业的壁垒。
Lazowska认为,一种更具支持性的关系将符合他们公司的自身利益。否则,他说,“我们将看到学术界培养下一代计算机科学家的能力显著减弱,而这些计算机科学家将为这些公司提供动力。”
在西雅图艾伦研究所的Etzioni说,研究小组将致力于研究提高人工智能技术效率的技术。“这对我们来说是一个巨大的推动,”他表示。
但是Etzioni强调,他所说的绿色人工智能应该被视为“一个增加创造力的机会,而不是一种限制”——或者是一种对深度学习的替代,深度学习依赖于巨大的计算能力,他称之为红色人工智能。
事实上,艾伦研究所刚刚达到了一个AI的里程碑,它在八年级的标准科学考试中正确回答了90%以上的问题。这一壮举是用红色的AI深度学习工具实现的。