长沙建网站培训机构,织梦网站采集侠怎么做,商城类网站建设数据库,网站建设企业站有哪些要求来源#xff1a;AI前线策划#xff5c;Tina#xff0c;译者#xff5c;薛命灯、核子可乐、Debra什么是奇点#xff08;Singularity#xff09;#xff1f;奇点是指在未来某个假想的时间点#xff0c;因为技术发展太过迅速#xff0c;以致于达到我们无法理解的地步。奇… 来源AI前线策划Tina译者薛命灯、核子可乐、Debra什么是奇点Singularity奇点是指在未来某个假想的时间点因为技术发展太过迅速以致于达到我们无法理解的地步。奇点被看成是人类无法达到的文明程度……一些我们不用指望能够预测到的东西。最近计算机科学教授 Edward W. Felten 在自己博客上发表了一篇文章认为奇点还远未到来这一言论得到了 Yann LeCun 的强烈支持我们将教授的原文做了翻译。为什么说奇点不是奇点英国数据家 I.J. Good 在 1965 年的一篇论文中对奇点理论进行了概括我们假设超智能机器是一种可以超越人类智慧的机器。既然这样的一种机器是通过人类的智慧设计出来的那么超智能机器也就能够设计出更好的机器。这样无疑会出现“智能大爆炸”人类的智慧会远远落在后面。因此如果超智能机器能够告诉我们如何控制它那么第一台超智能机器也就是需要由人类发明的最后一台机器。Vernor Vinge 是第一个将这种理论描述为“奇点”的人“奇点”的概念来自于数学用于表示数量的增长达到了无限的速度。后来Ray Kurzweil 将“奇点”一词用在他的“奇点临近The Singularity is Near”一书中才为人们所熟知。指数增长奇点理论主要与未来机器智能的增长速度有关。不过在深入探讨这个理论之前先让我们来澄清一些与增长速度有关的概念。指数增长是最为关键的一个概念也就是说事物的增长与其现有的规模呈比例关系。例如如果我的银行存款每年增长 1%那么银行每年要把当前余额的 1% 累加到账户中。这就是所谓的指数增长。指数增长的速度各异我们可以使用两种方式来表示指数增长速度。第一种是增长速率通常表示为单位时间内的百分比。例如银行存款的增长速率为每年 1%。第二种是倍增时间也就是数量翻番需要多少时间。例如我的银行存款要翻番需要大概 70 年时间。要想知道一个数量是否呈指数级增长最好的办法是使用上述的两种方式来衡量它。如果它符合上述中的任何一种模式那么它就是呈指数级增长。例如大部分国家都通过 GDP 来衡量经济增长当然GDP 在短期内可能会有起伏但从长期来看它是呈指数级增长的。如果一个国家的 GDP 每年增长 3%那么大概 23 年就可以翻一番。指数增长在人类社会和自然界中都是很常见的。所以一个呈指数级增长的数量并不会让自己变得有任何特别之处也不会出现任何违反直觉的变化。计算机的速度和容量也是呈指数级增长的这也没有什么新奇的。新奇的是计算机容量的增长速率。“摩尔定律”告诉我们计算机的速度和容量每 18 个月就会翻一番相当于每年 60% 的增长速率。摩尔定律在过去 50 年被证明是正确的计算机容量整整翻了 33 番也就是差不多百亿倍。奇点并非实际意义上的奇点在讨论奇点假设的真实性之前先让我们来看看实际意义上的奇点——在未来某个时间点机器智能的改进速率趋向于无穷。这就要求机器智能的增长速度超过指数级翻番的时间就会缩短最后趋向于零。实际意义上的奇点可能并没有任何理论依据。在人类社会和自然世界根本不存在超指数增长的东西而即使有也不可能达到真实意义上的奇点。简单地说人工智能的“奇点”不可能变成现实。如果说奇点不是真正意义上的奇点那它会是什么为何自我改进还不够我们在上面讨论了为何不可能存在单一的奇点——换言之为何 AI 不可能拥有无限的增长率。那么如果奇点并不单一那又会呈现出怎样的形式首先来回顾奇点理论其基本上属于一项关于机器智能增长率的主张。在排除了指数级以上增长的可能性之后其主要假设在于认为 AI 技术将以指数形式增长。指数级增长并不代表着发生“爆炸式”发展。举例来说尽管我的储蓄帐户拥有 1% 的利率并实现持续增长但我本人并不会因此迎来“财富爆炸”即突然之间获得超出想象的资金数额。但是如果指数级增长率非常高是否会带来爆炸式增长在这方面我认为摩尔定律是最理想的类比对象。在过去几十年当中计算能力一直以 60% 的年增长率保持着稳定发展换言之即第 18 个月翻一番。这意味着 这数十年周期内的计算能力提升了约 100 亿倍。这虽然是一项了不起的成就但却仍 无法从根本上改变人类的生存法则。事实上这种增长对社会与经济的影响属于渐进式推动。计算能力增长一百亿倍仍无法令我们获得百倍于以往的幸福感其中的原因可谓显而易见——计算能力并不是我们的核心。为了让计算能力转化为我们的幸福感人类必须想办法利用计算资源改进我们最关心的方方面面——这显然非常困难。更重要的是将计算能力转化为幸福感的努力似乎总是面临着回报快速衰减的难题。举例来说计算能力每增加一倍我们都能够通过发现新型药物来更好地评估医学诊疗效果或者更高效地改善人类健康水平。然而其最终结果是健康改善更像是关于我们身体的一种储蓄帐户而非摩尔定律。以下一项 AI 实例。图中所示为上世纪八十年代到现在计算机在国际象棋领域的表现提升趋势。垂直轴所示为 Elo 等级好衡量象棋技巧的自然度量其定义为如果 A 的 Elo 点数比 B 高 100 点则 A 在与 B 对局时的胜率则为 64%。尽管计算能力呈指数级增长且算法性能同样保持着指数级增长趋势但其胜率结果在过去三十年当中仍然保持着显著的线性关系。这意味着虽然 AI 在国际象棋层面的改进速度拥有指数级特性但所产出的自然度量却仅仅能够实现线性提升。那么这一切对于奇点理论又意味着什么请考虑智能爆炸这一论点的核心所在——正如谷歌公司在其经典论文中所言……一台超级智能机器如果能够设计出更好的机器那么其无疑将引发一场“智能爆炸”……如果“设计出更好的机器”被具象为下国际象棋那么输入内容即机器智能的指数级改进为何只会带来输出结果即机器在设计其它机器时的效能的线性改进即使如此那么智能爆炸的论断显然并不准确。事实上机器智能的增长将仅仅保持线性水平。我们可以从数学角度进行理解如果我们假定智能的导数与 log智能成正比那么智能在时间 T 上的增长将遵循 T log(T)几乎与 T 的线性保持一致。那么设计新机器是否能够与下国际象棋这样的行为进行类比对此我们并不确定。这是复杂性计算理论中的一个难题其本质在于讨论随着计算资源的增加究竟能够达到多少目标。在通过比大多数人更为深入的复杂性理论研究之后我们发现机器设计也同样会呈现国际象棋当中所出现的这种收益递减状况。无论如何这种可能性确实令我们有理由对谷歌提出的自我改进“无疑”将带来智能爆炸这一结论感到怀疑。因此奇点理论家们有责任解释为什么机器设计能够表现出引起智能爆炸所需要的这种反馈回路——而非像国际象棋那样遵循收益线性增长。奇点为何仍未真实发生我认为有时 AI 系统计算机速度和算法的输入改进对 AI 性能改善的作用不大。有人对此持有各种反对意见。有人说计算机国际象棋 Elo 评级水平提升应该是指数级的增长有人说新 AI 程序 AlphaZero 的到来我未在我的帖子中讨论过它改变了游戏规则有力地证明了我的论点无效。下面我来一一反驳这些反对意见。首先我们来谈谈我们是如何衡量人工智能的性能的。对于国际象棋我使用了 Elo 评级这个等级评定的规则是如果玩家 A 比玩家 B 高 100 分我们预计 A 玩家在和 B 玩家对局时可以得到 64的分数赢得游戏得一分平局每个玩家得 0.5 分输的一方得零点。有一个可以代替 Elo 的评级系统我称其为 ExpElo它的预测结果与 Elo 相差无几。Explo 评级是 Elo 评分的乘方。Elo 使用两位选手的评分来预测胜率ExpElo 则使用评分的比例来进行预测。从抽象的数学角度来看Elo 和 ExpElo 的预测能力旗鼓相当而且预测结果完全相同。但是如果说 Elo 的提升是呈线性的则 ExpElo 的改进则是呈指数级的。所以国际象棋的成绩是线性的还是指数性的在解决这个问题之前让我们停下来思考一下这种情况并不是国际象棋独有的。任何线性增长的度量都可以重新调整通过对度量求幂以得到一个指数级增长的新度量。而且任何指数级增长的度量都可以重新调整通过取对数来获得线性增长的新度量。因此对于任何改进的数量我们将始终能够从线性增长和指数增长中做出选择。人工智能的关键问题是衡量某个特定任务的“智力”水平最合适的标准是什么对于国际象棋来说我认为是 Elo而不是 ExpElo。此前Arpad Elo 推出了被专业象棋人员采用的 Elo 系统。美国国际象棋联合会按照技能将玩家分大师、专家、A 级、B 级、C 级等级别而我们选择用 Elo 为人类国际象棋玩家进行分类。那么为什么当谈到 AI 时我们应该换一个不同的度量呢转折就发生在这里随着电脑的发挥水平接近完美而实际上人类永远不可能达到完美的水平因此无论是 Elo 还是 ExpElo 在国际象棋中的评级的作用将趋于稳定。在每一场棋局中都有一些可能得到最佳游戏结果的最佳棋路或移动。对于一个非常强大的玩家我们可能会问他的错误率是多少即在高水平的比赛中他会在什么情况下走错棋路假设一个玩家爱丽丝的错误率为 1并假设一盘棋持续了五十回合。那么从长远来看爱丽丝每两场比赛就会走一次非最优的棋步在一半的比赛中她将以最佳状态进行比赛。这意味着如果爱丽丝与上帝进行一场国际象棋比赛总是走最佳棋路那么爱丽丝将得到至少 25的分数因为她会在半场比赛以最佳棋路与上帝对弈在最糟糕的情况下她会在犯错误的比赛中输掉。如果爱丽丝能够得到至少 25的分数那么爱丽丝的 Elo 评级将不会比上帝低 200 分。结果是类似于 “上帝的评级”将无人可以超越在 Elo 和 ExpElo 系统中都是如此。Ken Regan 等人的研究表明今天最好的国际象棋程序的错误率相当低可以说正在接近“上帝的评级”。Regan 的研究表明RoG 的评分约为 3600这很值得注意因为据我所知最好的程序 Stockfish 的评分约为 3400Google 的 DeepMind 研发的新 AI 棋手 AlphaZero 可能在 3500 左右。如果 Regan 的估计是正确的那么 AlphaZero 就会在与上帝比赛中的大部分时间以最佳的棋路与其对弈得到大约 36的分数。AI Elo 评级的历史增长率为每年 50 分所以看起来增长的趋势可能会持续几年然后才会趋于平稳。目前不管国际象棋评级分数增长趋势到底是呈线性还是指数级似乎在几年内都会趋于平缓。未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能互联网和脑科学交叉研究机构。由互联网进化论作者计算机博士刘锋与中国科学院虚拟经济与数据科学研究中心石勇、刘颖教授创建。未来智能实验室的主要工作包括建立AI智能系统智商评测体系开展世界人工智能智商评测开展互联网城市云脑研究计划构建互联网城市云脑技术和企业图谱为提升企业行业与城市的智能水平服务。 如果您对实验室的研究感兴趣欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”
