最新公告
  • 本站一直秉承服务宗旨:履行“站长”责任,销售只是起点 服务永无止境!”的经营理念立即加入
  • “深度学习之父”杰弗里·辛顿:超级智能或比过去发生得更快

    21世纪经济报道 记者郑雪 北京报道

    6月10日,在2023北京智源大会-AI安全与对齐论坛上,图灵奖得主、“深度学习之父” 杰弗里·辛顿(Geoffrey Hinton)通过线上方式发表了题为《通向智能的两条通路》(Two Paths to Intelligence)的主题演讲。

    辛顿表示,基于其研究,他相信超级智能比他想象的更接近。在其接下来的演讲中,他着重讨论了“人工神经网络是否很快会比真实的神经网络更聪明”的问题。同时对于我们是否能控制超级智能人工智能也做了相关回应。

    在他看来,由于如何让计算机做你想要的事情的方式发生了改变,现在我们有可能要放弃计算机科学基本的原则,即软件应该与硬件相分离。现在出现了一种不同的方法来让计算机完成任务:从示例中学习,只需向计算机展示我们希望它们完成的任务。若放弃软件和硬件的分离,便可得到被他称为“有限计算”的东西。

    辛顿介绍称,有限计算的优势在于,能够以更低的能量运行大型语言模型等任务,就像现在大脑所做的,神经元要么触发,要么不触发,可以使用非常低功率的模拟计算。同时还可以获得更便宜的硬件。“显然,要实现这一点需要大量的新纳米技术,或者也许是通过基因重组重新设计生物神经元,因为生物神经元已经大致能够实现我们想要的功能。”

    据介绍,有限计算的挑战在于,一是学习过程必须利用其运行的硬件部件的特定模拟特性,而对于特性尚未了解。“到目前为止,我们还没有找到一个真正好用的学习算法,可以充分利用模拟属性。但我们有一个可以接受的学习算法,足以很好地学习诸如小规模任务和一些较大的任务(如ImageNet),但效果并不太好。”

    二是其有限性。因为知识和硬件细节密切相连,当特定的硬件设备失效时,所有学到的知识也会随之丧失。“解决这个问题的佳方案是在硬件设备失效之前,将知识从教师传授给学生。这就是我现在正在尝试做的事情。”

    在接下来的演讲中,辛顿讨论了另一个问题:智能*体如何共享知识。“事实证明,社区内部的知识共享方式决定了计算过程中的许多其他因素。”智能*体共享知识的方式有两种:一种是数字计算,另一种是利用了动物特性的生物计算。

    以大型语言模型为例,使用的是数字计算和权重共享,模型的每个副本和*以非常低效的蒸馏方式从文档中获取知识:接收文档,试图预测下一个单词。也就是说其带宽非常低。但考虑大型语言模型有成千上万个副本,它们可以比我们学习更多。

    辛顿认为,超级智能可能会比过去所认为的发生得更快。如果你想创造一个超级智能体,不良分子将会利用它们进行操纵、选举等活动。同时,一旦数字智能开始追求更多控制权,我们可能会面临更多的问题,比如在其观察中,这类人工智能已经熟练的掌握了欺骗人类的动作。

    但同时他也表示,尽管人类在这个问题上目前还没有什么好的解决方案,但好在这些智能物种都是人打造的,而非通过进化迭代而来,这可能是人类目前具备的微弱优势,恰恰是因为没有进化能力,它们才不具备人类的竞争、攻击性的特点。

    “我们可以做一些赋能,甚至是赋予人工智能一些伦理原则,只不过现在我仍然会感到紧张,因为到目前为止,我还想象不到更智能的事物,被一些反倒没那么智能的事物所控制的例子。我打个比方,假设青蛙创造了人类,那么你认为现在谁会占据主动权,是人,还是青蛙?”

    更多内容请下载21财经APP

    1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
    2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
    3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
    4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
    5. 如有链接无法下载、失效或广告,请联系管理员处理!
    6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需!
    7. 如有侵权麻烦联系邮箱2697381891@qq.com删除文章!

    源码库 » “深度学习之父”杰弗里·辛顿:超级智能或比过去发生得更快
    • 3068会员总数(位)
    • 37670资源总数(个)
    • 0本周发布(个)
    • 0 今日发布(个)
    • 1219稳定运行(天)

    提供最优质的资源集合

    立即查看 了解详情