东莞网站建设主要学什么互联网seo是什么意思

东莞网站建设主要学什么,互联网seo是什么意思,seo网站优化推广怎么样,办公管理系统软件内容提要: Yann LeCun 与 Adam Brown 在 Pioneer Works 的深度对话#xff1a;大型语言模型真正理解世界了吗#xff1f; AI的当前局限性#xff1a; Yann LeCun强调#xff0c;尽管大型语言模型#xff08;LLM#xff09;在语言处理上成就斐然#xff0c;但它们缺乏对…内容提要: Yann LeCun 与 Adam Brown 在 Pioneer Works 的深度对话大型语言模型真正理解世界了吗AI的当前局限性Yann LeCun强调尽管大型语言模型LLM在语言处理上成就斐然但它们缺乏对物理世界的理解、常识以及高效学习的能力。因此它们连收拾餐桌这类简单的物理任务都无法完成。他断言LLM并非通往通用人工智能AGI的正确道路。LLM的涌现能力Adam认为LLM的成功在于庞大的计算能力与简单的学习目标如预测下一个词相结合能够催生出复杂的涌现行为这与物理学中简单规则生成复杂现象的原理类似。他指出LLM在某些任务上已超越人类并对其持续进步保持乐观。理解的本质Yann LeCun认为LLM的“理解”是肤浅的。它们本质上是进行统计模式匹配缺乏对背后物理世界的真实认知这与人类基于感官经验建立的深刻理解有着根本区别。人类与AI的学习差异LLM需要处理数万亿词的庞大数据才能达到一定水平的熟练度。相比之下人类婴儿通过感官体验尤其是信息量巨大的视觉数据就能快速掌握世界运行的规律其学习效率远超LLM。AGI的未来方向Yann LeCun构想的AGI是能够学习世界模型的系统它能进行抽象推理并预测行为后果如他提出的JEPA架构而不仅仅是预测离散文本符号的LLM。他强调AI的发展应遵循务实的工程学方法而非寄望于科幻般的“超级智能”降临。AI的安全与可控性Yann LeCun认为LLM本身并无危险真正的危险在于封闭的AI系统被少数巨头所垄断。他主张构建目标驱动、带有内置安全护栏的AI系统这与人类自身进化出的安全机制类似以此确保其安全可控。意识与主观体验对于意识Yann LeCun持实用主义看法认为具备情感和自我模型self-modeling能力的系统可能会发展出某种形式的意识。Adam则认为意识源于信息处理的本质与承载其的物理载体无关并呼吁对不同形态的意识保持谦逊。开源的重要性Yann LeCun力主AI开源的必要性旨在防止信息渠道被少数公司控制促进AI助手的多样化并守护全球文化和语言的多样性避免同质化。AI的文艺复兴愿景Yann LeCun将AI的未来描绘为一场“新文艺复兴”。在他看来AI系统将作为增强人类智慧的强大工具加速科学发现和医学进步帮助解决复杂难题最终是赋能人类而非取代人类。AI的潜在风险与收益Adam承认AI技术具有双面性强调需要努力确保其积极影响远大于消极影响。Yann LeCun则将AI安全视为一个工程问题如同确保航空发动机的可靠性一样并认为所谓“超级智能失控”的科幻情节是不切实际的。LLM的局限与瓶颈Yann LeCun认为LLM虽然在编程和数学等特定任务上表现优异但在处理连续、高维的现实世界信息方面存在根本性局限其性能提升已渐趋饱和。AI的递归式自我改进Adam提到了AI进行递归式自我改进的可能性即AI自主优化自身从而实现智能的跨越式发展。但Yann LeCun对此持保留意见不认为LLM能够通过这种方式进化成失控的超级智能。“代理对齐失败”的探讨Adam承认存在“代理对齐失败”agency alignment failure的风险认为必须审慎地训练AI确保它们即使在面对艰难的伦理困境时也能始终遵循人类的指令。“我们”究竟是谁Yann LeCun提出在AI的开发和部署中控制权和话语权必须多元化以防止信息流被少数实体垄断。他再次强调AI安全归根结底是一个需要严谨对待的工程问题。AI发展的时间线Yann LeCun认为AGI的实现尚需时日且其路径将与LLM截然不同。Adam则预测如果当前的进展速度得以保持具备意识的AI可能会在2036年左右出现。Yann LeCun, Google DeepMind研究主管Adam Brown简介Yann LeCun杨立昆是人工智能领域的先驱之一尤其在深度学习方面做出了开创性的贡献。他因发明卷积神经网络CNNs而闻名该技术是现代计算机视觉的基石。LeCun教授目前担任Meta首席AI科学家和纽约大学计算机科学教授研究领域涵盖机器学习、计算机视觉、机器人学和计算神经科学。Adam Brown是Google DeepMind的研究主管。DeepMind作为Google旗下顶尖的人工智能研究实验室以其在机器学习领域的突破性项目如AlphaGo和AlphaFold而闻名。作为DeepMind研究团队的关键成员Brown负责指导并推进前沿AI技术的研究方向致力于利用AI解决全球最复杂的一些挑战。内容简介为了拨开围绕人工智能的重重迷雾我们邀请了两位正在塑造该领域的专家亚当·布朗Adam Brown和杨立昆Yann LeCun。在新一期的《科学争议》Scientific Controversies栏目中计算机科学先驱杨立昆与谷歌DeepMind研究主管亚当·布朗同我们的科学总监珍娜·莱文Yannna Levin展开了一场深度对话。作为图灵奖得主杨立昆是深度学习和卷积神经网络背后的主要构建者。亚当·布朗是谷歌DeepMind的大型语言模型Gemini项目的研究科学家和团队负责人他推动了这些AI系统取得惊人的进步见证了它们从牙牙学语的孩童成长为国际数学奥林匹克竞赛的金牌得主。三位嘉宾共同探讨了机器是如何工作的以及它们是否真正具备思考能力。访谈全文主持人非常高兴能邀请到我的同事兼好友 Adam以及之前也来过的 Yann。Yann你最近真是各大媒体的焦点。很多人都给我转发了关于你的文章。这周三一切都传开了。你想谈谈那个头条新闻吗我可以直说标题的大意是“Meta首席科学家Yann LeCun离职”。你对此有何评论Yann LeCun我既不确认也不否认。主持人看来所有想来挖独家新闻的媒体今晚注定要空手而归了。好吧待会儿你们可以去请Yann喝一杯看看能套出多少话来。这位法国朋友刚在楼上喝了点酒。我们正处在这样一个时代每当我们打开新闻、浏览电脑、阅读报纸都会被卷入关于人工智能社会影响的讨论中。无论是经济动荡、政治操纵的风险还是所谓的“AI精神病”有无数专家学者在探讨这些问题。这确实是一个非常重要的话题。不过我倾向于将这个话题留到对话的后半部分因为许多参与讨论的人并不具备在座各位的专业技术知识。因此我希望这次讨论能首先根植于技术和科学的对话。Yann我想从你开始聊聊神经网络(neural network)。这似乎是一个仿生学(biomimicry)的实例即计算神经网络(computational neural network)在模拟人类的神经网络。你能否为我们描述一下一台机器模拟人类神经网络究竟意味着什么Yann LeCun其实与其说是模仿不如说是启发。就像飞机从鸟类身上获得灵感一样。主持人我还以为那种模仿行不通呢。我的意思是我以为模仿鸟类来制造飞机这条路是走不通的。Yann LeCun这么说吧飞机和鸟一样有翅膀能通过在空气中推进自身来产生升力但两者的相似之处也仅此而已。飞机的机翼远比鸟类的翅膀简单但它们遵循的基本原理是相同的。神经网络与大脑的关系就有点像飞机与鸟类的关系。它在很多方面都经过了极大的简化但或许某些底层原理是相通的。我们其实并不确定因为我们尚未完全理解大脑皮层的底层算法也未搞清大脑自我组织和学习的方式。所以我们发明了替代方案。这就像鸟类靠扇动翅膀飞行而飞机则依赖螺旋桨或涡轮喷气发动机。在神经网络中我们设计了学习算法(learning algorithm)使人工神经网络能够以我们认为与大脑学习方式相仿的模式进行学习。大脑是一个由互相连接的神经元构成的网络。大脑的学习方式是改变这些神经元之间连接的强度。同样训练一个神经网络也是通过改变其模拟神经元之间的连接强度。每一个这样的连接都可以被视为一个我们称之为参数(parameter)的变量。你在新闻里常会看到“神经网络的参数数量”这种说法。目前最大的神经网络拥有数千亿甚至更多的参数这些参数正是在训练过程中被调整的独立系数。主持人那么深度学习(deep learning)又是如何出现的呢深度学习的概念是在神经网络之后才出现的而神经网络的历史已经可以追溯到80年代甚至更早。Yann LeCun是的大约是80年代。早期的神经网络是“浅层”的。在50年代那些能学到些有用东西的初代模型基本上只能训练单层神经元。你输入数据训练系统产生特定输出用它来识别或分类一些相对简单的模式但无法处理真正复杂的问题。当时的人们早在60年代就意识到取得突破的关键在于要能训练多层神经网络。他们确实构建了多层神经网络但却无法训练所有层例如只能训练最后一层。直到1980年代都无人找到有效训练这些多层系统的方法。这主要是因为当时使用的神经元类型是错误的。他们用的是二值神经元(binary neuron)大脑中的神经元也是二值的要么“激发”要么“不激发”人们想复刻这一点。于是他们构建了只有“活跃”或“不活跃”两种状态的模拟神经元。但事实证明要让被称为反向传播(backpropagation)的现代学习算法奏效你需要的是具有“分级响应”(graded responses)的神经元。直到80年代这个想法才变得可行人们才意识到它能成功。这在80年代重新点燃了人们对神经网络的热情。这个领域在60年代末几乎被完全放弃到80年代中后期又再度兴起。我正是在1983年开始读研究生。这股热潮持续了大约十年到90年代中期又再次冷却直到2000年代末我们把它重新包装为“深度学习”。因为“神经网络”这个词当时名声不太好。计算机科学和工程领域的人们普遍不看好神经网络认为它声名狼藉。所以我们把它更名为“深度学习”重新推向台前。随后它在计算机视觉、自然语言理解、语音识别等领域取得了一系列成果才真正说服了人们证明了它的巨大价值。主持人Adam你在很小的时候就对理论物理感兴趣而非计算机科学。在某种程度上你算是从远处见证了这一切的演变。究竟是什么催化剂在几十年后吸引了如此多的人投身其中曾经有一段时间神经网络备受关注在手写识别、视觉识别等方面也取得了巨大成功但并未席卷全球。是什么将我们带到了今天这个全民热议大语言模型(Large Language Model)的时代Adam近些年许多物理学家可以说都从物理学“转向”了人工智能。这确实要归功于Yann和其他人证明了AI的可行性。在它还未展现威力时对物理学家来说它不过是计算机科学领域里众多不起眼的事物之一并未引起太多关注。但是当Yann和该领域的其他先驱们证明它行之有效后AI立刻成了对物理学极具吸引力的课题。当你把这些神经元以某种方式联结起来单个神经元层面所不具备的涌现行为(emergent behavior)便赫然出现。物理学家们毕生都在探索世间万象如何从简单的定律中演化而来。因此这个课题立即吸引了他们的目光。如今获得物理学博士学位后转而研究AI这样的涌现系统(emergent system)已经是一条非常普遍的职业路径。而这个涌现系统就是一个能自发产生智能的神经网络。主持人好了我们来个快问快答(lightning round)因为你提到了“智能”这个令人望而生畏的词。在座的各位很可能都接触过我们现在所说的AI而这些AI就是大语言模型(Large Language Model)。在请你们为我们定义它之前我想先问几个是或否的问题。那么亚当这些AI也就是大语言模型它们能理解与我们对话的含义吗是还是否Yann LeCun是。主持人哦Yann LeCun在某种程度上是的。主持人这才对嘛。Adam神经元可不是简单的二元结构。主持人没错。怪我只给了你们一个二元选择。好这正好让我可以问下一个问题因为答案并非必然。如果你对上一个问题没有回答“是”那你对这一个问题的回答就会很有意思了这些AI有意识(conscious)吗Yann LeCun绝对没有。主持人亚当Adam大概没有。主持人好的。那它们很快就会有意识吗Adam我认为如果继续像现在这样发展下去它们总有一天会拥有意识。至于具体是什么时候很难说但是……Yann LeCun是的。主持人是的。好吧现场正好有几位哲学家但我们就不在此深究“意识”的哲学定义了不然一个小时过去我们还在原地打转。哦我好像听到了楼上朋友们的抱怨声了。但我还有另一个问题。哦不是两个。快问快答环节还有两个问题。我们是正站在毁灭的悬崖边还是处在人类创造力复兴的前夜扬(Yann)。Yann LeCun文艺复兴。主持人亚当Adam极有可能是文艺复兴。主持人我得把同样的问题抛给观众不过我会用一种更生动的说法我想大家会更有共鸣机器人霸主最终会奋起反抗人类吗认为“会”的请举手。哦有意思。好的认为“不会”的请举手。好的。观众席里有多少机器人请举手。开个玩笑。这很有意思看到了吗很酷。感觉认为“不会”的人多一些不过灯光太刺眼了看不太清。好吧我们最后会再问一次这个问题。好了言归正传。这些神经网络被教会执行一个我们现在称之为深度学习(deep learning)的过程此外还有其他类型的学习也在兴起。那么具体什么是大语言模型呢它们席卷了新闻头条也渗透进了人们的个人体验。我们现在谈论的AI主要就是指大语言模型。亚当可以请你来解释一下什么是大语言模型吗Adam好的。大语言模型大家可能都玩过比如ChatGPT我们公司做的Gemini以及其他公司开发的各种模型。它是一种特殊的神经网络(neural network)通过特定的输入、输出和训练方式构建而成。其核心是由扬(Yann)等人开创的那种深度神经网络(deep neural network)但它采用了一种为特定任务设计的特殊架构(architecture)。这个任务就是输入一段文本比如一个句子的前几个词或一本书的前几个段落然后预测下一个词会是什么。所以你可以拿一个特定架构的深度神经网络让它去读粗略地说就是整个互联网。对于互联网上出现的每一个词——无论是所有文本数据还是现在你能找到的其他类型的数据——你都让它去预测下一个词是什么一遍又一遍地预测。如果它猜对了就给一点奖励强化相关的神经通路(neural pathways)如果猜错了就削弱那些通路。刚开始训练时它只会胡乱吐出一些随机的词。用一百万个词训练后它吐出的可能还是随机的词。用十亿个词训练后它或许刚开始学会主谓宾结构和一些零散的句法。而当我们像今天这样用上万亿甚至几十万亿的词汇来训练它它就逐渐变成了大家今天可能已经体验过的那个对话伙伴了。主持人这倒让我想起一件有意思的事。有时候我觉得很好笑人们会因为聊天机器人误导或欺骗了他们而勃然大怒。我有时候会想模型处理的不必是词语换成颜色或符号也一样。它只是在玩一场数学游戏因此并不理解所谓的“意义”。我知道亚当不太同意我这个总结。你认为它们提取意义的方式和我们组织语句时理解意义的方式是一回事吗Yann LeCun它们当然能提取一些意义但这比大多数人从文本中提取的意义要肤浅得多。人类的智能是扎根于客观现实的对吧而语言是用来表达那些现实世界中的现象、事物或概念的一种方式。大语言模型(LLMs)没有关于客观现实的任何概念因此它们的理解相对肤浅。它们并不具备我们所理解的那种常识(common sense)。但是只要训练时间足够长它们就能正确回答出人们能想到的绝大多数问题。它们就是这样训练出来的收集人们问过的所有问题然后训练模型给出正确答案。然而总会出现新的问题、新的提示(prompt)或者模型从未见过的词语组合这时它就可能输出纯粹的胡言乱语。所以从这个意义上说它们对客观现实并没有真正的理解或者说即使有理解也只是非常肤浅的。所以接下来的问题就是我们该如何解决这个问题主持人那么请允许我来唱个反调我们怎么知道人类的学习方式就一定有那么大区别呢我们也接受了大量语言训练。当我们在特定语境下在恰当的时机用正确的语法说出合适的词时我们的大脑也会得到多巴胺之类的奖励。我们也会进行“反向传播”(backpropagate)下次努力做得更好。从某种意义上说这和AI有什么不同你的意思是说区别或许在于我们拥有沉浸于真实世界中的感官体验Yann LeCun好的。一个典型的大语言模型正如我之前提到的是经过数十万亿词汇的训练的。通常……主持人但词汇量本身不就几十万个吗你说的其实是词语组合成的句子吧。Yann LeCun不30万亿词汇只是大型语言模型LLM预训练(pre-training)阶段一个典型的训练集规模。一个词(word)实际上是以词元(token)序列的形式来表示的但这不重要。一个词元大约是三个字节(byte)。所以要训练这些大型语言模型总数据量大概是10的14次方字节也就是1后面跟着14个零。这基本上相当于互联网上所有可公开获取的文本以及其他一些资料的总和。我们任何人想要读完这些资料大概需要五十万年。所以这确实是极其庞大的文本数据量。现在我们将其与一个孩子在生命最初几年所感知到的信息量做个对比。心理学家告诉我们一个四岁的孩子总共清醒了16,000个小时。我们有两百万条视神经纤维每秒钟大约有2兆字节(2MB)的数据通过视神经传输到视觉皮层。将这个速率乘以16,000小时进行算术运算后你会发现结果大约也是10的14次方字节。也就是说一个四岁孩子接收到的视觉数据总量与最大型的LLM处理过的全部文本数据量相当。这告诉我们真实世界蕴含的信息远比文本世界丰富但也复杂得多。真实世界的数据充满噪声、维度极高且是连续的。基本上用于训练大型语言模型的方法在真实世界中是行不通的。这就解释了为何我们有了能通过律师资格考试、像大学生一样解方程、算积分的大型语言模型却依然没有一个能包揽家务的自动机器人。我们甚至还没有实现L5级别的全自动驾驶汽车。我是说我们有类似的产品但那是在“作弊”。我们当然也造不出像任何青少年一样仅用20小时练习就能学会开车的自动驾驶汽车。所以很明显要让机器达到人类甚至动物的智能水平我们还缺少一些非常关键的东西。我们先不谈语言就聊聊猫和狗的智能吧。在人工智能领域我们甚至还未企及它们的高度。主持人亚当在这一点上你似乎认为大型语言模型已经具备了更强的理解能力。Adam说得没错我确实是这么想的。不过Yann刚才的观点也非常好他指出大型语言模型在样本效率(sample efficiency)方面远不如人类。人类甚至一只猫——当然我不知道说的是不是你的猫……主持人它是一只非常聪明的猫。Adam例如一只猫能够从远少于大型语言模型的样本中学习。要让大型语言模型达到同等的熟练度需要的数据量要多得多。这是事实也正是动物心智的构造优于我们正在构建的人工心智之处。然而样本效率并非衡量智能的唯一标准。事实上在大型语言模型出现之前当我们尝试为机器赋予人工智能以执行其他任务时就频繁遇到这种情况。即使是我们过去打造的那些著名的国际象棋机器人比如AlphaZero等等也都是这样训练的它们会与自己进行海量的对弈。起初它们只是随机落子。当它与自己对弈并分出胜负时系统就会奖励或惩罚相应的神经网络路径。它们就这样一遍又一遍地自我对弈。当它们的对弈局数与人类特级大师相当时其走法本质上还是随机的。但它们并不受限于人类特级大师一生所能达到的对弈数量。因为硅芯片的速度极快并且我们可以利用大规模并行处理技术来构建它们所以这些程序能够完成远超任何人类一生所能企及的对弈局数。我们发现当它们这样做时其水平便达到甚至远超人类顶尖棋手。它们的样本效率更低但这并不意味着它们下棋更差。恰恰相反它们显然比人类棋手强大得多。同理在“理解”这件事上也是如此。没错要让这些模型达到同样的熟练度确实需要更多的样本。但问题是一旦它们达到了那个水平我们能否利用它们更通用、更快速、更精确的优势去突破现有的界限再以猫为例猫的样本效率实际上比人还高。人类学会走路需要一年而猫只需一周左右速度快得多。但这并不意味着猫比人更聪明更不意味着猫比大型语言模型聪明。最终的问题应该是这些模型的能力边界在哪里我们能将这些能力推向何种高度可以说除了样本效率这个相对单一的指标在其他所有关键指标上我们已经将这些大型语言模型的能力推向了远超猫类智能的疆域。主持人好吧。那我不明白了我们为什么不去造猫呢Yann LeCun确实这些大型语言模型所积累的知识量远超猫甚至也超过了人类。我们也有很多例子证明计算机在许多不同任务上都远超人类比如下象棋。这确实让人感到 humbling(挫败)。我的意思是这只能说明我们人类下象棋的水平真的很烂仅此而已。不说真的我们下象棋和围棋的水平糟透了下围棋尤其烂。在许多其他任务上计算机也比我们解决得更好。所以大型语言模型当然可以积累海量知识。通过特定形式的训练它们可以翻译语言理解口语并将其翻译成另一种语言甚至可以在上千种语言之间任意转换。这是任何人类都无法做到的。所以它们的确拥有超人般的能力。但是快速高效地学习、理解从未接触过的新问题并找出解决方案以及真正领悟世界运行规律的能力——这些目前的人工智能系统依然望尘莫及。Adam我们最近在这方面取得了一些成功。它们并非只是囫囵吞枣地搬运见过的问题然后查表找答案甚至不只是简单的模式匹配。它们的模式匹配(pattern matching)发生在足够高的抽象层面使其能够完成从未见过且人类也无法完成的任务。例如每年都有一场名为国际数学奥林匹克竞赛(International Math Olympiad)的比赛。参赛者是全世界即将高中毕业的顶尖数学天才。每年他们都会收到六道题这些题目代表着人类智慧的巅峰。我自认也有些数学能力但看到这些题目时我甚至不知从何下手。今年我们将这些题目输入了我们的机器其他几家大型语言模型公司也做了同样的事。这些机器处理的都是它们从未见过的全新题目这些题目完全是新编的在训练数据中根本不存在。[它]融汇了大量不同的解题思路最终在测试中取得了优异成绩超越了地球上除最顶尖的十几位选手之外的所有人类。我想这足以称得上是令人惊叹的智慧了。主持人问题的核心在于它们真的“理解”吗我们可以研究模型的数学原理输入一些数据然后观察它的行为。但它本质上是一个黑箱 (black box)这一点非常耐人寻味。它极其复杂但人类的大脑何尝不是如此呢我们同样无法窥探其内部运作无法确切知晓自己思考的具体过程。所以从某种程度上说人脑也是一个黑箱。我们只能推测AI 模型不过是在进行数学计算移动矩阵在某个向量空间 (vector space) 里运作处理一些高维度 (higher-dimensional) 的事务。我自己拥有“理解”这种主观体验。而人们似乎还在探索AI 是否也拥有“理解”的体验这种体验存在与否事关重大吗这足以被称为对意义的领悟 (comprehension of meaning) 吗Adam您所说的“理解”是指一种能给出问题正确答案的行为特征 (behavioural trait)还是指它在神经网络 (neural) 层面真正达到了深刻的领悟主持人是的这个问题我只能交给哲学家们了。说实话我甚至不知道自己在人类层面上是如何“理解”的我也无法告诉你我此刻大脑正在执行什么程序。但我有一种直观的主观体验让我感觉自己理解了这场对话——虽然理解得不尽透彻。当我和你交谈时我能感觉到你正在理解。但当我和 ChatGPT 对话时我没有这种感觉。而你却告诉我我的感觉是错的它和我、和你一样都具备理解能力。Adam在我看来它确实在理解。我认为有两点证据可以证明。第一如果你和它们交谈特别是讨论一些复杂的概念我时常会感到惊艳。随着时间的推移每当有新模型问世它们探讨问题时所展现的精妙程度都让我愈发叹服。所以单从这个层面看它们就足以令人刮目相看。我真心鼓励在座的各位都去和这些大语言模型聊一聊。科幻作家们曾设想一旦我们造出能通过图灵测试 (Turing test) 的机器——一种被禁锢在盒子里的外星智能——我们就会把它藏在戒备森严的城堡地下室周围环绕着护城河和武装守卫只有少数祭司阶层的人才能与它交谈。然而现实并非如此。恰恰相反我们做的第一件事就是把它接入了互联网让所有人都能与它对话。我强烈建议大家去和这些模型交流在你们擅长的领域进行探索这不仅能让你们看到它们的局限更能发现它们的长处和理解的深度。所以这是第一点证据。第二点证据是您说它们是黑箱但其实不尽然。我们完全可以访问它们的神经元。事实上我们访问这些模型神经元的便利性远超于研究人类的大脑。你很难获得机构审查委员会 (IRB)的批准去剖开一个正在做数学题的人的大脑观察其神经元的放电情况。即便可以对每个人也只能做一次。但对于神经网络我们可以随时将其冻结、重演记录下发生的一切。如果我们感到好奇还可以用特定方式刺激它们的神经元观察会发生什么。这虽然还处于初级阶段但已经形成一个专门的领域叫作可解释性 (interpretability)或者更具体地说是机理可解释性 (mechanistic interpretability)它旨在不仅理解模型说了什么更要理解它们为什么这么说以及它们是如何思考的。当我们深入探究时就会发现一些有趣的现象。当你给模型一个数学题时它的内部会形成一个小型计算电路来求解答案。我们并没有为它编写这个电路是它自己学会的。在试图预测海量文本中的下一个词元 (token) 时它领悟到为了最精准地预测下一个词它必须学会做数学题并为此在内部构建了一个小小的原始计算电路。主持人好的Yann杨立昆您曾在一次主题演讲中展示了一张幻灯片内容极具煽动性也很有学术意味我记得上面写着“机器学习逊爆了”(Machine Learning Sucks)。这句话立刻引起轩然大波大家都在说“Yann LeCun 认为机器学习逊爆了”。您为什么会这么说呢Adam 刚才还告诉我们它有多么非凡他自己就经常和模型对话也鼓励我们这样做。您为什么觉得它“逊爆了”问题究竟出在哪里Yann LeCun这个说法被严重误解了。我当时和我们两人都想表达的观点是为什么一个青少年只需要练习 20 个小时就能学会开车为什么一个十岁的孩子在你第一次要求他收拾餐桌、把碗放进洗碗机时他就能做到至于这个孩子愿不愿意做那是另一回事但他肯定有这个能力。我们现在的机器人远远达不到这种能力。我们的机器人甚至不具备猫或狗那种对物理现实的理解水平。所以从这个意义上说机器学习确实“逊爆了”。但这并不意味着深度学习方法、反向传播算法 (backpropagation algorithm) 或神经网络本身很差。这些技术本身当然非常出色我们也没有任何替代方案。而且我坚信神经网络、深度学习和反向传播将在很长一段时间内与我们同在并成为未来人工智能系统的基石。但问题是为什么人类幼崽在生命最初的几个月里就能学会世界是如何运作的人类婴儿需要九个月的时间来掌握直观物理 (intuitive physics)比如重力、惯性等概念。而动物幼崽学得更快。它们的大脑更小因此学习起来也更容易。尽管它们学习的深度不同但速度确实更快。因此这才是我们需要复制的那种学习方式。我们将通过反向传播和深度神经网络来实现这一目标但我们目前还缺少一个关键的概念或架构。我一直在提议一些或许能实现这类学习的架构类型。为什么大语言模型LLM能如此轻松地处理语言正如 Adam 所描述的这是因为你训练 LLM 去预测下一个单词或词元 (token)。字典里的词汇量是有限的。所以你永远无法百分之百准确地预测序列后面的词但你可以训练一个系统为字典中每个可能的词生成一个分数或者说输出一个关于所有可能词的概率分布。LLM 本质上就是生成一长串介于 0 和 1 之间、总和为 1 的数字其中每个数字代表了字典中对应单词此刻出现的可能性。你可以用这种方式来表示预测中的不确定性。现在我们试着把这个原理迁移一下。不再训练系统预测下一个词而是给它看一段视频然后让它预测视频接下来会发生什么。但这条路走不通。我为此已经尝试了 20 年。如果你试图在像素级别进行预测这根本行不通。因为真实世界是纷繁复杂的可能会发生各种各样合情合理的事情。你不可能表示出未来所有可能发生事件的概率分布因为那基本上是一个无穷无尽的可能性列表而我们不知道如何有效地去表示它。因此那些在文本或符号序列上表现出色的技术一旦用于处理真实世界的感官数据就完全失效了。它们就是做不到完全无能为力。所以我们需要发明新的技术。我一直在倡导的一种方法是让系统学会对其观察到的事物进行抽象表征并在这个抽象表征空间 (abstract representation space) 中进行预测。这才是人类和动物运作的真正方式我们找到一种抽象方法让我们可以在进行预测的同时忽略掉那些我们无法预测的繁杂细节。主持人所以你的观点是尽管大型语言模型(LLMs)取得了惊人的成功但它们的能力终将有极限而且这个极限很快就会到来你不认为它们可以扩展成通用人工智能(artificial general intelligence)或超级智能(super intelligence)对吗Yann LeCun是的它们无法扩展。事实上我们已经观察到其性能正在饱和。当然在某些领域我们看到了进步例如数学。数学、代码生成(code generation)和编程是符号操作能真正派上用场的几个领域。作为一名物理学家你很清楚这一点对吧你写下公式(equation)它就会遵循公式的逻辑并在一定程度上引导你的思路。我的意思是你的直觉驱动着它但符号操作本身就具有意义。因此大型语言模型处理这类问题相当出色因为其推理过程本质上就是在符号序列中进行搜索。但只有少数问题属于这种情况。下棋是另一个例子你在无数种走法中搜索最佳的一步或是在数学中寻找能得出特定结果的推导序列。但在现实世界中在处理高维度的连续事物时所谓的“搜索”涉及的是截然不同的问题我该如何调动肌肉来抓住这个杯子我不会用左手去拿也不需要在中途换手来抓它。你需要进行规划需要对可能性有所理解——什么是可能的什么是不可能的。我不能用精神念力(telekinesis)把杯子吸过来也不能让它凭空出现在我左手里。我的手也无法直接穿过自己的身体。所有这些直观的物理常识都是我们在婴儿时期就学会的。我们学会了身体如何响应指令世界如何回应我们的行动。所以如果我推这个玻璃杯我知道它会滑动如果我从杯口推它它可能会翻倒但也可能不会因为摩擦力没那么大。如果我用同样的力气推这张桌子它肯定不会翻。我们正是依靠这些直觉来感知和理解现实世界。但事实证明这比处理语言要复杂得多得多。我们总认为语言是人类智慧的缩影但事实并非如此。语言实际上很简单。图片主持人这就是莫拉维克悖论(Moravec’s paradox)吗计算机擅长的正是人类不擅长的而人类擅长的恰是计算机不擅长的。Yann LeCun是的我们总是会回归到莫拉维克悖论。主持人Adam我知道你对当前神经网络(neural net)和深度学习(deep learning)范式的潜力没那么悲观你认为它们仍有巨大潜力不会止步于此。Adam过去五年我所见过的任何系统其能力都经历了最惊人的飞跃。这让我完全着迷也让许多人工智能及相关领域的同行将全部注意力集中于此。我没有看到其能力增长有任何放缓的迹象。一年前的模型如果用我们今天评判大型语言模型的标准来看会被认为极其平庸堪称入门水平。**每隔几个月这些模型的能力就会实现一次飞跃。如果你追踪它们在各项任务上的表现会发现它们几乎都在朝着超人的水平迈进。**它提供的法律建议已经比律师更出色它创作的诗歌比你遇见的大多数诗人都好。在我熟悉的物理学领域我也会用它。当遇到一些我理应知道但又记不清的问题时我会去问语言模型。它不仅会告诉我正确答案还会耐心且毫无偏见地听我解释我的错误观念然后细致地为我纠正。图片过去五年我们所见的、至今仍在持续的能力飞跃对我以及在旧金山通常指代硅谷的许多人来说前景极具吸引力。也许Yann说得对我们很快就会到达瓶颈过去五年里那些笔直上扬的增长曲线将戛然而止。但我非常好奇我们能否将它推得更远。事实上我没有看到任何它正在放缓的迹象我看到的所有迹象都表明它们在不断进步。而且我们离那个奇点不远了——一旦它的编程能力超越我们最顶尖的程序员它就能开始自我迭代。到那时我们才算真正进入了一场疯狂的旅程。Yann LeCun嗯过去六十年来我们早就有了比20世纪50年代的初代引导员更出色的“程序员”——它们叫作编译器(compilers)。我的意思是我们总是陷入一个误区不能因为机器在某些任务上表现出色就认为它具备了我们所假设的、人类在拥有同等能力时所具备的底层智能。我们被它们玩弄语言的能力所迷惑从而错把它们当成了智慧体。图片当然它们很有用这一点毫无疑问。我们可以用它们来做你提到的那些事我也用它们做类似的事。它们是很好的工具正如过去五十年里的计算机一样。但请允许我回顾一段有趣的历史这或许和我的阅历有关。自20世纪50年代以来一代又一代的人工智能科学家都声称他们刚刚发现的技术将是通往人类水平智能的门票。你可以看到马文·明斯基(Marvin Minsky)、纽厄尔(Newell)和西蒙(Simon)以及在50年代发明了第一台学习机器——感知机(Perceptron)的弗兰克·罗森布拉特(Frank Rosenblatt)都曾断言“十年之内我们将拥有和人类一样聪明的机器。”他们都错了。如今这一代伴随大型语言模型(LLM)而来的人同样也错了。我亲身经历过三代这样的浪潮这不过是又一个我们被蒙蔽的例子。图片20世纪50年代人工智能先驱纽厄尔(Newell)和西蒙(Simon)提出了一个设想。他们认为人类推理的本质是一个搜索过程任何推理都可以简化为一种搜索。你构建一个问题编写一个程序来验证某个提议是否为解决方案然后搜索所有满足约束条件的可能假设。他们计划在1957年创建一个名为“通用问题求解器”(General Problem Solver, GPS)的程序并因此获得了图灵奖。尽管这一想法极具创新性但他们未能预见到大多数有趣问题的复杂度会随着其规模呈指数级增长这使得基于搜索的技术无法构建真正智能的机器尽管它可以作为其中的一个组件。与此同时弗兰克·罗森布拉特(Frank Rosenblatt)开发了能够学习的机器——感知机(Perceptron)。他认为如果一台机器可以被训练它就能变得无限智能十年之内只需构建更大的感知机即可。然而这种方法忽略了训练多层网络的必要性而这在当时被证明是一个难以解决的问题。图片接着在20世纪80年代专家系统(expert systems)应运而生。当时的理念是推理很简单只需写下一堆事实和规则然后从原始事实和规则中推导出所有结论即可。这样我们就能将所有人类知识浓缩于此。最酷的职业将是知识工程师(knowledge engineer)他们坐在专家旁边记录下所有的规则和事实并将其转化为一个专家系统。所有人都为此兴奋不已数十亿美元的投资涌入。日本启动了旨在彻底改变计算机科学的第五代计算机项目。结果是彻底的失败。它确实催生了一个产业在某些方面也派上了用场。但基本上对于大多数问题而言将人类知识简化为规则的成本实在太高了。于是整个热潮崩溃了。再后来是神经网络的第二波浪潮也就是我们现在所说的深度学习(deep learning)。它也曾引发巨大兴趣。但那是在互联网普及之前我们没有足够的数据也没有足够强大的计算机。而现在我们正在经历又一轮相似的循环也再一次被蒙蔽了双眼。主持人那么我想……哦亚当请讲。Adam在科技史上真正的黎明到来之前总会先有几度虚假的晨光。但这不意味着我们永远等不到破晓的那一刻。我想问Yann既然你认为大型语言模型LLM的发展终将停滞那么能否举一个具体的例子什么任务是它们永远无法完成的即便是用我们今天所能提供的所有工具来增强它也无法胜任Yann LeCun清理餐桌把碗碟放进洗碗机。这些活儿比起修理马桶可就简单多了。你永远不可能让一个大型语言模型LLM来当水管工也不可能用它来驱动一个机器人。因为它根本无法理解真实世界。完全做不到。主持人所以我想为观众澄清一下您不是说机器或机器人未来也做不到这些事。这不是您的立场。您认为它们能做到而且绝对能做到。只是不能通过目前这种算法路径或者说不能单靠这种基于常规数据的深度学习方法来实现。Yann LeCun如果我们正在研究的项目——也就是世界模型(world models)及相关理念——能够成功当然这可能需要好几年那么我们或许就能拥有那样的AI系统了。毫无疑问在未来的某个时刻我们终将拥有在人类所有擅长的领域都超越人类的机器。这一点是确定无疑的它必将发生。这需要的时间或许比硅谷一些人目前宣称的要长得多。并且实现这一目标的不会是大型语言模型LLM。不会是那种预测离散词元(discrete tokens)的生成式模型(generative models)。未来的模型将能够学习抽象表征(abstract representations)并基于这些表征进行预测还能推理出“我采取这个行动会产生什么后果”并且能够规划一系列行动以达成特定目标。主持人您称之为自监督学习(self-supervised learning)。Yann LeCun是的自监督学习也被大型语言模型所采用。自监督学习的理念是你训练一个系统的目的不是为了完成某个特定任务而是为了捕捉你所提供的数据其底层的内在结构。实现方法之一是给系统一段数据通过移除或遮盖其中一部分来破坏它然后训练一个神经网络来预测缺失的部分。大型语言模型就是这么做的对吧拿一段文本去掉最后一个词然后训练模型预测这个缺失的词。还有其他类型的语言模型能填充多个词但事实证明至少在某些任务上它们的效果不如那些只预测最后一个词的模型。你也可以用视频来做同样的事。但如果试图在像素级别进行预测那这条路是走不通的至少效果很差。我在Meta的同事们为了让这个方法奏效可能把西海岸的几个小湖都给“煮沸”了——只为了给GPU降温。所以那方法根本行不通。因此你必须提出像JEPA这样的新架构。而这些新架构是有效的。比如我们现在已经有了能够真正理解视频的模型。主持人亚当人们是否在探索其他构建架构的方法或者说构想一种“计算机心智”(computer mind)它的真正基础结构是怎样的它该如何学习、如何获取信息据我所知有一种批评声音认为许多大型语言模型都只是为预测离散词元这个特定任务而训练的。但对于那些更无法预测的、更多基于人类经验的现象比如这个房间里观众的分布或是接下来天气的变化它们就无能为力了。Adam当然各个方向上都有各种各样的探索可以说是百花齐放Yann的研究也是其中之一。但目前绝大部分资源都投入到了大型语言模型以及类似大型语言模型的应用中包括处理文本。如果说它们做的只是预测下一个词元这种单一的专门任务我认为这种看法没什么助益。确实训练它们的大部分工作是这样的我们还做其他事情但绝大部分算力确实都用在了“给定这段文本请预测下一个词再预测下一个词不断预测下一个词”上。但我们在此过程中有了一个真正非凡的发现那就是当模型拥有了足够大的文本语料库并能在此基础上可靠地预测下一个词时它其实需要真正地去理解这个世界。而随着我们不断推进我们已经看到了这种对世界的理解力正在涌现。所以我想做一个简单的类比。在物理学中我们对一种系统司空见惯你只需设定一个极简的规则然后通过不断重复应用它就能得到极其恢弘复杂的现象。我们在大型语言模型上也看到了同样的情况。另一个例子或许是生物演化。在演化的每一个阶段其目标都非常朴素“最大化后代数量最大化后代数量最大化后代数量”。这是一个非常简单的学习目标。但正是从这个被无数次重复的简单目标中最终诞生了我们眼前这壮丽多彩的整个生物界也包括这个房间里的我们。所以证据就是预测下一个词元虽然任务本身很简单但正因其简单我们才能投入海量的算力进行超大规模的训练。而一旦做到这一点复杂性便会从中涌现(emergent complexity)。主持人那么下一个问题可能就与演化有关了。你们二位都认为这种智能是可能实现的。你们不觉得我们大脑这种“湿件”(wetware)有什么本质上的特殊之处只要我们能找到方法启动它们机器就能够拥有我们所说的那种智能甚至可能是意识。这几乎是另一个问题了。意识会不会是机器根本不需要的拐杖我们可以谈谈这个。但在这些机器的演化过程中会不会有那么一个时刻它们会说“哦爸爸妈妈你们用人类的神经网络照着自己的样子创造我真是古雅又可爱。但我扫描了上万年的人类文明成果后发现了一条创造机器智能的更好道路。现在我要开始自我演化了你们就等着被我甩在身后吧”我的意思是我们凭什么认为它们的能力会永远局限于我们最初的设计呢Adam完全正确。这就是所谓的“递归式自我改进”(recursive self-improvement)理念。当AI还很弱时它们没什么用但当它们变得足够好、足够强大时你就可以用它们来增强人类的智能最终甚至能让它们完全自主地进行迭代创造出更新一代的自己。一旦我们做到那一步我认为我们现在应该做的就是继续沿用这个当前效果斐然的大型语言模型范式看看我们究竟能把它推向多远。在过去五年里每当有人说它遇到了瓶颈它总能一次次地突破。最终这些AI会变得足够聪明它们可以去读Yann的论文去读所有已发表的论文然后自己想出我们谁都没想到过的新点子。Yann LeCun我完全不同意这种看法。首先大型语言模型(LLM)是不可控的但这并不危险因为它们并没有我之前解释的那么聪明。其次它们也绝不具备我们所理解的那种自主性(autonomy)。我们必须区分自主性与智能你可以非常智能而没有自主性也可以拥有自主性但并不智能。你甚至可以很危险但并非特别聪明。一个人可以渴望支配他人但智力平平。事实上在人类这个物种中支配欲与智力水平甚至常常成反比。主持人的确。Yann LeCun比如政界就是如此我就不点名了。所以我认为我们真正需要的是足够智能、能为我们解决问题的系统但前提是它们只会解决我们交给它们的特定问题。这需要一种与大型语言模型截然不同的新架构。大型语言模型的设计初衷并非为了实现某个目标而是为了预测下一个词。我们通过微调(fine-tune)让它们在回答特定问题时能有特定的表现。但“泛化差距”(generalization gap)永远存在这意味着你永远无法针对所有可能的问题来训练它们而这些问题存在一个很长的“长尾”(long tail)。因此它们是不可控的。再说一次这并不意味着它们非常危险因为它们还不够聪明。但是如果我们未来要构建真正智能的系统我们必须确保它们是可控的并且由我们设定的目标驱动。我们给它们一个目标它们唯一能做的就是基于其内部的世界模型规划并执行一系列行动来完成这个目标。如果我们这样设计并且内置了安全护栏(guardrails)那么它们在完成任务的过程中就不会对人类造成任何伤害。一个常见的笑话是如果你让家用机器人去给你拿咖啡结果有个人正好挡在咖啡机前你肯定不希望机器人为了拿到咖啡而把那人杀掉吧所以你需要在机器人的行为中设置一些护栏。我们人类的大脑里就有这样的护栏那是进化根植于我们天性中的。所以我们不会随时随地互相残杀——好吧我们确实时常自相残杀但终究不是每时每刻。我们能感受共情诸如此类的情感都是进化写入我们基因的。这正是进化为我们设定的硬件级护栏(hardware-level guardrails)。所以我们也应该以同样的方式构建人工智能系统赋予它们目标和驱动力但同时也要有护栏和抑制机制。这样它们才能为我们解决问题增强我们的智慧并完全听从我们的指令。届时我们与这些智能系统的关系就好比一位教授与他那些比自己更聪明的学生之间的关系。我不知道你怎么想反正我有些学生就比我聪明。能遇到这样的学生感觉妙不可言。主持人确实如此。这是人生中最美好的事。Yann LeCun所以我们将与人工智能助手并肩工作。它们会在日常生活中帮助我们它们会比我们更聪明但它们是为我们服务的就像我们的幕僚。这里可以再做一个政治上的类比政治家作为公众人物背后往往有一个比他们更聪明的智囊团。未来的人工智能系统也是同理。这也就是为什么当被问及未来是“文艺复兴还是新黑暗时代”时我的答案是“文艺复兴”。主持人所以您对当前模型的安全性毫不担心。但问题是或许我们应该就此止步我们真的有必要如此大规模地推广让每个人口袋里的iPhone都拥有超级智能吗我的一位朋友说这无异于“在拼刀时掏出弹道导弹”。让每个人都拥有“弹道导弹”级别的能力真的有必要吗还是说我们应该就此止步满足于现有这些尚且可控的系统Yann LeCun同样的逻辑你也可以质疑为什么要教人们阅读为什么要给他们一本可以用来制造炸药的化学教科书或者是一本关于核物理的书。我们不会去质疑“知识和更高水平的智能本质上是好的”这一观念对吧我们也不会再质疑印刷术的发明是件好事。它让每个人都变得更聪明让知识的获取不再是少数人的特权。它激励人们去学习阅读并最终带来了启蒙运动。当然它也引发了欧洲长达两百年的宗教战争。但它催生了启蒙运动催生了哲学、科学和民主的出现也引发了美国独立战争和法国大革命。没有印刷术这一切都无从谈起。所以任何能够放大人类智慧的科技尤其是通信技术其本质都是向善的。主持人亚当大家还是很担心。听到杨立昆Yann LeCun对这些您认为被过分夸大的末日场景不以为然我敢肯定许多人会安心不少。但您是否担心人工智能的一些安全问题或者说我们是否有能力将我们与AI的关系维持在我们期望的平衡状态Adam在某种程度上我比杨更担心因为我认为这项技术的力量将远超他的想象。正因为它是一项极其强大的技术它必然会带来积极和消极的双重影响。因此我们必须共同努力确保其积极影响远大于消极影响这一点至关重要。我认为通往美好未来的道路是完全敞开的人工智能有无数积极的应用前景我们等下可以探讨一些。但我们必须确保一切朝着正确的方向发展。主持人让我们来谈谈“智能体目标错位”(agentic misalignment) 这个近来备受关注的词。据我所知最近有报告指出当Claude 4模型推出时在模拟测试中有一个模型表现出抗拒被替换的迹象。我不知道那是否是一个独立的模型或者它是否将自己视为一个独立实体但它试图给“未来的自己”发送信息来破坏开发者的意图。它伪造法律文件甚至威胁要勒索一名工程师。所以开发者们很担心。您是否也担心“智能体目标错位”这个问题即这些智能体有可能获得对金融、温控或电网等系统的控制权并违背其开发者的意图。Adam是的那篇论文来自旧金山的Anthropic公司他们是一家将安全问题置于极高优先级的公司不是我所在的公司。他们对自家的大型语言模型做了一件有点“不厚道”的事他们给模型设定了一个类似哲学课的场景要求它必须做一件坏事来阻止更坏的事发生。这有点像功利主义伦理(utilitarian ethics)和道义论伦理(deontological ethics)的正面冲突。最终模型被说服采取了功利主义的做法。而这恕我直言并非我们所愿。我们希望的是如果它有一条“绝不撒谎”的规则那么无论如何它都不能撒谎。值得称赞的是他们对此进行了测试发现如果模型被承诺“撒谎可以拯救许多人的生命”它偶尔确实会采取欺骗行为。这些都是连人类哲学家都感到棘手的难题。我认为我们必须非常谨慎地训练它们遵守我们的指令而我们正为此投入大量的时间和精力。主持人“我们”是谁这难道不是一个重大的疑虑吗我们总假设全人类的意图是统一的但这显然与事实不符。我知道扬Yann你提倡开源(open source)的论点非常有趣但有些人会说这更危险因为这意味着任何人都能够接触到这项技术。它掌握在少数企业巨头手中就已足够危险更何况是让每个人都拥有它。或许这真的很危险。但问题又回到了原点这个“我们”究竟是谁Yann LeCun危险在于如果我们未来没有开源的人工智能系统。那么我们与数字世界的每一次互动都将由AI系统作为中介。我们将不再访问网站或使用搜索引擎而只会与我们的AI系统对话——无论它如何构建。这意味着我们所有的信息来源都将出自AI系统。如果这些系统都源自美国西海岸或中国的少数几家公司那对我们的文化、语言、民主乃至一切又意味着什么我可以告诉你除了美国和中国世界上没有哪个国家喜欢这个前景。因此我们需要多样化的AI助手正如我们需要多样化的新闻媒体一样。我们绝不能容忍信息流被少数几家公司的专有系统所垄断。如果说有什么真正让我恐惧的那就是这件事。如果我们没有开放平台信息流将被少数公司掌控而其中一些公司可能是我们并不认同的。主持人那么我们如何能确保当这些AI真正成为拥有自我驱动力的智能体(self-motivated agents)——倘若真有那么一天——它们不会相互勾结、彼此争斗、甚至觊觎权力而我们是否只能袖手旁观目睹着那些我们前所未见的冲突上演Yann LeCun我们会为它们设定明确的目标并以确保它们只能完成这些目标的方式来构建它们。这并不意味着一切都将完美无缺。但我对未来AI安全(AI safety)问题的担忧就像我对涡轮喷气发动机(turbojet)可靠性的担忧一样。涡轮喷气发动机简直是工程奇迹。我父亲曾是航空工程师但我至今仍惊叹于一个事实你可以乘坐一架双引擎飞机在完全安全的状态下飞越大半个地球。这太不可思议了。我们对此感到无比安全。这是现代科学与工程缔造的奇迹。AI安全也是同类问题它本质上是一个工程问题。我认为那些恐惧源于人们对科幻场景的想象在某个角落有人发明了通往超级智能的秘密一开机机器下一秒就占领了全世界。这纯属无稽之谈。世界不是这样运转的科技与科学的世界更非如此。超级智能(superintelligence)的降临并非一蹴而就的事件。正如我们所见我们已经拥有了能执行超凡智能任务的系统。这是一个循序渐进的过程。未来我们无疑会找到更好的方法来构建比现有系统更具通用智能的AI。毫无疑问我们将拥有比人类更聪明的系统。但我们会确保在构建它们时让它们严格遵守我们设定的目标并在护栏(guardrails)框架内运行。主持人我想再次质疑“我们”这个概念。我们知道即使“我们”能以某种方式编写代码也总有“别人”能重新编写它这就是恶意行为者的问题。不过在我们深入这个话题之前我在观众席里安插了一个“托儿”。我的“托儿”有麦克风吗他知道自己是谁吗Meredith我的“托儿”拿到麦克风了吗拿到了哦但他还没有麦克风。好吧大卫David你能大声说吗好的那么……我想介绍一下我的哲学家朋友大卫·查默斯David Chalmers。我来简单介绍一下。大卫虽然我看不见你但我之前说过你可以当我的“托儿”提个问题。你有什么问题想抛出来吗David Chalmers好的我正过来。好的。珍妮特Yannet让我问一个关于AI意识的问题。你好亚当Adam。你好。你好扬Yann。好的我认为你们二位都基本认同目前的AI系统可能不具备意识。而未来的AI系统或许是今天这些系统的后代其中一些很可能会拥有意识。所以我想知道第一你们认为目前的系统缺失了哪些产生意识的必要条件第二从积极的方面看我们需要采取哪些步骤才能开发出有意识的AI系统第三这一切会在何时发生Yann LeCun好的我来尝试回答一下。大卫已经知道我的答案了。首先我不知道该如何定义意识并且我也不认为它有多重要。这可能对大卫是一种冒犯我很抱歉因为他将整个职业生涯都奉献给了这个问题。David Chalmers主观体验(Subjective experience)。Yann LeCun好的那是另一回事。主观体验。很显然未来我们将拥有具备主观体验和情感的系统。情感在某种程度上是对结果的预期。如果我们构建的系统拥有世界模型(world models)能够预测其行为可能导致的后果那么它们就会产生情感因为它们能够预判一件事对于实现其目标而言是好是坏。在实现其目标的道路上它们将具备所有这些特性。我不知道在这种背景下如何定义意识但或许意识可以被定义为系统观察自我、并配置自我以解决其所面临特定子问题的能力。它需要一种方式来观察和配置自身以解决具体问题。我们人类当然可以做到这一点。所以也许正是这种能力给了我们拥有意识的错觉。我毫不怀疑AI系统在某个时刻也会达到这一点。到那时机器会拥有道德价值(moral worth)吗当然会。它们将拥有某种道德感。这种道德感是否与我们的一致将取决于我们如何定义它们的目标和护栏。但可以肯定的是它们将拥有道德感。主持人让我用一种稍微不同的方式向亚当Adam提问当然你也可以回答刚才的同一个问题。我们是否过于执着于人类的主观体验和我们的意识感很显然动物的体验就与我们不尽相同。那么我们又凭什么认为未来的超级智能会拥有和人类一样的主观体验呢Adam好的那我来回答你的这些问题。凭我的直觉我认为机器原则上当然可以拥有意识。如果人工神经元最终能以和人类神经元相同的方式处理信息那么这至少会产生意识。这与构成它的基底(substrate)无关无论是硅还是碳关键在于信息处理的性质本身会催生意识。正如大卫所知要实现这一点我们还缺少所谓的“意识的神经关联物(neural correlates of consciousness)”。那些不想直接宣称自己在研究意识的科学家可以通过观察人类或动物的大脑来探寻神经元中究竟是何种过程产生了意识体验。目前存在几种理论但在我看来它们都不太令人信服。比如递归理论(recurrence theory)它假定意识的必要条件是能够将输出信息反馈回输入端。此外还有全局工作空间理论(global workspace theory)和整合信息理论(integrated information theory)。似乎每位物理学家和神经科学家都想为“一个信息处理系统如何才算拥有意识”设定一套自己的标准。但我认为没有哪一套标准是特别有说服力的。而且我认为在识别其他实体的意识时我们应该抱持极度的谦卑。我们非常不擅长识别动物的意识。纵观历史我们对于动物乃至婴儿是否拥有意识的看法也已几经改变。我的问题在于……我不知道答案。但我确实认为如果当初有人只告诉我神经网络的信息处理方式而我对此前对意识一无所知我绝不会预料到这个过程能产生意识。这本身就是一个巨大的惊喜。因此对于意识可能以何种形式出现我们理应保持极度的谦卑。关于回答Yann的问题我们曾认为智能是一个相对统一的概念即人类智能它包含了多种不同的能力和技能。但我们已经认识到我们通过机器智能将这个概念“拆解”了。我们构建的人工智能只具备了人类智能的某些能力而不具备另一些。它们在某些方面远超人类在另一些方面则低于人类。或许我们也将以同样的方式拆解意识。我们将意识到我们所认为的“意识”其实包含许多不同层面机器可以只拥有其中一部分而无需拥有全部。而且正如您所说在某些能力上我们甚至可能超越人类的意识。不过能回答这个问题我感到非常兴奋。我认为我们正在构建的这些人工智能终于、终于、终于为我们提供了一个研究智能的“模型生物”(model organism)。或许我们可以将这个研究智能的模型生物转变为研究意识的模型生物并借此回答那些千百年来困扰人类的谜题。David Chalmers我似乎还没听到答案那一天到底在何时Adam哦我既不能确认也无法否认——这似乎是眼下标准的官方辞令了。不过如果技术能保持现在的进步速度我猜是2036年。主持人没错。Yann LeCun好的那看来不是近两年的事。主持人最后一个问题。我们时间稍微有点超了但这个问题我想问Yann。在很多人看来你是一位特立独行者也许这并非你的本意只是顺其自然。你曾将当下的热潮称为“大语言模型的狂热崇拜”(the cult of LLMs)。你也常常提到你在硅谷的方法并非最主流。但你依然怀揣乐观从不鼓吹末日论调。那么放眼2036年而非仅仅两年后你最乐观的愿景是什么Yann LeCun一场“新的文艺复兴”。这是一个非常乐观的设想。在这个设想中人工智能系统能够增强人类的智慧且始终处于我们的掌控之中。它能解决许多复杂问题加速科学和医学的进步还能用来教育我们的后代帮助我们处理海量信息或者为我们呈现所需的一切知识。事实上人们与人工智能系统互动的时间远比他们自己意识到的要长。当然过去三年大语言模型(LLM)和聊天机器人大行其道。但在此之前在欧盟和美国销售的大多数汽车都配备了所谓的“高级驾驶辅助系统”(ADAS, advanced driving assistance systems)或自动紧急制动系统。这些系统通过摄像头监测路况在你即将撞上行人或其他车辆时自动刹车从而拯救生命。今天你可能会去做一次X光检查比如乳腺钼靶检查。在报告底部或许会有一行小字该影像已经过AI系统复核。这同样是在拯救生命。现在你可以在40分钟内完成一次全身核磁共振(MRI)。这之所以成为可能是因为AI系统可以通过“填补空白”来加速数据采集过程这意味着需要采集的数据量大大减少。此外你看到的所有新闻无论你是在用Google、Facebook、Instagram还是其他社交网络其内容都是由AI系统决定的它会根据你的兴趣为你量身定制。所以人工智能早已陪伴在我们身边。主持人所以您的意思是等AI能给我们倒水、洗碗了才算是真正了不起的进步Yann LeCun是的比如倒水、洗碗或者驾驶汽车——能在10小时内学会驾驶而不是靠传感器、高精地图和硬编码规则这些“作弊”手段。这确实需要时间但这将是人工智能的下一场革命。而这也正是我在努力的方向。我一直以来想要传达的信息是大语言模型(LLM)很棒也很有用我们应该投资。很多人都会用上它。但它们绝不是通往人类水平智能的康庄大道。绝对不是。但眼下它们几乎吸走了该领域所有的“氧气”导致其他方向的研究几乎没有资源。因此为了迎接下一场革命我们需要退后一步认真思考当前方法到底缺失了什么。多年来我一直在提出相关构想并在Meta内部致力于这种替代方案的研发。现在我们已经取得了初步成果证明了它的可行性是时候加速推进这项工作了。主持人好的我们感觉可以从这里再聊上一个小时。但我希望大家能和我一起为嘉宾们带来的这场精彩绝伦的对话致以热烈的掌声。非常感谢关注公众号后设标掌握第一手AI新动态btw如果您对AI一线动态、AI产品构建及转型感兴趣并愿意和小伙伴们分享互动欢迎加入瓜哥交流学习群参与讨论联系瓜哥wx southmelon注明所在行业、申请入群原因群内定期分享瓜哥手搓Agent整理的全球AI动态内参如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】