在北京做兼职哪个网站好wordpress服务器软件

在北京做兼职哪个网站好,wordpress服务器软件,刚刚深圳发生的大事,开网店无货源本文系统介绍五种经典提示词工程方法#xff1a;CoT、Self-ConsistencyCoT、Least-to-Most Prompting、基于CoT的改进方法(BoT、ToT)及多重自我迭代模式(AutoGPT)。详细分析各方法的概念、实现方式、优势与局限性#xff0c;通过示例说明其在提升大模型推理能力上的应用价值。…本文系统介绍五种经典提示词工程方法CoT、Self-ConsistencyCoT、Least-to-Most Prompting、基于CoT的改进方法(BoT、ToT)及多重自我迭代模式(AutoGPT)。详细分析各方法的概念、实现方式、优势与局限性通过示例说明其在提升大模型推理能力上的应用价值。提示词工程无需修改模型参数即可拓展模型能力为解决复杂问题提供有效路径。本文概述几种经典提示词工程方法总结关键信息分析其优势和局限并分享笔者的一点思考。提示词工程Prompt Engineering是一种无需修改大模型参数即可拓展其能力的技术。它通过特定任务的指令或上下文提示激活相关知识实现模型与下游任务的无缝集成。该领域在问答、常识推理等应用中已取得成功。本文概述几种经典提示词工程方法总结关键信息分析其优势和局限并分享笔者的一点思考。技术路线1 CoT Prompting模式Paper Chain-of-Thought Prompting Elicits Reasoning in Large Language Models1.概念在解决复杂问题时人类通常会逐步分解问题并进行推理直至得出答案。这种方法模仿了人类的思考过程通过自然语言的形式表达出来即“chain of thought”。2.实现方式在给定一个问题如数学文字问题时不仅提供问题本身还提供一个或多个中间推理步骤的示例即chain of thought以及最终的答案。这些示例作为提示prompt的一部分用来指导模型如何进行推理。3.示例在论文中作者提供了几个示例来说明这种方法。例如对于一个数学问题“The cafeteria had 23 apples. If they used 20 to make lunch and bought 6 more, how many apples do they have?” 标准的提示可能直接给出答案“11”而chain-of-thought prompting会提供如下步骤首先计算剩余的苹果数量23 - 20 3。然后加上新购买的苹果数量3 6 9。最终得出答案他们现在有9个苹果。4.训练与微调这种方法不需要对模型进行额外的训练或微调。相反它依赖于模型已经通过大量数据预训练获得的语言理解能力。通过在提示中包含chain of thought的示例模型能够学习如何模仿这种推理过程。5.效果实验结果表明chain-of-thought prompting能够显著提高模型在一系列推理任务上的表现尤其是在算术、常识和符号推理任务上。例如在GSM8K数学文字问题基准测试中使用这种方法的PaLM 540B模型达到了最先进的准确率。6.优势这种方法的优势在于它允许模型将复杂问题分解为更小、更易于管理的步骤提供了模型推理过程的透明度有助于理解和调试模型的行为。此外它还适用于多种类型的推理任务不仅限于数学问题。7.局限性尽管chain-of-thought prompting在大型模型中表现出色但对于小型模型或没有足够示例的情况下可能无法有效激发其推理能力。此外这种方法依赖于模型的规模只有当模型达到一定的参数量级时才能观察到显著的性能提升。技术路线2 Self-Consistency CoT 模式PaperSelf-Consistency Improves Chain of Thought Reasoning in Language Models在chain-of-thought prompting方法中使用贪婪解码策略greedy decoding是因为在传统的解码过程中模型在每一步都会选择概率最高的词来生成文本。这种方法简单直接但它并不考虑其他可能的词组合因此可能无法充分探索语言模型的生成空间尤其是在需要复杂推理的任务中。在论文《SELF-CONSISTENCY IMPROVES CHAIN OF THOUGHT REASONING IN LANGUAGE MODELS》中作者提到了贪婪解码的局限性并提出了自洽性方法作为改进。以下是论文中的一个例子说明了在chain-of-thought prompting中使用贪婪解码的情况假设有一个数学问题“如果停车场原本有3辆车又来了2辆车现在停车场有多少辆车”使用chain-of-thought prompting的贪婪解码策略可能会生成如下的回答There are 3 cars in the parking lot already. 2 more arrive. Now there are 3 2 5 cars. The answer is 5.在这个例子中模型直接给出了正确的答案“5”但是在实际的推理过程中模型可能会生成多个不同的推理路径每个路径都可能有不同的中间步骤和最终答案。贪婪解码只选择了最直接的路径而没有考虑其他可能的推理方式。Self-Consistency自洽性方法则不同它会生成多个推理路径例如在这个例子中尽管第二个路径给出了错误的答案“26”但自洽性方法可以通过比较多个路径来识别并选择正确的答案“18”但自洽性方法可以通过比较多个路径来识别并选择正确的答案“18”。这个例子说明了贪婪解码可能会忽略其他合理的推理路径为了克服这些局限性论文提出了自洽性self-consistency方法。自洽性方法的核心思想是一个复杂的推理问题通常可以通过多种不同的推理路径来解决但正确的答案应该是唯一的。通过采样多种推理路径并找到最一致的答案可以提高模型的推理准确性。自洽性方法的例子和改进点1.自洽性方法包含三个步骤(1) 使用链式思考CoT提示来引导语言模型(2) 通过从语言模型的解码器中采样来替换CoT提示中的“贪婪解码”以生成多样化的推理路径(3) 边缘化推理路径并通过选择最终答案集中最一致的答案来进行聚合。2.改进点多样性自洽性方法通过采样生成多个推理路径增加了解码过程的多样性从而使模型能够探索到更多的推理可能性。一致性通过对多个路径的最终答案进行边际化marginalization自洽性方法能够识别出最一致的答案这通常更可能是正确的答案。鲁棒性即使某些路径产生了错误的推理或答案自洽性方法仍然可以通过多数投票机制来纠正这些错误从而提高整体的准确率。技术路线3 Least-to-Most Prompting模式Paper Least-to-Most Prompting Enables Complex Reasoning in Large Language Models1.背景传统的链式思维提示chain-of-thought prompting在解决难度超过示例的复杂问题时表现不佳。为了克服这一挑战论文提出了最少到最多提示策略该策略通过将复杂问题分解为一系列更简单的子问题来解决。2.Least-to-Most Prompting策略该策略分为两个阶段问题分解和子问题解决。在问题分解阶段使用常量示例展示如何分解问题在子问题解决阶段提示包含三个部分已解决子问题的示例、已回答的子问题及其生成的解决方案列表以及下一个待解答的问题。3.示例Elsa有5个苹果Anna比Elsa多2个苹果。他们一起有多少个苹果Least-to-Most Prompting提示解决过程确定Anna有多少个苹果。确定Elsa和Anna一起有多少个苹果。输出他们一起有12个苹果。L2M与CoT的对比Least-to-Most PromptingL2M和Chain-of-Thought PromptingCoT是两种不同的语言模型提示策略它们都旨在通过提供示例来引导模型完成特定任务。以下是这两种模式的比较包括它们的异同点相似之处1.基于少样本学习的提示L2M和CoT都使用少样本学习的提示few-shot prompts来指导语言模型进行推理或回答问题。这些示例作为输入的一部分帮助模型理解任务的要求。2.灵活性L2M和CoT都提供了一种灵活的方式来利用预训练语言模型解决各种问题无需对模型进行特定任务的训练或微调。不同之处1.示例的复杂性L2MLeast-to-Most Prompting从最简单的示例开始逐步增加示例的复杂性。这种方法假设简单的示例可以帮助模型建立基础理解然后通过更复杂的示例逐步引导模型进行更复杂的推理。CoTChain-of-Thought Prompting专注于提供一系列中间推理步骤这些步骤模拟人类解决问题时的思考过程。每个示例都展示了如何分解问题并逐步得出答案。2.推理过程的透明度L2M随着示例复杂性的增加模型的推理过程可能变得更加不明显因为示例的变化可能不总是清晰地指示出推理步骤。CoT通过明确展示中间推理步骤CoT提供了对模型推理过程的透明度使最终答案的生成过程更加清晰。3.任务适用性L2M可能更适合于模型已经具有一定理解能力的任务通过逐步增加难度来挑战和提升模型的能力。CoT特别适用于需要多步骤逻辑推理的任务如数学问题解答、逻辑谜题等因为它通过示例直接展示了推理的具体步骤。4.结果的一致性L2M由于示例的复杂性逐渐增加模型的输出可能会随着示例的变化而变化这可能导致结果的一致性不如CoT。CoT通过生成多个推理路径并选择最一致的答案CoT方法旨在提高答案的一致性和准确性。上面3种全是Google的作品。技术路线4 XoT 基于CoT思想的各种魔改Boosting of ThoughtsBoT2024.02Boosting of ThoughtsBoT: Trial-and-Error Problem Solving with Large Language ModelsUniversity of Toronto、University of Alberta核心内容概述1.研究背景LLMs在解决复杂问题时依赖于链式思考chain-of-thought提示但现有方法通常需要人工注释且难以泛化到新任务。2.BoT方法BoT通过迭代过程自动探索和评估大量思考树从而获取推理经验。这些经验用于修订提示增强推理步骤的生成直至得出最终答案。这种方法不依赖于特定任务的人工注释而是通过从模型生成的错误中学习来逐步改进推理步骤。3.实验使用GPT-4和Llama2模型在多个复杂的数学问题数据集上进行实验包括MMLU、SVAMP、GSM8K、AQuA和MATH等。4.结果BoT在大多数数据集上取得了与人类注释相媲美或更高的问题解决率尤其是在没有人类注释的情况下其性能显著提高。5.贡献BoT提出了一种新的框架它不需要特定任务的人工注释具有很好的可扩展性并且通过迭代过程快速收敛到解决方案。6.结论BoT展示了通过增强提示来引导LLMs进行有效推理的能力即使在没有人类注释的情况下也能在各种任务中保持高性能。BoT方法的步骤1.初始提示从一个简单的初始提示开始不需要任何人工注释的例子。2.生成思考结构并行生成大量的思考结构例如树状结构这些结构代表了可能的推理路径。3.聚合思考链从生成的思考结构中提取最有可能成功的思考链。4.自我评估使用LLM对聚合的思考链进行评估生成反馈包括错误分析和改进建议。5.迭代改进将反馈加入到提示中作为经验来指导下一次迭代的思考结构生成。6.收敛和解答通过多次迭代不断积累经验最终得到一个准确的解决方案。例子 24点问题The given four numbers are: 2, 4, 5, 5BoT的解决过程如下1.初始提示BoT从一个简单的提示开始告诉模型需要使用给定的四个数字和基本的算术运算加、减、乘、除来得到24。2.第一次迭代模型生成了一些初步的思考步骤但这些步骤可能并不接近解决方案。例如模型可能首先尝试将两个5相加得到10然后尝试将10与4相乘得到40这显然不是正确的方向。3.错误分析模型评估生成的思考链并识别出错误或无效的步骤。在这个阶段模型可能识别出40不是一个合理的中间结果因为它离目标24太远。4.第二次迭代根据第一次迭代的错误分析模型调整提示尝试不同的操作和数字组合。这次模型可能尝试使用加法和乘法的组合例如将2和4相加得到6然后将两个5相加得到10最后将6和10相乘得到60。5.进一步迭代模型继续迭代过程每次都会根据之前的经验和错误分析来改进思考步骤。在后续的迭代中模型可能会尝试更多的组合直到找到一个有效的解决方案。6.最终解决方案经过多次迭代模型最终找到了正确的思考链。例如它可能发现以下步骤将4乘以5得到20再将20减去2得到18最后将18加上5得到最终的24。初始提示词initial prompt是一个简单的文本描述用于引导大型语言模型LLM开始解决问题。对于24点游戏问题初始提示词可能会是这样的“In the game of 24, you are given four numbers, and the goal is to use basic arithmetic operations (, -, *, /) to combine these numbers to obtain a result of 24. You can only use each number once, and parentheses can be used to change the order of operations.”这段提示词为模型提供了游戏的基本规则即使用加、减、乘、除四种基本算术运算结合给定的四个数字来得到结果24。这个初始提示词不包含具体的解题步骤或示例而是提供了解决问题所需的上下文信息。随后Boosting of Thoughts框架将通过迭代过程逐步引导模型探索可能的解题路径并在每次迭代后根据模型的自我评估来优化提示词以更好地解决特定的24点问题。Tree of ThoughtsToT2023.05PaperTree of Thoughts- Deliberate Problem Solving with Large Language ModelsPrinceton University Google DeepMindTree of ThoughtsToT是文章中用到的一种用于增强大型语言模型LLMs在复杂问题解决中推理能力的结构。ToT将传统的序列化推理步骤转换成树状结构这种结构允许模型在推理过程中探索多个可能的思考路径。每个节点在树中代表一个推理步骤而分支则代表不同的推理方向或选择。Tree of Thoughts的特点1.树状结构ToT使用树状结构来表示推理过程其中根节点代表问题的初始状态而叶节点代表可能的解决方案或推理的最终步骤。2.分支探索在树的每一层都会生成多个分支每个分支代表了一种不同的推理路径。这些分支可以基于模型对问题的理解和可能的解决方案来生成。3.回溯机制ToT允许模型在树中回溯即如果某个推理路径看起来不会导致正确的解决方案模型可以返回到之前的节点并尝试另一条路径。4.动态扩展树结构在推理过程中动态扩展模型可以根据新的信息和中间结果不断添加新的节点和分支。5.复杂问题解决ToT特别适合解决需要多步骤逻辑推理和多种可能解决方案的复杂问题。在Boosting of Thoughts中的应用在Boosting of Thoughts框架中ToT结构被用来生成和评估大量的推理路径。BoT通过迭代过程构建这些树状结构每次迭代都会根据LLM生成的反馈来调整和改进提示。这样即使是从一个简单的初始提示开始BoT也能够通过积累经验来逐步引导模型生成更有效的推理链最终解决复杂的问题。例如在解决数学问题时BoT可能会生成多个包含不同数学操作和中间结果的ToT结构。通过评估这些结构BoT可以识别出哪些操作序列更有可能得到正确答案并将这些信息用于指导下一轮的推理。通过这种方式BoT能够模拟人类解决问题时的思考过程通过试错和自我修正来逐步接近最终解决方案。Comments 1技术路线无非是三类greedy search 贪婪搜索exhausted search 穷举搜索beam search 约束搜索特点/方法Greedy SearchExhausted SearchBeam Search定义在每一步选择局部最优的选项不考虑全局最优解。系统地搜索所有可能的选项直到找到最优解。一种启发式搜索算法每次扩展固定数量的最佳选项称为“束宽”并逐步构建解决方案。目标快速找到局部最优解。找到全局最优解。在有限的计算资源下找到接近最优的解。效率高因为快速做出决策不探索所有可能的路径。低因为需要探索所有可能性可能非常耗时。中等通过限制搜索宽度来平衡效率和效果。完备性不完备可能会错过最优解。完备保证找到最优解如果存在。可能不完备但通常能找到好的解决方案。适用性适用于解空间较小或问题结构简单的情况。适用于解空间较大且需要找到最优解的问题。适用于解空间较大且需要在有限时间内找到好解的问题。例子爬山算法、最短路径算法如Dijkstra算法。深度优先搜索DFS、广度优先搜索BFS。A*搜索算法、蒙特卡洛树搜索MCTS。技术路线5 多重自我迭代模式AutoGPTAmazon的作品Auto-GPT for Online Decision Making: Benchmarks and Additional OpinionsAuto-GPT探讨自主代理在在线决策任务中的有效性和灵活性。Auto-GPT是基于大型语言模型LLMs的自主代理它能够连接互联网并尝试完成各种任务。尽管Auto-GPT引起了广泛关注但其在现实世界任务中的表现仍存在不确定性。Auto-GPT特点接收高层次的目标和指令无需人类逐步指导。通过生成“思考”、“推理”、“计划”和“批评”来进行自我独白。能够通过简单的工具指令和几个示例整合各种工具。包含长期自我记忆和记忆检索机制。特定任务的适应应该只需要最小的努力如提供目标定义和工具描述。实验设置WebShop和ALFWorld是两个用于评估语言模型在在线决策任务中性能的模拟环境这些任务涉及响应未知的外部环境。WebShop WebShop是一个模拟网上购物体验的环境它通过从亚马逊网站抓取1181436个产品信息并在一个隔离的服务器上托管这些产品来创建一个真实的动作空间。这个环境为代理提供了执行产品搜索、点击项目、返回到之前的页面以及进行购买等选项。配备了集成的搜索引擎环境能够提供给购物代理与网络浏览器相似的实时观察。评估过程涉及判断代理是否能够根据产品描述成功购买预期的产品成功需要产品本身、属性、选项和价格的全部匹配。ALFWorld ALFWorld是一个开创性的研究环境它将ALFRED数据集的复杂、面向任务的语言理解与TextWorld的沉浸式交互小说相结合。ALFREDAction Learning From Realistic Environments and Directives基准测试为模型提供了一个强大的测试场地用于学习解析并执行来自详细、交互式3D环境中的语言指令的任务。同时TextWorld作为一个动态的学习游乐场用于训练和评估在基于文本的游戏中的强化学习代理。ALFWorld将这两个平台交织在一起将基于文本的游戏的语言理解和决策挑战与3D环境中的物理交互结合起来是将自然语言指令与现实世界物理交互融合的关键一步。环境包含了超过25,000个在各种区域如厨房、客厅和卧室的逼真环境中生成的独特任务。这些任务需要复杂的解决问题的技巧和对语言及环境的彻底理解为AI性能提供了一个更高的基准。模型比较比较了流行的LLMs如GPT-4、GPT-3.5、Claude和Vicuna在Auto-GPT风格的决策任务中的性能。额外意见算法Additional Opinions algorithm引入了额外意见算法这是一种有效的方法将监督/模仿学习者supervised/imitation-based learners纳入Auto-GPT方案。这种方法使得在不需要对基础LLMs进行微调的情况下进行轻量级的监督学习。实验结果通过仔细的基线比较和消融研究证明了额外意见算法显著提高了在线决策基准任务的性能包括WebShop和ALFWorld。结论Auto-GPT不仅证明了它在实际使用中的潜力而且在GPT-4的驱动下超过了专门为这些任务设计的监督IL模仿学习模型。此外通过引入外部专家模型的额外意见进一步提高了Auto-GPT风格代理的决策能力尤其是对GPT-4有益。这篇论文展示了Auto-GPT在处理复杂在线决策任务中的潜力并提出了一种新的方法来利用外部模型作为额外意见的提供者这为AI模型在实际应用中的使用打开了新的可能性。Comments 2现在来看2023.03的AutoGPT的套路甚至有点过时了具体来说1.固定提示结构AutoGPT依赖于预定义的提示结构这限制了模型的灵活性和适应性。在面对新任务时泛化能力是一定有问题的会显著增加部署复杂性。2.缺乏上下文理解AutoGPT是“一步到位”的逻辑。尽管AutoGPT能够生成连贯的文本但它在理解和维持长期上下文方面存在不足。这导致在长对话或复杂任务中模型可能无法保持话题的一致性或忽略重要的上下文信息。3.推理能力局限AutoGPT主要依赖于模式匹配和关联性学习不是真正的推理能力仍然是走在beam search的老路上。在处理需要逻辑推理和深度理解的问题时模型可能无法提供准确的答案。4.数据依赖性AutoGPT的性能在很大程度上依赖于专家提示的质量和多样性。如果专家提示存在偏差或不足那可能就完蛋了。本文大量使用大模型来进行梳理和总结。大模型虽然不能完整的形成这样一份有观点、有例子、有逻辑的总结性文档有时候甚至会产出各种低信息量信息没错就是废话但是在长文本摘要信息提取上大模型确实已经体现出惊人的能力。以往整理这样一篇文档可能需要有经验的同学一整天的时间但本文的整理只用了2小时。​最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包✅AI大模型学习路线图✅Agent行业报告✅100集大模型视频教程✅大模型书籍PDF✅DeepSeek教程✅AI产品经理入门资料完整的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】​​为什么说现在普通人就业/升职加薪的首选是AI大模型人工智能技术的爆发式增长正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议到全国两会关于AI产业发展的政策聚焦再到招聘会上排起的长队AI的热度已从技术领域渗透到就业市场的每一个角落。智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200%远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。​​资料包有什么①从入门到精通的全套视频教程⑤⑥包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图还有视频解说全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤ 这些资料真的有用吗?这份资料由我和鲁为民博士共同整理鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。所有的视频教程由智泊AI老师录制且资料与智泊AI共享相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌构建起前沿课程智能实训精准就业的高效培养体系。课堂上不光教理论还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌​​​​如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能 ‌突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】**​