网站建设怎样设置动态背景官方网站优化价格

网站建设怎样设置动态背景,官方网站优化价格,旅游网站案例,网络营销和直播电商专业学什么本文详细介绍了如何使用LM Studio本地部署DeepSeek大模型#xff0c;提供多种规格模型选择以满足不同硬件配置需求#xff0c;并指导使用AnythingLLM构建本地知识库。同时介绍了如何调用DeepSeek在线API进行聊天和编程。教程采用可视化软件#xff0c;步骤清晰#xff0c;适…本文详细介绍了如何使用LM Studio本地部署DeepSeek大模型提供多种规格模型选择以满足不同硬件配置需求并指导使用AnythingLLM构建本地知识库。同时介绍了如何调用DeepSeek在线API进行聊天和编程。教程采用可视化软件步骤清晰适合AI初学者快速上手体验大模型应用。本文写于2月正值DeepSeek横空出世之际在全国掀起了一股本地部署的风潮我也学习了一下并将过程记录整理成文章。本文主要介绍了用LMStudio部署大模型并结合AnythingLLM构建本地知识库后续简单介绍了如何调用大模型的在线API。本教程部署方式简单均采用可视化软件易于上手适合初学AI的小白感受和入门。一、本地部署DeepSeek1.下载安装LM Studiohttps://lmstudio.ai/下载文件后双击exe文件根据下图安装提示按步骤进行安装2.下载大模型文件参数模型硬件要求如下请根据本机的配置选择合适的模型✅ DeepSeek-R1-1.5B**CPU:**最低 4 核推荐 Intel/AMD 多核处理器 **内存:**8GB **硬盘:**3GB 存储空间模型文件约 1.5-2GB **显卡:**非必需纯 CPU 推理若 GPU 加速可选 4GB 显存如 GTX 1650 **场景**低资源设备部署如树莓派、旧款笔记本、嵌入式系统或物联网设备✅ DeepSeek-R1-7B**CPU:**8 核以上推荐现代多核 CPU **内存:**16GB **硬盘:**8GB模型文件约 4-5GB **显卡:**推荐 8GB 显存如 RTX 3070/4060 **场景**中小型企业本地开发测试、中等复杂度 NLP 任务例如文本摘要、翻译、轻量级多轮对话系统✅ DeepSeek-R1-8B**CPU:**8 核以上推荐现代多核 CPU **内存:**16GB **硬盘:**8GB模型文件约 4-5GB **显卡:**推荐 8GB 显存如 RTX 3070/4060 **场景**需更高精度的轻量级任务如代码生成、逻辑推理✅ DeepSeek-R1-14B**CPU:**12 核以上 **内存:**32GB **硬盘:**15GB **显卡:**16GB 显存如 RTX 4090 或 A5000 **场景**企业级复杂任务、长文本理解与生成✅ DeepSeek-R1-32BCPU: 16 核以上如 AMD Ryzen 9 或 Intel i9 内存: 64GB 硬盘: 30GB 显卡: 24GB 显存如 A100 40GB 或双卡 RTX 3090 场景高精度专业领域任务、多模态任务预处理✅ DeepSeek-R1-70B**CPU:**32 核以上服务器级 CPU **内存:**128GB **硬盘:**70GB显卡:多卡并行如 2x A100 80GB 或 4x RTX 4090 **场景**科研机构/大型企业、高复杂度生成任务从百度网盘下载 链接: https://pan.baidu.com/s/1x_Hj2QiQcwENbuCx6ysL1w 提取码: gdku网页在线下载也可以在该网站下载其他本地模型下载文件的格式为gguf * 1.5Bhttps://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-1.5B-GGUF/tree/main * 7Bhttps://hf-mirror.com/unsloth/DeepSeek-R1-Distill-Qwen-7B-GGUF/tree/main * 14Bhttps://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF/tree/main * 32Bhttps://hf-mirror.com/bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF/tree/main * 70Bhttps://hf-mirror.com/unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF/tree/main 注图中Q2、Q3、Q4等通常是指模型的量化级别数字越大精度越高一般选择Q43.配置本地模型在磁盘下创建三级文件夹如图所示LLM→DeepSeek→1.5B将gguf模型文件放置于第三层文件夹中注这步很重要如果没有按照要求设置会导致读取不到本地模型打开LM Studio进入文件页面更改模型目录选择刚刚创建的三级文件夹中的第一级即可看到本地模型若仍没显示可点击刷新按钮4.加载本地模型进入聊天页面点击顶部加载模型会自动显示本地模型选中一个模型选择模型后需要配置模型的参数前三个参数可根据自己的硬件调整后面的参数按照默认设置即可设置完成后点击“加载模型”按钮 *上下文长度 含义模型处理文本时能够考虑的最大词元token数量。 调整效果增加上下文长度可以提高模型理解长文本的能力但会增加内存消耗和计算时间。 一般设置为2048的倍数 *GPU 挂载 含义指定用于模型计算的GPU数量。 调整效果增加GPU数量可以提高模型的推理速度但需要更多的硬件资源。 *CPU Thread Pool Size 含义指定用于模型计算的CPU线程池大小。 调整效果增加线程池大小可以提高CPU的并行处理能力从而提高模型的推理速度但也会增加CPU的负载。 *评估批处理大小 含义指定每次模型评估时处理的样本数量。 调整效果增加批处理大小可以提高模型的推理速度但也会增加内存消耗。 *RoPE 频率基底 含义控制旋转位置编码RoPE的频率基底。 调整效果影响模型对位置信息的处理方式可以优化模型在某些任务上的性能。 *RoPE 频率缩放 含义控制旋转位置编码RoPE的频率缩放。 调整效果影响模型对位置信息的处理方式可以优化模型在某些任务上的性能。 *保持模型在内存中 含义是否将模型常驻内存以加快加载速度。 调整效果保持模型在内存中可以加快模型的加载速度但会占用更多的内存资源。 *尝试 mmap() 含义使用内存映射文件mmap技术来加载模型。 调整效果使用mmap可以提高模型加载的速度和效率特别是在处理大模型时。 *种子 含义设置随机数生成器的种子值。 调整效果设置种子值可以确保实验的可重复性使得每次运行的结果一致。 *快速注意力 含义启用快速注意力机制。 调整效果快速注意力机制可以提高模型的推理速度但可能会对模型的性能产生一定影响。 *K Cache Quantization Type 含义指定键缓存K Cache的量化类型。 调整效果量化可以减少模型的内存占用和计算量但可能会对模型的性能产生一定影响。 *V Cache Quantization Type 含义指定值缓存V Cache的量化类型。 调整效果量化可以减少模型的内存占用和计算量但可能会对模型的性能产生一定影响。 *Remember settings for deepseek-r1-distill-qwen-1.5b 含义是否记住当前模型的设置。 调整效果勾选此选项可以在下次加载模型时自动应用当前设置无需重新配置。加载成功后即可开始对话5.关闭软件联网保护隐私本步骤非必须如果想更好的保护隐私不被泄露可遵循下述步骤将软件断网进入高级安全Windowsdefender防护墙选择入站规则-新建规则选择程序-下一步-选择路径选择安装lmstudio的路径中名字叫LM Studio.exe文件阻止连接输入这条规则的名称点击完成即可再次新建禁止联网规则分别添加另外两个文件LM Studio所在目录\resources\elevate.exe C:\Users\Administrator.lmstudio\bin\lms.exe在出站规则中也将以上三个文件设置禁止联网步骤同上二、构建私有知识库1.下载安装AnyThingLLMhttps://anythingllm.com/按步骤安装安装成功后打开软件跳过前面的引导页都按默认选择创建一个工作区2.切换到LM Studio打开本地服务进入开发者页面选择要加载的模型见第一部分第4节开启本地服务3.配置anythingllm回到anythingllm软件点击设置按钮进入聊天设置切换LLM供应商找到LMstudio要记得点击update进行保存在代理配置中也选上LM Studio注意要点击configure进行保存返回对话页这样就建立了与LMstudio的本地连接4.构建本地知识库本地知识库使用lmstudio上的本地模型创建的知识库 若不放心安全问题在配置完成后可参照一.5关闭anythingLLM联网点击上传按钮上传本地文件将上传的文件移入工作区5.构建在线知识库在线知识库通过API调用在线大模型再创建知识库新建工作区进入设置选择其他LLM提供商以deep seek为例输入APIkey如何获取APIkey可参考第三部分第一节设置apikey成功后再根据构建本地知识库的步骤上传文件即可三、调用大模型API以DeepSeek为例1.申请DeepSeekAPI进入https://www.deepseek.com/点击右上角“API开放平台”开始注册登录进入左侧“API keys”页面点击“创建API key”输入名称创建后会自动生成key它是一种用于身份验证的密钥允许用户通过API访问特定的服务或数据。它就像一把钥匙确保只有授权的用户才能使用服务同时帮助控制访问频率和权限请将这个key保存好因为关闭后无法再次查看2.聊天2.1.安装Chatbox也可以用刚刚下载的AnythingLLM实现但个人认为单纯用作聊天的话Chatbox的体验更佳https://chatboxai.app/zh根据提示步骤安装chatbox2.2.设置API打开软件后选择“使用自己的API Key”或本地模型在选择AI模型提供方界面找到deep seekAPI填入刚刚在deep seek创建的APIkey然后选择模型默认的是普通的chat聊天模型想要带推理的选择reasoner但是这个模型最近太火爆了经常无响应然后就可以在聊天界面对话了3.编程3.1.下载continue插件3.2.设置API点击connect后还会出现一个小的输入框再次输入APIkey即可。全文完​最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包✅AI大模型学习路线图✅Agent行业报告✅100集大模型视频教程✅大模型书籍PDF✅DeepSeek教程✅AI产品经理入门资料完整的大模型学习和面试资料已经上传带到CSDN的官方了有需要的朋友可以扫描下方二维码免费领取【保证100%免费】​​为什么说现在普通人就业/升职加薪的首选是AI大模型人工智能技术的爆发式增长正以不可逆转之势重塑就业市场版图。从DeepSeek等国产大模型引发的科技圈热议到全国两会关于AI产业发展的政策聚焦再到招聘会上排起的长队AI的热度已从技术领域渗透到就业市场的每一个角落。智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200%远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。​​资料包有什么①从入门到精通的全套视频教程⑤⑥包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图还有视频解说全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤ 这些资料真的有用吗?这份资料由我和鲁为民博士共同整理鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。所有的视频教程由智泊AI老师录制且资料与智泊AI共享相互补充。这份学习大礼包应该算是现在最全面的大模型学习资料了。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。智泊AI始终秉持着“让每个人平等享受到优质教育资源”的育人理念‌通过动态追踪大模型开发、数据标注伦理等前沿技术趋势‌构建起前沿课程智能实训精准就业的高效培养体系。课堂上不光教理论还带着学员做了十多个真实项目。学员要亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌​​​​如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能 ‌突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】**​