【三.大模型实战应用篇】【2.智能学员辅导系统：与大模型的深度交互】
早上七点半，初三学生小林打开数学辅导APP，发现AI老师准确指出了他昨晚作业中三次跳步计算的坏习惯——这比他亲妈观察得还细致。这背后是一场发生在代码深处的"脑力风暴"，让我们潜入智能辅导系统与大模型深度交互的"暗室"，看看那些让教育产生化学反应的代码魔法。 一、从问答机到"灵魂伴侣"的进化之路 1.1 传统问答系统的"智障"现场 某教育平台后台数据显示： 52%的追问请求是因为"答非所问" 学生平均需...
【大模型】大模型推理能力深度剖析：从通用模型到专业优化
大模型推理能力深度剖析：从通用模型到专业优化 大模型推理能力深度剖析：从通用模型到专业优化一、通用语言模型与推理模型的区别（一）通用语言模型：多任务的“万金油”（二）推理模型：复杂任务的“专家” 二、DeepSeek 系列模型的推理能力对比（一）模型架构（二）训练方法（三）推理能力（四）性能表现 三、推理模型的应用场景（一）数学建模与教育（二）代码生成与优化（三）复杂逻辑推理 四、推理模型的部署优势五...
字节火山引擎-大模型声音复刻，流式语音合成接口
字节火山引擎-大模型声音复刻，流式语音合成接口 参考文档：火山引擎-大模型声音复刻文档 官网给出的示例代码有bug，这里已经修改了 创建应用 声音复刻大模型页面查看应用，获取接口调用需要的参数 注意调用tts接口时候需要三个参数： APP ID => 获取到对应的应用Access Token => 鉴权需要声音ID => 语音合成需要 Http流式合成音频接口示例代码 package main imp...
全市场大模型分类及对比分析报告
全市场大模型分类及对比分析报告 1. 引言 随着人工智能技术的飞速发展，大模型（Large Models）已成为推动AI进步的核心力量。大模型凭借其强大的计算能力和海量数据处理能力，在自然语言处理（NLP）、计算机视觉（CV）、语音识别等领域取得了显著成果。本报告将对全市场中几类主要的大模型进行分类和对比分析，探讨其技术特点、应用场景及未来发展趋势。 2. 大模型分类 根据模型架构、训练目标和应用领域...
在Ubuntu 20上使用vLLM部署DeepSeek大模型的完整指南
文章目录 步骤一：安装Hugging Face工具步骤二：下载DeepSeek模型步骤三：安装vLLM步骤四：使用vLLM部署模型步骤五：测试推理服务性能优化建议常见问题排查 前言 随着大语言模型（LLM）的快速发展，如何高效部署和运行这些模型成为开发者关注的重点。本文将演示在Ubuntu 20系统环境下： 环境准备 系统要求 基础依赖安装 sudo apt update && sudo apt in...
《AI大模型专家之路》No.2：用三个模型洞察大模型NLP的基础能力
用三个模型洞察大模型NLP的基础能力 一、项目概述 在这个基于AI构建AI的思维探索项目中，我们实现了一个基于BERT的中文AI助手系统。该系统集成了文本分类、命名实体识别和知识库管理等功能，深入了解本项目可以让读者充分了解AI大模型训练和推理的基本原理，该项目使用了三个基础大模型：bert-base-chinese，ckiplab/bert-base-chinese-ner``，spacy.lang...
DeepSeek R1-32B医疗大模型的完整微调实战分析（全码版）
DeepSeek R1-32B微调实战指南├── 1. 环境准备│ ├── 1.1 硬件配置│ │ ├─ 全参数微调：4*A100 80GB│ │ └─ LoRA微调：单卡24GB│ ├── 1.2 软件依赖│ │ ├─ PyTorch 2.1.2+CUDA│ │ └─ Unsloth/ColossalAI│ └── 1.3 模型加载│ ├─ 4bit量化加载│ └─ Flash ...
大模型学习笔记------Llama 3模型架构之RMS Norm与激活函数SwiGLU
大模型学习笔记------Llama 3模型架构之RMS Norm与激活函数SwiGLU 1、归一化模块RMS Norm2、激活函数SwiGLU3、一些思考 上文简单介绍了 Llama 3模型架构。在以后的文章中将逐步学习并记录Llama 3模型中的各个部分。本文将首先介绍归一化模块RMS Norm与激活函数SwiGLU。 1、归一化模块RMS Norm 归一化模块是各个网络结构中必有...
数据增强术：如何利用大模型（LLMs）来模拟不同的扰动类型以增强信息提取任务的鲁棒性
一、对抗样本库构建 1. 基于LLMs的领域针对性扰动设计对抗样本生成 替换实体、三元组和触发器（Replace Entity, Triple, and Trigger） 使用LLMs（如GPT-4）来替换句子中的实体、关系三元组或事件触发器，同时保持其类型不变，并确保其他内容不受影响： xxx名称（如“x方” → “xx方”）、xx编号（如“XM2024-001” → “xx编号：24-ZB-001...
在Mac mini M4上部署DeepSeek R1本地大模型
在Mac mini M4上部署DeepSeek R1本地大模型 安装ollama 本地部署，我们可以通过Ollama来进行安装 Ollama 官方版：【点击前往】 Web UI 控制端【点击安装】 如何在MacOS上更换Ollama的模型位置 默认安装时，OLLAMA_MODELS 位置在"~/.ollama/models" 只需要通过更改Mac的环境变量，并且重启Ollama就可以达到目的。 lau...