我对《RAG/大模型/非结构化数据知识库类产品》技术架构的思考、杂谈
：功能小、质量高、价值大 如果说做产品是把一横做好的话，那么去做企业落地服务就是一竖，从需求和方案，再到 POC，和最后交付。 对于AI应用的三个特点，我们在落地的时候，其实碰到的问题蛮多的，但是用过大模型或者AI产品的人应该都知道，目前基于大模型应用开发的C端产品其实在整体给人的感觉都是相对较小的工具居多，在帮助人类提效这件事上，借助于AI工具，能很好的完成日常繁杂的工作和学习任务。比如AI翻译、网页...
微软有哪些大模型Copilot应用？
微软推出了多款基于大模型的Copilot应用，这些应用利用人工智能和自然语言处理技术，旨在提升用户在不同领域的生产力和效率。以下是一些主要的Copilot应用： 1、Microsoft 365 Copilot：集成于Word、Excel、PowerPoint、Outlook和Teams等应用中，帮助用户创建内容、总结邮件、草拟议程和管理数据等 (Microsoft Cloud) (Microso...
ChatUI：使用Gradio.NET为LLamaWorker快速创建大模型演示界面
own 组件我们没有设置选项，并且允许其可以获取用户的自定义值 allowCustomValue:true，方便用户输入自定义的模型名称，同时也可以使 ChatUI 项目调用其他的服务，比如阿里灵积的大模型服务等。 上图展示的是在移动端的界面，Gradio.NET 会自动处理流式布局，使得界面在不同设备上都能够正常显示。 在设置好基础界面后，我们需要为按钮添加点击事件，以便获取模型配置信息。在 Grad...
【AI大模型】Transformers大模型库（十四）：Datasets Viewer
目录 一、引言 二、Datasets Viewer数据查看器 2.1 概述 2.2 示例 三、总结 一、引言 这里的Transformers指的是huggingface开发的大模型库，为huggingface上数以万计的预训练大模型提供预测、训练等服务。 本文重点介绍Hugging Face的Datasets Viewer用法 二、Datasets Viewer数据查看器 2.1 概述 Dat...
LLaMA：挑战大模型Scaling Law的性能突破
实际问题 在大模型的研发中，通常会有下面一些需求： 计划训练一个10B的模型，想知道至少需要多大的数据？ 收集到了1T的数据，想知道能训练一个多大的模型？ 老板准备1个月后开发布会，给的资源是100张A100，应该用多少数据训多大的模型效果最好？ 老板对现在10B的模型不满意，想知道扩大到100B模型的效果能提升到多少？ 核心结论 大模型的Scaling Law是OpenAI在2020年提出的概念[1]...
大模型重塑软件开发，华为云AI原生应用架构设计与实践分享
AI大模型与AI重塑软件的大趋势下，软件会发生哪些本质的变化？如果“所有软件都值得用AI重做一遍”，那么该如何重做？华为云aPaaS平台首席架构师马会彬从AI重塑软件的本质变化、AI原生的概念与内涵解剖，分享华为云AI原生应用引擎的架构设计和实践思考。 华为云aPaaS平台首席架构师马会彬在ArchSummit现场分享AI重塑软件产业：变化与趋势大模型正在推动历史性的技术革命，企业想要成为AI科技...
大模型Transformer讲解
文章目录 1. Transformer 原理1.1 注意力机制 (Attention Mechanism)1.2 多头注意力 (Multi-Head Attention) 2. Transformer 设计2.1 编码器 (Encoder)2.2 解码器 (Decoder) 3. Transformer 应用3.1 自然语言处理 (NLP)3.2 计算机视觉 (Computer Vision) 4. ...
【大模型应用开发极简入门】微调（一）：1.微调基础原理介绍、2. 微调的步骤、3. 微调的应用（Copilot、邮件、法律文本分析等）
文章目录 一. 开始微调1. 选择合适的基础模型2. 微调和少样本学习2.1. 对比微调和少样本学习2.2. 微调需要的数据量 二. 使用OpenAI API进行微调1. 数据生成1.1. JSONL的数据格式1.2. 数据生成工具1.3. 数据文件的细节注意 2. 上传数据来训练模型3. 创建微调模型4. 列出微调作业5. 取消微调作业 二. 微调的应用1. 法律文本分析2. 自动代码审查-类Cop...
AI 大模型的赛点：通用与垂直之争
博客目录 引言一、通用大模型：广泛落地的基础二、垂直大模型：专业化的突破三、赛点分析：谁将占据优势？四、结论：合作与竞争并存结语： 引言 随着人工智能技术的飞速发展，AI 大模型已成为推动各行各业创新的关键力量。在这场技术革新的浪潮中，通用大模型与垂直大模型的战场正在分化。本文将探讨这两种模型的特点、优势以及在落地场景中的潜力，并对它们在 AI 领域的第一个赛点进行分析。 一、通用大模型：广泛落地的基...
开源大模型的新星：ChatGPT-Next-Web 项目解析与推荐
博客目录 项目简介开始使用保持更新环境变量配置代码解析技术亮点 开发与部署社区与贡献结语项目地址 随着人工智能技术的飞速发展，开源社区涌现出了众多优秀的项目，它们不仅推动了技术的创新，也为开发者提供了学习和实践的平台。今天，我要向大家推荐的是一个在开源界引起广泛关注的项目——ChatGPT-Next-Web。 项目简介 ChatGPT-Next-Web 是一个基于 OpenAI API 构建的聊天应用...