探索大型语言模型（LLMs）能否在不泄露私人信息的情况下联合其他大型语言模型共同解决问题
概述 谷歌的 Gemini Ultra（2023 年）和 OpenAI 的 GPT-4 （2023 年）等大规模语言模型在许多任务中都表现出了令人印象深刻的性能。然而，这些模型不仅推理成本高昂，而且运行于数据中心，而数据中心并非本地环境，无法获得私人数据。另一方面，可以在私人环境中运行的模型，如 Gemini Nano，可以在用户的设备上运行，但其性能有限。 为了在私密环境中实现最先进的性能，需要本地模...
MatSci-LLM ——潜力和挑战以及大规模语言模型在材料科学中的应用
概述 大规模语言模型的出现正在从根本上改变技术开发和研究的方式。大规模语言模型不仅对自然语言处理领域产生了重大影响，而且对许多相关领域也产生了重大影响，例如从文本生成图像的计算机视觉（Zhang 等人，2023 年）。因此，将大规模语言模型的能力融入各行各业的工作正在加速进行。 例如，医疗保健（He 等人，2023 年）、法律（Dahl 等人，2024 年）、金融（Wu 等人，2023 年a）和软件工程...
大语言模型：谁来评判搜索结果的相关性？
关重要的任务。简单来说，它决定了在你搜索某个问题时，回传的文档是否真正解答了你的问题。而过去，这项任务主要依赖于人类专家的判断，譬如美国国家标准与技术研究所（NIST）几十年来的评估流程。然而，随着大语言模型（LLMs，Large Language Models）的崛起，自动化相关性评估似乎不再是科幻小说中的情节，而是一个切实可行的研究方向。 在《A Large-Scale Study of Releva...
将大型语言模型（如GPT-4）微调用于文本续写任务
要将大型语言模型（如GPT-4）微调用于文本续写任务，构造高质量的训练数据至关重要。以下是如何构造训练数据的详细步骤： 1. 数据收集： 多样性： 收集多种类型的文本，包括小说、新闻、论文、博客等，以确保模型能够适应不同的写作风格和主题。版权问题： 确保所使用的数据没有版权限制，或者获得了必要的使用权限。 2. 数据预处理： 文本清洗： 去除噪音，如HTML标签、特殊字符和乱码。分段处理： 将长文本分成...
增强多模态大语言模型推理能力：混合偏好优化的魔力
摘要 在当今的科技领域，开放源码的多模态大语言模型（MLLMs）正如雨后春笋般涌现。它们的训练一般分为预训练和监督微调两步。然而，这些模型在多模态推理，尤其是链式思维（CoT）表现上常常因分布偏移而受限。为了解决这一问题，我们引入了一种偏好优化（PO）过程来提升MLLMs的多模态推理能力。具体来说，我们从数据和模型两方面着手：（1）在数据方面，我们设计了一个自动化偏好数据构建流程，从而创建了一个高质量的...
将大型语言模型（如GPT-4）微调用于文本续写任务
要将大型语言模型（如GPT-4）微调用于文本续写任务，构造高质量的训练数据至关重要。以下是如何构造训练数据的详细步骤： 1. 数据收集： 多样性： 收集多种类型的文本，包括小说、新闻、论文、博客等，以确保模型能够适应不同的写作风格和主题。版权问题： 确保所使用的数据没有版权限制，或者获得了必要的使用权限。 2. 数据预处理： 文本清洗： 去除噪音，如HTML标签、特殊字符和乱码。分段处理： 将长文本分成...
探索人工智能在数学教育上的应用——使用大规模语言模型解决数学问题的潜力和挑战
刻的理解。随着人工智能技术的发展，机器对数学各方面的全面理解是超越单纯技术成就的重要一步，也是迈向更具通用性和适应性的人工智能的重要一步。这是迈向更具通用性和适应性的人工智能的重要一步。 特别是大规模语言模型的出现彻底改变了人工智能领域，使其成为复杂任务自动化的有力工具。事实证明，大规模语言模型是发现数学解题中细微差别的宝贵资源。这些模型为探索语言与逻辑之间的相互作用提供了新的途径，促进了这一领域的探索。...
重要性分层：让大型语言模型的微调更高效
在自然语言处理（NLP）领域，随着大型语言模型（LLMs）的不断发展，参数高效微调（PEFT）方法成为了适应这些模型的热门选择。然而，许多现有的PEFT方法在微调过程中采用均匀的架构设计，忽视了层与层之间的重要性差异，从而导致微调效果不理想。正如一位厨师在烹饪时，如果不根据食材的特点调整火候，那么即使是顶级食材也难以做出美味的菜肴。本文提出了一种新颖的方法——重要性感知稀疏微调（IST），旨在充分利用层...
Llamam-omni：低延迟与高质量语音交互的创新语言模型
2. 安装包3. 安装fairseq4. 安装flash-attention5. 下载预训练模型6. 启动Gradio Web服务器7. 访问Web界面 结语 引言 在当今人工智能飞速发展的时代，大型语言模型如雨后春笋般涌现，为我们的生活和工作带来了极大的便利。然而，目前大多数语言模型主要支持文本交互，这在一定程度上限制了其在某些场景中的应用。如今，LLaMA-Omni 的出现为我们带来了全新的突破，实现...
利用大规模语言模型提高生物医学 NER 性能的新方法
概述 论文地址：https://arxiv.org/pdf/2404.00152.pdf 大规模语言模型在零拍摄和四拍摄任务中表现出色，但在生物医学文本的独特表达识别（NER）方面仍有改进空间。例如，Gutiérrez 等人（2022 年）的一项研究表明，即使使用相同数量的数据，采用上下文学习（In-Context Learning）的 GPT-3 的性能也不如小型微调模型。生物医学文本充满了专业术语，...