【人工智能】国产开源大模型聊天 AquilaChat 快速开始上手实战&效果评测

已于 2023-07-06 19:21:16 修改
阅读量2w 收藏 18
点赞数 12
CC 4.0 BY-SA版权
分类专栏： AI人工智能与大数据 LLM大模型落地实战指南 文章标签： 人工智能 开源 python
于 2023-06-13 03:30:36 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/universsky2015/article/details/131180102
AquilaChat 是国产的开源大模型，其写作水平媲美ChatGLM-6B，但在编程语言理解上较弱。本文提供了AquilaChat的快速上手指南，包括环境安装、推理与可监督微调步骤，以及模型介绍和训练数据集详情。在实际测试中，AquilaChat在回答技术问题时可能会出现错误，特别是在涉及代码实现时。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

【人工智能】国产开源大模型聊天 AquilaChat 快速开始上手实战&效果评测

文章目录

禅与计算机程序设计艺术：评测结论 —— AquilaChat 在写作水平上跟ChatGLM-6B差不多，但是 AquilaChat 多编程语言写代码能力还是比较弱。。

AquilaChat 写代码水平还不行（应该是代码数据集训练不够），问技术性问题（比如说：用golang实现冒泡排序算法）会有一定的概率报错：

 File "/home/me/ai/FlagAI/flagai/model/predictor/aquila.py", line 41, in aquila_generate
    next_token = sample_top_p(probs, top_p)
  File "/home/me/ai/FlagAI/flagai/model/predictor/aquila.py", line 84, in sample_top_p
    next_token = torch.multinomial(probs_sort, num_samples=1)
RuntimeError: probability tensor contains either `inf`, `nan` or element < 0)：

输入：

{“prompt”:“冒泡排序算法代码”}

输出：<

了解本专栏 订阅专栏 解锁全文 超级会员免费看
天鹰340亿(AquilaChat2-34B-16K)本地部署的解决方案
herosunly的博客
10-21 6万+
本文主要介绍了天鹰340亿(AquilaChat2-34B-16K)本地部署的解决方案，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 介绍 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 3. 下载权重文件 4. 运行代码
开源LLM大模型聊天
weixin_41888295的博客
03-13 608
本文介绍了开源领域中领先的LLM（大型语言模型）大模型聊天技术，重点聚焦于ChatGPT及其类似工具。我们将简要概述这些技术的特点、应用场景及实现方式，为读者提供一份实用的技术清单。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2747
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
梳理一下目前所有的开源大模型，免费在本地部署，打造自己的ChatGPT！
m0_48891301的博客
12-27 9845
ChatGLM-6B 是一个开源且支持中英双语问答的对话语言模型。它基于 General Language Model (GLM) 架构构建，拥有 62 亿参数。通过模型量化技术，用户能够在消费级显卡上进行本地部署，例如在 INT4 量化级别下，最低只需 6GB 显存即可运行。
用大模型做一个聊天机器人！（非常详细）大模型做聊天机器人保姆级教程！
m0_70486148的博客
12-09 3256
聊天机器人看着是一个很简单的功能，但能把聊天机器人做好却不是一件简单的事**”**在大模型的众多应用中，聊天机器人可以说是其中比较简单，也是拥有众多应用场景的一个功能；从技术的角度来说，聊天机器人的实现很简单，但其实也很复杂。那到底怎么实现一个聊天机器人呢？聊天机器人的实现对很多学习大模型技术的人来说，可能聊天机器人就是你的第一个实操项目；原因就是其实现起来比较简单，从技术实现来看只需要使用大模型服务商提供的SDK或者API接口就可以实现一个聊天机器人的功能。
主流大模型的对话模型ChatModel实现
sinat_35438568的博客
06-22 1326
聊天模型是大语言模型（LLM）的一种封装。聊天模型不再局限于提供一个“文本输入，文本输出”的API能力，而是提供一个以“聊天消息”作为输入和输出的接口。通过向聊天模型传递一个或多个消息，可以获取聊天完成的结果，响应也是一个消息。目前Langchain支持的消息类型有AIMessage、HumanMessage、SystemMessage和ChatMessage，其中ChatMessage可以接受一个Role参数，传递任意角色。
6个国内可用的chat大模型
haleycat的博客
02-04 2451
它提供了多种功能，包括聊天对话、写文章、AI绘画、视频生成、智能PPT生成、内容运营大师、ProcessOn、TreeMind、智能翻译、AI面试官、邮件生成、文档问答和智能简历等九个插件。通过讯飞星火，用户可以得到丰富的素材和实用的建议，解决学习、工作和生活中的问题，如英语写作内容，化验单解读等。如果需要，用户还可以手动修改配置。情感陪伴：该应用能够根据语境理解用户的情绪，给出合适的回应，用户可以与其进行自由聊天，听故事，创作现代诗等，成为一个贴心的陪伴者和倾听者，甚至被一些用户视为一种「心理咨询」。
一键运行大语言模型服务，搭建聊天应用
夜雨飘零
10-23 588
本文介绍一个可以快速搭建本地大语言模型的聊天服务，模型和代码已全部提供，不需要联网运行。项目使用的是Qwen-7B-Int4模型，只需要8G显存的显卡都能流畅运行，无论是Windows还是Linux系统都支持使用。
超简单，不用GPU，3步教你轻松在笔记本上部署聊天大模型 LLaMA
AI与算法都要通俗易懂
01-17 3592
后来有人为了在传统 CPU 电脑上运行大模型，就开发了比较牛的框架，我们今天要用的，就是其中的一个明星产品：llama.cpp。大模型我们都不陌生了，但是以 chatGPT 为代表的大模型是闭源的，他们的源代码不开放，我们只能用他们的商业化产品。从上面的命令中我们可以看出，下载的是 llama-2-7b 模型，也就是有着 70 亿参数的那个模型。但是参数量大，就会对计算机的算力有更高的要求，因此很多大模型，基本部署都是要求在 GPU 上进行。
Datawhale 2024 年 AI 夏令营第一期的学习活动（“大模型技术”方向），基于讯飞开放平台“基于星火大模型的群聊对话分角色要素提取挑战赛”
m0_66198723的博客
06-28 288
基于星火大模型的群聊对话分角色要素提取挑战 初提交
常见大模型对比[ChatGPT（智能聊天机器人）、Newbing(必应)、Bard（巴德）、讯飞星火认知大模型（SparkDesk）、ChatGLM-6B]
weixin_52220767的博客
05-26 8836
2022年7月，李飞飞、PercyLiang等[1]提出“基础模型”(FoundationModels)的概念：基于自监督学习的模型在学习过程中会体现出来各个不同方面的能力，这些能力为下游的应用提供了动力和理论基础，称这些大模型为“基础模型”。2023年2月，刘安平等[2]提出大模型是“大数据+大算力+强算法”结合的产物，凝练了大数据内在精华的“隐式知识库”，是实现人工智能应用的载体。
开源大语言模型完整列表
ejinxian的专栏
05-18 4005
Large Language Model (LLM) 即大规模语言模型，是一种基于深度学习的自然语言处理模型，它能够学习到自然语言的语法和语义，从而可以生成人类可读的文本。LLM 通常基于神经网络模型，使用大规模的语料库进行训练，比如使用互联网上的海量文本数据。这些模型通常拥有数十亿到数万亿个参数，能够处理各种自然语言处理任务，如自然语言生成、文本分类、文本摘要、机器翻译、语音识别等。
用大模型做一个聊天机器人！（非常详细）大模型做聊天机器人保姆级教程！_用大模型和聊天记录拟合一个人
2401_84208172的博客
01-23 1221
聊天机器人看着是一个很简单的功能，但能把聊天机器人做好却不是一件简单的事**”**在大模型的众多应用中，聊天机器人可以说是其中比较简单，也是拥有众多应用场景的一个功能；从技术的角度来说，聊天机器人的实现很简单，但其实也很复杂。那到底怎么实现一个聊天机器人呢？聊天机器人的实现对很多学习大模型技术的人来说，可能聊天机器人就是你的第一个实操项目；原因就是其实现起来比较简单，从技术实现来看只需要使用大模型服务商提供的SDK或者API接口就可以实现一个聊天机器人的功能。
大模型系列｜基于大模型的聊天助手案例（三）
素质云笔记
08-18 2130
大模型在聊天助手领域的应用
多模态聊天效果如何？AI 大模型开始内卷 “实时语音聊天”
强化学习曾小健
12-29 1560
这篇文章探讨了当前AI大模型在多模态聊天和实时语音聊天方面的进展及其用户体验。OpenAI在GPT-4o发布会上展示了ChatGPT海螺AI、文心一言、通义、豆包300毫秒左右AI大模型在识别科总的来说，文章展示了AI大模型在多模态聊天和实时语音聊天方面的进步，尽管在情绪识别和多轮对话上仍有待提升，但其快速响应和整合多模态技术的能力预示着未来人机交互方式的发展方向。
AquilaChat-7B: 国产开源大模型新成员——AI领域的创新型研发机构智源人工智能研究院出品
热门推荐
AI天才研究院
06-12 1万+
Aquila语言大模型在技术上继承了GPT-3、LLaMA等的架构设计优点，替换了一批更高效的底层算子实现、重新设计实现了中英双语的tokenizer，升级了BMTrain并行训练方法，在Aquila的训练过程中实现了比Magtron+DeepSpeed zero-2将近８倍的训练效率。Aquila语言大模型是在中英文高质量语料基础上从０开始训练的，通过数据质量的控制、多种训练的优化方法，实现在更小的数据集、更短的训练时间，获得比其它开源模型更优的性能。
AI深度探秘：4个常用参数，让你轻松驾驭聊天大模型！（下篇）
xxue345678的博客
08-26 2600
各聊天大模型中都有个参数，决定了每次大模型回复时能说最多多少个字的内容，这个参数就是“Max_Tokens”。说到这个参数，不得不先说一下“Token”这个词。在聊天大模型中，Token是模型的最小单位，也是聊天大模型可以理解我们人类自然对话的主要形式。每一次聊天大模型的输入和输出，都会由各大模型根据已经设定好的处理方式处理成Token。用户的每一次对话，文本在发给大模型后，会被模型使用各种方式拆分成若干个片断，也就是传说中的分词技术，这分出来的每一个片断就是一个Token。
大模型从入门到应用——LangChain：模型（Models）-[聊天模型（Chat Models）：基础知识]
冯·诺依曼
07-25 1万+
聊天模型是语言模型的一种变体。虽然聊天模型在内部使用语言模型，但它们公开的接口略有不同。它们不是提供一个“输入文本，输出文本”的API，而是提供一个以“聊天消息”作为输入和输出的接口。聊天模型的API还比较新，因此我们仍在确定正确的抽象层次。通过向聊天模型传递一个或多个消息，可以获取聊天完成的结果。响应将是一个消息。LangChain目前支持的消息类型有AIMessage和，其中ChatMessage接受一个任意的角色参数。大多数情况下，我们只需要处理AIMessage和。
XR（AR/VR/MR）芯片方案，Soc VS “MCU+协处理器”？
最新发布
houdou112358的博客
08-20 1163
本文分析了当前VR/AR/MR设备的主流芯片方案，主要分为SoC（系统级芯片）和MCU+协处理器两种架构。高端VR/MR设备普遍采用高通XR系列或苹果M系列等高性能SoC，而轻量级AR/AI眼镜则多使用低功耗SoC或MCU+AI协处理器方案。文章详细比较了不同设备类型的芯片需求，并介绍了高通、苹果、联发科等主要芯片厂商的XR产品线及其特点，最后总结了不同应用场景下的最佳芯片选择方案。
科大讯飞13B大模型开源：国产化算力平台的飞跃
资源摘要信息:&quot;讯飞星火开源-13B（iFlytekSpark-13B）是科大讯飞发布的一款基于全国产化算力平台&ldquo;飞星一号&rdquo;的人工智能大模型。该模型拥有130亿参数，是一种新一代的认知大模型。讯飞星火开源-13B的发布，受到了...
评论 70
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI天才研究院

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值