测评qwen 、glm ,deepseek的模型 对垂直领域的能力的支持情况对比

最新推荐文章于 2025-06-30 23:55:25 发布
最新推荐文章于 2025-06-30 23:55:25 发布
阅读量8.8k 收藏 20
点赞数 32
CC 4.0 BY-SA版权
文章标签： 人工智能 语言模型 机器学习 神经网络 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47958619/article/details/143096729

前言：

​ 在写这篇文章的时候，我也看了许多测评的文章，总觉得差点意思，都是对通用能力的测评，或者是垂直领域的coder 或者是math能力，就不太适用于我目前的项目，对于任何一个公司开发项目肯定是数据是非常核心的，不能说去直接调用市面给用户使用的大模型的api,需要部署本地大模型进行使用。我的思路，通过本地部署大模型，通过开发平台进行对垂直领域的回答,把chatGPT作为专家模型，进行对比，最后选出参数合适，领域知识全面的模型进行使用，引入项目当中去。

一、模型的测评平台搭建

​ 通过开源项目Open_webUI和Ollama集成进行测试的项目地址我放到了下面

https://github.com/open-webui/open-webui

Download Ollama on macOS

1.Docker desktop的安装

1.1 Docker desktop下载

网址：https://www.docker.com/products/docker-desktop/

进入网址后：点击Download Docker Desktop,我这里是windows系统，可以选择“Download for Windows - AMD64” 和 “Download for Windows - ARM64”

主要有以下区别：

  1. “Download for Windows - AMD64” 是针对 64 位的 AMD 处理器架构设计的软件版本。

    • AMD64 架构在个人电脑领域广泛应用，具有强大的性能和广泛的软件兼容性。它能够处理大量的数据和复杂的计算任务，适用于各种高性能需求的场景，如游戏、图形设计、视频编辑等。
    • 很多主流的软件和游戏都针对 AMD64 架构进行了优化，以充分发挥其性能优势。

  2. “Download for Windows - ARM64” 则是针对 ARM64 架构的版本。

    • ARM64 架构主要用于移动设备和一些低功耗的计算设备，如智能手机、平板电脑和部分轻薄笔记本电脑。近年来，随着技术的发展，ARM64 架构也开始在桌面级电脑市场崭露头角。

    • ARM64 架构的特点是功耗低、续航能力强，适合对移动性要求较高的用户。

      我这里选择的是Download for Windows - AMD64，你根据你的需要进行选择即可

下载完成后你的目录就会有.exe的应用程序

具体的Docker desktop的安装不做过多的赘述，点击下一步下一步安装即可，安装好之后，打开软件主界面是：（这里我调整了主题是暗色系，正常是白色）

我们在 CMD 终端上看。

至此，Docker Desktop 安装告一段落，接下来就是在 安装Ollama平台和Open_webUI

2.Ollama的本地部署

进入网址：Download Ollama on macOS 根据你的需求进行下载即可，我这里直接下载的是windows版本，下载完成后也是在目录里出现了一个exe的文件，点击下一步进行安装即可

ollama部署完成后我们继续进入官网https://ollama.com/，搜索栏进行搜索选择你想用的模型

最低0.47元/天 解锁文章

200万优质内容无限畅学
人工智能 - DeepSeek-VL2 、 qwen2.5 VL技术选型比较
02-05 3158
建议根据具体任务需求，结合少量实验（如使用开源版本的Qwen2.5-VL和DeepSeek-VL的试用API）进行效果验证。（如医疗影像分析、视频内容审核），尤其在需要深度推理和高精度定位的场景。在视觉-语言（Vision-Language, VL）多模态模型领域，企业级付费服务 → DeepSeek-VL2（商用API）高性能服务器 → DeepSeek-VL2（千亿参数版）边缘设备/低算力 → Qwen2.5-VL（量化版）场景占优，且开源生态完善，适合中小团队快速迭代。→ 选Qwen2.5-VL。
2025主流AI大模型终极指南：横向对比+实战测评+官方注册教程
专注于编程、AI、人工智能等多个领域内容研究和分析
04-29 1108
本文全面分析了2025年主流大模型的技术特点和应用场景，并提供了详细的注册使用指南。OpenAI文心一言智谱AI：https://bigmodel.cn (GLM系列)DeepSeek通义千问LLaMA 2ClaudeGemini学习建议：对于想深入掌握大模型的开发者，推荐从开源模型如LLaMA 2或Qwen2.5开始，参考阿里魔塔社区的微调教程进行实践，逐步构建自己的AI应用。希望本指南能帮助您在AI时代把握先机，如有任何问题欢迎在评论区交流讨论。
DeepSeek与Qwen3的详细技术对比分析
平凡的世界
05-22 2451
DeepSeek与Qwen3在技术架构、性能表现、应用生态和部署成本等方面存在显著差异。DeepSeek基于Dense Transformer++架构，引入动态稀疏注意力机制，专注于STEM领域，训练数据以中英双语为主，优化了数学符号和代码语法的嵌入层。Qwen3则采用MoE架构，支持多模态生成，训练数据覆盖100+语种，中文数据占比45%，并包含合成逻辑推理数据。在性能上，Qwen3在中文领域知识和数学能力上略占优势，而DeepSeek在代码生成和长文本处理上表现更优。工程化方面，Qwen3通过MoE稀疏
大语言模型 API 进阶指南：DeepSeek 与 Qwen 的深度应用与封装实践
最新发布
m0_74488469的博客
06-30 935
在昨天小宁已经教大家怎么去获取各个平台的API-kEY,然后也带大家了解了最简单的大模型的调用，那么今天就带大家进阶了解一些更加详细的功能。在大语言模型的实际应用中，除了基础的问答功能，深度思考能力、推理过程的获取以及灵活的对话模式往往是提升应用体验的关键。本文将围绕 DeepSeek 和 Qwen 两款优秀的大语言模型，深入探讨其进阶功能的实现，包括深度思考机制、推理过程处理、多轮对话实现以及 API 封装技巧，帮助开发者更高效地集成大语言模型能力。
ChatGLM、DeepSeek、Qwen、Llama 模型对比
学亮编程手记
02-26 2436
ChatGLM：中英双语对话与低显存部署的标杆，适合轻量级应用。DeepSeek：高效推理与多任务处理的技术突破者，适合企业级复杂场景。Qwen：中文长文本与垂直领域任务的优化专家。Llama：英文通用场景的经典选择，学术研究友好。
qwen2.5-max 和deepseek 比较
百态老人的博客
01-30 2404
是两个不同团队开发的大语言模型，各有其技术特点和适用场景。是垂直领域模型，技术类任务更专业。建议根据具体场景测试后再做选择。是通用型多模态模型，中文生态完善；
deepseekV3 qwen2.5 72B横向测评
u011005003的博客
01-08 1411
对大模型进行了相关测评
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2711
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
一文可懂国内外主流AI大模型
wangxi06的专栏
02-18 1116
人工智能技术的飞速进步，正在重塑全球商业格局，其影响辐射到各个行业领域。大模型时代，开源与闭源模型不断涌现，大模型为AI领域注入了新的活力，基于开源大模型的应用如雨后春笋般出现，同时也为研究者和开发者提供了更广阔的创新空间。在此，梳理当前国内外主流的大模型，并赋予简单介绍。
【03】LLaMA-Factory微调大模型——多模型部署
H66778899的博客
07-17 3479
【03】LLaMA-Factory微调大模型——多模型部署
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
丨汀、的博客
04-30 974
LLM资料大全：文本多模态大模型、垂直领域微调模型、STF数据集、训练微调部署框架、提示词工程等
DeepSeek各模型现有版本对比分析
神的博客
02-23 3957
DeepSeek作为最近特别火爆的模型，本文将对DeepSeek现有的主要版本进行对比分析,涵盖参数规模、训练数据、功能改进、应用场景和性能表现等方面。
DeepSeek-V3 与 DeepSeek-V3-Base：两大模型对比解析
12-27 1万+
近年来，随着人工智能技术的飞速发展，大型语言模型（LLM）在自然语言处理、代码生成、数学推理等领域的应用越来越广泛。：在 MMLU、DROP、LiveCodeBench 等基准测试中表现优异，尤其在数学推理和代码生成任务中超越了许多开源和闭源模型。：开源 FP8 权重，支持 SGLang、LMDeploy、TensorRT-LLM 等工具，用户可在不同硬件平台上高效运行。：主要针对编程任务，尤其是在多语言编程测评中表现突出，适合开发者用于代码生成和优化。
DeepSeek与其他GPT模型的比较分析
2201_75642955的博客
02-02 3415
自适应注意力机制：DeepSeek引入了自适应注意力机制，使其在处理复杂语言任务时具有更高的灵活性和准确性。多任务学习框架：DeepSeek采用了多任务学习框架，能够在不同层次上捕捉语言的细微差别。多语言数据处理：DeepSeek引入了多语言数据，使其在多语言处理任务中表现更为出色。高质量训练数据：DeepSeek的训练数据经过了严格的清洗和筛选，确保了数据的高质量。
Qwen-2.5、DeepSeek-R1、DeepSeek-V3 核心区别
Z_Flank的博客
03-02 2393
Qwen-2.5、DeepSeek-R1、DeepSeek-V3 核心区别
DeepSeek与其他大模型性能参数详细对比
胡萝卜不甜的博客
02-08 4526
DeepSeek 的混合专家架构和强化学习技术使其在计算效率和资源消耗方面表现出色，适合资源有限的环境。中文语境表现：DeepSeek 在中文语言理解与生成方面表现优于 GPT-4，生成的文本更符合中文表达习惯。推理能力：DeepSeek 在数学和逻辑推理任务中表现出色，超越了 GPT-4。成本效益：DeepSeek 的训练成本远低于 GPT-4，使其在商业应用中更具性价比。多模态能力：在多模态任务中，DeepSeek 的表现略逊于 Google Gemini。生成速度。
大模型研究：DeepSeek版本比较说明
ctotalk
02-08 7151
特点：这是专注于代码领域的模型。它基于海量代码数据进行训练，对各类编程语言的语法、语义有深入理解。能快速准确地完成代码补全、代码生成、代码解释、代码纠错等任务，在编程场景中为开发者提供高效的辅助。性能表现：在代码生成的准确性、生成速度和对复杂编程问题的处理能力上表现突出。例如，在一些代码生成基准测试中，它能够生成高质量、可运行的代码片段，极大提高开发者的编程效率。
DeepSeek 大模型每个版本的特点以及运用场景对比
热门推荐
Navy的博客
02-09 1万+
DeepSeek从V1到R1系列不断升级，参数规模从数十亿到6710亿，功能涵盖代码生成、长上下文处理、多模态支持和复杂推理，适用于技术文档处理、商业应用开发、教育辅导、跨模态交互等场景。R1系列进一步细分，满足不同配置和需求。
DeepSeek-R1,DeepSeek-V3,DeepSeek-VL,DeepSeek-V2,DeepSeek-R1-Zero各个模型区别
FPGA/MATLAB学习教程/源码/项目合作开发
01-29 1万+
DeepSeek-VL：DeepSeek-VL2 系列有 DeepSeek-VL2-Tiny、DeepSeek-VL2-Small 和 DeepSeek-VL2，分别具有 10 亿、28 亿和 45 亿个激活参数。DeepSeek-V2：基于高效且轻量级的框架 HAI-LLM 进行训练，采用 16-way zero-bubble pipeline 并行、8-way 专家并行和 ZeRO-1 数据并行。DeepSeek-VL：训练过程包括视觉-语言对齐、视觉 - 语言预训练、监督微调（SFT）三个阶段。
QWEN模型&Deepseek-R1模型使用情况对比
02-14
### 使用场景与性能比较 对于AI应用中的QWEN模型和Deepseek-R1模型，在不同应用场景下表现出不同的优势。 #### QWEN模型的应用场景及性能特点 QWEN模型特别适用于自然语言处理任务，如对话生成、文本摘要以及机器翻译等。该模型具有强大的上下文理解能力，能够提供更加流畅且语义连贯的结果。在多轮对话中表现尤为突出，可以维持长时间高质量的人机交互体验[^2]。 ```python from transformers import AutoModelForCausalLM, AutoTokenizer tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen-7B") model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen-7B") input_text = "Tell me about the history of China." inputs = tokenizer(input_text, return_tensors="pt") outputs = model.generate(**inputs) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ``` #### Deepseek-R1模型的应用场景及性能特点 相比之下，Deepseek-R1专注于大规模数据检索优化方面的工作负载。根据图1所示的基准测试结果表明，在涉及大量文档索引查询的任务上，Deepseek-R1展现出卓越的速度和准确性。这使得它非常适合用于搜索引擎后台支持或是企业级的知识管理系统当中[^1]。 ```python import deepseek as ds client = ds.Client(api_key='your_api_key') response = client.search(query="information retrieval", top_k=5) for doc in response['documents']: print(f"Title: {doc['title']}, Score: {doc['score']}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值