Day 3: 机器学习进阶算法与集成学习

最新推荐文章于 2025-08-22 11:20:25 发布
最新推荐文章于 2025-08-22 11:20:25 发布
阅读量126 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 校招学习日记 文章标签： 机器学习 算法 集成学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44903776/article/details/149641475

Day 3: 机器学习进阶算法与集成学习

欢迎来到第三天的学习！今天我们将深入学习更高级的机器学习算法。

📚 今日学习目标

  1. 深入理解支持向量机(SVM)的核心思想和数学原理
  2. 掌握K-means聚类算法的工作机制和应用场景
  3. 学习集成学习的三大策略：Bagging、Boosting、Stacking
  4. 实践XGBoost和LightGBM等现代集成算法
  5. 完成客户细分和高级特征工程项目

1. 支持向量机(SVM)详解

1.1 背景介绍

历史背景

支持向量机由Vladimir Vapnik在1995年提出，是统计学习理论的重要成果：

  • 理论基础：基于统计学习理论和VC维理论
  • 核心思想：寻找最优决策边界，最大化分类间隔
  • 重要地位：在深度学习兴起前，SVM是最强大的分类算法之一
为什么需要SVM？

传统算法的局限性：

  1. 线性分类器：只能处理线性可分问题
  2. 决策树：容易过拟合，边界不够平
了解本专栏 订阅专栏 解锁全文 超级会员免费看
Day 4-1: 机器学习算法全面总结
weixin_44903776的博客
07-30 92
摘要：本文全面总结了机器学习经典算法及其应用。文章系统梳理了监督学习(回归、分类、集成)和无监督学习(聚类)的核心算法，包括线性回归、决策树、随机森林、SVM等，详细对比了各算法的思想、适用场景和优缺点。同时总结了机器学习实战中的标准流程、评估指标选择、特征工程技巧和算法选择决策树。文章还回顾了Python数据处理(pandas)、可视化(matplotlib/seaborn)和机器学习框架(sklearn)的核心工具使用，为后续深度学习学习打下坚实基础。
Python量化价值投资：机器学习Pipeline构建
2501_92132293的博客
07-15 313
量化价值投资：用“数据+模型”识别“被低估”的股票（比如PE低、ROE高），追求长期超额收益；机器学习Pipeline：将“数据处理→模型训练→预测”的步骤封装成可重复的流程（类似Python的因子：衡量股票价值的指标（比如PE=股价/每股收益，代表“买1元盈利需要花多少钱”）；回测：用历史数据模拟策略表现（比如用2018-2023年数据验证“低PE+高ROE”策略是否赚钱）。机器学习Pipeline不是“一夜暴富”的工具，而是“长期稳定盈利”的武器。
机器学习进阶 day4
nendie1的博客
03-10 1686
AUC以及ROC曲线 TPR和FPR的概念 TPR真正率 分类正确的数量占总的正确的数量 FPR假正率 分类错误的数量占总的错误的数量 图例解释 equal error rate 该点是FPR=TPR相等的点 random chace 指的是随机分类时，TPR和FPR的线 图中FPR为0.1时，TPR为0.8，有种类似于以0.1的FPR换取了TPR的正确率 AUC ROC曲线所覆盖的面积 来评估模型的分类能力 精度Precision 也就是TPR 预测正例的总数量中正确的数量 召回率Recal 真正为正
机器学习入门基础（万字总结）（建议收藏！！！）
热门推荐
subsistent的博客
12-04 15万+
机器学习是人工智能的重要技术基础，涉及的内容十分广泛。本文章涵盖了机器学习的基础知识，主要包括机器学习的概述、 回归、分类、聚类、神经网络、文本分析、图像分析、深度学习等经典的机器学习基础知识，还包括深度学习入门等拔高内容。介绍机器学习的基础概念和知识，包括机器学习简史、主要流派、与人工智能、数据挖掘的关系、应用领域、算法、一般流程等。伴随着计算机计算能力的不断提升以及大数据时代的迅发展人工智能也取得了前所未有的进步。
机器学习进阶
xiaoyi52的专栏
05-09 422
AI技术基于计算机科学、心理学、神经科学、统计学等多个领域的知识，通过算法、大数据、机器学习、深度学习等方法，让计算机系统实现类似于人类的智能。AI技术已经在多个领域得到了广泛应用，比如医疗、金融、制造业、教育等。
《Python机器学习基础教程》第一章机器学习入门1.22 机器学习入门总结与未来展望：掌握核心概念，迎接进阶挑战
03-20 709
在本章中，我们介绍了机器学习的基础知识，并通过实际例子展示了如何进行数据预处理、模型选择、模型训练和模型评估。本文将对这些内容进行总结，并预告接下来的章节将要涉及的主题，激发读者继续学习的兴趣。通过本章的学习，你已经掌握了机器学习的基本概念和流程。从数据预处理到模型训练和评估，每一步都是构建高效模型的关键。未来的章节将深入探讨特征工程、集成学习、深度学习和模型部署等高级主题，希望你能继续保持学习的热情，不断提升自己的技能。
Day 5: 深度学习理论与PyTorch实现 - 神经网络训练的艺术
weixin_44903776的博客
07-31 301
神经网络训练原理、激活函数对比、损失函数选择、优化器算法、标准化训练流程
学习笔记：Linux入门到进阶
qq_45743853的博客
09-15 6077
这篇是学习笔记：记录Linux学习过程中的要点疑点和难点。笔记简介：这篇笔记写于2022/09/15。
机器学习实战38-基于机器学习算法的大数据深度挖掘能力薄弱以及未能形成“数据采集-分析-决策”高效闭环措施
微学AI的博客
08-19 47
大家好，我是微学AI，本报告旨在深入分析当前在处理投诉举报数据方面存在的专业人才匮乏、大数据深度挖掘能力薄弱以及未能形成“数据采集-分析-决策”高效闭环的核心问题。当前，尽管我们拥有多渠道的投诉数据来源 和现代化的数据技术栈选项 但从原始数据到可指导行动的决策支持之间仍存在巨大鸿沟。
Python与机器学习教程 机器学习算法课程-HTML网页版教程课件 可直接在浏览器运行 从入门到进阶.rar
05-03
本教程主要涵盖了Python编程语言与机器学习的基础及进阶知识，通过HTML网页版的形式呈现，适合初学者和有一定基础的学习者。课程分为三天的内容，即day01、day02和day03，包含了数十个章节，旨在帮助用户从零开始...
机器学习进阶：sklearn到深度学习实战
该资源是一份关于AI人工智能的教程，主要涵盖了机器学习和深度学习的基础知识，特别是针对day02的部分，详细讲解了sklearn库的使用，包括kNN（K-最近邻）算法、朴素贝叶斯算法、决策树以及随机森林。教程通过101页的...
【时间序列：R语言进阶】：揭秘高效数据挖掘的3大策略
[【时间序列：R语言进阶】：揭秘高效数据挖掘的3大策略](https://cdn.mos.cms.futurecdn.net/9meMCxtJU3NWkh5YcPs7qG.jpg) # 摘要 本文从时间序列和数据挖掘的基本概念入手，深入探讨了R语言在时间序列分析中的应用...
机器学习--决策树2
JYB0918的博客
08-19 530
决策树的进化之路：从ID3到CART的算法优化 决策树算法经历了从ID3到C4.5再到CART的演进过程，逐步解决了前代算法的局限性。ID3采用信息增益划分节点，但容易偏好多值特征；C4.5引入增益率进行平衡；CART则改用计算更简单的基尼指数。针对连续值特征，决策树通过离散化处理实现有效划分。此外，预剪枝和后剪枝技术能有效防止过拟合。实际应用中，合理设置criterion、max_depth等参数对模型性能至关重要。这些算法改进体现了机器学习追求简单而准确的核心思想。
线性回归笔记
最新发布
2402_88703635的博客
08-22 551
线性回归是一种基于最小二乘法的预测建模技术，通过构建自变量与因变量的线性关系进行预测。文章介绍了线性回归的核心思想、一般形式、评估指标（SSE、MSE、R²）和参数估计方法，重点阐述了多元线性回归与简单线性回归的区别与联系。线性回归具有解释性强、计算高效的优点，广泛应用于房地产定价、医学研究和市场营销等领域。最后说明了sklearn库中线性回归算法的实现方法及其参数作用。
【知识杂记】方差、标准差、均方误差、均方根误差与平均绝对误差，概念、计算公式、物理意义
qq_45976653的博客
08-20 595
摘要 方差和标准差衡量数据围绕平均值的离散程度，其中标准差还原了原始单位。均方误差（MSE）和均方根误差（RMSE）评估预测值与真实值的偏差，RMSE解决了MSE单位不一致的问题。平均绝对误差（MAE）使用绝对值计算误差，对异常值更稳健。MSE和RMSE对大误差敏感，而MAE虽鲁棒但不可微。这些指标在统计分析和机器学习中各有优劣，需根据具体场景选择使用。
【机器学习】SMOTE(Synthetic Minority Over-sampling Technique)，合成少数类过采样是什么？
weixin_44174312的博客
08-19 939
SMOTE（合成少数类过采样技术）是一种用于解决类别不平衡问题的算法，通过为少数类生成合成样本来提高分类器的召回率和macro-F1值。其核心原理是在少数类样本及其近邻之间线性插值生成新样本。适用于连续数值特征且类别极不平衡的场景，但需注意可能增加误报率（FPR）或放大噪声。使用时需避免数据泄漏，可通过imblearn.Pipeline实现。变体如SMOTE-NC适用于混合特征，Borderline-SMOTE关注类边界，SMOTEENN可清洗噪声。在课题中，SMOTE能提升分类效果，但需权衡FPR与运行代
机器学习经典算法总结：K-Means聚类与集成学习（Bagging, Boosting, Stacking）
2201_75691511的博客
08-21 714
聚类是一种无监督学习方法，目标是将相似的数据点划分为同一组，不相似的数据点划分到不同组。难点在于：如何评估聚类效果、如何选择合适的聚类数目K、如何定义“相似性”。集成学习通过结合多个弱学习器构建一个强学习器，提升模型的泛化能力和鲁棒性。算法类型代表算法特点适用场景聚类K-Means无监督，简单高效数据分群、图像分割集成学习-Bagging随机森林并行、抗过拟合、可解释性强分类、回归、特征选择集成学习-BoostingAdaBoost串行、调整权重、强分类器二分类、异常检测。
数据预处理通关指南：从混乱到有序，为机器学习铺路
ts18648100255的博客
08-20 529
先理解数据：缺失值是随机还是有规律？特征的物理含义是什么？结合业务场景：填充策略、标准化方法需匹配业务目标（如预测房价和预测疾病的预处理重点不同）。工具选对事半功倍pandas适合数据清洗，的模块适合标准化建模流程。
（论文速读）航空轴承剩余寿命预测：多生成器GAN与CBAM融合的创新方法
LJ1147517021的博客
08-20 1025
本文提出了一种基于多生成器生成对抗网络(MGGAN)和卷积块注意力模块(CBAM)的航空轴承剩余使用寿命(RUL)预测新方法。针对航空轴承数据稀缺和特征微弱的问题，该方法首先采用多生成器WGAN-GP框架增强数据质量，通过权重共享和特征融合策略提高生成效率；然后利用CNN提取退化特征，并通过CBAM-LSTM网络实现精准预测。在FEMTO数据集上的实验表明，该方法显著提高了预测精度和稳定性，为航空设备预测性维护提供了有效解决方案。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

z日火

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值