📚 Week 5 序列建模基石:RNN-LSTM-GRU 详解笔记
📚 Week 5 序列建模基石:RNN-LSTM-GRU 详解笔记📝 前言本周的学习重点在于深入掌握序列建模的核心技术体系。我们从序列数据的本质出发,剖析了RNN的循环结构与数学原理,重点讲解了LSTM、GRU如何通过门控机制解决RNN的长距离依赖问题,并梳理了工业界的应用场景、常见问题诊断与面试高频考点。🧠 一、序列建模的基础认知1. 什么是序列数据?定义:在特定维度(时间 / 空间)上,具有严格先后顺序的数据集,顺序本身就是信息的一部分。 典型场景:天气预报、股票数据、文本对话、语音序列核心特点: 顺序依赖性:当前状态由之前的状态决定,如 “天气” 的含义依赖前后词 上下文相关性:前后数据存在语义 / 逻辑关联 长度不固定:不同样本的序列长度可能差异巨大 2. 为什么需要特殊模型?传统神经网络无法处理序列数据: DNN:记忆能力差,资源浪费,仅适合一维规整数据,无空间 / 时序建模能力 CNN:仅能提取局部特征,忽略全局上下文,如处理句子 “天气好,我不想出去” 时,可能陷入局部情绪判断误区 🔄 二、RNN:序列建模的开创者1. RNN 的核心优势 参数共享:从头 ...
NLP词向量与句向量笔记-week4
================================================================================ NLP 词向量与句向量 完整笔记================================================================================ 一、NLP 概述与发展 深度学习的核配应用上:NLP 的词向量与句向量Manus 作简历开发者社区:Hugging Face 实际解决问题的思路:任务与所学知识相结合任务├─ 分类└─ 回归 ⇒ 数据├─ 有label└─ 无label 数据周期长不长 → 长 → deep learning NLP → 语义理解的突破 → 是 AI 的里程碑符号计算 → 语义计算的转换经典例子:king - man + woman → queen(女王)应用价值:主要和文本打交道 NLP 发展阶段:1950 年:基于规则的系统 依赖人工编码 缺乏理解能力 2000 年前 NLP: 泛化能力差 语义 ...
机器学习(NLP文本分类)标准项目流程与实战笔记
机器学习(NLP文本分类)标准项目流程第一阶段:环境搭建与数据工程依赖库导入与环境配置:加载数据处理(Pandas)、自然语言处理(Jieba)、机器学习框架(Scikit-learn)等必要的第三方库,并配置系统参数(如忽略警告、设置日志级别)以优化运行环境。数据收集与加载:获取原始语料库,构建结构化的数据集(如DataFrame),明确样本数据(Text)与对应的真实标签(Label/Ground Truth)。第二阶段:特征工程3. 文本预处理与清洗:针对非结构化的文本数据进行规范化处理。包括统一大小写、去除特殊符号等,以降低数据噪声。4. 中文分词:由于中文语义的连续性,需调用专用分词工具(如Jieba)将连续的文本序列切分为独立的词汇单元,为后续的特征提取奠定基础。5. 特征向量化:将处理后的文本数据转化为计算机可计算的数值型矩阵。通过特征提取算法(如TF-IDF)构建特征空间,生成特征矩阵(X)与标签向量(y),完成从“自然语言”到“机器语言”的映射。第三阶段:模型构建与训练6. 数据集划分:采用随机抽样方法,将整体数据集按比例(如8:2)划分为训练集(用于模型学习)和测试 ...
深度学习与NLP核心笔记:从神经元到Transformer的演进之路
深度学习与NLP核心笔记:从神经元到Transformer的演进之路📝 前言本周的学习重点在于打通深度学习(Deep Learning)与自然语言处理(NLP)的任督二脉。我们不仅回顾了神经网络的生物学起源,更从数学底层剖析了前向传播与反向传播的机制,深入探讨了CNN、RNN、LSTM等经典架构,并梳理了NLP的文本处理全流程。 🧠 一、神经网络的本质与数学基础1. 感知机:从生物神经元到数学模型笔记中提到了一个核心类比:生物神经元→人工神经元。 生物视角:树突接收电信号→细胞体处理→轴突输出。 数学视角(感知机模型):一个神经元本质上就是一个数学函数。它接收输入信号,进行加权求和,加上偏置,最后通过激活函数输出。 $$y = f\left(\sum_{i=1}^{n} w_i x_i + b\right)$$ $x_i$:输入特征(Input) $w_i$:权重(Weight),代表特征的重要性。 $b$:偏置(Bias),相当于函数的截距,决定激活的难易程度。 $f$:激活函数(Activation Function),引入非线性因素。 🤔 深度解析感知机是神经网络 ...
NLP 文本特征提取:词袋模型 BOW 与 TF-IDF 原理实战详解
本章为AI算法自然语言处理入门实战,重点学习文本数字化核心方案:词袋模型(BOW)与 TF-IDF 权重算法。结合课堂代码运行结果,深度拆解矩阵输出规则、权重计算逻辑,解决新手常见理解误区,夯实NLP基础。 📑 一、学习前言计算机无法直接识别汉字、文本等非结构化数据,想要让模型处理文本、做分类、相似度计算、情感分析,第一步必须将文本转为数字向量。本节课学习两种最经典的文本向量化方式: 词袋模型 BOW:基于单词计数的简单文本特征提取 TF-IDF:结合词频与全局权重的进阶文本特征提取,工业级常用方案 💻 二、课堂完整实战代码123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657# 导入需要的库# pandas:数据处理工具(本次辅助使用)import pandas as pd# CountVectorizer:实现词袋模型,统计单词出现次数# TfidfVectorizer:实现TF-IDF算法,计算单词重要性权重f ...
机器学习实战复盘:线性回归作业与 5 个新手避坑指南
本篇通过加州房价预测线性回归作业,复盘新手最容易踩的5个典型坑:回归任务误用分层抽样、评估指标传参错误、变量逻辑顺序颠倒、占位符未替换、特征标准化流程混乱。犯错是最好的学习,这篇帮你把弯路走直。 💻 一、作业完整代码(修正后最终版)12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273import pandas as pdimport numpy as npimport matplotlibmatplotlib.use('Agg') # 设置非交互式后端import matplotlib.pyplot as pltfrom sklearn.datasets import fetch_california_housingfrom sklearn.model_selection import train_test_splitfrom sklea ...
机器学习实战:不平衡数据集与准确率陷阱
真实场景中,数据集99%都是不平衡的(欺诈检测、疾病诊断、故障检测)。本篇带你认识:准确率的巨大陷阱、混淆矩阵、精确率、召回率、F1分数,学会正确评估分类模型。 🎯 一、本篇核心目标 理解数据不平衡是什么(正负比例 1:19) 看清准确率(Accuracy)的陷阱 学会使用混淆矩阵、精确率、召回率、F1正确评估模型 掌握 stratify=y 分层抽样的重要性 学会生成模拟不平衡数据 💻 二、完整代码(详细注释版)123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263# 不平衡数据集实战# 重点:准确率不能信!必须看精确率、召回率、F1# ======================# 1. 导入库# ======================from sklearn.datasets import make_classificationfrom sklearn.model_selection ...
机器学习实战:鸢尾花分类与多模型对比
本篇通过经典鸢尾花数据集,一次性实现逻辑回归、KNN、SVM、决策树四大分类模型,学习 sklearn 统一 API 用法,并完成模型效果对比。是机器学习分类任务最经典、最适合新手的入门实战。 🎯 一、项目目标 学会加载 sklearn 内置数据集 掌握分类任务的标准流程 一次性训练 4 种经典机器学习模型 学会用准确率评估分类模型 学会用训练好的模型预测新样本 💻 二、完整代码实现(详细注释版)1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465# 鸢尾花分类实战:一次性对比逻辑回归、KNN、SVM、决策树# 任务类型:多分类任务(3种鸢尾花类别)# ======================# 1. 导入所需库# ======================from sklearn.datasets import load_irisfrom sklearn.model_selec ...
机器学习实战:从零实现线性回归完整项目
本篇通过加州房价预测实战项目,完整走一遍机器学习流程:数据加载 → 数据查看 → 数据集划分 → 模型训练 → 模型预测 → 模型评估。非常适合新手理解标准机器学习项目的完整套路。 🎯 一、项目目标与流程本次实战使用线性回归完成加州房价预测,帮助大家掌握: 如何加载官方数据集 如何构建 DataFrame 并查看数据 训练集 / 测试集划分为什么重要 线性回归模型训练与预测 模型评估指标 MSE、R² 的含义 标准机器学习五步流程: 导入库 加载数据 & 预处理 划分训练集 / 测试集 训练模型 预测 & 评估 💻 二、完整代码实现(带详细注释)123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566# 实现一个完整的线性回归项目# 目标:对机器学习基础流程建立直观理解# ======================# 1. 导入所需库# ============ ...
机器学习核心算法全解(回归/SVM/决策树/集成/聚类)
承接第一周AI基础与Numpy/Pandas入门,本周深入机器学习核心算法体系,从基础回归模型到经典分类器,再到集成学习与无监督聚类,完整覆盖机器学习主流算法原理与评估方法。 🤖 一、机器学习核心基础与价值人工智能(AI)包含机器学习(ML),机器学习包含深度学习(DL)。机器学习的核心在于利用数据训练模型,让计算机自动寻找规律,而非传统的硬编码规则。 📌 1. 算法核心分类 有监督学习:数据带有“标准答案”(标签) 回归:预测连续值(如体重、房价、销售额) 分类:预测离散值(如0/1二分类、多分类) 无监督学习:数据无标签,目的是发现数据内在结构(如聚类、降维) 半监督学习:介于两者之间,利用少量有标签数据+大量无标签数据,降低标注成本 强化学习:通过“试错”和奖惩机制学习最优策略(如AlphaGo、自动驾驶、扫地机器人避障) 核心金句:数据决定模型的上限,算法和特征工程决定逼近这个上限的程度。 ✅ 补充:数据噪声定义:有问题的数据被称为“噪声”,不仅包含错误标注、异常值等错误数据,也包含数据中无法被模型解释的固有随机波动,噪声会严重干扰模型学习真实规律。 📈 ...
avatar
HYRX-TG
运维工程师 | AI算法学习者 | 热爱写作与技术分享
关注 河岳日星的 GitHub
公告
欢迎来到河岳日星的博客,记录技术与成长
最新文章
网站资讯
文章数目 :
122
已运行时间 :
本站总字数 :
171.6k
本站访客数 :
本站总访问量 :
最后更新时间 :
一言
:D 获取中...
:D 获取中...