Previous Card
RAG 技术要点速查
神经网络基础速查
神经网络核心概念速查表，涵盖网络结构、激活函数、优化器、损失函数等关键知识点，帮助快速理解深度学习基础。 ✨
Article Points:
1
前向传播: 输入 → 隐藏层 → 输出，逐层计算
2
反向传播: 计算梯度，链式法则，更新权重
3
激活函数: ReLU(最常用), Sigmoid, Tanh, GELU
4
损失函数: MSE(回归), CrossEntropy(分类), BCE(二分类)
5
优化器: SGD, Adam(最常用), AdamW, RMSprop
6
正则化: Dropout, L2正则, BatchNorm, LayerNorm
7
超参数: 学习率, batch_size, epochs, 网络深度/宽度
Source:
神经网络基础速查
神经网络基础速查
A[输入层] --> B[隐藏层1]
B --> C[激活函数]
C --> D[隐藏层2]
D --> E[激活函数]
E --> F[输出层]
F --> G[损失函数]
G --> H[反向传播]
H --> I[优化器]
I --> J[更新权重]
Source:
神经网络基础速查
Next Card