本文详细介绍了感知机的损失函数L(w,b)，并利用梯度下降法求解损失函数的最小值。通过求导得到w和b的偏导数，明确了在随机梯度下降法中，当误分类点为(xi,yi)时，权重w和偏置b的更新规则，以学习率η进行调整。"
94149343,8609429,精通PythonBeautifulSoup库指南,"['Python库', '前端开发', '数据抓取']
感知机的损失函数：
L(w,b)=−∑xi∈Myi(w⋅xi+b)(1) L(w, b) = - \sum_{x_i \in M}y_i (w \cdot x_i + b) \tag {1} L(w,b)=−xi∈M∑yi(w⋅xi+b)(1)
目标是最小化这个损失函数。
使用梯度下降法求出L(w,b)L(w,b)L(w,b)$的偏导，使w,b向导数的负方向移动。
{
∇wL(w,b)=−∑xi∈Myixi∇bL(w,b)=−∑xi∈Myi(2) \begin{cases} \nabla_wL(w,b) = - \sum_{x_i \in M}y_ix_i \\ \nabla_bL(w,b) = - \sum_{x_i \in M}y_i \end{cases} \tag {2} {
∇
最低0.47元/天 解锁文章
扫一扫
299
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
