当前位置： 首页 > news >正文

深度学习记录--logistic回归函数的计算图

news 2025/11/5 22:33:29

计算图用于logistic回归函数

先回顾一下单一样本的logistic回归损失函数的公式，公式如下：

将logistic函数用计算图表示出来(以两个基础量为例)，计算图如下：

前向传播已经完成，接下来完成后向传播

运用链式法则依次求出 \frac{\partial \pounds }{\partial a}, \frac{\partial \pounds }{\partial z},\frac{\partial \pounds }{\partial wi}(i=1,2),\frac{\partial \pounds }{\partial xi}(i=1,2),\frac{\partial \pounds }{\partial b}

补充梯度下降法--更新变量

当把每个变量的导数求出后，就可以使用梯度下降法进行变量更新

梯度下降法公式：var:= var-\partial d(var),其中 \partial 为学习速率(learning rate)

每次更新var迭代计算

m个样本的梯度下降

少量样本的logistic计算图求完后，可以推广到m个样本的计算图

成本函数公式：J(w,b)=\frac{1}{m}\sum_{i=1}^{m}\pounds (_a{i},_y{i})

每个导数求和之后求平均值(除以m)

代码实现

使用for循环来对m个样本进行后向传播计算

同时在for循环内部嵌套for循环来对i个基础量进行求和

在外层for循环结束后进行基础量的迭代

这样完成简单的迭代算法代码实现

不足之处

两个for循环在大量的样本数据面前，会使迭代时间大大增加，算法效率及其低下

向量化的出现能够很好地解决这个问题

相关文章：

深度学习记录--logistic回归函数的计算图

计算图用于logistic回归函数 先回顾一下单一样本的logistic回归损失函数的公式，公式如下： 将logistic函数用计算图表示出来(以两个基础量为例)，计算图如下： 前向传播已经完成，接下来完成后向传播 运用链式法则依次求…...

编程日记 2023/12/4 4:23:26

Java基本数据类型详解

✨个人主页：全栈程序猿的CSDN博客 💨系列专栏：Java从入门到精通 ✌座右铭：编码如诗，Bug似流星，持续追求优雅的代码，解决问题如同星辰般自如 Java是一种强类型语言，数据类型在程序中起…...

编程日记 2023/12/4 4:21:24

第十五届蓝桥杯模拟赛（第二期）

大家好，我是晴天学长，本次分享，制作不易，本次题解只用于学习用途，如果有考试需要的小伙伴请考完试再来看题解进行学习，需要的小伙伴可以点赞关注评论一波哦！后续会继续更新第三期的。&#x1f4…...

编程日记 2023/12/4 4:19:23

命令模式-C++实现

命令模式是一种行为型设计模式，它将请求封装成一个对象，从而能使你可以用不同的请求对客户端进行参数化。该模式允许请求的发送者和接收者进行解耦，发送者不需要知道接收者的信息，只需要通过命令对象来与它进行交互。 命令模式有…...

编程日记 2023/12/4 4:18:22

3dMax拼图生成工具Puzzle2D使用教程

Puzzle2D for 3dsMax拼图生成工具使用教程 Puzzle2D简介： 2D拼图随机生成器（英文：Puzzle2D） ，是一款由#沐风课堂#用MAXScript脚本语言开发的3dsMax建模小工具，可以随机创建2D可编辑样条线拼图图形。可批量…...

编程日记 2023/12/4 4:13:18

git报错invalid object xxx和unable to read tree xxxxxx

电脑出问题了，导致git仓库像是被损坏了一样，执行git status就会报错unable to read ree，无法正常提交代码至仓库，原因是本地代码仓库.git文件损坏了，无法找到正确的提交历史和路径。 找到了一个解决办法： …...

编程日记 2023/12/4 4:12:17

会泽一村民上山放羊吸烟引发森林火灾，AI科技急需关注

2023年4月，会泽县古城街道厂沟村委会望香台山林中发生了一场由疏忽引发的森林火灾。张某某在放羊时未完全熄灭烟头，导致7.33公顷的林地和草地被焚毁，直接经济损失高达29.097万元。这一事件再次凸显了日常生活中的安全隐患。 在这一背景下&…...

编程日记 2023/12/4 4:11:16

docker-compose部署zabbix+grafana

1.引言 1.1目的 zabbixgrafana实现图形化监控 2.部署环境 服务器ip服务版本192.168.5.137zabbix-server6.0.21192.168.5.137grafana10.2.2192.168.5.152zabbix-client6.0.21 3.部署zabbix-server 3.1 创建zabbix目录 mkdir zabbix3.2 编写docker-compose文件 cd zabbix…...

编程日记 2023/12/4 4:08:14

ios 逆向分分析，某业帮逆向算法（二）

接上讲 上次hook 发现自己的数据有点问题。才发现是自己的编辑器识别出问题了。 上篇sub_1029B6898函数hook数据如下： [iOS Device::作业帮 ]-> arg2: 0 1 2 3 4 5 6 7 8 9 A B C D E F 0123456789ABCDEF 00000000 37 32 65 64 38 31 32 38…...

编程日记 2023/12/4 4:07:13

openCv颜色矩

颜色矩（Color Moments）是一种常用的图像特征描述方法，用于表示图像中颜色的分布和统计特征。它是基于图像的颜色直方图而计算得到的。 颜色矩通常包括三个维度：平均值、方差和偏度。具体来说： 平均值（Mean…...

编程日记 2023/12/4 4:05:11

〖大前端 - 基础入门三大核心之JS篇㊹〗- DOM事件委托

说明：该文属于 大前端全栈架构白宝书专栏，目前阶段免费，如需要项目实战或者是体系化资源，文末名片加V！作者：不渴望力量的哈士奇(哈哥)，十余年工作经验, 从事过全栈研发、产品经理等工作&#xf…...

编程日记 2023/12/4 4:03:09

正是阶段高等数学复习--函数极限的计算

之前在预备阶段中函数极限的解决方式分三步，第一步观察形式并确定用什么方式来解决，第二步化简，化简方式一共有7种，分别是最重要的三种（等价替换、拆分极限存在的项、计算非零因子）以及次重要的4种&#xf…...

编程日记 2023/12/4 4:00:07

Linux-usb触摸板去除鼠标箭头

usb触摸板会同时加载hid-generic.c和hid-multitouch.c驱动 [ 213.602561] usb 4-1: new full-speed USB device number 2 using ohci-platform [ 213.834953] usb 4-1: New USB device found, idVendor6615, idProduct108c, bcdDevice 1.30 [ 213.835048] usb 4-1: New USB…...

编程日记 2023/12/4 3:57:04

【微信小程序】英文字母不换行问题 flex布局字符超出宽度折行问题：设置了word-break: break-all；和flex: 1；冲突flex不生效问题

flex布局中英文字符超出宽度不会自动折行的问题，但是设置了word-break: break-all；前面设置的flex: 1；就不生效了 1.英文字母不换行问题 .view_text {word-break: break-all; }如果使用flex仅仅设置word-break: break-all；是会影…...

编程日记 2023/12/4 3:55:01

python--自动化办公（Word）

python自动化办公之—Word python-docx库 1、安装python-docx库 pip install python-docx2、基本语法 1、打开文档 document Document() 2、加入标题 document.add_heading(总标题,0) document.add_heading(⼀级标题,1) document.add_heading(⼆级标题,2) 3、添加文本 para…...

编程日记 2023/12/4 3:54:00

sourceTree的下载和安装

sourceTree的下载和安装 一、概述 SourceTree 是一款免费的 Git 和 Hg 客户端管理工具，支持 Git 项目的创建、克隆、提交、push、pull 和合并等操作。它拥有一个精美简洁的界面，大大简化了开发者与代码库之间的 Git 操作方式，这对于不熟悉 …...

编程日记 2023/12/4 3:48:55

解决：ModuleNotFoundError: No module named ‘PyQt5‘

解决：ModuleNotFoundError: No module named ‘PyQt5’ 文章目录 解决：ModuleNotFoundError: No module named PyQt5背景报错问题报错翻译报错位置代码报错原因解决方法安装PyQt5在PyCharm中配置PyQt5对于新项目对于已有项目 今天的分享就到此结束了 背景…...

编程日记 2023/12/4 3:47:54

极客时间 - 如何成为学习高手【文章笔记 + 思考总结】

如何成为学习高手【文章笔记 思考总结】 高度自律 高度自律 5分钟起步法。 稍微走在计划前面。 替代拖延法。 自律：从不自律的念头中，约束自己。有变弱倾向时进行对抗。 在一种痛苦和另一种痛苦之间做选择，选择那个有意义的痛苦。 在某些固…...

编程日记 2023/12/4 3:45:52

前端笔记（二）：CSS 选择器与特性

CSS（层叠样式表）是一种样式表语言，用于描述HTML或XML文档的呈现方式。它定义了如何在屏幕、纸张或其他媒体上显示文档的样式、布局和外观。 里面的代码由 选择器 { } 组成 体验 CSS CSS 可以让我们界面变得更加美观，这是 CSS 的…...

编程日记 2023/12/4 3:44:52

【每日一题】1423. 可获得的最大点数-2023.12.3

题目： 1423. 可获得的最大点数 几张卡牌 排成一行，每张卡牌都有一个对应的点数。点数由整数数组 cardPoints 给出。 每次行动，你可以从行的开头或者末尾拿一张卡牌，最终你必须正好拿 k 张卡牌。 你的点数就是你拿到手中的所有…...

编程日记 2023/12/4 3:43:51

Ubuntu系统下交叉编译openssl

一、参考资料 OpenSSL&&libcurl库的交叉编译 - hesetone - 博客园 二、准备工作 1. 编译环境 宿主机：Ubuntu 20.04.6 LTSHost：ARM32位交叉编译器：arm-linux-gnueabihf-gcc-11.1.0 2. 设置交叉编译工具链 在交叉编译之前&#x…...

编程新知 2025/8/5 22:19:11

QMC5883L的驱动

简介 本篇文章的代码已经上传到了github上面，开源代码 作为一个电子罗盘模块，我们可以通过I2C从中获取偏航角yaw，相对于六轴陀螺仪的yaw，qmc5883l几乎不会零飘并且成本较低。 参考资料 QMC5883L磁场传感器驱动 QMC5883L磁力计…...

编程新知 2025/7/21 15:40:47

【Redis技术进阶之路】「原理分析系列开篇」分析客户端和服务端网络诵信交互实现（服务端执行命令请求的过程 - 初始化服务器）

服务端执行命令请求的过程 【专栏简介】【技术大纲】【专栏目标】【目标人群】1. Redis爱好者与社区成员2. 后端开发和系统架构师3. 计算机专业的本科生及研究生 初始化服务器1. 初始化服务器状态结构初始化RedisServer变量 2. 加载相关系统配置和用户配置参数定制化配置参数案…...

编程新知 2025/11/5 1:10:58

解决本地部署 SmolVLM2 大语言模型运行 flash-attn 报错

出现的问题 安装 flash-attn 会一直卡在 build 那一步或者运行报错 解决办法 是因为你安装的 flash-attn 版本没有对应上，所以报错，到 https://github.com/Dao-AILab/flash-attention/releases 下载对应版本，cu、torch、cp 的版本一定要对…...

编程新知 2025/11/3 2:11:24

多种风格导航菜单 HTML 实现（附源码）

下面我将为您展示 6 种不同风格的导航菜单实现&#xff0c;每种都包含完整 HTML、CSS 和 JavaScript 代码。 1. 简约水平导航栏 <!DOCTYPE html> <html lang"zh-CN"> <head><meta charset"UTF-8"><meta name"viewport&qu…...

编程新知 2025/10/30 22:15:39

Python ROS2【机器人中间件框架】 简介

销量过万TEEIS德国护膝夏天用薄款 优惠券冠生园 百花蜂蜜428g 挤压瓶纯蜂蜜巨奇严选 鞋子除臭剂360ml 多芬身体磨砂膏280g健70%-75%酒精消毒棉片湿巾1418cm 80片/袋3袋大包清洁食品用消毒 优惠券AIMORNY52朵红玫瑰永生香皂花同城配送非鲜花七夕情人节生日礼物送女友 热卖妙洁棉…...

编程新知 2025/8/17 7:11:57

IP如何挑？2025年海外专线IP如何购买？

你花了时间和预算买了IP&#xff0c;结果IP质量不佳&#xff0c;项目效率低下不说&#xff0c;还可能带来莫名的网络问题&#xff0c;是不是太闹心了&#xff1f;尤其是在面对海外专线IP时&#xff0c;到底怎么才能买到适合自己的呢&#xff1f;所以&#xff0c;挑IP绝对是个技…...

编程新知 2025/10/19 9:49:56

算法：模拟

1.替换所有的问号 1576. 替换所有的问号 - 力扣&#xff08;LeetCode&#xff09; ​遍历字符串​&#xff1a;通过外层循环逐一检查每个字符。​遇到 ? 时处理​&#xff1a; 内层循环遍历小写字母&#xff08;a 到 z&#xff09;。对每个字母检查是否满足&#xff1a; ​与…...

编程新知 2025/10/26 21:21:16

论文阅读笔记——Muffin: Testing Deep Learning Libraries via Neural Architecture Fuzzing

Muffin 论文 现有方法 CRADLE 和 LEMON&#xff0c;依赖模型推理阶段输出进行差分测试&#xff0c;但在训练阶段是不可行的&#xff0c;因为训练阶段直到最后才有固定输出&#xff0c;中间过程是不断变化的。API 库覆盖低&#xff0c;因为各个 API 都是在各种具体场景下使用。…...

编程新知 2025/10/29 5:50:11

MySQL 主从同步异常处理

阅读原文&#xff1a;https://www.xiaozaoshu.top/articles/mysql-m-s-update-pk MySQL 做双主&#xff0c;遇到的这个错误&#xff1a; Could not execute Update_rows event on table ... Error_code: 1032是 MySQL 主从复制时的经典错误之一&#xff0c;通常表示&#xff…...

编程新知 2025/8/4 1:00:56