机器学习基本概念2
资料来源：
https://www.youtube.com/watch?v=Ye018rCVvOo&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J&index=1
https://www.youtube.com/watch?v=bHcJCp2Fyxs&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J&index=2
分三步
1、 定义function
b和w是需要透过知识去获取的，是未知的
做机器学习，需要Domain Knowledge，这些知识就是用来解b和w
这里的函式，就叫做Model
我们知道2月25号的人数是多少，就叫feauture
2、 定义Loss
Loss is a function of parameters
真实的值叫Label（正确的数值）
可以算出来最近3年的误差，把所有的误差加起来，算出来一个L，这就是我们的Loss，值越大，说明越不好
MAE和MSE的区别和选择具体而定，还有Cross-entropy
真实的后台统计数据例子
越偏红色，代表Loss越大，偏蓝色，Loss越小，那在预测的时候，w为0.75 b代500，可能预测会更准
3、最佳化算法
做法： Gradient Descent
如何做： 当w不同的值时，会得到不同的Loss，
怎么找到w，让Loss最小，随机选取初始化的点 w0（有一些方法可以更科学的找到这个值）
计算w对l的微积分，计算error surface的斜率，如果这个斜率的值为负数，
把w的值变大，Loss就会小
跨步要多大呢？
斜率大，就跨大
学习速率是自己设定的
Loss的值为什么会是负数？
因为这个函数是自己定义的，Loss的定义的估算的值和实际的值的绝对值，如果根据刚刚的定义，不可能为负数
但上面的这个例子不是真实的案例，error surface 可能是任何形状
hyperparameter，自己设定的
什么时候会停止下来？一般两种情况
a、 前期设定了这个参数，例如次数
b、 达到了理想的状态
Gradient Descent上面找不到最佳的loss值，因为随机的位置不一样
Local minima是个假的问题，具体为什么，后面会讲
两个参数，如何做上面的Graddient Descent？
例子
课程总结：
这三个步骤合并起来，叫做训练
2021年的误差还是比较大的，怎么做的更好？ 分析下数据
蓝色线相当于把红色右移了一天而已，每隔7天就是一个循环
这个model是一个比较坏的，我们可以拿7天的周期来进行修改
x叫做feature
上面的叫做Linear Model，我们后面看下怎么把Linear Model做的更好
Linear Model 太过简单了
我们需要写出更复杂，更多未知参数的function
1除以1+Exponential-b+wx1，再乘以constant常数
当b+wx1趋向于无穷大的时候，会发生什么事呢，Exponential会消失，当X1非常大的时候，这一条线会收敛在高度是C的地方
当b+wx1趋向于负的无穷大，分母会非常大，Y的值会趋近于0
S型的function，叫做sigmoid
我们需要各式各样合适蓝色的function，那这个蓝色function怎么出来呢，需要调整b和w
改w，会改变斜率，斜坡的坡度
修改b呢，会左右移动
修改c，会改变高度
可以制造出不同
把0和1和2和3都加起来
summation，b是constant
假设b,c,w是未知参数，有弹性，有未知参数的函式
Transpose
X输入，我们的Feature是X这个向量，X乘上矩阵W加上向量b，得到向量r，再把向量r，通过Sigmooid Function得到向量a，
再把向量a跟乘上c的Transpose加上b，就得到了y
不同的表示方式，上面是图示化的方式，下面是线性代数的表示方式
在参数小的情况下，穷举所有的可能就行，不需要使用Gradient Descent
Sigmoid 可以有多个，会产生越多线段的 Piecewise Linear的function，你就可以逼近越复杂的function
至于需要几个Sigmoid，这是另外的Hyper Parameter，这个自己决定
Loss function
Update和Epoch是不一样的东西
每次更新一次参数叫做一次update，把所有的Batch都看过一遍，叫做一个Epoch
为什么要分成一个一个的batch？
激活函数
哪种比较好？？ Relu好一些
我们还可以继续改我们的模型
我们可以把重复的事情，反复的再多做几次，这里的几次，又是另外一个超参数
模型也需要一个好的名字
这个是在模拟人脑
Deep Learning的由来。。。。
只要有足够多的ReLU或者Sigmoid，就能够逼近任何连续的Function
反复用的意义在哪里？
过多的层数效果不一定好
神经网络结构那部分讲的太精彩了。从简单的线性回归开始，到用几个简单线性函数去逼近一个分段线性函数，然后提出用sigmooid和线性逼近曲线，然后自然而然引出神经网络的基本结构。输入特征，参数，激活函数..等等概念自然而然都出来了
相关文章：
机器学习基本概念2
资料来源： https://www.youtube.com/watch?vYe018rCVvOo&listPLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J&index1 https://www.youtube.com/watch?vbHcJCp2Fyxs&listPLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J&index2 分三步 1、 定义function b和w是需要透…...
Spring Cloud 与微服务学习总结（19）—— Spring Cloud Alibaba 之 Nacos 2.3.0 史上最大更新版本发布
Nacos 一个用于构建云原生应用的动态服务发现、配置管理和服务管理平台，由阿里巴巴开源，致力于发现、配置和管理微服务。说白了，Nacos 就是充当微服务中的的注册中心和配置中心。 Nacos 2.3.0 新特性 1. 反脆弱插件 Nacos 2.2.0 版本开始加入反脆弱插件，从 2.3.0 版本开…...
八、C#笔记
/// <summary> /// 第十三章：创建接口和定义抽象类 /// </summary> namespace Chapter13 { class Program { static void Main(string[] args) { //13.1理解接口 ///13.1.1定义接口 ///…...
利用Node.js和cpolar实现远程访问，无需公网IP和路由器设置的完美解决方案
文章目录 前言1.安装Node.js环境2.创建node.js服务3. 访问node.js 服务4.内网穿透4.1 安装配置cpolar内网穿透4.2 创建隧道映射本地端口 5.固定公网地址 前言 Node.js 是能够在服务器端运行 JavaScript 的开放源代码、跨平台运行环境。Node.js 由 OpenJS Foundation࿰…...
C++如何通过调用ffmpeg接口对H264文件进行编码和解码
C可以通过调用FFmpeg的API来对H264文件进行编码和解码。下面是一个简单的例子。 首先需要在代码中包含FFmpeg的头文件： extern "C" { #include <libavcodec/avcodec.h> #include <libavformat/avformat.h> #include <libswscale/swscale…...
使用MetaMask + Ganache搭建本地私有网络并实现合约部署与互动
我使用Remix编写合约，MetaMask钱包工具和Ganache搭建了一个私有网络，并且实现了合约的部署和互动。 在前面的博客中提到了 Remix在线环境及钱包申请 以及 Solidity的基本语法 ，没看过的小伙伴可以点击链接查看一下，都是在本专栏下…...
目标检测、目标跟踪、重识别
文章目录 环境前言项目复现特征提取工程下载参考资料 环境 ubuntu 18.04 64位yolov5deepsortfastreid 前言 基于YOLOv5和DeepSort的目标跟踪 介绍过针对行人的检测与跟踪。本文介绍另一个项目，结合 FastReid 来实现行人的检测、跟踪和重识别。作者给出的2个主…...
高防IP防御效果怎么样，和VPN有区别吗
高防IP主要是用于防御网络攻击，可以抵御各种类型的DDoS攻击，隐藏源IP地址，提高网络安全性和用户体验。主要目的是解决外部网络攻击问题，保护网络安全，避免因攻击而导致的业务中断和数据泄露等问题。 而VPN则是一种可以…...
探秘MSSQL存储过程：功能、用法及实战案例
在现代软件开发中，高效地操作数据库是至关重要的。而MSSQL（Microsoft SQL Server）作为一款强大的关系型数据库管理系统，为我们提供了丰富的功能和工具来处理数据。其中，MSSQL存储过程是一项强大而又常用的功能…...
我们常说的流应用到底是什么？
流应用是DCloud公司开发的一种可以让手机App安装包实现边用边下的技术。基于HTML5规范的即点即用应用，开发者按照HTML5规范开发的应用，可以在支持HTML5流应用的发行渠道实现即点即用的效果。 流应用是基于 HTML5规范的即点即用应用，开发者按照…...
ELK 日志解决方案
ELK 是目前最流行的集中式日志解决方案，提供了对日志收集、存储、展示等一站式的解决方案。 ELK 分别指 Elasticsearch、Logstash、Kibana。 Elasticsearch：分布式数据搜索引擎，基于 Apache Lucene 实现，可集群，提供…...
本项目基于Spring boot的AMQP模块，整合流行的开源消息队列中间件rabbitMQ,实现一个向rabbitMQ
在业务逻辑的异步处理，系统解耦，分布式通信以及控制高并发的场景下，消息队列有着广泛的应用。本项目基于Spring的AMQP模块，整合流行的开源消息队列中间件rabbitMQ,实现一个向rabbitMQ添加和读取消息的功能。并比较了两种模式&…...
freeswitch webrtc video_demo客户端进行MCU的视频会议
系统环境 一、编译服务器和加载模块 二、下载编译指定版本video_demo 三、配置verto.conf.xml 1.修改配置文件 2.重新启动 四、MCU通话测试 1.如何使用video_demo 2.测试结果 五、MCU的通话原理及音频/视频/布局/管理员等参数配置 附录 freeswitch微信交流群 系统环境 lsb_rel…...
【鸿蒙学习网络】
鸿蒙技术学习相关学习资料 官方文档：华为官方提供了鸿蒙开发者文档，包括开发指南、API参考和示例代码等。您可以访问华为开发者中心网站（https://developer.harmonyos.com/）获取最新的官方文档和教程。在 线 课 程 ： …...
MySQL系列（一）：索引篇
为什么是B树？ 我们推导下，首先看下用哈希表做索引，是否可以满足需求。如果我们用哈希建了索引，那么对于如下这种SQL，通过哈希，可以快速检索出数据： select * from t_user_info where id1;但是这…...
Flink Flink数据写入Kafka
一、环境准备 官网地址 flink官方集成了通用的 Kafka 连接器，使用时需要根据生产环境的版本引入相应的依赖 <properties><project.build.sourceEncoding>UTF-8</project.build.sourceEncoding><flink.version>1.14.6</flink.version&g…...
《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器 Affective Computing 2021
《论文阅读》用于情绪回复生成的情绪正则化条件变分自动编码器 前言简介模型结构实验结果总结前言 今天为大家带来的是《Emotion-Regularized Conditional Variational Autoencoder for Emotional Response Generation》 出版：IEEE Transactions on Affective Computing 时间…...
Pytorch CIFAR10图像分类 Swin Transformer篇
Pytorch CIFAR10图像分类 Swin Transformer篇 文章目录 Pytorch CIFAR10图像分类 Swin Transformer篇4. 定义网络（Swin Transformer）Swin Transformer整体架构Patch MergingW-MSASW-MSARelative position biasSwin Transformer 网络结构Patch EmbeddingP…...
【vim】常用操作
用的时候看看，记太多也没用，下面都是最常用的，更多去查文档vim指令集。 以下均为正常模式下面操作，正在编辑的，先etc一下. 1/拷贝当前行 yy，5yy为拷贝包含当前行往下五行 2/p将拷贝的东西粘贴到当前行下…...
oracle、误操作删除数据库 数据恢复。
–查询 执行 delete 的语句 ，拿到删除的时间 FIRST_LOAD_TIME ，删除行数可参考 ROWS_PROCESSED select t.FIRST_LOAD_TIME,t.ROWS_PROCESSED,t.* from v$sql t where t.sql_text like %delete from trade% ;select *from trade as of timestamp to_time…...
uniapp 对接腾讯云IM群组成员管理（增删改查）
UniApp 实战：腾讯云IM群组成员管理（增删改查） 一、前言 在社交类App开发中，群组成员管理是核心功能之一。本文将基于UniApp框架，结合腾讯云IM SDK，详细讲解如何实现群组成员的增删改查全流程。 权限校验…...
【网络】每天掌握一个Linux命令 - iftop
在Linux系统中，iftop是网络管理的得力助手，能实时监控网络流量、连接情况等，帮助排查网络异常。接下来从多方面详细介绍它。 目录 【网络】每天掌握一个Linux命令 - iftop工具概述安装方式核心功能基础用法进阶操作实战案例面试题场景生产场景…...
＜6＞-MySQL表的增删查改
目录 一，create（创建表） 二，retrieve（查询表） 1，select列 2，where条件 三，update（更新表） 四，delete（删除表…...
模型参数、模型存储精度、参数与显存
模型参数量衡量单位 M：百万（Million） B：十亿（Billion） 1 B 1000 M 1B 1000M 1B1000M 参数存储精度 模型参数是固定的，但是一个参数所表示多少字节不一定，需要看这个参数以什么…...
基于ASP.NET+ SQL Server实现（Web）医院信息管理系统
医院信息管理系统 1. 课程设计内容 在 visual studio 2017 平台上，开发一个“医院信息管理系统”Web 程序。 2. 课程设计目的 综合运用 c#.net 知识，在 vs 2017 平台上，进行 ASP.NET 应用程序和简易网站的开发；初步熟悉开发一…...
Qt Widget类解析与代码注释
#include "widget.h" #include "ui_widget.h"Widget::Widget(QWidget *parent): QWidget(parent), ui(new Ui::Widget) {ui->setupUi(this); }Widget::~Widget() {delete ui; }//解释这串代码，写上注释 当然可以！这段代码是 Qt …...
ardupilot 开发环境eclipse 中import 缺少C++
目录 文章目录 目录摘要1.修复过程摘要 本节主要解决ardupilot 开发环境eclipse 中import 缺少C++，无法导入ardupilot代码，会引起查看不方便的问题。如下图所示 1.修复过程 0.安装ubuntu 软件中自带的eclipse 1.打开eclipse—Help—install new software 2.在 Work with中…...
MySQL中【正则表达式】用法
MySQL 中正则表达式通过 REGEXP 或 RLIKE 操作符实现（两者等价），用于在 WHERE 子句中进行复杂的字符串模式匹配。以下是核心用法和示例： 一、基础语法 SELECT column_name FROM table_name WHERE column_name REGEXP pattern; …...
dify打造数据可视化图表
一、概述 在日常工作和学习中，我们经常需要和数据打交道。无论是分析报告、项目展示，还是简单的数据洞察，一个清晰直观的图表，往往能胜过千言万语。 一款能让数据可视化变得超级简单的 MCP Server，由蚂蚁集团 AntV 团队…...
return this；返回的是谁
一个审批系统的示例来演示责任链模式的实现。假设公司需要处理不同金额的采购申请，不同级别的经理有不同的审批权限： // 抽象处理者：审批者 abstract class Approver {protected Approver successor; // 下一个处理者// 设置下一个处理者pub…...