机器学习深度学习基本概念：logistic regression和softmax
逻辑回归用来处理二分类问题
softmax用来处理多分类问题：比如llm在generate的时候，每个batch里面的一个样本的一个一次generate就是softmax生成一个大小为vocab_size的向量的概率分布，然后再采样
逻辑回归（logistic regression）的核心：sigmoid函数
当W·x趋近于负无穷时sigmoid输出接近于0，当趋近于正无穷时，接近于1，来生成分类预测的概率
损失函数：
对数损失作为损失函数
softmax：
softmax函数输出每个类别的概率，概率总和为1
损失函数：
log-softmax
相关文章：
机器学习深度学习基本概念：logistic regression和softmax
逻辑回归用来处理二分类问题 softmax用来处理多分类问题：比如llm在generate的时候，每个batch里面的一个样本的一个一次generate就是softmax生成一个大小为vocab_size的向量的概率分布，然后再采样 逻辑回归（logistic regression&…...
OpenCV计算摄影学（16）调整图像光照效果函数illuminationChange()
操作系统：ubuntu22.04 OpenCV版本：OpenCV4.9 IDE:Visual Studio Code 编程语言：C11 算法描述 对选定区域内的梯度场应用适当的非线性变换，然后通过泊松求解器重新积分，可以局部修改图像的表观照明。 cv::illuminati…...
Git - 补充工作中常用的一些命令
Git - 补充工作中常用的一些命令 1 一些场景1.1 场景11.2 场景21.3 场景31.4 场景41.5 场景51.6 场景61.7 场景71.8 场景81.9 场景91.10 场景101.11 场景111.12 场景121.13 场景131.14 场景141.15 场景15 2 git cherry-pick \<commit-hash\> 和 git checkout branch \-\-…...
使用Python的requests库调用API并处理JSON响应的详细步骤
1. 安装request库 pip install requests 2. 发送GET请求 import requests# 定义API地址 url "https://api.example.com/data"# 发送GET请求 response requests.get(url)# 检查HTTP状态码 if response.status_code 200:# 解析JSON响应data response.json()prin…...
Mybatis如何通过databaseId属性支持不同数据库的不同语法
目录 一、前言 二、如何配置 三、源码解读 四、自定义 一、前言 在一次项目功能测试中，发现有个sql在其他嵌入式数据库中执行正常，但是在mysql中执行失败，发现是因为有个字段在mysql中是关键字，需要使用反引号（&…...
android edittext 防止输入多个小数点或负号
有些英文系统的输入法，或者定制输入法。使用xml限制不了输入多个小数点和多个负号。所以代码来控制。 一、通过XML设置限制 <EditTextandroid:id="@+id/editTextNumber"android:layout_width="wrap_content"android:layout_height="wrap_conten…...
windows部署spleeter 版本2.4.0：分离音频的人声和背景音乐
windows部署spleeter 版本2.4.0：分离音频的人声和背景音乐 一、Spleeter 是什么？ Spleeter 是由法国音乐流媒体公司 Deezer 开发并开源的一款基于深度学习的音频分离工具。它能够将音乐中的不同音轨（如人声、鼓、贝斯、钢琴等）分…...
深度学习、宽度学习、持续学习与终身学习:全面解析与其在大模型方面的应用
目录 引言： 1. 深度学习（Deep Learning） 1.1 深度学习的基本概念 1.2 深度学习的数学原理 1.3 深度学习的特点 1.4 深度学习在大模型中的应用 2. 宽度学习（Wide Learning） 2.1 宽度学习的基本概念 2.2宽度学习…...
【量化科普】Arbitrage，套利
【量化科普】Arbitrage，套利 🚀量化软件开通 🚀量化实战教程 什么是套利？ 套利（Arbitrage）是金融市场中的一种交易策略，指的是在不同市场或不同形式中同时买入和卖出相同或相似的金融产品&a…...
删除已加入 .gitignore却仍被git追踪的文件
.gitignore 文件只会影响未被跟踪的文件，而已经被 Git 跟踪的文件不会因为被添加到 .gitignore 而停止被跟踪。 eg：例如在创建.gitignore文件前，已经将sync.sh文件推送到远程分支，因此该文件已被git追踪。 去掉sync.sh文件追踪的步…...
pytest框架 核心知识的系统复习
1. pytest 介绍 是什么：Python 最流行的单元测试框架之一，支持复杂的功能测试和插件扩展。 优点： 语法简洁（用 assert 替代 self.assertEqual）。 自动发现测试用例。 丰富的插件生态（如失败重试、并发执…...
Spring Cloud Alibaba学习 5- Seata入门使用
Spring Cloud Alibaba学习 5- Seata入门使用 Seata是Spring Cloud Alibaba中用于分布式事务管理的解决方案 一. Seata的基本概念 1. Seata的三大角色 1> TC (Transaction Coordinator) - 事务协调者 维护全局和分支事务的状态，驱动全局事务提交或回滚。TC作…...
WebAssembly技术及应用了解
WebAssembly（Wasm）是一种为Web设计的高效、低级的二进制指令格式，旨在提升Web应用的性能并支持多种编程语言。以下是对其核心概念、优势、应用场景及开发流程的系统介绍： 1. 核心概念 二进制格式：Wasm采用紧凑的二进制…...
Deepseek中的MoE架构的改造：动态可变参数激活的MoE混合专家架构(DVPA-MoE)的考虑
大家好，我是微学AI，今天给大家介绍一下动态可变参数激活MoE架构（Dynamic Variable Parameter-Activated MoE, DVPA-MoE）的架构与实际应用，本架构支持从7B到32B的等多档参数动态激活。该架构通过细粒度难度评估和分层专家路由，实现“小问题用小参数，大问题用大参数”的精…...
NodeJS学习笔记
NodeJS软件安装 node环境安装： https://nodejs.org 安装好后的node通常在C:\Program Files\nodejs验证安装是否成功 node -v npm -v 进入REPL模式命令行模式 nodeNodeJS在REPL模式和编辑器使用 windos在dos下常用命令 windos命令： 1、cmd dos系统2、…...
【交通网络拓扑图实现原理深度解析】
交通网络拓扑图实现原理深度解析 简易demo地址 背景故事：交通网络调度可视化的演进 1. 项目背景 在现代城市轨道交通系统中，交通网络线路的可视化展示一直是一个重要而复杂的问题。传统的交通网络线路图往往采用静态图片方式展示，这种方式…...
【极客时间】浏览器工作原理与实践-2 宏观视角下的浏览器 (6讲) - 2.6 渲染流程（下）：HTML、CSS和JavaScript，是如何变成页面的？
https://time.geekbang.org/column/article/118826 2.6 渲染流程（下）：HTML、CSS和JavaScript，是如何变成页面的？ 2.5介绍了渲染流水线中的 DOM 生成、样式计算和布局三个阶段，2.6讲解渲染流水线后面的阶段…...
NO2.C++语言基础|C++和Java|常量|重载重写重定义|构造函数|强制转换|指针和引用|野指针和悬空指针|const修饰指针|函数指针(C++)
6. C 和 Java 区别（语⾔特性，垃圾回收，应⽤场景等） 指针： Java 语⾔让程序员没法找到指针来直接访问内存，没有指针的概念，并有内存的⾃动管理功能，从⽽有效的防⽌了 C 语⾔中的指针…...
【CSS】---- 纯 CSS 实现无限滚动轮播
1. 前言 仅使用 CSS 创建一个具有无限滚动轮播的动画，无需 JavaScript。首先是无限滚动轮播动画效果在我们常见的开发中都是借用 JavaScript 实现，如果纯粹使用 CSS，我觉得还是一个比较有趣的。 2. 效果预览 3. 效果分析 一屏展示了三个图片元素；动画依次向左移动；三个图…...
软考架构师笔记-计算机网络
1.9 计算机网络 OSI/RM 七层模型 物理层 二进制传输(中继器、集线器) (typedef) 数据链路层 传送以帧为单位的信息(网桥、交换机、网卡) 网络层 分组传输和路由选择(三层交换机、路由器)ARP/RARP/IGMP/ICMP/IP 传输层 端到端的连接(TCP/UDP)在前向纠错系统中，当接…...
3步搞定AtlasOS系统技术故障：Xbox控制器驱动完全解决方案
3步搞定AtlasOS系统技术故障：Xbox控制器驱动完全解决方案 【免费下载链接】Atlas 🚀 An open and lightweight modification to Windows, designed to optimize performance, privacy and security. 项目地址: https://gitcode.com/GitHub_Trending/at…...
别再只会用Levenshtein了！手把手带你实现更灵活的字符串扩展距离算法
超越Levenshtein：构建可定制化字符串扩展距离算法的工程实践 字符串相似度计算在代码版本控制、生物信息学等领域有着广泛应用。传统Levenshtein距离算法虽然经典，但在处理特定场景时显得力不从心——比如DNA序列比对中空格插入代价不同，或是…...
C++ 异常安全的最佳策略
C 异常安全的最佳策略 在C开发中，异常安全是确保程序在抛出异常时仍能保持正确性和资源管理的关键。异常处理不当可能导致内存泄漏、数据不一致或资源未释放等问题。本文将探讨C异常安全的最佳策略，帮助开发者编写更健壮的代码。 资源管理：…...
探索式学习：UMA模型在水分解催化中的应用指南
探索式学习：UMA模型在水分解催化中的应用指南 【免费下载链接】ocp Open Catalyst Projects library of machine learning methods for catalysis 项目地址: https://gitcode.com/GitHub_Trending/oc/ocp 突破传统计算瓶颈：UMA模型的核心价值解析…...
[Android S] 深入解析statsd的log统计机制与实现
1. 认识Android系统中的statsd statsd是Android系统中一个非常重要的后台服务，它的主要职责是收集系统和应用的各类统计信息。你可能不知道，每次你在Android设备上执行操作时，statsd都在默默记录着各种数据。这些数据对于系统优化、性能分析和…...
Pi0在物流分拣中的应用：智能包裹识别系统
Pi0在物流分拣中的应用：智能包裹识别系统 1. 物流分拣的现实挑战与技术破局点 每天清晨，当第一辆货车驶入分拣中心，成千上万的包裹开始在传送带上流动。它们来自不同电商平台、尺寸各异、包装材质多样，有的贴着模糊的条码&#…...
C# rtwpriv Wi-Fi定频工具
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录一、使用简介，说明#前言 对于无线产品，很多需要做CE,FCC,SRRC等认证，需要测试RF，像Realtek方案的Wi-Fi用到rtwpriv工具…...
AtlasOS系统Xbox控制器驱动问题：三步解决方案与预防指南
AtlasOS系统Xbox控制器驱动问题：三步解决方案与预防指南 【免费下载链接】Atlas 🚀 An open and lightweight modification to Windows, designed to optimize performance, privacy and security. 项目地址: https://gitcode.com/GitHub_Trending/atl…...
告别拼接！深入对比鸿蒙与Android的multipart请求封装差异
鸿蒙与Android的multipart请求封装差异：从手动拼接到底层优化 在移动应用开发中，文件上传是一个常见但容易出错的场景。当我们需要同时上传文本和二进制数据时，multipart/form-data协议就成为了标准解决方案。然而，不同平台对这一…...
3个步骤精通华硕笔记本性能调优：G-Helper完全指南
3个步骤精通华硕笔记本性能调优：G-Helper完全指南 【免费下载链接】g-helper Lightweight Armoury Crate alternative for Asus laptops. Control tool for ROG Zephyrus G14, G15, G16, M16, Flow X13, Flow X16, TUF, Strix, Scar and other models 项目地址: h…...