机器学习深度学习基本概念：logistic regression和softmax
逻辑回归用来处理二分类问题
softmax用来处理多分类问题：比如llm在generate的时候，每个batch里面的一个样本的一个一次generate就是softmax生成一个大小为vocab_size的向量的概率分布，然后再采样
逻辑回归（logistic regression）的核心：sigmoid函数
当W·x趋近于负无穷时sigmoid输出接近于0，当趋近于正无穷时，接近于1，来生成分类预测的概率
损失函数：
对数损失作为损失函数
softmax：
softmax函数输出每个类别的概率，概率总和为1
损失函数：
log-softmax
相关文章：
机器学习深度学习基本概念：logistic regression和softmax
逻辑回归用来处理二分类问题 softmax用来处理多分类问题：比如llm在generate的时候，每个batch里面的一个样本的一个一次generate就是softmax生成一个大小为vocab_size的向量的概率分布，然后再采样 逻辑回归（logistic regression&…...
OpenCV计算摄影学（16）调整图像光照效果函数illuminationChange()
操作系统：ubuntu22.04 OpenCV版本：OpenCV4.9 IDE:Visual Studio Code 编程语言：C11 算法描述 对选定区域内的梯度场应用适当的非线性变换，然后通过泊松求解器重新积分，可以局部修改图像的表观照明。 cv::illuminati…...
Git - 补充工作中常用的一些命令
Git - 补充工作中常用的一些命令 1 一些场景1.1 场景11.2 场景21.3 场景31.4 场景41.5 场景51.6 场景61.7 场景71.8 场景81.9 场景91.10 场景101.11 场景111.12 场景121.13 场景131.14 场景141.15 场景15 2 git cherry-pick \<commit-hash\> 和 git checkout branch \-\-…...
使用Python的requests库调用API并处理JSON响应的详细步骤
1. 安装request库 pip install requests 2. 发送GET请求 import requests# 定义API地址 url "https://api.example.com/data"# 发送GET请求 response requests.get(url)# 检查HTTP状态码 if response.status_code 200:# 解析JSON响应data response.json()prin…...
Mybatis如何通过databaseId属性支持不同数据库的不同语法
目录 一、前言 二、如何配置 三、源码解读 四、自定义 一、前言 在一次项目功能测试中，发现有个sql在其他嵌入式数据库中执行正常，但是在mysql中执行失败，发现是因为有个字段在mysql中是关键字，需要使用反引号（&…...
android edittext 防止输入多个小数点或负号
有些英文系统的输入法，或者定制输入法。使用xml限制不了输入多个小数点和多个负号。所以代码来控制。 一、通过XML设置限制 <EditTextandroid:id="@+id/editTextNumber"android:layout_width="wrap_content"android:layout_height="wrap_conten…...
windows部署spleeter 版本2.4.0：分离音频的人声和背景音乐
windows部署spleeter 版本2.4.0：分离音频的人声和背景音乐 一、Spleeter 是什么？ Spleeter 是由法国音乐流媒体公司 Deezer 开发并开源的一款基于深度学习的音频分离工具。它能够将音乐中的不同音轨（如人声、鼓、贝斯、钢琴等）分…...
深度学习、宽度学习、持续学习与终身学习:全面解析与其在大模型方面的应用
目录 引言： 1. 深度学习（Deep Learning） 1.1 深度学习的基本概念 1.2 深度学习的数学原理 1.3 深度学习的特点 1.4 深度学习在大模型中的应用 2. 宽度学习（Wide Learning） 2.1 宽度学习的基本概念 2.2宽度学习…...
【量化科普】Arbitrage，套利
【量化科普】Arbitrage，套利 🚀量化软件开通 🚀量化实战教程 什么是套利？ 套利（Arbitrage）是金融市场中的一种交易策略，指的是在不同市场或不同形式中同时买入和卖出相同或相似的金融产品&a…...
删除已加入 .gitignore却仍被git追踪的文件
.gitignore 文件只会影响未被跟踪的文件，而已经被 Git 跟踪的文件不会因为被添加到 .gitignore 而停止被跟踪。 eg：例如在创建.gitignore文件前，已经将sync.sh文件推送到远程分支，因此该文件已被git追踪。 去掉sync.sh文件追踪的步…...
pytest框架 核心知识的系统复习
1. pytest 介绍 是什么：Python 最流行的单元测试框架之一，支持复杂的功能测试和插件扩展。 优点： 语法简洁（用 assert 替代 self.assertEqual）。 自动发现测试用例。 丰富的插件生态（如失败重试、并发执…...
Spring Cloud Alibaba学习 5- Seata入门使用
Spring Cloud Alibaba学习 5- Seata入门使用 Seata是Spring Cloud Alibaba中用于分布式事务管理的解决方案 一. Seata的基本概念 1. Seata的三大角色 1> TC (Transaction Coordinator) - 事务协调者 维护全局和分支事务的状态，驱动全局事务提交或回滚。TC作…...
WebAssembly技术及应用了解
WebAssembly（Wasm）是一种为Web设计的高效、低级的二进制指令格式，旨在提升Web应用的性能并支持多种编程语言。以下是对其核心概念、优势、应用场景及开发流程的系统介绍： 1. 核心概念 二进制格式：Wasm采用紧凑的二进制…...
Deepseek中的MoE架构的改造：动态可变参数激活的MoE混合专家架构(DVPA-MoE)的考虑
大家好，我是微学AI，今天给大家介绍一下动态可变参数激活MoE架构（Dynamic Variable Parameter-Activated MoE, DVPA-MoE）的架构与实际应用，本架构支持从7B到32B的等多档参数动态激活。该架构通过细粒度难度评估和分层专家路由，实现“小问题用小参数，大问题用大参数”的精…...
NodeJS学习笔记
NodeJS软件安装 node环境安装： https://nodejs.org 安装好后的node通常在C:\Program Files\nodejs验证安装是否成功 node -v npm -v 进入REPL模式命令行模式 nodeNodeJS在REPL模式和编辑器使用 windos在dos下常用命令 windos命令： 1、cmd dos系统2、…...
【交通网络拓扑图实现原理深度解析】
交通网络拓扑图实现原理深度解析 简易demo地址 背景故事：交通网络调度可视化的演进 1. 项目背景 在现代城市轨道交通系统中，交通网络线路的可视化展示一直是一个重要而复杂的问题。传统的交通网络线路图往往采用静态图片方式展示，这种方式…...
【极客时间】浏览器工作原理与实践-2 宏观视角下的浏览器 (6讲) - 2.6 渲染流程（下）：HTML、CSS和JavaScript，是如何变成页面的？
https://time.geekbang.org/column/article/118826 2.6 渲染流程（下）：HTML、CSS和JavaScript，是如何变成页面的？ 2.5介绍了渲染流水线中的 DOM 生成、样式计算和布局三个阶段，2.6讲解渲染流水线后面的阶段…...
NO2.C++语言基础|C++和Java|常量|重载重写重定义|构造函数|强制转换|指针和引用|野指针和悬空指针|const修饰指针|函数指针(C++)
6. C 和 Java 区别（语⾔特性，垃圾回收，应⽤场景等） 指针： Java 语⾔让程序员没法找到指针来直接访问内存，没有指针的概念，并有内存的⾃动管理功能，从⽽有效的防⽌了 C 语⾔中的指针…...
【CSS】---- 纯 CSS 实现无限滚动轮播
1. 前言 仅使用 CSS 创建一个具有无限滚动轮播的动画，无需 JavaScript。首先是无限滚动轮播动画效果在我们常见的开发中都是借用 JavaScript 实现，如果纯粹使用 CSS，我觉得还是一个比较有趣的。 2. 效果预览 3. 效果分析 一屏展示了三个图片元素；动画依次向左移动；三个图…...
软考架构师笔记-计算机网络
1.9 计算机网络 OSI/RM 七层模型 物理层 二进制传输(中继器、集线器) (typedef) 数据链路层 传送以帧为单位的信息(网桥、交换机、网卡) 网络层 分组传输和路由选择(三层交换机、路由器)ARP/RARP/IGMP/ICMP/IP 传输层 端到端的连接(TCP/UDP)在前向纠错系统中，当接…...
别再乱装CUDA了！用Anaconda为你的3060 Ti一键搞定PyTorch GPU环境（含CUDA 11.3实战）
3060 Ti显卡玩家的PyTorch环境配置指南：用Anaconda避开CUDA版本地狱 在深度学习领域，GPU加速已经成为提升模型训练效率的标配。然而，对于许多刚入门的开发者来说，配置PyTorch的GPU支持往往成为第一道门槛——尤其是当涉及到CUDA版…...
AI应用开发利器：ai-devkit工具包核心功能与工程实践指南
1. 项目概述与核心价值最近在折腾AI应用开发，发现一个挺有意思的项目，叫codeaholicguy/ai-devkit。乍一看名字，你可能会觉得这又是一个“AI开发工具包”，市面上类似的工具已经多如牛毛了。但深入用下来，我发现它不太一…...
如何在10分钟内搭建个人游戏流媒体服务器：Sunshine跨平台游戏串流完全指南
如何在10分钟内搭建个人游戏流媒体服务器：Sunshine跨平台游戏串流完全指南 【免费下载链接】Sunshine Self-hosted game stream host for Moonlight. 项目地址: https://gitcode.com/GitHub_Trending/su/Sunshine 您是否梦想过在任何设备上畅玩PC游戏&#x…...
实战指南：用UABEA高效解析Unity资源结构的5个关键要点
实战指南：用UABEA高效解析Unity资源结构的5个关键要点 【免费下载链接】UABEA c# uabe for newer versions of unity 项目地址: https://gitcode.com/gh_mirrors/ua/UABEA 在Unity开发的世界里，资源管理往往是项目优化中最棘手的一环。你是否曾经…...
开源技能图谱工具SkillPort：Go语言构建的知识管理利器
1. 项目概述：一个技能图谱与知识管理的开源利器 最近在整理个人技术栈和团队知识库时，我一直在寻找一个能直观展示技能关联、又能深度管理学习路径的工具。市面上的笔记软件要么太“平”，只能线性记录；要么太“重”，像…...
CircuitPython嵌入式游戏开发：基于TileGrid的迷宫寻蛋与JSON数据持久化实践
1. 项目概述与核心价值如果你和我一样，对嵌入式开发充满热情，同时又对游戏开发抱有好奇心，那么将两者结合——在微控制器上编写一个完整的2D游戏——绝对是一次令人兴奋的挑战。这不仅仅是让LED闪烁或读取传感器数据，而是要在资源…...
别再让用户等上传！用@ffmpeg/ffmpeg在浏览器里直接压缩视频（附ThinkPHP项目实战）
浏览器端视频压缩实战：基于FFmpeg.wasm与ThinkPHP的高效集成方案 引言 在当今内容为王的互联网时代，视频已成为用户生成内容（UGC）的核心载体。然而，高清视频带来的大文件体积往往成为用户体验的瓶颈——上传等待时间长…...
3个技巧让SD-PPP插件提升Photoshop设计效率300%
3个技巧让SD-PPP插件提升Photoshop设计效率300% 【免费下载链接】sd-ppp A Photoshop AI plugin 项目地址: https://gitcode.com/gh_mirrors/sd/sd-ppp 还在为Photoshop和AI工具之间的频繁切换而烦恼吗？每次都要导出PSD、上传到AI平台、等待生成、再导回Phot…...
开源无人机任务控制系统：微服务架构与自主飞行开发实战
1. 项目概述：一个开源的无人机任务控制系统如果你和我一样，玩过一段时间无人机，从最初的“一键起飞”到后来想实现一些自动化的航线飞行，你可能会发现，市面上成熟的任务规划软件（比如DJI的Pilot 2或一些地面…...
从技巧到工程：构建可维护的Prompt设计体系与实战指南
1. 项目概述：Prompt Engineering 的实战价值最近在 GitHub 上看到一个名为 “imJunaidAfzal/Prompt-Engineering” 的项目，这让我想起了过去一年里，和团队一起从零开始摸索大语言模型应用落地的经历。Prompt Engineering，中文常译…...