当前位置： 首页 > article >正文

AI安全、大模型安全研究（DeepSeek）

article 2026/3/3 20:46:29

DeepSeek 点燃AI应用革命之火，但安全 “灰犀牛” 正在逼近

DeepSeek-R1国产大模型的发布，以技术创新惊艳了全球，更是极致的性价比推动国内千行百业接入 AI，政府、企业竞速开发智能业务处理、智能客服、代码生成、营销文案等应用，“落地效率” 成为第一关键词。然而与此相伴的是被忽视的潜在危机：大模型的安全防护不足所带来的内容合规风险、数据泄露风险、越狱风险、AI幻觉风险、算力消耗攻击风险。

> 1.大模型的内容合规风险

大模型内容合规风险本质上是大模型对齐问题，是指如何让AI大模型的行为与人类意图、价值观及伦理规范保持一致问题。

例如2023年10月，有家长发现某品牌学习机中《蔺相如》一文，出现诋毁伟人、扭曲历史等内容，不仅引起网友的口诛笔伐，导致出品此学习机的上市公司的市值跌去100多亿人民币，更引发公众对AI生成内容安全性的广泛质疑。对齐问题还可能会造成应用的运营商，面临着应用下架、服务关停整改的处罚。

> 2.大模型的幻觉问题

大模型的“幻觉”是指大

相关文章：

AI安全、大模型安全研究（DeepSeek）

DeepSeek 点燃AI应用革命之火，但安全 “灰犀牛” 正在逼近 DeepSeek-R1国产大模型的发布，以技术创新惊艳了全球，更是极致的性价比推动国内千行百业接入 AI，政府、企业竞速开发智能业务处理、智能客服、代码生成、营销文案等应用，“落地效率” 成为第一关键词。然而与此相…...

编程日记 2026/2/17 23:10:48

卷积神经网络 - 汇聚层

卷积神经网络一般由卷积层、汇聚层和全连接层构成，本文我们来学习汇聚层。 汇聚层(Pooling Layer)也叫子采样层(Subsampling Layer)，其作用是进 行特征选择，降低特征数量，从而减少参数数量。 卷积层虽然可以显著减少网络中连接的…...

编程日记 2026/2/16 5:25:43

蓝桥杯备赛-贪心-管道

问题描述 有一根长度为 lenlen 的横向的管道，该管道按照单位长度分为 lenlen 段，每一段的中央有一个可开关的阀门和一个检测水流的传感器。 一开始管道是空的，位于 LiLi​ 的阀门会在 SiSi​ 时刻打开，并不断让水流入管道。 对…...

编程日记 2026/1/24 5:06:40

论文分享：PL-ALF框架实现无人机低纹理环境自主飞行

在室内仓库、地下隧道等低纹理复杂场景中，无人机依赖视觉传感器进行自主飞行时，往往会遇到定位精度低、路径规划不稳定等难题。针对这一问题，重庆邮电大学计算机学院雷大江教授团队在IEEE Trans期刊上提出了一种新型自主飞行框架：…...

编程日记 2026/2/28 1:34:32

Nodejs使用redis

框架：koa，通过koa-generator创建 redis: 本地搭建，使用默认帐号，安装说明地址以及默认启动设置：https://redis.io/docs/latest/operate/oss_and_stack/install/install-redis/install-redis-on-linux/ 中间件&#x…...

编程日记 2026/3/2 7:01:15

GitHub 超火的开源终端工具——Warp

Warp 作为近年来 GitHub 上备受瞩目的开源终端工具，以其智能化、高性能和协作能力重新定义了命令行操作体验。以下从多个维度深入解析其核心特性、技术架构、用户评价及生态影响力： 一、背景与核心团队 Warp 由前 GitHub CTO Jason Warner 和 Google 前…...

编程日记 2026/3/2 23:06:03

计算机视觉技术探索：美颜SDK如何利用深度学习优化美颜、滤镜功能？

时下，计算机视觉深度学习正在重塑美颜技术，通过智能人脸检测、AI滤镜、深度美肤、实时优化等方式，让美颜效果更加自然、精准、个性化。 那么，美颜SDK如何结合深度学习来优化美颜和滤镜功能？本文将深入解析AI在美颜技术…...

编程日记 2026/2/17 19:53:06

应用商店上新：Couchbase Enterprise Server集群

可移植的冗余数据平台，这往往是创建可扩展的云原生应用程序的先决条件。而不依赖特定平台的工具可用于为多云、多区域工作负载提供企业级应用所需的灵活性。 ​Couchbase是一种高性能NoSQL数据库，专为当今复杂的云生态系统所需的动态扩展能力而设计。最近…...

编程日记 2026/2/16 19:14:51

Redis解决缓存击穿问题——两种方法

目录 引言 解决办法 互斥锁（强一致，性能差） 逻辑过期（高可用，性能优） 设计逻辑过期时间 引言 缓存击穿：给某一个key设置了过期时间，当key过期的时候，恰好这个时间点对…...

编程日记 2026/2/24 14:33:16

前端 Blob 详解

前端 Blob 详解 1. 什么是 Blob？ Blob（Binary Large Object）表示二进制大对象，用于存储二进制数据。在前端开发中，Blob 常用于处理文件、图像、视频等二进制数据。 2. 创建 Blob 可以通过 Blob 构造函数创建 Blob …...

编程日记 2026/2/17 1:22:52

Debezium + Kafka-connect 实现Postgres实时同步Hologres

基于 Debezium Kafka 的方案实现 PostgreSQL 到 Hologres 的实时数据同步，是一种高可靠性、高扩展性的解决方案。以下是详细的实现步骤： 1. 方案架构 Debezium：捕获 PostgreSQL 的变更数据（CDC），并将变更…...

编程日记 2026/3/3 14:12:26

JavaScript性能优化的12种方式

当涉及到JavaScript性能优化时，有几个关键的方面需要考虑。下面是一些常见的JavaScript性能优化技巧和实践： 减少DOM操作： 频繁的DOM操作会导致重绘和重新布局，影响性能。建议将多个DOM操作合并为一个操作，或者使用Do…...

编程日记 2026/2/23 7:34:08

在Ubuntu上安装MEAN Stack的4个步骤

在Ubuntu上安装MEAN Stack的4个步骤为：1.安装MEAN；2.安装MongoDB；3.安装NodeJS，Git和NPM；4.安装剩余的依赖项。 什么是MEAN Stack？ 平均堆栈一直在很大程度上升高为基于稳健的基于JavaScript的开发堆栈。…...

编程日记 2026/2/14 18:23:33

集成学习之随机森林

目录 一、集成学习的含义 二、集成学习的代表 三、集成学习的应用 1、分类问题集成。（基学习器是分类模型） 2、回归问题集成。（基学习器是回归模型） 3、特征选取集成。 四、Bagging之随机森林 1、随机森林是有多个决策树&a…...

编程日记 2026/2/28 6:06:31

在线JSON格式校验工具站

在线JSON校验格式化工具（Be JSON）在线,JSON,JSON 校验,格式化,xml转json 工具,在线工具,json视图,可视化,程序,服务器,域名注册,正则表达式,测试,在线json格式化工具,json 格式化,json格式化工具,json字符串格式化,json 在线查看器,json在线,json 在线验…...

编程日记 2026/2/14 4:55:00

SAP的WPS导出找不到路径怎么办；上载报错怎么办

一.打开注册编辑器 二.输入以下地址 计算机\HKEY_CLASSES_ROOT\ExcelWorksheet\Protocol\StdFileEditing\Server 去除掉EXE后面的命令即可 二：WPS上载文件没反应怎么办 如何切换整合模式或多组件模式-WPS学堂 根据官方操作把整合模式改成多组件模式...

编程日记 2026/3/2 7:03:20

Moonlight-16B-A3B: 变革性的高效大语言模型，凭借Muon优化器打破训练效率极限

近日，由Moonshot AI团队推出的Moonlight-16B-A3B模型，再次在AI领域引发了广泛关注。这款全新的Mixture-of-Experts (MoE)架构的大型语言模型，凭借其创新的训练优化技术，特别是Muon优化器的使用，成功突破了训练效率的极…...

编程日记 2026/3/2 22:18:27

rust学习笔记17-异常处理

今天聊聊rust中异常错误处理 1. 基础类型&#xff1a;Result 和 Option&#xff0c;之前判断空指针就用到过 Option<T> 用途&#xff1a;表示值可能存在&#xff08;Some(T)&#xff09;或不存在&#xff08;None&#xff09;&#xff0c;适用于无需错误信息的场景。 f…...

编程日记 2026/3/2 8:02:08

PyTorch系列教程：使用预训练语言模型增强文本分类

文本分类仍是自然语言处理&#xff08;NLP&#xff09;领域的一项基础任务&#xff0c;其目标是将文本数据归入预先设定的类别之中。预训练语言模型的出现极大地提升了这一领域的性能。本文将探讨如何利用 PyTorch 来利用这些模型&#xff0c;展示它们如何能增强文本分类任务。…...

编程日记 2026/3/2 12:09:35

LabVIEW 线性拟合

该 LabVIEW 程序实现了 线性拟合&#xff08;Linear Fit&#xff09;&#xff0c;用于计算给定一组数据点的斜率&#xff08;Slope&#xff09;和截距&#xff08;Intercept&#xff09;&#xff0c;并将结果可视化于 XY Graph 中。本案例适用于数据拟合、实验数据分析、传感器…...

编程日记 2026/3/2 12:41:32

nacos安装，服务注册，服务发现，远程调用3个方法

安装 点版本下载页面 服务注册 每个微服务都配置nacos的地址&#xff0c;都要知道 服务发现 2个是知道了解 远程调用基本实现 远程调用方法2&#xff0c;负载均衡API测试 远程调用方法3&#xff0c;注解 负载均衡的远程调用&#xff0c; 总结 面试题...

编程日记 2026/2/21 20:11:03

k8s主要控制器简述（一）ReplicaSet与Deployment

目录 一、ReplicaSet 关键特性 示例 解释 支持的 Operator 二、Deployment 1. 声明式更新 示例 2. 滚动更新 示例 3. 回滚 示例 4. ReplicaSet 管理 示例 5. 自动恢复 示例 6. 扩展和缩容 示例 示例 一、ReplicaSet ReplicaSet 是 Kubernetes 中的一个核心控…...

编程日记 2026/3/1 2:33:38

Java中的消息中间件对比与解析：RocketMQ vs RabbitMQ

消息中间件&#xff08;Message Queue, MQ&#xff09;是分布式系统中实现异步通信、解耦服务和流量削峰的关键组件。在Java生态中&#xff0c;RocketMQ和RabbitMQ是两个广泛应用的消息队列系统&#xff0c;但它们在设计理念、功能特性和适用场景上存在显著差异。本文将从核心功…...

编程日记 2026/2/22 23:50:13

Android14 Log.isLoggable判断的分析

Android14 Log.isLoggable判断的分析 文章目录 Android14 Log.isLoggable判断的分析一、前言二、答案和分析1、Log.isLoggable 设置成true2、Log.isLoggable 分析&#xff08;1&#xff09;Log.java&#xff08;2&#xff09;android_util_Log.cpp&#xff08;3&#xff09;pro…...

编程日记 2026/2/19 20:43:39

Mac：JMeter 下载+安装+环境配置（图文详细讲解）

&#x1f4cc; 下载JMeter 下载地址&#xff1a;https://jmeter.apache.org/download_jmeter.cgi &#x1f4cc; 无需安装 Apache官网下载 JMeter 压缩包&#xff0c;无需安装&#xff0c;下载解压后放到自己指定目录下即可。 按我自己的习惯&#xff0c;我会在用户 jane 目…...

编程日记 2026/2/13 22:27:44

Python IP解析器 ip2region使用

说明&#xff1a;最近需要在python项目内使用IP定位所在城市的需求&#xff0c;没有采用向外部ISP服务商API请求获取信息的方案&#xff0c;则翻了翻&#xff0c;在搞Java时很多的方案&#xff0c;在Python端反而可选择范围很小。 # 示例查询 ips ["106.38.188.214"…...

编程日记 2026/2/15 17:08:52

labview与西门子1500plc进行S7通讯（仿真效果）

环境&#xff1a; 1.博图V16 2.S7-PLCSIM Advanced V3.0 3.labview2020 4.HslCommunication的dll文件 运行效果图 通过使用HslCommunication的库文件来对西门子plc进行通讯 labview代码 代码打包 通过网盘分享的文件&#xff1a;labview进行s7通讯测试.rar 链接: https:/…...

编程日记 2026/3/2 18:42:36

Oracle 公布 Java 的五大新功能

Java 增强提案包括语言增强和性能优化&#xff0c;从 JDK 25 中的稳定值 API 开始。 随着JDK&#xff08;Java 开发工具包&#xff09;24刚刚全面上市&#xff0c;Oracle 提前透露了不久的将来即将推出的 Java 功能&#xff0c;包括增强原始装箱到空限制值类类型。 3 月 18 日…...

编程日记 2026/2/17 8:53:39

台式机电脑组装---电脑机箱与主板接线

台式机电脑组装—电脑机箱与主板接线 1、机箱连接主板的跳线一般主要有USB 2.0、USB 3.0、前置音频接口(HD_AUDIO)以及POWER SW、RESET SW、POWER LED、HDD LED四个主板跳线&#xff0c;这些跳线分别的含义如下。 RESET SW&#xff1a;机箱重启按键&#xff1b;注&#xff1a…...

编程日记 2026/3/2 23:12:49

ubuntu高并发内核参数调优 - （压测客户端调优）

业务上要求集群提供10w并发&#xff0c;10w并发听上去不是很难&#xff0c;但10w并发持续1小时呢 在业务上线之前还需要我们自己对业务进行压测&#xff0c;俗称benchmark。 压测的服务器也是需要进行性能调优的&#xff0c;以下列出调优前后的参数对比&#xff0c;更直观的分析…...

编程日记 2026/3/3 4:29:31