当前位置： 首页 > news >正文

IAPP发布《2024年人工智能治理实践报告》

news 2025/9/21 18:01:43

文章目录

  • 前言
  • 一、黑箱问题
    • ►透明度、可理解性与可解释性
  • 二、法律和政策中的注意事项
    • ►欧盟的《通用数据保护条例》
    • ►欧盟的AI法案
    • ►NIST的AI风险管理框架
    • ►美国的第14110号行政命令
    • ►《生成式人工智能服务管理暂行办法》
    • ►新加坡的AI验证
  • 三、实施人工智能治理
    • ►模型卡与系统卡
    • ►开源AI
    • ►水印标记

前言

2024年6月，IAPP和FTI Consulting发布了《2024年人工智能治理实践报告》，报告旨在向人工智能治理专业人员提供信息，让其了解在构建和完善人工智能治理计划时，需要意识到人工智能治理正面临多重挑战。

具体而言，报告介绍了数据挑战，隐私和数据保护挑战，透明度、可理解性与可解释性挑战，偏见、歧视与不公平挑战，安全与稳健性挑战和版权挑战。本文主要摘译透明度、可理解性与可解释性挑战这一部分进行介绍。

在这里插入图片描述

一、黑箱问题

缺乏对人工智能系统信任的一个原因是用户无法清楚地理解人工智能的运作原理。这可能是由于模型本身的复杂性导致的，也可能是因为知识产权的封闭保护导致的，这通常被称为“黑箱问题”。

目前，深度学习等人工智能技术正变得越来越复杂，且多年来其参数数量呈指数级增长。同时，由于人工智能的强大自我学习能力以及它们的规模性和复杂性，黑箱问题变得越来越难以解决，通常需要去权衡简化AI系统的一些方面。

►透明度、可理解性与可解释性

透明度（Transparency）是一个广泛的概念，可以包括在整个生命周期中对技术和非技术文档的需求。在开源环境中，透明度也可以指提供对代码或数据集的访问权限，供开源社区中的人工智能系统使用。

透明度的目标还可以包括在用户与人工智能系统交互时通知用户，或者识别内容是否由人工智能生成。对于设计和使用这些系统的人来说&#

相关文章：

IAPP发布《2024年人工智能治理实践报告》

文章目录 前言一、黑箱问题►透明度、可理解性与可解释性二、法律和政策中的注意事项►欧盟的《通用数据保护条例》►欧盟的AI法案►NIST的AI风险管理框架►美国的第14110号行政命令►《生成式人工智能服务管理暂行办法》►新加坡的AI验证三、实施人工智能治理►模型卡与系统卡…...

编程日记 2024/9/16 23:53:44

了解MySQL 高可用架构：主从备份

为了防止数据库的突然挂机，我们需要对数据库进行高可用架构。主从备份是常见的场景，通常情况下都是“一主一从/(多从)”。正常情况下，都是主机进行工作，从机进行备份主机数据，如果主机某天突然意外宕机，从机…...

编程日记 2024/9/16 23:50:41

[OpenCV] 数字图像处理 C++ 学习——15像素重映射(cv::remap) 附完整代码

文章目录 前言1.像素重映射理论基础2.代码实现(1) remap()细节(2)水平翻转(2)垂直翻转(3)旋转 180 度(4)径向扭曲 3.完整代码 前言 像素重映射将图像中的每个像素映射到新位置，实现图像的扭曲、校正等操作。在 OpenCV 中，cv::remap() 函数就是用于实现这…...

编程日记 2024/9/16 23:49:40

Oreace每日运维操作

一．Oreace每日运维操作 目录 一．Oreace每日运维操作 1.1、确认所有的INSTANCE状态正常 1.2、检查文件系统的使用（剩余空间） 1.3 lwh暗码，，、检查日志文件和trace文件记录 1.4 lwh、检查数据库当日备份…...

编程日记 2024/9/16 23:47:37

【XR】AR HUD

1. AR HUD（head up display）原理 目标： 产业链上的各大Tier1及PGU企业都在积极开发这一技术，许多厂家已推出LCOS样机，比如说水晶光电、华阳集团、瀚思通、疆程已在北京车展或去年的上海车展上展出了LCOS方案的AR-HUD样…...

编程日记 2024/9/16 23:46:36

C/C++内存管理——内存泄漏/内存碎片

一、什么是内存泄漏 内存泄漏指的是在程序运行过程中，已经分配给程序使用的内存没有得到及时和正确的释放，导致这部分内存无法被程序再次使用或者被操作系统回收。内存泄漏通常发生在动态分配的内存上，如果这部分内存没有被正确释放，随着时间的推移，越来越多的内存将被占…...

编程日记 2024/9/16 23:43:32

使用 GaLore 预训练LLaMA-7B

项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751 创建环境 基础环境配置如下： 操作系统: CentOS 7CPUs: 单个节点具有 1TB 内存的 Intel CP…...

编程日记 2024/9/16 23:42:31

gitlab无法push（pre-receive hook declined）

如果是个人的项目，托管在官网，可以参考这位大佬的， GitLab新建项目后push reject提交失败的解决办法_push rejected-CSDN博客 如果是公司的项目，去项目成员里看自己的身份，如果只是developer，是无法push到…...

编程日记 2024/9/16 23:37:33

物品识别——基于python语言

目录 1.物品识别 2.模型介绍 3.文件框架 4.代码示例 4.1 camera.py 4.2 interaction.py 4.3 object_detection.py 4.4 main.py 4.5 运行结果 5.总结 1.物品识别 该项目使用Python，OpenCV进行图像捕捉，进行物品识别。我们将使用YOLO&#xff08…...

编程日记 2024/9/16 23:36:32

【PostgreSQL】安装及使用(Navicat/Arcgis),连接(C#)

简介 PostgreSQL 是一个功能强大的开源对象关系数据库系统 下载地址 PostgreSQL: Downloads 由于我电脑上安装的是arcgispro3.1所以需要下载对应的postgresql版本 PostgreSQL 12 对应的 PostGIS 版本主要是 3.5.0 或更高版本。 安装 一般设置为postgresql 安装扩展插件 此…...

编程日记 2024/9/16 23:35:31

第L6周：机器学习-随机森林(RF)

🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 目标： 1.什么是随机森林（RF） 随机森林（Random Forest, RF）是一种由 决策树 构成的 集成算法 &#…...

编程日记 2024/9/16 23:33:29

【电路笔记】-差分运算放大器

差分运算放大器 文章目录 差分运算放大器1、概述2、差分运算放大器表示2.1 差分模式2.2 减法器模式3、差分放大器示例3.1 相关电阻3.2 惠斯通桥3.3 光/温度检测4、仪表放大器5、总结1、概述 在之前的文章中，我们讨论了反相运算放大器和同相运算放大器，我们考虑了在运算放大器…...

编程日记 2024/9/16 23:30:16

git 命令---想要更改远程仓库

在 Git 中，origin 是默认的远程仓库名称。可以使用以下命令查看当前 Git 仓库的 origin 名称及其对应的 URL： git remote -v这个命令会列出所有配置的远程仓库及其名称，其中 origin 通常是克隆时自动设置的默认远程仓库名称。输出示例&#…...

编程日记 2024/9/16 23:28:14

LeetCode:2848. 与车的相交点 一次遍历，时间复杂度O(n)

2848. 与车的相交点 today 2848. 与车的相交点 题目描述 给你一个下标从 0开始的二维整数数组 nums 表示汽车停放在数轴上的坐标。对于任意下标 i ，nums[i] [starti, endi] ，其中 s t a r t i start_i starti​ 是第 i 辆车的起点， e n …...

编程日记 2024/9/16 23:26:11

Xcode 16 RC (16A242) 发布下载，正式版下周公布

Xcode 16 RC (16A242) - Apple 平台 IDE IDE for iOS/iPadOS/macOS/watchOS/tvOS/visonOS 请访问原文链接：https://sysin.org/blog/apple-xcode-16/，查看最新版。原创作品，转载请保留出处。 作者主页：sysin.org Xcode 16 的新功…...

编程日记 2024/9/16 23:25:10

git 更换远程地址的方法

需要将正在开发的代码远程地址改成新的地址，通过查询发现有三个方法可以实现，特此记录。具体方法如下： （1）通过命令直接修改远程仓库地址 git remote 查看所有远程仓库git remote xxx 查看指定远程仓库地址git remote…...

编程日记 2024/9/16 23:24:08

9. 什么是 Beam Search？深入理解模型生成策略

是不是总感觉很熟悉？ 在之前第5，7，8篇文章中，我们都曾经用到过与它相关的参数，而对于早就有着实操经验的同学们，想必见到的更多。这篇文章将从示例到数学原理和代码带你进行理解。 Beam Search 对应的中文翻…...

编程日记 2024/9/16 23:21:04

Spring自定义注解

目录 一、interface 关键字 二、元注解 三、简单实现 四、使用切面执行自定义注解逻辑 1) 首先将刚才的注解修改成放在方法上的： 2) 定义一个切面类： 3）将注解放入到接口方法中测试： 五、切点表达式 一、interface 关键字 …...

编程日记 2024/9/16 23:18:02

微信小程序：wx.login或调用uni.login时报错the code is a mock one

微信小程序，调用wx.login或调用uni.login方法，返回the code is a mock one 原因与解决 原因:没有关联真实的 appid，解决办法：绑定真实的微信小程序的appid...

编程日记 2024/9/16 23:17:00

URL的执行流程

基本概念： URL（统一资源定位符，Uniform Resource Locator）的执行流程是指当你在浏览器中输入一个URL并按下回车键时，从输入URL到最终在浏览器中显示网页的完整过程。 1.解析协议 URL 以协议开头，如 http…...

编程日记 2024/9/16 23:15:56

MPNet：旋转机械轻量化故障诊断模型详解python代码复现

目录 一、问题背景与挑战 二、MPNet核心架构 2.1 多分支特征融合模块（MBFM） 2.2 残差注意力金字塔模块（RAPM） 2.2.1 空间金字塔注意力（SPA） 2.2.2 金字塔残差块（PRBlock） 2.3 分类器设计 三、关键技术突破 3.1 多尺度特征融合 3.2 轻量化设计策略 3.3 抗噪声…...

编程新知 2025/9/17 7:32:01

Cursor实现用excel数据填充word模版的方法

cursor主页：https://www.cursor.com/ 任务目标：把excel格式的数据里的单元格，按照某一个固定模版填充到word中 文章目录 注意事项逐步生成程序1. 确定格式2. 调试程序 注意事项 直接给一个excel文件和最终呈现的word文件的示例，…...

编程新知 2025/8/23 5:46:26

CTF show Web 红包题第六弹

提示 1.不是SQL注入 2.需要找关键源码 思路 进入页面发现是一个登录框，很难让人不联想到SQL注入，但提示都说了不是SQL注入，所以就不往这方面想了 ​ 先查看一下网页源码，发现一段JavaScript代码，有一个关键类ctfs…...

编程新知 2025/9/18 9:16:18

CVPR 2025 MIMO: 支持视觉指代和像素grounding 的医学视觉语言模型

CVPR 2025 | MIMO：支持视觉指代和像素对齐的医学视觉语言模型 论文信息 标题：MIMO: A medical vision language model with visual referring multimodal input and pixel grounding multimodal output作者：Yanyuan Chen, Dexuan Xu, Yu Hu…...

编程新知 2025/9/6 20:28:13

Leetcode 3576. Transform Array to All Equal Elements

Leetcode 3576. Transform Array to All Equal Elements 1. 解题思路2. 代码实现 题目链接：3576. Transform Array to All Equal Elements 1. 解题思路 这一题思路上就是分别考察一下是否能将其转化为全1或者全-1数组即可。 至于每一种情况是否可以达到&#xf…...

编程新知 2025/9/17 7:25:07

k8s从入门到放弃之Ingress七层负载

k8s从入门到放弃之Ingress七层负载 在Kubernetes（简称K8s）中，Ingress是一个API对象，它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress，你可…...

编程新知 2025/9/7 0:12:53

无法与IP建立连接，未能下载VSCode服务器

如题，在远程连接服务器的时候突然遇到了这个提示。 查阅了一圈，发现是VSCode版本自动更新惹的祸！！！ 在VSCode的帮助->关于这里发现前几天VSCode自动更新了，我的版本号变成了1.100.3 才导致了远程连接出…...

编程新知 2025/9/20 10:15:31

C++ 基础特性深度解析

目录 引言 一、命名空间（namespace） C 中的命名空间​ 与 C 语言的对比​ 二、缺省参数​ C 中的缺省参数​ 与 C 语言的对比​ 三、引用（reference）​ C 中的引用​ 与 C 语言的对比​ 四、inline（内联函数…...

编程新知 2025/9/8 23:17:56

相机从app启动流程

一、流程框架图 二、具体流程分析 1、得到cameralist和对应的静态信息 目录如下： 重点代码分析： 启动相机前，先要通过getCameraIdList获取camera的个数以及id，然后可以通过getCameraCharacteristics获取对应id camera的capabilities（静态信息）进行一些openCamera前的…...

编程新知 2025/9/16 2:11:19

OPENCV形态学基础之二腐蚀

一.腐蚀的原理 (图1) 数学表达式：dst(x,y) erode(src(x,y)) min(x,y)src(xx,yy) 腐蚀也是图像形态学的基本功能之一，腐蚀跟膨胀属于反向操作，膨胀是把图像图像变大，而腐蚀就是把图像变小。腐蚀后的图像变小变暗淡。 腐蚀…...

编程新知 2025/9/9 10:10:16