当前位置： 首页 > news >正文

IAPP发布《2024年人工智能治理实践报告》

news 2026/1/1 20:26:45

文章目录

  • 前言
  • 一、黑箱问题
    • ►透明度、可理解性与可解释性
  • 二、法律和政策中的注意事项
    • ►欧盟的《通用数据保护条例》
    • ►欧盟的AI法案
    • ►NIST的AI风险管理框架
    • ►美国的第14110号行政命令
    • ►《生成式人工智能服务管理暂行办法》
    • ►新加坡的AI验证
  • 三、实施人工智能治理
    • ►模型卡与系统卡
    • ►开源AI
    • ►水印标记

前言

2024年6月，IAPP和FTI Consulting发布了《2024年人工智能治理实践报告》，报告旨在向人工智能治理专业人员提供信息，让其了解在构建和完善人工智能治理计划时，需要意识到人工智能治理正面临多重挑战。

具体而言，报告介绍了数据挑战，隐私和数据保护挑战，透明度、可理解性与可解释性挑战，偏见、歧视与不公平挑战，安全与稳健性挑战和版权挑战。本文主要摘译透明度、可理解性与可解释性挑战这一部分进行介绍。

在这里插入图片描述

一、黑箱问题

缺乏对人工智能系统信任的一个原因是用户无法清楚地理解人工智能的运作原理。这可能是由于模型本身的复杂性导致的，也可能是因为知识产权的封闭保护导致的，这通常被称为“黑箱问题”。

目前，深度学习等人工智能技术正变得越来越复杂，且多年来其参数数量呈指数级增长。同时，由于人工智能的强大自我学习能力以及它们的规模性和复杂性，黑箱问题变得越来越难以解决，通常需要去权衡简化AI系统的一些方面。

►透明度、可理解性与可解释性

透明度（Transparency）是一个广泛的概念，可以包括在整个生命周期中对技术和非技术文档的需求。在开源环境中，透明度也可以指提供对代码或数据集的访问权限，供开源社区中的人工智能系统使用。

透明度的目标还可以包括在用户与人工智能系统交互时通知用户，或者识别内容是否由人工智能生成。对于设计和使用这些系统的人来说&#

相关文章：

IAPP发布《2024年人工智能治理实践报告》

文章目录 前言一、黑箱问题►透明度、可理解性与可解释性二、法律和政策中的注意事项►欧盟的《通用数据保护条例》►欧盟的AI法案►NIST的AI风险管理框架►美国的第14110号行政命令►《生成式人工智能服务管理暂行办法》►新加坡的AI验证三、实施人工智能治理►模型卡与系统卡…...

编程日记 2024/9/16 23:53:44

了解MySQL 高可用架构：主从备份

为了防止数据库的突然挂机，我们需要对数据库进行高可用架构。主从备份是常见的场景，通常情况下都是“一主一从/(多从)”。正常情况下，都是主机进行工作，从机进行备份主机数据，如果主机某天突然意外宕机，从机…...

编程日记 2024/9/16 23:50:41

[OpenCV] 数字图像处理 C++ 学习——15像素重映射(cv::remap) 附完整代码

文章目录 前言1.像素重映射理论基础2.代码实现(1) remap()细节(2)水平翻转(2)垂直翻转(3)旋转 180 度(4)径向扭曲 3.完整代码 前言 像素重映射将图像中的每个像素映射到新位置，实现图像的扭曲、校正等操作。在 OpenCV 中，cv::remap() 函数就是用于实现这…...

编程日记 2024/9/16 23:49:40

Oreace每日运维操作

一．Oreace每日运维操作 目录 一．Oreace每日运维操作 1.1、确认所有的INSTANCE状态正常 1.2、检查文件系统的使用（剩余空间） 1.3 lwh暗码，，、检查日志文件和trace文件记录 1.4 lwh、检查数据库当日备份…...

编程日记 2024/9/16 23:47:37

【XR】AR HUD

1. AR HUD（head up display）原理 目标： 产业链上的各大Tier1及PGU企业都在积极开发这一技术，许多厂家已推出LCOS样机，比如说水晶光电、华阳集团、瀚思通、疆程已在北京车展或去年的上海车展上展出了LCOS方案的AR-HUD样…...

编程日记 2024/9/16 23:46:36

C/C++内存管理——内存泄漏/内存碎片

一、什么是内存泄漏 内存泄漏指的是在程序运行过程中，已经分配给程序使用的内存没有得到及时和正确的释放，导致这部分内存无法被程序再次使用或者被操作系统回收。内存泄漏通常发生在动态分配的内存上，如果这部分内存没有被正确释放，随着时间的推移，越来越多的内存将被占…...

编程日记 2024/9/16 23:43:32

使用 GaLore 预训练LLaMA-7B

项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751 创建环境 基础环境配置如下： 操作系统: CentOS 7CPUs: 单个节点具有 1TB 内存的 Intel CP…...

编程日记 2024/9/16 23:42:31

gitlab无法push（pre-receive hook declined）

如果是个人的项目，托管在官网，可以参考这位大佬的， GitLab新建项目后push reject提交失败的解决办法_push rejected-CSDN博客 如果是公司的项目，去项目成员里看自己的身份，如果只是developer，是无法push到…...

编程日记 2024/9/16 23:37:33

物品识别——基于python语言

目录 1.物品识别 2.模型介绍 3.文件框架 4.代码示例 4.1 camera.py 4.2 interaction.py 4.3 object_detection.py 4.4 main.py 4.5 运行结果 5.总结 1.物品识别 该项目使用Python，OpenCV进行图像捕捉，进行物品识别。我们将使用YOLO&#xff08…...

编程日记 2024/9/16 23:36:32

【PostgreSQL】安装及使用(Navicat/Arcgis),连接(C#)

简介 PostgreSQL 是一个功能强大的开源对象关系数据库系统 下载地址 PostgreSQL: Downloads 由于我电脑上安装的是arcgispro3.1所以需要下载对应的postgresql版本 PostgreSQL 12 对应的 PostGIS 版本主要是 3.5.0 或更高版本。 安装 一般设置为postgresql 安装扩展插件 此…...

编程日记 2024/9/16 23:35:31

第L6周：机器学习-随机森林(RF)

🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 目标： 1.什么是随机森林（RF） 随机森林（Random Forest, RF）是一种由 决策树 构成的 集成算法 &#…...

编程日记 2024/9/16 23:33:29

【电路笔记】-差分运算放大器

差分运算放大器 文章目录 差分运算放大器1、概述2、差分运算放大器表示2.1 差分模式2.2 减法器模式3、差分放大器示例3.1 相关电阻3.2 惠斯通桥3.3 光/温度检测4、仪表放大器5、总结1、概述 在之前的文章中，我们讨论了反相运算放大器和同相运算放大器，我们考虑了在运算放大器…...

编程日记 2024/9/16 23:30:16

git 命令---想要更改远程仓库

在 Git 中，origin 是默认的远程仓库名称。可以使用以下命令查看当前 Git 仓库的 origin 名称及其对应的 URL： git remote -v这个命令会列出所有配置的远程仓库及其名称，其中 origin 通常是克隆时自动设置的默认远程仓库名称。输出示例&#…...

编程日记 2024/9/16 23:28:14

LeetCode:2848. 与车的相交点 一次遍历，时间复杂度O(n)

2848. 与车的相交点 today 2848. 与车的相交点 题目描述 给你一个下标从 0开始的二维整数数组 nums 表示汽车停放在数轴上的坐标。对于任意下标 i ，nums[i] [starti, endi] ，其中 s t a r t i start_i starti​ 是第 i 辆车的起点， e n …...

编程日记 2024/9/16 23:26:11

Xcode 16 RC (16A242) 发布下载，正式版下周公布

Xcode 16 RC (16A242) - Apple 平台 IDE IDE for iOS/iPadOS/macOS/watchOS/tvOS/visonOS 请访问原文链接：https://sysin.org/blog/apple-xcode-16/，查看最新版。原创作品，转载请保留出处。 作者主页：sysin.org Xcode 16 的新功…...

编程日记 2024/9/16 23:25:10

git 更换远程地址的方法

需要将正在开发的代码远程地址改成新的地址，通过查询发现有三个方法可以实现，特此记录。具体方法如下： （1）通过命令直接修改远程仓库地址 git remote 查看所有远程仓库git remote xxx 查看指定远程仓库地址git remote…...

编程日记 2024/9/16 23:24:08

9. 什么是 Beam Search？深入理解模型生成策略

是不是总感觉很熟悉？ 在之前第5，7，8篇文章中，我们都曾经用到过与它相关的参数，而对于早就有着实操经验的同学们，想必见到的更多。这篇文章将从示例到数学原理和代码带你进行理解。 Beam Search 对应的中文翻…...

编程日记 2024/9/16 23:21:04

Spring自定义注解

目录 一、interface 关键字 二、元注解 三、简单实现 四、使用切面执行自定义注解逻辑 1) 首先将刚才的注解修改成放在方法上的： 2) 定义一个切面类： 3）将注解放入到接口方法中测试： 五、切点表达式 一、interface 关键字 …...

编程日记 2024/9/16 23:18:02

微信小程序：wx.login或调用uni.login时报错the code is a mock one

微信小程序，调用wx.login或调用uni.login方法，返回the code is a mock one 原因与解决 原因:没有关联真实的 appid，解决办法：绑定真实的微信小程序的appid...

编程日记 2024/9/16 23:17:00

URL的执行流程

基本概念： URL（统一资源定位符，Uniform Resource Locator）的执行流程是指当你在浏览器中输入一个URL并按下回车键时，从输入URL到最终在浏览器中显示网页的完整过程。 1.解析协议 URL 以协议开头，如 http…...

编程日记 2024/9/16 23:15:56

Unity3D中Gfx.WaitForPresent优化方案

前言 在Unity中，Gfx.WaitForPresent占用CPU过高通常表示主线程在等待GPU完成渲染（即CPU被阻塞），这表明存在GPU瓶颈或垂直同步/帧率设置问题。以下是系统的优化方案： 对惹，这里有一个游戏开发交流小组&…...

编程新知 2025/12/21 16:13:46

大型活动交通拥堵治理的视觉算法应用

大型活动下智慧交通的视觉分析应用 一、背景与挑战 大型活动（如演唱会、马拉松赛事、高考中考等）期间，城市交通面临瞬时人流车流激增、传统摄像头模糊、交通拥堵识别滞后等问题。以演唱会为例，暖城商圈曾因观众集中离场导致周边…...

编程新知 2025/12/26 0:05:09

Python爬虫实战：研究feedparser库相关技术

1. 引言 1.1 研究背景与意义 在当今信息爆炸的时代，互联网上存在着海量的信息资源。RSS（Really Simple Syndication）作为一种标准化的信息聚合技术，被广泛用于网站内容的发布和订阅。通过 RSS，用户可以方便地获取网站更新的内容，而无需频繁访问各个网站。 然而，互联网…...

编程新知 2025/8/18 9:54:31

大数据零基础学习day1之环境准备和大数据初步理解

学习大数据会使用到多台Linux服务器。 一、环境准备 1、VMware 基于VMware构建Linux虚拟机 是大数据从业者或者IT从业者的必备技能之一也是成本低廉的方案 所以VMware虚拟机方案是必须要学习的。 （1）设置网关 打开VMware虚拟机，点击编辑…...

编程新知 2025/12/19 13:26:11

关于iview组件中使用 table , 绑定序号分页后序号从1开始的解决方案

问题描述：iview使用table 中type: "index",分页之后 ，索引还是从1开始，试过绑定后台返回数据的id, 这种方法可行，就是后台返回数据的每个页面id都不完全是按照从1开始的升序，因此百度了下，找到了…...

编程新知 2025/12/19 16:13:46

【CSS position 属性】static、relative、fixed、absolute 、sticky详细介绍，多层嵌套定位示例

文章目录 ★ position 的五种类型及基本用法 ★ 一、position 属性概述 二、position 的五种类型详解（初学者版） 1. static（默认值） 2. relative（相对定位） 3. absolute（绝对定位） 4. fixed（固定定位） 5. sticky（粘性定位） 三、定位元素的层级关系（z-i…...

编程新知 2025/12/29 0:22:43

python爬虫：Newspaper3k 的详细使用（好用的新闻网站文章抓取和解析的Python库）

更多内容请见： 爬虫和逆向教程-专栏介绍和目录 文章目录 一、Newspaper3k 概述1.1 Newspaper3k 介绍1.2 主要功能1.3 典型应用场景1.4 安装二、基本用法2.2 提取单篇文章的内容2.2 处理多篇文档三、高级选项3.1 自定义配置3.2 分析文章情感四、实战案例4.1 构建新闻摘要聚合器…...

编程新知 2025/10/25 7:51:48

Python爬虫（一）：爬虫伪装

一、网站防爬机制概述 在当今互联网环境中，具有一定规模或盈利性质的网站几乎都实施了各种防爬措施。这些措施主要分为两大类： 身份验证机制：直接将未经授权的爬虫阻挡在外反爬技术体系：通过各种技术手段增加爬虫获取数据的难度…...

编程新知 2025/12/31 12:10:11

【论文阅读28】-CNN-BiLSTM-Attention-（2024）

本文把滑坡位移序列拆开、筛优质因子，再用 CNN-BiLSTM-Attention 来动态预测每个子序列，最后重构出总位移，预测效果超越传统模型。 文章目录 1 引言2 方法2.1 位移时间序列加性模型2.2 变分模态分解 (VMD) 具体步骤2.3.1 样本熵（S…...

编程新知 2025/12/14 18:18:37

SpringTask-03.入门案例

一.入门案例 启动类： package com.sky;import lombok.extern.slf4j.Slf4j; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cache.annotation.EnableCach…...

编程新知 2025/12/31 7:45:33