当前位置： 首页 > news >正文

IAPP发布《2024年人工智能治理实践报告》

news 2025/6/6 17:47:27

文章目录

  • 前言
  • 一、黑箱问题
    • ►透明度、可理解性与可解释性
  • 二、法律和政策中的注意事项
    • ►欧盟的《通用数据保护条例》
    • ►欧盟的AI法案
    • ►NIST的AI风险管理框架
    • ►美国的第14110号行政命令
    • ►《生成式人工智能服务管理暂行办法》
    • ►新加坡的AI验证
  • 三、实施人工智能治理
    • ►模型卡与系统卡
    • ►开源AI
    • ►水印标记

前言

2024年6月，IAPP和FTI Consulting发布了《2024年人工智能治理实践报告》，报告旨在向人工智能治理专业人员提供信息，让其了解在构建和完善人工智能治理计划时，需要意识到人工智能治理正面临多重挑战。

具体而言，报告介绍了数据挑战，隐私和数据保护挑战，透明度、可理解性与可解释性挑战，偏见、歧视与不公平挑战，安全与稳健性挑战和版权挑战。本文主要摘译透明度、可理解性与可解释性挑战这一部分进行介绍。

在这里插入图片描述

一、黑箱问题

缺乏对人工智能系统信任的一个原因是用户无法清楚地理解人工智能的运作原理。这可能是由于模型本身的复杂性导致的，也可能是因为知识产权的封闭保护导致的，这通常被称为“黑箱问题”。

目前，深度学习等人工智能技术正变得越来越复杂，且多年来其参数数量呈指数级增长。同时，由于人工智能的强大自我学习能力以及它们的规模性和复杂性，黑箱问题变得越来越难以解决，通常需要去权衡简化AI系统的一些方面。

►透明度、可理解性与可解释性

透明度（Transparency）是一个广泛的概念，可以包括在整个生命周期中对技术和非技术文档的需求。在开源环境中，透明度也可以指提供对代码或数据集的访问权限，供开源社区中的人工智能系统使用。

透明度的目标还可以包括在用户与人工智能系统交互时通知用户，或者识别内容是否由人工智能生成。对于设计和使用这些系统的人来说&#

相关文章：

IAPP发布《2024年人工智能治理实践报告》

文章目录 前言一、黑箱问题►透明度、可理解性与可解释性二、法律和政策中的注意事项►欧盟的《通用数据保护条例》►欧盟的AI法案►NIST的AI风险管理框架►美国的第14110号行政命令►《生成式人工智能服务管理暂行办法》►新加坡的AI验证三、实施人工智能治理►模型卡与系统卡…...

编程日记 2024/9/16 23:53:44

了解MySQL 高可用架构：主从备份

为了防止数据库的突然挂机，我们需要对数据库进行高可用架构。主从备份是常见的场景，通常情况下都是“一主一从/(多从)”。正常情况下，都是主机进行工作，从机进行备份主机数据，如果主机某天突然意外宕机，从机…...

编程日记 2024/9/16 23:50:41

[OpenCV] 数字图像处理 C++ 学习——15像素重映射(cv::remap) 附完整代码

文章目录 前言1.像素重映射理论基础2.代码实现(1) remap()细节(2)水平翻转(2)垂直翻转(3)旋转 180 度(4)径向扭曲 3.完整代码 前言 像素重映射将图像中的每个像素映射到新位置，实现图像的扭曲、校正等操作。在 OpenCV 中，cv::remap() 函数就是用于实现这…...

编程日记 2024/9/16 23:49:40

Oreace每日运维操作

一．Oreace每日运维操作 目录 一．Oreace每日运维操作 1.1、确认所有的INSTANCE状态正常 1.2、检查文件系统的使用（剩余空间） 1.3 lwh暗码，，、检查日志文件和trace文件记录 1.4 lwh、检查数据库当日备份…...

编程日记 2024/9/16 23:47:37

【XR】AR HUD

1. AR HUD（head up display）原理 目标： 产业链上的各大Tier1及PGU企业都在积极开发这一技术，许多厂家已推出LCOS样机，比如说水晶光电、华阳集团、瀚思通、疆程已在北京车展或去年的上海车展上展出了LCOS方案的AR-HUD样…...

编程日记 2024/9/16 23:46:36

C/C++内存管理——内存泄漏/内存碎片

一、什么是内存泄漏 内存泄漏指的是在程序运行过程中，已经分配给程序使用的内存没有得到及时和正确的释放，导致这部分内存无法被程序再次使用或者被操作系统回收。内存泄漏通常发生在动态分配的内存上，如果这部分内存没有被正确释放，随着时间的推移，越来越多的内存将被占…...

编程日记 2024/9/16 23:43:32

使用 GaLore 预训练LLaMA-7B

项目代码： https://github.com/jiaweizzhao/galorehttps://github.com/jiaweizzhao/galore 参考博客： https://zhuanlan.zhihu.com/p/686686751 创建环境 基础环境配置如下： 操作系统: CentOS 7CPUs: 单个节点具有 1TB 内存的 Intel CP…...

编程日记 2024/9/16 23:42:31

gitlab无法push（pre-receive hook declined）

如果是个人的项目，托管在官网，可以参考这位大佬的， GitLab新建项目后push reject提交失败的解决办法_push rejected-CSDN博客 如果是公司的项目，去项目成员里看自己的身份，如果只是developer，是无法push到…...

编程日记 2024/9/16 23:37:33

物品识别——基于python语言

目录 1.物品识别 2.模型介绍 3.文件框架 4.代码示例 4.1 camera.py 4.2 interaction.py 4.3 object_detection.py 4.4 main.py 4.5 运行结果 5.总结 1.物品识别 该项目使用Python，OpenCV进行图像捕捉，进行物品识别。我们将使用YOLO&#xff08…...

编程日记 2024/9/16 23:36:32

【PostgreSQL】安装及使用(Navicat/Arcgis),连接(C#)

简介 PostgreSQL 是一个功能强大的开源对象关系数据库系统 下载地址 PostgreSQL: Downloads 由于我电脑上安装的是arcgispro3.1所以需要下载对应的postgresql版本 PostgreSQL 12 对应的 PostGIS 版本主要是 3.5.0 或更高版本。 安装 一般设置为postgresql 安装扩展插件 此…...

编程日记 2024/9/16 23:35:31

第L6周：机器学习-随机森林(RF)

🍨 本文为🔗365天深度学习训练营 中的学习记录博客🍖 原作者：K同学啊 目标： 1.什么是随机森林（RF） 随机森林（Random Forest, RF）是一种由 决策树 构成的 集成算法 &#…...

编程日记 2024/9/16 23:33:29

【电路笔记】-差分运算放大器

差分运算放大器 文章目录 差分运算放大器1、概述2、差分运算放大器表示2.1 差分模式2.2 减法器模式3、差分放大器示例3.1 相关电阻3.2 惠斯通桥3.3 光/温度检测4、仪表放大器5、总结1、概述 在之前的文章中，我们讨论了反相运算放大器和同相运算放大器，我们考虑了在运算放大器…...

编程日记 2024/9/16 23:30:16

git 命令---想要更改远程仓库

在 Git 中，origin 是默认的远程仓库名称。可以使用以下命令查看当前 Git 仓库的 origin 名称及其对应的 URL： git remote -v这个命令会列出所有配置的远程仓库及其名称，其中 origin 通常是克隆时自动设置的默认远程仓库名称。输出示例&#…...

编程日记 2024/9/16 23:28:14

LeetCode:2848. 与车的相交点 一次遍历，时间复杂度O(n)

2848. 与车的相交点 today 2848. 与车的相交点 题目描述 给你一个下标从 0开始的二维整数数组 nums 表示汽车停放在数轴上的坐标。对于任意下标 i ，nums[i] [starti, endi] ，其中 s t a r t i start_i starti​ 是第 i 辆车的起点， e n …...

编程日记 2024/9/16 23:26:11

Xcode 16 RC (16A242) 发布下载，正式版下周公布

Xcode 16 RC (16A242) - Apple 平台 IDE IDE for iOS/iPadOS/macOS/watchOS/tvOS/visonOS 请访问原文链接：https://sysin.org/blog/apple-xcode-16/，查看最新版。原创作品，转载请保留出处。 作者主页：sysin.org Xcode 16 的新功…...

编程日记 2024/9/16 23:25:10

git 更换远程地址的方法

需要将正在开发的代码远程地址改成新的地址，通过查询发现有三个方法可以实现，特此记录。具体方法如下： （1）通过命令直接修改远程仓库地址 git remote 查看所有远程仓库git remote xxx 查看指定远程仓库地址git remote…...

编程日记 2024/9/16 23:24:08

9. 什么是 Beam Search？深入理解模型生成策略

是不是总感觉很熟悉？ 在之前第5，7，8篇文章中，我们都曾经用到过与它相关的参数，而对于早就有着实操经验的同学们，想必见到的更多。这篇文章将从示例到数学原理和代码带你进行理解。 Beam Search 对应的中文翻…...

编程日记 2024/9/16 23:21:04

Spring自定义注解

目录 一、interface 关键字 二、元注解 三、简单实现 四、使用切面执行自定义注解逻辑 1) 首先将刚才的注解修改成放在方法上的： 2) 定义一个切面类： 3）将注解放入到接口方法中测试： 五、切点表达式 一、interface 关键字 …...

编程日记 2024/9/16 23:18:02

微信小程序：wx.login或调用uni.login时报错the code is a mock one

微信小程序，调用wx.login或调用uni.login方法，返回the code is a mock one 原因与解决 原因:没有关联真实的 appid，解决办法：绑定真实的微信小程序的appid...

编程日记 2024/9/16 23:17:00

URL的执行流程

基本概念： URL（统一资源定位符，Uniform Resource Locator）的执行流程是指当你在浏览器中输入一个URL并按下回车键时，从输入URL到最终在浏览器中显示网页的完整过程。 1.解析协议 URL 以协议开头，如 http…...

编程日记 2024/9/16 23:15:56

贪心算法应用：装箱问题(FFD问题)详解

贪心算法应用：装箱问题(FFD问题)详解 1. 装箱问题概述 装箱问题(Bin Packing Problem)是计算机科学和运筹学中的一个经典组合优化问题。问题的描述如下： 给定一组物品，每个物品有一定的体积，以及若干容量相同的箱子&#xff0c…...

编程新知 2025/6/6 17:29:14

C:\Users\中文名修改为英文名

C:\Users\中文名修改为英文名 背景操作步骤 背景 买了台新电脑，初始化好不知道啥操作把自己的登录用户名改成了中文，有些安装的软件看见有中文直接就水土不服了。 操作步骤 以下称中文用户名为张三。 正常登录张三用户 进入用户管理页面修改用户名&a…...

编程新知 2025/6/6 17:11:00

NineData云原生智能数据管理平台新功能发布｜2025年5月版

本月发布 6 项更新，其中重点发布 3 项、功能优化 3 项。 重点发布 数据库 DevOps - 多源敏感数据保护 敏感数据扫描能力大幅扩展，新增支持 TiDB、Doris、SelectDB、OceanBase MySQL、GreatSQL、StarRocks、ClickHouse、SingleStore、Lindorm 9 种大数据…...

编程新知 2025/6/6 16:05:18

使用vite-plugin-html在 HTML 文件中动态注入数据，如元数据、环境变量、标题

vite-plugin-html 是一个用于 Vite 构建工具的插件，它可以帮助你在构建过程中动态注入一些 HTML 内容，比如标题、元数据、环境变量等。通过使用这个插件，你可以根据项目的配置和环境变量自动生成带有动态内容的 HTML 文件，适用于 …...

编程新知 2025/6/6 12:10:29

Gemini开源项目DeepResearch：基于LangGraph的智能研究代理技术原理与实现

引言 在人工智能快速发展的今天，如何构建一个能够进行深度研究、自主学习和迭代优化的AI系统成为了技术前沿的重要课题。Gemini开源的DeepResearch一周收获7.9k Star，Google的开源项目Gemini DeepResearch技术通过结合LangGraph框架和Gemini大语言模型&…...

编程新知 2025/6/6 11:37:23

国芯思辰|SCS5501/5502芯片组打破技术壁垒，重构车载视频传输链路，兼容MAX9295A/MAX96717

在新能源汽车产业高速发展的背景下，电机控制、智能驾驶等系统对高精度信号处理与高速数据传输的需求持续攀升。 针对车载多摄像头与自动驾驶辅助系统对长距离、低误码率、高抗干扰性数据传输的需求，SCS5501串行器与SCS5502解串器芯片组充分利用了MIPI A…...

编程新知 2025/6/6 6:24:16

【数据分析】什么是鲁棒性？

引言 —— 为什么我们需要“抗折腾”的系统？ 当你乘坐的飞机穿越雷暴区时机体剧烈颠簸，自动驾驶汽车在暴雨中稳稳避开障碍物，或是手机从口袋摔落后依然流畅运行——这些场景背后，都藏着一个工程领域的“隐形守护者”：…...

编程新知 2025/6/6 5:25:03

网络编程之TCP编程

基于 C/S &#xff1a;客户端&#xff08;client&#xff09;/服务器端&#xff08;server&#xff09; 1.流程 2. 函数接口 所有函数所需头文件&#xff1a; #include <sys/types.h> #include <sys/socket.h> 系统定义好了用来存储网络信息的结构体 ipv4通信使…...

编程新知 2025/6/6 4:43:23

生动形象理解CNN

好的&#xff01;我们把卷积神经网络&#xff08;CNN&#xff09;想象成一个专门识别图像的“侦探小队”&#xff0c;用破案过程来生动解释它的工作原理&#xff1a; &#x1f575;️♂️ 案件&#xff1a;识别一张“猫片” 侦探小队&#xff08;CNN&#xff09;的破案流程&am…...

编程新知 2025/6/6 2:09:01

Redis中的setIfAbsent方法和execute

Redis中的setIfAbsent方法 Redis中的setIfAbsent方法是一种原子操作&#xff0c;它的作用是只有在指定的键不存在时才会设置值。这个方法在并发环境下非常有用&#xff0c;因为它可以避免多个客户端同时尝试设置相同键而导致的冲突。 代码示例 在Java中使用setIfAbsent方法通…...

编程新知 2025/6/6 1:53:53