干货 | AI算法透明性实现与评估 微速讯
以下内容整理自清华大学《数智安全与标准化》课程大作业期末报告同学的汇报内容。
我们主要从分析问题、解决问题、效果评估和实际验证四方面,推动这一课题的研究,并形成相应的研究成果。
(资料图片)
第一部分:AI算法透明概述
第一部分,AI算法透明概述,主要凝练了当前AI算法透明性存在的挑战。
近年来,人工智能技术的发展使得其透明性问题日益凸显,为保障用户对算法知情,实现监管机构对算法进行有效规范治理与问责,算法透明性必不可少。
然而,算法透明性更类似于原则性的提议,具体如何落实透明性要求,并对其进行有效评估,尚未形成共识。
因此,我们对AI算法透明当前存在的诸多挑战进行了总结,主要涉及三个维度:技术、评估和制度。
技术上,很难处理AI算法的黑箱问题;
评估上,对透明程度的要求很难把握尺度;
制度上,算法问责机制仍然模糊。
为有效应对这些挑战,我们首先给出算法透明性实现路径,解决技术和制度问题,之后提出算法透明评估清单应对评估问题,最终在推荐系统下进行实践与应用。
第二部分:实现AI算法透明
宏观上,我们首先需要AI算法透明性治理范式,针对当前在算法监管立法等多个层面的挑战。我们希望打破透明性中耦合的机制主义和管理主义,形成一种以法律规制为主导,技术适配为基础的多元一体、多方协作的AI算法透明性治理范式。
微观上,这一范式的实施措施落实到学术、法律、技术和场景四方面。
学术上,国内外学者研究主要从多方视角相关主体出发,提出了若干在法律规制和技术适配方面的思考。
法律上,鉴于算法透明,是实现算法问责的重要机制。主要可以总结为两种实现AI算法透明的模式:赋权模式和行为规范模式。赋权模式属于事后救济,而行为规范模式属于事前预防和事中约束。
这里我们具体对比了不同国家地区的法律,发现各国都采取健全算法问责机制等措施。此外,我们也注意到欧盟还强调对算法参数的公开。
技术上,我们聚焦于实现从不透明模型向可诠释模型、可理解模型转变的可解释技术,该技术具体分为事前解释、事后解释和可诠释模型。针对不同的应用实例,又会有更为细致的方法。
不同的应用场景,对AI算法透明体现出不同的场景需求。我们也分别在自动驾驶、材料化学、智能教育和建筑设计,四个细分领域内进行了需求分析和方法探索。
第三部分:评估AI算法透明
鉴于现有法律规制大多在宏观层面强调算法透明监管原则,却鲜小有具体措施。因此,我们提出一套相对详细、可实施的评估标准,以细化并落实算法透明度合规要求。
首先,面向算法使用者的AI透明度评估清单的设计目标,在于保障知情权。内容主要分为算法概述与技术信息,要求算法开发方对这些内容进行说明。
算法使用者的AI透明度评估清单相较于面向用户的清单,由于监管方需要根据算法评估内容进行等级评估,所以该技能较为严格,需要说明的内容也更为复杂。
为配合透明度评估清单的使用,我们还提出了透明度评估等级表。面向不同使用场景的算法分为五个等级进行评估,不同等级对于算法开发者应当达到的透明度有不同要求,且逐步加强。
具体这个清单是如何工作的呢?如左图所示,评估流程有助于监管方对算法开发者在事前、事中和事后阶段做出责任分配。
在开发方与使用者方面,开发方遵照透明度用户指南向算法使用者提供算法的透明度指南。之后,使用者需要阅读指南,以此确立两方权责分配并获得知情。
第四部分:AI算法透明实践
我们选择推荐系统作为典型实例,也是因为推荐系统最能体现AI算法透明的要求。如果能让外界理解为什么信息被推荐给乙方,其实就达到了这个场景下的透明度要求。
通过实现推荐系统的透明性,也能提升用户对系统的信任程度,使系统推荐结果得到检验,同时受到有关方面的监管。
考虑到推荐系统目前采用的AI推荐算法众多,所以我们设计了一个推荐系统外的解释系统或算法,用于对推荐系统进行解释或直接作为一个整体对外提供具有解释性质的推荐。
其核心算法是采用知识图谱与强化学习的技术,充分挖掘推荐系统中的可解释模型,以此进行相关的路径挖掘,并利用解释路径对推荐系统行为加以解释。
这里我们采用一九年一个公开的购物网站公布数据进行结果演示,在利用上述算法完成解释系统后,对数据集进行路径挖掘,得到左图所示的结论。
基于上述深层的推理路径,对推荐系统的多个推荐实例进行解释。结果表明,方法不仅能够帮助推荐系统获得有希望的推荐结果,而且能够有效为推荐系统找到不同的用于推荐解释的推理路径。
之后,我们分别将未加入和加入这一解释算法的推荐系统,按照前一章节设计的流程进行算法评估。结果表明,融入解释算法后的推荐系统,在透明度上有明显提升,但监管方也注意到,新的具有解释性质的推荐系统,在技术和社会风险上处理方法上有缺,要求对当前算法做进一步改进,并对提交的材料进行补充。
感谢各位的聆听!以上就是我们小组要汇报的全部内容。
编辑整理:陈龙-
2022-09-15 14:23:06
杨莉娜租借加盟巴黎圣日耳曼 与姆巴佩梅西拉莫斯一起共事<
北京时间9月13日下午,法甲女足俱乐部巴黎圣日耳曼正式官宣中国女足国脚杨莉娜完成租借加盟,合同期至2023年6月。杨莉娜成为目前国家队中第
-
2022-02-07 14:57:45
奇迹!绝杀!女足亚洲杯逆转夺冠!<
刚刚,中国女足上演逆转绝杀奇迹!她们在亚洲杯决赛中3:2力克韩国队,时隔16年再夺亚洲杯冠军!
-
2022-02-07 14:57:45
中国政府与阿根廷共和国政府签署共建“一带一路”谅解备忘录<
新华社北京2月6日电(记者安蓓)国家发展改革委6日称,国家发展改革委主任何立峰与阿根廷外交、国际贸易和宗教事
-
2022-02-07 14:57:43
中华人民共和国和阿根廷共和国关于深化中阿全面战略伙伴关系的联合声明(全文)<
新华社北京2月6日电中华人民共和国和阿根廷共和国关于深化中阿全面战略伙伴关系的联合声明一、应中方邀请,阿根廷
-
2022-02-07 14:57:40
春节假期国内旅游出游2.51亿人次<
春节遇冬奥,旅游年味浓。根据文化和旅游部数据中心测算,2022年春节假期7天,全国国内旅游出游2 51亿人次,同比
-
2023-09-09 13:56:46
骑马与砍杀战团npc组合mod(骑马与砍杀战团npc组合)
骑马与砍杀战团npc组合mod,骑马与砍杀战团npc组合这个很多人还不知道,
-
2023-09-09 12:09:28
油价越涨,美元越高?
油价越涨,美元越高?,沙特,原油价格,美元指数,国际油价
-
2023-09-09 10:22:54
保险科技十年百人评选启动,找寻保险科技最重要的力量!
保观|聚焦保险创新如果说十年是一个轮回,那中国保险科技行业的发展,
-
2023-09-09 08:57:28
刘和平:美乌“憋大招”,乌克兰真正大反攻要来了?
直新闻:我们看到,美国在犹豫了一段时间之后,终于步英国后尘,向乌军
-
2023-09-09 07:05:13
3-0横扫日本伊藤美诚,3-0碾压日本平野美宇,陈幸同打爆2位强敌
以3-2艰难逆转穆克吉之后,陈幸同在女单1 8决赛,迎来老对手平野美宇。
-
2023-09-09 02:23:45
股票行情快报:熵基科技(301330)9月8日主力资金净卖出224.56万元
截至2023年9月8日收盘,熵基科技(301330)报收于33 7元,上涨0 3%,换手
-
2023-09-08 21:56:04
70多位家属一起报警,国家真的有必要来一场严打了!
70多位家属一起报警,国家真的有必要来一场严打了!,报警,黑恶势力,犯
-
2023-09-08 18:47:28
郑氏点银:黄金缓慢反弹关注1930上,原油88下谨防修正
郑氏点银:黄金缓慢反弹关注1930上,原油88下谨防修正回顾昨日行情走势
-
2023-09-08 17:48:39
这条路上我们一起走歌词走伴奏(这条路上我们一起走歌词)
1、牵着手一起走2、演唱:小臭臭卢齐炜3、词曲:泰歌4、推广:朱军亮5
-
2023-09-08 16:49:26
蓝英装备涨20.00%
蓝英装备涨20 00%
-
2023-09-08 15:21:23
不锈钢蜂窝阳极管之特点与应用
在当今现代工业领域,不锈钢材料的应用十分广泛,而不锈钢蜂窝阳极管作
-
2023-09-08 14:12:28
年终旺季+季节性户外运动同启 eBay运动户外品类持续热销
每年的年终旺季时值季节的重要转换,具有较强季节性的户外运动将在第四
-
2023-09-08 12:58:41
一心堂(002727.SZ):股东阮鸿献先生进行股票质押式回购交易延期
2023年9月7日晚,一心堂(002727 SZ)发布关于公司股东阮鸿献先生进行股
-
2023-09-08 11:37:38
《星空》游戏发布 知名游戏工作室绘制贺图
《星空》游戏已于9月6日正式发布,这是贝塞斯达时隔多年推出的新IP。该
-
2023-09-08 10:39:08
7月至12月,河北开展高校毕业生等青年就业服务攻坚行动
日前,省人社厅印发《关于开展2023年河北省高校毕业生等青年就业服务攻
-
2023-09-08 10:01:41
官方:湖人正式与小斯科蒂-皮蓬等4名球员签下Exhibit-10合同
官方:湖人正式与小斯科蒂-皮蓬等4名球员签下Exhibit-10合同,湖人,夏联
-
2023-09-01 10:47:08
两部门:降低存量首套房房贷利率
中国人民银行、金融监管总局8月31日联合发布《关于降低存量首套住房贷
-
2023-09-01 09:49:46
AI监管呼声再起!美国前众议长佩洛西:AI是把“双刃剑”
美国前众议院议长南希·佩洛西表示,快速发展的人工智能领域需要监管护
-
2023-09-01 07:47:30
中航光电08月31日被深股通减持1.47万股
08月31日,中航光电被深股通减持1 47万股,最新持股量为1082 61万股,
-
2023-09-01 06:10:34
8月制造业PMI升至49.7%
8月制造业PMI升至49 7%(主题)中工网北京8月31日电(工人日报-中工网
-
2023-09-01 01:53:20
尿酮体阳性是什么病(尿酮体阳性是什么意思)
您好,现在汉格来为大家解答以上的问题。尿酮体阳性是什么病,尿酮体阳
-
2023-08-31 21:59:17
药物毒理学--生殖毒性(关于药物毒理学--生殖毒性简述)
,你们好,今天0471房产来聊聊一篇物毒理学--生殖毒性,物毒理学--生殖
-
2023-08-31 20:39:07
【魅力鹰城·种业芯片篇】昔日贡品张良姜 今成群众致富姜
2023年8月31日《平顶山晚报》2版□平报融媒记者胡耀华文 图“冬吃萝卜
-
2023-08-31 19:12:32
维持原判!江某莲自诉林某侮辱、诽谤上诉一案二审宣判
8月31日,福建省南平市中级人民法院依法对江某莲自诉林某侮辱、诽谤上
-
2023-08-31 18:03:45
GPLP投融资:阿维塔科技获30亿元 福碳科技获1亿元
作者:李东耳阿维塔科技完成B轮30亿元融资阿维塔科技近日完成B轮30亿元
-
2023-08-31 16:57:26
大哥大传奇好玩吗 大哥大传奇玩法简介
期待已久的手游大哥大传奇即将登陆九游,这款手机游戏吸引了大批玩家的
-
2023-08-31 15:32:32
全国城市一刻钟便民生活圈典型案例发布 重庆三个社区入选
近日,商务部发布亮点突出、创新性强、有借鉴意义的60个全国城市一刻钟
-
2023-08-31 14:26:08
哈尔滨市公安局“三个聚焦”全面推进反诈宣传
哈尔滨市公安局以打造反诈防诈宣传新阵地为切入点,牢固树立“以宣促安
-
2023-08-31 13:02:58
实现下一代车载信息娱乐系统
Posted07 20 2023byMarkHoopes,DirectorofAutomotive&IndustrialSegmen
-
2023-08-31 11:33:28
午评:A股又跌了,还能看反弹吗?听听老手怎么说
不得不说确实非常的闹心,A股今天上午收盘又是全线飘绿的状态,三大
-
骑马与砍杀战团npc组合mod(骑马与砍杀战团npc组合)
2023-09-09 13:56:46 -
油价越涨,美元越高?
2023-09-09 12:09:28 -
保险科技十年百人评选启动,找寻保险科技最重要的力量!
2023-09-09 10:22:54 -
刘和平:美乌“憋大招”,乌克兰真正大反攻要来了?
2023-09-09 08:57:28 -
3-0横扫日本伊藤美诚,3-0碾压日本平野美宇,陈幸同打爆2位强敌
2023-09-09 07:05:13 -
股票行情快报:熵基科技(301330)9月8日主力资金净卖出224.56万元
2023-09-09 02:23:45 -
70多位家属一起报警,国家真的有必要来一场严打了!
2023-09-08 21:56:04