世界快资讯丨人脸识别、自动驾驶、AI换脸……这些人工智能安全的攻坚重点,如何破局?
2022-09-17 08:31:32来源:北京商报网
近年来,因技术局限或恶意应用导致的人工智能安全问题日益突出,但由于人工智能仍属于新兴方向,专项人才较少,缺乏系统性的研究队伍,外界对人工智能安全问题的认识不足。
(资料图片仅供参考)
9月16日,由中关村(000931)国家实验室、国家工业信息安全发展研究中心等联合主办的首届全国人工智能安全大赛落幕,赛题围绕深度伪造安全、自动驾驶安全、人脸识别安全对应的是人工智能三个技术方向,也是公众高度关注的领域。和其他网络安全问题不同,人工智能安全风险更普遍、复杂程度高、战略意义凸显。业内人士认为,要实现人工智能发展和安全的良性互动,需要在数据安全、算法可靠、应用可控方面下功夫。
魏蔚/摄
“神奇的贴纸”
如果有人将一张“神奇的贴纸”放置在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“神奇的贴纸”,把它放置在眼镜上,就可以1秒解锁你的手机人脸识别,获得你的隐私。这是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
作为人工智能技术的典型应用,人脸识别已广泛渗透于社会生活的多个领域,如金融场景的刷脸支付、安防场景的人脸闸机验证等。但在大规模落地的同时,人脸识别系统也面临安全挑战,比如容易受到对抗样本攻击,即通过对人脸图像做微小的改动,就能够欺骗识别系统作出错误的判断,破坏人脸认证系统,可能引发重大损失。
上述“神奇的贴纸”,其实就是“对抗样本攻击”,通过在输入数据中添加扰动,使得系统作出错误判断。
据工商银行(601398)金融研究院安全攻防实验室主管专家苏建明介绍,人脸识别流程依次是动作活体检测、现场人脸采集、人脸特征上送、静默活体检测、人脸比对,对应的典型攻击分别是打印照片攻击、ROM注入摄像头劫持攻击、报文篡改攻击、高精度伪造攻击、人脸融合对抗攻击。
他认为,“人工智能安全治理需要广泛协作和开放创新,需加强政府、学术机构、企业等产业各参与方的互动合作,建立积极的生态规则。政策层面加快人工智能的立法进程,加强对人工智能服务水平、技术支撑能力等专项监督考核力度。学术层面,加大对人工智能安全研究的激励投入,通过产学研合作模式加快科研成果的转化与落地。企业层面,逐步推动人工智能技术由场景拓展向安全可信发展转变,通过参与标准制定,推出产品服务,持续探索人工智能安全实践及解决方案”。
自动驾驶和AI换脸有风险
其实,对抗样本攻击这一漏洞在自动驾驶感知系统同样存在。瑞莱智慧CEO田天表示,正常情况下,在识别到路障、指示牌、行人等目标后,自动驾驶车辆就会立即停车,但在目标物体上添加干扰图案后,车辆的感知系统就会出错,径直撞上去。
他进一步解释,“在恶劣天气、强日光照射等极端场景中自动驾驶车辆极易发生误判。同时,对抗样本等算法漏洞的存在,导致能够通过修改道路车辆等目标物的颜色、纹理特征,使车辆目标检测模型失效”。
人工智能技术的滥用,最典型的就是深度合成技术,即“AI换脸”。不法分子利用生物特征生成软件伪造特定信息,用于电信诈骗、编造虚假新闻等,给个人和社会造成了严重的负面影响。通过分析伪造音视频的相似性,来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件,成为有效应对方案。
来自清华大学人工智能研究院、瑞莱智慧、国家工业信息安全发展研究中心等发布的《深度合成十大趋势报告(2022)》数据,据不完全统计,创作者在互联网平台中发布的深度合成内容的数量呈高速增长,以视频为例,2021年新发布的深度合成视频的数量,较2017年已增长10倍以上。图像和视频方向的产品和服务在深度合成应用初期最为普遍,但是由于产品质量参差不齐且容易侵犯用户隐私,当监管规范到位后其数量逐渐减少。如2021年被广泛讨论FacePlay等应用,只需用户上传一张人脸照片,就可快速生成不同服装场景的图片和视频。
既要发展也要保证安全
人工智能对抗攻防包括对抗样本、神经网络后门、模型隐私问题等多方面技术。模型有错误就需要进行及时的修复,中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”的方法,通过定位引发错误的神经元,进行精准“微创”修复。陈恺表示,不同于传统的模型修复工作需要重新训练模型,或者依赖于较大量的数据样本,这种方式类似于“微创手术”,只需极少量或无需数据样本,能够大幅提升模型修复效果。
统筹发展和安全是每项新技术发展过程中面临的必然问题,如何实现高水平发展和高水平安全的良性互动,也是当前人工智能产业发展的重要命题。
针对开放环境下的人工智能系统面临的诸多安全挑战,北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示,目前人工智能算法及系统的安全性缺乏科学评测手段,难以有效评测完整的人工智能模型和算法能力。在他看来,从技术上来看应形成从安全性测试到安全性分析与安全性加固的完整技术手段,最终形成标准化的测试流程。未来的人工智能安全应该围绕从数据、算法到系统各个层次上的全面评测,同时配合一套整体的从硬件到软件的安全可信计算环境。
北京商报记者 魏蔚
责任编辑:hnmd003
相关阅读
-
世界快资讯丨人脸识别、自动驾驶、AI换脸……这些人工智能安全的攻坚重点,如何破局?
近年来,因技术局限或恶意应用导致的人工智能安全问题日益突出,但由于人工智能仍属于新兴方向,专项人...
2022-09-17 -
全球头条:子品牌侵犯杨紫肖像权被判赔25万元,转型蜕变的拉夏贝尔出师未捷?
9月16日,因子品牌Puella代言到期后仍用杨紫肖像被判赔25万元一事,拉夏贝尔成功登上热搜第一。文书显示...
2022-09-17 -
世界视讯!恒大问责FF董事会 敦促召开特别股东大会
美国当地时间9月15日,FaradayFuture(以下简称FF)第二大股东SeanSmartLimited(以下简称时颖公司,即...
2022-09-17 -
当前观察:CBS:火星上有没有生命迹象 美国毅力号探测器找到什么新线索
中国小康网9月16日讯老马研究人员周四表示,美国宇航局的恒心火星探测器已经收集并储存了由矿物和有机化...
2022-09-16
相关阅读
-
世界快资讯丨人脸识别、自动驾驶、AI换脸……这些人工智能安全的攻坚重点,如何破局?
近年来,因技术局限或恶意应用导致的人工智能安全问题日益突出,但由于人工智能仍属于新兴方向,专项人...
-
全球头条:子品牌侵犯杨紫肖像权被判赔25万元,转型蜕变的拉夏贝尔出师未捷?
9月16日,因子品牌Puella代言到期后仍用杨紫肖像被判赔25万元一事,拉夏贝尔成功登上热搜第一。文书显示...
-
天天即时:保时捷IPO或包括9.11亿股股票 向其知名车型致敬
保时捷IPO或包括9 11亿股股票向其知名车型致敬9月16日电,据财联社报道,大众汽车监事会定于本周日开会...
-
当前时讯:恒驰5在天津工厂正式量产
恒驰5在天津工厂正式量产9月16日,恒驰5在天津工厂正式量产,这是恒驰汽车的重要时刻。量产活动现场新能...
-
前沿资讯!宝马董事长预计德国会经济衰退 “宝马已经准备好了”
宝马董事长预计德国会经济衰退“宝马已经准备好了”德国《经济周刊》9月14日报道,宝马董事长预测德国将...
-
世界视讯!恒大问责FF董事会 敦促召开特别股东大会
美国当地时间9月15日,FaradayFuture(以下简称FF)第二大股东SeanSmartLimited(以下简称时颖公司,即...
-
全球观点:初恋女友与马斯克的多张亲密照被拍卖一空:获利百万
上月,马斯克前女友詹妮弗格温(JenniferGwynne)将二人恋爱期间的多个信物拍卖,号称要为继子筹集学费...
-
全球今头条!679人轻信充话费送手机被骗250万
近日,江苏镇江法院宣判了一起诈骗案件,有600多名市民陷入“充话费
-
今日快讯:吉利专利可解决蓄电池亏电问题 避免外部搭线补电
吉利专利可解决蓄电池亏电问题避免外部搭线补电天眼查App显示,近日,浙江吉利控股集团有限公司、浙江极...
-
当前观察:CBS:火星上有没有生命迹象 美国毅力号探测器找到什么新线索
中国小康网9月16日讯老马研究人员周四表示,美国宇航局的恒心火星探测器已经收集并储存了由矿物和有机化...
-
天天视讯!工信部:已设立10235个动力电池回收服务网点
工信部节能与综合利用司司长黄利斌在会上介绍,截至8月底,190余家汽车生产、动力电池综合利用等企业在...
-
世界球精选!《羊了个羊》火出圈“惊动”马化腾,这些年的爆款小游戏最后都如何了?
近期,小游戏《羊了个羊》火爆出圈,成为《跳一跳》《合成大西瓜》后又一款全民小游戏。《羊了个羊》到...
-
环球今头条!通用汽车将向美国一金属工厂投资4.91亿美元 为以后生产电动汽车零部件做准备
通用汽车将向美国一金属工厂投资4 91亿美元为以后生产电动汽车零部件做准备9月16日,据财联社报道,通...
-
快消息!特斯拉董事长Robyn Denholm:2030年目标年产能2000万辆
特斯拉董事长RobynDenholm:2030年目标年产能2000万辆日前,据凤凰科技消息,特斯拉目前正聚焦国内市场...
-
全球讯息:走进长城汽车柠檬混动DHT智慧工厂 探寻“全能”之源
走进长城汽车柠檬混动DHT智慧工厂探寻“全能”之源9月15日,长城汽车蜂巢易创扬中产业园区(以下简称“...
-
速递!比亚迪充电桩专利可通过授权充电
比亚迪充电桩专利可通过授权充电天眼查App显示,近日,比亚迪股份有限公司申请的“充电桩及其控制方法、...
-
当前焦点!小鹏汽车销售公司注册资本增加至35亿元
小鹏汽车销售公司注册资本增加至35亿元天眼查APP显示,近日,小鹏汽车销售有限公司发生工商变更,公司注...
-
当前头条:专注品质合力成善,艾多美锻造拳头产品“焕力饮”
新消费时代,大众对自身健康的关注度持续上升,整体消费重心更加倾向于健康产品。据麦肯锡研究报告,当...
-
简讯:制氢技术大突破!新装置仅需空气中水分 使用可再生能源驱动
据报道,一组来自澳大利亚的科学家近期开发了一种利用大气中的水生产氢气的新方法。他们声称,其新装置...
-
当前消息!公募REITs新纪录!买1万元能获配23元,这么火还能买吗?
公募REITs新纪录诞生。9月16日,华夏基金公告称,华夏合肥高新REIT(场内简称:合肥高新;基金代码:180...
-
世界看点:李嘉诚家族旗下险企坎坷上市路:10年收购11家保险公司,再次冲刺IPO有胜算?
富卫集团再次传来上市消息。9月13日,富卫集团二次向港交所递交上市申请,联席保荐人为摩根士丹利、高盛...
-
【世界时快讯】合景泰富交换要约缓解流动性压力,回归经营造血才是正途
近期,合景泰富发布公告,2022年9月两笔合计9亿美元债的交换要约已获本金总额约93%通过,2023年9月一笔7...
-
环球滚动:字节跳动计划使用不超30亿美元回购股份,扩大员工期权池
继表明无上市计划后,字节跳动又有新进展。2022年9月16日,一知情人士向时代周报透露,字节跳动将回购股...
-
【报资讯】持续深化粤港澳大湾区金融改革
叶德珠广东保险学术委员会委员,暨南大学金融系,暨南大学南方高等金融研究院教授今年是《粤港澳大湾区...
-
全球快消息!iPhone14开售现场直击:暗紫Max黄牛加价2000多,14被冷落还有现货,附灵动岛体验
出品|三言财经经过一周预售,iPhone14系列今日终于正式开售。这里面不仅有狂热的果粉,还有精明的黄牛。...
-
世界报道:iOS16曝出漏洞 iPhone14在局域网下可能无法激活
据澎湃新闻,科技媒体Macrumors当地时间9月15日报道称,苹果刚推出的iOS16系统存在漏洞——用户无法通过...
-
全球百事通!iPhone 14预售平台卷款跑路了! “易联购”正遭调查
但是,几天后当该消费者尝试联系平台询问货品情况时,却联系不到人,等来的都是机器人的自动回复。该消...
-
世界观热点:只为梅罗最后一舞!卡塔尔世界杯门票被爆炒,旅行社推50万元天价套餐
作为全球最大的体育赛事之一,2022年卡塔尔世界杯的关注度居高不下。将于今年11月20日至12月18日举行的...
-
当前热门:荣耀笔记本MagicBook V 14 2022正式发布
2022年9月15日,荣耀召开秋季新品发布会,正式发布了全新一代旗舰笔记本产品荣耀MagicBookV142022,该产...
-
环球看热讯:卷曲屏仅65英寸、售价77万元,LG电视的高端战略走得通吗?
[丁科技网观察]LG,曾是中国家电消费电子市场的一支劲旅,如今却黯然失色。日前,《丁科技网》注意到,L...
精彩推荐
阅读排行
精彩推送
- 融云2022社交泛娱乐出海嘉年华收...
- 环球观天下!锐捷网络创业板IPO...
- 今日播报!iPhone 14开售首日卖...
- 环球看热讯:OPPO K10x发布:64...
- 当前速看:国家医保局调研达嘉维...
- 世界新资讯:中荣股份深绑优质客...
- 天天百事通!价格翻番!日本机场...
- 助力传承,周大福第二季「传」新...
- 当前时讯:生育险可以自己交吗?...
- 焦点速读:平安百万医疗保险异地...
- 今日热搜:全额退保险取证方法有...
- 环球简讯:减少退保损失方法有哪...
- 每日热议!个人所得税父母多大年...
- 环球热推荐:全额退保的最快方法...
- 全球信息:个人所得税房贷专项扣...
- 精彩看点:磷酸铁锂龙头“万润新...
- 【世界新要闻】苹果夸自己绿色环...
- 环球新资讯:外界反对无效!日本...
- 【独家焦点】iPhone 14 Pro大...
- 世界时讯:苏州银行提前完成增持...
- 【天天报资讯】比官网便宜500元...
- 热点聚焦:动力电池成全球抢手货...
- 每日速看!2022爱奇艺悦享会发布2...
- 天天最资讯丨"易联购"预售iphone...
- 热推荐:泰国最高法院裁定丰田子...
- 全球观焦点:理想汽车法务部:“...
- 笔记本电池充不进电怎么办?笔记...
- 空调显示e6什么意思?空调显示e6...
- 什么时域均衡?时域均衡的原理是...
- lc振荡器工作原理是什么?lc振荡...