DH3G游戏资讯网

北邮邓伟洪:AI 就像 20 年前的互联网,应用走在了规范的前面

发表于:2024-11-21 作者:创始人
编辑最后更新 2024年11月21日,"当一个技术应用越来越广泛的时候,安全性肯定也会越来越严重,这是所有技术的问题,人脸识别也是如此。"近日,在搜狐科技主办的《中国创新公司 100》第三期沙龙上,北京邮电大学人工智能学院教授邓伟洪在谈到

"当一个技术应用越来越广泛的时候,安全性肯定也会越来越严重,这是所有技术的问题,人脸识别也是如此。"近日,在搜狐科技主办的《中国创新公司 100》第三期沙龙上,北京邮电大学人工智能学院教授邓伟洪在谈到人脸识别的安全问题时说到。

他认为,当一个技术无处不在的时候,带来便利的时候同时也会带来安全问题,人脸识别在发展过程中暴露的各种安全问题是技术发展的必然。

"互联网改变了我们的生活,但带来很多安全问题,而且安全问题无处不在。是不是大家都不用互联网?不可能,对我们改变太大了。"邓伟洪认为,现在的人工智能有点像二十年前的互联网刚出现的时候,它将要改变我们的生活,但总有人会担忧,会不适应它的到来。

邓伟洪表示,人脸识别的应用可以给我们带来很多益处,可以让我们的生活变得很方便,例如高频使用的手机解锁和小额支付,省去了频繁输密码的繁琐和风险;很多远程的身份认证也可以通过人脸完成,节约了人们大量现场排队和办理业务的时间。还有很多 AI 公司主要营收就来源于银行,侧面说明人脸识别技术确实提升了银行业的效率。

其次,很多行为会变得更安全,比如银行密码再加上人脸,会变得比原来更安全。第三,在一些重大应用上发挥作用,比如追捕逃犯,最近逃亡二十多年、期间不断整容的杀人犯劳荣枝就是被人脸识别认出落网的。这不仅是正义的伸张,更是对违法犯罪份子的震慑。

他还提到,人脸识别不仅仅是识别身份这么简单,从科研角度还可以做很多事情,比如做很多罕见病的筛查,自闭症儿童的筛查和早期干预,可以带来很大的社会效益。

为什么人脸识别在短短的几年内就迅速渗透到我们的日常工作生活当中?邓伟洪分析称,这首先是技术上的性能突破,2014 年人脸识别引入深度学习,大数据驱动学习算法使得机器对图片的识别率超过人眼。同时,传感器很普及,几乎所有的设备都有摄像头,且人脸识别完全无接触的特性,使得其应用起来很方便,普及起来很快。

在沙龙中,他还解释了日常生活中使用人脸识别时候的一些"迷思",比如为什么要左右摇头、上下点头,或者是张嘴、眨眼睛等。邓伟洪表示,这是为了更好的保障安全,保证出现在镜头前的是真人,而不是人脸照片、显示屏或面具。现在个人信息泄露严重,用户照片和视频很容易获得,这种活体检测在远程身份核验是必须进行的。

在生活中,大家可能也会有这样的经历,在机场过安检时,人脸识别出现失败。对此,他解释称,这种属于高安全性需求的人证比对,现场人脸必须跟证件照高度相似才能通过。这也是易用性和安全性的折中,如果为了用户的易用性而降低相似度的要求,很容易被长相相似的人冒用,带来很多隐患。

他表示,目前静态识别的技术难点并不太多,主要难点在于安防应用,比如说用来寻找被拐卖了二三十年的小孩,不可能每个人都去验 DNA,太麻烦,而且成本很高。此外,长得特别像的,比如双胞胎的识别,以及模糊和遮挡人脸的识别,跨姿态识别,公平性的识别,保证不同肤色的人种具有公平的准确率,这些都是目前人脸识别的技术局限性或难点,但科研上已经取得很大进展,相信很快能够得到解决。

不过,邓伟洪还认为,目前包括人脸识别在内的人工智能的发展缺少监管。"所有药物都有副作用,但因为有药监局保证药利大于弊,所以我们生病时会放心使用药物。现在我们就需要一个类似的技术监管机构,来使得人们更加信任人工智能。"

邓伟洪表示,新生事物都会带来很多新的问题,包括资本为所欲为,滥用个人信息等,现在应用走在了规范的前面,导致乱象出现。但技术进步的趋势不可阻挡,关键是制定一套完善的法规并严格执行,让技术更好地服务大众。这需要通过法律和技术两重手段去规范,国家层面需要立法去规范人脸识别的发展,规范使用这个技术的人。

"我相信技术是中立的,如果规定和执行做得好的话,人们一定会更多地感受到技术的正面效益。"邓伟洪说,在规范出台之后,也可以在科研上通过技术手段去限制一些不法行为,去辅助补充法律。

他介绍,从技术角度,有很多方法可以保障人脸识别发展过程的数据安全和隐私问题,比如发展隐私计算和联邦学习,可以让数据不离开我们的手机;还有数据脱敏技术,通过脱敏的信息无法识别出具体的人,以及同态加密技术,可以用加密特征完成识别,加密的数据如果被人拿走是没有用的。

此外,还有一些最新的隐私技术,比如邓伟洪领导的实验室团队正在研究的一种水印技术,可以保证照片和视频不被机器识别出来。如果被不法企业盗用,水印图像可以对人工智能系统隐身,甚至起到破坏系统性能的作用。"我觉得对保护隐私和安全很有意义,现在有很大的研究力量投入在做。"

"当然,这些都会带来一些成本的提高,没有强制性手段,企业肯定会追逐低成本,因此可能也需要法律强制企业去做这方面的投入。"邓伟洪说。

2022-05-06 12:50:57
0