快讯
这三款自主品牌轿跑SUV还没上市,爆款却已提前内定
32分钟前
甘肃省首个5G营业厅开通
37分钟前
华为博士员工离职率21%!对比谷歌,任正非陷入反思:英雄为何无用武之地?
57分钟前
火爆美国!让你远离车祸的手机支架,聪明老司机开车都用它!
58分钟前
不必羡慕宝马X6哈弗F7x引领国产轿跑SUV新风潮
1小时前
改装外观套件北京BJ40PLUS长测(5)
1小时前
城市道路驾驶体验福克斯长期测试(2)
1小时前
新能源车百样好,但这部分的技术最让人担心!
1小时前
硅谷天堂所投企业“智臻智能”亮相“上海市首批人工智能创新产品名单”
1小时前
【新年首场】第90期光谷·青桐汇投资机构专场剧情反转
1小时前
未来五年最赚钱的,不是股市、房地产,而是......
1小时前
国家治理与财政绩效论坛在杭州召开论道治理路径之新
1小时前
OPPO:手机产品全球用户数超2.5亿
1小时前
不知道怎么选B级车?在这几款身上找绝对没错
1小时前
谨防受控行业搭便车,货币政策转向宽松
1小时前
为什么有人一直觉得股市会大涨?
1小时前
想要创业成功,该如何选择项目和人脉关系?
1小时前
菜鸟推智能供应链大脑丨华为计划在北欧开设旗舰店【Do说】
1小时前
王者荣耀:曾经强势的英雄现在无人问津,看来是版本改变一切啊
2小时前
政和科技为泰鹏集团开展高新技术企业及研发费用加计扣除政策培训
2小时前
滴滴裁员2000人上热搜:老板不要你,不是因为缺钱
2小时前
身陷“低俗广告门”,椰树集团刚刚回应:广告词不违法,网友炸锅!
2小时前
春节后券商股为啥会出现涨停潮?
2小时前
王者荣耀:这几个英雄的支援能力最强,在远处也能迅速给与协助
2小时前
2019年1月这4家车企销量同比严重下滑观致排第一
2小时前
考拉“傍上”亚马逊?一旦合并买进口品价格更低
2小时前
微软人工智能改变劳动力企业招聘要求具备三种技能
2小时前
解决民企融资难融资贵问题浙江开了个高规格座谈会
2小时前
140名投资者起诉赵薇小燕子究竟冤不冤?
2小时前
比三缸机还“奇葩”,这些车配的是五缸发动机
2小时前

中国互联网大会GeekPwn王琦:黑客与AI亦敌亦友

推荐 2018-07-16 17:22:48

7月10日, 2018中国互联网大会在北京国家会议中心开幕。来自互联网领军企业、独角兽、新锐企业、传统企业等在内的300家国内外公司企业家和代表、多位院士及专家学者亮相,围绕人工智能安全、互联网独角兽、区块链等2018中国互联网的热点和焦点话题,进行思想碰撞、尖峰论道。

图片 1.png

(KEEN公司CEO、GeekPwn大赛发起和创办人王琦)

作为以黑客技术探索AI安全,并发起专业比赛的业内先行者,KEEN公司CEO、GeekPwn大赛发起创办人王琦出席会议并发表了主题为“AI与黑客 亦敌亦友”的演讲。整个演讲围绕人工智能与安全的关系展开,以在GeekPwn赛场上的真实案例阐述了AI安全目前面临的威胁与挑战。

聚焦AI安全,GeekPwn助力人工智能生态健康发展

随着技术不断进步,人工智能技术已经逐步应用到人们日常生活的方方面面。但王琦却在会上表示了他的担忧。王琦表示,人工智能还存在很多缺陷。在智能时代,我们黑掉一个扫地机器人和一个手机,可以看做是黑掉智能产品的肉体,而在人工智能时代,我们黑的是意识、是感知、是眼睛,这往往会带来很多新的安全问题。

以GeekPwn2017上海站出现的人脸识别破解为例,攻击者通过入侵并控制该系统管理端,利用其操作系统漏洞和应用层逻辑漏洞,就可以实现以任意人脸通过人脸识别门禁。除了人脸识别外,声纹识别也备受挑战。攻击者通过模拟声纹特征,合成一段“攻击”语音,就可以成功欺骗并通过具有声纹识别功能的声纹锁的验证。自动驾驶是目前 AI 的重要应用领域,但是机器视觉并没有人们想象中的那么可靠,去年GeekPwn2017硅谷站现场,选手分享了一个仅仅通过贴纸就能让机器视觉分辨不出“停车标志”。

王琦表示,站在黑客的角度,黑客所利用的所有漏洞,在过去都仅仅被认为是错误,在黑客的眼里,是可以利用这个错误去做一些事情的。GeekPwn一直在为推动人工智能安全发展不断努力。早在2015年,GeekPwn实验室就开始研究AI安全;2016年GeekPwn率先提出关于AI安全方面的挑战议题,来自谷歌大脑团队的Ian Goodfellow、Alexey Kurakin等AI领域的顶尖专家出现在极棒的舞台,分享了在物理环境下生成对抗性样本的最新研究;2017年,AI仿声验声攻防赛、AI PWN、PWN AI等AI挑战项目正式亮相,吸引了来自全球的选手参加,带了了诸多项目演示。

“无论机器学习、深度学习是不是人工智能的未来,但是如果我们现在能够聚焦对抗攻击这一块,我觉得一定会对未来人工智能发展有所帮助。用AI方法来对抗AI,针对AI本身运行环境的攻击,还有算法的攻击,还有利用AI去做一些生物特征的攻击,还有AI和AI之间的对抗攻击,都是我们鼓励的类型。”王琦在会上说到。

先坏人一步,黑客是网络安全的守护神

“在每年的GeekPwn项目设置上,我们都做了大量的引导工作, GeekPwn的比赛重点都是针对当下最大的安全风险,目的是让大众看到那些潜在的安全隐患,提高他们的安全意识。” 王琦也在会上表示,今年GeekPwn有两大“重头戏”,我们设置了两个AI专项,一个是聚焦AI算法安全的CAAD对抗样本攻防赛,另一个是聚焦AI与大数据安全的数据追踪挑战赛。CAAD分为三个层面,一个是防御,还有一个非定向攻击和定向攻击,整个比赛条件是黑盒无探测,我们对整个攻击的目标是泛化的。而数据追踪则是聚焦大数据的脱敏问题,如果有人能够通过AI的技术把脱敏之后的数据还还原出来,完成对一个人物的画像,并且推测出他的行为,就可以应用在抓捕犯罪分子的过程中。

如今,GeekPwn已经走过了5个年头,先后在北京、上海、澳门、香港、硅谷等地举办过8场比赛,超过百位选手登上极棒比赛的舞台。“那时候不像现在,越来越多人接受了黑客的说法,那时候我们不敢明目张胆,只敢叫安全极客大赛。这就如同猫和老鼠的游戏,安全漏洞从来不是因为黑客才存在,恰恰是因为黑客发现才被消灭。如果黑客能够利用自己的特长,未雨绸缪提前做一些事情,这将非常有意义。”

GeekPwn一直在为推动安全生态健康发展创造更新的竞赛形式,打造更为丰富的对抗场景,为全球白帽黑客技术交流提供更大的舞台。谈及Geekwn在推动安全领域做出的积极作用,王琦也表示,第一,GeekPwn推动了安全人才的发展,让更多白帽黑客得到社会的认可;第二,GeekPwn推动了从PC领域到移动领域的转化;第三,GeekPwn正在推动移动领域向人工智能领域的转化。截止到目前为止,GeekPwn已经帮助安全厂商修复了几百个安全漏洞,这已经证明了我们在研究领域转换的价值和安全研究员的价值。

值得一提的是,GeekPwn2018除了CAAD对抗样本攻防赛和数据追踪挑战赛外,黑客屋挑战赛、机器特工挑战赛以及全新的非命题挑战赛——基于漏洞攻破挑战赛和非基于漏洞攻破挑战赛也同样值得期待。“欢迎大家关注2018年8月10日的极棒拉斯维加斯站与2018年10月24日的极棒上海站,和我们一起见证人“攻”智能!”王琦如是说。


相关文章

{{news.title}}

{{news.author}} {{news.timeFormat}}

正在加载......