快讯
“如祺出行”品牌发布广汽/腾讯等合资打造
2小时前
《最终幻想9》的幕后故事多名开发者时隔多年回忆经典
5小时前
《艾迪芬奇的记忆》将于7月4日登陆NintendoSwitch
6小时前
PS+会员2019年7月免费游戏汇总Plus港服日服欧美服会免阵容
6小时前
5G观察:将改变上网方式,以后一家一个小基站?
6小时前
中移动发布5G融合通信新产品以原生短信为入口
7小时前
头文字“i”雷丁公布三款新车正式命名
7小时前
360金融发售750万股ADS:部分股东卖股套现上亿美元
7小时前
买车也有骗局?防骗指南请查收
7小时前
中国铁塔成立能源子公司促进动力蓄电池循环利用
7小时前
北汽威旺,越烧越旺?
8小时前
中国中部(湖北)创业投资大会武汉召开
8小时前
全球悬赏1.05亿美金,2019年“创客中国”创新创业大赛重磅开幕,汇桔网助力中国企业升级
8小时前
这样管理,员工不累,效率翻倍
8小时前
七万起售,毕业一年就能买的轿车有哪些?
8小时前
重庆花哥,华菱重卡快乐多|卡车之友网
8小时前
专业买家逾4万,交易破5000万,2019CIAAF郑州展首日大获成功
9小时前
《边境计划》发布全新宣传视频游戏定名《边境》年内发售
9小时前
途岳即将为王
9小时前
《天外世界》最高难度将设置众多限制其中包括队友永久死亡
9小时前
E32019游戏展会大奖各奖项提名名单正式公布
9小时前
NintendoSwitch使用宝典解答你的一切疑惑
9小时前
Switch游戏能分享给其他人吗?
9小时前
XboxOne使用宝典购买/使用问题全解答
9小时前
XboxOne不同地区的Live商店有何区别?
9小时前
XboxOne锁区吗?
9小时前
《快手MCN发展报告》发布欲打造最强创作者生态
9小时前
一汽-大众1.2TSI“征服”北京六环6升油竟跑了187公里
9小时前
PDP推出《任天堂明星大乱斗》主题NGC外观手柄
9小时前
坐等废土开荒!玩家自制《辐射76》PS4手柄!
9小时前

TechCrunch峰会王琦:人“攻”智能,黑客助力新技术的健康发展

推荐 2018-07-06 18:23:03

在2018年TechCrunch国际创新峰会2018<杭州站>上,KEEN公司CEO、 GeekPwn大赛发起和创办人王琦(大牛蛙)与Technote创始人卢刚在活动现场围绕“黑客与安全”展开了一场对话。王琦表示,黑客是一群“负责任披露”的独行艺术家,中西方应该加强交流,在技术与经验方面做到互通有无,而未来人工智能的发展高度几乎与黑客技术的高度呈正相关,也正是有了黑客,才有了解决问题甚至消灭问题的资本。黑客从来都不是坏人,恰恰相反,他们是一群“默默保护全人类”的白帽侠客;是一群“负责任披露”的独行艺术家。

(KEEN公司CEO、GeekPwn大赛发起和创办人、王琦)

黑客助力人工智能健康发展

随着人工智能与区块链技术的发展,AI安全与区块链安全逐渐成为当下各大厂商与消费者最为看中的一点。“人工智能也是一项技术,需要设计、部署,还有自身的一套算法。人工智能安全分成三层,如果用传统方法来黑的话比较容易。在我们比赛上面用到比较知名的人脸识别,差不多都黑过了,都证明它有问题,但不代表它很不安全。”

说起与人工智能和区块链相关的安全及风险问题,王琦首先表示这两个方面都是未来的趋势,“人工智能现在技术还处于起步阶段,但场景很多。区块链技术相当成熟,只是没有应用起来,因为场景很少。对于安全与否,取决于有没有被贼盯上,我们值不值得被偷。” 王琦如是说。

“只要它是一个智能产品,我们就可以黑掉它的心脏、它的大脑,干扰它的行为。当然,我更希望的是黑掉它的感知、黑掉它的意识。”人工智能应用系统是一个整体,任何环节都可能出现漏洞,导致安全问题。”极棒实验室研究总结出影响AI安全的三大方面,分别为系统层安全漏洞、AI框架或库的漏洞以及AI算法的缺陷。系统层安全漏洞即传统安全漏洞,通过操作系统或者应用层漏洞导致AI应用产生错误判断;AI框架、库的漏洞也不鲜见,各大主要流行框架、库都曾曝出重大漏洞;AI算法的漏洞则体现在通过构建对抗算法打败AI的手段,其中最为著名的包括生成式对抗网络。

王琦用一个GeekPwn 2017 硅谷站上研究人员演示的无人驾驶的例子向我们阐释了生成式对抗网络问题——通过用一个不起眼的标记就可以欺骗汽车的视觉系统,造成严重后果。“人工智能还是有缺陷的,例如Face ID,用 3D 打印面具也不是不可攻破的。大家发展新技术的同时,别忘了产品还要运行在系统上,传统黑客一定会入侵,如果不注意的话,更何况新技术也会面临新问题。”在王琦看来,手机、电脑系统能够被黑客攻破,无人驾驶汽车当然也不能幸免。

中西黑客同台,用技术获得世人的理解与尊重

所谓“黑客”,简单理解是一群通过发现漏洞来帮助厂商修复问题,从而避免发生大规模的召回等产品问题的群体。王琦在会上针对中国黑客的发展历程表示,过去我们都是“拿来主义”。但中国人很聪明,能够把技术研究得很深入。发展到现在,中国黑客已经将研究重心由技术能力的提高转移到创造力的提高,因为白帽子们承担的任务就是在坏人之前发现问题。如果我们不做这件事情,坏人就有可能做这件事情。安全问题不是因为黑客才存在的,恰恰是因为有黑客才消灭的。

安全问题如泉涌般接踵而至,亟待解决。而GeekPwn办这个比赛的初衷就是希望研究安全的人多起来,这样的人多起来,安全行业就会好起来,我们身边产品漏洞就会越来越少,生活也就会安全起来。GeekPwn作为全球最大关注智能生活的安全极客大赛,也是全球首个探索人工智能与专业安全的前沿平台,已经分别在中国上海、香港与美国硅谷举办比赛。今年的GeekPwn2018,将突破以往的赛制设置,分为拉斯维加斯站与上海站。大赛规则也全新升级,分别设置了不同挑战场景的命题专项赛与非命题专项赛,覆盖机器学习、机械、安全等多个领域,同时设立了500万人民币的初始奖金池,力邀广大极客选手发挥各自的专业背景与实战能力,挑战自我,突破安全边界。


相关文章

{{news.title}}

{{news.author}} {{news.timeFormat}}

正在加载......