快讯
探歌的兄弟车型,9月上市!网友:留给自主品牌的时间不多了
48分钟前
IG战队也太“凶残”了吧!打完春决之后,以全员主力直接出战NEST
1小时前
新车太多有选择恐惧症这几款车谁买都说值
1小时前
LPL决战在即,IG与JDG互飙“垃圾话”!Duke一句台词逗笑所有网友
2小时前
419政治局会议信息量巨大:解读七大关键点股市房市方向清晰!
2小时前
下周热点已定
4小时前
韩系车今年要火!新SUV+电动车全都有,但都不如这款轿车劲爆
4小时前
上市公司业绩精选:海康威视2018年净利同比增两成拟10派6元
4小时前
辣评!上海车展这些亮相新车值不值得买?
4小时前
零跑汽车活动使用假临牌车辆被扣媒体被罚
4小时前
方正证券一季度净利5.88亿元同比增86%
4小时前
上海凤凰:对ofo运营方应收账款提坏账准备4703万元
4小时前
上海银行2018年净利同比增18%拟10转3派4.5元
4小时前
八菱科技拟6600万元增资麻王生物子公司布局工业大麻领域
4小时前
3万亿大消息!招行、光大理财子公司获批更多股份行在路上
4小时前
辰逸凛:黄金一泻千里,下行目标可看到哪?下周黄金走势深度解析
5小时前
童健杰:周线中阴失守1280节点,周线上偏向走弱概率大
5小时前
财报泛滥可能会制造或破坏市场情绪
5小时前
上海凤凰:2018年资产减值损失4107万元
5小时前
中天能源大幅下修业绩遭上交所问询:是否存在财务大洗澡的行为
5小时前
中美数据双双利好人民币涨势昙花一现
5小时前
联合、赋能,饿了么口碑赋能医疗服务实现数字化改造
5小时前

TechCrunch峰会王琦:人“攻”智能,黑客助力新技术的健康发展

推荐 2018-07-06 18:23:03

在2018年TechCrunch国际创新峰会2018<杭州站>上,KEEN公司CEO、 GeekPwn大赛发起和创办人王琦(大牛蛙)与Technote创始人卢刚在活动现场围绕“黑客与安全”展开了一场对话。王琦表示,黑客是一群“负责任披露”的独行艺术家,中西方应该加强交流,在技术与经验方面做到互通有无,而未来人工智能的发展高度几乎与黑客技术的高度呈正相关,也正是有了黑客,才有了解决问题甚至消灭问题的资本。黑客从来都不是坏人,恰恰相反,他们是一群“默默保护全人类”的白帽侠客;是一群“负责任披露”的独行艺术家。

(KEEN公司CEO、GeekPwn大赛发起和创办人、王琦)

黑客助力人工智能健康发展

随着人工智能与区块链技术的发展,AI安全与区块链安全逐渐成为当下各大厂商与消费者最为看中的一点。“人工智能也是一项技术,需要设计、部署,还有自身的一套算法。人工智能安全分成三层,如果用传统方法来黑的话比较容易。在我们比赛上面用到比较知名的人脸识别,差不多都黑过了,都证明它有问题,但不代表它很不安全。”

说起与人工智能和区块链相关的安全及风险问题,王琦首先表示这两个方面都是未来的趋势,“人工智能现在技术还处于起步阶段,但场景很多。区块链技术相当成熟,只是没有应用起来,因为场景很少。对于安全与否,取决于有没有被贼盯上,我们值不值得被偷。” 王琦如是说。

“只要它是一个智能产品,我们就可以黑掉它的心脏、它的大脑,干扰它的行为。当然,我更希望的是黑掉它的感知、黑掉它的意识。”人工智能应用系统是一个整体,任何环节都可能出现漏洞,导致安全问题。”极棒实验室研究总结出影响AI安全的三大方面,分别为系统层安全漏洞、AI框架或库的漏洞以及AI算法的缺陷。系统层安全漏洞即传统安全漏洞,通过操作系统或者应用层漏洞导致AI应用产生错误判断;AI框架、库的漏洞也不鲜见,各大主要流行框架、库都曾曝出重大漏洞;AI算法的漏洞则体现在通过构建对抗算法打败AI的手段,其中最为著名的包括生成式对抗网络。

王琦用一个GeekPwn 2017 硅谷站上研究人员演示的无人驾驶的例子向我们阐释了生成式对抗网络问题——通过用一个不起眼的标记就可以欺骗汽车的视觉系统,造成严重后果。“人工智能还是有缺陷的,例如Face ID,用 3D 打印面具也不是不可攻破的。大家发展新技术的同时,别忘了产品还要运行在系统上,传统黑客一定会入侵,如果不注意的话,更何况新技术也会面临新问题。”在王琦看来,手机、电脑系统能够被黑客攻破,无人驾驶汽车当然也不能幸免。

中西黑客同台,用技术获得世人的理解与尊重

所谓“黑客”,简单理解是一群通过发现漏洞来帮助厂商修复问题,从而避免发生大规模的召回等产品问题的群体。王琦在会上针对中国黑客的发展历程表示,过去我们都是“拿来主义”。但中国人很聪明,能够把技术研究得很深入。发展到现在,中国黑客已经将研究重心由技术能力的提高转移到创造力的提高,因为白帽子们承担的任务就是在坏人之前发现问题。如果我们不做这件事情,坏人就有可能做这件事情。安全问题不是因为黑客才存在的,恰恰是因为有黑客才消灭的。

安全问题如泉涌般接踵而至,亟待解决。而GeekPwn办这个比赛的初衷就是希望研究安全的人多起来,这样的人多起来,安全行业就会好起来,我们身边产品漏洞就会越来越少,生活也就会安全起来。GeekPwn作为全球最大关注智能生活的安全极客大赛,也是全球首个探索人工智能与专业安全的前沿平台,已经分别在中国上海、香港与美国硅谷举办比赛。今年的GeekPwn2018,将突破以往的赛制设置,分为拉斯维加斯站与上海站。大赛规则也全新升级,分别设置了不同挑战场景的命题专项赛与非命题专项赛,覆盖机器学习、机械、安全等多个领域,同时设立了500万人民币的初始奖金池,力邀广大极客选手发挥各自的专业背景与实战能力,挑战自我,突破安全边界。


相关文章

{{news.title}}

{{news.author}} {{news.timeFormat}}

正在加载......