Talk预告 | 几何的魅力: 黑盒攻击新策略

本期为TechBeat人工智能社区第468期线上Talk ！

北京时间1月4日(周三)20:00，清华大学软件工程专业博士——马晨的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是:“几何的魅力：黑盒攻击新策略”， 届时 将介绍如何巧妙借助几何方法优化基于决策的黑盒攻击。

Talk·信息

主题：几何的魅力：黑盒攻击新策略

嘉宾：清华大学软件工程专业博士 马晨

时间：北京时间1月4日 (周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

Talk·介绍

尽管深度学习系统被广泛应用到人脸识别、目标检测、自动驾驶等领域中，但是无论是基于卷积神经网络还是基于Transformer的分类系统都存在严重的缺陷：一个小小的基于像素的对抗扰动就可以使其分类判断错误，从而引发更严重的后果！基于决策的攻击（又称硬标签攻击或hard-label攻击）是一种无需分类器的分类概率，仅用分类器输出的分类标签就可以对图像分类器进行攻击的方法，是最具安全威胁的对抗攻击类型之一。

本Talk介绍NeurIPS大会上发表的一篇论文，如何利用几何方法优化hard-label attack这种攻击！以往的硬标签攻击使用的对抗样本搜索方向往往是启发性的方向，例如HopSkipJumpAttack（HSJA）和QEBA中的近似梯度方向，Boundary Attack所使用的方向，但是从几何角度讲，如果在决策边界的对抗样本周围构造一个虚拟的半球体，就可以通过几何手段直接找到最优更新点：最优切点！利用这种方式就可以构造最优的对抗样本搜索方向，从而利用几何方法进一步优化硬标签攻击的对抗样本失真度和查询复杂度。

该论文在ImageNet和CIFAR-10数据集上做了广泛的实验，验证了其有效性，其成果已发表在NeurIPS 2021大会上。

Talk大纲如下：

1. 黑盒对抗攻击简介；

2. 基于决策的黑盒对抗攻击的研究现状；

3. Tangent Attack攻击方法介绍；

4. 总结

Talk·预习资料

https://arxiv.org/abs/2111.07492

https://github.com/machanic/TangentAttack

Talk·提问交流

在Talk界面下的【交流区】参与互动！留下你的打call和问题，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

马晨

清华大学软件工程专业博士

马晨，清华大学软件工程专业博士。主要研究方向为深度神经网络的黑盒对抗攻击（对抗样本）与防御，专注于研究如何构造针对深度神经网络的黑盒攻击，如何检测并防御新型对抗攻击，最终致力于构建更鲁棒、更安全的深度学习系统。其研究成果发表在CVPR、NeurIPS、ACM MM、Neurocomputing等国际顶级会议和期刊上。马晨博士早年著有《LDA漫游指南》一书，详细讲解了LDA主题模型的方方面面，指引了很多人入门主题模型。

个人主页：https://github.com/machanic

-The End-

如果你也想成为讲者

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流

多种方式任你选择！

推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>

⤵一键送你进入Talk页面