直播 | 清华大学李一鸣:后门攻击简介

「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。

本期 AI Drive,我们邀请到清华大学博士生李一鸣,为大家带来后门攻击简介的专题直播。对本期主题感兴趣的小伙伴,1 月 20 日(周三)晚 7 点,我们准时相约 PaperWeekly B 站直播间。

直播信息

后门攻击是一种新兴的针对深度学习模型的攻击方式,攻击者在模型的训练过程中通过某种方式对模型植入一些后门。当后门未被激发时,被攻击的模型具有和正常模型类似的表现;而当模型中埋藏的后门被攻击者激活时,模型的输出变为攻击者预先指定的标签以达到恶意的目的。后门攻击可以发生在训练过程非完全受控的很多场景中,例如使用第三方数据集、使用第三方平台进行训练、直接调用第三方模型等,因此对模型的安全性造成了巨大威胁。

在本次分享中,我们将介绍后门攻击的基础知识和一些经典方法,并介绍我们在这个领域的一些探索。

本次分享的具体内容有: 

  • 后门攻击的基础知识

  • 后门攻击的三种经典范式

  • 我们在后门攻击的三个探

  • 展望

嘉宾介绍

 李一鸣 清华大学博士生 

李一鸣,清华大学数据科学和信息技术专业三年级博士生。其研究兴趣为安全性机器学习,主要包括后门学习、对抗学习和数据隐私保护。

直播地址 & 交流群

本次直播将在 PaperWeekly B 站直播间进行,扫描下方海报二维码点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道

B 站直播间:

https://live.bilibili.com/14884511

合作伙伴

????

现在,在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

关于PaperWeekly

PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章