深圳大学王熙照教授应邀来我院开展学术讲座

2021年4月26日下午，深圳大学王熙照教授应邀为华南师范大学软件学院师生开展学术讲座，讲座主题为《对抗机器学习中的不确定性建模与分析》。讲座由院长曾碧卿教授主持，我校物理与电信工程学院薛云老师、佛山科学技术学院电子信息工程学院何志敏老师、学院梁军老师、吴干华老师、冼广铭老师、邱双惠老师以及部分研究生、本科生参加讲座。

讲座中，王熙照教授指出，不确定性建模与分析是一个古老的话题，随着机器学习技术的快速发展，近年来大量研究开始聚焦于如何解决机器学习中的不确定性问题，由此不确定性建模与分析成为机器学习领域内一个重要的研究主题。

首先，王教授讲解了什么是对抗机器学习中的不确定性：受益于机器学习技术的快速发展，人工智能迈入了新的时代，例如，现在的模式识别技术包括文本、语音、物品识别到现在的现代网络安全任务，都借助于机器学习技术的发展而得到了长足的进步。但是，这些技术很容易被对抗样本所迷惑，所谓对抗样本，就是指一些为这些识别任务精心打造的故意混淆和误导检测任务的样本。比如说，一个图片识别任务，对抗样本可以按照像素级别来扰动这个图片，这样一来，人眼虽然看不出问题，但是，机器学习模型却会识别失败，这便是对抗机器学习中的不确定性之一。在无人驾驶等安全性要求很高的领域中，完全依赖机器学习模型进行决策，这有可能导致灾难性的后果，例如，无人驾驶车辆对路标识别错误进而导致产生车祸，因此，对机器学习中的不确定性因素进行研究是具备较高的实用价值。

随后，王教授讲解了如何对于对抗机器学习中的这些不确定性因素进行建模与分析，例如，在设计一个机器学习模型时，人们如何使这个模型具备更高的鲁棒性，如何使其能够有效抵御敌方的攻击，典型的方法就是尽可能寻找更多的对抗样本，将这些对抗样本用于自身模型的训练，使自己的模型具备甄别这些对抗样本的能力，那么如何寻找对抗样本就成为当前对抗机器学习领域的一个十分重要的研究课题。寻找新的对抗样本的方法多种多样，例如，从一个已知的对抗样本进行转换，或者构建一个特定模型用于生成对抗样本。

讲座最后，王熙照教授与现场的老师、研究生同学就对抗学习以及不确定性用于各个方向领域进行了亲切的交流问答。通过讲座，同学们了解到了对抗机器学习方面的前沿技术，大大开拓了自身的视野。

讲座结束后，王熙照教授在学院领导和老师们的陪同下，参观了我院“自然语言处理与智能软件技术实验室”，了解我们学院研究生的学习与研究生活，并进行了实时指导，之后，他还与我院部分教师进行了座谈交流。

撰稿：赖坚、邱双惠

审稿：曾碧卿

附：王熙照教授个人简介

王熙照，博士，深圳大学二级教授，IEEE Fellow，CAAI Fellow，IEEE-SMC计算智能专委会主席，Springer杂志Machine Learning and Cybernetics主编。中国人工智能学会(CAAI)常务理事、CAAI知识工程专委会主任委员。深圳市海外高层次人才，曾获省部级自然科学一等奖和吴文俊人工智能自然科学一等奖。主要研究兴趣包括不确定性建模和面向大数据的机器学习，在该领域发表学术论文多篇；著有《基于不确定性的决策树归纳》和《Learning with Uncertainty》等著作；主持完成国家自然科学基金等项目多项；累计完成指导博士/硕士学位研究生200多名；曾担任多个国际/国内学术会议的大会或程序主席。