题  目： 高效神经架构搜索技术：探索、应用及展望

报告人： 温世平

单  位： 悉尼科技大学

时  间：2021年1月4日上午9：00

腾讯ID：349-331-519

摘要：目前深度神经网络的人工设计在架构和结构超参调节方面需要耗费巨大的工作量，并且针对特定任务的表现优异的模型结构设计很大程度上依赖于专家的经验和灵感。近年来，神经结构搜索(neural architecture search, NAS)已经成为一种有效的自动机器学习方法，通过自动搜索针对特定任务的优秀架构，将专家从繁琐的工作中解放出来。然而，目前的神经结构搜索方法大多聚焦于图像分类等基础任务，我们在人像/人脸解析(Portrait/Face Parsing)和表情识别(Facial Expression Recognition)领域，利用NAS技术做了新的尝试。所提出的NAS方法综合考虑了模型运行效率指标(Parameters，FLOPs,  Latency)和搜索效率，且兼顾了模型效率和精度表现之间的平衡，最终获得了一系列高效、紧凑的Pareto-optimal神经网络架构，显著超越了当前人工设计的SOTA网络。资源受限情况下的神经网络架构搜索将更加易于获得面向边缘计算设备和终端嵌入式设备部署场景的网络结构，从而利于智能应用的落地，推动边缘计算领域的发展。未来，我们将依托NAS技术，在面向基于忆阻器的神经形态计算的网络架构设计领域做进一步的探索。

个人简介: 温世平，悉尼科技大学信息工程学院、澳大利亚人工智能研究所教授。于2013年在华中科技大学获工学博士学位。主要研究方向包括神经网络、忆阻系统、深度学习、智能控制等。先后发表SCI收录论文150余篇，包括IEEE Transactions论文60余篇；Google Scholar引用5000余次；于2015年获中国人工智能学会优秀博士学位论文奖，2017年获亚太神经网络联合会青年杰出研究奖，2018年、2020年入选科睿唯安全球高被引学者（Clarivate Analytics Highly Cited Researchers），2019年入选四川省特聘专家。先后主持悉尼科技大学种子基金，华为公司，深圳市科创委，航天科工集团等单位科研项目，参与科研基金及企业横向项目多项。担任SCI期刊Knowledge-Based Systems，Neural Processing Letters，IEEE Access等副编。同时担任多个SCI期刊的客座主编，如IEEE Transactions on Network Science and Engineering (IF: 5.232), Sustainable Cities and Society (IF: 7.586), Environmental Research Letters (IF: 6.096)等。兼任北京印迹科技有限责任公司、中船重工特种设备有限公司等多家企业首席科学家。