【主题】人工智能和视觉安全

2023年2月25-26日

人工智能存在着安全问题的伴生效应与安全领域的赋能效应。从伴生效应的视角来看，人工智能存在着内生安全问题。例如，人工智能算法大量依赖统计结果，尤其是神经网络等智能学习系统，通过调整隐藏层内部的连接权值来记录系统通过统计学习后获得的特征信息。但这些权值意味着什么几乎是无法解释的，所以人们对之只能使用，无法预判。在这种情况下，系统对哪些权值进行了怎样的修改、修改后会导致系统的判断结果将怎样跳出人们的预期都是不可知的，而且什么样的学习过程会导致这种修改也是不可知的，这就为目前普遍流形的被称为“对抗样本攻击”归为人工智能伴生的内生安全问题。因此，举办该班，旨在让人注意到人工智能安全问题及相应技术的演进。

   组织单位

主办：中国图象图形学学会

承办：东南大学、CSIG机器视觉专委会

学术主任

桂杰博士，东南大学青年首席教授、博士生导师，国家青年高层次人才（国家级四青人才），目前主要从事模式识别、机器学习、图像处理、计算机视觉及人工智能安全等方面的研究，是CCF杰出会员、IEEE高级会员、 ACM高级会员、中国人工智能学会高级会员和中国图象图形学学会高级会员。荣获2021年度江苏省计算机学会“青年科技奖”， 2022年度江苏省网络空间安全学会“青年科技奖”， 2022年度江苏省计算机学会“优秀科技工作者”。担任JCR一区期刊IEEE Transactions on Circuits and Systems for Video Technology (T-CSVT), Artificial Intelligence Review, Neural Networks和Neurocomputing的编委(Associate editor, AE)，是多个国际SCI期刊TPAMI,TNNLS, TCYB, TIP, TIFS等的审稿人。近年来，在国际学术期刊和会议上发表学术论文六十多篇，有多篇SCI高被引论文。个人主页: https://guijiejie.github.io/index.html。

日程安排

特邀讲者

嘉宾简介：

    操晓春，中山大学网络空间安全学院院长，国家杰出青年青年科学基金获得者，主要从事计算机视觉基础研究和网络空间内容安全应用研究。担任IEEE汇刊 TIP/TMM/电子学报的编委，NeurIPS/ICCV/CVPR/IJCAI/AAAI/ICPR的Area Chairs。获2019年中共中央办公厅技术进步一等奖（排名第1）。中国计算机学会优博、中国电子学会优博、中国科学院大学优博指导导师。

报告题目：“病态的”计算机视觉算法

报告简介：

    大部分计算机视觉算法的输入为连续或者稠密的图像数据，输出为人类可以理解的类别、位置、深度等离散或者稀疏语义空间。由于定义域和值域集合的基数不一致，这些计算机视觉算法不满足well-posed问题的第三个条件，是经典的ill-posed问题。纯数据驱动的计算机视觉算法是否既能具有对烟雨雾霾等复杂扰动的鲁棒性？又能避免的dedicated对抗扰动?是否存在裨益计算机视觉任务的正向扰动？我们团队正在探索的这些问题的答案，本报告将简述部分进展。

嘉宾简介：

         胡卫明，中国科学院自动化研究所模式识别国家重点实验室研究员、博士生导师、视频内容安全研究团队负责人、人民中科智能技术有限公司创始人和首席科学家，国家杰出青年科学基金获得者、中组部万人计划科技创新领军人才入选者、科技部中青年科技创新领军人才入选者、人社部百千万人才工程国家级人选、国家有突出贡献中青年专家、享受国务院政府特殊津贴、国家863重点专项项目首席专家，IEEE Trans. on Cybernetics的Associate Editor。目前研究方向为网络多媒体敏感内容识别等，主持了国家自然科学基金重点项目、国家863重点专项项目、目标导向类课题等四十余项科研项目。已在PAMI、IJCV等国际刊物、国内一级刊物以及ICCV、ECCV、CVPR等重要国际学术会议上发表论文300余篇，获授权发明专利50余项。带领团队完成的敏感多媒体识别等技术实际应用于五十余家企事业单位，已在实战发挥作用，取得了显著的经济效益和社会效益。以第一完成人获国家自然科学二等奖、北京市科学技术(技术发明类)一等奖、北京市发明专利一等奖和吴文俊人工智能科学技术一等奖。

报告题目：神经科学启发的视觉时空信息感知与理解

报告简介：

    分析神经科学与计算机视觉之间的关系。从以几方面总结神经科学对计算机视觉的启发点：A) 基本视觉皮层的特征；B) 初级视皮层的原理扩展到高级区域；C) 顺向、逆向、侧向联接；D) 视觉神经分层认知机制；E) 视觉神经系统的选择性注意机制；F) 动态信息的选择性记忆机制。介绍本团队在基于神经中枢调控的蒸馏学习与神经元裁剪模式统一的模型压缩与物体分类、基于深度时空自组织神经网络的运动检测、基于编解码孪生神经网络的目标跟踪、物体大小注意力的目标跟踪、类脑持续学习启发的跟踪在线学习更新、基于时空金字塔注意力神经网络的行为理解和长短时记忆序列卷积神经网络的行为语义描述等方面的研究工作。介绍本团队在手机特定视频检测装备、网络直播智能审核系统和网络内容智能审核系统等实际应用方面的工作。

嘉宾简介：

    吴小俊，国际模式识别协会会士（IAPR Fellow）、亚太人工智能协会会士（AAIA Fellow）、江南大学二级教授、至善教授、江苏省人工智能国际合作联合实验室主任、江苏省模式识别与计算智能工程实验室主任、2006年教育部新世纪优秀人才、江苏省333工程第一层次人才。从事模式识别与人工智能的研究，在国内外表学术论文400余篇，其中SCI论文130余篇、EI论文100余篇，出版学术著作5本。研究成果获得国内外学术奖励多项，其中包括AMDO、PRCV国际会议最佳论文奖、IETE Gowri Memorial Award 、教育部科技进步一等奖、合作者Josef Kittler院士获2015江苏省国际科技合作奖和2016中国政府友谊奖；曾在英国、法国和港澳台地区留学和学术访问，在人工智能领域的国际合作工作得到中英两国领导的高度评价。曾担任多个国际和国内学术会议主席、程序主席和大会报告人。现任IEEE智慧城市指导委员会委员、多本国际期刊主编或编委、教育部计算机类教学指导委员会委员、中国图象图形学学会理事和江苏省人工智能学会副理事长等职。

报告题目：面向智慧城市安全的视频行为分析

报告简介：

    智慧城市是全球的热点，智慧城市中产生大量的视觉数据，如何充分地利用这些视觉数据对智慧城市至关重要。本报告主要介绍智慧城市中的视频行为分析方法。首先对智慧城市和深度学习进行简单回顾；然后给出智慧城市中的视频行为分析与识别的深度学习方法，并介绍这些方法在智慧城市安全方面的应用。

 嘉宾简介：

    姜育刚，复旦大学教授、博士生导师，教育部长江学者特聘教授。研究领域为多媒体信息处理、计算机视觉、鲁棒可信人工智能。国家科技创新2030“新一代人工智能”重大项目负责人。上海市智能视觉计算协同创新中心主任。发表的两百余篇论文被引用19000余次，H因子为66，构建的开源数据和工具集如VIREO374、CCV、VCDB、THUMOS、FCVID被国内外学者及企业频繁使用。

报告题目：视频内容分析：现状与六大趋势

报告简介：

    视频内容分析是人工智能领域长期关注的重要研究问题，近年来取得了巨大的突破，引起了学术界和工业界的广泛关注。本报告回顾视频内容分析技术发展路线与现状，并在Transformer模型为计算机视觉领域带来诸多新机遇的背景下，展望未来视频内容分析的六大发展趋势：（1）训练数据从单一到多元；（2）网络架构从分散到统一；（3）监督信号从人标到自学；（4）知识融入从外部到联合；（5）部署推理从普适到专用；（6）可信学习从探索到应用。

嘉宾简介：

    孙哲南，中国科学院自动化研究所研究员和博士生导师、中国科学院大学人工智能学院岗位教授、天津中科智能识别产业技术研究院院长、国际模式识别学会IAPR Fellow和IAPR生物特征识别技术委员会主席、中国人工智能学会模式识别专委会副主任、中国图象图形学学会机器视觉专委会副主任、中国生物识别产业技术创新战略联盟秘书长，国际期刊IEEE Transactions on Biometrics, Behavior, and Identity Science编委，主要研究方向人工智能、生物特征识别、模式识别、计算机视觉，主持国家级科研项目10余项，发表国际期刊和会议论文300多篇，获得超过14000次Google学术引用和2000次SCI他引，H因子62，授权发明专利60项，虹膜识别和人脸识别技术孵化了三家高科技企业并在军事、公安、煤矿、手机、银行等领域推广应用，科研成果获得国家技术发明二等奖、中国专利优秀奖、中国图象图形学学会自然科学一等奖、北京市科技进步二等奖，入选国家万人计划科技创新领军人才。

报告题目：人脸生物特征的生成、识别与安全问题

报告简介：

    从手机解锁、小区门禁到餐厅吃饭、超市收银，再到高铁进站、机场安检以及医院看病，人脸特征已成为人们进入万物互联世界的数字身份证。人脸识别学科从上世纪60年代以来在信息获取、计算方法、识别理论、技术应用等方面取得累累硕果，但是现有的人脸生物特征识别理论和方法体系在复杂现实场景中仍然存在瓶颈问题，即人脸生物特征受到内在生理变化（如眨眼、斜视、姿态、表情、运动等）和外界环境变化时“不可知”，受到假体攻击、对抗攻击、深度伪造攻击时生物特征和识别结果“不可信”，面向身份认证、人机交互和社交娱乐需求的人脸图像编辑和生成“不可用”。本报告主要介绍人脸生物特征在生成、识别和安全等方面面临的挑战问题和研究进展，包括人脸图像的姿态、年龄、表情、妆容等属性编辑，从任意文本到人脸图像的生成，高效率高精度的人脸特征表达模型，人脸识别面临的假体攻击、深度伪造攻击、对抗攻击以及可能的安全防御方案。

嘉宾简介：

         彭艳，国家杰出青年科学基金获得者，上海大学无人艇工程研究院院长、上海大学人工智能研究院执行院长、上海市海洋人工智能协同创新中心主任，研究方向为海洋无人艇、振动能量收集技术与部组件，曾获全国三八红旗手、国家万人计划青年拔尖人才等荣誉称号，任中国妇女第十二次代表大会代表；团队获得首届黄大年式教师团队、上海市工人先锋号等。带领团队研制了“精海”15个系列无人艇， “精海”系列无人艇作为我国第一艘在南海、第一艘在南极、第一艘在东海作业的无人艇，为我国极地战略及应急探测等做出了突出的贡献。发表论文180余篇、授权国家发明专利200余项。获国家科技进步二等奖1项、国家技术发明二等奖1项、教育部科学技术进步一等奖1项、上海市科技进步一等研究成果奖2项等十余科研奖项。

报告题目： “海洋”智能无人艇

报告简介：

    海洋无人艇作为空天海潜无人系统重要跨域节点，在海洋探测中发挥重要的作用海洋。无人艇在复杂海洋环境中发挥效能面临如下挑战：浪流涌干扰大，航迹难走准；海杂波影响大，弱小目标难探测，难识别；动态复杂场景理解难，场景语义难感知，行为决策难；复杂海洋环境下布放回收难。本报告针对智能无人艇发挥效能亟需解决的智能感知体系，立足于智能化顶层设计、技术应用基础支撑以及工程实现等三个层面展开。

嘉宾简介：

    吴飞，浙江大学求是特聘教授，浙江大学人工智能研究所所长、浙江大学上海高等研究院常务副院长。负责两项国家自然科学基金重点项目（含F0701重点项目），现任科技部科技创新2030“新一代人工智能”重大科技项目指南编制专家、中国人工智能学会教育工作委员会主任委员，曾任教育部人工智能科技创新专家组工作组组长（2018.8-2020.12）。著有《人工智能导论：模型与算法》、《走进人工智能》等（高等教育出版社）。报告题目：端云协同下分布式模型学习与进化

报告题目：端云协同下分布式模型学习与进化

报告简介：基于深度学习和迁移学习等技术，以“涌现”和“同质化”为特点的大模型或基石模型取得了突出成效。在 “泛在互联、端云协同、AI赋能”时代背景下，将云侧泛化能力与端侧个性化能力结合起来，形成端云协同机器学习计算范式，体现“须弥纳于芥子”的哲学思想，是人工智能成为普惠化能力要解决的关键问题。本报告介绍人工智能历史沿革和端云协同分布式机器学习研究等内容，以不断提升云端协同模式下认知推理能力。

嘉宾简介：

    山世光，中科院计算所研究员、博导，IEEE Fellow，中国科学院大学岗位教授，中科院智能信息处理重点实验室常务副主任。研究领域为计算机视觉、模式识别、机器学习，在国内外刊物和学术会议上发表论文300余篇，其中CCF A类论文130余篇，论文被国内外同行引用3万余次。现/曾任IEEE TIP, CVIU, PRL, Neurocomputing, FCS等国际学术刊物的编委(AE)，曾任CVPR，ICCV，AAAI和IJCAI等二十余次国际学术会议的Area Chair。研究成果获2015年度国家自然科学二等奖，2005年度国家科技进步二等奖。他是国家基金委优青，国家WR计划领军人才，国务院特殊津贴专家，CCF青年科学家奖获得者，腾讯科学探索奖获得者。

报告题目：人脸伪造与鉴伪研究

报告简介：本报告将介绍物理世界和数字空间中的伪造攻击和伪造鉴别手段，具体的说，包括常用的物理世界人脸识别系统攻击手段（Presentation Attack）以及相应的防攻击方法（Presentation Attack Detection或Face Anti-Spoofing），也包括常用的人脸/人物图像和视频伪造方法，如换脸、人脸编辑、人脸重现、人体重现等，以及相应的伪造视频鉴别方法、关键技术及其相关的伪造视频数据库。之后报告将介绍本人课题组在相关领域的主要进展，特别是针对未知伪造和攻击的检测/鉴别方法。最后将介绍相关领域的主要开放问题和未来发展趋势。

报名及注册费

1.本期讲习班限报300人，根据缴费先后顺序录取，报满为止。

2. 2023年2月24日（含）前注册并缴费：CSIG会员1000元/人，非会员1500元/人（赠送1年CSIG会员）；现场缴费：会员、非会员均为3000元/人；CSIG团体会员参加，按CSIG会员标准缴费；同一单位组团（5人及以上）报名，均按CSIG会员标准缴费。

3.会议注册网址：https://conf.csig.org.cn/10341.html

扫码报名

4. 参会链接将于2月24日前发至您的手机和邮箱，报名时请预留不会拦截外部邮件的邮箱，并请留意垃圾邮件和被拦截的短信。

5.培训证书将于会后统一发放。

联系方式

  联 系 人：黄老师

 联系电话：010-82544754

 邮    箱：igal@csig.org.cn

  中国图象图形学学会

2023年2月10日