感知交互强调与其他领域的技术协同,包括追踪定位、沉浸声场、手势追踪、眼球追踪、三维重建、机器视觉、肌电传感、语音识别、气味模拟、虚拟移动、触觉反馈、脑机接口等。面向服务机器人,基于对环境进行高精度3D重建,做到语义以及自然理解,使用相机及传感器等设备或虚拟信号搭建自然人/虚拟人的手势,动作表情,以及语音等采集装置,以捕捉自然人的输入信号,采用输入信号驱动及操控重建的高质量的数字人和仿生机器人(如图4)。
图4 机器人与环境交互
主要研究内容:研究场景重建,场景理解,自然人手势识别、姿态估计、动作理解、表情分析和语音识别技术,基于多感知设备的图像、视频、音频等多模态信号实现人类交互意图智能化分析。将研究工业生产下多模态协调的数字孪生和远程操控技术,建立“自然人-机器人”、“数字人-机器人”交互中的驱动信号与本体硬件映射及逆映射控制技术与模型系统。