基于Kinect的人机交互系统设计毕业设计论文Word文档格式.docx

1、使用者可以选择被控制的对象程序。为了防止他人干扰操作，本程序默认只追踪离Kinect传感器最近的人。 本设计的程序可以让使用者通过手臂动作操作俄罗斯方块、播放PPT、控制音乐播放器、控制视频播放器。未来还可以扩展其他基于键盘控制的程序的操作。关键词：Kinect 人机交互 骨骼跟踪The Design of Man-machine Interaction System Based on KinectABSTRACTAs technology continues to progress, human-machine interaction is more and more advanced, a

2、nd body movements to operate computers and game consoles has become a reality.This paper will introduce a program of Kinect-based human- machine interaction design. Since Microsoft launched Kinect somatosensory peripheral,natural human-computer interaction has become a research hotspot. People can l

3、ift their shackles of traditional interact such as keyboard, mouse, and others through the Kinect peripheral, and this will be a important significance.This design achieve the purpose of operating applications through Kinects skeleton tracking interface, such as stretch your arms, reach your arms,an

4、d uplift your arms.custom actions and an triggered event which is mapped to keyboard event. The user can select the object of control program.In order to prevent the interference of other people, this design procedures only tracks the people who is nearest to the Kinect sensor.The program of this de

5、sign allows the user to operate Tetris, Powerpoint,music and video player.It can be extended to other keyboard-based control programs operating in the future.Key Words: Kinect Human- machine interaction Skeleton tracking 第一章 引言1.1 选题理由人机交互技术是指通过计算机输入、输出设备，以有效的方式实现人与计算机对话的技术。它是计算机用户界面设计中的重要内容之一。它与认知学

6、、人机工程学、心理学等学科领域有密切的联系。通过键盘鼠标等外设控制电脑需要操作者近距离的操作，而且无法解放双手，通过自由的方式操控。本设计通过微软开发的Kinect体感传感器，令使用者摆脱键鼠的束缚，通过肢体语言让电脑理解你的操作意图，给使用者以更佳操控体验。1.2 自然人机交互技术的发展2008年，比尔盖茨提出“自然用户界面”的概念，并预言人机交互在未来几年内会有很大的改观，键盘和鼠标将会逐步被更为自然的触控式、视觉型以及语音控制界面所替代。与此同时，另外一种提法“有机用户界面”也开始悄然兴起，其包括生物识别传感器、皮肤显示器，乃至大脑与计算机的直接对接，这些技术无疑都将给人类的生活带来重大

7、影响。随着计算机技术和传感器技术的普遍应用，现实世界也逐步出现其“数字版”的一面，而自然人机交互技术正是现实世界与虚拟世界之间的桥梁。1.3 国内外发展情况Kinect被吉尼斯世界纪录组织称为史上销售最快的电子产品1。除了体感设备比较普及的游戏领域外，Kinect的应用性和实验性正在快速发展。欧洲时装店Topshop在莫斯科的旗舰店安装了一种全新的试衣间，这种虚拟试衣间利用了当时最先进的两种技术增强现实和Kinect体感，你无须试穿就能见到真实的试衣效果2。近日，Kinect for Windows平台为疾病患者打造了一个可以识别面部表情或手势的设备，来帮助很多中风患者缓解失语等困扰。英国的N

8、ottingham Trent大学正在着手通过Kinect for Windows技术帮助中风患者缓解面瘫带来的影响，目前整个项目已经获得347000英镑的资金支持3。还有淡江大学电机工程学系开发的基于Kinect之实时双向人流计数系统4，台湾大学生医电子与资讯学研究所开发的应用Kinect感应器分析手指活动擷取系统5。1.4 你就是控制器很多年来，不用控制器的沉浸式游戏一直都是游戏设计师和开发人员心目中的至高境界。在Kinect出现之前，任天堂的Wii是体感技术的代表，同期的产品还有Sony的PS3，但它们都需要额外的控制器。然而，Kinect向世人公布：你就是控制器（You are the

9、 controller）。站在Kinect前，它立刻就能知道你是谁。不就如此，它还能将你和朋友区分开来。当你移动时，传感器能在瞬间追踪到你。凭借无控制器的娱乐体验，Xbox360和Kinect正以无法想象的方式改变着人们的家庭生活6。1.5 Kinect的应用（1）通过对最新的科技产品Kinect在SNC的创新智能教室框架下的应用探索，提出了结合手势识别与增强现实技术的教育辅助系统的设想并进行了实现7。（2）利用Kinect深度传感器所获取的图像深度信息实现手部从背景中的分割，并通过在Hu矩基础上加入3个表达式，使不变矩包含更多细节特征，对手势目标进行识别，最后把得到的识别结果转换成控制指令通

10、过Ad-Hoc网络传送给智能轮椅,实现运动控制8。（3）利用Kinect体感设备,可将其即时动态捕捉、影像辨识、麦克风输入、语音辨识、社群互动等功能整合到视频会议中，使视频会议更具可交互性，提供了更好的用户体验，并提高了视频会议的整体性能9。（4）一种基于 Kinect 传感器的快速物体重建方法，以及基于该方法的一种图形处理器 （Graphic processing unit, GPU） 原型系统实现10。（5）基于Kinect的用于幼儿教育的手势识别功能模块，用OpenCV中的支持向量机识别每个特征向量的手势类别11。（6）通过分析Kinect相机获取的深度图的特征，提出以综合点特征和梯度特

11、征的局域梯度特征的方式来对人体部位区分判定12。（7）随着Kinect设别的出现，获取场景的2.5D信息变得很容易。设计了一个全新的基于无监督物体识别系统13。（8）基于微软Kinect系统的单目RGB摄像机以及深度距离受限的RGB-D像机，研究解决室内机器人的6自由度定位问题14。（9）基于Kinect的多点触控系统，该系统利用Kinect获取三维深度信息，通过建立触控感应平面模型，检测用户多点触控事件，并进行触控点的坐标变换，实现对电脑的控制15。（10）利用微软公司推出的深度相机Kinect对人体进行扫描，获取人体深度数据，进一步构建人体表面点云数据；再运用Pro/E软件对点云数据进行人

12、体模型重建，最后对人体表面特征数据进行测量16。（11）采用微软公司开发的一款廉价体感游戏设备Kinect，尝试了对农作物长势形态深度图像进行实时监测研究，在介绍Kinect深度成像原理的基础上，提出了采用Kinect获取农作物长势深度图像的算法以及提取3D点云世界坐标的算法，并开展了初步试验17。（12）利用Kinect以及ICP迭代算法计算出了人体头部的旋转角度并且对人体头部的姿态进行了准确的估计，成功利用人体脸部三维点云图像估计人体头部姿态，使得在多种复杂环境中，实时检测驾驶员头部姿态成为了可能18。（13）利用微软Kinect体感器作为人物场景采集器，将其采集到的深度数据进行处理，将人

13、物与背景分割，去除背景深度区域，保留人物所在深度区域，进一步检测出人物19。（14）利用Kinect传感器所获取的人体骨骼跟踪识别点，通过对手势在三维空间中的位置坐标转换，与手势库中的位置特征信息进行匹配，将合法的手势信息转换为识别结果，反馈给电子相册软件并完成相应的控制指令输出20。1.6 需求分析（1）功能需求本设计的程序可以让使用者通过手臂动作操作俄罗斯方块、播放PPT、控制音乐播放器、控制视频播放器。（2）界面需求本设计需要有选择被控程序的功能，同时还要显示玩家的动作视频和动作识别结果及对应的映射结果。（3）性能需求本设计要在本身正常运行的情况下，节省资源，保证被控程序正常运行。由于操

14、作俄罗斯方块时通过线程休眠防止键盘事件过于频繁，但是本程序为单线程程序，线程休眠时主程序界面会卡死。解决的方案是使用多线程技术，将主程序和模拟键盘操作的方法放到两个线程内，这样只休眠模拟键盘操作的线程就可以达到防止键盘事件过于频繁的目的，而且主程序也不会卡死。第二章 认识Kinect作为一款集成了诸多先进视觉技术的自然交互设备，Kinect在学术和游戏领域均有很高的关注度。此外，Kinect硬件的研发与生产综合了声、光、电和机械学等多方面的技术，其主要零部件近百个，拆分成最小单元后有近千个，有三块独立主板，下面就详细介绍一下。2.1 两款Kinect对比图2.1所示为Kinect for Xbox360图2.1 Kinect for Xbox360图2.2所示为Kinect for Windows图2.2 Kinect for Windows从外观上看，二者几乎没有区别，只是logo不同，一个是XBOX360，另一个是KINECT。新版Kinect for Windows固件做了升级，支持近景模式、提升了骨骼跟踪的API性能、更好的兼容各种Windows计算机、采用更为先进的声学模型，并且将其作为微软授权在Windows平台下进行开发的Kinect传感器。其他方面和Kinect for Xbo