智能家居人机交互方案.docx

1、智能家居人机交互方案在智能家居实验室建设方案中，人机交互系统是一个相对比较独立的系统。但它的运行即需要其他子系统的支持，同时也想高级服务提供依据。其中的主要交互设备有家居机器人、智能手机、移动平板、智能视机、健康设备、遥控器、计算机等。1家居机器人1.1人机交互技术在终端机器人中主要提供触摸显示和语音交互方式，并提供摄像头扩展接口，利于更高层次的开发。触摸显示交互是多媒体技术交互方式的一种，其依托于7寸触摸显示屏进行操作界面的实现和用户触摸输入。目前，在手机、平板等电子消费领域得到了非常广泛的应用。其有一个缺陷是，触摸显示屏安放在机器人的机体结构中，属于机器人的一部分，具体的使用过程不是特别方

2、便。语音交互是本设计中的重要部分，是终端机器人与其他家电设备最大的却别。通过自然语言交流，一方面用户可以非常方便的使用机器人进行家庭中各种设备的控制，另一方面其还能与老人对话，提供心理慰藉，或者用于幼龄儿童的教学。终端机器人中语音交互的方案采用科大讯飞语音云平台进行高效开发。语音识别的过程为：在本地进行语音采集，将采集的信息发送到语音云端，本地接受来自云端的识别结果在，然后进行智能处理；语音合成的过程为：将要合成的文本发送到语音云端，云端将语音信息返回到本地进行播放。科大讯飞云平台只是提供具体的识别和合成，而怎么让语音识别更智能化则需要进一步的研究。1.2系统硬件1.2.1整体架构电子芯片技术

3、的飞越发展，CPU处理核心的处理和运算性能越来越强。基于最大化利用CPU能力、减少成本和降低系统能耗的思想，本设计采用单处理核心，由Cortex-A8（S5PV210）统筹系统的所有外设，进行设备控制和信息采集。对于外部设备，设备本身复杂程度以及传输方式、传输速率上均有不同，因此在对系统设备进行选型时尽量减少设备种类的复杂程度。系统框架中定义了2种设备总线：USB总线和IO数据总线。USB总线用于数据传输量大、传输速率高的复杂设备，IO数据总线则对应传输速率低的简单设备。USB总线采用Hub的形式进行多设备扩展。IO数据总线则采用抽象化和模块化思想设计，建立单独的底层扩展系统，规范相应设备接口

4、。系统从总线的角度出发，将硬件分为2部分：底层扩展系统和上层Cortex-A8平台。底层扩展系统主要用于传感器数据采集、机器人动力系统控制以及情感控制，设备的类型和控制较为简单。而上层Cortex-A8平台则是在核心控制器的基础上搭载触摸显示屏、用户按键接口、音频输出以及USB类的摄像头、Wi-Fi适配器、蓝牙适配器。整体的硬件架构如图1图11.2.1 Cortex-A8与S5PV210 ARM Cortex-A8 处理器是基于ARMv7-A体系结构，其设计主要面向高性能和低功耗。目前，其突出的优势已经得到了市场的认可，在智能手机、机顶盒、数字电视、打印机等终端设备中具有广泛的应用。Corte

5、x-A8处理器的主要特点如下：1）128 位SIMD 引擎支持高性能媒体处理（NEON）；2）优化的1 级高速缓存和集成的2 级高速缓存；4）Thumb-2 技术，提高性能并节省指令存储空间；5）动态分支预测，降低分支错误预测的危害；6）完整的内存管理单元（MMU）；7）Jazelle-RCT技术优化即时生产(JIT) 和动态自适应编译(DAC)；8）高功效和高性能的内存系统；Mini210s开发板以Cortex-A8的S5PV210为核心控制器。S5VP210是一款高效率、高性能、低功耗的32为RISC处理器，其适用于智能手机和平板电脑等智能终端。S5PV210在Cortex-A8的基础上拓

6、展了多媒体方面的性能，其包含很多强大的硬件编解码功能，内置MFC（Multi Format Codec）、高性能PowerVR SGX540 3D图形引擎和2D图形引擎、IVA3硬件加速器、HDMIv1.3等多媒体相关的处理模块。S5PV210采用584引脚的FCFBGA封装，具有丰富的外围接口如TFT LCD控制器、摄像头接口、MIPI DSI、ATA接口、UART、24通道DMA、定时器、GPIO、USB Host 2.0、USB 2.0 OTG等。S5PV210同时具有丰富的高质量的外部存储接口，其DRAM支持LPDDR1、DDR2、LPDDR2，Flash/ROM支持NAND Flas

7、h、NOR-Flash、SRAM等。S5PV210芯片结构图如图2所示。图2 S5PV210芯片结构图1.2.2 Mini210s开发平台Mini210s是一款高性能高性价比的Cortex-A8开发板，搭载三星S5PV210处理器，运行主频可高达1GHz，同时集成PowerVR SGX540高性能图形引擎。Mini210s开发板配备了512M DDR2内存和4G MLC NAND Flash，其外部应用接口非常丰富如WM8960音频芯片、miniHDMI高清输出、USB2.0、CMOS摄像头、SDIO、矩阵键盘等接口（详见图4-15），其电源电路也支持低功耗待机省电模式。该款开发板提供开源的A

8、ndroid2.3.1系统源码以及Linux kernel源码，方便用户进行二次开发。同时其还提供方便易使用的开发板烧写工具Superboot，缩短了系统开发周期。根据终端系统功能设定要求，Mini210s开发板的板载资源主要使用电阻触摸显示、USB OTG接口、音频接口三个部分。电阻触摸显示接口与7寸一线精准电阻触摸显示屏连接，实现Android系统操作界面的显示和触控操作的检测。WiFi、蓝牙、USB摄像头等设备通过与USB HOST接口连接的USB Hub完成基于USB设备的设备扩展。音频部分采用I2S0接口，外接WM8960 CODEC解码芯片，提供声音输入和speaker输出（内置D

9、类功放，能直接连接81W扬声器）功能。图3 Mini210s接口布局1.3服务内容1.3.1 机器人动作及情感表达图4 小优机器人的动作和情感是其与其他家居设备的最重要的区别，能够实现更好的人机交互模式。机器人的动作主要包括2类，机器人的正常行走和头部运动。行走控制是在2轮轮系结构上通过控制直流电机实现，机器人可以灵活地进行前进、后退、左右转等动作。头部运动主要包含了抬头和扭头的动作，2个自由度均通过直流电机实现。机器人相关动作作为服务发布到智能家居服务网关，其他终端可以通过网关或者直接网络连接实现机器人的动作控制。机器人的情感表达是机器人智能性的核心体现。其表现途径主要有三个方面：LED情感

10、输出、机械动作以及语音，通过三者的结合向用户立体地呈现了具体情感。3.2.2 网络接入网络是物联网的核心基础之一，是物联网终端的基本特征。物联网终端工作的环境为一个家庭，其面积通常在几十到几百个平方米，因此在选择通信介质时需要选择覆盖面积较大、信号穿透力强的网络通信方式。再则该终端在家庭中大多数情况出于运动状态，通信介质应选取无线类型的。目前，消费市场流行的短距离无线通信方式主要有蓝牙和WiFi。蓝牙和WiFi技术都是工作在全球通用的2.4GHz ISM频段，有效解决了移动终端设备之间以及与Internet的通信。一般蓝牙技术的有效通信距离为10m，新的蓝牙标准4.0能够达到100m以上的超长

11、距离。WiFi的有效通信距离则在几十米，发射功率足够大的情况下能达到100m以上，足够覆盖整个家庭环境。另外，蓝牙的传输速率较低，如果处理视频类的数据时会出现延迟问题。因此，设计中使用WiFi作为机器人的网络通信介质，连接局域网以及互联网。为了方便WiFi模块的驱动移植，设计中选择的USB接口WiFi模块EDUP EP-8508GS。其采用REALTEK8188cus芯片，使用802.11n无线传输技术，传输速率高达150Mbps，内置高精密天线，传输稳定。另外，蓝牙通信在智能设备如手机、医疗健康类设备等中应用广泛，为了支持此类设备，终端系统使用USB接口的蓝牙适配器提供蓝牙通信通道。3.2.

12、3 智能家居应用在具体的家居环境中，物联网终端一方面作为设备对外发布自己的服务，如动作相关服务、视频服务等（可以根据具体的需求对其进行扩展），其他终端设备可以通过网络方式对其进行服务调用，另一方面终端能够通过网关调用其他设备所提供的服务，例如家电控制的实现。服务调用的实现依托于家庭环境中的网络环境，主要有2种模式：服务器模式和直接连接模式。具体的网络结构如图3所示。 服务器模式依托于现有的家居PC网关，家居环境中的各种设备与服务器网关进行连接，网关对设备统一进行管理。当需要控制其他设备时，设备从网关获取控制方式并将控制请求发送到网关，网关接受到请求后先判断目标设备正常后将控制请求发送到目标设备

13、，目标设备接收请求并依情况进行响应。服务器模式优点是能够对设备进行统一管理，设备可以动态增减，但整体结构比较复杂，给家居环境增加了额外的设备开销。直接连接模式中各设备通过网络直接通过物理通信方式发送控制指令和数据直接到达被控设备。由于直接连接模式没有网关对设备进行统一管理，所以在网络环境中必须对设备列表进行固化，不能实现设备的动态添加。但此种模式技术实现简单而且没有额外开销。图3智能家居网络结构图物联网终端机器人对两种网络环境都提供支持。智能家居控制时，终端通过WebService协议与网关通信，实现具体设备的控制。同时终端也可以通过Wifi与家电控制终端直接连接，终端机器人通过socket通

14、信传递控制指令，家电控制终端通过Wifi转RS232模块将socket信息转化为串口数据，处理模块接收控制指令后进行相应操作。终端机器人作为设备时，建立网络监听，接受相应的控制信息即可进行响应3.2.5 智能提醒及应用扩展 人到老年后随着年龄的增加记忆力不断退化，往往会出现遗忘需要完成的事情或者是忘记吃药等现象。针对这一老年人的实际需求，物联网终端机器人具有智能提醒的功能。用户根据需要通过语音命令或者设置界面进行事件的设定，设置内容主要包括时间和事件内容，当到达预定时间时机器人将进行相关时间的语音提示并在Android系统窗口推送时间提醒消息。 智能提醒服务主要是基于时间、时间提醒的应用，针对

15、老人的心理慰藉问题也可以开发语音相关治疗软件。事实上，Android系统拥有非常庞大的应用APP商店，涵盖了健康、保健、娱乐、教育等多个方面，用户根据自身的需求对应用程序进行定制，而且应用商店中的绝大多数软件都是可以免费使用的。对于一些专有性较强的应用，开发者根据具体的需求使用过Android SDK以及相关工具即可开发。而且其上层应用开发几乎完全与底层硬件相独立，大大缩小了开发难度。也正是由于强大的应用商店库和高效开发性，终端机器人实现选择搭载Android操作系统。2智能手机2.1 智能手机的人机交互方式 智能手机作为物联网家居中的一个重要的智能终端，在人机交互上有多种体现方式。常见的就有

16、感应器、触摸屏、物理按键、加速度感应器、环境光线感应器、距离感应器、陀螺仪、指南针、GPS、摄像头、时钟、录音以及常规的数据输入口（2/3/4G数据、WIFI、蓝牙、数据线）。 （1）触摸屏 触摸屏是大家所熟知的命令输入设备，已经发展出全套的多手指手势，用于自然的命令输入。在智能手机上使用的最多的是点击、长按、横滑、拖动，以单指手势为主。两指以上的手势并不太适合手机，因为常见的持机方式是单手持机。多指手势比较适合平板电脑。（2）传感器现在的移动操作系统都提供了对传感器的支持，如果硬件设备提供了这些传感器，目前支持的传感器有加速度传感器、光线传感器、压力传感器、方向传感器、磁场传感器、温度传感器

17、等，通过这些传感器，用户可以很方便的获得手机的运行状态、当前的摆放方向、外界的磁场、温度和压力等。（3）GPS最直接的用途是在地图应用中调取当前位置，在LBS服务中获得POI点名称。不过Nike Running将其用于记录跑步的路径，也是一种比较有趣的拓展。（4）摄像头 摄像头其实是一种非常强大的信息获得设备。二维码在O2O领域的巨大潜力已经被微信搅起来了。之前一种颇为神奇的用途就是被heart rate通过拍摄手指血管来测量心律。其他的用途还有人脸身份识别、计算机视觉的手势识别、物体追踪等等。 （5）录音 录音是一种长期被忽略的人机交互方式，发现它潜力的人则创造了非常神奇的交互方式。比如 S

18、quare用它作为信用卡刷卡信息的输入口； 一些游戏用它模拟一些“吹一吹”的效果； Chirp利用声音传递身份识别码，用以在手机间传递文件；此外，随着移动智能终端设备的发展，人机交互的方式也日益多元化。Mirage Table：真人与虚拟影像的互动由微软推出的Mirage Table（幻影桌面）是一项颇为神奇的技术，它将两台3D投影仪、Kinect体感监测仪、3D眼镜以及人的动作结合在一起，打造出一个真人和影像互动的效果。通过MirageTable，人们的所有动作都会被Kinect捕捉并转化称3D影像，然后和已有的3D物品进行交互，比如用手移动影像中的多米诺骨牌、皮球等。同时一个实体物品可以通

19、过虚拟影像复制出多个，也可以将移动虚拟物品到任何位置。用户只需要佩戴3D眼镜就可以看到MirageTable上3D投影的图像。曲面设计可以让操作者通过投影仪来与虚拟画面实现互动交流，就像打保龄球一样。“MirageTable”还可以实现人与人之间的双向写作，通过Miragetable，两个操作者不仅可以看到对方并谈话，而且一个人可以与视频中另一个人的虚拟对象进行互动交流，甚至可以“触摸”虚拟对象。还可以一起下象棋、搭积木，甚至研究一些比较复杂的项目方案等。如果说AR（增强现实）技术可以在现实的基础上模拟出虚拟场景，让人进入虚拟版的现实世界，那么Mirage Table则可以将用户带入一个虚拟的

20、世界，想象一下，如果未来所有的网络游戏都可以将用户融入其中，在虚拟环境下直接操作，使用新奇的装备，实现惊艳的特效，世界将会变得多么神奇！基于Kinect的操控创新微软推出的Xbox 360体感外设Kinect很受用户欢迎，但是它的意义并不仅仅是游戏外设，而在于对人机交互方式的探索和创新。正因为如此，Kinect技术才能被广泛应用到其他创新产品之中，成为智能人机交互的经典产品。国外一家专注于人机交互技术的创业公司3Gear Systems利用微软Kinect技术，推出了SDK包，能够帮助开发者将手势动作反馈到应用软件之中。这套系统可以帮助3D建模人员更方便快捷地对模型进行拼装操作，操作过程可以在

21、普通显示器之上呈现。开发者只需要购买Kinect传感器和固定装置就可以在这款SDK包的基础上，设计新的APP产品。Kinect的作用还不止于此。Oblong实验室近期公布了一项科研成果，它将Kinect与Xbox上的IE浏览器结合起来，脱离鼠标来操作电脑屏幕，能够实现一系列复杂的操作，例如拖动、摆放屏幕上的个体，对三维模型进行旋转、缩放，进行复杂的命令操作，或者用手机、平板或遥控器来控制大屏幕，甚至可以多人玩游戏、通过手势控制飞行器，在多个屏幕之间进行无缝切换等。微软研究院联合华盛顿大学也研发出了一种名为SoundWave的系统，该系统可利用计算机内置的麦克风和扬声器，提供与Kinect类似的

22、对象识别及手势识别功能。SoundWave将计算机的内置扬声器用做超声波（18-22KHz）发射源，其频率会随着你的手或身体的位置的变化而变化。然后，计算机的内置麦克风会测量这一频率变化，并把参数告诉一套相当复杂的软件，由该软件计算出手势和动作。语音交互的行业应用苹果于2010年花2亿美金亲自将Siri收购，并将其深度融入到iPhone 4S中。Siri 和手机紧密结合，可以极大提升设备的操作简易性、环境适应性和真正意义上的智能性。实际上，不仅仅是Apple自己的iPad、 iTV和车载设备，所有未来所谓的智能设备都将会使用Siri的模式。但是智能人机交互技术在行业的应用中，还存在一些不足。以

23、语音交互为例，传统语音交互涉及的主要技术包括语音识别和语音合成等都已经比较成熟。在多年以前，IBM 的语音识别软件在 PC 上就有不错的识别率了，而微软名为Tellme的项目也持续了多年。然而，即使达到100%的准确率，仅限于输入识别功用的语音识别不能代表智能人机交互的真正意义，它并不是革命性的。要实现完美的人机交互，语音技术就必须跟人工智能技术结合起来。现在以语音方式为主的人机交互系统目前主要应用在如呼叫中心的IVR系统、智能手机等终端中的语音拨号，短信朗读、车载语音导航系统等。但普遍存在交互模式比较机械固定（以声控命令为主）、用户体验一般、交互过程繁琐等问题。2.2 智能手机的市场现状当前

24、市场上主流的移动操作系统平台有Andorid、iOS、Windows Phone。互联网数据中心（International Data Corporation，IDC）近日公布了全球最新的智能手机市场份额数据，从数据表格中我们可以看到Android开始占据超过大半的江山。并且根据IDC对未来5年智能手机市场的预测，到2016年Android的市场份额仍将占到一半以上，到时候Microsoft的市场份额（Windows Phone and Windows Mobile）将会有一个大幅度的提升，将占到19.2%。智能手机操作系统（Smartphone Operating System）2012年市

25、场份额2016年市场份额20122016 复合年增长率Android61.0%52.9%9.5%Windows Phone 7/Windows Mobile5.2%19.2%46.2%iOS20.5%19.0%10.9%BlackBerry OS6.0%5.9%12.1%Others7.2%3.0%-5.4%Total100.0%100.0%12.7%表1 智能手机操作系统2012年2016年市场份额变化情况2.2.1 iOS苹果iOS是由苹果公司开发的手持设备操作系统，2007年1月10正式发布，最初是设计给iPhone使用的，后来陆续套用到iPod touch、iPad、以及Apple T

26、V等苹果产品上。它是以Darwin为基础的，因此同样属于类Unix的商业操作系统。iOS的系统结构分为以下四个层次：核心操作系统（the Core OS layer），核心服务层（the Core Services layer），媒体层（the Media layer），Cocoa触摸框架层（the Cocoa Touch layer）。但iOS是一套封闭性很强的系统，不开源，其他公司无法使用它的系统，并且在可以预见的将来，其也将始终保持封闭的状态，不支持第三方软件的运行，在很大程度上限制了各类软件在iOS上的开发、安装和使用，给用户带来极大的不便。优点：（1）具有极高的稳定性和安全性；（2）

27、Apple Store中应用程序数量多；（3）操控性极高的点触式用户界面，可以给带来很好的用户体验；（4）具有与其它操作系统的高度协作性，支持多种磁盘卷格式，符合各种现有和发展中的标准。缺点：（1）不支持第三方软件的运行；（2）不支持Flash，支持多媒体格式较少；2.2.2 Windows Phone2010年10月12日，微软正式发布Windows Phone 7智能操作系统。2012年6月21日，微软正式发布最新手机操作系统Windows Phone 8 , Windows Phone 8将采用和Windows 8相同的内核。作为微软重新打造的新一代智能终端平台，Windows Phon

28、e采用了与过去Windows Mobile完全不同的屏幕主页和用户界面，为用户带来全新的操作体验。Windows Phone的用户界面以及交互模式均是以广受好评的Zune HD高清播放器为基础而设计的。在操作性能方面，Windows Phone操作系统重视用户的实际使用效率。它的整个界面简洁实用，使用了较大的、图形化的字体，短信数量和未接来电数量都直接显示在主屏上。在产品方面，Windows Phone与微软其他产品联系紧密，通过与各类面向企业及消费者的产品进行整合，丰富了自身的产品资源，同时极大地拓展了业务范围。在个人电脑世界，微软的Windows是独一无二的王者，在移动世界，微软也一直有着

29、称王的野心。从Windows CE到Windows Mobile，再到今天的Windows Phone，微软一直在努力，效果却不理想。非但没用超越智能操作系统的老牌王者Symbian，反而被Android、iOS这些新星挤在身后。Windows Phone相对于微软以前的系统如Windows CE和Moblie，可谓是做了彻底性的改变，摒弃了以前系统臃肿和多层菜单操作的方式，采用了桌面定制、图标拖拽、滑动控制等方式。虽然上市较晚，市场占有率很低，但是凭借微软强大的技术开发实力、个人电脑世界庞大的用户群、以及和老牌手机王者诺基亚的合作，让人对它的前景不敢小视。最近，诺基亚、三星、HTC等主流手机

30、厂商也推出了一些基于Windows Phone的智能手机。说明各大手机制造商还是对微软的技术实力看好，Windows Phone系统在未来的移动市场中大有潜力。优点：（1）应用开发难度低，UI界面友好；（2）预装软件丰富，便于熟悉个人电脑的用户操作；（3）云计算技术优势；缺点：（1）对硬件平台要求较高；（2）目前应用程序较少。2.2.3 Android Android是由Google公司牵手30多家公司成立的“开放手机联盟”共同研发的，基于Linux平台的开源移动操作系统，由操作系统、中间件、用户界面和应用软件组成，号称是首个为移动终端打造的真正开放和完整的移动软件。优点：（1）开放性。And

31、roid是由Google公司牵手30多家公司成立的“开放手机联盟”共同研发的，这些全球各地的手机制造商和移动运营商都将基于该平台开发手机的新型业务，应用之间的通用性和互联性将在最大程度上得到保证，而且开发商也会得到新的开放级别，更方便的进行协同合作。（2）应用程序无界限。Android上的应用程序可以通过标准API访问核心移动设备功能，通过互联网，应用程序可以声明它们的功能可供其它应用程序使用。（3）应用程序是在平等的条件下创建的。移动设备上的应用程序可以被替换或者扩展，即使是拨号程序这样的核心组件。（4）应用程序可以轻松的嵌入网络。应用程序可以轻松的嵌入HTML、JavaScript和样式表

32、，还可以通过WebView显示HTML文件或是网络内容。（5）Google网络服务的支持。拥有强大的Google的网络服务支持，如GoogleTalk、Gmail、Google Map等，基于这些服务和庞大客户群的支持，大大扩展了开发者的设计空间。缺点：（1）Dalvik VM对于硬件的配置要求较高，在进行应用程序开发时硬件成本同其它开发环境相比还是比较高的。（2）Google为了平台的安全性设置了较多的权限控制，导致任务管理器、模拟按键、屏幕截图、短信防火墙等类似功能的实现都较为困难、步骤繁琐。移动操作系统iOSWindows PhoneAndroid发行商AppleMicrosoftGoogle应用商店App storeWindows Phone Mar