CN103635869A - 用于增强现实的基于手势的用户接口 - Google Patents

用于增强现实的基于手势的用户接口 Download PDF

Info

Publication number
CN103635869A
CN103635869A CN201180071787.5A CN201180071787A CN103635869A CN 103635869 A CN103635869 A CN 103635869A CN 201180071787 A CN201180071787 A CN 201180071787A CN 103635869 A CN103635869 A CN 103635869A
Authority
CN
China
Prior art keywords
gesture
key
keyboard
input equipment
order
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201180071787.5A
Other languages
English (en)
Other versions
CN103635869B (zh
Inventor
N·S·布罗梅尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Empire Technology Development LLC
Original Assignee
Empire Technology Development LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Empire Technology Development LLC filed Critical Empire Technology Development LLC
Publication of CN103635869A publication Critical patent/CN103635869A/zh
Application granted granted Critical
Publication of CN103635869B publication Critical patent/CN103635869B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04108Touchless 2D- digitiser, i.e. digitiser detecting the X/Y position of the input means, finger or stylus, also when it does not touch, but is proximate to the digitiser's interaction surface without distance measurement in the Z direction

Abstract

一般性地描述了有效地提供可以与虚拟显示器一同使用的手势键盘的系统和方法的技术。在一个示例中,该方法包括:接收和与输入设备临近或接触的对象相关的感觉信息,包括接收从至少三个级别的交互差异检测的至少一个级别的交互差异;根据该至少一个级别的交互差异,从感觉信息解释命令;以及基于命令输出动作指示。

Description

用于增强现实的基于手势的用户接口
技术领域
本公开一般涉及手势键盘,例如涉及用于增强现实的基于手势的用户接口。
背景技术
随着计算系统的用途和复杂度演进,对于提供容易操作且用户愉悦的计算系统存在需要。很多计算系统采用键盘和显示器。当输入被键入到键盘时,相应的输出可以出现在显示器上。输入中的一些作为用于将被输出的相应动作的命令键入。然而,命令的键入常规地通过键盘和/或鼠标且实施起来可能是笨拙的。例如,在一些实例中,为了输入一些命令,以某一顺序按下键盘上的多个键,否则不能实现所需的输入。
一些计算设备利用触摸屏来键入命令。然而,触摸屏利用2维输入空间,其不能利用触摸表面上的3维空间。因此,用户朝向或远离触摸屏的运动不具有任何影响。而且,在一些计算系统中,键盘从显示器分离,使得涉及键入的命令(例如切换锁定、指针移动等)设置在显示器内是不切实际的。这是因为显示器太远离键区,且因而用户的(多个)手移动太远以至于不能键入这些命令。
基于手势的计算系统的常规方法的上述缺陷仅旨在提供常规方法和技术中的一些问题的概览,且并不旨在是排他性的。当回顾下面的描述时,与常规系统和技术相关的其他问题以及此处描述的各个非限制性实施方式的相应益处可以变得更加明显。
发明内容
在各种非限制性实施方式中,公开了一种手势键盘,其配置成识别命令、以手势形式和/或键入形式输入且基于命令实施一个或更多动作。在一个示例中,可以在增强现实中实施一个或更多动作。手势键盘包括在按下时键入的键且还可以感应靠近键盘或与键盘接触的手指。手指可以通过其电容感应。与键盘的接触通过手指和键之间的电接触感应。电接触手势检测可以用于强调显示在虚拟现实眼镜中显示的虚拟键盘,该眼镜还可以显示被键入的文本。电容感应可以用于检测靠近键盘的手指的手势且手势可以用于键入命令。
在一个实施方式中,一种方法包括:接收和与输入设备临近或接触的对象相关的感觉信息,包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异;根据所述至少一个级别的交互差异,从所述感觉信息解释命令;以及基于所述命令输出动作指示。
在另一实施方式中,一种系统包括:环境捕获组件,其配置成接收在相对于键盘的空间内的至少一个手势;解释组件,其配置成基于所述至少一个手势而识别命令;以及输出组件,其配置成呈现所述至少一个手势的信息和所述命令的结果,其中所述信息配置成在虚拟显示器上呈现。
在另一实施方式中,描述了一种其上存储有计算机可执行指令的计算机可读存储介质,响应于执行,所述计算机可执行指令促使计算设备执行以下操作:检测指示要执行的至少一个命令的手势;将所述手势解释为从多个命令中选择的所述至少一个命令;以及将所述至少一个命令的结果初始化为虚拟空间内的可感知事件。
在又一实施方式中,一种系统包括:用于接收手势形式的输入的装置;用于根据临近级别、电学连续性级别和致动级别中的一个或更多个将所述手势翻译成从一组备选命令中选择的命令的装置;以及用于向远程显示设备以可感知形式输出所述命令的结果的装置。
另一实施方式是一种包括键盘的计算设备,该键盘包括:键阵列,其中,所述键阵列的至少键子集包括配置成检测施加到至少所述键子集的相应键的压力的相应位移致动开关;以及至少一个电容传感器,其配置成检测所述键盘附近的手指。
上面的概述仅是说明性的且并不旨在以任意方式表示限制。除了如上描述的说明性方面、实施方式和特征,通过参考附图和下面的详细描述将显见其他方面、实施方式和特征。
附图说明
参考附图进一步描述各种非限制性实施方式,附图中:
图1示出说明用于识别和实施命令的方法的示例非限制性实施方式的流程图;
图2说明根据一个方面使用手势键盘的人的具体非限制性示例;
图3说明可以用于提供手势键盘的非限制性示例电路;
图4说明配置成识别和实施命令的系统的示例非限制性实施方式的框图;
图5说明用于解释和实施以手势或键入形式接收的命令的非限制性示例系统;
图6是说明用于识别和实施命令的方法的示例非限制性实施方式的流程图;
图7是说明用于识别和实施命令的方法的示例非限制性实施方式的流程图;
图8是说明用于识别和实施命令的方法的示例非限制性实施方式的流程图;
图9是说明用于识别和实施命令的方法的示例非限制性实施方式的流程图;
图10说明根据本公开的至少一些方面用于基于手势的键盘的一组计算机可读指令的示例非限制性实施方式的流程图;
图11是根据本公开的至少一些方面的手势键盘计算设备的示例非限制性实施方式的框图;以及
图12是说明根据本公开的至少一些实施方式布置为用于基于手势的键盘的示例计算设备的框图。
具体实施方式
概述
在下面的详细描述中,对于附图做出引用,附图形成详细描述的一部分。详细描述、附图和权利要求书中描述的说明性实施方式并不表示限制。可以使用其他实施方式,且可以做出其他改变,而不偏离此处提出的本发明的精神或范围。容易理解,如此处一般描述且在图中说明的公开方面可以以各种不同配置布置、替换、组合、分离和设计,它们全在此处被明确地预期。
借助于组合的显示器和触摸屏传送到计算机系统的命令被越来越大多地使用。原先,这些命令限制于通过在屏幕上显示图标的位置(例如使用指尖)推动屏幕选择图标。最近,电话、计算机、手写板和其他设备结合了高级特种特征,诸如触摸表面上用于横向或垂直地移动显示的拖拽运动、用于旋转显示的图像的相对于屏幕的两个手指的旋转以及用于压缩或放大显示的图像的径向运动。这些命令是流行的,因为这些命令采用了自然知觉动作,且结果例如可以通过向显示器添加虚质量和虚摩擦模拟真实对象。然而,这些新命令具有某些限制。例如,因为命令仅可以与显示相关,命令仅可以影响显示本身,其因此其应用有限。
如上面所暗示,从用户的立场,现今花费在计算设备上的大量时间花费在键入上。通常,键盘从显示器分离,使得涉及键入的命令(例如切换锁定、指针移动等)设置在显示器内是不切实际的。这是因为显示器太远离用户的物理输入,例如比用户当前使用的键更远。在一些情况中,典型地在膝上型电脑中位于用户拇指附近的触控板可以用于类似的命令,因为手不必移动很远。然而,涉及2维屏幕空间中的触摸屏的语境的新命令(例如,拖拽运动、旋转、径向运动)不适于触控板或平板电脑上的键入运动。
而且,这些新触摸屏命令不能利用触摸表面上方的空间,所以朝向触摸屏或远离触摸屏的运动不具有任意效果。另外,这些新触摸屏命令基于很快将变得过时的硬件,即显示器。例如,可以预期,显示器将被虚拟现实头饰(如下面所讨论)代替或补充。因而,这些命令以其存在形式也可能变得废弃。
各种非限制性示例涉及在这样的环境中使用各种手势:各种手势可以与键入基本同时地应用,由此可以改善键入的人的工作条件。键入是消耗个人很多时间的行为,但是当前键入范例是低效和有压力的。当计算机需要打字员花费笨拙、刺激且倾向于错误的微动作的时间密度且将它与键入花费的时间量相乘时,结果是相对大的时间和精力浪费、使人恼火且由于对用户强加的各种压力可能导致更有压力的不安。不管数十年改革的呼声,此处QWERTY键盘看上去保留;然而,对于指针控制和其他命令给予了小的关注,可以认为它们比QWERTY键盘更糟。
例如,QWERTY键盘可以包括26个字母键和10个数字键加上48个其他键:其他键与关键数字/字母键的比例是4:3。对于这48个键,一些是排字符号键(例如用于冒号和分号的键);减去这些排字键将使得“其他”键的数目减小为37,仍超过数字/字母/符号键。
新人将不能译解这些键中的大多数。很多是隐含意义(例如“F6”)且在没有经验或查找表的情况下不可使用。其他键公然地宣告了其功能(例如,“大写锁定”或
Figure BDA0000442575600000041
)。隐含意义与专有键的比例大约为2:1。对于约27个隐含意义神秘键的布置和关系存在很少的逻辑。
很多键具有非关键功能且很多人并不意识到一些键的作用,且可以认为这些键将不使得键盘过大。其他键绝不被使用,尽管打字员可能具有这些键的功能的含糊想法。因而,一些键应当被消除且被菜单选项代替。
经由键来键入命令需要来自用户的精确动作,且当手指错过所旨键且点击了相邻键时,精度的缺少频繁地调用不希望的动作。临近的“tab”、“caps lock”、“shift”和“ctrl”尤其倾向于搞混淆。不希望的宏、窗口或模式也因为错过某一键而弹出。这些错误然后需要附加的精确动作来返回到用户在偶然事件之前所处的位置。当设备收缩时,存在用于收缩键的相应压力,且极小的键盘可以恶化用户的挫败。
鼠标/点击命令(现在通常在“触控板”上实施)也可以是计算机系统的整合部分。然而,它们通常比键本身更糟。精确移动被小尺寸的鼠标垫所要求,这导致用户浪费其精力;而且,鼠标垫本身不能实施任意动作,但是要求辅助的左击或右击。
使用诸如触摸屏的显示器代替鼠标垫对精度问题有帮助。然而,如上所述,这要求将手远离键区移向触摸屏,作为来回移动(多个)手的结果,这引入新的笨拙。
考虑与常规输入设备相关的上述问题及其限制,此处描述的一个或更多实施方式提供不需要物理显示器且紧凑的系统。在一个示例实施方式中,虚拟现实设备可以将文本和键盘图像叠加到源于用户体验的真实世界。
在一个实施方式中,此处描述了一种方法,包括:接收和与输入设备临近或接触的对象相关的感觉信息,包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异;根据所述至少一个级别的交互差异,从所述感觉信息解释命令;以及基于所述命令输出动作指示。
根据一个示例,所述至少两个级别的交互差异包括临近度级别和电学连续性级别。在该示例中,接收所述感觉信息的步骤还包括以下步骤中的至少一个步骤:根据电容解释所述临近度级别;或基于通过所述对象执行的所述输入设备的至少一个组件的表面的接地而感应所述电学连续性级别。对于该示例,该方法包括基于解释所述临近度级别的步骤和感应所述电学连续性级别的步骤而增加多个命令手势。
对于上述示例,解释所述临近度级别的步骤包括以下步骤:基于来自至少一个谐振电路的输出而确认所述对象的在所述输入设备上方的高度;以及相对于所述输入设备定位所述对象的横向位置。而且,确认高度包括:确认所述高度的步骤包括以下步骤:比较所述输入设备的第一组件的第一谐振频率和所述输入设备的第二组件的第二谐振频率以确定所述第一谐振频率和所述第二谐振频率中的最低谐振频率;以及基于所述最低谐振频率测量在所述对象和所述输入设备之间的距离,包括基于所述最低谐振频率确定所述对象更靠近所述第一组件或所述第二组件。在另一示例中,确认所述高度的步骤包括以下步骤:比较所述输入设备的组件的响应;以及向所述响应应用三角函数以间接确认所述对象的所述高度。
在另一示例中,定位所述横向位置的步骤包括以下步骤:计算所述输入设备的第一组件的第一谐振频率和所述输入设备的第二组件的第二谐振频率;以及根据所述第一谐振频率和所述第二谐振频率之间的局部最小值来确定所述横向位置。在另一示例中,定位所述横向位置的步骤包括以下步骤:检测在第一组件的第一谐振频率和与所述第一组件相邻的第二组件的第二谐振频率之间的差异;以及根据所述差异,确定所述对象更靠近所述第一组件或所述第二组件。
根据另一示例,输出所述动作指示的步骤包括在包括第一部分和第二部分的虚拟显示器上强调显示项目,其中,所述第一部分包括与所述动作指示相关的所述命令且所述第二部分包括所述输入设备的虚拟表达。对于该示例,响应于所述对象与所述输入设备物理接触而执行强调显示所述项目的步骤。
根据另一示例,接收所述感觉信息的步骤包括以下步骤:检测同时临近或接触所述输入设备的两个或更多对象;以及识别所述两个或更多对象为用于手势命令目的的单个对象,其中接收所述感觉信息包括接收与所述单个对象相关的感觉信息。在另一示例中,输出所述动作指示的步骤包括向显示设备发送包括由所述显示设备输出的所述动作指示和所述命令的解释的信号。在一些示例中,解释所述命令的步骤包括对所述对象的运动进行内插。而且,在一些实施方式中,内插的步骤包括以下步骤:从所述输入设备的多个组件接收数据;以及基于所述数据,构建平滑线以定位所述对象。
在另一实施方式中,此处描述的系统包括:环境捕获组件,其配置成接收在相对于键盘的空间内的至少一个手势;解释组件,其配置成基于所述至少一个手势而识别命令;以及输出组件,其配置成呈现所述至少一个手势的信息和所述命令的结果,其中所述信息配置成在虚拟显示器上呈现。根据一个示例,所述解释组件还配置成确认与所述至少一个手势相关的临近度或电学连续性。对于该示例,所述解释组件配置成通过检测指针控制而确认所述临近度且配置成确认机械致动指示手动命令,且其中,所述电学连续性促进在所述虚拟显示器中键的强调显示。在一些示例中,环境捕获组件配置成检测在相对于所述键盘且靠近所述键盘的所述空间中的移动且检测施加到所述键盘的压力。对于该示例,所述输出组件还配置成:响应于施加到所述键盘的所述压力的检测而强调显示所述虚拟显示器的至少一部分。
在另一示例中,该系统还包括传感器,所述传感器配置成测量电容作为输入,以确定指尖在所述键盘上方的高度和横向位置。在该示例中,所述指尖和所述键盘的键形成谐振电路的电容器,且其中,在所述指尖和所述键之间的所述电容与1/d成比例,其中,d是以所述指尖和所述键的尺寸的一半为单位的分离,且其中,所述谐振电路的频率是距离的测量。对于该示例,系统包括评价组件,该评价组件配置成测量代表在键对中,与所述指尖靠近第二键相比,所述指尖更靠近第一键的程度的拍频。所述第一键和所述第二键的所述拍频响应于所述指尖位于所述第一键和所述第二键之间而消失。
根据其他示例,所述虚拟显示器包括增强现实眼镜。在另一示例中,所述键盘包括具有相应的拇指致动空格键的两个部分,且所述两个部分配置成折叠在一起以覆盖与所述两个部分相关的键。
在另一实施方式中,描述了一种其上存储有计算机可执行指令的计算机可读存储介质,响应于执行,所述计算机可执行指令促使计算设备执行以下操作:检测指示要执行的至少一个命令的手势;将所述手势解释为从多个命令中选择的所述至少一个命令;以及将所述至少一个命令的结果初始化为虚拟空间内的可感知事件。根据一个或更多示例,检测所述手势可以包括:将指示所述至少一个命令的所述手势与一组公共(common)临近度级别手势相区分,其中所述一组公共临近度级别手势被忽略。在另一示例中,检测所述手势可以包括:接收指示在外部动作者和键盘上的传导致动键之间的电接触的致动。在又一示例中,检测手势可以包括:检测所述手势还包括:比较输入设备的第一传导致动键的第一谐振频率和所述输入设备的第二传导致动键的第二谐振频率以确定所述第一谐振频率和所述第二谐振频率中的最低谐振频率;以及基于所述最低谐振频率测量在外部动作者和所述输入设备之间的距离,包括基于所述最低谐振频率确定所述外部动作者更接近所述第一传导致动键或所述第二传导致动键。在另一示例中,检测手势可以包括:检测所述手势还包括:计算输入设备的第一传导致动键的第一谐振频率和所述输入设备的第二传导致动键的第二谐振频率;以及根据所述第一谐振频率和所述第二谐振频率之间的局部最小值来确定外部动作者的横向位置。
根据一些示例,解释所述手势包括确认所述手势是掠过手势、推拉手势、环绕手势、偏转手势、伸展-收缩手势或旋转手势中的至少一个。根据另一示例,初始化所述结果包括:在包括第一部分和第二部分的虚拟显示器上强调显示项目,通过所述第一部分例示与所述手势相关的命令,且通过所述第二部分呈现输入设备的表达。在另一示例中,强调显示所述项目是对外部动作者和所述输入设备之间的物理接触的响应。
在又一实施方式中,此处描述的系统包括:用于接收手势形式的输入的装置;用于根据临近级别、电学连续性级别和致动级别中的一个或更多个将所述手势翻译成从一组备选命令中选择的命令的装置;以及用于向远程显示设备以可感知形式输出所述命令的结果的装置。
在一个示例中,系统还包括用于根据电容解释所述临近度级别的装置;用于基于通过对象执行的输入设备的组件的表面的接地而感应所述电学连续性级别的装置;以及用于从通过外力的所述组件的移动检测所述致动级别的装置。
此处描述的又一实施方式是一种计算设备,该计算设备包括:键盘,该键盘包括键阵列和至少一个电容传感器,其中,所述键阵列的至少键子集包括配置成检测施加到至少所述键子集的相应键的压力的相应位移致动开关,所述至少一个电容传感器配置成检测所述键盘附近的手指;翻译模块,其配置成将在所述键盘附近的手势翻译成命令;以及处理器,其配置成根据所述命令改变显示器。在一个示例中,所述键盘配置成检测所述手指和至少所述键子集之间的电接触以从电容性交互、传导性交互或机械交互接收交互信息。在一些示例中,所述显示器是远程虚拟显示器,并且所述处理器还配置成产生信号并将所述信号发送到所述远程虚拟显示器。在其他示例中,所述翻译模块还配置成访问包括与不同的命令相对应的一组命令手势的数据存储器。在另一示例中,所述数据存储器还包括与所述一组命令手势相区分的一组公共临近度级别手势。
此处,上面提出了用于提供手势键盘的一些实施方式的概览。作为下文遵循的路标,更详细地描述用于增强现实的基于手势的用户接口的各个示例、非限制性实施方式和特征。然后,给出用于可以实施这种实施方式和/或特征的计算环境的非限制性实施方式。
用于增强现实的基于手势的用户接口
如上所述,在各种实施方式中,公开了一种手势键盘,其配置成识别命令、以手势形式输入且基于命令实施一个或更多动作。在一些方面中,命令中的一个或更多个以键入形式输入。根据一些方面,命令可以作为手势和键入的组合输入。当在此使用时,“键入”表示常规键入动作(例如与键盘上的键接触),且“手势”表示在键盘上方或附近的运动(例如不同于键入的动作)。在一个示例中,可以在增强现实中实施一个或更多命令。图1示出说明用于识别和实施命令的方法的示例非限制性实施方式的流程图。图1的流程图例如可以使用此处描述的诸如(图4的)系统400之类的系统其中任意一个实施。贯穿本说明书使用的示例是键盘和/或眼镜。键盘可以包括电容性键盘。眼镜可以包括头饰。然而,应当意识到,此处描述的实施方式不限于键盘和/或眼睛的具体示例,且此处描述的实施方式理解为与其他输入设备和/或输出设备一同作用。
在100,接收感觉信息。感觉信息与输入设备临近或接触的对象相关。在具体示例中,输入设备可以是键盘且对象可以是指尖或被外部动作者(例如人)使用以与键交互的其他项目。例如,人可以与键盘交互以手势形式或通过键入来输入命令。这种命令可以作为感觉信息被接收。
在100,接收可以包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异。在一些方面中,交互差异可以在通过键入而键入的命令和作为手指键入的命令之间进行区分。在一个示例中,该至少两个级别的交互差异可以包括临近度级别和电学连续性级别。在键的情况中,在具体的非限制性示例中,临近度级别可以通过电容感应且电学连续性级别可以通过用户手指通过键的表面的接地感应。在一些示例中,另一级别的交互差异包括致动级别。致动级别可以通过力或压下通过键的致动感应。
在102,根据检测到的至少一个级别的交互差异(例如临近度级别、电学连续性级别或在一些方面中致动级别其中之一),从感应信息解释命令。例如,解释的命令可以选自于多个命令。例如可以将以手势形式接收的解释的命令与一组公共临近度级别手势相区分,该组公共临近度级别手势并不旨在用作命令。如果确定手势是公共临近度级别手势,该手势被忽略(例如不实施为命令)。下面提供与各种类型的手势相关的其他信息。
在104,基于命令输出动作指示。例如,输出指示可以包括在代表虚拟键盘的虚拟显示器中强调显示某一键。其他示例包括指针移动、页面移动、用于剪切、复制和粘贴的强调显示以及在可以在虚拟显示器中呈现的文档内实施的其他动作。在另一示例中,输出指示可以表达为虚拟空间内可感知事件。在另一示例中,作为致动级别的输出指示可以包括向文本文件添加符号。根据另一方面,虚拟显示器可以使用增强现实眼镜实施。
本领域技术人员将意识到,对于此处公开的这种和其他处理和方法,处理和方法中执行的功能可以以不同顺序执行。再者,勾画的步骤和操作仅作为示例提供,且步骤和操作中的一些可以是可选的、组合成较少的步骤或扩展为附加步骤和操作而不偏离公开的实施方式的本质。
转向图2,说明了根据一个方面使用手势键盘的人的具体非限制性示例。示意了位于键盘206上方的左手202和右手204。右手204的手指位于键盘206的右侧上方距离h1处。展开的左手202位于键盘206的左侧上方距离h2处。在一个示例中,可以检测键盘上方指尖的高度和横向位置。下面将更详细地提供与高度和横向位置的检测相关的附加信息。
在一些方面中,在一些环境中,用户可以接地,且键盘可以包括提升的边界或轻微偏置的接地条,手腕可以抵靠它们而停留,以确保用户和用户手处于接地电势。接地腕带可以作为选项提供。
当键入时,手202、204以与用于输入一个或更多手势的位置类似的位置悬在键盘206上方。在一个方面中,一个或更多手势可以是电容性手势。例如,在已知电容性键盘中,键通过由于手指的临近导致的“手电容”致动。根据公开的方面,键盘的键连接到用于检测指尖的临近度的电路。指尖与键盘的临近度的检测用于检测相对于键盘的空间中的手指运动,且因而可以检测手势。手势用作命令且根据一些方面可以用作键入命令。
公开的方面可以利用电容性手势来代替键致动和鼠标垫命令,诸如用于移动屏幕的命令、指针移动、返回功能、控制功能、点击等。在常规系统中,这种命令使用精确的运动实施且通常导致错误。然而,如此处所公开,命令可以以较不精确的运动输入,导致较少的错误。
在一个示例中,传感器配置成测量作为输入的电容以确定键盘上方指尖的高度和横向位置。例如,手电容可以被传感器利用以确定高度和横向位置。短语“手电容”原来表示当人手靠近无线电天线时无线电天线的电容中的变化。可变电容器用于无线电调谐,且天线可以通过靠近天线的手或其他身体部分解调谐,尤其当影响的人接地时。
手电容被故意地用作特雷门琴(theramin)—播放的第一乐器的基础而无直接接触。特雷门琴产生任意音调的声音,且当演奏者手移动时它可以按照频率快速地掠过。特雷门琴采用天线,该天线耦合到包括谐振LC(电感器-电容器)电路的音频振荡器。当天线电容由于演奏者手靠近或远离天线移动而变化时,LC振荡频率变化。振荡被电子地放大且然后发送到扬声器,产生依赖于人手的位置的音调的声音。
任意传导或部分传导对象具有电容,且其电容受到靠近的另一对象影响(因为其他对象的电容也被影响)。人的指尖例如具有某一电容;另一较小传导对象(可以是键盘上的键)也具有电容,且两者具有互电容。其互电容通过几何形状确定。
在平行板电容器中,因为板靠近,电容大。如果第一板接地,且通过电池在第二板上施加电压,则电荷出现在第二板上(而非第一板,因为第一板接地)。对象的电容定义为将在对象提升到1伏特的电势时在对象上积累的电荷的数量。
如果板移开,电荷将溢出第二板,返回到电池;如果它从电池断开,电荷将保持恒定但是电压将随着板分离而增加。最终,充电板将远离接地板,使得接地板的影响合并到背景(所有附近的接地对象)的影响,且进一步的分离不导致差异。因此相对于总体(具有地电势)而不是任何一个具体其他对象确定隔离对象的电容。
为了研究其电容的目的,指尖可以近似地建模为球。用于隔离球的电容的公式是C=4πε0a,其中a是球的半径。如果通过半径为0.6cm的球近似,保持在空气中的指尖具有4π×(8.85×10-12F/m)×0.006m=6.67×10-13F或三分之二皮法的电容。
然而,当球(或指尖)靠近某物时,其电容增加。通过中心至中心距离d分离的半径为a的两个球之间的电容是:
C=4πε0(a2/d){1+[a2/(d2-2a2)]+...[较高级项]...}.
当d→2a(即,当两个球变得接触时),量(d2-2a2)接近零且量[a2/(d2-2a2)]变得极大,且因此电容也是如此。(量(a2/d)接近0.5,所以它与[a2/(d2-2a2)]相比较不重要。)忽略较高级项且假设用于球的单位半径(d≥2),相对电容是:
(1/d){1+[1/(d2-2)]+...}
或粗略地是1/d。因为指尖和键盘上的键均可以近似为相同大小的球,指尖和键之间的电容可以视为粗略地与1/d成比例,其中d是以指尖和键的大小的一半为单位的分离(指尖和键盘键具有相同的大小)。
如果键和指尖用于形成LC谐振电路的电容器,则谐振频率将粗略地随着d的平方根变化,因为频率正比于L和C的乘积的反平方根。因为d是与手指或键的大小可比的单位,尤其当指尖接近键时,键-指尖电路的频率将是距离的敏感测量。
如果每个键具有其自己的使用作为电容器部件的键和固定电感形成的谐振电路,则具有最低谐振频率的键是最靠近指尖的键,且该频率是指尖到最近键的距离(例如高度)的测量。
除了如通过与键相关的电路的谐振频率所确定,通过测量其互电容测量手指-键距离,手指的高度可以通过比较键的响应通过三角法间接地测量。从盘旋指尖到直接下方键的距离与该指尖到相邻键的距离的比例随着指尖朝向指尖下方的键移动而增加。当到直接下方键的距离是d时,到其相邻键的距离是1.41d,因为两个键形成45-45-90直角三角形。在较大的高度,形成30-60-90直角三角形且距离比例是1.15而不是1.41。手指越靠近键盘表面,相对于手指,相邻键之间的在距离中的成比例的差异越大,且相邻LC电路的频率中的差异越大。到最近手指的距离可以以类似的方式通过比例计算。
在一些方面中,传感器可以配置成通过发现在局部区域中在其LC电路中具有最低频率的键来检测位置。如果指尖导致两个键具有相同的谐振频率,则手指处于这两个键之间。
应当注意,因为谐振频率随着距离的平方根变化,频率中变化与距离中变化的比例在最短距离处最大,且在较大距离处远远更小;即,设备在较近距离更敏感。这一物理事实增加了此处公开的基于手指的系统的效用,因为可以在较大高度执行的手势(诸如保持手展平和平行于键盘(如下面讨论))更不倾向于导致手势检测电路中的混淆。
根据一些方面,提供表达键对中手指更靠近第一键而非第二键的程度的拍频。例如,每个键的谐振频率可以被直接利用,发现指示上方的手指的频率的局部最小值。在一些方面中,每个键的谐振频率通过发现拍频被间接地利用,该拍频是两个相邻键的频率的差异(调制)。
拍频代表指尖更靠近一个键而非其他键的程度。当两个键之间的拍频消失时,则手指位于这两个键之间半程处。类似地,当用户手远离时,则在任意键对之间,拍频将基本为零,因为每个键将具有几乎相同的频率(由于随着d的平方根的变化,如上面所讨论)。一般地,靠近键盘的单个指尖将通过接近零的拍频的环或循环环绕,但是相对于更远离或更靠近键下点的键,每个环或循环中的键将具有非零拍频。
在一些方面中,可以发现作为一级拍频之间的拍频的二级拍频。二级拍频可以在某些环境中提供计算优点。还可以发现三级和更高级。然而,对于该处理可能存在显示,因为当去除外层的键时,结果的数目随着每次迭代收缩。
如上面所提及,存在三个级别的交互,它们彼此功能不同,从而提供可能的交互的最大差异。第一级别是通过电容感应的临近度;第二级别是通过用户手指接地键的表面而感应的电学连续性;且第三级别是如在标准键中通过力或压下引起的键的致动。根据一些方面,对于较大机械强度和/或较低轮廓,力可以被键感应,而无需诸如压电设备、类似于电容器麦克风的电容性设备或其他设备之类的移动部件或最低程度移动部件。
电容性感应可以用于指针控制。电学连续性可以用于强调显示虚拟显示器中的键(例如,“H”键被轻微触摸,它在虚拟键盘显示器中被强调显示)。机械键致动可以用于键入符号或用于诸如“键入”和“切换”之类在用户中根深蒂固且也许不应由于该原因变化的命令。
以诸如“ctrl”的键有效地使得用于所选择键组的功能的数目翻倍的方式,电容性手势与连续性手势的差异可以使得命令手势的数目翻倍。例如,在键盘上方向右移动手(“掠过”)可以是向右移动指针的命令,而轻微刷过键可以是稍微不同的命令。然而,难以无交叠地执行的两个手指(诸如上面提到的两个手势)不应具有非常不同的意义,且不应引导挫败,而这种挫败当今通过按压相邻而非所旨键导致。如下面更详细地讨论,消除电容性掠过和传导性掠过之间的混淆的一种方式是仅登记在某一最小距离上延伸或持续某一最小时间的传导性掠过。下面将提供涉及手势和相关命令的其他信息。
手电容的感应可以与虚拟显示器208耦合,该虚拟显示器208示为包括虚拟键盘210和两个文档212(例如,文本文档或其他类型的文档)。虚拟显示器208可以通过增强现实眼镜214提供。眼镜214的使用可以将该单元简化为口袋大小且可以为3D显示器提供附加显示和控制方面。
在一个方面中,眼镜214可以配置成允许用户看到文本、图像或工作的其他信息以及虚拟键盘210,响应于用户对于键盘206的轻触摸,该虚拟键盘210的键被强调显示216。如下面讨论的眼镜可以代替当前平板显示器,因为眼镜更小、更轻、更不可能被偷(因为它们通常更倾向于被人佩戴),具有较小的环境影响且较不昂贵。另外,眼镜是可以与很多应用一同使用的增强现实设备。而且,眼镜的穿戴可以变得公共的,诸如它与穿戴耳机和音乐设备是公共的。
眼镜214提供向真实世界叠加文本和键盘图像的虚拟现实设备。这可以允许在会议期间键入注释而不必在人说话和键入文本注释之间分神。而且,注释可以保持私密,因为注释将不出现在屏幕上而仅出现在眼镜上。
下文将提供涉及可以与公开的方面一同使用的眼镜的信息。然而,公开的方面不限于眼镜且可以与膝上型电脑和平板电脑兼容。可以使用在显示器的下半部上显示虚拟键盘且在上半部上显示文本的分离显示器。可以与各个方面一同使用的一种类型的眼镜是源于卡尔蔡司的Cinemizar眼镜,其允许私人电影观看。Cinemizar物理地类似于卷绕太阳镜。使用两个高分辨率液晶显示(LCD)屏幕和两个可聚焦透镜系统,图像类似于放置6英尺远的具有1/20英寸像素和45度对角(纵横比3:4)的真实屏幕的图像。在非限制性测试中,功率持续4个小时,且重量是100g。
在另一示例中,使用公开的方面的眼镜可以使用将从镜腿部分投射的光射线反射到用户眼睛的部分镀银的零屈光度透镜。眼镜可以采用低功率激光二极管(类似于在激光指示器中使用的类型),其可以通过关闭和打开电源以兆赫兹的速度简单地调制。调制的激光束可以通过(多个)镜以光栅图案控制以产生图像。不是将激光束扫描到表面上,使用眼镜透镜的部分镀银的内表面作为会聚镜,调制束可以直接扫描到眼睛(“虚拟视网膜显示器”)。
根据另一方面,由于紧凑性、外观和光学原因,可以使用的眼镜是具有激光器和安装在眼镜镜腿中的光束控制镜的眼镜。如上所述,控制镜使得光束反射离开透镜的部分金属化内部,到达眼睛。例如,眼镜透镜可以包括外部部分上完全镀银的表面,而用户通过其观看的部分可以成形为抛物面、回转椭球或其他合适形状以用作会聚(聚焦)元件。效果类似于直接布置在用户眼睛前面的会聚透镜的效果,位于透镜轴上的扫描镜用于照射光束通过透镜且因此进入到用户眼睛;透镜可以形成虚拟图像。外观大小将取决于透镜的焦距。
当激光束以没有实像的方式直接发射到眼睛时,无需考虑聚焦,且在外观聚焦距离和视差的外观距离之间没有失配(它们之间的差异可以导致疲劳)。会聚镜的聚焦长度确定了用户视角范围,且因此宽图像是可能的。因为激光束细,图像的分辨率高,虚拟对象是精细粒度的,且投射的图像和文本不需要很大。
全色立体视觉可以利用6个激光器和相应数目的镜。这些组件很小,所以整个光学系统仍可以安装到一对厚框架眼镜的侧轨(镜腿)中。对于大多数目的(包括键入),单色2D或3D图像也是适用的。两个激光二极管和两个光束控制镜可以提供3D图像,该3D图像将允许使用推拉手势将不同文本文件(或其他图像)推向背景和拉向前景。通常来自激光指示器的红色激光也可以适于此处讨论的各个方面。
除了眼镜透镜(也可以是矫正透镜)时,眼镜的剩余组件很小。因此,眼镜框架的设计不受限制,且眼镜可以做出符合当前时尚。当在此使用时,术语“眼镜”旨在覆盖未来发展的任意设备,诸如形成图像、植入的接触透镜等。术语“眼镜”也旨在包括单片眼镜或其他单眼设备。
如上所述,电学连续性可以用于强调显示虚拟显示器208中的键。虚拟显示器208可以具有两个部分,上部分显示文本(和/或图等),且下部分显示键盘(类似于膝上型电脑)。例如,显示文本的上部分和显示键盘的下部分可以类似于两个文档212。接地的键可以在虚拟显示器中被强调显示,且这可以使得键入更容易。现在匆匆一瞥显示器以发现数字键或甚至“z”键的较不专业的触摸打字员将不需要转移她的眼睛,因为触摸的键可以被强调显示(如键盘210上所显示)。例如,触摸的键可以看上去很亮、闪烁、以不同颜色显示或被强调显示,且因此可以使用滑动的手指容易地发现所需键。一旦定位,键可以被按下以在没有任意错误机会(较小机会)的条件下键入符号。
图3说明可以用于提供手势键盘的非限制性示例电路300。为了实现三向交互,标准键盘可以设置有金属箔302或键表面上的其他传导部件。箔302可以用作电容器板和接地电极,且如下文所述,这些电极可以耦合到电路。当指尖304接近时,电路的频率变化。当键盘308上的键306被触摸且因此接地时,振荡停止。例如,来自箔302的引线310可以向电接触感应模块312提供输入,该感应模块312可以与处理器314交互。在一个方面中,电接触感应模块312配置成检测电学连续性。
键306上的箔302用作与接地手指304相对的电容器板,且通过引线310与电感器308连接且由此形成谐振储能电路(也可以使用其他类型的储能电路)。电路例如还包括磁性耦合拾波线圈316,其耦合到频率检测模块320以通过捡拾来自线圈318中的谐振的信号确定手指304是否靠近键306、远离键306或甚至与键306接触。手指304与箔302的物理接触也可以通过专用接触感应电路312感应。拾波线圈316、另一类似线圈(未示出)或其他类型的到储能电路的连接例如可以使用正反馈驱动由电感器318和电容器302/304形成的储能电路的振荡。在一些方面中,频率检测模块320用作检测临近度的传感器。
在另一示例中,位于键306下方的压力开关332可以通过防反跳模块324检测,该防反跳模块324可以与处理器314通信。在一个方面中,压力开关332和/或防反跳模块324有利于感应机械致动。
处理器314配置成监控键且可以通过频率确认手指的位置,或在备选方面中,处理器314可以通过仅检测连续性的并联电路监控键。处理器314可以促使输出(例如命令的结果、信息和动作指示等)呈现在显示器326上,其可以以可感知方式呈现给用户。
现在将讨论可以被检测的示例手势。双手指或多个隆起的手指可以被电路以与隔离或单个手指类似的方式解释和处理。然而,单个手指或群组可以与展开的手势相区分,其中在展开手势中,如图2的左手202所示,手指例如分离约2英寸。尤其当远离键盘(例如,在图2中当h1小于h2时)时,图2中示出的展开手的手势可以基于其减小的电容梯度区分。要求精度的手势需要被最小化,因为类似于敲击指定键所需的精细运动,这些手势将难以精确地执行。
另外,可以选择专用于代替当前私密键/点击命令中最糟糕者的手势。这些包括指针移动、页面移动和用于剪切、复制和粘贴的强调显示,它们典型地使用并不是一个而是两个手指来同时定位在相应的目标键(例如,用于粘贴的“ctrl V”)处的四分之一英寸内。
可以采用的手势的类型是掠过、例如通过平行于键盘表面移动手或一个或更多手指实现的手或手指在键盘上的横向运动。掠过可以通过围绕水平轴在键盘上方用手环绕而重复且快速地执行,且可以容易地从用于大位移的敏锐显著运动向用于指针或显示的精细位移的小或较慢运动变化,这是直观动作。如果电路跟踪手指高度而不仅仅在与键盘相隔预定致动距离内检测手指,则如果例如通过使得速度乘以最低谐振频率使得平行于键盘表面的运动与高度的倒数相乘,则掠过控制可以更精细且更直观。这可以导致当手指靠近键盘时较大的响应,这是直观变化。掠过还可以例如通过在键盘上方轻微地刷过手指、形成电接触但是不致动用于键入的键而传导地执行。这将在下面更详细地讨论。
相关手势的另一示例是触摸屏接触掠过,其在一些设备中使用以输入用于显示的图像的横向运动的命令。触摸屏接触掠过可以电容性地或传导性地执行。也可以使用虚拟动量和摩擦。为例消除混淆,接触掠过可以被忽略,除非它例如持续一定距离和/或持续时间。
在另一示例中,如果掠过仅是水平的,则其垂直对应动作可以被称为滚动。取决于软件,触摸屏接触掠过和滚动可以是不同的手势或以任意角度被包含在单个横向移动中,由此显示元件可以对角地移动。掠过的变型是抖动、包括平行于键盘的连续交替相对运动的来回运动。
手势的另一示例是推或拉。在该手指中,手是展平的,手指伸展,形成平行于键盘的电容器接地板,且朝向键盘或远离键盘移动。该手势可以在键盘的两侧上单独地执行,允许两个命令均具有两个意义。展开的手的固定盘旋还构成类似于“ctrl”或“alt”的命令,例如,将修改通过另一只手做出的手势的模式变换器。
推拉手势可以用于使得虚拟文本(或其他显示)朝向或远离用户移动。这也许可用于切换文档:一个文档可能被拉向前,而另一个文档可以后退出眼睛会聚范围(使用眼镜的3D特征完成)且还可以变得模糊而不转移注意力。打开的文档还可以通过水平掠过和垂直滚动而横向地移动。
另一示例类型的手势是环绕,其可以电容性或传导性地执行。因为存在键盘的两侧和两个旋转意义,环绕可以传达4个不同命令(如果圆圈的直径被检测且成为在手势中的因子,则可以传达更多不同命令)。
手势的另一示例是保持手势处于键盘的一个区域中,其中到中心的距离和方向具有与操纵杆的偏转类似的效果。(在极坐标中,到中心的距离和方向可以是r和θ)。这可以用于以具有小节(nubbin)的某些膝上型电脑的方式控制指针,该小节在小节偏转的方向中移动指针。这种类型的控制可以受益于虚拟物理。如果偏转被视为虚拟大指针(virtually-massive cursor)(可能具有虚拟摩擦)上的加速虚拟力,则接口可以更加自然。另外,手指的反转可能与手指远离中心前进不同地解释,前者导致不同的加速为位置的函数。因为手指的高度已经被检测,该手势可以一般化为包括作为控制因子的高度。在圆柱坐标中,r、θ和z全都是输入变量。
手势的另一示例是展开/收缩,其可以通过使得两个手指或手彼此更靠近或远离移动而实现。该手指可以用在触摸屏设备中以命令显示的图像的展开或收缩。在键盘中,该手势可以具有不同的意义。另一示例手势是使用两个手指的旋转,其可以用于旋转图像。
此处讨论的非限制性示例手势包括可以被开发用作键入命令的手势,且因此允许利用较少键和较小精度的新接口。它还为编程者提供编写服从而不是挫败用户的新代码的机会。改变显示的手势和命令之间的最佳对应关系是可以通过心理学者和/或用户评价决定的事情。例如,正常发生的手势(诸如在开始键入时同时将双手移动到键盘上方的位置)不应被解读为命令且可以被排除(或忽略)。
除了键入的立即应用,也许在经由手势或键的切换模式之后,手势还可以用于菜单导航。备选地,公开的方面可以结合到与键入无关的较大手势控制的虚拟世界中。
关于用于实施手势键盘的一个或更多非限制性方式,图4说明配置成识别且实施命令的系统的示例非限制性实施方式的框图。如图4所示,示出基于手势的系统400,其包括配置成在相对于键盘406的空间内接收至少一个手势404的环境捕获组件402。在一些方面中,手势404旨在表示命令408,例如,指针控制、文档的滚动等。在一些方面中,接收键入410形式的命令408。
相对于键盘406的空间可以是键盘406上的位置(例如与键盘物理接触)或键盘406上方的位置(例如与键盘非物理接触)。环境捕获组件402配置成检测任一只手或双手的手指的存在,即使手指可能并不与键盘406物理接触。
在一个示例中,键盘406可以是使用金属箔或键表面上的其他传导部件改装的标准键盘,这将在下面更详细地讨论。在另一示例中,键盘406可以具有两部分折叠键盘,其中两个半部以“人体工程学”键盘的方式分割,但是在每个半部上具有拇指致动空格键。如果通过位于上边缘中部的僵硬但是柔顺的万向接头连接,键盘半部可以在通用方向中在桌面上对准,轻微地扩展到人体工程学配置或在膝盖上褶皱。当不被使用时,两个半部可以折叠在一起以覆盖键,导致测量约4.5×6英寸(平装本小说的大小)的封装。根据一个方面,也可以使用单件式键盘。处理器可以位于键盘(如在当前膝上型电脑)中或分离单元中。在一些方面中,键盘的两侧可以被独立地使用,且因而,还可以针对某种分离机构提供机械设计。
基于手势的系统400中还包括配置成基于至少一个手势404和/或键入410识别命令408的解释组件412。基于手势的系统400还包括配置成呈现与命令408相关的信息416和命令结果418的输出组件414。信息416和/或结果418配置成呈现在虚拟显示器420上。在一些方面中,信息416和/或结果418配置成呈现在虚拟空间中。
图5说明用于解释和实施以手势或键入形式接收的命令的非限制性示例系统。如图所示,图5示意了基于手势的系统500,其包括配置成在相对于键盘506的空间内接收至少一个命令504的环境捕获组件502。在一个示例中,键盘506类似于图4中的键盘406。在一个示例中,环境捕获组件502配置成检测相对于且靠近键盘506的空间中的移动(例如手势)且检测应用于键盘506的压力(例如键入)。例如,一个或更多传感器可以配置成检测临近度508、电学连续性510或机械致动512。在一些方面中,传感器可以配置成通过电容检测键盘上方指尖的高度和横向位置。
基于手势的系统500中还包括配置成基于至少一个手势和/或键入识别命令516的解释组件514。在一个示例中,解释组件514配置成例如通过电容根据临近度508识别至少一个命令。在另一示例中,解释组件514配置成基于机械致动512识别至少一个命令,该机械致动可以指示手动命令。而且,解释组件514可以识别命令且可以解释电学连续性510将产生虚拟显示器中键的强调显示。
基于手势的系统500还包括评价组件516,该评价组件516配置成测量代表指尖在键对中更靠近第一键而不是第二键的程度的拍频。例如,评价组件516配置成直接使用每个键的谐振频率,发现指示上方的指尖的频率的局部最小值。在另一示例中,评价组件516配置成通过发现拍频间接地使用每个键的谐振频率,拍频是两个相邻键的频率的差异(调制)。在一些方面中,评价组件516配置成发现二级拍频或更高级拍频。
根据一些方面,键盘506包括检测振荡器的频率何时低于固定或预定频率的电路,该固定或预定频率与键盘506上方的特定距离相关。这可以创建虚拟屏障,其被指尖的穿透可以是导致键被登记的事件。可以存在两个或更多这种屏障,其可以用于区分在不同高度执行的手势。存在很多可能的检测方法。公开的方面包括检测靠近键盘506的手指或其他对象且以键盘506附近的手势可以被辨别和确定的方式跟踪手指或对象的任意程序或电路。
基于手势的系统500中还包括配置成呈现命令504的信息520和命令的结果522的输出组件518。信息520和/或结果522配置成呈现在虚拟显示器524上。在一些方面中,信息520和/或结果522配置成呈现在虚拟空间中。在一个实施方式中,输出组件518配置成响应于施加到键盘506的压力的检测而强调显示虚拟显示器524的至少一部分。
与现有电容性键盘相对照,键盘506不使用电容来致动键;而是,键盘506使用机械键致动,这为用户提供有益的触觉和听觉反馈。键盘506因而允许手指触摸键而不导致致动,且因此准许用户在键盘506上方的空间中做出手势而不用担心轻微触碰键盘506。这种无错误可以使得手势的执行更容易且更少压力。
图6是说明用于识别和实施命令的方法600的示例非限制性实施方式的流程图。图6中的方法600例如可以使用诸如此处描述的系统400之类的系统其中任意一个实施,且可以用于识别和实施命令。在602,方法600包括接收与输入设备临近或接触的对象相关的感觉信息,包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异。例如,该至少两个级别的交互差异可以包括临近度级别和电学连续性级别。在一些方面中,第三级别的交互差异包括致动级别。
在604,根据电容解释临近度级别。在606,基于通过对象执行的输入设备的至少一个组件的表面的接地而感应电学连续性级别。在利用致动级别的一些方面中,在608,从通过外力的至少一个组件的移动检测致动级别。应当注意,可以实施在604的解释、在606的感应或在608的检测其中至少一个。例如,根据一个方面,电学连续性级别可以被感应,但是临近度级别可能不被解释且致动级别可能不被检测。
在610,根据至少一个级别的交互差异,从感觉信息解释命令。在612,基于命令输出动作指示。动作指示可以在虚拟键盘上强调显示键和/或在虚拟显示器内执行动作。虚拟键盘和/或虚拟显示器可以通过使用眼镜或通过使用可以提供虚拟显示的其他设备实现。
图7是说明用于识别和实施命令的方法700的示例非限制性实施方式的流程图。图7中的方法700例如可以使用诸如此处描述的系统500之类的系统其中任意一个实施,且可以用于识别和实施命令。在702,方法700包括接收与输入设备临近或接触的对象相关的感觉信息,包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异。例如,该至少两个级别的交互差异可以包括临近度级别和电学连续性级别。
在704,根据至少一个级别的交互差异,从感觉信息解释命令。解释命令可以包括在706基于来自至少一个谐振电路的输出确认输入设备上方的对象的高度以及在708相对于输入设备定位对象的横向位置。
在一个实施方式中,在706确认对象的高度包括比较输入设备的第一组件的第一谐振频率和输入设备的第二组件的第二谐振频率以确定第一谐振频率和第二谐振频率中最低谐振频率。对于该实施方式,在706确认对象的高度包括基于最低谐振频率测量对象和输入设备之间的距离,包括在710基于最低谐振频率确定对象更靠近第一组件或第二组件。
在另一实施方式中,在706确认对象的高度包括比较输入设备的组件的响应且在712对响应应用三角函数以间接确认对象的高度。
在另一实施方式中,在708定位横向位置包括:计算输入设备的第一组件的第一谐振频率和输入设备的第二组件的第二谐振频率;以及在714根据第一谐振频率和第二谐振频率之间的局部最小值来确定横向位置。
在另一实施方式中,在708定位横向位置包括:检测第一组件的第一谐振频率和与第一组件相邻的第二组件的第二谐振频率之间的差异;以及在716根据差异确定对象更靠近第一组件或第二组件。
在718,基于命令输出动作指示。动作指示可以被输出到不能被其他人观看的虚拟显示器和/或虚拟空间,且因此保持对于用户私密。
图8是说明用于识别和实施命令的方法800的示例非限制性实施方式的流程图。图8的方法800例如可以使用诸如此处描述的系统400之类的系统其中任意一个实施。在802,接收感觉信息。感觉信息和与输入设备靠近或接触的对象相关。接收可以包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异。例如,该至少两个级别的交互差异可以包括临近度级别和电学连续性级别。在一些方面中,第三级别的交互差异包括致动级别。
在804,根据至少一个级别的交互差异,从感觉信息解释命令。命令的解释可以包括检测两个或更多手指且将两个或更多手指解释为单个隔离手指,便于解释感应信息的目的。
在806,基于命令输出动作指示。在一个实施方式中,输出动作指示包括在808在包括第一部分和第二部分的虚拟显示器上强调显示项目。第一部分包括与动作指示相关的命令且第二部分包括输入设备的虚拟表达。在一个示例中,响应于对象与输入设备物理接触执行强调显示项目。在备选实施方式中,输出动作指示包括在810发送包括动作指示和命令解释的信号。该信号可以被发送到显示器设备,该显示器设备配置成输出动作指示和命令解释。显示设备可以通过使用眼镜或可以配置成向用户呈现虚拟显示器的另一设备实施。
图9是说明用于识别和实施命令的方法900的示例非限制性实施方式的流程图。图9中的方法例如可以使用诸如此处描述的系统500之类的系统其中任意一个实施,且可以用于识别和实施命令。在902,接收感觉信息。感觉信息和与输入设备靠近或接触的对象相关。在一个实施方式中,在902的接收还包括在904检测同时或基本同时与输入设备临近或接触的两个或更多对象,以及将两个或更多对象识别为单个对象,便于命令的目的。接收感觉信息包括接收与单个对象相关的感觉信息。
在906,根据至少一个级别的交互差异,从感觉信息解释命令。在一个实施方式中,在906的解释包括在908对对象的运动进行内插。在一个示例中,对对象的运动进行内插包括从输入设备的多个组件接收数据以及在910基于所述数据构建平滑线以定位对象。
例如,精确的运动、尤其是快速运动可以从键数据内插。例如,来自很多键的数据可以被考虑且可以使用如通过谐振频率的比较测量的用于图形和/或在键之间的相对距离的平滑方法从该数据构建平滑线,该平滑线比键的间隔更精确地定位。相邻键的谐振频率可以提供从指尖到两个键的相对距离的指示,且因此可以比键阵列间隔更精确地定位指尖。
在一些方面中,方法900可以包括在912基于解释临近度级别和感应电学连续性级别增加多个命令手势。在914,基于命令输出动作指示。
图10说明根据本公开的至少一些方面用于手势键盘的一组计算机可读指令的示例非限制性实施方式的流程图。计算机可读存储介质1000可以包括计算机可执行指令。在1002,这些指令可以操作以检测指示需要执行的至少一个命令的手势或键入。在一个示例中,为了检测手势,指令可以操作为将指示至少一个命令的手势与一组公共临近度级别手势相区分,且该组公共临近度级别手势被忽略。
在另一示例中,为了检测手势,指令可以操作为接收指示外部动作者和键盘上的传导致动键之间的电接触的致动。
在另一示例中,为了检测手势,指令可以操作为比较输入设备的第一传导致动键的第一谐振频率和输入设备的第二传导致动键的第二谐振频率以确定第一谐振频率和第二谐振频率中的最低谐振频率。对于该示例,指令可以操作为基于最低谐振频率测量外部动作者和输入设备之间的距离,包括基于最低谐振频率确定外部动作者更接近第一传导致动键或第二传导致动键。
根据另一示例,为了检测手势,指令可以操作为计算输入设备的第一传导致动键的第一谐振频率和输入设备的第二传导致动键的第二谐振频率。对于该示例,指令可以操作为根据第一谐振频率和第二谐振频率之间的局部最小值来确定外部动作者的横向位置。
在1004,指令可以操作以将手势解释为从多个命令选择的至少一个命令。在一个示例中,为了解释手势,指令可以操作为确认手势是掠过手势、推拉手势、环绕手势、偏转手势、伸展-收缩手势或旋转手势其中至少一个。
在1006,指令可以操作以将至少一个命令的结果初始化为虚拟空间中的可感知事件。在一个示例中,为了初始化结果,指令可以操作为在包括第一部分和第二部分的虚拟显示器上强调显示项目,通过第一部分例示与手势相关的命令,且通过第二部分呈现输入设备的表达。强调显示项目可以响应于外部动作者和输入设备之间的物理接触。
图11是根据本公开的至少一些方面的手势键盘计算设备的示例非限制性实施方式的框图。如图所示,计算设备1100可以包括键盘1102。在一个示例中,键盘1002配置成检测手指和至少键的子集之间的电接触以从该电容性交互、传导性交互或机械交互接收交互信息。
键盘1102可以包括键阵列,其中键阵列的至少键子集包括配置成检测施加到至少键子集的相应键的压力的相应位移致动开关。键盘1102还可以包括至少一个电容性传感器1106。该至少一个电容性传感器1106配置成检测靠近键盘1102的手指。
计算设备1100还包括配置成将键盘1102附近的手势翻译成命令的翻译模块1108。在一个示例中,翻译模块1108还配置成访问包括与不同命令对应的一组命令手势的数据存储器1110。在一个示例中,数据存储器1110包括可与该组命令手势相区分的一组公共临近度级别手势。
计算设备1100还包括配置成根据命令改变显示器1114的处理器1112。在一个示例中,显示器1114是远程虚拟显示器且处理器1112还配置成产生信号且将该信号发送到远程虚拟显示器。
如此处所讨论,涉及手势键盘的各个方面可以不使用物理显示器实施且可以与容易携带的折叠或卷式键盘一同使用。紧凑的系统可以容易地在不方便的位置上使用,诸如在飞机上使用。然而,各个方面还可兼容于具有真实(例如物理)显示器的过渡时期膝上型电脑。使用眼镜的各个方面可以提供向真实世界叠加文本和键盘图像的虚拟现实设备。这可以允许在会议期间键入注释而不必在人说话和键入的文本注释之间分神。注释可以是私密的,因为它们不呈现在屏幕上。
在各个方面中,键盘可以比常规键盘小,因为很多键不被使用和/或不包括在键盘上。而且,结合公开的方面可以使用大手势,这可以消除错误、额外工作和聚集的数量。例如,用户不必从键入位置移开手以发出命令,因为手势正好位于键盘上方。而且,公开的方面提供用于触摸键入的快速手对准,轻微的接触触发强调显示的键。用户不需要匆匆一瞥键盘以定位手,因为在显示器上手位置是明显的。在另一示例中,公开的方面提供大量可缩放的手势,意味着手势的大小可以翻译成命令的一部分。命令可以用于所有常规程度的命令(例如指针控制、显示运动)且还用于不结合任意幅度的离散命令(例如移位锁定等)。
示例计算环境
图12是说明根据本公开的至少一些方面布置为用于基于手势的键盘的示例计算设备1200的框图。在非常基本的配置1202中,计算设备1200典型地包括一个或更多处理器1204和系统存储器1206。存储器总线1208可以用于处理器1204和系统存储器1206之间的通信。
取决于所需的配置,处理器1204可以是任意类型,包括但不限于微处理器(μP)、微控制器(μC)、数字信号处理器(DSP)或其任意组合。处理器1204可以包括诸如一级缓存1210和二级缓存1212之类的一级或更多级缓存、处理器核1214和寄存器1216。示例处理器核1214可以包括算术逻辑单元(ALU)、浮点单元(FPU)、数字信号处理核(DSP核)或其任意组合。示例存储器控制器1218还可以与处理器1204一同使用,或在一些实施方式中,存储器控制器1218可以是处理器1204的内部部件。
取决于所需配置,系统存储器1206可以是任意类型,包括但不限于:易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或其任意组合。系统存储器1206可以包括操作系统1220、一个或更多应用1222和程序数据1224。应用1222可以包括手势检测和解释算法1226,其配置成执行此处讨论的功能,包括结合图4的基于手势的系统400描述的功能。程序数据1224可以包括可用于与如此处所描述的手势检测和解释算法1226一同操作的手势命令和公共临近度级别手势信息1228。在一些实施方式中,应用1222可以布置为利用程序数据1224在操作系统1220上操作,使得可以提供基于手势的键盘和增强虚拟现实体验。这种描述的基本配置1202在图12中通过内部虚线中的那些组件说明。
计算设备1200可以具有附加特征或功能性以及附加接口以促进基本配置1202和任意所需设备和接口之间的通信。例如,总线/接口控制器1230可以用于经由存储接口总线1234促进基本配置1202和一个或更多数据存储设备1232之间的通信。数据存储设备1232可以是可拆卸存储设备1236、不可拆卸存储设备1238或其组合。举例而言,可拆卸存储设备和不可拆卸存储设备的示例包括诸如软盘驱动和硬盘(HDD)驱动的磁盘设备、诸如光盘(CD)驱动或数字多功能光盘(DVD)驱动的光学盘驱动、固态驱动(SSD)和磁带驱动等。示例计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据之类的信息的任意方法或技术实施的易失性和非易失性、可拆卸或不可拆卸介质。
系统存储器1206、可拆卸存储设备1236和不可拆卸存储设备1238是计算机存储介质的示例。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术,CD-ROM、数字多功能光盘(DVD)或其他光学存储、磁盒、磁带、磁盘存储或其他磁性存储设备,或可以用于存储所需信息且可以被计算设备1200访问的任意其他介质。任意这种计算机存储介质可以是计算设备1200的部件。
计算设备1200还可以包括用于促进经由总线/接口控制器1230从各个接口设备(例如输出设备1242、外围设备1244和通信设备1246)到基本配置1202的通信的接口总线1240。示例输出设备1242包括可以配置成经由一个或更多A/V端口1252与诸如显示器或扬声器的各种外部设备通信的图形处理单元1248和音频处理单元1250。示例外围接口1244包括串行接口控制器1254或并行接口控制器1256,其可以配置成经由一个或更多I/O端口1258与诸如输入设备(例如鼠标、笔、语音输入设备等)或其他外围设备(例如打印机、扫描仪等)的外部设备通信。示例通信设备1246包括网络控制器1260,其可以布置为有利于经由一个或更多通信端口1264通过网络通信链路与一个或更多其他计算设备1262的通信。
网络通信链路可以是通信介质的一个示例。通信介质典型地可以通过计算机可读指令、数据结构、程序模块或诸如载波或其他传输介质的调制数据信号中的其他数据实施,且可以包括任意信息传输介质。“调制数据信号”可以是具有其特征组中一个或更多个或以在信号中编码信息的方式改变的信号。举例而言,但非限制性地,通信介质可以包括诸如有线网络或有线直连之类的有线介质以及诸如声学、射频(RF)、微波、红外(IR)和其他无线介质的无线介质。当在此使用时,术语计算机可读介质可以包括存储介质和通信介质二者。
本公开并不受限于本申请中描述的特定实施方式的方面,这些特定实施方式旨在用作各个方面的说明。如本领域技术人员所显见,可以在不偏离本发明的精神和范围的条件下做成很多修改和变型。除了此处列举的方法和装置,本领域技术人员从前述描述将显见本公开的范围内的功能等价方法和设备。这种修改和变型也旨在落在所附权利要求书的范围内。本公开并不仅仅被所附权利要求书的术语限制,而是被这种权利要求书所授权的等价的全部范围限制。应当理解,本公开不限于特定方法、反应物、化合物、合成物或生物系统,其当然可以变化。还应当理解,此处使用的术语仅用于描述特定示例性实施方式的目的且并不旨在限制。
在说明性实施方式中,此处描述的操作、处理等中的任意一个可以实施为存储在计算机可读介质上的计算机可读指令。计算机可读指令可以通过移动单元、网络元件和/或任意其他计算设备的处理器执行。
在系统方面的硬件和软件实施方式之间存在小的区分:硬件或软件的使用一般是代表成本与效率折中的设计选择(但并不总是如此,在某些语境中,硬件和软件之间的选择可能变得更加重要)。存在各种媒介,通过这些媒介,可以实现此处描述的处理和/或系统和/或其他技术(例如硬件、软件和/或固件),且优选媒介将随着其中部署处理和/或系统和/或其他技术的语境变化。例如,如果实施者确定速度和精确度是极为重要的,则实施者可以选择主要为硬件和/或固件的媒介;如果灵活性是极为重要的,则实施者可以选择主要为软件的实施方式;或者,同样备选地,实施者可以选择硬件、软件和/或固件的某种组合。
上面的详细描述经由使用框图、流程图和/或示例提及了设备和/或处理的各个实施方式。迄今这种框图、流程图和/或示例包含一个或更多功能和/或操作,本领域技术人员应当理解这种框图、流程图或示例内的每个功能和/或操作可以通过各种硬件、软件、固件、或实际其任意组合的方式被独立和/或共同地实施。在一个实施方式中,此处描述的主题的若干部分可以经由专用集成电路(ASIC)、现场可编程逻辑门阵列(FPGA)、数字信号处理器(DSP)或其他集成形式实施。然而,本领域技术人员将意识到,此处公开的实施方式的一些方面整体地或部分地可以作为在一个或更多计算机上运行的一个或更多计算机程序(例如作为在一个或更多计算机系统上运行的一个或更多程序)、作为在一个或更多处理器上运行的一个或更多程序(例如作为在一个或更多微处理器上运行的一个或更多程序)、作为固件或实际上作为其任意组合在集成电路中等价地实施,且鉴于本公开,设计电路和/或编写用于软件和/或固件的代码对于本领域技术人员而言是公知的。另外,本领域技术人员将意识到,此处公开的主题的机制能够以各种形式分布为程序产品,且此处公开的主题的说明性实施方式适用,而不管用于实际实施分布的信号承载介质的特定类型如何。信号承载介质的示例包括但不限于以下类型:诸如软盘、硬盘驱动、CD、DVD、数字带、计算机存储器等可记录类型介质;以及诸如数字和/或模拟通信介质(例如光纤线缆、波导、有线通信链路、无线通信链路等)之类的传播类型介质。
本领域技术人员将意识到,在本领域中通常以此处提及的方式描述设备和/或处理,且此后使用工程实践将这种所述设备和/或处理集成到数据处理系统。即,此处描述的设备和/或处理的至少一部分可以经由合理数量的实验集成到数字处理系统中。本领域技术人员将意识到,典型的数据处理系统一般包括以下部件其中一个或更多个:系统单元外壳、视频显示设备、诸如易失性和非易失性存储器的存储器、诸如微处理器和数字信号处理器的处理器、诸如操作系统的计算实体、驱动器、图形用户接口以及应用程序、诸如鼠标垫或屏幕的一个或更多交互设备和/或包括反馈循环和控制马达的控制系统(例如,用于感应位置和/或速度的反馈;用于移动和/或调节组件和/或数量的控制马达)。可以利用任意合适的商业可用组件实施典型的数据处理系统,所述商业可用组件诸如是在数据计算/通信和/或网络计算/通信系统中典型发现的那些组件。
此处描述的主题有时说明了包含在不同其他组件中或与其他组件相连的不同组件。应当理解,这种示意架构仅是示例,且实际上可以实施实现相同功能性的很多其他架构。在概念意义上,用于实现相同功能性的组件的任意布置有效地“关联”,使得所需功能性被实现。因此,此处组合以实现特定功能性的任意两个组件可以视为彼此“关联”,使得所需功能性被实现,而不管架构或中间组件如何。同样,如此关联的任意两个组件被视为彼此“操作连接”或“操作耦合”以实现所需功能性,且能够如此关联的任意两个组件可以被视为彼此“操作可耦合”以实现所需功能性。操作可耦合的指定示例包括但不限于物理成对和/或物理交互组件和/或无线可交互和/或无线交互组件和/或逻辑交互和/或逻辑可交互组件。
关于此处的基本任意复数和/或单数术语的使用,本领域技术人员可以根据语境和/或应用从复数转变成单数和/或从单数转变成复数。此处为清晰起见,明确地提出了各种单数/复数排列。
本领域技术人员应当理解,一般地,此处使用且尤其在所附权利要求书(例如所附权利要求书的实体)中使用的术语一般旨在表示“开放”术语(例如,术语“包括(动名词)”应当解释为“包括但不限于”,术语“具有”应当解释为“至少具有”,术语“包括(动词)”应当解释为“包括但不限于”等)。本领域技术人员还应当理解,如果旨在表示指定数目的介绍的权利要求陈述,这种意图将被明确地在权利要求中陈述,且在缺少这种陈述时,则不存在这种意图。例如,为了帮助理解,下面的所附权利要求可以包含介绍性短语“至少一个”和“一个或更多个”的使用以介绍权利要求陈述。然而,这种短语的使用不应解读为暗示着通过不定冠词“一个”的权利要求陈述的介绍将包含这种介绍的权利要求陈述的任意特定权利要求限制为仅包含一个这种陈述的实施方式,即使相同的权利要求包括介绍性短语“一个或更多个”或“至少一个”以及诸如“一个”的不定冠词(例如“一个”应当解释为表示“至少一个”或“一个或更多个”);这对于用于介绍权利要求陈述的定冠词的使用同样有效。另外,即使指定数目的介绍的权利要求陈述被明确地陈述,本领域技术人员将意识到这种陈述应当解释为表示至少该陈述数目(例如,“两个陈述”没有其他修改的裸陈述表示至少两个陈述或两个或更多个陈述)。再者,在使用类似于“A、B和C其中至少一个等”的惯例的那些实例中,一般地,这种造句旨在表示本领域技术人员将理解惯例的意义(例如,“具有A、B和C其中至少一个的系统”将包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C和/或具有A、B和C的系统等)。在使用类似于“A、B或C其中至少一个等”的惯例的那些实例中,一般地,这种造句旨在表示本领域技术人员将理解惯例的意义(例如,“具有A、B或C其中至少一个的系统”将包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C和/或具有A、B和C的系统等)。本领域技术人员还应当理解,实质上,无论是在说明书、权利要求书还是附图中,表达两个或更多个备选术语的任意分离性用词和/或短语将理解为预期包括术语中的一个、术语中的任意一个或两个术语的可能性。例如,短语“A或B”将理解为包括“A”或“B”或“A和B”的可能性。
另外,当在马库西群组方面描述本公开的特征或方面时,本领域技术人员将意识到由此还在马库西群组的各个独立成员或成员子群组方面描述本公开。
本领域技术人员应当理解,用于任意和所有目的,诸如在提供书面说明书方面,此处公开的所有范围还涵盖任意和所有可能的子范围及其子范围的组合。任意列举的范围可以容易地识别为充分描述和使得相同范围能够分裂成至少相等的两半、三分之一、四分之一、五分之一、十分之一等。作为非限制性示例,此处讨论的每个范围可以容易地分裂成下三分之一、中三分之一和上三分之一等。也如本领域技术人员所理解,诸如“高达”、“至少”等所有语言包括陈述的数目且表示如上所述随后可以分裂成子范围的范围。最后,本领域技术人员应当理解,范围包括每个独立成员。因而,例如,具有1-3个单元的群组表示具有1、2或3个单元的群组。类似地,具有1-5个单元的组表示具有1、2、3、4或5个单元的群组,且以此类推。
尽管通过各个图和相应描述详细阐述了各个方面,结合一个图描述的特征被包括在其他图示出和描述的方面中。仅作为一个示例,此处结合图5描述的“虚拟障碍”也是如图2、图3等中示出的方面中的特征。
从上文应当意识到,此处用于说明目的,描述了本公开的各种实施方式,且可以在不偏离本公开的范围和精神的条件下做出各种修改。因此,此处公开的各种实施方式并不旨在限制,真实范围和精神通过随附权利要求书指示。

Claims (40)

1.一种方法,该方法包括以下步骤:
接收和与输入设备临近或接触的对象相关的感觉信息,包括接收从至少两个级别的交互差异检测的至少一个级别的交互差异;
根据所述至少一个级别的交互差异,从所述感觉信息解释命令;以及
基于所述命令输出动作指示。
2.根据权利要求1所述的方法,其中,所述至少两个级别的交互差异包括临近度级别和电学连续性级别,且其中,接收所述感觉信息的步骤还包括以下步骤中的至少一个步骤:
根据电容解释所述临近度级别;或
基于通过所述对象执行的所述输入设备的至少一个组件的表面的接地而感应所述电学连续性级别。
3.根据权利要求2所述的方法,该方法还包括:基于解释所述临近度级别的步骤和感应所述电学连续性级别的步骤而增加多个命令手势。
4.根据权利要求2所述的方法,其中,解释所述临近度级别的步骤包括以下步骤:
基于来自至少一个谐振电路的输出而确认所述对象的在所述输入设备上方的高度;以及
相对于所述输入设备定位所述对象的横向位置。
5.根据权利要求4所述的方法,其中,确认所述高度的步骤包括以下步骤:
比较所述输入设备的第一组件的第一谐振频率和所述输入设备的第二组件的第二谐振频率以确定所述第一谐振频率和所述第二谐振频率中的最低谐振频率;以及
基于所述最低谐振频率测量在所述对象和所述输入设备之间的距离,包括基于所述最低谐振频率确定所述对象更靠近所述第一组件或所述第二组件。
6.根据权利要求4所述的方法,其中,确认所述高度的步骤包括以下步骤:
比较所述输入设备的组件的响应;以及
向所述响应应用三角函数以间接确认所述对象的所述高度。
7.根据权利要求4所述的方法,其中,定位所述横向位置的步骤包括以下步骤:
计算所述输入设备的第一组件的第一谐振频率和所述输入设备的第二组件的第二谐振频率;以及
根据所述第一谐振频率和所述第二谐振频率之间的局部最小值来确定所述横向位置。
8.根据权利要求4所述的方法,其中,定位所述横向位置的步骤包括以下步骤:
检测在第一组件的第一谐振频率和与所述第一组件相邻的第二组件的第二谐振频率之间的差异;以及
根据所述差异,确定所述对象更靠近所述第一组件或所述第二组件。
9.根据权利要求1所述的方法,其中,输出所述动作指示的步骤包括在包括第一部分和第二部分的虚拟显示器上强调显示项目,其中,所述第一部分包括与所述动作指示相关的所述命令且所述第二部分包括所述输入设备的虚拟表达。
10.根据权利要求9所述的方法,其中,响应于所述对象与所述输入设备物理接触而执行强调显示所述项目的步骤。
11.根据权利要求1所述的方法,其中,接收所述感觉信息的步骤包括以下步骤:
检测同时临近或接触所述输入设备的两个或更多对象;以及
识别所述两个或更多对象为用于手势命令目的的单个对象,其中接收所述感觉信息包括接收与所述单个对象相关的感觉信息。
12.根据权利要求1所述的方法,其中,输出所述动作指示的步骤包括向显示设备发送包括由所述显示设备输出的所述动作指示和所述命令的解释的信号。
13.根据权利要求1所述的方法,其中,解释所述命令的步骤包括对所述对象的运动进行内插。
14.根据权利要求13所述的方法,其中,内插的步骤包括以下步骤:
从所述输入设备的多个组件接收数据;以及
基于所述数据,构建平滑线以定位所述对象。
15.一种系统,该系统包括:
环境捕获组件,其配置成接收在相对于键盘的空间内的至少一个手势;
解释组件,其配置成基于所述至少一个手势而识别命令;以及
输出组件,其配置成呈现所述至少一个手势的信息和所述命令的结果,其中所述信息配置成在虚拟显示器上呈现。
16.根据权利要求15所述的系统,其中,所述解释组件还配置成确认与所述至少一个手势相关的临近度或电学连续性。
17.根据权利要求16所述的系统,其中,所述解释组件还配置成通过检测指针控制而确认所述临近度且配置成确认机械致动指示手动命令,且其中,所述电学连续性促进在所述虚拟显示器中键的强调显示。
18.根据权利要求15所述的系统,其中,所述环境捕获组件配置成:检测在相对于所述键盘且靠近所述键盘的所述空间中的移动且检测施加到所述键盘的压力。
19.根据权利要求18所述的系统,其中,所述输出组件还配置成:响应于施加到所述键盘的所述压力的检测而强调显示所述虚拟显示器的至少一部分。
20.根据权利要求15所述的系统,该系统还包括传感器,所述传感器配置成测量电容作为输入,以确定指尖在所述键盘上方的高度和横向位置。
21.根据权利要求20所述的系统,其中,所述指尖和所述键盘的键形成谐振电路的电容器,且其中,在所述指尖和所述键之间的所述电容与1/d成比例,其中,d是以所述指尖和所述键的尺寸的一半为单位的分离,且其中,所述谐振电路的频率是距离的测量。
22.根据权利要求20所述的系统,该系统还包括评价组件,该评价组件配置成测量代表在键对中,与所述指尖靠近第二键相比,所述指尖更靠近第一键的程度的拍频。
23.根据权利要求22所述的系统,其中,所述第一键和所述第二键的所述拍频响应于所述指尖位于所述第一键和所述第二键之间而消失。
24.根据权利要求15所述的系统,其中,所述虚拟显示器包括增强现实眼镜。
25.根据权利要求15所述的系统,其中,所述键盘包括具有相应的拇指致动空格键的两个部分,且所述两个部分配置成折叠在一起以覆盖与所述两个部分相关的键。
26.一种其上存储有计算机可执行指令的计算机可读存储介质,响应于执行,所述计算机可执行指令促使计算设备执行以下操作:
检测指示要执行的至少一个命令的手势;
将所述手势解释为从多个命令中选择的所述至少一个命令;以及
将所述至少一个命令的结果初始化为虚拟空间内的可感知事件。
27.根据权利要求26所述的计算机可读存储介质,其中,检测所述手势还包括:
将指示所述至少一个命令的所述手势与一组公共临近度级别手势相区分,其中所述一组公共临近度级别手势被忽略。
28.根据权利要求26所述的计算机可读存储介质,其中,检测所述手势还包括:
接收指示在外部动作者和键盘上的传导致动键之间的电接触的致动。
29.根据权利要求26所述的计算机可读存储介质,其中,检测所述手势还包括:
比较输入设备的第一传导致动键的第一谐振频率和所述输入设备的第二传导致动键的第二谐振频率以确定所述第一谐振频率和所述第二谐振频率中的最低谐振频率;以及
基于所述最低谐振频率测量在外部动作者和所述输入设备之间的距离,包括基于所述最低谐振频率确定所述外部动作者更接近所述第一传导致动键或所述第二传导致动键。
30.根据权利要求26所述的计算机可读存储介质,其中,检测所述手势还包括:
计算输入设备的第一传导致动键的第一谐振频率和所述输入设备的第二传导致动键的第二谐振频率;以及
根据所述第一谐振频率和所述第二谐振频率之间的局部最小值来确定外部动作者的横向位置。
31.根据权利要求26所述的计算机可读存储介质,其中,解释所述手势包括确认所述手势是掠过手势、推拉手势、环绕手势、偏转手势、伸展-收缩手势或旋转手势中的至少一个。
32.根据权利要求26所述的计算机可读存储介质,其中,初始化所述结果包括:在包括第一部分和第二部分的虚拟显示器上强调显示项目,通过所述第一部分例示与所述手势相关的命令,且通过所述第二部分呈现输入设备的表达。
33.根据权利要求32所述的计算机可读存储介质,其中,强调显示所述项目是对外部动作者和所述输入设备之间的物理接触的响应。
34.一种系统,该系统包括:
用于接收手势形式的输入的装置;
用于根据临近级别、电学连续性级别和致动级别中的一个或更多个将所述手势翻译成从一组备选命令中选择的命令的装置;以及
用于向远程显示设备以可感知形式输出所述命令的结果的装置。
35.根据权利要求34所述的系统,该系统还包括:
用于根据电容解释所述临近度级别的装置;
用于基于通过对象执行的输入设备的组件的表面的接地而感应所述电学连续性级别的装置;以及
用于从通过外力的所述组件的移动检测所述致动级别的装置。
36.一种计算设备,该计算设备包括:
键盘,其包括:
键阵列,其中,所述键阵列的至少键子集包括配置成检测施加到至少所述键子集的相应键的压力的相应位移致动开关;以及
至少一个电容传感器,其配置成检测所述键盘附近的手指;
翻译模块,其配置成将在所述键盘附近的手势翻译成命令;以及
处理器,其配置成根据所述命令改变显示器。
37.根据权利要求36所述的计算设备,其中,所述键盘配置成检测所述手指和至少所述键子集之间的电接触以从电容性交互、传导性交互或机械交互接收交互信息。
38.根据权利要求36所述的计算设备,其中,所述显示器是远程虚拟显示器,并且所述处理器还配置成产生信号并将所述信号发送到所述远程虚拟显示器。
39.根据权利要求36所述的计算设备,其中,所述翻译模块还配置成访问包括与不同的命令相对应的一组命令手势的数据存储器。
40.根据权利要求39所述的计算设备,其中,所述数据存储器还包括与所述一组命令手势相区分的一组公共临近度级别手势。
CN201180071787.5A 2011-06-21 2011-06-21 用于增强现实的基于手势的用户接口 Expired - Fee Related CN103635869B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2011/041173 WO2012177237A1 (en) 2011-06-21 2011-06-21 Gesture based user interface for augmented reality

Publications (2)

Publication Number Publication Date
CN103635869A true CN103635869A (zh) 2014-03-12
CN103635869B CN103635869B (zh) 2017-02-15

Family

ID=47361356

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201180071787.5A Expired - Fee Related CN103635869B (zh) 2011-06-21 2011-06-21 用于增强现实的基于手势的用户接口

Country Status (5)

Country Link
US (2) US9547438B2 (zh)
JP (1) JP2014515147A (zh)
KR (1) KR101516513B1 (zh)
CN (1) CN103635869B (zh)
WO (1) WO2012177237A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016103115A1 (en) * 2014-12-22 2016-06-30 International Business Machines Corporation Selectively pairing application presented in virtual space with physical display
CN105975067A (zh) * 2016-04-28 2016-09-28 上海创米科技有限公司 应用于虚拟现实产品的按键输入设备及方法
CN106233227A (zh) * 2014-03-14 2016-12-14 索尼互动娱乐股份有限公司 具有体积感测的游戏装置
CN106502417A (zh) * 2016-11-08 2017-03-15 北京暴风魔镜科技有限公司 移动虚拟现实设备适配电脑外设的方法、装置和系统
CN106527916A (zh) * 2016-09-22 2017-03-22 乐视控股(北京)有限公司 基于虚拟现实设备的操作方法、装置及操作设备
CN106664401A (zh) * 2014-08-19 2017-05-10 索尼互动娱乐股份有限公司 用于在与内容交互时向用户提供反馈的系统和方法
CN107408026A (zh) * 2015-03-31 2017-11-28 索尼公司 信息处理设备、信息处理方法和计算机程序
TWI609316B (zh) * 2016-09-13 2017-12-21 精元電腦股份有限公司 可疊加虛擬鍵盤的顯示裝置
WO2017219288A1 (zh) * 2016-06-22 2017-12-28 华为技术有限公司 头戴式显示设备及其处理方法
CN109559925A (zh) * 2017-09-27 2019-04-02 脸谱科技有限责任公司 键组件、虚拟现实接口系统和方法
CN110869889A (zh) * 2017-06-08 2020-03-06 霍尼韦尔国际公司 用于工业自动化系统和其他系统中增强/虚拟现实的视觉辅助训练、协作和监视的装置和方法
CN113076008A (zh) * 2020-01-06 2021-07-06 美商矽成积体电路股份有限公司 临近检测方法及临近检测键盘
US11757951B2 (en) 2021-05-28 2023-09-12 Vizio, Inc. System and method for configuring video watch parties with gesture-specific telemojis

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7920129B2 (en) 2007-01-03 2011-04-05 Apple Inc. Double-sided touch-sensitive panel with shield and drive combined layer
US9430145B2 (en) * 2011-04-06 2016-08-30 Samsung Electronics Co., Ltd. Dynamic text input using on and above surface sensing of hands and fingers
EP2839366A4 (en) * 2012-04-18 2016-05-11 Nokia Technologies Oy DISPLAY DEVICE WITH HAPTIC RETURN
US10281986B2 (en) * 2012-05-03 2019-05-07 Georgia Tech Research Corporation Methods, controllers and computer program products for accessibility to computing devices
US9696547B2 (en) * 2012-06-25 2017-07-04 Microsoft Technology Licensing, Llc Mixed reality system learned input and functions
US9300645B1 (en) * 2013-03-14 2016-03-29 Ip Holdings, Inc. Mobile IO input and output for smartphones, tablet, and wireless devices including touch screen, voice, pen, and gestures
US10940311B2 (en) * 2013-03-29 2021-03-09 Neurometrix, Inc. Apparatus and method for button-free control of a wearable transcutaneous electrical nerve stimulator using interactive gestures and other means
FR3003964B1 (fr) * 2013-04-02 2016-08-26 Fogale Nanotech Dispositif pour interagir, sans contact, avec un appareil electronique et/ou informatique, et appareil equipe d'un tel dispositif
WO2014179659A1 (en) 2013-05-02 2014-11-06 Synaptics Incorporated Multi-function keys providing additional functions and previews of functions
WO2015016894A1 (en) * 2013-07-31 2015-02-05 Hewlett-Packard Development Company, L.P. Gesture detection
US9804712B2 (en) 2013-08-23 2017-10-31 Blackberry Limited Contact-free interaction with an electronic device
US20150185858A1 (en) * 2013-12-26 2015-07-02 Wes A. Nagara System and method of plane field activation for a gesture-based control system
US10001645B2 (en) * 2014-01-17 2018-06-19 Sony Interactive Entertainment America Llc Using a second screen as a private tracking heads-up display
FR3017723B1 (fr) 2014-02-19 2017-07-21 Fogale Nanotech Procede d'interaction homme-machine par combinaison de commandes tactiles et sans contact
CN104656893B (zh) * 2015-02-06 2017-10-13 西北工业大学 一种信息物理空间的远程交互式操控系统及方法
US9939908B2 (en) * 2015-09-28 2018-04-10 Paypal, Inc. Multi-device authentication
WO2017096097A1 (en) * 2015-12-01 2017-06-08 Quantum Interface, Llc. Motion based systems, apparatuses and methods for implementing 3d controls using 2d constructs, using real or virtual controllers, using preview framing, and blob data controllers
CN108700991A (zh) * 2015-12-01 2018-10-23 量子界面有限责任公司 用于为移动设备建立3轴坐标系并且利用虚拟键盘进行写入的基于运动的系统、装置和方法
US10452227B1 (en) 2016-03-31 2019-10-22 United Services Automobile Association (Usaa) System and method for data visualization and modification in an immersive three dimensional (3-D) environment
CN106249882B (zh) 2016-07-26 2022-07-12 华为技术有限公司 一种应用于vr设备的手势操控方法与装置
JPWO2018047791A1 (ja) * 2016-09-09 2019-06-24 パナソニックIpマネジメント株式会社 入力装置及びそれを備えた電子機器
DE112017004677T5 (de) * 2016-09-16 2019-06-06 Tactual Labs Co. Berührungsempfindliche Tastatur
US10817126B2 (en) * 2016-09-20 2020-10-27 Apple Inc. 3D document editing system
US10845891B2 (en) * 2016-09-30 2020-11-24 Disney Enterprises, Inc. Displaying proximate keys in a virtual reality environment
US10732774B1 (en) * 2018-03-21 2020-08-04 Rockwell Collins, Inc. Increasing cursor control device sensitivity
US10719173B2 (en) * 2018-04-04 2020-07-21 Facebook Technologies, Llc Transcribing augmented reality keyboard input based on hand poses for improved typing accuracy
CN108519855A (zh) * 2018-04-17 2018-09-11 北京小米移动软件有限公司 字符输入方法及装置
JP7245631B2 (ja) 2018-10-26 2023-03-24 Dynabook株式会社 電子機器
KR102174039B1 (ko) * 2018-12-12 2020-11-04 한국광기술원 증강현실을 이용하여 어디에서도 파일을 편집할 수 있는 장치 및 방법
CN110275610B (zh) * 2019-05-27 2022-09-30 山东科技大学 一种基于LeapMotion体感控制器的协同手势控制采煤仿真控制方法
KR102137092B1 (ko) * 2019-08-06 2020-07-23 삼성전기주식회사 듀얼 센싱 구조를 이용하여 터치센싱 및 포스센싱을 구현한 스위칭 조작 센싱 장치 및 전자 기기
US11009969B1 (en) 2019-12-03 2021-05-18 International Business Machines Corporation Interactive data input
KR102333090B1 (ko) * 2019-12-17 2021-12-01 삼성전기주식회사 센싱 코일 부품 및 이를 포함하는 스위치 조작 센싱 장치
EP4288856A1 (en) 2021-02-08 2023-12-13 Sightful Computers Ltd Extended reality for productivity
EP4295314A1 (en) 2021-02-08 2023-12-27 Sightful Computers Ltd Content sharing in extended reality
JP2024509722A (ja) 2021-02-08 2024-03-05 サイトフル コンピューターズ リミテッド エクステンデッドリアリティにおけるユーザ相互作用
EP4302173A1 (en) 2021-03-03 2024-01-10 Guardian Glass, LLC Systems and/or methods for creating and detecting changes in electrical fields
WO2023009580A2 (en) 2021-07-28 2023-02-02 Multinarity Ltd Using an extended reality appliance for productivity
US20230334795A1 (en) 2022-01-25 2023-10-19 Multinarity Ltd Dual mode presentation of user interface elements
US20230324997A1 (en) * 2022-04-11 2023-10-12 Meta Platforms Technologies, Llc Virtual Keyboard Selections Using Multiple Input Modalities
US11948263B1 (en) 2023-03-14 2024-04-02 Sightful Computers Ltd Recording the complete physical and extended reality environments of a user

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5790107A (en) * 1995-06-07 1998-08-04 Logitech, Inc. Touch sensing method and apparatus
US20080042989A1 (en) * 1998-01-26 2008-02-21 Apple Inc. Typing with a touch sensor
US20080048997A1 (en) * 1992-06-08 2008-02-28 Synaptics Incorporated Object position detector with edge motion feature and gesture recognition
US20090009491A1 (en) * 2007-07-04 2009-01-08 Grivna Edward L Capacitive sensing control knob
US20090265670A1 (en) * 2007-08-30 2009-10-22 Kim Joo Min User interface for a mobile device using a user's gesture in the proximity of an electronic device
US20100066696A1 (en) * 2008-09-12 2010-03-18 Samsung Electronics Co. Ltd. Proximity sensor based input system and method for operating the same
US20100295559A1 (en) * 2009-05-22 2010-11-25 Freescale Semiconductor, Inc. Device with proximity detection capability
WO2011015794A1 (fr) * 2009-08-07 2011-02-10 Nanotec Solution Dispositif et procede d'interface de commande sensible a un mouvement d'un corps ou d'un objet et equipement de commande integrant ce dispositif
CN101981532A (zh) * 2008-03-27 2011-02-23 伊梅森公司 用于共振检测的系统和方法

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4524348A (en) 1983-09-26 1985-06-18 Lefkowitz Leonard R Control interface
US6417892B1 (en) * 1995-05-23 2002-07-09 Colorlink, Inc. Color filters, sequencers and displays using color selective light modulators
JP3484355B2 (ja) 1998-09-28 2004-01-06 オムロンヘルスケア株式会社 生体検知装置
JPH11194882A (ja) * 1998-01-06 1999-07-21 Poseidon Technical Systems:Kk キーボードおよび入力装置
US20050002158A1 (en) * 2002-02-25 2005-01-06 Robert Olodort Mobile computer with foldable keyboard
US7821425B2 (en) 2002-07-12 2010-10-26 Atmel Corporation Capacitive keyboard with non-locking reduced keying ambiguity
WO2004093005A1 (ja) * 2003-04-15 2004-10-28 Fujitsu Limited 情報処理装置
WO2006133593A1 (en) 2005-04-30 2006-12-21 Apexone Microelectronics Inc. Capacitance touchpad data input device and keyboard
JP4631676B2 (ja) 2005-11-30 2011-02-16 トヨタ自動車株式会社 2次元座標検出装置
US7903092B2 (en) 2006-05-25 2011-03-08 Atmel Corporation Capacitive keyboard with position dependent reduced keying ambiguity
US8786554B2 (en) 2006-07-10 2014-07-22 Atmel Corporation Priority and combination suppression techniques (PST/CST) for a capacitive keyboard
JP4766340B2 (ja) 2006-10-13 2011-09-07 ソニー株式会社 近接検知型情報表示装置およびこれを使用した情報表示方法
US8179375B2 (en) * 2008-01-04 2012-05-15 Tactus Technology User interface system and method
US20090251422A1 (en) 2008-04-08 2009-10-08 Honeywell International Inc. Method and system for enhancing interaction of a virtual keyboard provided through a small touch screen
TW200949632A (en) 2008-05-22 2009-12-01 Prospect Technology Corp A trigger-threshold adaptable and auto-adjustable capacitive induction-type keying device
TWI392876B (zh) 2008-08-08 2013-04-11 Sony Corp 電容感測器裝置之電容變化測量電路,電容感測器模組,電容感測器裝置之測量電容變化之方法及電子裝置
JP4775669B2 (ja) 2008-10-10 2011-09-21 ソニー株式会社 情報処理装置、情報処理方法、情報処理システムおよび情報処理用プログラム
US8497786B2 (en) 2009-03-26 2013-07-30 Freescale Semiconductor, Inc. Capacitive keyboard with enhanced electrode areas
US20100253629A1 (en) 2009-04-03 2010-10-07 Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. Combined Mutual Capacitance and Switch-Actuated Keyboard for Enhanced Texting in an Electronic Device
US9372579B2 (en) * 2009-10-27 2016-06-21 Atmel Corporation Touchscreen electrode arrangement
US8816964B2 (en) * 2010-11-26 2014-08-26 Mckesson Financial Holdings Sensor-augmented, gesture-enabled keyboard and associated apparatus and computer-readable storage medium

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080048997A1 (en) * 1992-06-08 2008-02-28 Synaptics Incorporated Object position detector with edge motion feature and gesture recognition
US5790107A (en) * 1995-06-07 1998-08-04 Logitech, Inc. Touch sensing method and apparatus
US20080042989A1 (en) * 1998-01-26 2008-02-21 Apple Inc. Typing with a touch sensor
US20090009491A1 (en) * 2007-07-04 2009-01-08 Grivna Edward L Capacitive sensing control knob
US20090265670A1 (en) * 2007-08-30 2009-10-22 Kim Joo Min User interface for a mobile device using a user's gesture in the proximity of an electronic device
CN101981532A (zh) * 2008-03-27 2011-02-23 伊梅森公司 用于共振检测的系统和方法
US20100066696A1 (en) * 2008-09-12 2010-03-18 Samsung Electronics Co. Ltd. Proximity sensor based input system and method for operating the same
US20100295559A1 (en) * 2009-05-22 2010-11-25 Freescale Semiconductor, Inc. Device with proximity detection capability
WO2011015794A1 (fr) * 2009-08-07 2011-02-10 Nanotec Solution Dispositif et procede d'interface de commande sensible a un mouvement d'un corps ou d'un objet et equipement de commande integrant ce dispositif

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106233227B (zh) * 2014-03-14 2020-04-28 索尼互动娱乐股份有限公司 具有体积感测的游戏装置
CN106233227A (zh) * 2014-03-14 2016-12-14 索尼互动娱乐股份有限公司 具有体积感测的游戏装置
CN106664401A (zh) * 2014-08-19 2017-05-10 索尼互动娱乐股份有限公司 用于在与内容交互时向用户提供反馈的系统和方法
CN106664401B (zh) * 2014-08-19 2019-07-26 索尼互动娱乐股份有限公司 用于在与内容交互时向用户提供反馈的系统和方法
US9696549B2 (en) 2014-12-22 2017-07-04 International Business Machines Corporation Selectively pairing an application presented in virtual space with a physical display
GB2549870B (en) * 2014-12-22 2018-03-07 Ibm Selectively pairing application presented in virtual space with physical display
WO2016103115A1 (en) * 2014-12-22 2016-06-30 International Business Machines Corporation Selectively pairing application presented in virtual space with physical display
US9740005B2 (en) 2014-12-22 2017-08-22 International Business Machines Corporation Selectively pairing an application presented in virtual space with a physical display
GB2549870A (en) * 2014-12-22 2017-11-01 Ibm Selectively pairing application presented in virtual space with physical display
CN107111365B (zh) * 2014-12-22 2019-10-08 国际商业机器公司 将虚拟空间中呈现的应用与物理显示器进行选择性配对
US11449133B2 (en) 2015-03-31 2022-09-20 Sony Corporation Information processing apparatus and information processing method
US11868517B2 (en) 2015-03-31 2024-01-09 Sony Group Corporation Information processing apparatus and information processing method
US10948977B2 (en) 2015-03-31 2021-03-16 Sony Corporation Information processing apparatus and information processing method
CN107408026A (zh) * 2015-03-31 2017-11-28 索尼公司 信息处理设备、信息处理方法和计算机程序
CN105975067A (zh) * 2016-04-28 2016-09-28 上海创米科技有限公司 应用于虚拟现实产品的按键输入设备及方法
WO2017219288A1 (zh) * 2016-06-22 2017-12-28 华为技术有限公司 头戴式显示设备及其处理方法
CN107771310A (zh) * 2016-06-22 2018-03-06 华为技术有限公司 头戴式显示设备及其处理方法
US10672149B2 (en) 2016-06-22 2020-06-02 Huawei Technologies Co., Ltd. Head mounted display device and processing method of head mounted display device
TWI609316B (zh) * 2016-09-13 2017-12-21 精元電腦股份有限公司 可疊加虛擬鍵盤的顯示裝置
CN106527916A (zh) * 2016-09-22 2017-03-22 乐视控股(北京)有限公司 基于虚拟现实设备的操作方法、装置及操作设备
CN106502417A (zh) * 2016-11-08 2017-03-15 北京暴风魔镜科技有限公司 移动虚拟现实设备适配电脑外设的方法、装置和系统
CN110869889A (zh) * 2017-06-08 2020-03-06 霍尼韦尔国际公司 用于工业自动化系统和其他系统中增强/虚拟现实的视觉辅助训练、协作和监视的装置和方法
CN109559925A (zh) * 2017-09-27 2019-04-02 脸谱科技有限责任公司 键组件、虚拟现实接口系统和方法
CN113076008A (zh) * 2020-01-06 2021-07-06 美商矽成积体电路股份有限公司 临近检测方法及临近检测键盘
US11757951B2 (en) 2021-05-28 2023-09-12 Vizio, Inc. System and method for configuring video watch parties with gesture-specific telemojis

Also Published As

Publication number Publication date
KR20130129271A (ko) 2013-11-27
KR101516513B1 (ko) 2015-05-04
JP2014515147A (ja) 2014-06-26
US20170075429A1 (en) 2017-03-16
US9823752B2 (en) 2017-11-21
US20120326961A1 (en) 2012-12-27
US9547438B2 (en) 2017-01-17
WO2012177237A1 (en) 2012-12-27
CN103635869B (zh) 2017-02-15

Similar Documents

Publication Publication Date Title
CN103635869A (zh) 用于增强现实的基于手势的用户接口
CN101730874B (zh) 基于免接触的手势的输入
Schneider et al. Reconviguration: Reconfiguring physical keyboards in virtual reality
CN109271029B (zh) 无触摸手势识别系统、无触摸手势识别方法和介质
CN102144208B (zh) 结合笔跟踪的多点触摸触摸屏
US10296772B2 (en) Biometric enrollment using a display
CN103914138A (zh) 接近传感器的手势的识别和用途
CN105531719A (zh) 利用指纹传感器的用户输入
Nam et al. Review of capacitive touchscreen technologies: Overview, research trends, and machine learning approaches
Delamare et al. Designing guiding systems for gesture-based interaction
CN106155409A (zh) 用于模式变化的电容性度量处理
CN106372544B (zh) 经由保持在原地的输入对象的暂时安全访问
KR102359139B1 (ko) 전자펜, 전자펜과 연동되는 전자기기 및 전자기기의 제어방법
US20150103011A1 (en) Holographic Interaction Device
TW200844809A (en) Display apparatus
US10037111B2 (en) Single point charger
KR102286589B1 (ko) 전자펜
Du et al. Opportunistic interfaces for augmented reality: Transforming everyday objects into tangible 6dof interfaces using ad hoc ui
CN107272970A (zh) 电容性侧面位置外推
US20170257624A1 (en) 3d display device and sensing method for 3d display device
Rateau et al. EdgeMark Menu: A 1D Menu for Curved Edge Display Smartphones
Liang et al. ShadowTouch: Enabling Free-Form Touch-Based Hand-to-Surface Interaction with Wrist-Mounted Illuminant by Shadow Projection
Guo Crowd-AI Systems for Non-Visual Information Access in the Real World
Xiao Bridging the Gap Between People, Mobile Devices, and the Physical World
Fan Practical ad hoc tangible interactions in augmented reality

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170215

Termination date: 20190621