CN1458837A - 远程重建表面的方法和系统 - Google Patents
远程重建表面的方法和系统 Download PDFInfo
- Publication number
- CN1458837A CN1458837A CN02800773A CN02800773A CN1458837A CN 1458837 A CN1458837 A CN 1458837A CN 02800773 A CN02800773 A CN 02800773A CN 02800773 A CN02800773 A CN 02800773A CN 1458837 A CN1458837 A CN 1458837A
- Authority
- CN
- China
- Prior art keywords
- mobile unit
- long
- model
- local system
- described surface
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/70—Manipulators specially adapted for use in surgery
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/35—Surgical robots for telesurgery
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
Abstract
一种远程重建表面的方法,其中本地系统(S1)将关于所述本地系统的移动单元(SE)的信息发送到远程系统(S2)。本地系统(S1)的移动单元(SE)复制远程系统(S2)的移动单元(P3)的位置。远程系统包括表面的远程模型,以及操作人员移动远程系统的移动单元。当本地系统的移动单元接近所述表面时,针对本地系统的移动单元(SE)和所述表面之间的接触点修改所述模型,以便使远程模型接近于所述表面。
Description
技术领域
本发明涉及远程重建表面的领域,尤其是不平坦的表面。
背景技术
为了远距离力反馈的传输,尤其在开发分布式虚拟世界和远程显现(telepresence)系统的范围中,对离开计算装置或者控制装置确定表面的坐标的需求变得明显,这样做的目的是为了定标(calibration)。
常规的方法,尤其是插值、平滑、拉各朗日法(Lagrange)、厄密特法(Hermite)等等通常使用空间中的位置数据、仔细选择的数据来获得接近于真实模型的结果。结果的计算很麻烦,并且几乎不能实时进行。结果的质量取决于实际物体的已知点的数量、测量点的关联和虚拟模型与真实模型的相似度。
按照相同的方式,数字视频解码技术取决于关于视觉感知的知识,语音识别技术取决于关于听觉的知识,而触觉技术(haptictechniques)(来自希腊语haptos:手)取决于关于运动的知识。
手可以进行两种细微的运动;冲击运动,例如手伸向玻璃杯,要抓住它;和带有接触反馈的运动,例如在抓住杯子并抓紧后,将杯子送到嘴边。然后向大脑连续通知手握紧玻璃杯的力量,以及由杯子中液体量决定的杯子的重量。然后大脑通过向运动神经发出紧紧“抓住”杯子的指令来作出反应,以致其不会掉,但是也不要太紧,以致将杯子弄破或者消耗过多的能量。
冲击运动刺激运动神经反射弧(motor reflex arc),但是它们并不刺激接触反馈感知神经反射弧。信息的反馈可以是空间中的直观表示,也可以是身体图(body map),即固定在大脑中的后天的或者先天的心理表示,并且其自动向肩部的肌肉、臂部的肌肉、手部的肌肉产生一系列的运动指令,以便执行这种冲击运动,作为空间的特殊心理表示的功能,尤其是手和杯子之间设定距离的特殊心理表示的功能。
对于冲击运动,利用100Hz的采样频率足以将与运动有关的信息发送到大脑。这意味着如果每10ms发送一次信号的样本,发送的信号将会包含所有关于冲击运动的信息。
带有接触反馈的运动同时刺激运动肌肉神经反射弧和感知神经反射弧。大脑闭合成成环路,在人体中,整个循环持续1ms。位于手指末端的感觉神经细胞的带宽,即这些神经细胞能够检测并发送到大脑的机械信号的最大频率超过500Hz。如果想要在计算机中编码细微的运动,使用的力反馈系统自身必须具有较高的工作频率,根据香农理论(Shannon′s theorem),至少要等于手指带宽的两倍。
本地装置上的力反馈系统在本地闭环中通常以1KHz的频率工作,意味着每1/1000秒就计算一次反馈并将其施加在运动神经上,然后手感觉到。这就可以避免已知的“电动牙刷”效应:手持的器具不能有振动感。
从下面的折中产生了1KHz的频率要求:如果精确地产生触感,频率不能太低;要使计算机有足够的时间来计算反馈力,以便精确仿真虚拟装置上执行的运动,频率也不能太高。
如果现在要经过电信网来发送力反馈系统编码的细微运动和带有力反馈的细微运动,则由于网络本身带来的较大的固有等待时间,所以这个问题较为复杂。
因此,使用ISDN技术,等待时间是30ms,使用ADSL技术,大约是200ms,而在因特网上,这个时间可以达到6s或者甚至造成消息完全被拒绝。由于网络的异步特性,ADSL和因特网的等待时间是可变的。因此,如果闭环包括经过网络的返回路径,即,将运动编码后再经过网络发送,施加于远程物体,反过来将来自该物体的反馈编码并经过网络送回,则1KHz的频率太高而不便维持。
可以以10ms等级的延迟来发送冲击运动。实际上,视觉属于单向的感觉:眼睛是一种记录场景的照相机,在一定的容许值中,大脑感知带有稍许时间延迟的准确视觉影像,也不防碍运动的进行。
另一方面,带有反馈的细微运动需要小于千分之一秒的循环,确定要施加的力的强度的返回路径:
经过运动神经感觉反射弧将指令发送到肌肉,
手在玻璃杯上的机械动作;
接触杯子的手指末端的感觉(增加接触压力),和
经过触觉反射弧将该信息返回到大脑,以便大脑确定如何调节“抓紧”的力。
一种称为“波变换(wave transform)”的方法可以发送这种细微的运动,该方法由MIT的John Wilson and Neville Hogan以题为“基于网络的力反馈算法(Algorithm for Network-Based ForceFeedback)”在第四届PHANTOM用户专题研究会(PUG 99)中公开。该方法通过能使反馈环稳定的人工粘滞度来仿真网络引起的时间延迟:网络引起的时间延迟越大,系统的粘滞度就越大。
“波形换”方法是将具有纯粹的时间延迟的无源四端电路理论引入力/速度空间,其中所述的时间延迟对电压/电路参数是熟知的。该理论用于计算作为线路特征阻抗的函数的入射和反射电波。如果该线路端接相同的特征阻抗,则电信号的传输达到最优。
欧姆定律U=Z*I在机械空间中变成F=粘滞度*速度,而“波变换”方法是通过向其赋予特征阻抗(实际上是粘滞度)来采用虚拟的纯粹时间延迟线路,所述的特征阻抗就是远程控制的机器人的特征阻抗。信号以其Z变换的形式发送,
其中T是网络的固定时间延迟,网络引起的时间延迟越大,必须向线路添加的模拟粘滞度就越大,以便在闭环中和网络中稳定对细微运动的分布式机械仿真。
毫无疑问,运动感觉失真,但是有用信号的传输得到最优化。该方法在第四届用户专题研究会(PUG 99)中公开。
“波变换”方法需要同步网络,即具有固定的已知时间延迟的网络,例如,ISDN。其取决于采样的离散时间信号的Z域表示,信号的周期等于网络的这种固定时间延迟。
因此,因特网、ATM或者UMT之类基于消息的异步网络是不适用的,它们的特点是传输时间延迟可变,并且,如果消息丢失或者经过网络的时间过长会造成拒绝。
在这些异步网络上,加剧了力反馈系统过快定时的问题,因为:
如果确认被延迟过长(TCP/IP),消息可能会丢失,拒绝或者不能到达,
到达正确目的地的消息经过网络所花费的时间不同,
它们不需要以发送时的顺序到达,
两台机器之间没有精确到1毫秒内的公共时钟。
发明内容
本发明提出解决已有技术系统的缺点。
本发明提出远程重建本地表面,以便能够在短时间内计算基准点。
本发明具体提出一种远程定位反馈单元的控制系统,所述的反馈控制单元能够在以已知或不确定的延迟时间通过同步或者异步网络上的传输数据来操作。
根据本发明的一个方面,远程重建表面的方法包括下述的步骤:
本地系统将有关所述本地系统移动单元的位置的信息发送到远程系统,本地系统的移动单元复制远程系统的移动单元的位置,远程系统包括表面的远程模型,
远程操作人员移动远程系统的移动单元,当本地系统的移动单元与所述表面接触时,针对本地系统的移动单元和所述表面之间的每个接触点来修改所述远程模型,以便于远程模型近似所述表面。因此,执行定标,这意味着远程模型精确地仿真本地表面。
在本发明的一个实施例中,远程模型在最初是带网格的平整表面。远程模型最初可以是毗邻三角单元的平整组合体。
在本发明的一个实施例中,远程模型沿着与所述表面的一部分垂直的平移运动,直到本地系统的移动单元与所述表面的第一接触点整体近似所述表面,所述表面的一部分与远程模型的一部分垂直。
可以沿着三维坐标系统的两个轴预先确定所述第一接触点的坐标,而仅仅留下沿着所述要确定的三维坐标的第三轴的坐标。
在本发明的一个实施例中,接触点是本地系统的移动单元和所述表面公共空间中的点,以便本地系统的移动单元向所述表面施加预定的压力。通常,所述压力与所述表面垂直。
有利之处在于,远程模型包括多个节点,一个节点沿着轴向平移来近似所述表面。平移的轴与所述第三轴平行。另一选择是,节点可以以所述两个节点之间保持不变的距离围绕所述一个相邻的节点旋转来近似所述表面。
在本发明的一个实施例中,远程系统的移动单元复制所述表面施加在本地系统的移动单元上的反作用力,以致操作人员感受到所述反作用力并能够感觉到所述的表面。
有利之处在于,在初始化阶段,远程系统的移动单元复制本地系统移动单元的位置。
在本发明的一个实施例中,当本地系统的移动单元向包含在模型和所述表面之间的一部分空间中的所述表面位移时,远程系统的移动单元施加制动力。因此操作人员体会到所述制动力,并可以感觉到所述模型。
本发明还提出一种远程重建表面的系统。该系统包括:本地系统,其具有能够与要重建的表面接触的移动单元;和远程系统,其具有能够被操作人员控制的移动单元;表面的远程模型;和当本地系统的移动单元接触所述表面时用于修改本地系统的移动单元和所述表面之间的每个接触点的远程模型,以便远程模型近似所述表面的装置。本地系统具有用于将关于所述本地系统移动单元的位置的信息发送到远程系统的装置,以及具有用来复制远程系统移动单元的位置的装置。
本发明还涉及计算机程序,其包括到所述程序在计算机上运行时实现该方法的步骤的程序代码装置。
本发明还涉及一种能够被读取程序代码装置的设备读取的媒介,所述程序代码装置存储在所述介质中,并且当所述程序在计算机上运行时能够实现该方法的步骤。
因此,能够建模或者定标远程三维形状或者具有完全自由形状的物体。触觉数据流用于发送与所述远程形状相关的最大量的数据。
有利之处在于本发明应用于双向系统,例如用在产科和腹部检查领域中使用的机器人化远程超声波回波扫描技术。可以远程定标人体的3D虚拟模型。
在回波扫描技术中,人体的皮肤通常覆盖一层适合于超声波传输的凝胶。操作人员可以远程操作回波扫描探头。由于凝胶的缘故,可以认为患者对探头施加的力的分量与皮肤局部表面垂直。探头有6个自由度,力量沿着三维坐标系统的三个轴反馈,而转矩也沿着三维坐标系统的三个轴反馈。
本系统也可以较好地应用于那些有视觉障碍的人们,以便于他们理解形状。
本系统还可以应用于机器人远程加工工业以及恶劣环境中或者可见度较差环境中的远程控制。本系统较为适合于远程触诊。
附图说明
通过非限定性的示例和示意性附图对本发明实施例的详细说明将有助于理解本发明和使本发明的其它优点更加清楚,其中:
图1是根据本发明一个实施例的系统的示意图;
图2是图1中系统S1和S2的详细示意图;
图3是图2的详细示意图;
图4示出了校正曲线;
图5是根据本发明一个实施例的系统的示意图
图6是在一个点重建的示意图;
图7是该方法的步骤流程图。
具体实施方式
图1中示出了本发明在回波扫描技术中的一个实施例。控制系统例如安装在没有专设产科的机构中、小镇的机构中或者为边远地区服务的车辆中。系统S2安装在有高质量的操作人员进行回波扫描操作的专业医院机构中,例如在地区医院或者大学的医院中。患者J3躺在床或者平台T上。回波扫描探头SE与她的腹部接触。探头SE的参数调节表TR安装在附近。探头SE与系统S1相连接并将回波图象数据发送给所述系统S1,以及与系统S1交换与位置有关的数据和应用效果有关的数据。为了使附图清晰起见,这里没有示出探头SE的支架,该支架可以是铰接臂(articulated arm)。但是,可以理解的是,支架可以以空间中的多个自由度运动,通常是六个自由度,以便能够占据与患者J3的腹部接触的适当的位置。麦克风MI3和扬声器HP3与系统S1连接,以便患者与远程操作人员交谈。还有面对患者J3的照相机CA3和视频屏幕EV3,以便患者或者看见远程的操作人员,或者看见回扫的图象。照相机CA3和视频屏幕EV3也与系统S1连接。除了参考图1和图2描述的单元之外,系统S1和S2中的每个都包括多路复用器-多路分解器DM1和DM2,以便经过网络3发送数据,例如经过ADSL网络发送数据。
在系统S2一侧,操作人员J4在探头SE复制的空间中操纵手柄P3的位置,所述的操作人员可以是回波扫描技术方面的专业医生。手柄P3与铰接臂BA连接,探头自身与上面说明的I1和I2类型的接口I3连接,并且包括一个或者多个执行器和一个或者多个位置传感器和力传感器。通过测量执行器的能量参数来测量结果,例如通过测量消耗的电流,或者通过压力计。接口I3与系统S2连接。
照相机CA4直接面向操作人员J4,他的图象显示在屏幕EV3上,麦克风MI4和扬声器HP4允许操作人员J4与患者J3交谈。这些单元与系统S2连接。较大的视频屏幕EV4能够同时显示多幅图象,例如回波扫描图象、患者J3的图象和显示探头SE在患者腹部位置的图象。
如同可以从图2中看到的一样,回波扫描系统包括形状接近于用户U1的回波扫描探头的单元SE1和患者(未示出)的回波扫描探头SE2。每个单元SE1和SE2与接口I1、I2连接,所述接口包括将力施加在单元SE1、SE2上的装置,例如电动圆筒(electric cylinder)型的执行器,以及用来测量用户U1和患者在单元SE1、SE2上施加的力的装置,例如转矩传感器或者压力计。接口I1、I2还包括采集图(acquisition map),其与把力施加在测量装置上的装置相连接,并且能够与诸如计算机之类的另一数字系统交换数字数据。
每个接口I1、I2与控制系统S1、S2连接。在这里示出的情况下,系统S1和S2相同。仅需说明系统S1。但是,可以预想到两个系统中的一个系统的结构相对于另一系统简化的实施例。
通常,系统S1可以是个人计算机型的计算机,通常具有至少一个微型处理器,易失性和非易失性存储器,通信总线,输入和输出端口以及一个或者多个存储在存储器中并能够由微处理器执行的软件程序。
另一方面,系统S1与接口I1连接,例如通过RS232总线来连接,并且系统S1通过以参考数字3表示的通信网络与系统S2连接,所述通信网络可以是诸如ISDN之类的同步型网络或者是诸如ATM、UMT之类的异步型网络,以及因特网型(TCP/IP)的网络。系统S1的位置接近于用户U1,例如,在相同的房间中。系统S2与系统S1有一定的距离,所述距离的范围可以从几米到几千公里。换句话说,系统S1、接口I1、单元SE1和用户U1设置在本地,而系统S2、接口I2、单元SE2和患者可以设置在远离前面的部分的位置。
更具体地,系统S1包括能够将设定点(setpoint)发送到接口I1和能够从接口I1接收接口I1测量的变量的本地模型,所述变量比如是单元SE1的位置X。设定点可以是力或者转矩,用Fe来表示。系统S1包括提供的远程模型MD2,以便计算系统S2的本地模型ML2的状态。系统S1的本地模型MD2能够接收来自系统S2的数据,或者能够接收来自本地模型ML1的数据,以及能够向本地模型ML1发送数据。更具体地,系统S1包括经过通信网络3从系统S2接收数据的外插器EXT2(extrapolator),用于处理来自系统S2的再同步消息并将更新的数据发送到远程模型MD2,作为最后接收的再同步消息的函数。
系统S1包括与本地模型ML1连接的屏幕E1,用于显示来自本地模型的数据,例如检查单元SE1和SE2施加力和位置随时间的变化曲线。
系统S1包括接收来自本地模型ML1并能够向系统S2发送输出数据的再同步装置R1,具体地,所述的数据具体发送到系统S2的外插器EXT1。再同步装置R1能够预备数据,用来将它们以再同步消息的形式发送出去,所述的再同步消息可以包括日期,单元SE1的位置X,在所述日期施加到单元SE1的力F,以及在之前的日期施加于单元SE1的力。
此外,系统S1包括幻象模型(phantom model)MF1,其同样接收来自系统S1的再同步装置R1的再同步消息,并根据再同步装置R1发送的、系统S2接收的再同步消息来计算接口I1的状态变量。换句话说,幻象模型MF1根据与系统S2的远程模型MD1接收的数据相同的数据来执行计算。因此,幻象模型MF1能够制作接口I1变量的模型,如同系统S2制作它们的模型一样。
幻象模型MF1与再同步装置R1连接,所述的装置比较来自幻象模型MF1的状态变量计算结果和来自本地模型ML1的状态变量。在它们的差值大于预定的阈值的情况下,再同步装置R1发送幻象模型MF1和系统S2的外插器EXT1想要的再同步消息。因此,在系统S1和S2之间交换的数据量相对较少,因为如果两个系统S1,S2之一认为另一系统S2,S1不再适合计算这些状态变量,则仅发送再同步消息。
参考图3将会更好理解系统的工作情况。对于用户U1,状态向量X分成三个部分:Xe,位于单元SE1的接口的变量;Xm,用户U1的机械模型的内部变量;Xi,其它参与部件接口内部的互作用变量。同样,将与力或者转矩相关的变量分成三部分:Fe,用户U1施加在单元SE1上的力;Fm,重量,其它物体,其它可能参与部件施加的力;Fi,用户U1施加在患者身上的力。
同样,患者的状态向量Y分成Y′e,Y′m和Y′i,而相关的耦合力向量G分成三个部分G′e,G′m和G′i。用户U1和患者虚拟接触。因此有Xi=Yi。得到作用和反作用定律:Fi+Gi=0。
在每个时间步骤,接口I1拾取位置Xe n并将其发送到本地模型ML1。接口I1接收并发送来自本地单元ML1的设定点力Fe n并使用反馈力-Fe n控制其执行器。同样,接口I2拾取-Y′e n并将其发送到本地模型ML2并接收来自本地模型ML2的力G′e n,以及使用反馈力-G′e n控制其执行器。
在时间n+1开始时,本地模型ML1接收接口I1的位置Xe n+1、远程模型MD2的互作用计算结果
和预先记录的固有变量Fm n+1。本地模型ML1计算参与者J1施加于患者的力:
用户U1施加于单元SE1的力:
矩阵A和B是用户U1随X=AX+BF的变化矩阵。再次计算本地模型ML1:
本地模型ML1将Xn+1和Fn+1发送到再同步装置R1,将设定点-Fe n+1发送到接口I1,而将位置变量Xi n+1发送到远程模型MD2。
如果幻象模型MF1没有接收到来自再同步装置R1的消息,则其计算
其中K1由系统S2提供,而可以由系统S2来预测位置计算
即用户U1的机械状态。这里,I是单位矩阵。
一旦接收到来自再同步装置R1的再同步消息Mn={n,
Xn,
Fn和Fn-1},幻象模型MF1执行下面的再同步:
和K1
Fn-
Fn-1。
在每个时间步骤n,再同步装置R接收位置变量Xn和来自本地模型ML1的力变量Fn和Fn+1。将位置变量Xn和计算值
之间差值的绝对值与预定阈值比较,如果所述的绝对值小于所述的阈值,则不进行任何动作。否则,其形成再同步消息Mn={n,Xn,Fn,Fn-1}。再同步装置R1将再同步消息Mn发送到幻象模型MF1,以便即时同步,并且经过系统S2的外插器EXT1与远程模型MD1同步,以便尽可能早地同步。
系统S1的外插器EXT2能够产生同步。这是由于系统S2的再同步装置R2发出的消息Mp={p,Yp,Gp,Gp-1}在时刻n和n+1之间到达系统S1。但是,消息Mp被加上了来自系统S2的日期p。外插器EXT2计算K2=Gp-Gp-1并且通过执行:
Gp+Gp和
Yp=Yp,然后在随后的时间以及每当j=p,...,n,
Gj+1=
Gj+K2和
Yj+1=
Yj+C
Yj+D
Gj+1时再同步远程模型MD2,对于患者来说,C和D是与矩阵A和B等同的矩阵。外插器EXT2将再同步结果:
Yn+1,
Gn+1和K2发送到远程模型MD2。
系统S1的远程模型MD2通过获得由上述外插器EXT2提供的值来同步接收来自外插器EXT2的消息: 和
在外部接收这些消息,以及在每个时间步骤,远程模型MD2接收来自本地模型ML1的位置变量Xi n+1并执行预测计算:
外插器EXT1最好执行斜再同步(bevel resynchronization)这样能够平滑变化,见图3。
并不是突然将位置变量Y的估算改变到外插器EXT2计算的变量
Y,按照上面说明的方式,根据下面的计算来在时间n和n+4之间的四个步骤执行再同步:如果k=1,则
否则j=n,Gj+1=
Gj+K2Yj+1=
Yj+C
Yj+D
Gj+1 j:=j+1如果k大于2,则k:=k-1
否则,退出循环,并且
斜再同步允许系统更加平滑地进行工作,这更会得到用户的理解并且承受更少的机械应力。
通常,幻象模型MF1接收与其它系统的远程模型MD1相同的数据,并能够执行与其它系统相同的仿真。换句话说,执行搜索以便找到其它系统针对再同步目的所不知道的内容。再同步装置相对于其它的系统盲目地进行工作,并且在没有来自其它的系统发送的相关数据的情况下继续执行仿真。具体在斜再同步的情况下,外插器EXT2能够考虑到通信网络造成的传输时间延迟期间其它系统测量的运动。在简单变化的情况下,完美地感觉两个系统之一或者两个系统都不具有幻象模型。数目超过两个的系统也可以一起工作。
本地模型表示两个用户的机械模型。远程模型表示本地机械模型的远程复制,因为经过通信网络传输本地模型的状态有时间延迟的缘故,需要估计所述的本地模型。幻象模型表示本地模型的近似拷贝。远程模型和幻象模型都工作在预测器-校正器模式。外插器以一定的时间间隔外插接收的消息,以便将远程模型同步到其它系统的时钟。在本地模型和远程预测模型的本地预测控制幻象模型之间的差别过大的情况下,再同步装置估计在通信网络中使用再同步方法的需求。再同步装置能够限制经过通信网络发送的消息的数目,以避免堵塞。在一个系统中,可以以1KHz的速率交换数据。在系统之间,如果再同步装置之一认为有必要,则经过通信网络交换数据。
图5示出了具体适用于回波扫描技术的另一实施例。与接口I2相连接的臂BA支撑回波扫描探头SE2。接口I2与系统S2连接。并且回波扫描探头设置在靠近患者P的位置。这些单元由支架5来支撑。系统S1、接口I1、与探头SE2有着相同的外部形状、相同的质量和相同的惯性的探头SE1都设置在远程的位置。
以细线表示出了远程模型Mo最终所处的状态,也就是说非常接近患者P的外形。在这种情况下移动单元SE1处于静止状态,相对于远程模型Mo所处的位置与探头SE2相对于患者的位置相同。医生按照与实际探头相同的方式移动单元SE1,并将其渐渐向下移动。回波扫描探头SE2遵循与移动单元SE1的相同的位移。首先,通过移动移动单元SE1,医生把回波扫描探头SE2置于患者P最高的表面上,通常处于她或者他的腹部顶部。远程复制患者P的腹部对探头SE2施加的反馈力,以致把持移动单元SE1的医生感受到相同的效果,即相同的反馈力,如同他拿着实际的回波扫描探头对着患者的腹部一样。
从患者P腹部的项部起,持有移动单元SE1的医生通过垂直和水平地移动来逐渐揭示出患者P的轮廓线,也有可能在图1中所示的屏幕EV4之类的视频屏幕的帮助下进行。在操纵移动单元SE1的同时,医生向复制运动的探头SE2揭示患者P的腹部。移动单元SE1复制由患者的腹部向探头SE1施加的力。
由于移动单元SE1和探头SE2的位置实际上相同,移动单元SE1所处的位置几乎与真实的探头在同一患者腹部移动时所处的位置相同。系统S1记录移动单元SE1的各个位置,因而能够依照足够的测量点数据来执行患者腹部外表面的三维重建,因此获得远程模型Mo。
能够提供一个系统S1认为移动单元SE1处在与患者的腹部相对应的位置的反馈力范围。在范围的上限之上,认为移动单元SE1被推到远离腹部的地方。在范围下限之下,认为和患者的腹部没有接触,并且移动单元位于远离患者P腹部的外表面的位置。
图6是产生远程模型的步骤的示意图。首先,远程模型是初始模型Mointer形式的,它是带网格的平整表面,这里看到的是剖面图。接着,医生通过操纵移动单元SE1来定位患者P腹部上方的回波扫描探头SE2。然后初始模型Moinit变成了中间模型Mointer,仍旧是平整表面的形式,但是与患者腹部的上部相切。换句话说,模型的点的垂直坐标已经下降了初始模型Moinit从患者腹部项部分开的距离,初始模型Moinit和中间模型Mointer处于水平面上。
然后医生水平移动探头SE1,例如使其处于与中间模型Mointer平齐的位置7,然后使移动单元处于位置8,以便使回波扫描探头SE2与患者P的腹部接触。一旦患者P的腹部对探头SE2施加的反馈力超过了范围的下限,并且发送给了系统S1,所述系统S1记录如同属于患者P腹部外部上表面的位置。实际上,医生可以进行曲线运动,以致探头随着患者P腹部上表面运动,这既是为了患者的舒适也是由于方法本身的速度的缘故。此外,在移动单元SE1的任何位移超出模型期间,移动单元SE1将会对医生的手施加非常小的反馈力,以致感受到这种超出。所述力由系统S1来控制并由接口I1来施加,在小于所述范围的较小的下限时,它是可以调节的。所述的力可以包括不变部分比如静摩擦和正比于移动单元SE1的移动速度的变化部分。
图7示意性地示出了所述方法的各个步骤。在初始化步骤10,探头SE2和移动单元SE1处于待命或者静止位置,以使患者上检查台或者离开检查台。在步骤11,医生控制探头SE2向患者P的腹部靠近。在步骤12,探头SE2和患者腹部上部接触,系统S1记录第一接触点的坐标和远程模型从初始远程模型Moinit到中间远程模型Mointer的位移。在步骤13,医生使探头经过患者腹部的上表面。认为在每个时刻的具体坐标点都属于患者P腹部的上表面,中间的远程模型Mointer是一个个变形的网格或者节点,以致密切匹配患者P腹部上表面的形状。因此,获得最终的远程模型Mofin。
远程模型Mo可以包括变化的或者固定的网格大小。也可以实现进一步的细分,以致在局部区域改善模型。
在定标的最后,系统S1在存储器中存储最终的远程模型,这允许系统有非常简短的响应时间进行反应,即使传输网络3有很大的时间延迟。随后,当医生移动移动单元SE1跨过最后的远程模型时,系统S1将会向移动单元施加力,仿真患者P的腹部对探头的反馈力。有可能通过添加摩擦限制来避免移动单元SE1过快的移动,因此避免回波扫描探头的过快移动。
因此,本发明通过使用它的医生的移动来实现几何网格的变形。通过医生的直接扫描来执行虚拟人体模型和远程模型的远程定标,以便将开始的网格或者初始的远程模型拉伸到体形迅速从一个人变成另一个人的患者的形状,所述体形特别是指处于怀孕阶段的体形。因此能够触诊处于远程控制站中的人或者物体,这就可以近似三维形状和领会人或者物体的表面,而照相机并非绝对必要的。在应用的环境中使用了力反馈系统,所提出的方法可以远程重建三维形状,而不借助于诸如激光记录或者立体摄影测量方法之类早期的方法。
Claims (10)
1.一种远程重建表面的方法,其特征在于:
本地系统将有关所述本地系统的移动单元的位置的信息发送到远程系统,本地系统的移动单元复制远程系统的移动单元的位置,远程系统包括该表面的远程模型,
远程操作人员移动远程系统的移动单元,当本地系统的移动单元与所述的表面接触时,针对本地系统的移动单元和所述表面之间的每个接触点来修改所述远程模型,以便于远程模型近似所述表面。
2.根据权利要求1所述的方法,其特征在于远程模型最初是带网格的平整表面。
3.根据权利要求1或者2所述的方法,其特征在于远程模型沿着与所述表面的一部分垂直的方向平移运动,直到本地系统的移动单元与所述表面的第一接触点整体近似所述表面,所述表面的一部分与远程模型的一部分垂直。
4.根据前面权利要求中任何一项所述的方法,其特征在于接触点是本地系统的移动单元和所述表面公共空间中的点,以便本地系统的移动单元向所述表面施加预定的力。
5.根据前面权利要求中任何一项所述的方法,其特征在于远程模型包括多个节点,一个节点通过沿着轴的平移来近似所述表面。
6.根据前面权利要求中任何一项所述的方法,其特征在于远程系统的移动单元复制所述表面施加在本地系统的移动单元上的反作用力,以致操作人员感受到所述反作用力并能够感觉到所述的表面。
7.根据前面权利要求中任何一项所述的方法,其特征在于在初始化阶段,远程系统的移动单元复制本地系统的移动单元的位置。
8.根据前面权利要求中任何一项所述的方法,其特征在于当本地系统的移动单元向包含在模型和所述表面之间包含的一部分空间中的所述表面位移时,远程系统的移动单元施加制动力。
9.一种远程重建表面的系统,其特征在于包括:
本地系统(S2),其具有能够与要重建的所述表面进行接触的移动单元(SE2);和远程系统(S1),其具有能够被操作人员控制的移动单元(SE1);表面的远程模型;和当本地系统的移动单元接触所述表面时用于修改本地系统的移动单元和所述表面之间的每个接触点的远程模型,以便远程模型近似所述表面的装置,本地系统具有用于将关于所述本地系统的移动单元的位置的信息发送到远程系统的装置,以及具有用来复制远程系统的移动单元的位置的装置。
10.一种包括程序代码装置的计算机程序,当所述程序在计算机上运行时,所述程序代码装置用来实现权利要求1到8中的任何一项所述的方法的步骤。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
FR0103828A FR2822573B1 (fr) | 2001-03-21 | 2001-03-21 | Procede et systeme de reconstruction a distance d'une surface |
FR01/03828 | 2001-03-21 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1458837A true CN1458837A (zh) | 2003-11-26 |
CN1228031C CN1228031C (zh) | 2005-11-23 |
Family
ID=8861392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB028007735A Expired - Fee Related CN1228031C (zh) | 2001-03-21 | 2002-03-14 | 远程重建表面的方法和系统 |
Country Status (11)
Country | Link |
---|---|
US (1) | US20030144768A1 (zh) |
EP (1) | EP1370188B1 (zh) |
JP (1) | JP2004519340A (zh) |
CN (1) | CN1228031C (zh) |
AT (1) | ATE335442T1 (zh) |
CA (1) | CA2409369A1 (zh) |
DE (1) | DE60213769T2 (zh) |
ES (1) | ES2271236T3 (zh) |
FR (1) | FR2822573B1 (zh) |
NO (1) | NO20025571L (zh) |
WO (1) | WO2002074177A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110913792A (zh) * | 2017-06-06 | 2020-03-24 | 直观外科手术操作公司 | 用于远程操作系统中基于状态的语音识别的系统和方法 |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4613330B2 (ja) * | 2001-04-17 | 2011-01-19 | 学校法人慶應義塾 | マスタスレーブ装置、制御方法及びコンピュータープログラム |
US7613313B2 (en) * | 2004-01-09 | 2009-11-03 | Hewlett-Packard Development Company, L.P. | System and method for control of audio field based on position of user |
US20080021317A1 (en) * | 2006-07-24 | 2008-01-24 | Siemens Medical Solutions Usa, Inc. | Ultrasound medical imaging with robotic assistance for volume imaging |
JP2010504127A (ja) * | 2006-09-25 | 2010-02-12 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | ハプティックフィードバックを用いた医用スキャニング方法及び装置 |
WO2009067765A1 (en) * | 2007-11-29 | 2009-06-04 | Commonwealth Scientific And Industrial Research Organisation | A system and method for providing remote indication |
US10875182B2 (en) * | 2008-03-20 | 2020-12-29 | Teladoc Health, Inc. | Remote presence system mounted to operating room hardware |
US8565476B2 (en) * | 2009-01-30 | 2013-10-22 | Microsoft Corporation | Visual target tracking |
US8577084B2 (en) * | 2009-01-30 | 2013-11-05 | Microsoft Corporation | Visual target tracking |
US8267781B2 (en) | 2009-01-30 | 2012-09-18 | Microsoft Corporation | Visual target tracking |
US8682028B2 (en) * | 2009-01-30 | 2014-03-25 | Microsoft Corporation | Visual target tracking |
US8565477B2 (en) * | 2009-01-30 | 2013-10-22 | Microsoft Corporation | Visual target tracking |
US8577085B2 (en) | 2009-01-30 | 2013-11-05 | Microsoft Corporation | Visual target tracking |
US8588465B2 (en) | 2009-01-30 | 2013-11-19 | Microsoft Corporation | Visual target tracking |
US20110125022A1 (en) * | 2009-11-25 | 2011-05-26 | Siemens Medical Solutions Usa, Inc. | Synchronization for multi-directional ultrasound scanning |
US9149929B2 (en) * | 2010-05-26 | 2015-10-06 | The Boeing Company | Methods and systems for inspection sensor placement |
DE102010038427A1 (de) * | 2010-07-26 | 2012-01-26 | Kuka Laboratories Gmbh | Verfahren zum Betreiben eines medizinischen Roboters, medizinischer Roboter und medizinischer Arbeitsplatz |
KR102258800B1 (ko) * | 2014-05-15 | 2021-05-31 | 삼성메디슨 주식회사 | 초음파 진단장치 및 그에 따른 초음파 진단 방법 |
US10671163B2 (en) | 2018-07-24 | 2020-06-02 | Microsoft Technology Licensing, Llc | Refining virtual mesh models through physical contacts |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3527533A (en) * | 1964-08-25 | 1970-09-08 | Trw Inc | Method and apparatus for deriving and processing topographical information |
US3915061A (en) * | 1973-05-07 | 1975-10-28 | John H Stockman | Method for engraving graphical representations upon workable materials |
DE3925275A1 (de) * | 1989-07-31 | 1991-02-07 | Kernforschungsz Karlsruhe | Verfahren zur manipulation in unzugaenglichen arbeitsraeumen |
US5390125A (en) * | 1990-02-05 | 1995-02-14 | Caterpillar Inc. | Vehicle position determination system and method |
SE468198B (sv) * | 1990-12-12 | 1992-11-23 | Nobelpharma Ab | Foerfarande och anordning foer framstaellning av individuellt utformade tredimensionella kroppar anvaendbara som tandersaettningar, proteser, etc |
SE469158B (sv) * | 1991-11-01 | 1993-05-24 | Nobelpharma Ab | Dental avkaenningsanordning avsedd att anvaendas i samband med styrning av en verkstadsutrustning |
US6963792B1 (en) * | 1992-01-21 | 2005-11-08 | Sri International | Surgical method |
US5477459A (en) * | 1992-03-06 | 1995-12-19 | Clegg; Philip M. | Real time three-dimensional machine locating system |
ZA952853B (en) * | 1994-04-18 | 1995-12-21 | Caterpillar Inc | Method and apparatus for real time monitoring and co-ordination of multiple geography altering machines on a work site |
US5882206A (en) * | 1995-03-29 | 1999-03-16 | Gillio; Robert G. | Virtual surgery system |
-
2001
- 2001-03-21 FR FR0103828A patent/FR2822573B1/fr not_active Expired - Fee Related
-
2002
- 2002-03-14 JP JP2002572891A patent/JP2004519340A/ja active Pending
- 2002-03-14 DE DE60213769T patent/DE60213769T2/de not_active Expired - Lifetime
- 2002-03-14 US US10/296,298 patent/US20030144768A1/en not_active Abandoned
- 2002-03-14 EP EP02716893A patent/EP1370188B1/fr not_active Expired - Lifetime
- 2002-03-14 AT AT02716893T patent/ATE335442T1/de not_active IP Right Cessation
- 2002-03-14 ES ES02716893T patent/ES2271236T3/es not_active Expired - Lifetime
- 2002-03-14 CA CA002409369A patent/CA2409369A1/fr not_active Abandoned
- 2002-03-14 WO PCT/FR2002/000912 patent/WO2002074177A1/fr active IP Right Grant
- 2002-03-14 CN CNB028007735A patent/CN1228031C/zh not_active Expired - Fee Related
- 2002-11-20 NO NO20025571A patent/NO20025571L/no not_active Application Discontinuation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110913792A (zh) * | 2017-06-06 | 2020-03-24 | 直观外科手术操作公司 | 用于远程操作系统中基于状态的语音识别的系统和方法 |
Also Published As
Publication number | Publication date |
---|---|
EP1370188B1 (fr) | 2006-08-09 |
CA2409369A1 (fr) | 2002-09-26 |
CN1228031C (zh) | 2005-11-23 |
NO20025571D0 (no) | 2002-11-20 |
NO20025571L (no) | 2003-01-21 |
US20030144768A1 (en) | 2003-07-31 |
ATE335442T1 (de) | 2006-09-15 |
WO2002074177A1 (fr) | 2002-09-26 |
EP1370188A1 (fr) | 2003-12-17 |
FR2822573B1 (fr) | 2003-06-20 |
ES2271236T3 (es) | 2007-04-16 |
FR2822573A1 (fr) | 2002-09-27 |
JP2004519340A (ja) | 2004-07-02 |
DE60213769D1 (de) | 2006-09-21 |
DE60213769T2 (de) | 2007-08-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1228031C (zh) | 远程重建表面的方法和系统 | |
Burdea et al. | Multimodal virtual reality: Input‐output devices, system integration, and human factors | |
US20220011855A1 (en) | System and Methods for On Body Gestural Interfaces and Projection Displays | |
Xu et al. | Point cloud-based model-mediated teleoperation with dynamic and perception-based model updating | |
CN105159459B (zh) | 一种可用于移动终端的虚拟物体三维形状触觉再现方法 | |
CN107908000B (zh) | 一种带有超声虚拟触觉的混合现实系统 | |
CN113842165B (zh) | 便携式远程超声扫查系统与安全超声扫查柔顺控制方法 | |
US20120188192A1 (en) | Tactile display and cad system | |
CN110515459A (zh) | 一种辅助盲人感知的超声波触觉反馈系统及其方法 | |
Xia | New advances for haptic rendering: state of the art | |
CN110147161A (zh) | 基于超声波相控阵的多指绳索力触觉反馈装置及其反馈方法 | |
CN106502393A (zh) | 一种面向触摸屏的手指外骨架可穿戴式力触觉交互装置 | |
CN115461785A (zh) | 生成非线性人类形状模型 | |
Frisoli et al. | Kinematic design of a two contact points haptic interface for the thumb and index fingers of the hand | |
Lee et al. | Hairtouch: Providing stiffness, roughness and surface height differences using reconfigurable brush hairs on a vr controller | |
CN113311946A (zh) | 一种面向移动终端应用的多模式指套式装置 | |
JP2001236520A (ja) | 仮想空間における動作入力方法および装置およびその動作入力プログラムを記録した記録媒体および仮想空間システム | |
Kameyama et al. | A shape modeling system with a volume scanning display and multisensory input device | |
Cañero et al. | Mobile tele-echography: user interface design | |
Young et al. | Design of a parallel continuum manipulator for 6-DOF fingertip haptic display | |
US11048331B2 (en) | Haptic feedback device | |
Saraiji et al. | Enforced telexistence: teleoperating using photorealistic virtual body and haptic feedback | |
CN109144261A (zh) | 一种基于平面交互的三维触觉再现装置与方法 | |
JP3291763B2 (ja) | 入力装置 | |
Wang et al. | Novel emerging sensing, actuation, and control techniques for haptic interaction and teleoperation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20051123 Termination date: 20120314 |