CN1662067A - 运动检测方法及动态图像编码方法 - Google Patents
运动检测方法及动态图像编码方法 Download PDFInfo
- Publication number
- CN1662067A CN1662067A CN2005100529139A CN200510052913A CN1662067A CN 1662067 A CN1662067 A CN 1662067A CN 2005100529139 A CN2005100529139 A CN 2005100529139A CN 200510052913 A CN200510052913 A CN 200510052913A CN 1662067 A CN1662067 A CN 1662067A
- Authority
- CN
- China
- Prior art keywords
- reference block
- mentioned
- center
- error
- exploration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000033001 locomotion Effects 0.000 title claims abstract description 211
- 238000000034 method Methods 0.000 title claims description 81
- 239000013598 vector Substances 0.000 claims abstract description 84
- 238000004364 calculation method Methods 0.000 claims abstract description 72
- 238000001514 detection method Methods 0.000 claims description 67
- 238000012360 testing method Methods 0.000 claims description 55
- 238000010586 diagram Methods 0.000 claims description 13
- 101100309447 Caenorhabditis elegans sad-1 gene Proteins 0.000 abstract 2
- 238000012545 processing Methods 0.000 description 25
- 230000015572 biosynthetic process Effects 0.000 description 17
- 238000005755 formation reaction Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 16
- 230000009471 action Effects 0.000 description 10
- 238000003860 storage Methods 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 239000004744 fabric Substances 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000009792 diffusion process Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000001228 spectrum Methods 0.000 description 5
- 101100478627 Arabidopsis thaliana S-ACP-DES2 gene Proteins 0.000 description 4
- 101100257981 Arabidopsis thaliana S-ACP-DES3 gene Proteins 0.000 description 4
- 101000836261 Homo sapiens U4/U6.U5 tri-snRNP-associated protein 2 Proteins 0.000 description 4
- 101150038966 SAD2 gene Proteins 0.000 description 4
- 101150093202 SAD3 gene Proteins 0.000 description 4
- 101100325615 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) MEC1 gene Proteins 0.000 description 4
- 102100027243 U4/U6.U5 tri-snRNP-associated protein 2 Human genes 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 241001269238 Data Species 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000012467 final product Substances 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 238000012856 packing Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000013139 quantization Methods 0.000 description 1
- 230000008929 regeneration Effects 0.000 description 1
- 238000011069 regeneration method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A23—FOODS OR FOODSTUFFS; TREATMENT THEREOF, NOT COVERED BY OTHER CLASSES
- A23L—FOODS, FOODSTUFFS, OR NON-ALCOHOLIC BEVERAGES, NOT COVERED BY SUBCLASSES A21D OR A23B-A23J; THEIR PREPARATION OR TREATMENT, e.g. COOKING, MODIFICATION OF NUTRITIVE QUALITIES, PHYSICAL TREATMENT; PRESERVATION OF FOODS OR FOODSTUFFS, IN GENERAL
- A23L11/00—Pulses, i.e. fruits of leguminous plants, for production of food; Products from legumes; Preparation or treatment thereof
- A23L11/70—Germinated pulse products, e.g. from soy bean sprouts
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/533—Motion estimation using multistep search, e.g. 2D-log search or one-at-a-time search [OTS]
-
- A—HUMAN NECESSITIES
- A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
- A47J—KITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
- A47J27/00—Cooking-vessels
- A47J27/002—Construction of cooking-vessels; Methods or processes of manufacturing specially adapted for cooking-vessels
-
- A—HUMAN NECESSITIES
- A47—FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
- A47J—KITCHEN EQUIPMENT; COFFEE MILLS; SPICE MILLS; APPARATUS FOR MAKING BEVERAGES
- A47J36/00—Parts, details or accessories of cooking-vessels
- A47J36/06—Lids or covers for cooking-vessels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/414—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
- H04N21/41422—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance located in transportation means, e.g. personal vehicle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/61—Network physical structure; Signal processing
- H04N21/6106—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
- H04N21/6143—Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via a satellite
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
Abstract
本发明提供运动检测方法及动态图像编码方法。运动向量检测部(106)包括:误差计算部(202),分别计算对象块数据tar_img与9附近的参照块数据ref_img的误差SAD1~误差SAD9;误差最小块确定部(203),确定误差SAD1~误差SAD9之中误差为最小的误差最小块,输出该位置的运动向量mvmin;结束判定部(204),进行是否结束运动检测的判定;探索中心确定部(205),根据误差最小块的位置,以作为探索中心的参照块的移动量大于等于2像素的方式,来确定作为下回的探索中心的参照块。
Description
技术领域
本发明涉及利用图像间的相关来效率好地压缩动态图像信号的图像编码方法等所使用的运动检测方法。
背景技术
近年来,迎来了综合地处理声音、图像、其它像素值的多媒体时代,现有的信息媒体,即报纸、杂志、电视、广播、电话等将信息传送给人的手段作为多媒体的对象被采纳。通常,所谓多媒体指不仅将文字,还同时将图形、声音特别是图像等相关联来表示,但为了将上述现有的信息媒体作为多媒体的对象,将上述信息变成数字形式来表示是必要条件。
但是,若对将上述各信息媒体所具有的信息量作为数字信息量进行估算,则文字的情况下,1文字相当的信息量是1~2字节,与之相对,声音的情况下,每1秒需要64Kbit(电话质量)以上的信息量,再有对于动画,每1秒需要100Mbit(当前电视接收质量)以上的信息量,用上述信息媒体将其庞大的信息用数字形式照原样进行处理是不现实的。例如,电视电话已经通过具有64Kbit/s~1.5Mbit/s的传输速度的服务综合数字网(ISDN:Intergrated Services DigitalNetwork)而实用化,但照原样用ISDN传送电视摄像机的图像是不可能的。
于是,需要一种信息的压缩技术,例如电视电话的情况,所使用的是由ITU-T(国际电信联合电信标准化部门)推荐的H.261或H.263标准的动画压缩技术。另外,若采用MPEG-1标准的信息压缩技术,则能够在普通的音乐用CD(Compact Disc)中输入声音信息和图像信息。
其中,所谓MPEG(Moving Picture Experts Group:运动图象专家组)是由ISO/IEC(国际标准化机构国际电气标准会议)标准化了的动态图像信号压缩的国际标准,MPEG-1是将动态图像信号压缩到1.5Mbit、即将电视信号的信息压缩到大约100分之一的标准。另外,在MPEG-1标准中,作为对象的品质是传送速度主要能以约1.5Mbit/s实现程度的中等程度的品质,所以在能满足更高品质要求的标准化了的MPEG-2中,实现对动态图像信号用2~15Mbit/s进行TV播放的品质。再有,目前通过标准化了的MPEG-1、MPEG-2的工作组(ISO/IEC JTC1/SC29/WG11),能达成超越MPEG-1、MPEG-2的压缩率,还能用物体单位进行编码/解码/操作,实现多媒体时代所需要的新的功能的MPEG-4被标准化。在MPEG-4中,最初虽然以低比特率的编码方法的标准化为目标进行的,但现在也包括隔行扫描(interlace)图像,还包括高比特率,被扩张到更通用的编码。再有,目前ISO-IEC和ITU-T共同制定了更高压缩率的下一代图像编码方法,MPEG-4 AVC和ITUH.264的标准化活动正在进行。在2002年8月的时候,下一代图像编码方式被发行,被称作委员会草案(committee draft)。
一般在动态图像的编码中,通过削减时间方向和空间方向的冗余性进行信息量的压缩。在此,以时间的冗余性的削减为目的的画面间预测编码中,参照前方或后方的图,以块单位进行运动的检测和预测图像的制作,对所得到的预测图像和编码对象图的差分值进行编码。其中,所谓“图”(picture)是表示一幅画面的术语。
将不制作预测图像进行画面内预测编码的图称作I图。另外,仅参照1幅图进行画面间预测编码的图称作P图。另外,同时参照2幅图进行画面间预测编码的图称作B图。B图能够参照显示时间从前方或后方任意组合的两幅图。
在P图或B图的编码中,使用运动补偿画面间预测编码。所谓运动补偿画面间预测编码,是指在画面间预测编码中应用了运动补偿的编码方式。所谓运动补偿,不是单纯地根据参照图的像素值进行预测,而是检测图内的各部的运动量(以下将其称作运动向量),进行考虑了该运动量的预测,由此提高预测精度,而且减少数据量的方式。例如,检测编码对象图(以后称作对象图)的运动向量,对仅移动了该运动向量部分的预测量与编码对象图的预测残差进行编码,由此减少数据量。在该方式的情况下,由于解码时需要运动向量的信息,所以运动向量也被编码或被传送。
运动向量以块单位被检测出,具体来说,将编码对象图侧的块固定,在探索范围内移动参照图侧的块,发现与对象块最相似的参照块的位置,由此检测出运动向量。探索该运动向量的处理被称作运动检测。
图1是说明运动检测的概要图。比较对象块和参照图的任意位置的块,检测最相似的块的位置。判断是否相似,一般使用对象块与参照块的比较误差,特别经常使用差的绝对值之和(SAD:SummedAbsolute Difference)。另外,若在参照图全体之中探索参照块,则运算量变得庞大,所以缩小参照图之中探索的范围,将该缩小的范围称作探索范围。
运动检测在动态图像编码处理之中,已知是运算量最多的处理,以前大多研究削减该运动检测的运算量的方法。特别是,在便携式终端等运算处理能力低的设备中,常使用运算量少的逐次探索方法(例如日本特开2000-333184号公报)。
图2是表示现有的运动检测方法的作为探索位置的参照块和作为探索中心的参照块的移动的概念图。其中,圆圈表示参照块的左上端像素的位置,简易地示出各参照块的位置。另外,数字表示伴随以下说明的例子中作为探索中心的参照块的移动而进行SAD的计算的各参照块的位置。
1)首先,对作为探索开始位置X的参照块Ba和从该参照块Ba向上下左右分别偏移了1像素的位置(以下简称为上下左右位置)的参照块Bb、Bc、Bd、Be,计算SAD,例如,在参照块Ba~参照块Be之中,若右边的参照块Bc的SAD最小,则探索中心向右移动。2)接着,对移动了的作为探索中心的参照块(这里是参照块Bc)的上下左右位置的参照块,计算SAD,若右边的参照块的SAD小,则将探索中心向右移动。3)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若右边的参照块的SAD小,则探索中心向右移动。4)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若下边的参照块的SAD小,则将探索中心向下移动。5)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若下边的参照块的SAD小,则将探索中心向下移动。6)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若右边的参照块的SAD小,则将探索中心向右移动。7)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若右边的参照块的SAD小,则将探索中心向右移动。8)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若下边的参照块的SAD小,则将探索中心向下移动。9)接着,对移动了的作为探索中心的参照块的上下左右位置的参照块,计算SAD,若作为探索中心的参照块的SAD小,则结束探索,将作为探索中心的参照块的位置Y设为SAD最小的位置、即最适当的运动向量。
但是,在这样的逐次探索中,在一次探索中,基本上作为探索中心的参照块只移动1像素,所以为了在有大运动的图中进行运动检测,多次反复进行作为探索中心的参照块的移动,高速的运动检测不能实现。
发明内容
本发明是鉴于上述问题而提出来的,其目的在于提供能高速地进行运动检测的运动检测方法和运动检测装置。
为了达成上述目的,本发明涉及的检测方法,用块单位检测运动向量,上述运动向量表示构成动态图像的图的运动量,其特征在于包括以下步骤:误差计算步骤,分别计算进行运动检测的对象图的对象块、与参照图中的作为探索中心的参照块和位于作为探索中心的上述参照块附近的参照块的误差;误差最小块确定步骤,确定由上述误差计算步骤计算出的上述误差为最小的参照块;结束判定步骤,进行是否结束运动检测的判定;探索中心确定步骤,根据由上述误差最小块确定步骤确定了的上述误差为最小的上述参照块的位置,作为探索中心的上述参照块的移动量大于等于2像素地确定作为下回的探索中心的参照块,再次执行上述误差计算步骤;以及运动向量检测步骤,由上述结束判定步骤判定了结束运动检测时,将表示由上述误差最小块确定步骤确定的上述参照块的位置的运动向量,确定为要检测的运动向量。
其中,优选在上述结束判定步骤中,位于由上述误差最小块确定步骤确定了的上述参照块周围的全部参照块,是根据作为上回和这回的探索中心的参照块,由上述误差计算步骤计算了上述误差的参照块,还在由上述探索中心确定步骤确定了的作为下回的探索中心的上述参照块与作为上回的探索中心的参照块相同时,判定结束运动检测。
另外,上述位于附近的参照块,也可以是从上述作为探索中心的参照块在水平方向上左右各移动了i像素(i是小于等于P的自然数、P是自然数)的参照块、在垂直方向上上下各移动了j像素(j是小于等于Q的自然数、Q是自然数)的参照块、以及在水平方向上左右各移动了i像素和在垂直方向上上下移动了j像素的参照块;在上述误差计算步骤中,并列地计算对上述作为探索中心的参照块和位于上述附近的参照块的合计(2P+1)×(2Q+1)的参照块的上述误差。
这样一来,由于可以削减作为探索中心的参照块的移动次数,所以高速的运动检测成为可能,例如即使对象块是大的运动,也能在预定的时间内进行运动检测。另外,由于关于作为探索中心的参照块和位于作为探索中心的上述参照块附近的参照块进行误差计算,所以确定作为下回的探索中心的参照块以使得作为探索中心的参照块的移动量大于等于2像素,也不会产生不进行误差计算就被跳过的参照块。
另外,由于对(2P+1)×(2Q+1)个参照块并列地计算误差,所以与现有技术相比较,伴随作为1次的探索中心的参照块的移动进行的运算量增多。但是,在逐次探索中需要的时间是用于读出像素值的时间和误差计算的时间,后者能通过增加运算器的个数进行削减,但前者不能削减。即,用于读出像素值的时间变成逐次探索的探索中心的移动所花时间的瓶颈,为了用预定的处理时间追踪大的运动,本发明的构成是有益的。
另外,本发明不仅可以作为这样的运动检测方法来实现,还可以作为将这样的运动检测方法所包括的步骤形成为单元的的运运动检测装置来实现,或者作为进行这样的运动检测方法的动态图像编码方法来实现,或者作为使计算机执行这些步骤的程序来实现。另外,这样的程序也可以通过CD-ROM等记录介质或因特网等传输介质来投递。
如上所述,根据本发明涉及的运动检测方法,可以削减作为探索中心的参照块的移动次数,高速的运动检测成为可能。因此,例如即使是对象块是大的运动时,也可以在预定的时间内进行运动检测,其使用价值高。
附图说明
图1是说明运动检测的概要图。
图2是表示现有的运动检测方法的作为探索位置的参照块和作为探索中心的参照块的移动的概念图。
图3是表示使用了本发明的实施方式1涉及的运动检测方法的动态图像编码装置的构成的块图。
图4是表示使用了本发明的实施方式1涉及的运动检测方法的运动向量检测部的构成的块图。
图5是表示本发明涉及的运动检测方法的作为探索位置的参照块和作为探索中心的参照块的移动的概念图,图5(a)是对9个参照块并列地进行了计算时,误差最小块是右中央的情况,图5(b)是对9个参照块并列地进行了计算时,误差最小块是右上的情况,图5(c)是对25个参照块并列地进行了计算时,误差最小块是右端中央的情况,图5(d)是对25个参照块并列地进行了计算时,误差最小块是从右端上起第2个的情况,图5(e)是对25个参照块并列地进行了计算时,误差最小块是右上端的情况。
图6是表示本发明涉及的运动检测方法的作为探索位置的参照块和作为探索中心的参照块的移动的概念图,图6(a)是误差最小块在右中央,而且探索范围有边界的情况,图6(b)(c)是误差最小块在右上,而且探索范围有边界的情况。
图7是表示本发明涉及的运动检测方法的结束运动检测时的概念图,图7(a)是对9个参照块并列地进行了计算时,上回的误差计算的误差最小块是右中央的情况,图7(b)是对9个参照块并列地进行了计算时,上回的误差计算的误差最小块是右上的情况,图7(c)是对25个参照块并列地进行了计算时,上回的误差计算的误差最小块是右端中央的情况,图7(d)是对25个参照块并列地进行了计算时,上回的误差计算的误差最小块是从右端上起第2个的情况,图7(e)是对25个参照块并列地进行了计算时,上回的误差计算的误差最小块是右上端的情况。
图8(a)是表示进行运动检测时的运动的流程的流程图,图8(b)是表示该动作中作为下回探索中心的参照块的确定处理的动作的流程的流程图。
图9是表示探索中心确定部所保持的用于确定作为下回的探索中心的参照块的变换表的一个例子的图,图9(a)是对9个参照块进行与对象块的误差计算的情况,图9(b)是对25个参照块进行与对象块的误差计算的情况。
图10是表示使用了本发明的实施方式2涉及的运动检测方法的运动向量检测部的构成的块图。
图11是表示使用计数器进行运动检测时的运动的流程的流程图。
图12是有关用于存储程序的纪录介质的说明图,上述程序用于利用计算机系统实现各实施方式的运动检测方法和动态图像编码方法,图12(a)是示出了纪录介质本体即软盘的物理格式的例子的说明图,图12(b)是示出了从软盘的正面看的外观、剖面构造和软盘的说明,图12(c)是表示用于在软盘FD上进行上述程序的纪录再现的构成的说明图。
图13是表示内容提供系统的全体构成的块图。
图14是表示便携式电话机的例子的概要图。
图15是表示便携式电话机的构成的块图。
图16是表示数字播放用系统的例子的图。
具体实施方式
以下,参照附图分别说明本发明的各实施方式。
(实施方式1)
图3是表示使用了本发明的实施方式1涉及的运动检测方法的动态图像编码装置的构成的块图。
动态图像编码装置具备:图存储器101、预测残差编码部102、代码串生成部103、预测残差解码部104、图存储器105、运动向量检测部106、运动补偿编码部107、差分运算部108、加法运算部109、以及开关110、111。
图存储器101存储按照显示时间顺序以图单位被输入的动态图像。
运动补偿编码部107使用由运动向量检测部106检测出的运动向量来确定块的编码模式,根据该编码模式生成预测图像数据(预测像素值)。例如,在使用了2幅参照图的图间预测编码模式的情况下,运动补偿编码部107使用由运动向量检测部106检测出的运动向量从2幅参照图求出2个参照块的像素值,生成预测图像数据。
差分运算部108运算由图存储器101读出的图像数据与由运动补偿编码部107输入的预测图像数据的差分,生成预测残差图像数据。
预测残差编码部102对所输入的预测残差图像数据进行频率变换和量子化等编码处理,生成编码数据。代码串生成部103对所输入的编码数据进行可变长编码等,还通过附加由运动补偿编码部107输入的运动向量的信息和编码模式的信息等生成代码串。
预测残差解码部104对所输入的编码数据进行逆量子化和逆频率变换等解码处理,生成解码差分图像数据。加法运算部109对由预测残差解码部104输入的解码差分图像数据与由运动补偿编码部107输入的预测图像数据进行加法运算,生成解码图像数据。图存储器105存储所生成的解码图像数据。
运动向量检测部106将编码完的解码图像数据作为参照图使用,进行运动向量的检测,该运动向量表示在该图内的探索区域,至与所输入的对象块最接近的图像区域的位置的运动量。
图4是表示运动向量检测部106的构成的块图。
运动向量检测部106具备块存储器201、误差计算部202、误差最小块确定部203、结束判定部204、探索中心确定部205、以及开关206。
块存储器201将所输入的对象块Vin存储在块单位中。
误差计算部202具有第1误差计算部202a、第2误差计算部202b、第3误差计算部202c、……、第9误差计算部202i,分别计算由块存储器201输入的对象块数据tar_img、与由图存储器105输入的9附近的参照块数据ref_imga、参照块数据ref_imgb、参照块数据ref_imgc、……、参照块数据ref_imgi的误差SAD1、误差SAD2、误差SAD3、……、误差SAD9。另外,在本实施方式中,对作为探索中心的参照块及位于其周围上下左右地各斜了1像素的位置的8个参照块的合计9个参照块,并列地进行计算。
误差最小块确定部203确定由误差计算部202计算出的误差SAD1、误差SAD2、误差SAD3、……、误差SAD9之中误差为最小的参照块(以下称作误差最小块),输出运动向量mvmin,该运动向量mvmin表示对该位置的对象块的运动量。
探索中心确定部205根据由误差最小块确定部203确定了的误差最小块的位置,确定作为下回的探索中心的参照块,以使得作为探索中心的参照块的移动量大于等于2像素。
图5是表示本发明涉及的运动检测方法的作为探索位置的参照块和作为探索中心的参照块的移动的概念图,图5(a)是误差最小块是右中央的情况,图5(b)是误差最小块是右上的情况。图6同样是表示作为探索位置的参照块和作为探索中心的参照块的移动的概念图,图6(a)是误差最小块在右中央,而且探索范围有边界的情况,图6(b)(c)是误差最小块在右上,而且探索范围有边界的情况。其中,圆圈与图1一样,表示参照块的左上端像素的位置,简单地示出各参照块的位置。
例如,误差最小块如图5(a)所示在右中央的情况下,探索中心确定部205将作为探索中心的参照块向右移动3个像素。另外,误差最小块如图5(b)所示在右上端的情况下,将作为探索中心的参照块向右移动2个像素、向上移动2个像素。
在本实施方式中,探索中心确定部205将如上所述的确定方法例如作为图9(a)所示的变换表来保持,参照该变换表来确定作为下回的探索中心的参照块。该变换表如图9(a)所示,使误差最小块的运动向量mvmin与作为这回的探索中心的参照块的运动向量mvcenter的差分、与作为下回的探索中心的参照块的运动向量mvcenter(作为这回的探索中心的参照块的运动向量mvcenter+从该运动向量mvcenter的移动量)相对应。另外,该变换表也可以至少使上述差分与上述移动量相对应。
再有,探索中心确定部205在确定作为下回的探索中心的参照块时,进行确定以使得作为下回的探索中心的参照块被包括在预定的探索范围内。
例如,在误差最小块如图6(a)所示在右中央、而且探索范围的边界位于向右偏移了2个像素的情况下,探索中心确定部205将作为探索中心的参照块向右移动了3个像素之后,将作为探索中心的参照块向左移动1个像素以使得9个参照块的探索位置全部被收纳在探索范围内。因此,最终探索中心向右移动2个像素。另外,在参照块的左上端的像素位于图6所示的位置的情况下,图6的探索范围的边界W是表示该参照块是否超出探索范围的边界。
另外,在误差最小块如图6(b)所示在右上端、而且探索范围的边界位于向右偏移了1个像素的情况下,探索中心确定部205将作为探索中心的参照块向右移动了2个像素、向上移动2个像素之后,将作为探索中心的参照块向左移动1个像素以使得9个参照块的探索位置全部被收纳在探索范围内。因此,最终探索中心向右移动1个像素、向上移动2个像素。
另外,在误差最小块如图6(c)所示在右上端、而且作为现在的探索对象的参照块是探索范围的边界的情况下,探索中心确定部205将作为探索中心的参照块向右移动了2个像素、向上移动2个像素之后,将作为探索中心的参照块向左移动2个像素以使得9个参照块的探索位置全部被收纳在探索范围内。因此,最终探索中心向上移动2个像素。
结束判定部204进行是否结束运动检测的判定,并在结束运动检测的情况下,将开关206控制为打开(ON),在不结束运动检测的情况下,将开关206控制为关断(OFF)。开关206是ON的状态的情况下,由误差最小块确定部203输出的运动向量mvmin被作为运动向量检测部106检测出的运动向量Mvout输出。
在位于误差最小块周围的全部参照块是在上回或这回的误差计算中被计算了误差的参照块,或者由探索中心确定部205确定了的作为下回的探索中心的参照块与作为上回的探索中心的参照块相同的情况下,结束判定部204判定结束运动检测。
图7是表示本发明涉及的运动检测方法的结束运动检测时的概念图,图7(a)是上回的误差计算的误差最小块是右中央的情况,图7(b)是上回的误差计算的误差最小块是右上的情况。
例如如图7(a)所示,在上回的误差计算的误差最小块是右中央的参照块、这回的误差计算的误差最小块是作为这回的探索中心或左中央的参照块的情况下,结束判定部204判定结束运动检测。另外,如图7(b)所示,在上回的误差计算的误差最小块是右上端的参照块、这回的误差计算的误差最小块是作为这回的探索中心的参照块的情况下,判定结束运动检测。
接着,说明如上所述构成了的动态图像编码装置的运动向量检测部106的动作。
图8(a)是表示进行运动检测时的动作的流程的流程图,图8(b)是表示该动作中作为下回探索中心的参照块的确定处理的动作的流程的流程图。
首先,将最小误差SADmin初始化为∞,将作为探索中心的参照块的初始值mvPred代入探索中心mvcenter(步骤a1)。接着,对作为探索中心的参照块、及位于其周围的参照块即N个参照块进行与对象块的误差计算(步骤a2)。在本实施方式中,如上所述,对9个参照块进行与对象参照块的误差计算。即,误差计算部202分别计算由块存储器201输入的对象块数据tar_img、与由图存储器105输入的作为探索中心的参照块以及位于其周围的参照块的参照块数据ref_imga、参照块数据ref_imgb、参照块数据ref_imgc、……、参照块数据ref_imgi的误差SAD1、误差SAD2、误差SAD3、……、误差SAD9。
接着,误差最小块确定部203确定由误差计算部202计算出的误差SAD1、误差SAD2、误差SAD3、……、误差SAD9、以及上回被确定的最小误差SADmin(最初的最小误差SADmin是∞)之中误差为最小的误差最小块,将该误差SADc设定为最小误差SADmin,将表示相对该位置的对象块的运动量的运动向量mvc作为运动向量mvmin输出(步骤a3)。
接着,结束判定部204判定位于误差最小块周围的全部参照块是否是在上回或这回的误差计算中被计算了误差的参照块(步骤a4)。该判定结果是位于误差最小块周围的全部参照块是在上回或这回的误差计算中被计算了误差的参照块(在步骤a4为“是”)的情况下,结束运动检测的处理,将误差最小块的运动向量mvmin作为运动向量检测部106检测出的运动向量MVout输出(步骤a7)。
另一方面,在上述判定结果是位于误差最小块周围的全部参照块不是在上回或这回的误差计算中被计算了误差的参照块(在步骤a4为“否”)的情况下,探索中心确定部205进行作为下回的探索中心的参照块的确定处理(步骤a5)。接着,结束判定部204判定由探索中心确定部205确定了的作为下回的探索中心的参照块是否与作为上回的探索中心的参照块相同(步骤a6)。在该判定结果是作为这回的探索中心的参照块与作为上回的探索中心的参照块相同的情况下(在步骤a6为“是”),结束运动检测的处理,将误差最小块的运动向量mvmin作为运动向量检测部106检测出的运动向量MVout输出(步骤a7)。
另一方面,在该判定结果是作为这回的探索中心的参照块与作为上回的探索中心的参照块不同的情况下(在步骤a6为“否”),反复从误差计算和误差最小块的确定处理(步骤a2)到结束判定处理(步骤a6)。
接着,详细地说明作为下回的探索中心的参照块的确定处理(步骤a5)。
探索中心确定部205根据由误差最小块确定部203确定了的误差最小块的位置,确定作为下回的探索中心的参照块(步骤b1)。即,探索中心确定部205根据当前时刻的误差最小块的运动向量mvmin和作为这回的探索中心的参照块的运动向量mvcenter,参照图9所示的变换表来确定作为下回的探索中心的参照块。
接着,探索中心确定部205进行该运动向量mvcenter的水平成分的值的拉拢处理,以使得确定了的作为下回的探索中心的参照块的运动向量mvcenter的水平成分被收纳在探索范围内(步骤b2)。接着,探索中心确定部205进行该运动向量mvcenter的垂直成分的值的拉拢处理,以使得确定了的作为下回的探索中心的参照块的运动向量mvcenter的垂直成分被收纳在探索范围内(步骤b3)。
如上所述,对作为探索中心的参照块及位于其周围斜着上下左右偏移了各1个像素的位置的8个参照块总计9个参照并列地进行计算,求出误差最小块,对应该误差最小块的位置,确定作为下回探索中心的参照块,以使得作为探索中心的参照块的移动量大于等于2个像素,所以可以削减作为探索中心的参照块的移动次数,高速的动作检测成为可能。因此,例如即使对象块大是的运动,也可以在预定时间内进行动作检测。
另外,在本实施方式中,误差计算部202对作为探索中心的参照块及位于其周围沿着斜上下左右各偏移了1个像素的位置的8个参照块总计9个参照并列地进行误差的计算,但并不限于此。例如,误差计算部202也可以构成为,对作为中心的参照块、及位于其周围沿着斜上下左右偏移了各1个像素和2个像素的位置的24个参照块总计25个参照块并列地计算。
此时,探索中心确定部205在误差最小块如图5(c)所示在右中央的情况下,使作为探索中心的参照块向右移动5个像素。另外,误差为最小的参照块如图5(d)所示从右上起第2个参照块的情况下,使作为探索中心的参照块向右移动5个像素,向上移动1个像素。另外,误差为最小的块如图5(e)所示在右上端的情况下,使作为探索中心的参照块向右移动4个像素,向上移动4像素。即,探索中心确定部205保持如图9(b)所示的变换表即可。
另外,在如图7(c)所示,上回的误差计算的误差最小块是右中央的参照块、这回的误差计算的误差最小块是不位于这回与上回的误差计算的对象的参照块的端部的参照块的情况下,结束判定部204进行判定,判定结束动作检测。另外,在如图7(d)所示,上回的误差计算的误差最小块是从右上起第2个参照块、这回的误差计算的误差最小块是不位于这回与上回的误差计算的对象的参照块的端部的参照块的情况下,进行判定,判定结束动作检测。另外,在如图7(e)所示,上回的误差计算的误差最小块是从右上端的参照块、这回的误差计算的误差最小块是不位于这回的误差计算的对象的参照块的端部的参照块的情况下,进行判定,判定结束动作检测
另外,在本实施方式中,误差计算部202可以构成为,具有第1误差计算部202a、第2误差计算部202b、第3误差计算部202c、……第9误差计算部202i,可以并列地计算与作为探索中心的参照块及位于其周围的参照块相关的误差,但并不限于此。也能作为软件进行安装,例如使用具有多个运算器的处理器等也是有效的。
(实施方式2)
在上述实施方式1中,结束判定部204判定运动检测处理的结束,但在本实施方式中,对在结束判定部204的结束判定之外,还使用计数器进行运动检测处理的结束的情况进行说明。
图10是表示图3所示的运动向量检测部106的构成的框图。另外,对与图4相同的部分附带相同符号,省略详细的说明。
运动向量检测部106在实施方式1的构成的基础上,还具有计数器301。计数器301对运动向量mvmin从误差最小块确定部203被输出的次数、即作为探索中心的参照块被更新的次数进行计测。另外,在计测的次数变成预定的阈值TH_me_cnt的情况下,计数器301将开关206控制为ON。其结果,从误差最小块确定部203输出的运动向量mvmin作为运动向量检测部106检测出的运动向量Mvout被输出。另外,计数器301在计测出的次数不足预定的阈值TH_me_cnt的情况下,将开关206控制成OFF。
图11是表示使用计数器进行运动检测时的动作的流程的流程图。另外,对与图8(a)一样的动作,附带相同符号,省略详细的说明。
与图8(a)所示的实施方式1的动作的不同之处在于,首先,将最小误差SADmin初始化为∞,将作为探索中心的参照块的初期值mvPred代入探索中心mvcenter的动作之外,还将次数cnt初始化为0(步骤c1)。
另外,在判断作为下回的探索中心的参照块是否与作为上回的探索中心的参照块相同的判断处理(步骤a6)中,在作为下回的探索中心的参照块与作为上回的探索中心的参照块不同的情况下(在步骤a6是“否”),计数器301将次数cnt加1(步骤c2),次数cnt在次数到预定的阈值TH_me_cnt之前,反复从误差计算和误差最小块的确定处理(步骤a2)到结束判定处理(步骤a6)。
另一方面,若次数cnt的次数变成预定的阈值TH_me_cnt,则结束从误差计算和误差最小块的确定处理(步骤a2)到结束判定处理(步骤a6)的反复,将此时的误差最小块的运动向量mvmin作为运动向量检测部106检测出的运动向量MVout输出(步骤a7)。
如以上所述,在结束判定部204的结束判定的基础上,由计数器31计测的次数变成预定的阈值TH_me_cnt的情况下,结束动作检测,所以在需要例如在预定的时间内结束运动检测的情况下,可以在预定的时间内结束运动检测。
另外,在上述各实施方式中,作为对象块与参照块的比较误差使用差的绝对值之和(SAD:Summed Absolute Difference),但不限于此。例如,作为对象块与参照块的比较误差也可以使用差分2次方之和等。
(实施方式3)
再有,通过将用于实现上述各实施方式中示出了的运动检测方法的程序记录在软盘等纪录介质中,在独立的计算机系统中简单地实施在上述各实施方式中示出的处理成为可能。
图12是使用软盘等纪录介质纪录的程序,通过计算机实施上述各实施方式的运动检测方法的情况的说明图。
图12(b)示出了从软盘的正面看到的外观、剖面构造和软盘,图12(a)示出了纪录介质本体即软盘的物理格式的例子。软盘FD被内置在壳F内,在该盘的表面,同心圆状地从外周向内周形成了多个道Tr,各道沿角度方向被分成16个扇区Se。因此,在存储了上述程序的软盘中,上述程序被记录在软盘FD上所分配的区域。
另外,图12(c)表示用于在软盘FD上进行上述程序的纪录再生的构成。在软盘FD上记录实现运动检测方法的上述程序的情况,从计算机系统Cs经软驱写入上述程序。另外,利用实现软盘内的运动检测方法的程序,在计算机系统中构筑上述运动检测方法的情况,利用软驱从软盘读出程序,传送至计算机系统。
另外,在上述说明中,对纪录介质使用软盘进行了说明,使用光盘也可以同样地进行。另外,纪录介质不限于此,是IC卡、ROM盒等能纪录程序的装置同样可以实施。
(实施方式4)
在此,说明上述实施方式中示出的运动检测方法的应用例和使用该应用例的系统。
图13是表示实现内容投递服务的内容提供系统ex100的全体构成的块图。将通信服务的提供区分成所期望的大小,在各单元内分别设置作为固定广播电台的基站ex107~ex110。
该内容提供系统ex100,例如在因特网ex101上,经由因特网服务提供者ex102和电话网络ex104和基站ex107~ex110,连接了计算机ex111、PDA(personal digital assistant)ex112、照相机ex113、便携式电话机ex114、带照相机的便携式电话机ex115等各设备。
但是,内容提供系统ex100不被限定为图13所示的组合,也可以任意组合进行连接。另外,各设备也可以不经由作为固定广播电台的基站ex107~ex110,而与电话网ex104直接连接。
照相机ex113是数字视频照相机(摄像机)等能进行动画摄影的设备。另外,便携式电话机是PDC(Personal Digital Communications)方式、CDMA(Code Division Multiple Access)方式、W-CDMA(Wideband-code Division Multiple Access)方式、或GSM(GlobalSystem for Mobile Communications)方式的便携式电话机、或PHS(Personal Handyphone System)等,任意一种都可以。
另外,流服务器(Streaming Server)ex103从照相机ex113通过基站109、电话网EX104被连接,使用照相机ex113能进行基于用户发送的被编码处理过的数据的实况(1ive)投递等。已拍摄的数据的编码处理可以通过照相机ex113进行,也可以通过进行数据的传送处理的服务器等进行。另外,由照相机ex116拍摄的动画数据也可以经计算机ex111发送到流服务器ex103。照相机ex116是数字照相机等能拍摄静止画、动画的设备。此时,动画数据的编码可以通过ex116进行,也可以通过计算机ex111进行。另外,编码处理在计算机ex111和照相机ex116所具有的LSI ex117中进行处理。另外,也可以在作为通过计算机ex111等能读取的纪录介质的任何存储介质(CD-ROM、软盘、硬盘等)中装入图像编码/解码用的软件。再有,也可以用带有照相机的便携式电话机ex115发送动画数据。此时的动画数据可以是用便携式电话机ex115所具有的LSI进行了编码处理的数据。
在该内容提供系统ex100中,与上述实施方式一样地对用户用照相机ex113、照相机ex116等拍摄的内容(例如拍摄了音乐实况的影像等)进行编码处理,发送到流服务器ex103,另一方面,流服务器ex103对符合要求的客户机流投递上述内容数据。作为客户机,有能将上述被编码处理过的数据进行解码的计算机ex111、PDAex112、照相机ex113、便携式电话机ex114等。这样一来,内容提供系统ex100是可以在客户机中接收并再现被编码的数据,还可以在客户机中实时接收、解码并再现被编码的数据,由此也能实现个人播放的系统。
构成该系统的编码中所使用的运动检测部中,使用上述各实施方式中示出了的运动检测即可。
作为一个例子,对便携式电话机进行说明。
图14是表示使用了上述实施方式中说明过的运动检测方法的便携式电话机ex115的图。便携式电话机ex115具有:用于在与基站ex110之间发送接收电波的天线ex201;CCD照相机等能拍摄影像、静止画的照相机部ex203;将由照相机部ex203拍摄的影像、由天线ex201接收的影像等被编码了的数据进行显示的液晶显示器等显示部ex202;由操作键ex204组构成的本体部;用于进行声音输出的扬声器等声音输出部ex208;用于进行声音输入的麦克等声音输入部205;用于保存已拍摄的动画或静止画的数据、已接收的邮件的数据、动画的数据或静止画的数据等、已被编码的数据或已被解码的数据的纪录介质ex207;以及用于能在便携式电话机ex115中安装纪录介质ex207的槽口部ex206。记录介质ex207是在SD卡等塑料壳内容纳了快闪存储器元件的介质,该快闪存储器是作为能电改写擦除的非易失性存储器的EEPROM(Electrically Erasable and Programmable Read OnlyMemory)的一种。
再有,使用图15说明便携式电话机ex115。便携式电话机ex115相对于对具有显示部ex202和操作键ex204的本体部的各部进行总括控制的主控制部ex311,电源电路部ex310、操作输入控制部ex304、图像编码部ex312、照相机接口部ex303、LCD(Liquid CrystalDisplay)控制部ex302、图像解码部ex309、复用分离部ex308、记录再现部ex307、调制解调电路部ex306和声音处理部ex305经由同步总线ex313被互相连接。
电源电路部ex310,在通过用户的操作变成中止通话和电源键变成开的状态时,从电池组对各部供应电力,由此将带照相机的便携式电话机ex115启动成能动作的状态。
便携式电话机ex115基于由CPU、ROM和RAM等构成的主控制部ex311的控制,在声音通话模式时,将由声音输入部ex205集音了的声音信号通过声音处理部ex305变换成数字声音数据,用调制解调电路部ex306对其进行射频频谱扩散处理,用发送接收电路部ex301进行了数字模拟变换处理和频率变换处理之后,经由天线ex201发送。另外,便携式电话机ex115对在声音通话模式时由天线ex201接收了的接收数据进行放大,进行频率变换处理和模拟数字变换处理,用调制解调电路部ex306进行射频频谱逆扩散处理,利用声音处理部ex305变换成模拟声音数据之后,将其经由声音输出部ex208输出。
再有,在数据通信模式时发送电子邮件的情况下,通过本体部的操作键ex204的操作而被输入的电子邮件的正文数据,经由操作输入控制部ex304被输出到主控制部ex311。主控制部ex311用调制解调电路部ex306对正文数据进行射频频谱扩散处理,用接收发送电路部ex301进行数字模拟变换处理和频率变换处理之后,经由天线ex201发送到基站ex110。
在数字通信模式时发送图像数据的情况下,将由照相机部ex203拍摄的图像数据经由照相机接口部ex303提供给图像编码部ex312。另外,不发送图像数据的情况下,能将由照相机部ex203拍摄的图像数据经由照相机接口部ex303和LCD控制部ex302直接显示在显示部ex202上。
图像编码部ex312是具有本发明说明过的动态图像编码装置的构成,利用使用了上述实施方式中示出的动态图像编码装置的编码方法,对由照相机部ex203提供的图像数据进行压缩编码,由此变换成编码图像数据,将其送到复用分离部ex308。另外,与此同时,便携式电话机ex115将用照相机部ex203拍摄中由声音输入部ex205集音了的声音,经由声音处理部ex305,作为数字的声音数据送到复用分离部ex308。
复用分离部ex308用预定方式对从图像编码部ex312提供的编码图像数据与从声音处理部ex305提供的声音数据进行复用,用调制解调电路部ex306对所得到的复用数据进行射频频谱扩散处理,用接收发送电路部ex301进行了数字模拟变换处理和频率变换处理之后,经由天线ex201发送。
在数据通信模式时接收被链接到主页等上的动态图像文件的数据的情况下,用调制解调电路部ex306对经由天线ex201从基站ex110接收到的接收数据进行射频频谱逆扩散处理,将所得到的复用数据送到复用分离部ex308。
另外,为了将经由天线ex201接收到的复用数据进行解码,复用分离部ex308通过分离复用数据而分成图像数据的比特流和声音数据的比特流,经由同步总线ex313将该编码图像数据提供给图像编码部ex309,而且将该声音数据提供给声音处理部ex305。
接着,图像解码部309用上述实施方式中示出的编码方法相对应的解码方法对图像数据的比特流进行解码,由此生成再现动态图像数据,经由LCD控制部ex302将其提供给显示部ex202,这样一来,例如被链接到主页上的动态图像文件所包括的动画数据被显示。与此同时,声音处理部ex305将声音数据变换成模拟声音数据之后,将其提供给声音输出部ex208,这样一来,例如被链接到主页上的动态图像文件所包括的声音数据被再现。
另外,不限于上述系统的例子,最近利用卫星、地上波的数字播放成为话题,如图16所示,在数字播放用系统中也可以组入上述实施方式的动态图像编码装置。具体而言,在广播电台ex409中,影像信息的比特流经由电波被传送到通信或播放卫星ex410。接收其的播放卫星ex410发送播放用的电波,由具有卫星播放接收设备的家庭的天线ex406接收该电波,利用电视机(接收机)ex401或置顶盒(STB)ex407等装置将比特流解码后将其再现。另外,读取作为记录介质的CD或DVD等存储介质ex402中记录的比特流,在进行解码的再现装置ex403中也能安装动态图像解码装置。此时,被再现的影像信号被显示在监视器ex404上。另外,也可以考虑被连接到有线电视用的光缆ex405或卫星/地上波播放的天线ex406上的置顶盒ex407内安装动态图像解码装置,用电视机的监视器ex408对其进行再现的结构。此时不仅是置顶盒,也可以在电视机内装入动态图像解码装置。另外,也可以通过具有天线ex411的车ex412,接收来自卫星ex410或来自基站ex107等的信号,在车ex412所具有的汽车驾驶导向系统ex413等显示装置上再现动画。
再有,也可以用上述实施方式示出的动态图像编码装置编码图像信号,记录在记录介质中。作为具体例子,有在DVD盘ex421上记录图像信号的DVD刻录机、或在硬盘上进行记录的盘记录器等记录器ex420。再有,也可以记录在SD卡ex422上。若记录器ex420具有动态图像解码装置,则再现记录在DVD盘ex421和SD卡ex422上的图像信号,能通过监视器ex408进行显示。
另外,汽车驾驶导向系统ex413的构成还可以考虑在图15所示的构成之中,除去照相机部ex203和照相机接口部ex303、图像编码部ex312的构成,同样也可以考虑计算机ex111和电视机(接收机)ex401等。
另外,上述便携式电话机ex114等终端除具有编码器/解码器两者的接收发送型终端之外,还可以考虑仅有编码器的发送终端、仅有解码器的接收终端这3种安装方式。
如上所述,能将上述实施方式示出的运动检测方法用于上述任一设备/系统中,这样一来,可以得到上述实施方式中说明了的效果。
另外,本发明涉及的上述实施方式并不限于此,可以在不超出本发明的范围内进行各种变化和修改。
另外,图3、图4和图10所示的块图的各功能块典型地用作为集成电路的LSI来实现。该LSI也可以被形成为单芯片,也可以形成为多芯片(例如也可以将存储器以外的功能块形成为单芯片)。在此虽然称作LSI,但根据集成度的不同,也可以称作IC、系统LSI、超大规模LSI、甚大规模LSI。
另外,集成电路化的方法也不限于LSI,也可以用专用电路或通用处理器来实现。也可以利用在制造LSI后能编程的FPGA(FieldProgrammable Gate Array)和能再构成LSI内部的电路单元的连接或设定的能重新配置的处理器。
再有,若由于半导体技术的进步或派生的其它技术,出现代替LSI的集成电路的技术,则当然可以使用该技术来进行功能块的集成。也有应用生物技术的可能性。
另外,各功能块之中,存储作为编码或解码的对象的数据的构件也可以不单芯片化,而另外构成。
如上所述,本发明涉及的运动检测方法和动态图像编码方法,作为例如用便携式电话、DVD装置和个人计算机等来进行动态图像的运动检测,或者将构成动态图像的各图进行编码而生成代码串的方法等,是很有用的。
Claims (12)
1、一种运动检测方法,用块单位检测运动向量,上述运动向量表示构成动态图像的图的运动量,其特征在于包括以下步骤:
误差计算步骤,分别计算进行运动检测的对象图的对象块、与参照图中的作为探索中心的参照块和位于作为探索中心的上述参照块附近的参照块的误差;
误差最小块确定步骤,确定由上述误差计算步骤计算出的上述误差为最小的参照块;
结束判定步骤,进行是否结束运动检测的判定;
探索中心确定步骤,根据由上述误差最小块确定步骤确定了的上述误差为最小的上述参照块的位置,作为探索中心的上述参照块的移动量大于等于2像素地确定作为下回的探索中心的参照块,再次执行上述误差计算步骤;以及
运动向量检测步骤,由上述结束判定步骤判定了结束运动检测时,将表示由上述误差最小块确定步骤确定的上述参照块的位置的运动向量,确定为要检测的运动向量。
2.根据权利要求1记载的运动检测方法,其特征在于,在上述结束判定步骤中,位于由上述误差最小块确定步骤确定了的上述参照块周围的全部参照块,是根据作为上回和这回的探索中心的参照块,由上述误差计算步骤计算了上述误差的参照块,还在由上述探索中心确定步骤确定了的作为下回的探索中心的上述参照块与作为上回的探索中心的参照块相同时,判定结束运动检测。
3.根据权利要求1或2记载的运动检测方法,其特征在于,上述位于附近的参照块,是从上述作为探索中心的参照块在水平方向上左右各移动了i像素(i是小于等于P的自然数、P是自然数)的参照块、在垂直方向上上下各移动了j像素(j是小于等于Q的自然数、Q是自然数)的参照块、以及在水平方向上左右各移动了i像素和在垂直方向上上下各移动了j像素的参照块;
在上述误差计算步骤中,并列地计算对上述作为探索中心的参照块和上述位于附近的参照块的合计(2P+1)×(2Q+1)参照块的上述误差。
4.根据权利要求1~3任一项记载的运动检测方法,其特征在于,在上述探索中心确定步骤中,由上述误差最小块确定步骤确定了的上述误差为最小的参照块,是从上述作为探索中心的参照块水平移动了M像素(M是整数)的参照块时,将从上述作为探索中心的参照块水平移动了2M+1像素的参照块确定为作为下回的探索中心的参照块。
5.根据权利要求1~3任一项记载的运动检测方法,其特征在于,在上述探索中心确定步骤中,由上述误差最小块确定步骤确定了的上述误差为最小的参照块,是从上述作为探索中心的参照块垂直移动了N像素(N是整数)的参照块时,将从上述作为探索中心的参照块垂直移动了2N+1像素的参照块确定为作为下回的探索中心的参照块。
6.根据权利要求1~3任一项记载的运动检测方法,其特征在于,在上述探索中心确定步骤中,由上述误差最小块确定步骤确定了的上述误差为最小的参照块,是从上述作为探索中心的参照块水平移动了M像素和垂直移动了N像素(M、N是整数)的参照块时,将从上述作为探索中心的参照块水平移动了2M像素和垂直移动了2N像素的参照块确定为作为下回的探索中心的参照块。
7.根据权利要求1~6任一项记载的运动检测方法,其特征在于,在上述探索中心确定步骤中,确定作为下回的探索中心的参照块,以使得作为下回的探索中心的上述参照块和位于作为下回的探索中心的上述参照块附近的参照块被包括在预定的探索范围内。
8.根据权利要求1~7任一项记载的运动检测方法,其特征在于,上述运动检测方法还包括计数步骤,对上述误差计算步骤的上述误差的计算次数进行计数;
在上述结束判定步骤中,由上述计数步骤计数了的上述计算次数超过了预定次数时,判定结束运动检测。
9.一种动态图像编码方法,用块单位对构成动态图像的图进行编码,其特征在于包括以下步骤:
运动向量检测步骤,利用权利要求1~8任一项记载的运动检测方法来检测运动向量;以及
编码步骤,根据由上述运动向量检测步骤检测出的上述运动向量,编码上述动态图像。
10.一种运动检测装置,用块单位检测运动向量,上述运动向量表示构成动态图像的图的运动量,其特征在于包括:
误差计算单元,分别计算进行运动检测的对象图的对象块、与参照图中的作为探索中心的参照块和位于作为探索中心的上述参照块附近的参照块的误差;
误差最小块确定单元,确定由上述误差计算单元计算出的上述误差为最小的参照块;
结束判定单元,进行是否结束运动检测的判定;
探索中心确定单元,根据由上述误差最小块确定单元确定了的上述误差为最小的上述参照块的位置,作为探索中心的上述参照块的移动量大于等于2像素地确定作为下回的探索中心的参照块,再次使上述误差计算单元执行上述误差的计算;以及
运动向量检测单元,由上述结束判定单元判定了结束运动检测时,将表示由上述误差最小块确定单元确定的上述参照块的位置的运动向量,确定为要检测的运动向量。
11.一种程序,用于用块单位检测运动向量,上述运动向量表示构成动态图像的图的运动量,其特征在于:使计算机执行权利要求1~8任一项所记载的运动检测方法所包括的步骤。
12.一种集成电路,用块单位检测运动向量,上述运动向量表示构成动态图像的图的运动量,,其特征在于包括:
误差计算单元,分别计算进行运动检测的对象图的对象块、与参照图中的作为探索中心的参照块和位于作为探索中心的上述参照块附近的参照块的误差;
误差最小块确定单元,确定由上述误差计算单元计算出的上述误差为最小的参照块;
结束判定单元,进行是否结束运动检测的判定;
探索中心确定单元,根据由上述误差最小块确定单元确定了的上述误差为最小的上述参照块的位置,作为探索中心的上述参照块的移动量大于等于2像素地确定作为下回的探索中心的参照块,再次执行上述误差计算单元;以及
运动向量检测单元,由上述结束判定单元判定了结束运动检测时,将表示由上述误差最小块确定单元确定的上述参照块的位置的运动向量,确定为要检测的运动向量。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004053588 | 2004-02-27 | ||
JP053588/2004 | 2004-02-27 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1662067A true CN1662067A (zh) | 2005-08-31 |
CN1662067B CN1662067B (zh) | 2010-05-12 |
Family
ID=34879709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2005100529139A Expired - Fee Related CN1662067B (zh) | 2004-02-27 | 2005-02-28 | 运动检测方法及动态图像编码方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7894526B2 (zh) |
KR (1) | KR101075270B1 (zh) |
CN (1) | CN1662067B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102595047A (zh) * | 2011-01-05 | 2012-07-18 | 索尼公司 | 图像处理装置以及图像处理方法 |
CN101364305B (zh) * | 2007-08-07 | 2012-08-15 | 索尼株式会社 | 电子装置、运动向量检测方法和其程序 |
CN106464864A (zh) * | 2014-03-21 | 2017-02-22 | 华为技术有限公司 | 照度补偿(简称ic)改善 |
CN115529459A (zh) * | 2022-10-10 | 2022-12-27 | 格兰菲智能科技有限公司 | 中心点搜索方法、装置、计算机设备、存储介质 |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI239474B (en) * | 2004-07-28 | 2005-09-11 | Novatek Microelectronics Corp | Circuit for counting sum of absolute difference |
TWI295540B (en) * | 2005-06-15 | 2008-04-01 | Novatek Microelectronics Corp | Motion estimation circuit and operating method thereof |
TWI296091B (en) * | 2005-11-15 | 2008-04-21 | Novatek Microelectronics Corp | Motion estimation circuit and motion estimation processing element |
FR2894422A1 (fr) * | 2005-12-01 | 2007-06-08 | Thomson Licensing Sas | Procede de prediction de donnees mouvement et de texture |
FR2894423A1 (fr) * | 2005-12-05 | 2007-06-08 | Thomson Licensing Sas | Procede de prediction de donnees mouvement et de texture |
FR2894424A1 (fr) * | 2005-12-05 | 2007-06-08 | Thomson Licensing Sas | Procede de prediction de donnees mouvement et de texture |
US20070217515A1 (en) * | 2006-03-15 | 2007-09-20 | Yu-Jen Wang | Method for determining a search pattern for motion estimation |
JP4531006B2 (ja) * | 2006-03-31 | 2010-08-25 | 富士通株式会社 | 動きベクトル検出装置 |
JP4757080B2 (ja) * | 2006-04-03 | 2011-08-24 | パナソニック株式会社 | 動き検出装置、動き検出方法、動き検出集積回路および画像符号化装置 |
US20080165278A1 (en) * | 2007-01-04 | 2008-07-10 | Sony Corporation | Human visual system based motion detection/estimation for video deinterlacing |
US8553758B2 (en) * | 2007-03-02 | 2013-10-08 | Sony Corporation | Motion parameter engine for true motion |
US20080212687A1 (en) * | 2007-03-02 | 2008-09-04 | Sony Corporation And Sony Electronics Inc. | High accurate subspace extension of phase correlation for global motion estimation |
KR100891768B1 (ko) * | 2007-05-02 | 2009-04-07 | 삼성전자주식회사 | 모션 벡터 탐색 방법 |
US7843462B2 (en) * | 2007-09-07 | 2010-11-30 | Seiko Epson Corporation | System and method for displaying a digital video sequence modified to compensate for perceived blur |
JP2011505756A (ja) | 2007-11-30 | 2011-02-24 | ドルビー・ラボラトリーズ・ライセンシング・コーポレーション | 時間的画像検出 |
KR100948164B1 (ko) * | 2008-01-03 | 2010-03-16 | 서울시립대학교 산학협력단 | 중앙집중적 탐색 패턴을 이용한 움직임 예측 방법 및움직임 예측기 |
US8170107B2 (en) * | 2008-03-06 | 2012-05-01 | Lsi Corporation | Flexible reduced bandwidth compressed video decoder |
US8144766B2 (en) * | 2008-07-16 | 2012-03-27 | Sony Corporation | Simple next search position selection for motion estimation iterative search |
US8094714B2 (en) * | 2008-07-16 | 2012-01-10 | Sony Corporation | Speculative start point selection for motion estimation iterative search |
CN102210153A (zh) | 2008-10-06 | 2011-10-05 | Lg电子株式会社 | 用于处理视频信号的方法和设备 |
US8179474B2 (en) * | 2009-09-02 | 2012-05-15 | Sony Corporation | Fast iterative motion estimation method on gradually changing images |
US20110148928A1 (en) * | 2009-12-17 | 2011-06-23 | General Electric Company | System and method to correct motion in gated-pet images using non-rigid registration |
US8976856B2 (en) * | 2010-09-30 | 2015-03-10 | Apple Inc. | Optimized deblocking filters |
EP2665271A4 (en) | 2011-01-12 | 2014-06-18 | Panasonic Corp | VIDEO ENCODING METHOD AND VIDEO DECODING METHOD |
WO2012114694A1 (ja) * | 2011-02-22 | 2012-08-30 | パナソニック株式会社 | 動画像符号化方法、動画像符号化装置、動画像復号方法、および、動画像復号装置 |
JP5358746B2 (ja) | 2011-03-03 | 2013-12-04 | パナソニック株式会社 | 動画像符号化方法、動画像符号化装置及びプログラム |
GB2527315B (en) * | 2014-06-17 | 2017-03-15 | Imagination Tech Ltd | Error detection in motion estimation |
CN112738529B (zh) * | 2020-12-23 | 2023-07-07 | 北京百度网讯科技有限公司 | 帧间预测方法、装置、设备、存储介质以及程序产品 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE69803639T2 (de) * | 1997-08-07 | 2002-08-08 | Matsushita Electric Ind Co Ltd | Vorrichtung und Verfahren zur Detektion eines Bewegungsvektors |
JPH11355780A (ja) | 1998-06-12 | 1999-12-24 | Sharp Corp | 動き検出装置 |
TW444507B (en) * | 1998-10-22 | 2001-07-01 | Sony Corp | Detecting method and device for motion vector |
JP3947316B2 (ja) | 1998-12-21 | 2007-07-18 | 株式会社日立製作所 | 動きベクトル検出装置及びこれを用いた動画像符号化装置 |
JP4223169B2 (ja) | 1999-03-17 | 2009-02-12 | パナソニック株式会社 | 動きベクトル検出方法,動きベクトル検出装置,及びデータ記録媒体 |
US6438254B1 (en) * | 1999-03-17 | 2002-08-20 | Matsushita Electric Industrial Co., Ltd. | Motion vector detection method, motion vector detection apparatus, and data storage media |
US7327787B1 (en) * | 2000-11-20 | 2008-02-05 | Intel Corporation | Method and apparatus for motion estimation |
DE60141961D1 (de) * | 2001-09-10 | 2010-06-10 | Texas Instruments Inc | Verfahren und Vorrichtung zur Bewegungsvektorenabschätzung |
US7940844B2 (en) * | 2002-06-18 | 2011-05-10 | Qualcomm Incorporated | Video encoding and decoding techniques |
-
2005
- 2005-02-23 US US11/063,871 patent/US7894526B2/en not_active Expired - Fee Related
- 2005-02-25 KR KR1020050016117A patent/KR101075270B1/ko not_active IP Right Cessation
- 2005-02-28 CN CN2005100529139A patent/CN1662067B/zh not_active Expired - Fee Related
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101364305B (zh) * | 2007-08-07 | 2012-08-15 | 索尼株式会社 | 电子装置、运动向量检测方法和其程序 |
CN102595047A (zh) * | 2011-01-05 | 2012-07-18 | 索尼公司 | 图像处理装置以及图像处理方法 |
CN106464864A (zh) * | 2014-03-21 | 2017-02-22 | 华为技术有限公司 | 照度补偿(简称ic)改善 |
US10554967B2 (en) | 2014-03-21 | 2020-02-04 | Futurewei Technologies, Inc. | Illumination compensation (IC) refinement based on positional pairings among pixels |
CN115529459A (zh) * | 2022-10-10 | 2022-12-27 | 格兰菲智能科技有限公司 | 中心点搜索方法、装置、计算机设备、存储介质 |
CN115529459B (zh) * | 2022-10-10 | 2024-02-02 | 格兰菲智能科技有限公司 | 中心点搜索方法、装置、计算机设备、存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US7894526B2 (en) | 2011-02-22 |
KR101075270B1 (ko) | 2011-10-19 |
KR20060043185A (ko) | 2006-05-15 |
US20050190844A1 (en) | 2005-09-01 |
CN1662067B (zh) | 2010-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1662067A (zh) | 运动检测方法及动态图像编码方法 | |
CN1271865C (zh) | 动态矢量编码和译码的方法及装置 | |
JP5208157B2 (ja) | 復号化システム | |
CN1817049A (zh) | 动态图像编码方法及动态图像解码方法 | |
CN1298171C (zh) | 图像的编码方法和图像的译码方法 | |
CN1518835A (zh) | 动态图像编码方法及动态图像解码方法 | |
CN1552161A (zh) | 滤波强度的决定方法、动态图像编码方法及解码方法 | |
CN1478356A (zh) | 动态图像编码方法及动态图像解码方法 | |
CN1557098A (zh) | 动态图像编码装置及动态图像解码装置 | |
CN1692654A (zh) | 动态图像编码方法和动态图像解码方法 | |
JP4519676B2 (ja) | 動き検出方法および動画像符号化方法 | |
CN1497986A (zh) | 图像编码方法 | |
CN1717939A (zh) | 图像解码装置、图像编码装置及其方法 | |
CN1801942A (zh) | 图像的编码方法和图像的译码方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20100512 Termination date: 20170228 |
|
CF01 | Termination of patent right due to non-payment of annual fee |