CN1196339C - 流式传输可缩放视频的方法和设备 - Google Patents

流式传输可缩放视频的方法和设备 Download PDF

Info

Publication number
CN1196339C
CN1196339C CN01801124.1A CN01801124A CN1196339C CN 1196339 C CN1196339 C CN 1196339C CN 01801124 A CN01801124 A CN 01801124A CN 1196339 C CN1196339 C CN 1196339C
Authority
CN
China
Prior art keywords
data
given interval
enhancement data
frame
transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN01801124.1A
Other languages
English (en)
Other versions
CN1381139A (zh
Inventor
R·A·科亨
H·拉哈
K·帕塔萨拉斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Funai Electric Co Ltd
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN1381139A publication Critical patent/CN1381139A/zh
Application granted granted Critical
Publication of CN1196339C publication Critical patent/CN1196339C/zh
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/34Scalability techniques involving progressive bit-plane based encoding of the enhancement layer, e.g. fine granular scalability [FGS]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2404Monitoring of server processing errors or hardware failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26208Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints
    • H04N21/26216Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists the scheduling operation being performed under constraints involving the channel capacity, e.g. network bandwidth

Abstract

本发明公开了一种通过诸如基于包的网络这样的可变带宽网络流式传输可缩放视频数据的系统和方法。换言之,每个增强层的帧的比特数(对于FGS来说)或子层(对于独立的多层可缩放性来说)是被选择传输的。另外,如果是通过基于包的网络进行传输,那么这些比特或子层也可被分配到多个包中。另外,在网络带度发生变化的情况下,窗口函数可被用来平滑每帧传输的比特数或子层的变化。

Description

流式传输可缩放视频的方法和设备
技术领域
本发明一般涉及视频数据传输,并特别涉及一种在具有可变带宽的网络上流式传输可缩放视频的方法和设备。
背景技术
可缩放视频编码指的是能够为每个视频帧提供不同级别或不同数量的数据的编码技术。目前,此类技术由诸如MPEG-2和MPEG-4这样的视频编码标准(即“运动图象专家组”编码)使用。在这些标准所采用的可缩放编码技术中,视频数据帧被编码并被分成基本层和增强层。
通常,基本层包括对编码视频数据进行解码所需的最小数据量。而增强层包括在解码时增强基本层(即,提高其质量)的附加数据。在操作期间,基本层的所有帧均被传输到接收设备。但是,增强层的帧只有在接收设备具有足够的能力来处理附加帧并且/或者用于传送帧的介质具有足够的带宽时才会被传输。
一种已知的可缩放视频技术是细粒可缩放性(fine-granularscalability)。细粒可缩放性(FGS)是在每次进行编码时使用越来越多的数据编码相同的图象(例如,一帧视频)。例如,在转让给本申请相同受让人的序列申请US 09/110,616的题为“可缩放视频编码系统”的共同待审申请中,公开了一种视频编码系统,它具有细粒可缩放性的特性,其中视频的基本层以固定的速率进行编码,而其余的数据或者增强层则以更大范围的速率来编码。
目前,ISO MPEG-4委员会正在研究细粒编码的方法。因而需要一种实际的方法来用以流式传输增强层。在也是授予与本申请相同受让人的序列号为09/177,962的题为“控制数据输出到网络的系统”的另一个共同待审申请中,公开了一种通过基于包的网络流式传输数据的方法。但是,这种方法只能用在通过因特网的有序流的基本层视频中。
发明内容
本发明的目的在于通过诸如基于包的网络这样的可变带宽网络流式传输可缩放的基于帧的数据。换言之,每个增强层的帧的比特数(对于FGS来说)或子层(对于独立的多层可缩放性来说)是被选择传输的。另外,如果是通过基于包的网络进行传输,那么这些比特或子层也可被分配到多个包中。另外,在网络带宽发生变化的情况下,窗口函数可被用来平滑每帧传输的比特数或子层的变化。
特别是,本发明的目的在于一种用于流式传输可缩放视频的方法,该可缩放视频包括基本层数据和增强层数据。该方法包括在一个给定间隔传输基本层数据。确定在给定间隔中是否出现带宽损耗。选择在其中分布带宽损耗的预定帧数。计算在预定帧数中传输的数量减少的增强层数据。在给定间隔中传输数量减少的增强层数据。
根据本发明的方法还包括确定预定的帧数是否已完成。确定是否还有任何剩余的增强层数据。选择在其中分布剩余增强层数据的第二预定帧数。计算在第二预定帧数中传输的第二数量减少的增强层数据。在第二给定间隔中传输第二数量减少的增强层数据。
根据本发明,一种用于流式传输包括基本层数据和增强层数据的可缩放视频的方法,包括以下步骤:在一个给定间隔传输所述基本层数据;确定在所述给定间隔中是否发生带宽损耗;选择在其中分布所述带宽损耗的预定帧数;利用一个窗口函数来计算在预定帧数中传输的数量减少的增强层数据;以及,在所述给定间隔中传输所述数量减少的增强层数据。
在根据本发明的方法中,还包括在所述给定间隔期间传输非增强层数据。
在根据本发明的方法中,所述计算步骤的执行要使所述带宽损耗均匀地分布到预定数目的帧中。
在根据本发明的方法中,还包括以下步骤:确定在所述给定间隔中是否还有空间;以及,在所述给定间隔中传输来自第二给定间隔的至少一部分的所述数量减少的增强层数据。
在根据本发明的方法中,还包括以下步骤:确定预定的帧数是否已完成;确定是否还有任何剩余的增强层数据;选择在其中分布剩余的增强层数据的第二预定帧数;计算在所述第二预定帧数中传输的第二数量减少的增强层数据;以及,在第二给定间隔中传输所述第二数量减少的增强层数据。
在根据本发明的方法中,所述增强层数据具有细粒可缩放性结构。
根据本发明,一种用于流式传输包括基本层数据和增强层数据的可缩放视频的方法,包括以下步骤:在一个给定间隔传输基本层数据;如果在所述给定间隔中发生带宽损耗则选择一个预定帧数;利用一个窗口函数将所述带宽损耗分布到预定数目的帧中,以产生数量减少的增强层数据;以及,在所述给定间隔中传输所述数量减少的增强层数据。
在上述方法中,所述分布步骤的执行要使所述带宽损耗均匀地分布到预定数目的帧中。
根据本发明,一种用于流式传输包括基本层数据和增强层数据的可缩放视频的设备,包括:存储器,用于存储可执行代码;以及,处理器,它执行存储在所述存储器中的代码,以便(i)在一个给定间隔传输基本层数据,(ii)确定在所述给定间隔中是否发生带宽损耗,(iii)选择在其中分布所述带宽损耗的预定帧数,(iv)利用一个窗口函数来计算在预定帧数中传输的数量减少的增强层数据,以及(v)在所述给定间隔中传输所述数量减少的增强层数据。
根据本发明,一种用于流式传输包括基本层数据和增强层数据的可缩放视频的设备,包括:用于在一个给定间隔传输基本层数据的装置;用于确定在所述给定间隔中是否发生带宽损耗的装置;用于选择在其中分布所述带宽损耗的预定帧数的装置;用于利用一个窗口函数来说计算在预定帧数中传输的数量减少的增强层数据的装置;以及,用于在所述给定间隔中传输所述数量减少的增强层数据的装置。
附图说明
现在参考附图,其中相似的标号表示相应的部分:
图1所示为由于不可用带宽引起的延迟的增强层传输的时序图;
图2所示为由于不可用带宽引起的增强层质量的大范围变化的时序图;
图3所示为根据本发明的方法的流程图;
图4所示为根据本发明的方法的一个详细实施方案的一个实施例的流程图;
图5所示为根据本发明的设备的一个实施例的框图。
具体实施方式
本发明的目的在于通过诸如基于包的网络这样的可变带宽网络流式传输可缩放的基于帧的数据。在被传输之前,视频数据首先必须压缩并编码为基本层和增强层的帧。为此可使用任何已知的编码方案。例如,基本层可根据JPEG、MPEG-1、MPEG-2、MPEG-4等等这样的已知标准进行编码。另外,增强层可利用任何已知的可缩放性结构进行编码。但为了便于下面的讨论,在此假定使用的是“细粒可缩放性”结构。
在视频数据被编码之后,基本层的帧具有Rb比特/秒的平均带宽,而且增强层的帧以Re比特/秒的平均速率进行编码。在整个系统中,一个给定帧的所有基本层比特必须被传送,以便在解码器中可以重建该帧。增强层的帧具有“细粒度”的特性,意思是每一帧的任意部分或全部数据均可被传输。解码帧的质量随着传输的增强层比特的增加而增加。假设平均总网络带宽超过基本层的带宽(Rtot>Rb),从而有传输增强层的空间。
设平均总网络带宽(Rtot>Rb),并设系统时钟以周期T工作,则每个时钟周期可传送Rtot*T个比特。在无噪声的理论系统中,在每个时钟周期当中有足够的空间来传输(Rtot-Rb)*T个增强层比特。但实际上,由于网络损耗、噪声和带宽变化的影响,可用于传输增强层数据的带宽并不是恒定的。
另外,系统时钟以T秒的周期工作,因此,在下面的描述中,将使用间隔计数i,以使t=i*T。因此,在每个间隔当中传输的基本层的平均比特数是Rb*T。增强层以Re比特/秒的速率编码。因此,可用于传输增强层的初始速率为Rtot-Rb比特/秒,它可小于Re,这是因为增强层具有细粒度的属性。设帧速率为v帧/秒,则可以设想理论上从每个增强层帧发送F比特,其中:
实际上,增强层的可用带宽并不是恒定的。在一个间隔期间,在传输Rb*T比特之后,则只够发送(Rtot-Rb)*T-si比特的空间,其中si是用作其它用途或在该时间间隔期间不可用的比特数。例如,如果在传输基本层比特之后,该系统需要重发较早的基本层比特,则该重发处理将用掉分配给该给定间隔的一些(或者全部)比特。
如果对于所有的i来说si=0,则可从每个增强帧发送F比特,因而不需要进行特别的操作。如果si>0,我们就会有图1所示的问题。
从图1可以看出,在时间间隔5-8之间,一些带宽不能用于整个增强层的传输,如果要保证相应增强层帧的所有F比特均被传输,则下一帧将会被延迟传输。在si>0的每个间隔均会引起延迟的累积。假设在解码器中并不希望无限容量的缓冲器,那么基本层和增强层的帧最终将会不同步,该系统将会舍弃或者完全忽略延迟的增强层数据。
为了防止这种延迟累积,可以如图2所示从正在间隔i期间传输的帧中简单地去除si比特。但是,从图2可以看出,利用此方法的问题在于从后续增强层帧中去掉的比特数可能会大范围且快速地变化。这会导致解码序列产生令人不能接受的闪动,或者观众将会看到快速混乱的视频质量变化。
鉴于上述的两个问题,用来传输增强层的方法必须满足两个要求:
必须从增强层中去掉比特以防延迟的无限制累积;及
去除的比特必须是分布在几个帧中,以防视频质量的快速变化。
为了满足上述要求,通过使用窗口函数f(B(t),W(t),t)可把B(t)比特分布于接着的W(t)个帧中。正如下面将要描述的,可在下面的W个帧中平均分配去除B比特,其中:
f(B,W,t)=B/W                                (2)
图3示出了一种根据本发明来流式传输可缩放视频的方法。利用此方法,每个增强层帧的比特数(对于FGS来说)或者子层(对于独立的多层可缩放性来说)可被选择传输。另外,窗口函数可被用来平滑每帧传输的比特数或子层的变化。
在步骤S2,当前时间间隔(i)的基本层数据(BLi)被传输。如上所述,以T秒的周期工作的系统时钟和时间计数i将被使用,以使时间t=i*T。另外应当指出,时间间隔ti可小于一个视频帧的时间周期。在这种情况下,一帧将在若干间隔中(i,i+1,i+2等)传输。
在步骤S4,其它非增强层(EL)数据也可被传输。如上所述,其它非增强层数据可以是先前间隔的重发的基本层数据。
在步骤S6,可确定当前间隔(i)是否有任何带宽损耗(si)。损耗(si)可能是由步骤S4的其它非EL层数据的传输引起的。如果没有非EL数据的传输,则该损耗也可能是由于网络带宽的损耗引起的。该带宽损耗可能是由包损耗、噪声和带宽变化引起的。另外,损耗(si)也可能是由上述情况的组合引起的。
如上所述,该带宽损耗(si)并不是所希望的,因为它会降低在当前间隔(i)传输增强层数据的初始可用速率(Rtot-Rb比特/s)。如果没有损耗(si),则该方法将前进并在步骤S12传输该间隔的EL数据。另一方面,如果在步骤S6有损耗(si),则该方法将前进到步骤S8。
在步骤S8,窗口(W)将被确定,它表示损耗(si)将被分配到的帧数。窗口(W)可以是根据诸如帧速率、图象质量等等这样的条件所选的一个预定数。
在步骤S10,对于由窗口(W)规定的帧数来说,EL帧的尺寸被减小。EL帧尺寸的减小S10将根据窗口函数f(B(t),W(t),t)来执行。例如,在公式2中,窗口函数是B/W,在本例中的B=si。因此,如果si=50比特且W=10帧,则对于10帧的窗口来说,EL帧尺寸将会减少5比特。
应当指出,公式(2)仅仅是根据本发明的窗口函数的一个例子。根据本发明,其它窗口函数也是可以考虑的,如阶跃函数、指数函数以及其它根据基本层或增强层的帧类型如I,P或B帧而确定的函数。
在步骤S12,当前间隔(i)的EL数据被传输。如果在S6没有损耗(si)且如果当前帧由于前面的损耗而不在窗口(W)中,则间隔(i)的全部EL数据将被传输。如果有损耗(si),则在步骤S12,在间隔(i)传输的EL数据量将根据步骤S10而减少。
在步骤S14,可确定在当前间隔(i)中是否还有空间来传输附加数据。如果有,则该方法将返回到步骤S12并传输下一帧的EL数据。由此,该方法将会停留在该回路,直到当前间隔(i)不再有空间来传输数据为止。当没有剩余空间时,该方法将前进到步骤S16。
在步骤S16,可确定是否还有任何EL数据帧。如果没有,那么意味着视频序列已经终止,并且该方法将在步骤S18退出。如果还有剩余的EL帧,则该方法将返回到步骤S2并传输下一个间隔的数据。该方法将停留在这个回路中,直到视频序列终止为止。应当指出,在随后的间隔中,如果在窗口(W)中没有另外的带宽损耗(si),则在步骤S12传输的数据量将根据在步骤S10中帧尺寸的最初缩减来确定。
但是,如果在随后的间隔中还有另外的带宽损耗(si),则窗口将在步骤S8被再次确定并且在步骤S10将再次减小EL帧尺寸。考虑到公式(2)的以上例子,如果在35比特的第二间隔(i+1)有另外的损耗(si),则窗口(W)会再次设置为10且B=45+si。因此,在步骤S10中,对于该随后的间隔来说,初始EL帧尺寸应当减少80/10=8。
图4所示为根据本发明的流式传输可缩放视频的方法的详细实施方案的一个实施例。在描述图4的实施例时,假设使用的是“FGS可缩放性”结构。但是,本专业技术人员应当知道,也可使用其它可缩放性结构来执行本实施例。另外,在本实施例中,还假设数据将在诸如互联网这样的包网络上传输。因此,本实施例也在多个包中分配正在传输的数据。
下面是在本实施例的以下描述中使用的参数定义:
i      每个T秒时间间隔的迭代指数
si    在间隔i期间不能用于EL传输的比特数
B      依然必须从EL中去掉的总比特数
buf_cur接着将传输的EL帧的比特偏移
buf_end表示当前EL帧的虚拟结尾的比特偏移
M    在序列中的EL帧的总数(如果我们具有实况(live)或无限序列,
     则可以忽略)
m    EL帧的指针,其中m={0,1,...M-1)
W    将在其中去掉B比特的帧数(窗口),其中0<W<Wmax
Rtot整个数据流或可用网络的平均带宽(比特/秒)
Rb  基本层数据流的平均带宽(比特/秒)
A    我们在当前间隔期间具有空间来传输的EL数据的比特数
E    在分配给EL的带宽中已传输的累积总比特数(所有比特,并不一
     定是EL比特)
P    网络的最大包尺寸(比特)
drop_rest 在当前EL帧的剩余比特将不被发送时设置的标记。
仍然参考图4,在步骤s24,上面的参数被初始化。以下是如何初始化这些参数的一个例子:
如公式(1)所述来设置F。
M=该序列的EL帧总数,如果视频不是实况的话。
P=最大包尺寸
m=0(指向第一EL帧)
i=1(第一迭代)
B=0(还没有比特被去掉)
buf_cur=0(指向当前帧的开始)
buf_end=F-1
Qmax=10(或者是根据帧速率、图象质量等等确定的其它一些值)
E=0
drop_rest=FALSE
W=0
在步骤S26,当前间隔(i)的基本层数据(BLi)被传输。如上所述,以T秒的周期工作的系统时钟和间隔计数i将被使用,以使t=i*T。另外,在步骤S28,其它非EL增强层(EL)数据也被传输。如上所述,该传输会导致损耗(si)。另外,在该步骤期间,参数B和E也设置如下:
B=B+si(它表示需要从EL中去掉的总比特数);
E=E+si(它说明在分配给EL的空间中传输了si比特)。
在步骤S30,窗口(W)被设定,它表示在其中分配损耗(si)的帧数。在该步骤,如果(si>0)或(B>0且W≤0),则W=min(Wmax,M-m)。
在步骤S32,当前EL帧尺寸被减小。这可通过计算“buf_end”参数的一个新值来实现。由于参数“buf_end”是指向EL帧虚拟结尾的指针,所以减小该值将会减小当前EL帧的尺寸。“buf_end”的新值将根据下面的窗口函数计算:
如果(W>0),则buf_end=min[F-1-(B/W),-1]           (3)
在步骤S34,通过计算到该间隔结束为止应当传输的EL比特(从一帧到多帧)的总(累积)数可确定在当前间隔(i)中是否还有任何剩余的空间来传输数据。在该步骤,参数“A”计算如下:
A=[i*(Rtot-Rb)*T]-E
如果(A≤0),那么这意味着在当前帧中没有空间来传输EL数据。因此,当前间隔将增加为i=i+1,并且该方法将返回至步骤S26来传输下一间隔的BL数据。如果(A>0),则在当前间隔中还有空间并且该方法将前进到步骤S36。
在步骤S36,可确定是否窗口(W)≤0。最初,这不会是真实的,因为还没有EL数据被传输。因此,如果(W)≤0,则该方法将前进到步骤S38。另一方面,如果(W)不≤0,则该方法将前进到步骤S40。
在步骤S40,可确定EL数据的当前帧是否已被完全传输。该步骤可通过查看是否(buf_cur>buf_end)来实现。由于buf_cur是指向要传输的当前EL帧的开始部分的指针,并且buf_end指向当前EL帧的虚拟结尾,所以buf_cur>buf_end表示不再有任何当前帧的数据将会传输。
如果(buf_cur>buf_end),则m=m+1(前进到下一个增强帧)且drop_rest=FALSE。另外,该方法随后返回到步骤S34。但应当指出,最初,(buf_cur>buf_end)的条件不为真,这是因为还没有EL数据帧被传输。如果该条件不为真,则该方法将前进到步骤S42。
在步骤S42,可确定是否还有剩余的EL数据帧要传输。如果没有剩余的帧,那么这意味着视频序列终止。因此,如果(m==M),则不再有剩余的EL帧,且该方法将在步骤S46退出。如果该条件不成立,则该方法前进到步骤S44。
在步骤S44,EL数据被传输。在该步骤,当前帧的一些或全部EL比特被传输。根据本实施例,步骤S44在下面三个子步骤中执行。
在第一子步骤中,要从当前EL帧传输的比特数(nbits_to_send)必须确定如下:
(nbits_to_send=buf_end-buf_cur+1)
在第二子步骤中,如下确定当前间隔(i)是否有足够的空间来传输所有比特:
如果(nbits_to_send<A)则:
nbits_sent=min(P,nbits_to_send),(把比特分成数据包)
传输EL帧m的以buf_cur比特开始的nbits_sent个比特
如果(nbits_sent==nbits_to_send)则:(传输当前帧)
B=B-(F-buf_end-1),(从B中减去必须从该帧中去掉的比特数)
W=W-1(将窗口缩减一帧)
m=m+1(指向下一帧)
drop_rest=TRUE
如果(nbits_to_send>A)则:(在当前间隔中没有足够的空间来传输nbits_to_send)
nbits_sent=min(P,A)
传输EL帧m的以buf_cur比特开始的nbits_sent个比特。
在第三子步骤,步骤S44如下设置一些参数:
A=A-nbits_sent(减去分配给当前帧的剩余比特)
buf_cur=buf_cur+nbits_sent(指向要传输的EL帧的下一部分)
E=E+nbits_sent(增加到刚传输的累积比特总数)。
在执行上面的步骤之后,步骤S44得以完成,该方法将返回到步骤S34。在步骤S34,该方法将再次确定在当前间隔(i)中是否还有空间。如果有足够的空间,则该方法将经过如图所示的步骤,直到在步骤S44下一帧的EL数据被传输为止。该方法将停留在此回路中,直到在当前间隔中没有剩余空间为止,或者直到没有EL帧剩余为止。
另外,在执行该回路时,该方法将在步骤S36确定是否窗口(W)≤0。如果这为真,那么如下所示,该方法将前进到步骤S38以便重新设定窗口(W)并缩减当前的EL帧尺寸:
如果(W≤0)则:如果(B>0)则:W=min(Wmax,M-m)否则W=0
如果(drop_rest为FALSE)则:buf_end=min[F-1-(B/W),-1]
步骤S36和38用于解决帧窗口(W)已经终止但仍然有其它EL数据比特要传输的情况。因此,为了考虑其它这些比特,步骤S38将重新设定窗口(W)并再次缩减EL帧。这种情况可以在参数“B”不能被“W”平均相除时会出现。另外,这种情况也可能出现于步骤S44传输的数据包必须包含与比特相对的整数字节时。因此会出现窗口(W)已结束但还有剩余数据字节的情况。另外,在步骤S36用来计算窗口(W)的方程式可以不同于在步骤S30中使用的方程式。
在操作期间,其它一些改进也是可以的,目的就是增强图4中所示实施例的操作。例如,如果网络层把开销(overhead)加到传输的数据包上,则也可以进行调整。这可在步骤S44中通过以附加的开销量调整参数“A”和“E”的计算来实现。另外,网络可能要求正在传输的数据包包括整数字节(与比特相对)。这也可通过调节步骤S44以使nbits_sent总是等于8比特的倍数来实现。
另外,如果传输EL帧的剩余空间小于某个最小值(例如3字节),则整个帧会被丢弃。这可通过跳过该帧并从参数“B”中减去跳过的附加量来进行处理。
图5所示为可实施本发明的视频/图象处理设备20。举例来说,系统20可表示电视发射机、卫星发射机、电缆终端、网络节点、网络服务器、无线网络节点、无线基站、台式、膝上或掌上计算机、视频/图象存储设备,如盒式磁带录象机(VCR)、数字录象机(DVR)等,以及这些设备和其它设备的一部分或其组合。
设备20包括一个或多个输入/输出设备24、处理器25和存储器26。与一个或多个输入/输出设备24连接的是视频/图象源22,它可表示电视接收机、VCR或其它视频/图象存储设备。信号源22也可表示一个或多个网络连接,以用于接收来自一个服务器或多个服务器的视频/图象,或者通过诸如全球计算机通信网络接收视频/图象,这些网络可以是因特网、广域网、城域网、局域网、地面广播系统、有线网络、卫星网络、无线网络或电话网,以及这些网络和其它类型的网络的一部分或是其组合。
可以看出,通信介质27也连接一个或多个输入/输出设备24。通信介质27可表示诸如全球计算机通信网络,如因特网、广域网、城域网、局域网、地面广播系统、有线网络、卫星网络、无线网络或电话网,以及这些网络和其它类型的网络的一部分或是其组合。
来自信号源22的输入视频/图象根据存储在存储器26中的一个或多个软件程序进行处理并且由处理器25来执行,目的就是产生要在通信介质27上传输的输出视频数据。这些软件程序应当包括能够以可缩放方式解码实况视频的编码器。实况视频也可被编码并存储在存储器26中。
另外,视频数据也可被预先编码接收,以使其能够被传输或存储在存储器26、磁带或光盘中,以便在随后的时间传输。此时,处理器25将不必用来编码输入的视频/图象。这是因为预先编码的视频数据可从存储器26、磁带、光盘中读出或者通过视频/图象源22接收。
以计算机可读代码的形式流式传输可缩放视频的上述方法也可存储在存储器26中,或者从诸如CD-ROM或软盘的存储介质中读取或下载。另外,根据本发明,处理器25也可执行该代码以便通过通信介质27流式传输可缩放视频数据。
在图5的其它实施例中,硬件电路也可用来取代软件指令或者与软件指令组合在一起来执行本发明。
可以理解,如图5所示的系统20的特定配置只是作为示例。本专业技术人员应当认识到,本发明可使用各种各样的其它系统配置来执行。
尽管本发明是根据特定实施例进行描述的,但应当理解,本发明并不被定义在或者受限于本文中公开的具体实施例。举例来说,本发明并不限于任何特定的压缩方案,帧类型或概率分布。相反,本发明将涵盖包含在所附权利要求的精神和范围之内的本发明的各种结构和改进。

Claims (10)

1.一种用于流式传输包括基本层数据和增强层数据的可缩放视频的方法,包括以下步骤:
在一个给定间隔传输所述基本层数据(S2);
确定在所述给定间隔中是否发生带宽损耗(S6);
选择在其中分布所述带宽损耗的预定帧数(S8);
利用一个窗口函数来计算在预定帧数中传输的数量减少的增强层数据(S10);以及
在所述给定间隔中传输所述数量减少的增强层数据(S12)。
2.根据权利要求1所述的方法,其中,还包括在所述给定间隔期间传输非增强层数据(S4)。
3.根据权利要求1所述的方法,其中,所述计算步骤(S10)的执行要使所述带宽损耗均匀地分布到预定数目的帧中。
4.根据权利要求1所述的方法,其中,还包括以下步骤:
确定在所述给定间隔中是否还有空间(S14);以及
在所述给定间隔中传输来自第二给定间隔的至少一部分的所述数量减少的增强层数据(S12)。
5.根据权利要求1所述的方法,其中,还包括以下步骤:
确定预定的帧数是否已完成(S36);
确定是否还有任何剩余的增强层数据(S38);
选择在其中分布剩余的增强层数据的第二预定帧数(S38);
计算在所述第二预定帧数中传输的第二数量减少的增强层数据(S38);以及
在第二给定间隔中传输所述第二数量减少的增强层数据(S42)。
6.根据权利要求1所述的方法,其中,所述增强层数据具有细粒可缩放性结构。
7.一种用于流式传输包括基本层数据和增强层数据的可缩放视频的方法,包括以下步骤:
在一个给定间隔传输基本层数据(S2);
如果在所述给定间隔中发生带宽损耗则选择一个预定帧数(S8);
利用一个窗口函数将所述带宽损耗分布到预定数目的帧中(S10),以产生数量减少的增强层数据;以及
在所述给定间隔中传输所述数量减少的增强层数据(S12)。
8.根据权利要求7所述的方法,其中,所述分布步骤(S10)的执行要使所述带宽损耗均匀地分布到预定数目的帧中。
9.一种用于流式传输包括基本层数据和增强层数据的可缩放视频的设备,包括:
存储器(26),用于存储可执行代码;以及
处理器(25),它执行存储在所述存储器(26)中的代码,以便(i)在一个给定间隔传输基本层数据,(ii)确定在所述给定间隔中是否发生带宽损耗,(iii)选择在其中分布所述带宽损耗的预定帧数,(iv)利用一个窗口函数来计算在预定帧数中传输的数量减少的增强层数据,以及(v)在所述给定间隔中传输所述数量减少的增强层数据。
10.一种用于流式传输包括基本层数据和增强层数据的可缩放视频的设备,包括:
用于在一个给定间隔传输基本层数据的装置;
用于确定在所述给定间隔中是否发生带宽损耗的装置;
用于选择在其中分布所述带宽损耗的预定帧数的装置;
用于利用一个窗口函数来说计算在预定帧数中传输的数量减少的增强层数据的装置;以及
用于在所述给定间隔中传输所述数量减少的增强层数据的装置。
CN01801124.1A 2000-03-01 2001-02-20 流式传输可缩放视频的方法和设备 Expired - Fee Related CN1196339C (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US09/516,035 2000-03-01
US09/516,035 US7095782B1 (en) 2000-03-01 2000-03-01 Method and apparatus for streaming scalable video

Publications (2)

Publication Number Publication Date
CN1381139A CN1381139A (zh) 2002-11-20
CN1196339C true CN1196339C (zh) 2005-04-06

Family

ID=24053849

Family Applications (1)

Application Number Title Priority Date Filing Date
CN01801124.1A Expired - Fee Related CN1196339C (zh) 2000-03-01 2001-02-20 流式传输可缩放视频的方法和设备

Country Status (6)

Country Link
US (1) US7095782B1 (zh)
EP (1) EP1183871B1 (zh)
JP (1) JP2003525547A (zh)
CN (1) CN1196339C (zh)
TW (1) TW520606B (zh)
WO (1) WO2001065855A2 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100575313C (zh) * 2007-07-05 2009-12-30 济南圣泉集团股份有限公司 一种利用甲醛废水进行发酵生产有机肥的方法

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7463683B2 (en) * 2000-10-11 2008-12-09 Koninklijke Philips Electronics N.V. Method and apparatus for decoding spatially scaled fine granular encoded video signals
US7958532B2 (en) * 2001-06-18 2011-06-07 At&T Intellectual Property Ii, L.P. Method of transmitting layered video-coded information
US7483487B2 (en) * 2002-04-11 2009-01-27 Microsoft Corporation Streaming methods and systems
MY162363A (en) * 2002-06-11 2017-06-15 Thomson Licensing Sa Multimedia server with simple adaptation to dynamic network loss conditions
KR100486713B1 (ko) * 2002-09-17 2005-05-03 삼성전자주식회사 멀티미디어 스트리밍 장치 및 방법
KR100917464B1 (ko) * 2003-03-07 2009-09-14 삼성전자주식회사 대역 확장 기법을 이용한 디지털 데이터의 부호화 방법,그 장치, 복호화 방법 및 그 장치
DE60303837T2 (de) * 2003-05-12 2006-08-17 Matsushita Electric Industrial Co., Ltd., Kadoma Verfahren und Vorrichtung zur Übertragung von Schichten für skalierbare Datendienste
DE60304078T2 (de) * 2003-05-12 2006-08-17 Matsushita Electric Industrial Co., Ltd., Kadoma Verfahren und Vorrichtung zur Durchfürung von Interfrequenz-Messungen
DE10353793B4 (de) * 2003-11-13 2012-12-06 Deutsche Telekom Ag Verfahren zur Verbesserung der Wiedergabequalität bei paketorientierter Übertragung von Audio-/Video-Daten
DE102004059993B4 (de) * 2004-10-15 2006-08-31 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen einer codierten Videosequenz unter Verwendung einer Zwischen-Schicht-Bewegungsdaten-Prädiktion sowie Computerprogramm und computerlesbares Medium
KR100679022B1 (ko) * 2004-10-18 2007-02-05 삼성전자주식회사 계층간 필터링을 이용한 비디오 코딩 및 디코딩방법과,비디오 인코더 및 디코더
US8081755B2 (en) * 2005-05-20 2011-12-20 Microsoft Corporation JPEG2000 syntax-compliant encryption with full scalability
US7953224B2 (en) * 2005-05-20 2011-05-31 Microsoft Corporation MPEG-4 encryption enabling transcoding without decryption
KR100772868B1 (ko) * 2005-11-29 2007-11-02 삼성전자주식회사 복수 계층을 기반으로 하는 스케일러블 비디오 코딩 방법및 장치
US10878646B2 (en) 2005-12-08 2020-12-29 Smartdrive Systems, Inc. Vehicle event recorder systems
US20070150138A1 (en) 2005-12-08 2007-06-28 James Plante Memory management in event recording systems
US8996240B2 (en) 2006-03-16 2015-03-31 Smartdrive Systems, Inc. Vehicle event recorders with integrated web server
US9201842B2 (en) 2006-03-16 2015-12-01 Smartdrive Systems, Inc. Vehicle event recorder systems and networks having integrated cellular wireless communications systems
FR2903556B1 (fr) * 2006-07-04 2008-10-03 Canon Kk Procedes et des dispositifs de codage et de decodage d'images, un systeme de telecommunications comportant de tels dispositifs et des programmes d'ordinateur mettant en oeuvre de tels procedes
US8649933B2 (en) 2006-11-07 2014-02-11 Smartdrive Systems Inc. Power management systems for automotive video event recorders
US8989959B2 (en) 2006-11-07 2015-03-24 Smartdrive Systems, Inc. Vehicle operator performance history recording, scoring and reporting systems
US8868288B2 (en) 2006-11-09 2014-10-21 Smartdrive Systems, Inc. Vehicle exception event management systems
US20080184128A1 (en) * 2007-01-25 2008-07-31 Swenson Erik R Mobile device user interface for remote interaction
US8243789B2 (en) * 2007-01-25 2012-08-14 Sharp Laboratories Of America, Inc. Methods and systems for rate-adaptive transmission of video
US8239092B2 (en) 2007-05-08 2012-08-07 Smartdrive Systems Inc. Distributed vehicle event recorder systems having a portable memory data transfer system
FR2923124A1 (fr) * 2007-10-26 2009-05-01 Canon Kk Procede et dispositif de determination de la valeur d'un delai a appliquer entre l'envoi d'un premier ensemble de donnees et l'envoi d'un second ensemble de donnees
CN101159686B (zh) * 2007-11-01 2010-04-14 北京航空航天大学 一种零延迟的基于滑动窗口的fgs带宽分配方法
EP2058968A1 (en) * 2007-11-07 2009-05-13 Thomson Licensing Method and apparatus for FEC encoding and decoding
FR2928807B1 (fr) * 2008-03-11 2017-04-07 Canon Kk Procede de transmission sur un reseau de communication d'un signal video pre-encode
US20100161716A1 (en) * 2008-12-22 2010-06-24 General Instrument Corporation Method and apparatus for streaming multiple scalable coded video content to client devices at different encoding rates
US9485299B2 (en) * 2009-03-09 2016-11-01 Arris Canada, Inc. Progressive download gateway
US9197677B2 (en) * 2009-03-09 2015-11-24 Arris Canada, Inc. Multi-tiered scalable media streaming systems and methods
US8566393B2 (en) 2009-08-10 2013-10-22 Seawell Networks Inc. Methods and systems for scalable video chunking
CN103210642B (zh) * 2010-10-06 2017-03-29 数码士有限公司 在http流送期间发生表达切换时传送用于自然再现的可缩放http流的方法
US9848217B2 (en) * 2012-01-20 2017-12-19 Korea Electronics Technology Institute Method for transmitting and receiving program configuration information for scalable ultra high definition video service in hybrid transmission environment, and method and apparatus for effectively transmitting scalar layer information
US9728228B2 (en) 2012-08-10 2017-08-08 Smartdrive Systems, Inc. Vehicle event playback apparatus and methods
US20140098880A1 (en) * 2012-10-05 2014-04-10 Qualcomm Incorporated Prediction mode information upsampling for scalable video coding
US9532057B2 (en) * 2012-12-28 2016-12-27 Qualcomm Incorporated Inter-layer prediction using sample-adaptive adjustments for bit depth scalable video coding
US9501878B2 (en) 2013-10-16 2016-11-22 Smartdrive Systems, Inc. Vehicle event playback apparatus and methods
US9610955B2 (en) 2013-11-11 2017-04-04 Smartdrive Systems, Inc. Vehicle fuel consumption monitor and feedback systems
US8892310B1 (en) 2014-02-21 2014-11-18 Smartdrive Systems, Inc. System and method to detect execution of driving maneuvers
EP3910960A1 (en) * 2014-08-07 2021-11-17 Sony Group Corporation Transmission device, transmission method, and reception device
US20160080826A1 (en) * 2014-09-16 2016-03-17 Qualcomm Incorporated Systems, methods and apparatus for broadcasting pay-per-view video over enhanced multimedia broadcast multicast service
US9663127B2 (en) 2014-10-28 2017-05-30 Smartdrive Systems, Inc. Rail vehicle event detection and recording system
US11069257B2 (en) 2014-11-13 2021-07-20 Smartdrive Systems, Inc. System and method for detecting a vehicle event and generating review criteria
US9679420B2 (en) 2015-04-01 2017-06-13 Smartdrive Systems, Inc. Vehicle event recording system and method
WO2017164595A1 (ko) * 2016-03-21 2017-09-28 엘지전자(주) 방송 신호 송수신 장치 및 방법
FR3070566B1 (fr) * 2017-08-30 2020-09-04 Sagemcom Broadband Sas Procede de recuperation d'un fichier cible d'un logiciel d'exploitation et dispositif d'utilisation
US11606528B2 (en) * 2018-01-03 2023-03-14 Saturn Licensing Llc Advanced television systems committee (ATSC) 3.0 latency-free display of content attribute
GB2599805B (en) * 2019-03-20 2023-09-06 V Nova Int Ltd Temporal signalling for video coding technology
CN113906746A (zh) * 2019-06-12 2022-01-07 索尼集团公司 图像处理装置和方法
CN114731409A (zh) * 2019-09-20 2022-07-08 韩国电子通信研究院 图像编码/解码方法和装置、以及存储比特流的记录介质
CN114710663A (zh) * 2019-09-20 2022-07-05 杭州海康威视数字技术股份有限公司 一种解码、编码方法、装置及其设备
WO2021062624A1 (zh) * 2019-09-30 2021-04-08 深圳市大疆创新科技有限公司 可移动平台的图像处理方法、装置、可移动平台及介质
CN114731431A (zh) * 2019-11-15 2022-07-08 寰发股份有限公司 在360度虚拟现实视频编码中用于发送水平环绕移动补偿的方法和装置
US20220408114A1 (en) * 2019-11-22 2022-12-22 Sharp Kabushiki Kaisha Systems and methods for signaling tiles and slices in video coding
JP2023524000A (ja) * 2020-05-19 2023-06-08 グーグル エルエルシー 品質正規化ビデオコード変換のための動的パラメータ選択
GB2598701B (en) * 2020-05-25 2023-01-25 V Nova Int Ltd Wireless data communication system and method
CN113709510A (zh) * 2021-08-06 2021-11-26 联想(北京)有限公司 高速率数据实时传输方法及装置、设备、存储介质

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2126467A1 (en) * 1993-07-13 1995-01-14 Barin Geoffry Haskell Scalable encoding and decoding of high-resolution progressive video
US5555244A (en) * 1994-05-19 1996-09-10 Integrated Network Corporation Scalable multimedia network
US5742892A (en) * 1995-04-18 1998-04-21 Sun Microsystems, Inc. Decoder for a software-implemented end-to-end scalable video delivery system
US5828788A (en) * 1995-06-29 1998-10-27 Thomson Multimedia, S.A. System for processing data in variable segments and with variable data resolution
US6075768A (en) * 1995-11-09 2000-06-13 At&T Corporation Fair bandwidth sharing for video traffic sources using distributed feedback control
US6269078B1 (en) * 1997-04-04 2001-07-31 T. V. Lakshman Method and apparatus for supporting compressed video with explicit rate congestion control
US6292512B1 (en) 1998-07-06 2001-09-18 U.S. Philips Corporation Scalable video coding system
US6275531B1 (en) * 1998-07-23 2001-08-14 Optivision, Inc. Scalable video coding method and apparatus

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100575313C (zh) * 2007-07-05 2009-12-30 济南圣泉集团股份有限公司 一种利用甲醛废水进行发酵生产有机肥的方法

Also Published As

Publication number Publication date
EP1183871B1 (en) 2017-01-11
WO2001065855A2 (en) 2001-09-07
JP2003525547A (ja) 2003-08-26
US7095782B1 (en) 2006-08-22
EP1183871A2 (en) 2002-03-06
TW520606B (en) 2003-02-11
WO2001065855A3 (en) 2001-12-27
CN1381139A (zh) 2002-11-20

Similar Documents

Publication Publication Date Title
CN1196339C (zh) 流式传输可缩放视频的方法和设备
JP4087852B2 (ja) ビデオの伝送方法
CN1315328C (zh) 在一统计式多工器中决定传输比特率的方法及装置
US7274740B2 (en) Wireless video transmission system
CN1268130C (zh) 固定带宽网络中多个压缩视频流的自适应带宽轨迹匹配
CN1215721C (zh) 恒定速率信道可变位速率视频节目的速率控制与缓存保护
US7652993B2 (en) Multi-stream pro-active rate adaptation for robust video transmission
CN1643875A (zh) 数据流式传输系统和方法
KR101501396B1 (ko) 개방-루프 통계 멀티플렉서를 가진 svc-avc 리라이터
CN1726709A (zh) 利用基于图像的超前查看窗口进行速率控制
CN101057439A (zh) 发送器、接收器以及通信系统
CN1826812A (zh) 视频编码器和编码视频的方法
CN1433641A (zh) 可配合图像群结构中改变的统计式复用器及再复用器
CN1315118A (zh) 压缩与未经压缩的数字视频信号的统计式多路转接的动态位分配
CN1717047A (zh) 用于运动图像数据流业务的数据流文件、方法和系统
CN1703088A (zh) 传输具有数据单元序列的数据信号的服务器、系统和方法
CN1643932A (zh) 用于数据流式传输系统的数据结构
CN1859579A (zh) 传输多媒体数据流的设备和方法
Wu et al. On packetization of embedded multimedia bitstreams
CN1790973A (zh) 用于控制实时流业务的传送速率的系统和方法
CN1868213A (zh) 内容接收设备、视频/音频输出定时控制方法及内容提供系统
CN1976433A (zh) 通信系统、终端设备和计算机程序
CN1191721C (zh) 视频信号编码和缓存器管理
CN1864409A (zh) 媒体信号的发送方法、接收方法、发送接收方法以及装置
JP2003209839A (ja) 伝送フォーマット、並びに通信制御装置および方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: IPG ELECTRONICS 503 CO., LTD.

Free format text: FORMER OWNER: ROYAL PHILIPS ELECTRONICS CO., LTD.

Effective date: 20090821

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20090821

Address after: British Channel Islands

Patentee after: Koninkl Philips Electronics NV

Address before: Holland Ian Deho Finn

Patentee before: Koninklike Philips Electronics N. V.

ASS Succession or assignment of patent right

Owner name: FUNAI ELECTRIC CO., LTD.

Free format text: FORMER OWNER: IPG ELECTRONICS 503 LIMITED

Effective date: 20120523

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20120523

Address after: Osaka Japan

Patentee after: Funai Electric Co., Ltd.

Address before: British Channel Islands

Patentee before: Koninkl Philips Electronics NV

CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20050406

Termination date: 20190220