CN103891303A - 基于脚本的视频呈现 - Google Patents

基于脚本的视频呈现 Download PDF

Info

Publication number
CN103891303A
CN103891303A CN201280050754.7A CN201280050754A CN103891303A CN 103891303 A CN103891303 A CN 103891303A CN 201280050754 A CN201280050754 A CN 201280050754A CN 103891303 A CN103891303 A CN 103891303A
Authority
CN
China
Prior art keywords
script
computing platform
user
field picture
video data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201280050754.7A
Other languages
English (en)
Other versions
CN103891303B (zh
Inventor
史蒂文·埃里克·韦斯特高
徐志威
涂绍宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Destiny Software Productions Inc
Original Assignee
Destiny Software Productions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Destiny Software Productions Inc filed Critical Destiny Software Productions Inc
Publication of CN103891303A publication Critical patent/CN103891303A/zh
Application granted granted Critical
Publication of CN103891303B publication Critical patent/CN103891303B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • G11B27/034Electronic editing of digitised analogue information signals, e.g. audio or video signals on discs
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234309Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4 or from Quicktime to Realvideo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234381Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the temporal resolution, e.g. decreasing the frame rate by frame skipping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341Demultiplexing of audio and video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44004Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440218Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440281Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8543Content authoring using a description language, e.g. Multimedia and Hypermedia information coding Expert Group [MHEG], eXtensible Markup Language [XML]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements

Abstract

提供了用于在用户计算平台上跨平台呈现视频内容的系统和方法,所述用户计算平台是多个不同用户计算平台类型中的一种。将脚本发送给用户计算平台并且所述脚本由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释。发送脚本,使得所述脚本由在用户计算平台上操作的应用程序解释,以使得所解释的脚本直接将发送给用户计算平台或者可由用户计算平台访问的经编码的视频数据解码成经解码的视频数据,并且进一步使得呈现经解码的视频数据。

Description

基于脚本的视频呈现
技术领域
本发明涉及用于使用所解释的脚本来在用户计算装置上跨平台呈现(render)视频内容的方法和系统。特定的实施方式提供用于使用嵌入HTML文档内的脚本来跨平台呈现视频内容的方法和系统,在由网络浏览器的脚本解释器解释时,这些方法和系统使得所解释的脚本将经解码的视频数据直接解码成帧图像,并且使得网络浏览器本地地(natively)呈现帧图像。特定的实施方式提供用于将视频内容编码的方法和系统。
背景技术
通常使用多个术语,例如,视频内容、视频媒体、视听媒体、视听内容、多媒体、富媒体等来描述数字视频。在该说明书中,视频内容应理解为包括可由视频数据、音频数据或与音频数据结合的视频数据体现或者可包括视频数据、音频数据或与音频数据结合的视频数据的任何这种内容和/或媒体。在某些情况下,视频数据和/或音频数据可与其他数据构成组,例如,图像数据、元数据等。除非在上下文中另有规定,否则音频内容应理解为可能包括这种图像数据、元数据等。通过非限制性实例,视频内容可通过互联网或某种其他类型的数据网络(例如,通过主机服务器或对等装置)流传输或发送、缓存(由ISP、代理服务器或某个其他中间装置缓存)、本地缓存(例如,由在用户计算装置上运行的网络浏览器缓存)或本地储存或可本地进入用户计算装置。
目前,使用各种技术和方案,来编码、发送以及呈现在互联网上(或以其他方式)可利用的数字视频内容。具有与目前可用的视频呈现技术相关的多个缺点。
使用典型的先有技术的数字视频技术来在用户计算装置上分布和执行视频内容的一个缺点在于,必须在用户计算装置上下载和安装或者必须由用户计算装置平台(用户计算装置平台包括用户计算装置硬件和操作系统软件)预先安装专用应用程序(通常称为媒体播放器)。在该说明书中,应用程序称为编译的程序(可执行对象模块和/或其他编译代码段),该程序能够独立地并且无需另一个应用程序的协助来单独执行应用、功能或操作。应用程序与下面进一步描述的附加组件形成对比,这是因为附加组件取决于主机应用程序,以提供其功能,然而,应用程序能够独立地执行其功能。而且,并非所有独立的程序都是应用程序。例如,虚拟机(例如,Java虚拟机)并非应用程序,这是因为这种虚拟机仅仅提供虚拟环境(例如,虚拟操作系统和虚拟硬件),并且不执行独立的应用、功能或操作。这种虚拟机要求应用程序(例如,编译的Java字节码应用程序)执行任何应用、功能或操作。一些用户不能下载或安装单独的媒体播放器。考虑到通常与下载文件(尤其与可执行应用程序)相关的安全性和/或隐私威胁(例如,病毒、恶意软件、本地共享对象等),一些用户不愿意下载单独的媒体播放器。
此外,通常下载和安装媒体播放器应用程序,作为编译的对象代码,因此,在市场上可具有的每个版本的用户计算装置平台需要一个不同的编译对象。考虑到移动智能手机的发展和多样性以及各种个人电脑平台,必须支持的对象平台的数量繁多,这是因为编译版本的媒体播放器可能不在并非其定向的硬件和/或操作系统平台上进行操作。在可与媒体播放器冲突的其他安装的应用程序可损害媒体播放器与平台的兼容性时,复杂度增大。
一些用户计算装置硬件和/或软件平台不支持一些媒体播放器应用(反之亦然),并且媒体播放器应用不能用于这种硬件和软件平台。而且,希望下载和安装媒体播放器的用户通常需要其用户计算装置硬件和/或软件平台的一些知识,来下载正确的播放器。甚至在已经下载和安装特定的播放器时,除了与下载和安装媒体播放器相关的问题以外,呈现视频内容还需要执行媒体播放器应用,这通常消耗大量计算资源(例如,RAM、CPU时间等)。
一些视频内容呈现技术使用“隐藏的播放器”,这表示在用户计算装置上进行操作的主机应用程序(例如,网络浏览器等)自动下载和安装媒体播放器附加组件。在该说明书中,术语附加组件应理解为包括附加组件、插件、管理单元、扩展部分、小应用程序等。附加组件是编译的程序(即,可执行对象代码模块、其他编译的代码段等),这些编译的程序将特定的功能(例如,视频内容呈现)加入“主机”应用程序中。虽然附加组件可执行一些功能,但是附加组件取决于其主机应用程序的可操作性。可与主机网络浏览器应用程序相结合使用的附加组件的实例包括:媒体播放器附加组件、PDF阅读器附加组件、Java虚拟机(JVM)附加组件等。
在某些情况下,媒体播放器附加组件(或使得用户计算装置下载和安装媒体播放器附加组件的指令)可与视频内容文件捆绑在一起。在其他情况下,视频分布技术使得用户计算装置的网络浏览器单独下载媒体播放器附加组件和视频内容文件。由于实际上必须在执行之前下载和安装这种媒体播放器附加组件,所以这种媒体播放器附加组件具有与其明显的媒体播放器对应物的缺点相似的缺点。一些应用程序(例如,网络浏览器、抗病毒程序等)或操作系统软件可具有安全性和/或隐私设置(由其用户、其网络管理员等设置),该安全性和/或隐私设置阻止自动下载这种媒体播放器附加组件。在下载和安装媒体播放器附加组件之后,执行媒体播放器附加组件,消耗大量处理资源。作为编译的模块,必须为可打开的每个可能的对象平台,创造和测试一个不同版本的附加组件。
通常需要通过避免在用户计算装置上下载和安装、预先安装或编译单独的媒体播放器或媒体播放器附加组件的方式,来呈现视频内容。通常需要通过与平台无关的或者具有较高程度的跨平台可操作性的方式,分布和执行视频内容。
在流媒体视频内容的背景下,使用当前技术来在用户计算装置上分布和执行内容,具有另一个缺点,其中,当前技术通常使用流媒体内容服务器,每当用户计算装置请求视频内容流时,该服务器通过用户计算装置执行某种“握手”协议。与使用内容服务器和相关的握手协议相关的缺点在于,可防止本地(或下游)缓存视频内容。这种本地或下游缓存可节省带宽(以及相关的成本)并且提高流的可靠性(从而提高视频质量)。
在需要更新一个或多个CODEC时,使用当前技术来在用户计算装置上分布和执行视频内容,具有另一个缺点。CODEC是一种方案,用于将音频或视频数据编码,以减小其传输所需要的带宽,然后,用于在传输的另一侧将数据解码。通常,使用CODEC包括在传输侧上压缩数据并且在接收侧上将数据解压。解码还可包括在到达接收的计算机装置时解析和拆开数据,和/或将数据重新组织成可由接收的计算机装置使用的格式。先有技术的视频呈现技术通常包括使用编译的计算机程序模块,在执行时,该模块执行解码工序。如果在传输侧使用更新的CODEC来将视频内容编码,那么通常不能在用户计算装置上将视频内容解码,除非在用户计算装置上下载和安装用于该CODEC的新更新的解码程序。
各种更新的网络浏览器应用程序能够使用HTML5<video>tag来本地地呈现嵌入网页内的视频。遗憾的是,CODEC支持目前并非在所有浏览器上均匀。在HTML5标准正在进行的发展中,继续争论(如果有的话)应本地地由HTML5兼容浏览器可呈现哪些视频格式。虽然可提供多份视频内容,供不同的CODEC使用,但是这通常需要将视频内容从一个CODEC转码成另一个CODEC。虽然能够转码视频内容,以便根据不同的CODEC进行编码,但是这具有缺点。例如:
·转码需要时间和精力;
·转码通常是在计算上密集的工序,以便目前在技术上难以提供实时转码和/或在计算上比较昂贵地提供实时转码;
·在提前转码视频内容,以根据不同的CODEC进行解码时,通常必须储存多份视频内容(每个不同的CODEC具有一份),对于大量视频内容,这较为繁重;
·专有一些CODEC,并且其合法使用受到限制或者需要支付许可费;以及
·为根据不同的CODEC解码的视频内容服务,需要使用不同的流媒体服务器。
因此,通常需要呈现视频内容的方法和系统,这通过现有视频内容呈现技术克服或减轻了这些和其他缺点中的一些缺点。
相关技术以及与其相关的限制的上述实例旨在进行说明,而不排外。在阅读说明书以及研究附图时,对于本领域的技术人员,相关技术的其他限制显而易见。
附图说明
在示图的参考图中,说明了示例性实施方式。其目的在于,在本文中公开的实施方式和示图被视为进行说明,而非进行限制。
在说明本发明的非限制性实施方式的示图中:
图1为示出根据一个特定实施方式的脚本的功能元件的示意性方框图,该脚本可嵌入HTML文档内并且可由应用程序(例如,网络浏览器)解释,以呈现视频内容;
图2A为根据一个实例实施方式的视频呈现系统的示意性方框图;
图2B为根据一个实例实施方式的音频呈现系统的示意性方框图;
图3为根据一个实例实施方式的视频数据排队和解码方法的流程图;
图4为根据一个实例实施方式的视频数据呈现方法的流程图;
图5为根据一个实例实施方式的音频数据排队和解码方法的流程图;
图6为根据一个特定的实施方式的用于实现音频呈现器接口的方法的流程图;
图7为根据另一个实例实施方式的用于将音频和视频数据排队和解码、呈现视频数据并且实现音频呈现器接口的方法的流程图;
图8为根据一个特定的实例实施方式的用于提取视频数据的方法的流程图;
图9A和9B为根据特定的实例实施方式的用于下采样帧插补的技术的示意图;
图9C为用于制备根据图9A和9B适用于帧插补的根据一个特定的实施方式的α混合(alpha-blend)的图像的方法的方框图;以及
图10为用于呈现视频内容的方法的方框图,其中,根据用户计算装置的一个或多个特征和/或在服务器与用户计算装置之间的网络连接,在解释脚本时,该脚本适合呈现视频内容。
具体实施方式
在以下描述中,提出具体细节,以便为本领域中的技术人员提供更彻底的理解。然而,未详细显示或描述众所周知的部件,以免本公开不必要地晦涩难懂。因此,该说明书和附图具有说明而非限制的意义。
在本公开和专利权利要求中,以下技术术语具有在下面提出的相应定义。
·应用程序表示编译的程序(可执行对象代码模块、其他编译的代码段等),该程序能够独立地并且无需另一个应用程序的协助来单独执行应用、功能或操作。
·附加组件表示编译的程序(即,可执行对象代码模块、其他编译的代码段等),该程序将特定的功能(例如,视频内容呈现)加入“主机”应用程序中。
·脚本表示一系列非编译的跨平台指令,这些指令通常(而非必要地)为人类可读并且由应用程序的脚本解释器解释,无需编译。
·在脚本由应用程序解释以便“直接”执行功能时,这表示解释包含功能表示的脚本,以执行功能本身,而不依靠由应用程序(或某个其他应用程序或附加组件)提供以便执行功能的预先编译的模块。
·在应用程序(例如,网络浏览器)“本地地”执行功能时,这表示应用程序自动执行功能(可能在计算装置硬件和/或操作系统的协助下),但是无需依靠附加组件。通过请求其自身的预先编译的代码模块,而非通过附加组件的预先编译的代码模块,应用程序可本地地执行功能。应用程序可在脚本的指导下本地地执行功能。
本发明的特定实施方式提供了用于使用跨平台脚本在用户计算装置上呈现视频内容的方法和系统,该脚本由应用程序(例如,网络浏览器)解释,以本地地呈现体现视频内容的视频和/或音频数据。在解释脚本时,可由脚本直接执行视频呈现工序的特定功能。在本说明书中,术语脚本表示一系列非编译的跨平台指令,这些指令通常(而非必要地)为人类可读并且由应用程序的脚本解释器解释,无需编译。在机器代码内执行之前,编译典型的应用程序和附加组件。由于未编译脚本,所以脚本与传统的编译代码应用程序和附加组件形成对比。脚本也与Java字节码不同。在解释之前,部分预先编译字节码,并且在解释时,将字节码编译到机器代码内。与此相反,在解释时,未将脚本编译到机器代码内。在本说明书中,在解释脚本时,这表示应用程序的脚本解释器读取脚本指令并且执行脚本指令,无需将脚本指令编译到机器代码内。
通过非限制性实例,在一些实施方式中,可将脚本嵌入超文本标记语言(HTML)文档内,并且在网络浏览器应用程序呈现HTML文档,从而显示HTML页面时,该脚本可由在用户计算装置上运行的网络浏览器应用程序解释。在用户计算装置上进行操作的网络浏览器可从在互联网上的位置中接收HTML文档,该位置由输入到浏览器内的统一资源定位器(URL)规定。大部分网络浏览器应用程序包括本地地解释脚本的一个或多个本地脚本解释器。通过非限制性实例,脚本可写入跨平台脚本语法(例如,ECMAScript、JavaScript、Jscript、ActionScript)、在HTML标准(例如,HTML5)中固有的脚本语法等内。在本说明书中,在应用程序(例如,网络浏览器)本地地执行功能或操作时,这表示应用程序本身执行功能(可能在计算装置硬件和/或操作系统的协助下),但是无需依靠附加组件。通过请求其自身的预先编译的代码模块,而非通过附加组件的预先编译的代码模块,应用程序可本地地执行功能。
本发明的特定方面提供脚本,脚本可由应用程序(例如,网络浏览器)解释,以使得浏览器在用户计算装置上本地地呈现视频数据。在一些实施方式中,用户计算装置可使用一个不同的应用程序(例如,而非网络浏览器),该应用程序可包括本地脚本解释器或者能够解释脚本。在这种实施方式中,脚本可由其他这种应用程序解释,并且在这样进行解释时,可使得其他这种应用程序在用户计算装置上本地地呈现视频数据。为了简单起见并且不失一般性地,该应用的剩余部分可表示由网络浏览器解释的脚本,以使得网络浏览器本地地呈现视频数据。网络浏览器的引用应理解为包括其他应用程序,这些应用程序并非网络浏览器,但是可包括一个或多个脚本解释器,或者能够本地地解释脚本。通过非限制性实例,这种脚本可(但并非必须)位于使用超文本传输协议(HTTP)传达的文档内。
在一些实施方式中,应用程序可解释脚本,从而使得所解释的脚本直接执行一个或多个功能(与视频和/或音频呈现相关)。在本说明书中,在脚本由应用程序解释,以直接执行功能时,这表示解释脚本,以执行功能本身。在脚本由应用程序解释,以直接执行功能时,所解释的脚本包含功能表示并且不依靠由应用程序(或某个其他应用程序或附加组件)提供以便执行功能的预先编译的模块。例如,在一些实施方式中,网络浏览器可解释脚本,以使得所解释的脚本直接:执行解码功能,该功能将视频内容从其编码的格式解码成帧图像;将帧图像重新格式化为可由网络浏览器本地地呈现的格式;和/或控制或同步视频和音频呈现的时间。
特定的实施方式包括使用嵌入HMTL文档内的脚本,该脚本由网络浏览器解释,以使得所解释的脚本将视频数据直接解码成一系列单独的帧图像并且在用户计算装置的显示器上本地地显示这系列帧图像,作为一系列位图。一些实施方式同样涉及另外使用脚本,该脚本由网络浏览器解释,以使得所解释的脚本将音频数据直接解码并且在用户计算装置上本地地重放经解码的视频数据。在视频内容包括视频数据和音频数据时,脚本可由网络浏览器解释,以使帧图像的显示与经解码的音频数据的重放同步,从而通过用户期望体验的方式呈现视听视频内容(例如,电影)。
特定的实施方式提供用于将视频内容编码的方法和系统,这些方法和系统适用于上述基于脚本的视频呈现技术。
计算机和相似的用户计算装置通常理解可在微处理器类型之间变化的机器或对象代码。软件工程师通常通过所谓的“高级”语言(例如,C)来编程,然后使用提前转换高级代码(通常称为源代码)机器或对象代码的编译器。通过高级语言编程,然后将人类可读的源代码编译成经编译的可执行版本,其缺点在于,编译版本的程序不便于携带或者并非“跨平台”。创建编译的代码,专门用于对象用户计算装置(用户计算装置的硬件和操作系统)。如上所述,在某些情况下,这可能成为问题。
为了解决该问题,已经提出了跨平台计算机语言,例如,Java。在用户计算装置上接收之前,将该计算机语言部分预先编译成所谓的字节码,并且该计算机语言期望用户计算装置可调用额外的预先编译的程序(称为Java虚拟机(JVM)),该程序会理解字节码。作为编译的代码,在用户计算装置上解释字节码的JVM特别用于用户计算平台。JVM可能不能用于特定的用户计算装置平台或者对特定的平台可具有有限的功能。因此,Java(以及依靠虚拟机的相似的计算机语言)的使用仅仅将跨平台可操作性问题从单独的程序转变成JVM。即,预先编译的程序不需要以各种特定的用户计算平台为对象,JVM需要专门以各种用户计算平台为对象。
与编译的语言和部分编译的语言(例如,Java)不同,未编译脚本。脚本包括根据各种脚本语法(例如,ECMAScript、JavaScript、Jscript、ActionScript、在HTML标准中固有的脚本语法等)编写的一系列指令(例如,脚本标签)。并未编译脚本指令,确切地说,由在用户计算装置上进行操作的应用程序解释脚本指令(并未编译),以使得应用程序执行某些动作。使用脚本(特别是用于处理器密集的任务)带来的困难在于,脚本的解释较慢(例如,在与编译的程序相比时),这是因为在运行时间进行解释。因此,就发明人所知,包括一系列脚本标签的脚本迄今还未用于使得在用户计算装置上进行操作的网络浏览器本地地呈现视频内容。如上所述,先有技术的视频呈现技术依靠已经为特定的硬件和软件平台编译的预先编译的媒体播放器、附加组件、JVM等。
图1为示出根据一个特定实施方式的脚本10的功能元件的示意性方框图,该脚本用于在用户计算装置(在图1中未明确显示)呈现视频内容。脚本10可包括在跨平台脚本语法(例如,通过非限制性实例)、ECMAScript、JavaScript、Jscript、ActionScript等内写入的一系列脚本标签。写入呈现的引擎脚本10的脚本语法优选地由主要的操作系统、网络浏览器和/或其他应用程序广泛地支持,以便脚本10可独立于平台,从而在各种用户计算装置上进行操作(通过非限制性实例,台式电脑、膝上型电脑、平板电脑、智能电话、个人计算装置、专用装置等)。如上所述,用户计算装置可具有各种平台,并且脚本10能够在具有各种平台的各种用户计算装置上进行解释。脚本10可嵌入HTML文档内,以便在脚本10由在用户计算装置上进行操作的网络浏览器解释时,脚本10使得网络浏览器本地地提供在图1中所示的功能元件。在一些实施方式中,在用户计算装置上进行操作的网络浏览器可本地地解释脚本10,该脚本可反过来使得网络浏览器本地地呈现视频数据,不要求用户计算装置下载、安装或执行用于CODEC、媒体播放器附加装置或其他媒体播放器应用的任何额外的预先编译的解码器,以与网络浏览器一起或与网络浏览器相结合地运行。
在一个特定的实施方式中,HTML文档包括脚本10和视频内容文件的引用。脚本10可由在用户计算装置上进行操作的网络浏览器解释,以使得网络浏览器呈现视频内容。由解释脚本10呈现的视频内容可:通过网络通信链路(例如,从互联网中或者从能够通过主机服务器或对等装置与用户计算装置连通的某个其他网络中)流传输12(或发送);通过合适的网络通信链路从下游网络缓存14中获取(例如,由ISP、代理服务器或某个其他中间装置缓存);本地缓存15(例如,由在用户计算装置上运行的网络浏览器缓存在本地缓存内或者缓存在可进入用户计算装置的本地缓存内);或者包含在本地文件16(例如,储存在可进入用户计算装置的本地存储器内的文件)内等。
在进行解释时,脚本10可使得网络浏览器本地地提供数据接收部件20,该部件接收(流传输或下载12、从一个或多个下游缓存14中获取、本地缓存15、本地储存16等17)视频内容,访问经编码的视频内容以及多路分用(或者分离)不同类型的数据(例如,视频数据22以及可选地音频数据24、图像数据26以及元数据(未显示)),这些数据最初可包含在单个数据源内。
通常,使用某个CODEC方案,将由数据接收模块20获取的视频数据22编码。因此,在由浏览器解释时,所显示的实施方式的脚本10使得网络浏览器提供解码部件30,该解码部件本地地进行操作,以将视频数据22解码,从而获得经解码的(并且通常解压的)视频数据42。在一些实施方式中,可直接由脚本执行将功能解码的模块30。由解码部件30实现的特定的解码和解压方案当然取决于用于编码和压缩视频数据22的编码方案或CODEC。因此,脚本10的开发人员了解编码方案和相应的解码方案的规格。虽然并非必要,但是这些编码和解码方案(尤其是由解码部件30实现的解码方案)可包括开源或者公开可用的标准。
与视频数据22一样,通常使用某个CODEC方案,将由数据接收模块20获取的音频数据24编码。因此,在执行时,所显示的实施方式的脚本10使得网络浏览器提供解码部件32,该解码部件本地地进行操作,以将音频数据24解码,从而获得经解码的(并且通常解压的)音频数据44。在一些实施方式中,可直接由脚本执行将功能解码的模块32。由解码部件32实现的特定的解码和解压方案当然取决于用于编码和压缩音频数据24的CODEC。因此,脚本10的开发人员了解编码方案和相应的解码方案的规格。虽然并非必要,但是这些编码和解码方案(尤其是由解码部件32实现的解码方案)可包括开源或者公开可用的标准。通过与上述视频数据22的方式相似的方式,可将在专用格式中编码的压缩视频数据解码成公开可用的格式,以提供音频数据24,以便通过执行公开可见的脚本10,可实现解码部件32。
在进行解释时,脚本10还使得网络浏览器提供视频显示部件50,该部件在用户计算装置的显示器70上从经解码的视频数据流42中本地地显示帧图像。一旦在解码模块30中将经编码的视频数据22解码,以提供经解码的视频流42(例如,包括一系列帧图像),就由显示部件50在用户计算装置的显示器上显示经解码的视频流42。在一些实施方式中,显示部件50包括使用所谓的画布部件或画布标记。画布标记是HTML5标记,该标记允许在用户计算装置的显示器(例如,显示器70)上动态地可编写脚本地呈现(具有规定的像素高度和宽度的)2D形状和位图图像。画布标记可用于以足够快的帧速率来显示被人们视为视频的位图图像。
在一些实施方式中,显示部件50包括使用画布标记,来显示经解码的视频数据流42的帧图像的子集。例如,在可选的同步模块60(下面更详细地解释)表示显示模块50正在以低于音频数据44的重放的速率显示位图图像的情况下和/或在可用的处理资源可能可取地显示经解码的视频流42的帧图像的子集的其他情况下,可丢弃经解码的视频流42的位图帧。在一些实施方式中,可使得帧图像坚持显示用户计算装置,例如,在同步功能60表示显示部件50正在以高于音频数据44的重放的速率显示图像时。在显示部件50包括使用画布标记,来显示经解码的视频流42的帧图像的子集时,显示部件50和/或同步模块60可包括从经解码的视频流42内选择特定的帧图像,用于进行显示。
在一些实施方式中,执行脚本10,使得网络浏览器提供显示模块50,该显示模块的功能(例如,从经解码的视频流42中显示帧图像(例如,位图帧图像)并且可选地从经解码的视频流42内选择帧图像,用于进行显示)由网络浏览器本地地实现,而不调用或者执行任何额外的预先编译的应用程序或附加组件。
由于继续增大数字装置的处理能力,所以由执行脚本10提供的显示部件50能够以帧速率显示位图图像,这些帧速率接近使用定制的视频重放应用的传统视频重放的帧速率。在一些实施方式中,显示部件50能够以大于40帧/秒的帧速率来显示640x480像素位图图像。在一些实施方式中,显示部件50能够以大于50帧/秒的帧速率来显示640x480像素位图图像。
在所显示的实施方式中,视频内容包括可选的图像数据26。显示部件50还可使得在用户计算装置70上本地地显示图像数据26。大部分网络浏览器包括本地功能,用于显示JPEG图像数据,在与显示部件50的供应相关的脚本10部分的指导下,该图像数据可由浏览器调用。
在实现时,脚本10还提供音频重放部件52,用于本地地重放经解码的音频流44。在一些实施方式中,经解码的音频流44包括.WAV格式音频流。大部分网络浏览器包括本地功能,用于重放.WAV格式音频流,在与音频重放部件52相关的脚本10部分的指导下,这些音频流可由浏览器调用。该本地音频重放功能还可包括或使用与经解码的音频流44的重放相关的时间基准信息。可将该重放时间参考信息反馈给在下面描述的同步模块60。
在实现时,脚本10可选地使得网络浏览器提供同步模块60,该同步模块在位于音频重放部件52重放经解码的音频流44与显示部件50显示经解码的视频流42的帧图像之间的可接受容差内保持同步。在一些实施方式中,同步模块60利用从音频重放模块52中获得的参考时间点(例如,开始重放音频数据44)和时间戳信息(称为音频重放时间基准)。在一些实施方式中,同步模块60可选地使得显示部件50在选择帧图像用于进行显示之前,检查音频重放模块52的音频重放时间基准。然后,同步模块60可选地使得显示部件50选择与音频重放参考时间对应的帧图像,并且使用画布标记来显示所选择的帧图像,作为位图。如果音频重放部件52的音频重放参考时间表示经解码的音频流44的重放发生在从解压的视频数据42内显示帧图像之前,那么同步模块60可使得显示部件50跳过一个或多个帧图像。如果音频重放部件52的音频重放参考时间表示经解码的音频流44的重放发生在从解压的视频数据42内显示帧图像之后,那么同步模块60可使得显示部件50在更新帧图像时造成延迟(例如,使得一些帧图像持续存在)。通过这种方式,由显示部件50显示的视频数据可与音频重放部件52的音频重放同步。
可通过例如图形用户接口为用户(未显示)提供控制面板80功能。控制面板80可为用户提供控制脚本10重放视频数据42和/或音频数据44的能力。通过非限制性实例,控制面板80可为用户提供控制重放数据、暂停重放数据、在数据内及时寻找位置、调节重放的音量、调节重放的速度等的能力。在所显示的实施方式中,在脚本10的外面提供控制面板80,但是这不是很必要。在一些实施方式中,脚本10可使得网络浏览器提供控制面板80。
图2A为根据一个实例实施方式的视频呈现系统100的示意性方框图。在一些实施方式中,使用由通过在用户计算装置上进行操作的网络浏览器(或其他应用程序)体现的脚本解释器解释的跨平台脚本,至少部分实现视频呈现系统100。在一些实施方式中,部分视频呈现系统100本地地由解释脚本的网络浏览器实现。在一些实施方式中,脚本直接执行或实现视频呈现系统100的一些功能。
在所显示的实施方式中,视频呈现系统100获得视频内容116。在一些实施方式中,视频内容116位于从网络上可获取的主机服务器、从网络上可获取的缓存或从网络上可获取的对等装置上。在其他实施方式中,视频内容116可在本地用于用户计算装置。在本说明书的剩余部分中,假设(不失一般性地)视频内容116位于主机服务器上。在特定的实施方式中,通过将包含URL的HTTP请求发送给服务器,视频呈现系统100检索视频内容116,该URL识别在服务器上托管的特定视频内容116(例如,通过从服务器中开始“下载”或“流传输”视频内容116)。如上所述,视频内容116可包括视频数据114以及其他数据,例如,音频数据164、图像数据(未显示)、元数据(未显示)等。在所显示的实施方式中,提供给视频呈现系统100的视频内容116通常可包括任何这种数据,并且由视频呈现系统100多路分用,以访问包含在其内的视频数据114。在其他实施方式中,在视频呈现系统100上由合适的多路分用器(未显示)接收,以分离视频数据114和视频内容116并且使视频呈现系统100直接访问多路分用的视频数据114之前,可多路分用视频内容116。使用由在用户计算装置上进行操作的网络浏览器解释的跨平台脚本,还可至少部分实现这种多路分用器。
在所显示的实施方式中,视频呈现系统100包括视频数据队列监视器110,该监视器被配置为使得视频内容116的视频数据114储存在体现视频数据队列112的数据结构内并且监视视频数据队列112。在一些实施方式中,在用户计算装置上进行操作的网络浏览器内实现视频队列监视器110。在一些实施方式中,将视频数据114储存在视频数据队列112内,包括多路分用视频数据114和音频数据164以及可形成一部分视频内容116的其他数据(例如,图像、元数据等)。该多路分用功能可由视频数据队列监视器110实现。在其他实施方式中,视频数据队列监视器110不需要执行该多路分用功能。如上所述,在一些实施方式中,在由视频呈现系统100接收之前,视频数据114可由另一个多路分用器(未显示)多路分用。在另外一些实施方式中,储存在视频数据队列112内的数据包括(还未多路分用的)视频内容116,并且视频数据114可与音频数据164和/或其他数据多路分用,同时由解码器122解码。
系统100包括视频解码器122。视频解码器122将视频数据114解码,以提供帧图像。在特定的实施方式中,在脚本由网络浏览器解释时,视频解码器122直接由脚本实现。系统100包括帧缓冲监视器120。在所显示的实施方式中,帧缓冲监视器120被配置为使得解码器122将包含在视频数据队列112内的视频数据114解码成帧图像,并且使得帧图像处理器136处理那些帧图像,从而产生帧图像124,这些帧图像储存在体现帧图像缓冲器126的数据结构内并且具有适合于由帧图像呈现器132显示的格式。帧缓冲监视器120可由网络浏览器本地地实现。在一些实施方式中,在脚本由网络浏览器解释时,帧缓冲监视器120的功能直接由脚本实现。帧图像124包括一系列图像,在依次(例如,以可作为视频数据114的帧速率的合适的帧速率)呈现时,这些图像被人们视为视频。帧缓冲监视器120可被配置为使得解码器122和帧图像处理器136继续从视频数据114中解码和处理帧图像124,直到在帧图像缓冲器126内至少具有阈值数量的帧图像124(例如,直到帧图像缓冲器126充满)。
在所显示的实施方式中,可选的帧图像处理器136通过视频解码器122接收帧图像140(例如,从视频数据114中解码的帧图像140),并且处理这种帧图像140,以在适合于供帧图像呈现器132使用的格式中生成帧图像124。在特定的实施方式中,在脚本由网络浏览器解释时,帧图像处理器136的一些功能直接由脚本实现。从解码器122中输出的帧图像140可包括任何合适图形文件格式的图像文件,包括通过非限制性实例:JPEG、GIF、PNG、TIFF、RAW、BMP等。一些网络浏览器能够本地地显示可能的图像文件格式的有限子集。例如,几乎每个网络浏览器都能够本地地显示JPEG和GIF图像文件格式,但是很多网络浏览器不能本地地显示具有TIFF文件格式的图像。在这种情况下,帧图像处理器136可包括帧图像转换器142,该转换器将帧图像140转换成具有可由网络浏览器本地地显示的一个或多个图像文件格式(例如,GIF和/或JPEG)的浏览器可呈现的帧图像144。在脚本由网络浏览器解释时,帧图像转换器142的功能可由脚本直接实现。要理解的是,在帧图像140已经具有可由在用户计算装置上进行操作的网络浏览器本地地显示的文件格式的情况下,不需要或者可绕过帧图像转换器142。
通常在所谓的二进制数据格式中表示帧图像144。在从脚本解释器中传输或传送具有二进制数据格式的图像时,一些网络浏览器不能接受这种图像。在这种情况下,帧图像144可进一步由帧图像处理器136处理成适合于从脚本解释器中传送给网络浏览器的格式。在所显示的实施方式中,该处理功能由内容传输编码器145执行,该编码器处理帧图像144,以生成内容传输编码的帧图像146。在脚本由网络浏览器解释时,内容传输编码器145的功能可直接由脚本实现。在一个特定的实施方式中,内容传输编码器145包括base64编码器,该编码器处理帧图像144,以生成base64编码的帧图像146,这不是很必要。在其他实施方式中,其他内容传输编码技术可用于代替base64编码,并且可根据某种其他合适的内容传输编码格式,将帧图像146编码。
然后,帧图像处理器136可使用内容传输编码的帧图像146,来使用图像对象创建器148创建图像对象。在一些实施方式中,图像对象创建器148包括使得脚本解释器调用由网络浏览器本地地实现的画布部件等,以使用内容传输编码的帧图像146,来创建具有CanvasPixelArray图像对象的形式的帧图像124,每个帧图像包含大量RGB像素值。在其他实施方式中,图像对象创建器148可使用内容传输编码的帧图像146,来创建具有其他图像对象格式的帧图像124。在一些实施方式中,可由图像对象创建器148(或者)使用具有以下形式的脚本指令来将内容传输编码的帧图像146传送给浏览器。
image.src=”data:image/jpg;base64,”+jpeg_encoded_in_content-transfer_format;
如上所述,帧图像124可具有适合于由帧图像呈现器132显示的格式,并且可储存在体现帧图像缓冲器126的数据结构内。
在所显示的实施方式中,经解码的帧图像140、浏览器可呈现的帧图像144以及内容传输编码的帧图像146显示为分别储存在经解码的帧图像缓冲器138、浏览器可呈现的帧图像缓冲器141以及内容传输编码的帧图像缓冲器143内。在一些实施方式中,尤其(但并非限制性地)在视频解码器122、帧图像转换器142、内容传输编码器145和/或图像对象创建器148中的任一个的功能在离散的迭代中彼此独立地执行时(下面更详细地进行解释),可使用这种缓冲器138、141、143。在其他实施方式中,这种缓冲器138、141、143并不必要,即,在每个迭代中,视频解码器122可创建单个解码的帧图像140,帧图像转换器142反过来可将该单个解码的帧图像转换成单个相应的浏览器可呈现的帧图像144,base64编码器反过来可将该浏览器可呈现的帧图像编码成单个相应的内容传输编码的帧图像146,图像对象创建器148反过来可使用该内容传输编码的帧图像来创建单个帧图像对象124,以加入帧图像缓冲器126中。
所显示的实施方式的帧图像处理器136可选。在其他实施方式中,帧图像处理器136的任何功能可包含在解码器122内和/或视频重放接口130内(下面进一步描述)。通过非限制性实例,帧图像转换器142的功能可包含在解码器122内,并且图像对象创建器的功能可包含在视频重放接口130内。在另一个非限制性实例中,所有帧图像处理器136的功能可包含在解码器122内。
视频数据队列监视器110可被配置为在视频数据114已经由解码器122解码之后,从视频数据队列112中清除视频数据114(或视频内容116)。在一些实施方式中,视频数据队列监视器110被配置为根据在已经由解码器122解码的视频数据队列112中的视频数据114的量,从视频内容源(例如,远程服务器)中请求视频内容116(和/或包含在其内的视频数据114)。例如,每当视频数据队列112包含比已经由解码器122解码的视频数据114的阈值量(例如,与适当的阈值数量的帧图像124对应的视频数据的阈值量)更少的量时,视频数据队列监视器110可被配置为请求视频内容116和/或视频数据114。在视频数据114包括一部分已知长度的视频段(例如,预先录制的节目、短影片、电影等)的情况下,或者在可辨别视频数据114的结尾时,视频数据队列监视器110可被配置为在已经将构成视频数据114的结尾的一部分视频数据114放入视频数据队列112内之后,停止请求视频内容116和/或视频数据114。
系统100包括视频重放接口130。在脚本由网络浏览器解释时,视频重放接口130的功能可直接由脚本实现。视频重放接口130被配置为与帧呈现器132的帧图像124的显示(例如,音频数据的重放)同步,或者使得帧呈现器132在适当的时间显示帧图像124。帧呈现器132可完全或部分由本地地位于在例如用户计算装置上进行操作的网络浏览器上的图像呈现引擎实现。帧呈现器132可包括调用drawImage()方法和/或将包括帧图像124的Image Data对象作为其(其中的一个)争论的put Image Data方法。
在一些实施方式中,视频重放接口130被配置为使得帧呈现器132以大约等于视频数据114的帧速率的速率显示帧图像124。在一些实施方式中,视频重放接口130被配置为使得帧呈现器132以小于视频数据114的帧速率的速率显示帧图像124,并且可选地显示在帧图像124的显示之间插补的图像。在一些实施方式中,视频重放接口130可使得帧呈现器132以用户可配置的速率显示帧图像124。视频重放接口130可被配置为在某个合适的容差内,使得帧呈现器132至少大致同步地呈现帧图像124以及呈现在视频内容116中伴随视频数据114的音频数据164。由于视频重放接口130可控制帧呈现器132呈现帧图像124的时间,所以视频重放接口130可称为重放时间监视器130。
图2B为根据一个实例实施方式的音频呈现系统150的示意性方框图。在一些实施方式中,使用由通过在用户计算装置上进行操作的网络浏览器解释器解释的跨平台脚本,至少部分实现音频呈现系统150。在一些实施方式中,部分音频呈现系统150本地地由解释脚本的网络浏览器实现。在一些实施方式中,脚本直接执行或实现音频呈现系统150的一些功能。在一些实施方式中,所有或部分视频呈现系统100(图2A)和音频呈现系统150(图2B)可彼此结合。在一些实施方式中,例如,在图2A和2B中所示的示例性实施方式中,可分别实现视频呈现系统100(图2A)和音频呈现系统150(图2B)。在某些方面,音频呈现系统150与上述视频呈现系统100相似。音频呈现系统150可通过与视频呈现系统100相同的方式检索视频内容116。由视频呈现系统100检索的视频内容116可由音频呈现系统150获得,反之亦然。
如上所述,提供给视频呈现系统100的视频内容116通常可包括视频数据114、音频数据164、图像数据(未显示)、元数据(未显示)等。所显示的实施方式的音频呈现系统150包括音频数据队列监视器160,该监视器被配置为使得视频内容116的音频数据164储存在体现音频数据队列162的数据结构内并且监视音频数据队列162。音频数据队列监视器160可与视频呈现系统100的视频数据队列监视器110相似。在一些实施方式中,在用户计算装置上进行操作的网络浏览器内实现音频数据队列监视器160。在一些实施方式中,将音频数据164储存在音频数据队列162内,包括多路分用音频数据164和视频数据114以及可形成一部分视频内容116的其他数据(例如,图像数据、元数据等)。该多路分用功能可由音频数据队列监视器160实现。然而,通常,音频数据队列监视器160不需要执行该多路分用功能。如上所述,在一些实施方式中,在由音频呈现系统150接收之前,音频数据164可由另一个多路分用器(未显示)多路分用。在另外一些实施方式中,储存在音频数据队列162内的数据还未多路分用,并且音频数据164可与视频数据114和/或其他数据多路分用,同时由解码器172解码。在这种实施方式中,视频数据队列112和音频数据队列162均可由可储存视频内容116的相同视频内容队列(未显示)实现。
音频呈现系统150包括音频解码器172。音频解码器172将音频数据164解码,以提供经解码的音频数据174。在特定的实施方式中,在脚本由网络浏览器解释时,音频解码器172直接由脚本实现。所显示的实施方式的音频呈现系统150包括经解码的音频缓冲监视器170。经解码的音频缓冲监视器170被配置为使得解码器172将包含在音频数据队列162内的音频数据164解码,以产生储存在体现经解码的音频缓冲器176的数据结构内的经解码的音频数据174。经解码的音频缓冲监视器170可由网络浏览器本地地实现。在一些实施方式中,在脚本由网络浏览器解释时,经解码的音频缓冲监视器170的功能直接由脚本实现。经解码的音频缓冲监视器170可被配置为使得解码器172继续将音频数据164解码并且生成经解码的音频数据174,直到在经解码的音频缓冲器176内至少具有阈值数量的经解码的音频数据174(例如,直到经解码的音频缓冲器176充满)。经解码的音频数据174可包括具有可由在用户计算装置上进行操作的网络浏览器(例如,使用浏览器的本地音频重放功能)本地地呈现的格式的音频数据。在一些实施方式中,音频呈现系统150可包括音频数据处理器(未显示),该处理器包括一个或多个功能,以使用本地音频重放功能,将音频数据164转换成适合于供在用户计算装置上进行操作的网络浏览器使用的经解码的格式174。在一些实施方式中,可由解码器172和/或音频呈现器接口180执行这种功能。
音频数据队列监视器160可被配置为在音频数据164已经由解码器172解码之后,从音频数据队列162中清除音频数据164(或视频内容116)。在一些实施方式中,音频数据队列监视器160被配置为根据在已经由解码器172解码的音频数据队列162中的音频数据164的量,从视频内容源(例如,远程服务器)中请求视频内容116(和/或包含在其内的音频数据164)。例如,每当音频数据队列162包含比已经由解码器172解码的音频数据164的阈值量更少的量时,音频数据队列监视器160可被配置为请求视频内容116和/或音频数据164。在可辨别音频数据164的结尾时,音频数据队列监视器160可被配置为在已经将构成音频数据164的结尾的一部分音频数据164放入音频数据队列162内之后,停止请求视频内容116和/或音频数据164。
音频呈现系统150包括音频呈现器接口180。音频呈现器接口180被配置为将经解码的音频数据174提供给(例如,载入)具有适合于供音频呈现器182使用的格式的音频呈现器182。音频呈现器182可包括音频重放引擎,例如,该引擎本地地位于在用户计算装置上进行操作的网络浏览器内。在一些实施方式中,音频呈现器182可使用专用音频呈现硬件,并且可在与在主要的用户计算装置处理器上运行的工序平行的一个或多个工序中,呈现(例如,重放)音频数据。在一些实施方式中,音频呈现器182可使用主要的用户计算装置处理器来实现,但是依然可在与负责视频呈现系统100和音频呈现系统150的线程平行运行的一个或多个处理线程中实现。在一些实施方式中,音频呈现器接口180可选地被配置为确定与由音频呈现器182呈现经解码的音频数据174相关的重放时间信息(例如,音频重放时间基准)。由音频呈现器接口180获得的重放时间信息可由网络浏览器本地地获得。音频呈现器接口180的其他功能可直接由所解释的脚本执行。该重放时间信息可由帧图像呈现器132和/或视频重放接口130(图2A)使用,以使得帧图像124由帧呈现器132以与由音频呈现器182呈现经解码的音频数据174大致同步的速率呈现。
在一些实施方式中,能够多路分用音频数据164的整个流和视频内容116,并且缓冲在音频数据队列162内的音频数据164的整个流。在这种实施方式中,音频数据队列监视器160不需要积极地监视音频数据队列162的状态,以确定检索更多的音频数据164的时间。相反,音频数据队列监视器160可对音频数据164做出单个请求。同样,在这种实施方式中,音频数据164的整个流可由解码器172解码,并且作为经解码的音频数据174储存在经解码的音频缓冲器176内。在这种实施方式中,经解码的音频数据监视器170不需要积极地监视经解码的音频缓冲器176的状态,而是对由解码器172解码的并且放入经解码的音频缓冲器176内的音频数据164的流做出单个请求。
一些网络浏览器包括本地功能,该功能允许这些浏览器本地地呈现经编码的音频数据164。通过非限制性实例,FirefoxTM可本地地处理Vorbis编码的音频格式,并且SafariTM和Internet ExplorerTM可本地地处理mp3编码的音频格式。在这种实施方式中,不需要解码器172、经解码的音频缓冲器176以及经解码的音频数据监视器170,并且音频呈现器接口180可将经编码的音频数据164从音频数据队列162中直接提供给音频呈现器182。
在一些实施方式中,通过使用嵌入HTML文档内的跨平台脚本实现的一种或多种方法,至少部分实现视频呈现系统100和/或音频呈现系统150的功能。这种脚本可由脚本解释器解释,该脚本解释器体现为在用户计算装置上进行操作的应用程序的一部分。例如,这种脚本解释器可为网络浏览器的一部分。由脚本解释器解释这种脚本,可造成执行逻辑和/或算术运算以及例示和/或操纵数据结构,这些数据结构提供视频呈现系统100和/或音频呈现系统150的功能。
在一些实施方式中,至少部分由实现两种方法的脚本解释器来实现视频呈现系统100的功能:一种方法提供系统100的视频数据排队、解码以及制备功能(例如,通过实现视频数据队列监视器110、帧缓冲监视器120、解码器122以及帧图像处理器136),另一种方法提供系统100的帧图像同步和呈现功能(例如,通过实现视频重放接口130以及可选地帧图像呈现器132)。图3示意性描述了根据一个特定的实施方式的用于使视频数据排队、解码以及制备视频数据的该第一种方法的实现方式。图4示意性描述了根据一个特定的实施方式的用于同步和呈现视频数据的帧图像的该第二种方法的实现方式。可使得脚本解释器通过异步的方式反复执行这两种方法,以递增地使视频数据排队、解码、制备、同步和呈现视频数据。视频数据的这种递增的排队、解码、制备、同步和呈现可具有优点,其中,在由单线程解释器解释的脚本中实现这些方法。
图3为根据一个实例实施方式的用于获得和解码视频数据的方法200的流程图。在浏览器解释跨平台脚本(或部分脚本)时,方法200可由在用户计算装置上进行操作的网络浏览器本地地实现。例如,方法200可作为一组脚本指令(例如,一组Javascript指令)来实现。在解释脚本时,方法200的特定功能可直接由脚本实现。在所显示的实施方式中,方法200在方框204中开始,该方框涉及查询是否至少使视频数据的阈值量排队,用于进行解码。在一些实施方式中,方框204包括确定视频数据队列(例如,系统100的视频数据队列112(图2A))是否包含已经解码的视频数据的至少一个帧。
如果方框204查询确定小于排队的视频数据的阈值量(方框204,否支路),那么方法200继续进入方框206。方框206包括查询是否已经使所有可用的视频数据排队。方框206可包括例如确定是否已经将视频段的尾部(例如,已知长度的视频段的尾部或者视频段的可辨别的尾部)放入视频数据队列内。如果方框206查询确定已经使所有可用的视频数据排队(方框206,是支路),那么方法200结束。
如果方框206查询确定依然可利用未排队的视频数据(方框206,否支路),那么方法200继续进入方框208。方框208包括使得将更多的视频数据放入视频数据队列内。通过非限制性说明,在特定的实例实施方式中,方法200作为一组Javascript指令来实现,并且方框208包括调用与在服务器上托管的视频数据对应的AJAX XML Http Request对象的open()方法。该方框208功能要求网络浏览器在可由Javascript解释的格式中检索一些视频数据。在用户计算装置内可能的情况下,检索视频数据的该方框208功能可由网络浏览器执行,作为与方法200的剩余部分的线程平行的线程(在多线程环境下)或者作为与方法200的剩余部分的工序平行的工序(在多工序环境下)。例如,网络浏览器的脚本解释器可执行一个平行的线程/工序,以实现方法200,而网络浏览器实现第二平行的线程/工序,以实现方框208。
在一些实施方式中,方框208包括仅仅获得数量递增的视频数据(例如,通过规定将视频数据的特定部分或特定量放入视频数据队列内,例如,通过在HTTP请求的Range标题字段内指出字节范围)。在这种实施方式中,方框208可包括更新跟踪已经在视频数据队列内请求和/或放入哪个视频数据的指数、范围等。
在方框208之后,方法200继续进入方框216,下面进行描述。在一些实施方式中,方法200可在方框208之后继续进入方框212。在一些实施方式中,省略方框206(例如,如果在方框204中确定排队的视频数据至少具有不止一个帧(方框204,否支路),那么方法200可尝试使得视频数据排队(例如,执行方框208),而不确定可利用的视频数据是否排队)。
返回方框204,如果方框204查询确定排队的视频数据具有至少一个帧(方框204,是支路),那么方法200继续进入方框212。方框212包括确定在帧图像缓冲器(例如,系统100的帧图像缓冲器126(图2A))内是否具有充足的自由空间(例如,足以储存经解码的帧图像的自由空间)。如果方框212查询确定在帧图像缓冲器内没有自由空间(方框212,否支路),那么方法200继续进入方框216。如果方框212查询确定在帧图像缓冲器内具有自由空间(方框212,是支路),那么方法200继续进入方框204。
在所显示的实施方式中,方框214包括将排队的视频数据的一个帧制备成帧图像,该帧图像适合于呈现(例如,帧图像124(图2A))制备的帧图像并且将该帧图像放入帧图像缓冲器(例如,帧图像缓冲器126(图2A))内。方框214可包括在例如一系列帧图像内制备与下一个未解码的帧图像对应的(或者包括该未解码的帧图像)视频数据。在一些实施方式中,在方框214中制备的帧图像包括具有一种格式的图像,该格式可由在用户计算装置上进行操作的网络浏览器本地地呈现,该用户计算装置解释实现所有或部分方法200的脚本。通过非限制性说明,在一个特定的实例实施方式中,方法200作为一组脚本指令(例如,一组Javascript指令)来实现,并且方框214包括将视频数据制备成Image Data对象,该对象可包括包含大量RGB像素值的Canvas Pixel Array对象。在另一个实例实施方式中,方框214包括将视频数据制备成具有一种格式(例如,PNG、JPEG、GIF等)的帧图像,该格式可由在用户计算装置上进行操作的网络浏览器本地地显示。
方框214通常可包括以下实例操作中的任一个或任一个组合:
·执行算术和/或逻辑运算;
·创建、删除和/或修改数据结构和/或储存在其内的数据;
·执行一组或多组脚本指令,访问脚本解释器可本地地利用的可执行库等;
·使得浏览器调用本地浏览器功能(例如,在排队的视频数据包括(或者可转换成)JPEG图像数据时,方框214可涉及使得浏览器调用在用户计算装置上进行操作的网络浏览器的本地JPEG呈现功能,以获得大量RGB像素值);和/或
·等类似操作。
在所显示的实施方式的特定情况下,在方框214中制备帧图像包括:
·在方框214A中,将视频数据(例如,视频数据缓冲器112的视频数据114)解码,以生成经解码的帧图像(例如,经解码的帧图像140);
·在方框214B中,可选地将经解码的帧图像转换成可由网络浏览器本地地呈现的文件格式,已生成浏览器可呈现的帧图像(例如,浏览器可呈现的帧图像144);
·在方框214C中,将浏览器可呈现的帧图像可选地编码成内容传输格式,以生成内容传输编码的帧图像(例如,内容传输编码的帧图像146);以及
·在方框214D中,可选地创建帧图像的帧图像对象(例如,帧图像对象124)。
方框214还可选地包括经解码的帧图像的图像相关处理,例如,调节对比度、亮度、清晰度等。
在方框214之后,方法200继续进入方框216,该方框包括在未来的时间调度方法200的连续迭代。通过非限制性说明,在一个特定的实例实施方式中,方法200作为一组脚本指令(例如,一组Javascript指令)来实现,并且方框216包括调用setTimeout()方法,以在经过规定的时间量之后,调度实现方法200的这组Javascript指令。在另一个特定的实例实施方式中,方法200作为一组脚本指令(例如,一组Javascript指令)来实现,并且setInterval()方法可用于在经过规定的时间量之后,调度实现方法200的这组Javascript指令。在这种实施方式中,对于方法200的每个迭代,并非明确需要方框216。在特定的实施方式中,以小于呈现视频数据的帧间隔(即,(帧速率)-1)的间隔,可调度方法200的连续迭代。在一些实施方式中,调度的方法200间隔小于呈现视频数据的帧间隔的50%。在一些实施方式中,调度的方法200间隔小于呈现视频数据的帧间隔的20%。在一些实施方式中,调度的方法200间隔小于呈现视频数据的帧间隔的10%。在方框216中调度使方法200排队和解码的下一个迭代之后,方法200结束,并且将控制传送回网络浏览器及其脚本解释器。
在所显示的实例实施方式中,在涉及方框214的方法200的每个迭代中,方框214包括将视频数据的帧从其在视频数据缓冲器(例如,视频数据缓冲器112)中的编码格式一直制备成适合于显示的格式(例如,在帧图像缓冲器126中的帧图像对象124)。该帧图像处理可涉及多个步骤,这些步骤包括:解码(方框214A)、图像格式转换(方框214B)、内容传输编码(方框214C)以及图像对象制备(方框214D)。在某些情况下(例如,在用户计算装置处理资源比较有限或较慢时),在执行所有这些步骤时涉及的处理量不可取地较大。因此,在一些实施方式中,可修改方法200,以便为到达方框214的方法200的每个迭代执行方框214A、214B、214C、214D的步骤的某个子集。例如,到达方框214的方法200的每个迭代可涉及执行仅仅一个方框214A、214B、214C、214D。这就减少了与方法200的每个迭代相关的处理时间。可限定合适的逻辑,以在每个迭代中在方框214A、214B、214C、214D之间进行选择。通过非限制性实例,这种逻辑可确定哪个队列(例如,从队列138、141、143、126之中(图2A))具有最少数量的帧图像,并且在此基础上可选择执行214A、214B、214C、214D中的哪一个。
如上所述,在浏览器解释跨平台脚本(或部分脚本)时,方法200可由在用户计算装置上操作的网络浏览器本地地实现。在解释脚本时,方法200的特定功能可直接由脚本实现。例如,在特定的实施方式中,在解释脚本时,任何方框204、206、212、214A、214B、214C的功能可直接由脚本执行。
图4为根据一个实例实施方式的用于同步和呈现排队的帧图像的方法220的流程图。在浏览器解释跨平台脚本(或部分脚本)时,方法220可由在用户计算装置上操作的网络浏览器本地地实现。例如,方法200可由一组脚本指令(例如,一组Javascript指令)实现。在解释脚本时,方法220的特定功能可直接由脚本实现。
方法220的方框224包括确定呈现当前帧图像。方框224可包括例如根据呈现视频数据的帧速率以及当前时间值来确定当前视频帧索引。在可选的方框224A和224B中显示用于确定适用于方框224中的当前视频帧索引的方法的一个特定的非限制性实施方式。方框224A涉及从合适的源中获得当前时间值。在所显示的实施方式中,通过呈现在视频内容内伴随视频数据的音频数据,获得方框224A的当前时间值。在一个非限制性实施方式中,通过从视频内容116内呈现视频数据164,获得方框224A的当前时间值(参照图2B)。如上所述,在特定的实施方式中,音频呈现系统150的音频呈现器接口180(图2B)可监视视频呈现器182进行音频重放的时间(例如,相对于参考点,例如,音频重放的开始等),并且可在方框224A中查询,用于当前视频重放时间基准。在某些这种实施方式中,音频呈现器接口180可由脚本直接实现,以获得视频重放时间基准。在其他实施方式中,音频呈现器接口180可利用本地浏览器功能,以获得视频重放时间基准。在另一个非限制性实例实施方式中,实现方法220,作为一组脚本指令(例如,一组Javascript指令),并且方框224A可涉及使得浏览器在相关的视频对象上调用audio.buffered.end方法,以获得表示相关视频数据的最后呈现(或即将呈现)的区段的时间的值。该示例性实施方式可由浏览器本地地实现,并且不需要依靠音频呈现器接口180。
在所显示的实例实施方式中,可由脚本直接实现的方框224B涉及使方框224A的当前时间值(例如,当前音频重放时间基准)乘以视频数据帧速率,以获得期望方框224的当前视频帧索引。在一些实现方式中,方框224A的当前时间值与视频数据帧速率的乘积可四舍五入为最近的整数,以提供期望方框224的当前视频帧索引。在基于Javascript的实现方式中,在不能向上取整时,通过在乘积中加入0.5并且向下取整为最近的整数,可执行该方框224B的取整运算。
在一些网络浏览器中,可能是以下情况:以比呈现音频数据的帧速率更小的频率(例如,在音频缓冲信息的连续更新之间可经过两个或多个帧周期),更新音频缓冲信息。为了改善由此引起的同步问题,方框224可包括确定自从执行最后的时间方框224(或方法200的另一个方框)以来经过的时间量,并且根据以下组合,确定当前方框224的视频帧索引:该经过时间;以及方框224的视频帧索引确定执行最后的时间方框224。可通过系统时钟等,测量或确定该经过时间。
可由脚本直接实现的方框226包括确定是否已经呈现由当前方框224的视频帧索引引用的帧图像。在单个视频帧的周期内将方法220执行两次的情况下,方框226可避免重复呈现相同的帧。在一些实施方式中,方框226包括比较当前方框224的视频帧索引和在方法220的前一个迭代(例如,恰好前一个迭代)中确定的方框224的视频帧索引。
如果方框226查询确定已经呈现与当前方框224的视频帧索引对应的视频帧(方框226,是支路),那么方法220继续进入方框228。可由脚本直接实现的方框228包括确定当前方框224的视频帧索引是否引用所呈现的视频数据的最后帧(例如,已知长度的视频段的最后帧)。如果在方框228中确定当前方框224的视频帧索引引用在所呈现的视频数据中的最后帧(方框228,是支路),那么方法220结束。如果方框228查询确定当前方框224的视频帧索引未引用在所呈现的视频数据中的最后帧(方框228,否支路),那么方法220继续进入方框230,下面进行描述。
返回方框226,如果方框226查询确定还未呈现与当前方框224的视频帧索引对应的视频帧(方框226,否支路),那么方法220继续进入方框232。可由脚本直接实现的方框232涉及查询与当前方框224的视频帧索引对应的帧图像(为了方便起见,“当前帧图像”)是否排队,用于进行呈现。例如,方框232可包括确定在由方法200构成的帧图像缓冲器内是否具有当前帧图像(图3)。如果方框232查询确定当前帧图像未排队,用于进行呈现(方框232,否支路),那么方法220继续进入方框230。在继续进入方框230之前,方法220可在方框234中开始和/或执行一个或多个可选的丢帧动作。通过非限制性实例,方框234的丢帧动作可涉及记录当前帧图像不能用于进行呈现这一事实(例如,为了统计和/或分析的目的)、暂停重放相关音频轨道(例如,允许排队的帧赶上由音频重放确定的当前帧)、指示(例如,向另一个工序、方法等)帧图像应更快速地排队(例如,通过以更快的速率获得视频数据、更频繁地将帧解码、切换成更低的比特率或更低的帧速率视频源等)等。方框234丢帧动作可由脚本直接指出。执行一些可能的方框234丢帧动作,还可由脚本直接实现。执行其他可能的方框234丢帧动作,可涉及使用一个或多个本地浏览器功能。在一些实施方式中,可选的方框234可包括可用于确定是否应开始丢帧动作的某个逻辑。在一些实施方式中,在已知丢帧的其他情况下,例如,在方框224的当前帧索引比表示已经在方法220的连续迭代之间丢弃一个或多个帧的最后方框224帧索引(来自方法220的前一个迭代)大1个数目以上的情况下,可采取与方框234丢帧动作相似的动作。
如果方框232查询确定当前帧图像排队,用于进行呈现(方框232,是支路),那么方法220继续进入方框236。方框236包括呈现当前帧图像。在使用由在用户计算装置上操作的网络浏览器解释的脚本实现方法220的实施方式中,方框236可包括例如使用网络浏览器的本机图像呈现功能来呈现当前帧图像。通过非限制性说明,在一个特定的实例实施方式中,实现方法220,作为一组脚本指令(例如,一组Javascript指令),并且方框236包括调用将ImageData对象作为其(其中的一个)争论的putImage Data方法,该对象包括包含表示要呈现的帧图像(例如,帧图像124(图2A))的大量RGB像素值的Canvas Pixel Array对象。在另一个实例实施方式中,方框236包括调用将图像对象(例如,帧图像124(图2A))作为其(其中的一个)争论的drawImage方法。
在方框236之后,方法220继续进入方框230。方框230涉及在未来的时间调度方法220的连续迭代。在一些实施方式中,方框230可包括使用一个或多个本地浏览器功能。通过非限制性说明,在一个特定的实例实施方式中,方法220作为一组脚本指令(例如,一组Javascript指令)来实现,并且方框230包括调用setTimeout()方法,以在经过规定的时间量之后,调度实现方法220的这组Javascript指令。在另一个特定的实例实施方式中,方法220作为一组脚本指令(例如,一组Javascript指令)来实现,并且setInterval()方法可用于在经过规定的时间量之后,调度实现方法220的这组Javascript指令。在这种实施方式中,对于方法220的每个迭代,并非明确需要方框230。在特定的实施方式中,以小于呈现视频数据的帧间隔(即,(帧速率)-1)的间隔,可调度方法220的连续迭代。在一些实施方式中,预定的方法220间隔小于呈现视频数据的帧间隔的50%。在一些实施方式中,预定的方法220间隔小于呈现视频数据的帧间隔的20%。在一些实施方式中,预定的方法220间隔小于呈现视频数据的帧间隔的10%。在方框230中调度视频呈现方法220的下一个迭代之后,方法220结束,并且将控制传送回脚本解释器。
如上所述,在浏览器解释跨平台脚本(或部分脚本)时,方法220可由在用户计算装置上操作的网络浏览器本地地实现。在解释脚本时,方法220的特定功能可直接由脚本实现。例如,在特定的实施方式中,在解释脚本时,任何方框224B、226、228、232、234的功能可直接由脚本执行。
在所显示的实施方式中,每当执行时,方法200制备视频数据的仅仅一个帧,并且每当执行时,方法220呈现仅仅一个帧图像。该实现方式可具有优点,其中,方法200和220由在单个执行线程中执行的应用程序的相同脚本解释器(例如,一些典型网络浏览器的Javascript解释器)重复实现并且异步解释。例如,这种实现方式可允许方法220呈现在方法200的连续迭代之间由方法200解码的帧图像。在其他实施方式中,在方法200的每个迭代中,可获得和/或制备视频数据的多个帧,和/或在方法220的每个迭代中,可呈现多个帧图像。而且,如上所述,在一些实施方式中,在方法200的每个迭代中,可部分制备视频数据的一个帧图像(例如,方框214A、214B、214C、214D的一个子集)。
在一些实施方式中,方法200和220被配置为定期调度其自身的连续迭代(例如,在连续迭代之间预定的周期在迭代上可恒定)。这些预定的间隔可比在方法200和220的连续迭代之间可经过的最大时间更短,依然允许以视频数据的帧速率来使视频数据排队、制备、同步以及呈现视频数据。在方法200和220由脚本实现的实施方式中,这较为有利,该脚本由应用程序的脚本解释器解释,该应用程序不能保证方法200和220在其预定的时间内发生未来迭代(例如,由于解释器的操作由在相同的执行线程上运行的其他工序作为解释器来优先占用,由于方法200和220的未来迭代由解释器的其他预定的和/或进行的操作优先占用等)。如果方法200和220在专用线程上运行,那么比严格上所需要的更频繁地调度的连续迭代可提供帮助确保及时执行方法200和220的余地,以提供令人类观察员满意的视频显示。
方法200和220可被配置为具有相同的重复间周期或不同的重复间周期。在一些实施方式中,方法200被配置为比方法220更频繁地执行。通过非限制性说明,在一个特定的实例实施方式中,方法200被配置为在1ms与10ms之间的预定重复间周期内调度连续的迭代,并且方法220被配置为在5ms与25ms之间的预定重复间周期内调度连续的迭代。在其他实施方式中,方法220可被配置为在1ms与10ms之间的预定重复间周期内调度连续的迭代。
可动态地确定方法200和/或220的重复间周期。例如,根据在连续的迭代之间实际上经过的时间,方法200和/或220可动态地确定其重复间周期。再如,可协调方法200和220的重复间周期(例如,方法200可决定方法200的重复间周期,反之亦然)。在一些实施方式中,可重复例示方法200和220中的一者或两者,以便具有一种或这两种方法中的多个方法,连续地调度其自身的连续迭代(例如,在相同的重复间周期或在不同的重复间周期)。
现在转向音频呈现系统150(图2B),在一些实施方式中,至少部分由实现两种方法的脚本解释器来实现音频呈现系统150的功能:一种方法提供系统150的音频数据排队和解码功能(例如,通过实现音频数据队列监视器160、经解码的音频缓冲监视器170以及解码器172),另一种方法提供音频呈现器接口(例如,音频呈现器接口180),用于与音频呈现器182接合。图5示意性描述了根据一个特定的实施方式的用于使音频数据排队和解码的该第一种方法的实现方式。图6示意性描述了根据一个特定的实施方式的用于实现音频呈现器接口的该第二种方法的实现方式。可使得脚本解释器通过异步的方式反复执行这两种方法,以递增地使音频数据排队、解码以及制备视频数据并且与音频呈现器182接合。音频数据的这种递增的排队、解码以及与音频呈现器182的接合可具有优点,其中,在由单线程解释器解释的脚本中实现这些方法。
图5为根据一个实例实施方式的用于获得、解码以及制备音频数据的方法250的流程图。在浏览器解释跨平台脚本(或部分脚本)时,方法250可由在用户计算装置上进行操作的网络浏览器本地地实现。例如,方法250可作为一组脚本指令(例如,一组Javascript指令)来实现。在解释脚本时,方法250的特定功能可直接由脚本实现。在很多方面,方法205可与图3的视频数据排队、解码以及制备方法200相似。在所显示的实施方式中,方法250在方框254中开始,该方框涉及查询是否至少使音频数据的阈值量排队,用于进行解码。在一些实施方式中,方框254包括确定音频数据队列(例如,系统150的音频数据队列162(图2B))是否包含已经解码的音频数据的至少一个区段。在方法250中(以及在下面描述的方法270中)使用的音频段的长度可包括可配置的常数(例如,可取决于在用户计算装置上可利用的处理资源)或者可包括在动态上确定的变量,每当使用音频数据的区段时,或者每当呈现一块音频数据164时,确定该变量。在一些实施方式中,虽然这并非必须,但是在方法250、270中使用的每个音频段可包括视频数据的适当数量(例如,1个)的帧。在一些实施方式中,在方法250、270中使用的每个音频段可包括重放时间的适当长度(例如,1秒)。在一些实施方式中,在方法250、270中使用的每个音频段可包括适当数量(例如,44,000)的音频样品。
如果方框254查询确定小于排队的音频数据的阈值量(方框254,否支路),那么方法250继续进入方框256,该方框包括查询是否已经使所有可用的音频数据排队。方框256可包括例如确定是否已经将音频数据的尾部储存在音频数据队列内。如果方框256查询确定已经使所有可用的音频数据排队(方框256,是支路),那么方法200结束。如果方框256查询确定依然可利用未排队的音频数据(方框256,否支路),那么方法250继续进入方框258,该方框包括使得将更多的音频数据放入音频数据队列内。方框258可与方法200的方框208(图3)相似,除了获得音频数据(而非视频数据)以及将音频数据加入音频数据队列(而非视频数据队列)内以外。
在方框258之后,方法250继续进入方框266,下面进行描述。在一些实施方式中,方法250可在方框258之后继续进入方框262。在一些实施方式中,省略方框256(例如,如果在方框254中确定排队的视频数据具有不止一个区段(方框254,否支路),那么方法250可尝试使得音频数据排队(例如,执行方框258),而不确定可利用的音频数据是否排队)。
返回方框254,如果方框254查询确定排队的音频数据具有至少一个区段(方框254,是支路),那么方法250继续进入方框262,该方框包括确定在经解码的音频缓冲器(例如,系统150的经解码的音频缓冲器176(图2B))内是否具有充足的自由空间(例如,足以储存音频数据的经解码的区段的自由空间)。如果方框262查询确定在经解码的音频缓冲器内没有自由空间(方框262,否支路),那么方法250继续进入方框266。如果方框262查询确定在经解码的音频缓冲器内具有自由空间(方框262,是支路),那么方法250继续进入方框264。
方框264包括将排队的音频数据的一个区段(例如,来自音频数据队列162)解码,并且在经解码的音频缓冲器(例如,经解码的音频缓冲器176)内储存经解码的音频段。例如,方框264可包括与在音频轨道中的下一个未解码的区段对应(或者包括该区段)的解码音频数据。在一些实施方式中,在可由在实现本地音频呈现器182的用户计算装置上操作的网络浏览器本地地呈现的格式中,提供在方框264中解码的音频数据。通过非限制性说明,在一个特定的实例实施方式中,方框264包括将音频数据解码成.WAV文件格式等,该文件格式可由在用户计算装置上操作的网络浏览器本地地呈现。方框264可包括执行任何合适的解码算法的步骤,包括(而非限制性地)上面结合方框214描述的那些功能。如上所述,音频呈现系统150(图2B)可包括与帧图像处理器136(图2A)的功能相似的音频处理功能,该处理器可用于将经解码的音频数据放入适合于进行呈现的格式内。在这种实施方式中,方框264可选地中断,以通过与方框214的可选方框214A、214B、214C、214D相似的方式提供这种功能(图3)。引用在方法250中的解码音频数据、解码方框264以及解码器172(图2B),应理解为可选地包括与将视频数据制备成适合于进行呈现的格式相关的这些功能中的任一个或多个。方框264可选地包括经解码的音频数据的音频相关的处理,例如,过滤、音量调节、压缩等。
在方框264之后,方法250继续进入方框266,该方法涉及在未来的时间调度方法250的下一个迭代。方框266可与上述方框216相似。以比在方法250、270中使用的音频段的重放持续时间更小的间距,调度方法250的连续迭代。例如,如果在方法250、270中使用的音频段具有重放持续时间τ,那么方框266可涉及以小于0.5τ的间距调度方法250的连续迭代。在一些实施方式中,预定的方法250间距小于0.2τ。在一些实施方式中,预定的方法250间距小于0.1τ。在方框266中调度使方法250排队和解码的下一个迭代之后,方法250结束,并且将控制传送回脚本解释器。
如上所述,在浏览器解释跨平台脚本(或部分脚本)时,方法250可由在用户计算装置上操作的网络浏览器本地地实现。在解释脚本时,方法250的特定功能可直接由脚本实现。例如,在特定的实施方式中,在解释脚本时,任何方框254、256、262、264的功能可直接由脚本执行。
图6为根据一个特定的实施方式的用于实现音频呈现器接口的方法270的流程图。在浏览器解释跨平台脚本(或部分脚本)时,方法270可由在用户计算装置上进行操作的网络浏览器本地地实现。例如,方法270可作为一组脚本指令(例如,一组Javascript指令)来实现。在解释脚本时,方法270的特定功能可直接由脚本实现。方法270在方框272中开始,该方框涉及查询音频数据的最后区段是否已经从经解码的音频缓冲器(例如,经解码的音频缓冲器176(图2B))中装载到音频呈现器(例如,音频呈现器182(图2B))中。如果模块272查询肯定(即,已经将所有经解码的音频数据提供给音频呈现器(方框272,是支路)),那么方法270通过下面描述的可选方框274继续进入方框276。如果在另一方面,方框272查询确定在经解码的音频缓冲器内依然具有经解码的音频数据,以提供给音频呈现器(方框272,否支路),那么方法270继续进入方框280。
方框280涉及查询音频呈现器是否可接受更多的音频数据(例如,在音频呈现器的内部缓冲器内是否具有接受音频数据的另一个区段的空间)。如果方框280查询确定音频呈现器不能接受更多的音频数据(方框280,否支路),那么方法270通过下面描述的可选方框274继续进入方框276。另外,如果音频呈现器可接受更多的音频数据(方框280,是支路),那么方法270继续进入方框282。方框282涉及查询是否具有在经解码的音频缓冲器内可利用的经解码的音频数据,以装载到音频呈现器内。如果方框282查询确定在经解码的音频缓冲器内可利用充足的经解码的音频数据(方框282,是支路),那么方法270继续进入方框284,该方框涉及将经解码的音频数据的区段从经解码的音频缓冲器中传输到音频呈现器内。该方框284数据传输可涉及在适合于供音频呈现器使用的格式中将音频数据格式化。在方框284中将音频数据装载到音频呈现器内之后,方法270通过可选的方框274继续进入方框276。
返回方框282,如果方框282查询确定在经解码的音频缓冲器内不能利用充足的经解码的音频数据(方框282,否支路),那么方法270通过可选的方框286和274继续进入方框276。可选的方框286可涉及一个或多个丢弃音频动作,例如:记录以下事实:音频呈现器具有接受更多的经解码的视频数据的能力,但是在经解码的视频缓冲器内不能利用这种经解码的视频数据;音频呈现器暂停或减速重放音频数据(例如,允许音频数据的解码和/或排队赶上音频呈现器)、指示(例如,向另一个工序、方法等)音频数据应更快速地解码和/或排队(例如,通过以更快的速率获得视频数据、更频繁地将音频数据解码、切换成更低的比特率音频源等)等。
方法270可通过各种路径在可选的方框274处结束。可选的方框274涉及从音频呈现器中获得当前时间值。该当前时间值可包括与音频数据的当前区段的重放相关的时间基准。通过非限制性说明,在一个特定的实例实施方式中,方法270作为一组脚本指令(例如,一组Javascript指令)来实现,并且可选的方框274可涉及在相关的音频对象上调用audio.buffered.end方法,以获得表示相关的音频数据的最后呈现(或即将呈现)的区段的时间的值。在可选的方框274中获得的时间值可用于方法220的方框224A(图4)。在一些实施方式中,由于在方法220的方框224A中获得时间值,所以不需要方框274。
方法270最后进入方框276,该方框涉及查询音频呈现器是否完成音频数据的重放。如果方框276查询肯定(即,音频重放完成),那么方法270结束。如果在另一方面,音频重放未完成(方框276,否支路),那么方法270继续进入方框278,该方框涉及在未来的时间调度方法270的下一个迭代。方框278可与上述方框230(图4)相似。以比在方法250、270中使用的音频段的重放持续时间更小的间距,调度方法270的连续迭代。例如,如果在方法250、270中使用的音频段具有重放持续时间τ,那么方框278可涉及以小于0.5τ的间距调度方法270的连续迭代。在一些实施方式中,预定的方法270间距小于0.2τ。在一些实施方式中,预定的方法270间距小于0.1τ。在方框278中调度方法270的下一个迭代之后,方法270结束,并且将控制传送回脚本解释器。
如上所述,在浏览器解释跨平台脚本(或部分脚本)时,方法270可由在用户计算装置上操作的网络浏览器本地地实现。在解释脚本时,方法270的特定功能可直接由脚本实现。例如,在特定的实施方式中,在解释脚本时,任何方框272、280、282、286、276的功能可直接由脚本执行。
在所显示的实施方式中,每当执行时,方法250获得并且解码(以及另外制备)音频数据的仅仅一个区段,并且每当执行时,方法270将音频数据的仅仅一个区段载入音频呈现器内。如上所述,这种区段的长度可为可配置的参数,该参数可例如取决于在用户计算装置上可利用的处理资源。在一些实施方式中,每个音频段包括音频数据的帧。该实现方式可具有优点,其中,方法250和270由在单个执行线程中执行的应用程序的相同脚本解释器(例如,一些主要的网络浏览器的Javascript解释器)重复实现并且异步解释。例如,这种实现方式可允许方法270在方法250的连续迭代之间将音频数据(由方法250解码)载入音频呈现器内。在其他实施方式中,在方法250的每个迭代中,可获得和/或解码(或者制备)音频数据的多个区段,和/或在方法270的每个迭代中,可呈现多个区段。而且,如上所述,在一些实施方式中,在方法250的每个迭代中,可部分制备音频数据的一个区段(例如,与方框214A、214B、214C、214D相似的方框的一个子集)。
方法250、270的调度可具有与上述方法200、220的调度的特征相似的特征。预定间隔可恒定、动态、协调、足够短,以允许使音频数据以音频数据的采样率或者以适合于听者的速率排队、解码以及呈现。方法250、270可被配置为具有相同或不同的重复间周期。在一些实施方式中,方法250被配置为比方法270更频繁地执行。在一些实施方式中,可重复例示方法250、270中的一者或两者,以便具有一种或这两种方法中的多个方法,连续地调度其自身的连续迭代(例如,在相同的重复间周期或在不同的重复间周期)。
如上所述,在一些实施方式中,网络浏览器可本地地呈现经编码的音频数据。在这种实施方式中,可对方法250、270进行适当的修改,以便不需要与使音频数据解码和使经解码的音频数据排队相关的步骤。
在上面结合图3到6描述的实施方式中,通过调度反过来由单线程解释器执行的方法200、220、250、270的连续迭代,模拟多线程处理。图7为根据另一个实例实施方式的用于将音频和视频数据排队、解码以及制备这些数据、呈现视频数据并且实现音频呈现器接口的方法300的流程图。使用方法300,涉及迭代调度和解释单个方法300代码段的连续迭代,但是将逻辑并入方法300代码段内,以确定在每个迭代中执行哪个程序。
方法300包括逻辑方框302,在所显示的实施方式中,该逻辑方块包括多个逻辑查询304、308、312、316。在一些实施方式中,在解释脚本时,逻辑方框302或逻辑方框302的特定功能可直接由脚本实现。逻辑方框302可规定在方法300中执行哪个程序。例如,在所显示的实施方式中,逻辑方框302在方框304中开始,方框304涉及查询条件是否适合于执行音频呈现器接口程序。方框304条件通常可包括基于可本地地或直接用于脚本的任何信息的条件。例如,方框304条件可基于比较在音频呈现器的缓冲器内的音频数据的量与某个阈值。如果确定在音频呈现器缓冲器内的音频数据的量小于某个阈值量,那么可取地执行音频呈现器接口程序,以将更多的音频数据载入音频呈现器内。方框304条件不限于通常与音频呈现器接口或者与音频呈现直接相关的条件。在一些实施方式中,方框304条件可涉及评估是否更迫切地需要某种其他功能。例如,即使在音频呈现器缓冲器内的音频数据的量小于阈值量,方框304条件也可涉及评估执行视频解码程序是否更重要(在方法300的当前迭代中)。方框304条件可基于在丢弃音频方框286(图6)和/或丢帧方框234(图4)中生成的信息。
如果方框304条件的评估确定条件适合于执行音频呈现器接口程序(方框304,是支路),那么方法300继续进入方框306。方框306涉及执行音频呈现器接口程序。这种音频呈现器接口程序可涉及与方法270(图6)相似的方法,除了不需要方框278调度未来的迭代以外。在从音频呈现器接口程序中返回之后,方法300继续进入方框320,该方框包括在未来的时间调度方法300的连续迭代。方框320调度可与上面为方法200、220、250、270的调度方框描述的调度相似。例如,在方法300作为一组脚本指令(例如,一组Javascript指令)来实现时,方框320可包括使用setTimeout()和/或setInterval()方法。方框320预定间隔可为静态或动态。方框320预定间隔可比可经过的最大时间更短,依然允许以适当的速率来使视频和音频数据排队、解码和/或制备和呈现视频和音频数据。在一些实施方式中,方框320预定间隔在0.25ms-25ms的范围内。在一些实施方式中,在完成方法300的当前迭代之后,尽快调度方框320预定间隔。
如果方框304条件的评估确定条件不适合于执行音频呈现器接口程序(方框304,否支路),那么方法300继续进入方框308。方框308涉及查询条件是否适合于执行视频呈现器程序。方框308查询可与方框304查询相似,并且可基于可本地地或直接用于脚本的任何信息。通过非限制性实例,方框308查询可基于评估当前帧索引(例如,通过与上面在方框224中描述的方式相似的方式获得的(图4))以及确定当前帧索引是否大于呈现的最后视频帧的帧索引。如果当前帧索引大于呈现的最后视频帧,那么可取地执行视频呈现器程序,以呈现视频数据的另一个帧。与上述方框308条件一样,上述方框308条件可涉及评估是否更迫切地需要某种其他功能。方框304条件可基于在丢弃音频方框286(图6)和/或丢帧方框234(图4)中生成的信息。如果方框308条件的评估确定条件适合于执行视频呈现程序(方框308,是支路),那么方法300继续进入方框310。方框310涉及执行视频呈现程序。这种视频呈现程序可涉及与方法220(图4)相似的方法,除了不需要方框230调度未来的迭代以外。在从视频呈现器程序中返回之后,方法300继续在方框320中调度另一个迭代。
如果方框308条件的评估确定条件不适合于执行视频呈现器程序(方框308,否支路),那么方法300继续进入方框312。方框312涉及查询条件是否适合于执行视频排队/解码程序。方框312查询可与方框304、308的查询相似,并且可基于可本地地或直接用于脚本的任何信息。通过非限制性实例,方框312查询可基于比较在帧图像缓冲器(例如,帧图像缓冲器126(图2A))内制备的视频数据的量与合适的阈值和/或比较在视频数据队列中的视频数据的量(例如,视频数据队列112(图2A))与合适的阈值。与方框304、308的条件一样,方框312条件可涉及评估是否更迫切地需要某种其他功能。方框312条件可基于在丢弃音频方框286(图6)和/或丢帧方框234(图4)中生成的信息。如果方框312条件的评估确定条件适合于执行视频排队/解码程序(方框312,是支路),那么方法300继续进入方框314。方框314涉及执行视频排队/解码程序。这种视频排队/解码程序可涉及与方法200(图3)相似的方法,除了不需要方框216调度未来的迭代以外。在从视频排队/解码程序中返回之后,方法300继续在方框320中调度另一个迭代。
如果方框312条件的评估确定条件不适合于执行视频排队/解码程序(方框312,否支路),那么方法300继续进入方框316。方框316涉及查询条件是否适合于执行音频排队/解码程序。方框316查询可与方框304、308、312的查询相似,并且可基于可本地地或直接用于脚本的任何信息。通过非限制性实例,方框316查询可基于比较在经解码的音频缓冲器(例如,经解码的音频缓冲器176(图2B))内的经解码的音频数据的量与合适的阈值和/或比较在音频数据队列中的音频数据的量(例如,音频数据队列162(图2B))与合适的阈值。与方框304、308、312的条件一样,方框316条件可涉及评估是否更迫切地需要某种其他功能。方框316条件可基于在丢弃音频方框286(图6)和/或丢帧方框234(图4)中生成的信息。如果方框316条件的评估确定条件适合于执行音频排队/解码程序(方框316,是支路),那么方法300继续进入方框318。方框318涉及执行音频排队/解码程序。这种音频排队/解码程序可涉及与方法250(图5)相似的方法,除了不需要方框266调度未来的迭代以外。在从音频排队/解码程序中返回之后,方法300继续在方框320中调度另一个迭代。
在所显示的实施方式中,如果方框316条件的评估确定条件不适合于执行视频排队/解码程序(方框316,否支路),那么方法300继续沿着两个可选路径中的一个。在某些情况下,方框316的否支路可使得方法300环回方框304。在其他情况下,方框316的否支路可使得方法300继续在方框320中调度另一个迭代。在其他实施方式中,方框316的否支路可将方法300引入另一个功能方框(未显示),该功能方框可涉及选择一个程序(例如,方框306、310、314、318)。这种选择可基于方框304、308、312、316的条件中的哪一个最靠近正面结果。在另外一些实施方式中,不需要方框316,并且方框312的否支路可直接引入方框318。在这种实施方式中,方框318的视频排队/解码程序是默认程序。在其他实施方式中,可构成逻辑方框302的逻辑,以便一个其他程序(例如,一个方框306、310、314)是默认程序。
在某些情况下,方法200、220、250、270、300的一个特定的功能块可需要可造成呈现假象的过长的时间段。例如,方法200(图3)的处理器密集的功能块是方框214,该方框涉及制备视频数据的帧。如果方框214A、214B、214C、214D的所有功能集中到方框214内,那么方框214尤其是处理器密集的。在某些情况下,尤其在具有较小的处理容量的装置上,在方框214中制备视频数据的帧所需要的时间可比相关视频数据的帧间间距(即,(帧速率)-1)更长。在这种情况下,在可能另外呈现视频数据的帧时,由于处理器致力于在方框214中将视频数据的帧解码,所以可能略过或丢失视频帧,造成视频假象。
在一些实施方式中,方法200、220、250、270、300可解析或细分成子元件(例如,功能子模块或子步骤),并且在这种子元件之间,可执行与视频和/或音频呈现相关的功能(例如,视频呈现方法220和/或音频呈现方法270)。继续视频制备方框214的实例,视频制备方框214可细分成多个子元件,这些子元件可包括子元件214A、214B、214C、214D或者可包括其他(显示的或未显示的)子元件。在一些实施方式中,子元件214A、214B、214C、214D本身可细分成进一步的子元件。在方框214的特定子元件之后,可评估条件,以确定是否应中断方框214,以执行与视频和/或音频呈现相关的程序(例如,视频呈现方法220和/或音频呈现方法270)。这种中断条件可与上面为方框304、308、312、316描述的那些条件相似,并且通常可基于可本地地或直接用于脚本的任何信息。例如,与执行视频呈现程序相关的中断条件可与方框308的中断条件相似,并且与执行音频呈现器接口程序相关的中断条件可与方框304的中断条件相似。如果判断这种中断条件确定,那么可中断视频解码方框214,并且可执行合适的视频呈现程序和/或音频呈现器接口程序。在执行该程序之后,可重新开始视频解码方框214。在视频解码方框214的子元件之间执行这种功能,可有助于减少呈现假象。
细分成子元件并且在这种子元件之间执行与视频和/或音频呈现相关的功能的这种方法200、220、250、270、300不限于上述方框214的实例。方法200、220、250、270、300(和/或方法200、220、250、270、300的任何合适的显示的或未显示的方框或步骤)可通过任何合适的方式细分成任何合适的子元件。
如上所述,在特定的非限制性实例实施方式中,方法200(图3)的方框208和方法250的方框258(图5)可涉及调用与在服务器上托管的视频内容对应的AJAX XMLHttpRequest对象的open()方法。该方框258功能要求网络浏览器检索具有可由Javascript解释的格式的一些视频和/或音频数据。在一些实施方式中,方框208和/或258(及其相应的方法200、250)可利用多个AJAX XMLHttpRequest(后文中称为AJAX)对象,可反复使用这些对象,以提高方框208和/或258的效率。
图8示出了可用于实现提取方框208的功能的视频数据的方法350的流程图。可通过相似的方式实现方框258。在所显示的实施方式中,方法350涉及使用两个AJAX对象。然而,要理解的是,方法350可扩展为使用两个以上的AJAX对象。方法350在方框352中开始,该方法涉及查询在方法350的最后的迭代中是否使用第一个AJAX对象(AJAX_1)。如果方框352查询肯定(方框352,是支路),那么方法350继续进入方框354。在方框354中,第二AJAX对象(AJAX_2)用于提取下一组数据。由AJAX_2检索的数据储存在由提供AJAX_2对象的网络浏览器(或其他应用程序)本地地管理的数据结构内。如果方框352查询否定(方框352,否支路),那么方法350继续进入方框356。在方框356中,AJAX_1用于提取下一组数据。由AJAX_1检索的数据储存在由提供AJAX_1对象的网络浏览器(或其他应用程序)本地地管理的数据结构内。在实现方框354或方框356之后,方法350结束。
在一些实施方式中,方框208(包括方法350)的数据检索功能可由网络浏览器在脚本的指导下本地地执行。在一些实施方式中,可执行方框208(包括方法350)的数据检索功能,作为与方法200的剩余部分的线程平行的线程(在多线程环境下)或者作为与方法200的剩余部分的工序平行的工序(在多工序环境下)。例如,在一些实施方式中,网络浏览器可执行一个平行的线程/工序(例如,涉及脚本解释器),以实现方法200,并且可执行第二平行的线程/工序(例如,涉及AJAX对象),以实现方法350。在方法350中使用多个AJAX对象,也可利用能够实现多线程和/或多工序环境的用户计算装置。例如,可将线程或工序分配给多个AJAX对象中的每个。
在网络浏览器的脚本解释器解释脚本时,其内存管理程序可相对无效。对于所谓的“垃圾回收”,尤其如此,垃圾回收用于腾出不再使用的先前分配的内存。垃圾回收可特别无效,可消耗处理资源并且可发生在不可取的时间,例如,在需要呈现帧图像或下一个音频段的时间。使用方法350,多个AJAX对象可用作一种“循环”缓冲器,该缓冲器可避免需要中间缓冲使用由网络浏览器的脚本解释器分配的储存器的经编码的视频数据。在仅仅使用一个AJAX对象时,需要或可取地将所提取的数据串从AJAX对象复制成由网络浏览器的脚本解释器管理的中间缓冲器。这种中间缓冲需要或可取地腾出单个AJAX对象,以便可用于提取更多的数据。使用多个AJAX对象,可避免这种中间缓冲,这是因为一个AJAX对象可用于提取数据,而任何其他AJAX对象的数据可用于提供脚本实现方法200的剩余部分所需要的数据。除了使用直接从多个AJAX对象中提取的数据以外,负责实现AJAX对象的浏览器的功能可管理数据的创建/破坏,这可比浏览器的脚本解释器对数据的创建/破坏更有效。
而且,在某些情况下,通过互联网或者通过某种其他网络获取的数据可具有每个连接的带宽限制。在这种情况下,使用多个AJAX对象,能够使数据更快速地流传输。
在除了Javascript脚本中实现的实施方式中,相似的方法和相似的对象可用于提取视频和/或音频数据。在这种实施方式中,可通过与在本文中所描述的多个AJAX对象的使用相似的方式,使用多个数据提取对象。
在一些实施方式中,可使用可有助于使用一个合适的脚本来有效地呈现视频内容的技术,来将视频内容编码。
在从脚本解释器中传输或者由脚本解释器传递具有特定的数据格式(称为内容传输格式)的数据时,一些网络浏览器仅仅接受这种数据。例如,在由Javascript解释器将这种数据传输或者传递给浏览器时,一些浏览器仅仅读取所谓的base64编码的数据格式。如上所述,音频呈现系统100(图2A)的内容传输编码器145在方法200的可选方框214C(图3)中可选地将帧图像转换成base64(或其他内容传输)编码的格式。内容传输编码是在用户计算装置上在计算上比较昂贵的工序。例如,在base64编码的特定情况下,这种内容传输编码涉及检查每组的3个字节并且将每组的3个字节转换成4个字符。这种计算成本可造成呈现假象,例如,在这种内容传输编码可能延迟呈现视频帧的周期比由期望的帧速率规定的帧间周期更长。
根据一些实施方式,例如,在提供给用户计算装置(或者由用户计算装置检索)之前,视频数据的帧图像(和/或音频数据的区段(例如,帧))可在base64(或某个其他合适的内容传输格式)中预先编码。下面的描述表示将视频数据的帧图像预先编码成base64或某个其他合适的内容传输格式,不失一般性地,这种预先编码还可适用于音频数据。在可由网络浏览器本地地呈现的格式中表示视频数据的基础帧图像时(例如,在JPEG或GIF格式中表示视频数据的基础帧图像时),将帧图像这样预先编码成base64(或其他合适的内容传输)格式,尤其有用。在这种情况下,由于帧图像(一旦在方框214A中解码)已经具有适合于传输给网络浏览器的以及由网络浏览器呈现的格式,所以可跳过帧图像转换和内容传输编码(方法200的方框214B、214C(图3))的工序。在这种情况下,同样可省略视频呈现系统100(图2A)的帧图像转换器142和内容传输编码器145。在一些实施方式中,可将视频内容的基础帧图像转码成可由网络浏览器本地地呈现的格式(例如,JPEG或GIF格式),然后,可将转码的帧图像预先编码成一种合适的内容传输格式。虽然帧图像这样预先编码成base64(或其他内容传输)格式,可增大编码的视频内容文件的尺寸,但是由于base64(或其他内容传输)编码的数据的压缩性,所以文件尺寸的任何增大对编码的文件可流传输到用户计算装置中的速度可具有较小的影响。由HTTP1.1(例如,gzip、deflate等)支持的很多数据压缩技术可利用base64(或其他内容传输)编码的数据使用有限的字符组(例如,在base64的情况下,具有64个字符和多个控制字符)这一事实。
预先编码视频数据的帧图像(和/或音频数据的帧)的这种技术可在用户计算装置上减少消耗处理器资源。更具体而言,如果将帧图像预先编码成base64或其它合适的内容传输格式,那么可在用户计算装置上将帧图像直接传递给网络浏览器,而不由脚本在用户计算装置上在base64格式中转换或编码。
在一些实施方式中,在位于视频内容下面的帧图像预先编码成base64格式或某个其他合适的内容传输格式时,填补与图像对应的数据串,以便与每个帧图像对应的数据串具有相同的长度。例如,在base64中,可通过一个合适的字符(例如,换行字符<LF>)填补与帧图像对应的数据串。由于填补串相对可压缩,所以这种填补未明显增大传输速度。然而,帧图像的这种填补可使得网络浏览器的脚本解释器重新使用存储器,无需重新分配以及相应的“垃圾回收”。
更具体而言,无需填补,每个帧图像具有一个不同的长度。浏览器的脚本解释器通常在用户计算装置上分配某个存储器,用于储存帧图像。通过非限制性实例,这种帧图像储存可用于实现任何帧图像队列(例如,队列126、143、141、138(图2A))。在重新使用一些分配的存储器来处理新帧时,如果新帧的尺寸与要覆盖的前一个帧的尺寸不同,那么脚本解释器可决定需要破坏前一个分配并且重新分配存储器,以容纳新帧。先前分配的存储器的破坏与重新分配通常称为“垃圾回收”。先前分配的存储器的这种破坏与重新分配可消耗处理器资源并且造成假象。相反,如果所有帧具有相同的尺寸,那么脚本可由位于先前分配的存储器内部的新帧覆盖前一个帧,而不破坏先前的内存分配或者造成内存重新分配。这可减少与内存重新分配相关的处理器资源并且减少呈现假象的发生。
目前,所有关注的网络浏览器本地地支持至少两个图像编码文件格式:JPEG和GIF。在特定的实施方式中,可使用具有多个不同的编码文件格式的视频内容的帧图像,来将视频内容编码。可将视频内容编码,其中,单独的帧图像可编码成两个或多个不同的图像编码文件格式(例如,JPEG和GIF)。更具体而言,在编码期间,可根据帧图像的视觉特征或内容,选择每个帧图像的编码文件格式。例如,GIF可取地用于编码帧图像,其中,视觉特征可包括清晰的边缘和细节,例如,显示文本信息的图像(记录屏幕、标题屏幕等)、动画图像等。JPEG可更适合于包含更自然的视觉内容的帧图像(例如,没有这种清晰的边缘)。
在一些实施方式中,可处理在特定的视频内容部件内容内的单独帧图像,以确定在JPEG文件格式还是GIF文件格式中可能更好地编码。例如,可比较与每个帧的单独像素相关的值(例如,光度和/或色度值)和与其相邻像素相关的值,以确定一个或多个梯度度量。在一个实施方式中,虽然在其他实施方式中可使用其他组的相邻像素,但是用于一个特定的非边缘像素的这组相邻像素可包括其8个相邻的像素。在一个实例实施方式中,梯度度量可基于像素值的差值。然后,可分析在一个特定的帧图像中的所有像素的梯度度量,以确定应在JPEG还是GIF文件格式中编码该特定的帧图像。例如,如果具有较大数量的较高梯度度量,那么这可表示应在GIF格式中编码的具有清晰的边缘的帧图像,并且另一方面,如果具有较大数量的较低梯度度量,那么这可表示应在JPEG格式中编码的帧图像。在一个特定的实施方式中,通过将梯度度量装箱(以形成概念直方图等),然后比较在每个箱子内的梯度度量的数量与一个或多个合适的阈值,梯度度量可实现这种分析。
在某些情况下,可确定关注的用户计算装置的网络浏览器能够本地地呈现额外的图像编码的文件格式。在这种情况下,这种额外的图像编码的文件格式可并入编码工序内。即,可编码视频内容,其中,在3个或多个不同的图像编码的文件格式中,编码在特定的视频内容部件内的单独帧图像。
使用具有不同的编码文件格式的单独帧图像来编码视频内容,可允许提高压缩(相对于在单个文件模式中编码帧图像),这可反过来引起在用户计算装置上更有效地获得和/或解码的视频内容以及相应更少的呈现假象。
在特定的实施方式中,根据每个帧图像的视觉内容,可逐个帧地操纵用于将帧图像编码成JPEG格式的量化表(例如,光度和色度量化表)。在一些实施方式中,可比较每个帧图像的像素值与其在时间上相邻的帧图像中的一者或两者的像素值(例如,逐个像素),以确定一个或多个不同的度量,并且可根据这种不同的度量,确定用于将帧图像编码的量化表。例如,如果确定一个特定的图像帧的色度与其相邻的帧的色度相差不大(即,色差度量低),那么这可表示较慢移动的场景,允许使用与用于该特定的帧图像的较高程度的压缩对应的色度量化表。相反,如果用于特定像素的色差度量较高,那么这可表示较快移动的场景,建议使用与用于该特定的帧图像的较低程度的压缩对应的色度量化表。光度量化表可能具有相似的调节。
在编码侧操纵用于编码帧图像的JPEG量化表,可有助于实现高压缩,而不过度牺牲人们可察觉的细节。帧图像的更大压缩可造成使用更少的计算资源来在用户计算装置上解码和呈现帧图像,这反过来可产生更少的呈现假象。
一些用户计算平台不支持提取部分视频内容文件,仅仅能够下载(或获取)完整的视频内容文件。通过非限制性实例,运行AndroidTM操作系统的一些移动电话装置目前具有该限制。在一些实施方式中,可将单个视频内容文件解析成一系列数据块,并且可编码每个数据块,犹如完整的视频内容文件。这允许用户计算装置单独下载(或获得)每个数据块,并且然后,在用户计算装置上解释的脚本可被配置为在用户计算装置上将数据块按照顺序组织在一起,以呈现完整的视频内容文件。在用户计算装置上可使用列表,以按照顺序组织更小的视频内容文件。
通常,虽然没有限制性,但是以24帧/秒或33帧/秒的帧速率,将视频数据编码。在某些情况下,预期在用户计算装置上可利用的处理资源不充足,以能够使在本文中所述的脚本以这些或其他期望的帧速率支持呈现视频数据。因此,在一些实施方式中,以更低的帧速率,可下采样并且重新编码视频数据,并且在用户计算装置上解码下采样的视频数据时,通常可显示可利用的帧图像,并且在可利用的帧图像之间的时间,可使用α混合技术,提取插补的帧图像。这种内插技术不限于在编码之前下采样视频数据的情况。在一些实施方式中,在用户计算装置上可确定以期望的帧速率呈现视频数据的处理资源不充足,在这种情况下,通过选择解码和显示可利用的图像帧的子集,可有效地下采样视频数据,并且在所选择的帧图像之间的时间,可使用α混合技术,提取插补的帧图像。在图9A和9B中示意性显示这种工序的实例。
图9A和9B示出了原始视频数据400具有帧速率1/t0的一个实例,其中,t0表示帧间距,并且f0、f1、f2、f3…表示原始帧图像(例如,在帧图像内的单独像素的像素值)。在图9A和9B的每个中,以比原始视频数据400更低的帧速率,下采样原始视频数据400。如上所述,在使视频数据可用于用户计算装置之前,可进行这种下采样;或者,通过从视频数据内选择帧图像的一个特定子集,以进行解码和处理,可在用户计算装置上发生这种下采样。在图9A实例中,通过采用每隔一个帧(f0、f2、f4、f6…),下采样原始视频数据400,以便重新编码的视频数据402具有帧速率1/tA该帧速率是原始视频数据400的帧速率1/to的一半。在图9B实例中,通过采用每隔两个帧(f0、f3、f6、f9…),下采样原始视频数据400,以便重新编码的视频数据404具有帧速率1/tB,该帧速率是原始视频数据400的帧速率1/t0的1/3。本领域的技术人员要理解的是,图9A和9B的实例仅仅进行解释,并且通常通过采用原始帧图像f0、f1、f2、f3…的任何合适的部分,可下采样原始视频数据400。
在图9A和9B的实施方式中的下采样的视频数据402、404的一个优点在于,用户计算装置仅仅需要解码和制备图像数据的相应地更少的帧。例如,在图9A的情况下,下采样的视频数据402、视频解码器122以及帧图像处理器136(见图2A)可仅仅需要处理在方框214A、214B、214C、214D(见图3)中的帧图像的一半。帧图像解码和/或制备的这种减少的量可减少用户计算装置处理资源的负担。然而,在一些实施方式中,可取地以原始帧速率1/t0呈现帧图像(例如,由在方框236(图4)中的帧图像呈现器132(图2A)呈现),因为这会提供流传输移动的视频的外观。在这种实施方式中,在下采样的视频数据402、404的图像帧之间的时间,可取地呈现内插的帧图像。例如,在图9A的下采样的视频数据402的情况下,即使下采样的视频数据402不包括与时间t1、t3、t5…对应的经解码的帧图像,在这些时间,也可取地呈现内插的帧图像。同样,在图9B的下采样的视频数据404的情况下,即使下采样的视频数据404不包括与时间t1、t2、t4、t5…对应的经解码的帧图像,在这些时间,也可取地呈现内插的帧图像。
在一些实施方式中,通过使用α混合来创建图像对象,可提供这种插补。例如,在方框148(图2A)和方框214D(图3)中,可创建这种α混合的图像对象。在一个特定的实施方式的情况下,例如,所创建的图像对象可为画布标记的争论。图9C示出了根据一个特定的实施方式的用于创建这种α混合的图像对象的方法420。方法420在方框422中开始,该方框涉及查询确切的帧是否可用于当前的帧索引(例如,在方框224中确定的帧索引(图4))。如果可利用确切的帧(方框422,是支路),那么方法420继续进入方框424,该方框涉及根据确切的帧创建图像对象。在下采样的数据402(图9A)的实例实施方式的情况下,在时间t0、t2、t4、t6…,方法420能够使用帧f0、f2、f4、f6…的确切的帧来创建图像对象,并且在下采样的数据404(图9B)的实例实施方式的情况下,在时间t0、t3、t6…,方法420能够使用帧f0、f3、f6…的确切的帧来创建图像对象。这在图9A中示意性显示为要提取的数据406,并且在图9B中示意性显示为要提取的数据408。在方框424中创建图像对象之后,方法420结束。
返回方框422,如果方框422查询确定没有可用于当前的帧索引的确切的帧(方框422,否支路),那么方法420继续进入方框426,该方框涉及确定α混合系数。通常,可由
α=[β+1-mod(f#,β)]-1
提供方框426的α混合系数α,
其中:
α是期望的α混合系数;
β是有效的下采样因数或等同于在可利用的图像帧+1之间的呈现次数(例如,对于图9A,β=2,并且对于图9B,β=3);
f#是当前的帧索引;以及
mod(x,y)是返回由x除以y的整数余数的模数运算符。
将该公式用于图9A的实例,对于f1、f3、f5…,α=0.5,并且用于图9B的实例,f1、f4、f7…,α=0.33,并且对于f2、f5、f8…,α=0.5。通常,以上等式适合于确定任何下采样因数β的α混合系数。在方框426之后,方法420继续进入方框428,该方框涉及通过在前一个图像帧的图像对象上α混合下一个可用的图像帧的一部分,来创建图像对象。下一个可用的图像帧的这部分由方框426的α混合系数确定。因此,例如,对于在图9A的实例中的帧f1,其中,α=0.5,下一个可用的图像帧是f2,并且前一个帧的图像对象是f0,方框428涉及通过在前一个图像对象(f0)上α混合0.5f2,来创建图像对象,其创立f1=0.5f2+0.5f0。同样,对于在图9A的实例中的帧f3,其中,α=0.5,下一个可用的图像帧是f4,并且前一个帧的图像对象是f2,方框428涉及通过在前一个图像对象(f2)上α混合0.5f4,来创建图像对象,其创立f3=0.5f4+0.5f2。这在图9A中示意性显示为要提取的数据406。
对于在图9B的实例中的帧f1,其中,α=0.33,下一个可用的图像帧是f3,并且前一个帧的图像对象是f0,方框428涉及通过在前一个图像对象(f0)上α混合0.33f3,来创建图像对象,其创立f1=0.33f3+0.67f0。对于在图9B的实例中的帧f2,其中,α=0.5,下一个可用的图像帧是f3,并且前一个帧的图像对象是f1=0.33f3+0.67f0,方框428涉及通过在前一个图像对象(f1=0.33f3+0.67f0)上α混合0.5f3,来创建图像对象,其创立f3=0.5f3+0.5(0.33f3+0.67f0)=0.67f3+0.33f0。对于在图9B的实例中的帧f4,其中,α=0.33,下一个可用的图像帧是f6,并且前一个帧的图像对象是f3,方框428涉及通过在前一个图像对象(f3)上α混合0.33f6,来创建图像对象,其创立f4=0.33f6+0.67f3。对于在图9B的实例中的帧f5,其中,α=0.5,下一个可用的图像帧是f6,并且前一个帧的图像对象是f4=0.33f6+0.67f3,方框428涉及通过在前一个图像对象(f4=0.33f6+0.67f3)上α混合0.5f6,来创建图像对象,其创立f4=0.5f6+0.5(0.33f6+0.67f3)=0.67f6+0.33f3。这在图9B中示意性显示为要提取的数据408。
在方框428中创建每个图像对象之后,方法420结束。在方法200的每个迭代(图3)中,可实现方法420(图9C)的工序,例如,在方框214中,以插补帧图像,其中,由于在编码器侧进行下采样或者在用户计算装置上有效地进行下采样,所以不能使用帧图像。这可允许用户计算装置以可取的帧速率呈现帧图像,同时在用户计算装置上减少在处理器资源上的负荷,并且可能产生更少的视频假象。
在特定的实施方式中,在解释脚本时,脚本使得用户计算装置使用HTTP协议来从服务器等中获取视频内容。与可利用较复杂的协议来使视频内容适合于特定的用户计算装置、特定的媒体播放器应用和/或特定的流媒体网络连接速度(比特率)的流媒体不同,使用HTTP协议来传输数据的HTTP服务器通常具有比较有限的能力,用于与用户计算装置相互作用。在一些实施方式中,在解释脚本时,脚本确定用户计算装置、网络浏览器和/或在服务器与用户计算装置之间的网络连接的特征,并且采取适当的行动,来适合呈现视频内容。
图10示出了用于呈现视频内容的方法450,其中,根据用户计算装置的一个或多个特征和/或在服务器与用户计算装置之间的网络连接,在解释脚本时,该脚本适合呈现视频内容。方法450或其部分可直接由脚本实现。方法450在方框452中开始,该方框涉及查询初始装置特征。这种装置特征可包括在装置上操作的装置硬件和/或软件(包括网络浏览器和/或操作系统软件)的特征。装置特征的非限制性实例包括:处理器速度和/或处理能力;显示器特征(例如,显示器分辨率、显示器方向、纵横比、屏幕尺寸等);具有专门硬件(例如,专门的音频呈现硬件和/或视频呈现硬件);网络浏览器或解释脚本的其他应用程序的软件特征(例如,网络浏览器本地地呈现特定的音频格式和/或本地地呈现特定的图像文件格式的能力);装置的操作系统的软件特征;文件处理能力(例如,该装置、该装置的操作系统和/或该装置的网络浏览器是否可作为单个文件容纳整个视频内容,或者视频内容是否必须解析成多个更小的文件);等。
一旦已经确定这些装置特征,就在解释脚本时,脚本使用在方框452中获得的装置特征来在方框454中初始化特定装置的呈现特征。在方框454中初始化特定的呈现特征,可涉及从服务器中选择下载合适的文件。例如,在确定特定的用户计算装置需要将视频内容解析成更小的文件时,在用户计算装置或其浏览器的本机视频呈现能力建议使用特定的视频内容文件时,在用户计算装置或其浏览器的本机图像呈现能力建议使用特定的视频内容文件时,在用户装置的显示器的分辨率和/或屏幕尺寸建议使用特定的视频内容文件时,在用户计算装置处理器的知识指示应使用下采样的视频内容文件时,诸如此类,可能如此。在方框454中初始化其他呈现特征,可涉及记录特定的信息,用于随后进行呈现。例如,呈现特征(例如,屏幕尺寸、显示器方向(纵横比)等)可能如此。
然后,方法450继续进入方框456,该方框涉及根据上述任何方法开始呈现工序。在方框456中,在解释脚本时,脚本可尝试根据方框454的初始化呈现特征,获得合适的视频内容文件。另外/或者,在方框456中,脚本使得根据方框454的初始化呈现特征呈现任何获得的视频内容文件的视频内容。通过非限制性实例,在用户计算的显示器具有某个分辨率或屏幕尺寸的情况下,脚本缩放帧图像,以最佳地适合于用户计算装置的显示器;在用户计算装置上接收之前来下采样视频数据的情况下,脚本插在已知的图像帧之间;在以特定的帧速率接收视频数据,但是用户计算装置的处理器不能足够快地解码和制备图像帧的情况下,通过选择解码和制备图像帧的子集,脚本在用户计算装置上有效地下采样视频数据,并且插在所选择的图像帧之间;诸如此类。
在解释脚本时,脚本时常在方框458中查询进行中的装置特征。该方框458查询可与方框452的初始查询相似,除了方框458会查询方框452的初始查询是否具有某种变化之外。通过非限制性实例,潜在的变化可涉及装置显示器的方向以及要显示的图像帧的相应纵横比的变化。在某些情况下,方框548可涉及在方框234(图4)中从丢弃视频动作和/或在方框286(图5)中从丢弃音频动作中获取信息。例如,如果方框458查询确定已经丢弃了阈值数量以上的图像帧,那么可得出以下结论:用户计算装置的容量不足以处理全帧速率视频数据,并且合适的视频内容文件可能应变成下采样的文件,或者应通过选择全速率视频帧的一个合适的子集,来在用户计算装置上有效地下采样视频数据。
而且,在解释脚本时,脚本时常在方框460中查询在服务器与用户计算装置之间的进行中的网络特征。如果在服务器与用户计算装置之间的可利用的带宽或比特率太低,不能确保视频内容及时到达用户计算装置,以进行解码和呈现,那么可取地切换成更低质量的视频文件,例如,具有下采样的视频数据的文件、具有更低的分辨率的文件等。
方框462涉及根据从方框458和460中获得的信息来更新呈现特征。例如,在第一迭代上,方框462可涉及根据从方框458和460中获得的信息来更新方框454的初始化呈现特征。在随后的迭代中,方框462可涉及更新先前的方框462呈现特征。然后,方法450继续进入方框464,该方框涉及继续呈现视频内容。方框464可与上述方框456相似,除了方框464利用在方框462中更新的呈现特征以外。如上所述,更新的方框462呈现特征(根据方框458和460的查询)通常可引起为进行呈现而获得的文件(例如,质量更高或更低的视频文件)或者视频内容的呈现(例如,进行缩放,以容纳显示器方向)发生变化。在方框464中可实现这些变化。
然后,方法450继续进入方框466,该方框涉及查询视频内容是否完成呈现。如果是的话(方框466,是支路),那么方法450结束。如果具有更多要呈现的视频内容(方框466,否支路),那么方法450环回方框458,以时常重复查询装置特征和更新呈现特征的工序。
本发明的实施方式包括在本文中描述的各种操作。除非另有规定,这些操作可由硬件元件、软件、固件或其组合执行。
某些实施方式可作为计算机程序产品来实现,该计算机程序产品可包括储存在机器可读媒体上的指令。这些指令可用于将通用或专用处理器编程,以执行所描述的操作。机器可读媒体可包括任何机构,用于储存具有可由机器(例如,计算机)读取的形式(例如,软件、处理应用)的信息。机器可读媒体可包括但不限于磁储存介质(例如,软盘);光储存介质(例如,CD-ROM);磁光储存介质;只读存储器(ROM);随机存取存储器(RAM);可擦可编程存储器(例如,EPROM和EEPROM);闪速存储器;或者适合于储存电子指令的另一种介质。
此外,可在分布的计算环境中,实践一些实施方式,其中,机器可读媒体储存在不止一个计算机系统上和/或由计算机系统执行。此外,在连接计算机系统的通信介质上,可拉动或推动在计算机系统之间传输的信息。表示为一系列工序步骤的方法可具有在相应的一个或多个计算机处理器上执行的步骤的一个或多个子集,然后,这些处理器使用例如进程间通信在计算机处理器之间传送中间结果或结果的可用性。可在位于CPU附近的高速缓冲存储器内,或者通过内存管理硬件或者甚至通过使得数据储存在要载入计算机主存储器内的外部储存装置上的这种内存管理硬件,来解决计算机主存储器,从而储存数据值。
在本发明的各种实施方式的实现方式中使用的计算机处理元件包括一个或多个通用处理装置,例如,微处理器或中央处理单元、控制器、图形处理单元(GPU)、移动电脑等。或者,这种数字处理元件可包括一个或多个专用处理装置,例如,数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)等。在特定的实施方式中,例如,数字处理装置可为具有包括一个核心单元的多个处理器和多个微引擎的网络处理器。此外,数字处理装置可包括通用处理装置和专用处理装置的任何组合。
虽然按照特定的顺序显示和描述了在本文中的方法的操作,但是每个方法的操作顺序可改变,以便可逆序执行某些操作,或者以便可至少部分与其他操作同时执行某些操作。在另一个实施方式中,不同操作的指令或子操作可具有间断和/或交替的方式。
在上面引用元件(例如,软件模块、处理器、组件、装置、电路等)时,除非另有说明,否则引用该元件(包括引用“装置”),应理解为包括执行所描述的元件的功能的任何元件(与该引用元件等效)(即,在功能上等效),包括在结构上与在本发明的所显示的示例性实施方式中执行功能的所公开的结构不等效的元件。
虽然上面已经描述了多个示例性方面和实施方式,但是本领域的技术人员会认识到其某些修改、置换、添加以及子组合。例如:
·可反复例示方法300,以便具有多种方法,连续地调度其自身的连续迭代(例如,在相同的重复间周期或者在不同的重复间周期)。
·已知一些用户计算装置具有多个和/或专用的图像/音频呈现引擎。这种图像/音频呈现引擎可包括合适的硬件和/或软件。通过非限制性实例,苹果的iPhoneTM和iPadTM装置包括专用3D图像/音频呈现引擎。一些实施方式可涉及触发用户计算装置的网络浏览器激活这种多个和/或专用的呈现引擎。例如,即使视频内容不包括3D视频数据,一些实施方式也可涉及触发iPhoneTM或iPadTM装置的SafariTM网络浏览器使用该装置的3D呈现引擎,以帮助呈现视频内容。在一个特定的非限制性实施方式中,在网页中的以下CSS代码触发SafariTM使用3D呈现引擎:
Figure BDA0000491576830000561
Figure BDA0000491576830000571
·在一些实施方式中,网络浏览器是为特定的用户计算装置平台编译的应用程序。在其他实施方式中,浏览器功能是操作系统的一部分,或者在某些情况下,是嵌入装置硬件内的功能。
因此,其目的在于,以下所附权利要求以及此后介绍的权利要求被解释为包括在其真实的精神和范围内的所有这种修改、置换、添加以及子组合。
权利要求书(按照条约第19条的修改)
1.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本,使所述脚本由在所述用户计算平台上操作的所述应用程序解释,以使所解释的脚本直接将所述用户计算平台可访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
2.根据权利要求1所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以在所述用户计算平台上本地地显示所述一个或多个帧图像。
3.根据权利要求1所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成经解码的音频数据。
4.根据权利要求3所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以:通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据;并且通过在所述用户计算平台上重放所述经解码的音频数据,来呈现所述经解码的音频数据。
5.根据权利要求3所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以:通过在所述用户计算平台上显示所述一个或多个帧图像,来本地地呈现所述经解码的视频数据;并且通过重放所述经解码的音频数据,来本地地呈现所述经解码的音频数据。
6.根据权利要求4或5中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得脚本由所述应用程序解释,以使得所解释的脚本直接同步所述帧图像的显示与所述经解码的音频数据。
7.根据权利要求4或5中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,其中,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得所述脚本由所述应用程序解释,以确定与经解码的音频数据的重放相关联的音频重放时间基准,并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述经解码的音频数据的重放。
8.根据权利要求7所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括以下中的至少一个:根据所述视频数据的呈现比所述音频重放时间基准晚第一阈值时间量这一确定,通过跳过一个或多个帧图像的显示,脱离顺序地提前显示帧图像;并且根据所述视频数据的呈现比所述音频重放时间基准提早第二阈值时间量这一确定,使得显示一个或多个帧图像的时间段比由所述视频数据的帧速率指示的时间段更长。
9.根据权利要求7所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:使用所述音频重放时间基准来确定当前帧索引;并且如果准备好显示与所述当前帧索引相关的帧图像,那么显示与所述当前帧索引相关的帧图像。
10.根据权利要求9所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定与所述当前帧索引相关的帧图像在帧图像队列中位于一个或多个其他帧图像之后,并且如果是这样的话,那么跳过显示所述一个或多个其他帧图像。
11.根据权利要求9所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定未准备好显示与所述当前帧索引相关的所述帧图像,并且根据这种确定,开始丢帧动作,所述丢帧动作包括以下中的一个或多个:记录未准备好呈现与所述当前帧索引相关的帧图像的指示;使得所述经解码的音频数据的重放暂停或放慢;使得所述经编码的视频数据的解码速率增大;使得切换成具有更低的帧速率的视频数据;通过将所述图像帧的一个子集解码,使得切换成有效下采样视频数据。
12.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代调度和执行包括将所述经编码的视频数据直接解码成所述帧图像的第一模拟线程;并且迭代调度和执行包括通过显示所述帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
13.根据权利要求12所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代调度和执行包括将所述经编码的音频数据直接解码成所述经解码的音频数据的第三模拟线程;并且迭代调度和执行包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的第四模拟线程,来模拟多线程执行环境。
14.根据权利要求4所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代地调度和执行一种方法,来模拟多线程执行环境,所述方法在每个迭代上对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,选择和执行以下中的一个:
第一模拟线程,其包括将所述经编码的视频数据直接解码成所述帧图像;
第二模拟线程,其包括通过显示所述帧图像来呈现所述视频数据;
第三模拟线程,其包括将所述经编码的音频数据直接解码成经解码的音频数据;
第四模拟线程,其包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口。
15.根据权利要求12所述的方法,其中,执行所述第一模拟线程,包括:将第一模拟线程分成多个子部分;在子部分对的性能之间,对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,暂时中断第一模拟线程,以选择和执行以下中的一个的迭代:第二模拟线程;以及包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的另一个模拟线程。
16.根据权利要求4或5中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
17.根据权利要求4或5中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据,包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括α混合所述第一个帧图像和所述第二个帧图像。
18.根据权利要求17所述的方法,其中,在显示所述第一个帧图像与显示所述第二个帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括使用α混合系数α,在所述先前显示的图像上α混合所述第二个帧图像,由
α=[β+1-mod(f#,β)]-1
提供所述α混合系数α,
其中:
β是等于所述一个或多个时间+1的数量的下采样因数;
f#是参照所述一个或多个时间中的当前一个的数量的指数;以及
mod(x,y)是返回由x除以y的整数余数的模数运算符。
19.根据权利要求1到18中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,使得所解释的脚本直接实现视频数据队列监视器的至少一部分,所述部分直接监视视频数据队列,以确定其状态,并且根据所述视频数据队列的所确定的状态,确定是否提取更多经编码的视频数据。
20.根据权利要求19所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以实现所述视频队列监视器的第二部分,所述第二部分使用AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
21.根据权利要求19所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以实现所述视频队列监视器的第二部分,所述第二部分交替地使用多个AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
22.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以直接多路分用所述视频数据和所述音频数据。
23.根据权利要求1到22中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以使得所解释的脚本直接实现帧缓冲监视器,所述帧缓冲监视器监视帧图像缓冲器,以确定其状态,并且根据帧图像缓冲器的所确定的状态,确定是否将更多所述经编码的视频数据解码。
24.根据权利要求1到23中任一项所述的方法,其中,发送脚本,使得所述脚本由应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由所述应用程序本地地呈现。
25.根据权利要求1到24中任一项所述的方法,包括将所述经编码的视频数据发送给所述用户计算平台。
26.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由在所述用户计算机平台上操作的应用程序本地地呈现。
27.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:
对于以第一文件格式设置的至少第一个所述帧图像:分析所述第一个帧图像的内容;根据所述第一个帧图像的内容的分析,在多个二次图像文件格式之中选择一个;并且如果所述第一文件格式与所述二次图像文件格式中所选择的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的一个格式;并且
对于以第二文件格式设置的至少第二个所述帧图像:分析所述第二个帧图像的内容;根据所述第二个帧图像的内容的分析,在多个二次图像文件格式之中选择不同的一个;并且如果所述第二文件格式与所述二次图像文件格式中所选择的不同的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的不同的一个格式;
其中,所述多个二次图像文件格式中的每个能够由所述应用程序本地地呈现。
28.根据权利要求1到27中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像转换成内容传输格式,所述内容传输格式能够由解释脚本的脚本解释器传递给所述应用程序。
29.根据权利要求1到27中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像转换成base64内容传输格式。
30.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:在内容传输格式中编码至少一个所述帧图像,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序。
31.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:对于多个帧图像中的每个:将所述帧图像编码成内容传输格式,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序;并且通过与所述帧图像无关的填充数据,将所述内容传输编码的帧图像填充成特定的尺寸。
32.根据权利要求25所述的方法,包括:在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:以base64内容传输格式编码至少一个帧图像。
33.根据权利要求1到32中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以将至少一个所述帧图像本地地转换成相应的图像对象,所述图像对象能够由所述应用程序本地地呈现。
34.根据权利要求1到33中任一项所述的方法,其中,所述应用程序包括网络浏览器。
35.根据权利要求1到34中任一项所述的方法,其中,所述脚本嵌入HTML文档中。
36.根据权利要求3所述的方法,其中,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得所述脚本由所述应用程序解释,以:通过重放所述经解码的音频数据,来呈现所述音频数据;并且通过选择所述多个帧图像中的一个子集和显示所述多个帧图像的所选择的一个子集,来呈现所述视频数据。
37.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
38.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下一个或多个项中的至少一个特征:将所述经编码的数据解码以及显示所述一个或多个帧图像。
39.根据权利要求4或5中的任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以确定将所述经编码的视频数据发送给用户计算平台的数据速率,并且根据所述确定,改变包括发送给所述用户计算平台的所述经编码的视频数据的文件。
40.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以确定将所述经编码的视频数据发送给所述用户计算平台的数据速率,并且根据所述确定,修改以下一个或多个中的至少一个特征:将所述经编码的数据解码以及显示所述帧图像。
41.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在计算机平台上使用所述应用程序,来解释脚本;
其中,解释所述脚本,使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
42.根据权利要求41所述的方法,其中,解释所述脚本使得所述应用程序在所述用户计算平台上本地地显示所述一个或多个帧图像。
43.根据权利要求41所述的方法,其中,解释所述脚本使得所解释的脚本直接将可由用户计算平台访问的经编码的视频数据解码成经解码的音频数据。
44.根据权利要求43所述的方法,其中,解释所述脚本,通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据,并且通过在所述用户计算平台上重放所述经解码的音频数据,来呈现所述经解码的音频数据。
45.根据权利要求43所述的方法,其中,解释所述脚本使得所述应用程序:通过在所述用户计算平台上显示所述一个或多个帧图像,来本地地呈现所述经解码的视频数据;并且通过重放所述经解码的音频数据,来本地地呈现所述经解码的音频数据。
46.根据权利要求44或45中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,使得所解释的脚本直接同步所述帧图像的显示与所述经解码的音频数据的重放。
47.根据权利要求44或45中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,其中,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,确定与所述经解码的音频数据的重放相关联的音频重放时间基准,并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述经解码的音频数据的重放。
48.根据权利要求47所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括以下中的至少一个:根据所述视频数据的呈现比所述音频重放时间基准晚第一阈值时间量这一确定,通过跳过一个或多个帧图像的显示,脱离次序地提前显示帧图像;并且根据所述视频数据的呈现比所述音频重放时间基准早第二阈值时间量这一确定,使得显示一个或多个帧图像的时间段比由所述视频数据的帧速率指示的时间段更长。
49.根据权利要求47所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:使用所述音频重放时间基准来确定当前帧索引;并且如果准备好显示与所述当前帧索引相关的帧图像,那么显示与所述当前帧索引相关的帧图像。
50.根据权利要求49所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:确定与所述当前帧索引相关的帧图像在帧图像队列中位于一个或多个其他帧图像之后,并且如果是这样的话,那么跳过显示所述一个或多个其他帧图像。
51.根据权利要求49所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定未准备好显示与所述当前帧索引相关的帧图像,并且根据这种确定,开始丢帧动作,所述丢帧动作包括以下中的一个或多个:记录未准备好呈现与所述当前帧索引相关的帧图像的指示;使得所述经解码的音频数据的重放暂停或放慢;使得所述经编码的视频数据的解码速率增大;使得切换成具有更低的帧速率的视频数据;通过将图像帧的一个子集解码,使得切换成有效下采样视频数据。
52.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,通过:迭代调度和执行包括将所述经编码的视频数据直接解码成帧图像的第一模拟线程;并且迭代调度和执行包括通过显示所述帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
53.根据权利要求52所述的方法,其中,解释所述脚本,通过:迭代调度和执行包括将所述经编码的音频数据直接解码成经解码的音频数据的第三模拟线程;并且迭代调度和执行包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的第四模拟线程,来模拟多线程执行环境。
54.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,通过:迭代调度和执行一种方法,来模拟多线程执行环境,所述方法在每个迭代上对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,选择和执行以下中的一个:
第一模拟线程,其包括将所述经编码的视频数据直接解码成帧图像;
第二模拟线程,其包括通过显示所述帧图像来呈现所述视频数据;
第三模拟线程,其包括将所述经编码的音频数据直接解码成经解码的音频数据;
第四模拟线程,其包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口。
55.根据权利要求52所述的方法,其中,执行所述第一模拟线程,包括:将所述第一模拟线程分成多个子部分;在所述子部分对的性能之间,对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,暂时中断所述第一模拟线程,以选择和执行以下中的一个的迭代:第二模拟线程;以及包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的另一个模拟线程。
56.根据权利要求44或45中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据包括将至少一对帧图像α混合在一起。
57.根据权利要求44或45中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像包括α混合第一个帧图像和第二个帧图像。
58.根据权利要求57所述的方法,其中,在显示所述第一个帧图像与显示所述第二个帧图像之间的一个或多个时间的每个时间,显示所述α混合的图像包括使用α混合系数α,在先前显示的图像上α混合第二个所述帧图像,由
α=[β+1-mod(f#,β)]-1
提供所述α混合系数α,
其中:
β是等于所述一个或多个时间+1的数量的下采样因数;
f#是参照所述一个或多个时间中的当前一个的数量的指数;以及
mod(x,y)是返回由x除以y的整数余数的模数运算符。
59.根据权利要求41到58中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接实现视频数据队列监视器的至少一部分,所述至少一部分直接监视视频数据队列,以确定其状态,并且根据所述视频数据队列的所确定的状态,确定是否提取更多经编码的视频数据。
60.根据权利要求59所述的方法,其中,解释所述脚本实现所述视频队列监视器的第二部分,所述第二部分使用AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
61.根据权利要求59所述的方法,其中,解释所述脚本实现所述视频队列监视器的第二部分,所述第二部分交替地使用多个AJAXXMLHttpRequest对象来提取更多经编码的视频数据。
62.根据权利要求44到45中任一项所述的方法,其中,解释所述脚本使得所述应用程序本地地多路分用所述视频数据和所述音频数据。
63.根据权利要求41到62中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接实现帧缓冲监视器,所述帧缓冲监视器监视帧图像缓冲器,以确定其状态,并且根据所述帧图像缓冲器的所确定的状态,确定是否将更多的所述经编码的视频数据解码。
64.根据权利要求41到63中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由所述应用程序本地地呈现。
65.根据权利要求41到64中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像转换成内容传输格式,所述内容传输格式能够由解释所述脚本的脚本解释器传递给所述应用程序。
66.根据权利要求41到64中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像转换成base64内容传输格式。
67.根据权利要求41到66中任一项所述的方法,其中,解释所述脚本使得所述应用程将至少一个所述帧图像本地地转换成相应的图像对象,所述图像对象能够由应用程序本地地呈现。
68.根据权利要求41到67中任一项所述的方法,其中,所述应用程序包括网络浏览器。
69.根据权利要求1到68中任一项所述的方法,其中,所述脚本嵌入HTML文档中。
70.根据权利要求43所述的方法,其中,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,通过重放所述经解码的音频数据,来呈现所述音频数据,并且通过选择所述多个帧图像的一个子集和显示所述多个帧图像的所选择的一个子集,来呈现所述视频数据。
71.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
72.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下的一个或多个中的至少一个特征:将所述经编码的数据解码以及显示所述一个或多个帧图像。
73.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,确定由所述用户计算平台接收所述经编码的视频数据的数据速率,并且根据所述确定,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
74.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本确定由所述用户计算平台接收所述经编码的视频数据的数据速率,并且根据所述确定,修改以下一个或多个中的至少一个特征:将所述经编码的视频数据解码以及显示所述一个或多个帧图像。
75.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释;并且
其中,发送所述脚本使得所述脚本由在所述用户计算平台上操作的所述应用程序解释,以使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
76.根据权利要求75所述的系统,包括根据权利要求2到40所述的任一个特征或特征的组合。
77.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括处理器,该处理器被配置为提供:
解码部件,用于将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;以及
其中,所述处理器被配置为通过在所述用户计算平台上执行所述应用程序,来提供所述解码部件,所述应用程序解释使得所解释的脚本直接解码所述视频数据的跨平台脚本。
78.根据权利要求77所述的系统,包括根据权利要求42到74所述的任一个特征或特征的组合。
79.一种由计算机系统执行的方法,用于呈现通过由用户计算平台接收的视频数据以及相关的音频数据体现的视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
通过显示构成所述视频数据的帧图像,来呈现所述视频数据;
重放所述相关的音频数据;
确定与所述相关的音频数据的重放相关的音频重放时间基准;并且
使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述相关的音频数据的重放。
80.根据权利要求79所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
81.一种用于呈现通过由用户计算平台接收的视频数据以及相关的音频数据体现的视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
通过显示构成所述视频数据的帧图像,来呈现所述视频数据;
重放所述相关的音频数据;
确定与所述相关的音频数据的重放相关的音频重放时间基准;并且
使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述相关的音频数据的重放。
82.根据权利要求81所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
83.一种在用户计算平台上执行的方法,用于呈现通过由用户计算平台接收的视频数据以及相关的音频数据体现的视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本,以:
通过显示构成所述视频数据的帧图像,来呈现所述视频数据;
重放所述相关的音频数据;
确定与所述相关的音频数据的重放相关的音频重放时间基准;并且
使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述相关的音频数据的重放。
84.根据权利要求83所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
85.一种用于呈现通过由用户计算平台接收的视频数据以及相关的音频数据体现的视频内容的系统,所述系统包括处理器,所述处理器被配置为在所述用户计算平台上执行应用程序,所述应用程序解释跨平台脚本,以:
通过显示构成所述视频数据的帧图像,来呈现所述视频数据;
重放所述相关的音频数据;
确定与所述相关的音频数据的重放相关的音频重放时间基准;并且
使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述相关的音频数据的重放。
86.根据权利要求85所述的系统,包括根据权利要求41到74所述的任一个特征或特征的组合。
87.一种由计算机系统执行的方法,用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以通过:
迭代调度和执行包括将所述经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且
迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述经解码的视频数据的第二模拟线程,来模拟多线程执行环境。
88.根据权利要求87所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
89.一种用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以通过:
迭代调度和执行包括将所述经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且
迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述经解码的视频数据的第二模拟线程,来模拟多线程执行环境。
90.根据权利要求89所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
91.一种在用户计算平台上执行的方法,用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本;
其中,解释所述脚本,通过:
迭代调度和执行包括将所述经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且
迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述经解码的视频数据的第二模拟线程,来模拟多线程执行环境。
92.根据权利要求91所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
93.一种用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容的系统,所述系统包括处理器,所述处理器被配置为在所述用户计算平台上执行应用程序,所述应用程序解释跨平台脚本,以通过:
迭代调度和执行包括将所述经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且
迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述经解码的视频数据的第二模拟线程,来提供模拟的多线程执行环境。
94.根据权利要求93所述的系统,包括根据权利要求41到74所述的任一个特征或特征的组合。
95.一种由计算机系统执行的方法,用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
将所述经编码的视频数据解码成包括多个帧图像的经解码的视频数据;以及
通过显示所述帧图像来呈现所述经解码的视频数据;
其中,通过显示所述帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
96.根据权利要求95所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
97.一种用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
将所述经编码的视频数据解码成包括多个帧图像的经解码的视频数据;以及
通过显示所述帧图像来呈现所述经解码的视频数据;
其中,通过显示所述帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
98.根据权利要求97所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
99.一种在用户计算平台上执行的方法,用于呈现通过由所述用户计算平台接收的经编码的视频数据体现的视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:
将所述经编码的视频数据解码成包括多个帧图像的经解码的视频数据;以及
通过显示所述帧图像来呈现所述经解码的视频数据;并且
其中,通过显示所述帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
100.根据权利要求99所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
101.一种用于呈现通过由用户计算平台接收的经编码的视频数据体现的视频内容的系统,所述系统包括处理器,所述处理器被配置为在所述用户计算平台上执行应用程序,所述应用程序解释跨平台脚本,以:
将所述经编码的视频数据解码成包括多个帧图像的经解码的视频数据;以及
通过显示所述帧图像来呈现所述经解码的视频数据;并且
其中,通过显示所述帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
102.根据权利要求101所述的系统,包括根据权利要求1到74所述的任一个特征或特征的组合。
103.一种由计算机系统执行的方法,用于在用户计算平台上呈现由经编码的视频数据体现的视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
编码一系列帧图像,以提供经编码的视频数据,其中,编码这系列帧图像,包括将所述帧图像编码成内容传输格式,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序;并且
将所述经编码的视频数据发送给所述用户计算平台;
其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
将所发送的编码视频数据解码成包括所述内容传输编码的帧图像的经解码的视频数据;并且
通过显示所述帧图像来呈现所述经解码的视频数据。
104.根据权利要求103所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
105.一种用于在用户计算平台上呈现由经编码的视频数据体现的视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,被配置为:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释;
编码一系列帧图像,以提供经编码的视频数据,其中,编码这系列帧图像,包括将所述帧图像编码成内容传输格式,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序;并且
将所述经编码的视频数据发送给所述用户计算平台;
其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
将所发送的编码视频数据解码成包括所述内容传输编码的帧图像的经解码的视频数据;并且
通过显示所述帧图像来呈现所述经解码的视频数据。
106.根据权利要求105所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
107.一种由计算机系统执行的方法,用于在用户计算平台上呈现由经编码的视频数据体现的视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
编码一系列帧图像,以提供所述经编码的视频数据,其中,编码所述帧图像,包括:
对于以第一文件格式设置的至少第一个所述帧图像:
分析所述第一个帧图像的内容;
根据所述第一个帧图像的内容的分析,在多个二次图像文件格式之中选择一个;并且
如果所述第一文件格式与所述二次图像文件格式中所选择的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的一个格式;并且
对于以所述第二文件格式设置的至少第二个所述帧图像:
分析所述第二个帧图像的内容;
根据所述第二个帧图像的内容的分析,在所述多个二次图像文件格式之中选择不同的一个;并且
如果所述第二文件格式与所述二次图像文件格式中所选择的不同的一个格式不同,那么将所述第二个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的不同的一个格式;
其中,所述多个二次图像文件格式中的每个能够由所述应用程序本地地呈现;以及
将所述视频数据发送给所述用户计算平台;
其中,所述脚本进一步被配置为使得脚本由所述应用程序解释,以:
将所发送的编码视频数据解码成包括所述帧图像的经解码的视频数据;并且
通过显示所述帧图像来呈现所述经解码的视频数据。
108.根据权利要求107所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
109.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求107到108所述的任一个特征或特征的组合。
110.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
编码一系列帧图像,以提供经编码的视频数据,其中,编码所述帧图像,包括将所述帧图像转换成内容传输格式;
将所述经编码的视频数据发送给所述用户计算平台,其中,发送所述经编码的数据,使得在所述用户计算平台上进行操作的应用程序的脚本解释器解释所述脚本,以:将所发送的编码视频数据解码成具有所述内容传输格式的经解码的帧图像数据;并且将具有所述内容传输格式的经解码的帧图像数据传递给所述应用程序,以便呈现所述经解码的帧图像数据。
111.根据权利要求110所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
112.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求110到111所述的任一个特征或特征的组合。
113.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:编码一系列帧图像,以提供经编码的视频数据,其中,编码所述帧图像,包括将所述帧图像转换成内容传输格式,据此,当脚本解释器解释所述脚本,以将所述经编码的视频数据解码成包括所述内容传输编码的帧图像的经解码的视频数据并且通过显示所述帧图像来呈现所述经解码的视频数据时,可将内容传输编码的帧图像从在用户计算平台上进行操作的应用程序的脚本解释器中传递给应用程序。
114.根据权利要求113所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
115.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求113到114所述的任一个特征或特征的组合。
116.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
查询所述用户计算平台的一个或多个特征;以及
发送请求,以接收从体现所述视频内容的多种经编码的视频数据中选择的体现所述视频内容的第一种经编码的视频数据,根据所述用户计算平台的一个或多个查询的特征,来进行所述选择。
117.根据权利要求116所述的方法,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
在所述用户计算平台上接收所述第一种经编码的视频数据时,将所述第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;以及
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据。
118.根据权利要求116所述的方法,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
将来自所述多种经解码的视频数据中并且在所述用户计算平台上接收的第二种经编码的视频数据解码成包括一个或多个第二帧图像的第二经解码的视频数据;以及
通过显示所述一个或多个第二帧图像,来呈现所述第二经解码的视频数据;
其中,在发送接收所述第一种经编码的视频数据的请求之前,解码所述第二种经编码的视频数据并且呈现所述第二经解码的视频数据。
119.根据权利要求118所述的方法,其中,所述第二种经编码的视频数据与所述第一种经编码的视频数据不同。
120.根据权利要求117所述的方法,其中,所述多种经编码的视频数据包括至少两种经编码的视频数据,至少两种所述经编码的视频数据中的每个包括以相应的图像格式中表示的相应的一系列经编码的帧图像,并且其中,所述至少两种经编码的视频数据的相应的图像格式彼此不同。
121.根据权利要求116到120中任一项所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
122.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
查询所述用户计算平台的一个或多个特征;以及
发送请求,以接收从体现所述视频内容的多种经编码的视频数据中选择的体现所述视频内容的第一种经编码的视频数据,根据所述用户计算平台的一个或多个查询的特征,来进行所述选择。
123.根据权利要求122所述的系统,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
在所述用户计算平台上接收第一种经编码的视频数据时,将所述第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;以及
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据。
124.根据权利要求122所述的系统,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以:
将来自所述多种经解码的视频数据中并且在所述用户计算平台上接收的第二种经编码的视频数据解码成包括一个或多个第二帧图像的第二经解码的视频数据;以及
通过显示所述一个或多个第二帧图像,来呈现所述第二经解码的视频数据;
其中,在发送接收所述第一种经编码的视频数据的请求之前,解码所述第二种经编码的视频数据并且呈现所述第二经解码的视频数据。
125.根据权利要求124所述的系统,其中,所述第二种经编码的视频数据与所述第一种经编码的视频数据不同。
126.根据权利要求123所述的系统,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以执行以下中的至少一个:
配置解码所述第一种经编码的视频数据的解码特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述解码特征的配置;以及
配置显示所述一个或多个第一帧图像的显示特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述显示特征的配置。
127.根据权利要求122到126中任一项所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
128.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在多个用户计算平台类型的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以:
将体现所述视频内容并且在所述用户计算平台上接收的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;以及
通过显示所述一个或多个帧图像,来呈现所述经解码的视频数据;
查询所述用户计算平台的一个或多个特征;以及
执行以下中的至少一个:
配置解码所述经编码的视频数据的解码特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述解码特征的配置;以及
配置显示所述一个或多个帧图像的显示特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述显示特征的配置。
129.根据权利要求128所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
130.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求128到129所述的任一个特征或特征的组合。
131.一种在用户计算平台上执行的方法,用于在所述用户计算平台上呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:
查询所述用户计算平台的一个或多个特征;以及
发送请求,以接收从体现所述视频内容的多种经编码的视频数据中选择的体现所述视频内容的第一种经编码的视频数据,根据所述用户计算平台的一个或多个查询的特征,来进行所述选择。
132.根据权利要求131所述的方法,其中,解释所述脚本:
在所述用户计算平台上接收所述第一种经编码的视频数据时,将所述第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;以及
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据。
133.根据权利要求131到132中任一项所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
134.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利131到133所述的任一个特征或特征的组合。
135.一种在用户计算平台上执行的方法,用于在用户计算平台上呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上进行操作的应用程序解释;
使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:
将体现所述视频内容并且在用户计算平台上接收的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;
通过显示所述一个或多个帧图像,来呈现所述经解码的视频数据;
查询所述用户计算平台的一个或多个特征;以及
执行以下中的至少一个:
配置解码所述经编码的视频数据的解码特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述解码特征的配置;以及
配置显示所述一个或多个帧图像的显示特征,根据所述用户计算平台的一个或多个查询的特征,来进行所述显示特征的配置。
136.根据权利要求135所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
137.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利要求135到136所述的任一个特征或特征的组合。
138.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以;
将体现所述视频内容并且在所述用户计算平台上接收的第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据;
确定由所述用户计算平台接收所述第一种经编码的视频数据的速率并且执行以下中的至少一个:
根据所确定的速率,发送请求,以接收体现所述视频内容的第二种经编码的视频数据;
根据所确定的速率,修改解码所述第一种经编码的视频数据的特征;以及
根据所确定的速率,修改显示所述一个或多个第一帧图像的特征。
139.根据权利要求138所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
140.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以;
将体现所述视频内容并且在所述用户计算平台上接收的第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据;
确定由所述用户计算平台接收所述第一种经编码的视频数据的速率并且执行以下中的至少一个:
根据所确定的速率,发送请求,以接收体现所述视频内容的第二种经编码的视频数据;
根据所确定的速率,修改解码所述第一种经编码的视频数据的特征;以及
根据所确定的速率,修改显示所述一个或多个第一帧图像的特征。
141.根据权利要求140所述的系统,包括根据权利要求1到40所述的任一个特征或特征的组合。
142.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上进行操作的应用程序解释;
使用所述应用程序,来解释所述脚本,其中,解释所述脚本:
将体现所述视频内容并且在所述用户计算平台上接收的第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据;
确定由所述用户计算平台接收所述第一种经编码的视频数据的速率并且执行以下中的至少一个:
根据所确定的速率,发送请求,以接收体现所述视频内容的第二种经编码的视频数据;
根据所确定的速率,修改解码所述第一种经编码的视频数据的特征;以及
根据所确定的速率,修改显示所述一个或多个第一帧图像的特征。
143.根据权利要求142所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
144.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括处理器,所述处理器被配置为在所述用户计算平台上执行应用程序,所述应用程序解释跨平台脚本,以:
将体现所述视频内容并且在所述用户计算平台上接收的第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;
通过显示所述一个或多个第一帧图像,来呈现第一经解码的视频数据;
确定由所述用户计算平台接收所述第一种经编码的视频数据的速率并且执行以下中的至少一个:
根据所确定的速率,发送请求,以接收体现所述视频内容的第二种经编码的视频数据;
根据所确定的速率,修改解码所述第一种经编码的视频数据的特征;以及
根据所确定的速率,修改显示所述一个或多个第一帧图像的特征。
145.根据权利要求144所述的系统,包括根据权利要求41到74所述的任一个特征或特征的组合。
146.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,并且进一步被配置为使得所述脚本由所述应用程序解释,以;
将体现所述视频内容并且在所述用户计算平台上接收的第一种经编码的视频数据解码成包括一个或多个第一帧图像的第一经解码的视频数据;
通过显示所述一个或多个第一帧图像,来呈现所述第一经解码的视频数据;
确定由所述用户计算平台接收所述第一种经编码的视频数据的速率;并且
根据所确定的速率,发送请求,以接收体现所述视频内容的第二种经编码的视频数据;
147.根据权利要求146所述的方法,其中,所述脚本进一步被配置为使得所述脚本由所述应用程序解释,以在确定所述速率并且发送所述请求以接收所述第二种经编码的视频数据之后:
将所述第二种经编码的视频数据解码成包括一个或多个第二帧图像的第二经解码的视频数据;
通过显示所述一个或多个第二帧图像,来呈现所述第二经解码的视频数据。
148.根据权利要求147所述的方法,其中,所述第一种经编码的视频数据与所述第二种经编码的视频数据不同。
149.根据权利要求146到148中任一项所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
150.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利146到149所述的任一个特征或特征的组合。
151.一种计算机系统,包括使用数据通信网络有效地连接的一个或多个计算机,所述数据通信网络适合于执行根据权利要求1到40、79、80、87、88、95、96、103、104、107、108、110、111、113、114、116到121、128以及129所述的任一种方法。
152.根据权利要求75、76、81、82、89、90、97、98、105、106、109、112、115、122到127以及130中任一项所述的系统,其中,所述系统包括使用数据通信网络有效地连接的一个或多个计算机。
153.一种计算机可读介质,包括计算机可执行代码,所述计算机可执行代码在由包括使用数据通信网络有效地连接的一个计算机或多个计算机的计算机系统执行时,使得所述计算机系统执行根据权利要求1到40、79、80、87、88、95、96、103、104、107、108、110、111、113、114、116到121、128以及129所述的任一种方法。

Claims (117)

1.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本,使所述脚本由在所述用户计算平台上操作的所述应用程序解释,以使所解释的脚本直接将所述用户计算平台可访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
2.根据权利要求1所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以在所述用户计算平台上本地地显示所述一个或多个帧图像。
3.根据权利要求1所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成经解码的音频数据。
4.根据权利要求3所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以:通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据;并且通过在所述用户计算平台上重放所述经解码的音频数据,来呈现所述经解码的音频数据。
5.根据权利要求3所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以:通过在所述用户计算平台上显示所述一个或多个帧图像,来本地地呈现所述经解码的视频数据;并且通过重放所述经解码的音频数据,来本地地呈现所述经解码的音频数据。
6.根据权利要求4或5中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得脚本由所述应用程序解释,以使得所解释的脚本直接同步所述帧图像的显示与所述经解码的音频数据。
7.根据权利要求4或5中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,其中,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得所述脚本由所述应用程序解释,以确定与经解码的音频数据的重放相关联的音频重放时间基准,并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述经解码的音频数据的重放。
8.根据权利要求7所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括以下中的至少一个:根据所述视频数据的呈现比所述音频重放时间基准晚第一阈值时间量这一确定,通过跳过一个或多个帧图像的显示,脱离顺序地提前显示帧图像;并且根据所述视频数据的呈现比所述音频重放时间基准提早第二阈值时间量这一确定,使得显示一个或多个帧图像的时间段比由所述视频数据的帧速率指示的时间段更长。
9.根据权利要求7所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:使用所述音频重放时间基准来确定当前帧索引;并且如果准备好显示与所述当前帧索引相关的帧图像,那么显示与所述当前帧索引相关的帧图像。
10.根据权利要求9所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定与所述当前帧索引相关的帧图像在帧图像队列中位于一个或多个其他帧图像之后,并且如果是这样的话,那么跳过显示所述一个或多个其他帧图像。
11.根据权利要求9所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定未准备好显示与所述当前帧索引相关的所述帧图像,并且根据这种确定,开始丢帧动作,所述丢帧动作包括以下中的一个或多个:记录未准备好呈现与所述当前帧索引相关的帧图像的指示;使得所述经解码的音频数据的重放暂停或放慢;使得所述经编码的视频数据的解码速率增大;使得切换成具有更低的帧速率的视频数据;通过将所述图像帧的一个子集解码,使得切换成有效下采样视频数据。
12.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代调度和执行包括将所述经编码的视频数据直接解码成所述帧图像的第一模拟线程;并且迭代调度和执行包括通过显示所述帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
13.根据权利要求12所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代调度和执行包括将所述经编码的音频数据直接解码成所述经解码的音频数据的第三模拟线程;并且迭代调度和执行包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的第四模拟线程,来模拟多线程执行环境。
14.根据权利要求4所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代地调度和执行一种方法,来模拟多线程执行环境,所述方法在每个迭代上对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,选择和执行以下中的一个:
第一模拟线程,其包括将所述经编码的视频数据直接解码成所述帧图像;
第二模拟线程,其包括通过显示所述帧图像来呈现所述视频数据;
第三模拟线程,其包括将所述经编码的音频数据直接解码成经解码的音频数据;
第四模拟线程,其包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口。
15.根据权利要求12所述的方法,其中,执行所述第一模拟线程,包括:将第一模拟线程分成多个子部分;在子部分对的性能之间,对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,暂时中断第一模拟线程,以选择和执行以下中的一个的迭代:第二模拟线程;以及包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的另一个模拟线程。
16.根据权利要求4或5中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据,包括将至少一对帧图像α混合在一起。
17.根据权利要求4或5中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据,包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括α混合所述第一个帧图像和所述第二个帧图像。
18.根据权利要求17所述的方法,其中,在显示所述第一个帧图像与显示所述第二个帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括使用α混合系数α,在所述先前显示的图像上α混合所述第二个帧图像,由
α=[β+1-mod(f#,β)]-1
提供所述α混合系数α,
其中:
β是等于所述一个或多个时间+1的数量的下采样因数;
f#是参照所述一个或多个时间中的当前一个的数量的指数;以及
mod(x,y)是返回由x除以y的整数余数的模数运算符。
19.根据权利要求1到18中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,使得所解释的脚本直接实现视频数据队列监视器的至少一部分,所述部分直接监视视频数据队列,以确定其状态,并且根据所述视频数据队列的所确定的状态,确定是否提取更多经编码的视频数据。
20.根据权利要求19所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以实现所述视频队列监视器的第二部分,所述第二部分使用AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
21.根据权利要求19所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以实现所述视频队列监视器的第二部分,所述第二部分交替地使用多个AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
22.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以直接多路分用所述视频数据和所述音频数据。
23.根据权利要求1到22中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以使得所解释的脚本直接实现帧缓冲监视器,所述帧缓冲监视器监视帧图像缓冲器,以确定其状态,并且根据帧图像缓冲器的所确定的状态,确定是否将更多所述经编码的视频数据解码。
24.根据权利要求1到23中任一项所述的方法,其中,发送脚本,使得所述脚本由应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由所述应用程序本地地呈现。
25.根据权利要求1到24中任一项所述的方法,包括将所述经编码的视频数据发送给所述用户计算平台。
26.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由在所述用户计算机平台上操作的应用程序本地地呈现。
27.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:
对于以第一文件格式设置的至少第一个所述帧图像:分析所述第一个帧图像的内容;根据所述第一个帧图像的内容的分析,在多个二次图像文件格式之中选择一个;并且如果所述第一文件格式与所述二次图像文件格式中所选择的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的一个格式;并且
对于以第二文件格式设置的至少第二个所述帧图像:分析所述第二个帧图像的内容;根据所述第二个帧图像的内容的分析,在多个二次图像文件格式之中选择不同的一个;并且如果所述第二文件格式与所述二次图像文件格式中所选择的不同的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的不同的一个格式;
其中,所述多个二次图像文件格式中的每个能够由所述应用程序本地地呈现。
28.根据权利要求1到27中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像转换成内容传输格式,所述内容传输格式能够由解释脚本的脚本解释器传递给所述应用程序。
29.根据权利要求1到27中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以使得所解释的脚本直接将至少一个所述帧图像转换成base64内容传输格式。
30.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:在内容传输格式中编码至少一个所述帧图像,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序。
31.根据权利要求25所述的方法,包括在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:对于多个帧图像中的每个:将所述帧图像编码成内容传输格式,据此,所述内容传输编码的帧图像可由解释所述脚本的脚本解释器传递给所述应用程序;并且通过与所述帧图像无关的填充数据,将所述内容传输编码的帧图像填充成特定的尺寸。
32.根据权利要求25所述的方法,包括:在将所述经编码的视频数据发送给所述用户计算平台之前,将所述视频内容编码成经编码的视频数据,并且其中,编码所述视频内容包括:以base64内容传输格式编码至少一个帧图像。
33.根据权利要求1到32中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以将至少一个所述帧图像本地地转换成相应的图像对象,所述图像对象能够由所述应用程序本地地呈现。
34.根据权利要求1到33中任一项所述的方法,其中,所述应用程序包括网络浏览器。
35.根据权利要求1到34中任一项所述的方法,其中,所述脚本嵌入HTML文档中。
36.根据权利要求3所述的方法,其中,所述一个或多个帧图像包括多个帧图像,并且其中,发送所述脚本使得所述脚本由所述应用程序解释,以:通过重放所述经解码的音频数据,来呈现所述音频数据;并且通过选择所述多个帧图像中的一个子集和显示所述多个帧图像的所选择的一个子集,来呈现所述视频数据。
37.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
38.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下一个或多个项中的至少一个特征:将所述经编码的数据解码以及显示所述一个或多个帧图像。
39.根据权利要求4或5中的任一项所述的方法,其中,发送所述脚本使得所述脚本由所述应用程序解释,以确定将所述经编码的视频数据发送给用户计算平台的数据速率,并且根据所述确定,改变包括发送给所述用户计算平台的所述经编码的视频数据的文件。
40.根据权利要求4或5中任一项所述的方法,其中,发送所述脚本,使得所述脚本由所述应用程序解释,以确定将所述经编码的视频数据发送给所述用户计算平台的数据速率,并且根据所述确定,修改以下一个或多个中的至少一个特征:将所述经编码的数据解码以及显示所述帧图像。
41.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在计算机平台上使用所述应用程序,来解释脚本;
其中,解释所述脚本,使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
42.根据权利要求41所述的方法,其中,解释所述脚本使得所述应用程序在所述用户计算平台上本地地显示所述一个或多个帧图像。
43.根据权利要求41所述的方法,其中,解释所述脚本使得所解释的脚本直接将可由用户计算平台访问的经编码的视频数据解码成经解码的音频数据。
44.根据权利要求43所述的方法,其中,解释所述脚本,通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据,并且通过在所述用户计算平台上重放所述经解码的音频数据,来呈现所述经解码的音频数据。
45.根据权利要求43所述的方法,其中,解释所述脚本使得所述应用程序:通过在所述用户计算平台上显示所述一个或多个帧图像,来本地地呈现所述经解码的视频数据;并且通过重放所述经解码的音频数据,来本地地呈现所述经解码的音频数据。
46.根据权利要求44或45中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,使得所解释的脚本直接同步所述帧图像的显示与所述经解码的音频数据的重放。
47.根据权利要求44或45中任一项所述的方法,其中,所述视频数据和所述音频数据作为部分视频内容项目彼此相关联,其中,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,确定与所述经解码的音频数据的重放相关联的音频重放时间基准,并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述经解码的音频数据的重放。
48.根据权利要求47所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括以下中的至少一个:根据所述视频数据的呈现比所述音频重放时间基准晚第一阈值时间量这一确定,通过跳过一个或多个帧图像的显示,脱离次序地提前显示帧图像;并且根据所述视频数据的呈现比所述音频重放时间基准早第二阈值时间量这一确定,使得显示一个或多个帧图像的时间段比由所述视频数据的帧速率指示的时间段更长。
49.根据权利要求47所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:使用所述音频重放时间基准来确定当前帧索引;并且如果准备好显示与所述当前帧索引相关的帧图像,那么显示与所述当前帧索引相关的帧图像。
50.根据权利要求49所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括:确定与所述当前帧索引相关的帧图像在帧图像队列中位于一个或多个其他帧图像之后,并且如果是这样的话,那么跳过显示所述一个或多个其他帧图像。
51.根据权利要求49所述的方法,其中,使所述帧图像的显示与所述经解码的音频数据的重放同步,包括确定未准备好显示与所述当前帧索引相关的帧图像,并且根据这种确定,开始丢帧动作,所述丢帧动作包括以下中的一个或多个:记录未准备好呈现与所述当前帧索引相关的帧图像的指示;使得所述经解码的音频数据的重放暂停或放慢;使得所述经编码的视频数据的解码速率增大;使得切换成具有更低的帧速率的视频数据;通过将图像帧的一个子集解码,使得切换成有效下采样视频数据。
52.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,通过:迭代调度和执行包括将所述经编码的视频数据直接解码成帧图像的第一模拟线程;并且迭代调度和执行包括通过显示所述帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
53.根据权利要求52所述的方法,其中,解释所述脚本,通过:迭代调度和执行包括将所述经编码的音频数据直接解码成经解码的音频数据的第三模拟线程;并且迭代调度和执行包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的第四模拟线程,来模拟多线程执行环境。
54.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,通过:迭代调度和执行一种方法,来模拟多线程执行环境,所述方法在每个迭代上对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,选择和执行以下中的一个:
第一模拟线程,其包括将所述经编码的视频数据直接解码成帧图像;
第二模拟线程,其包括通过显示所述帧图像来呈现所述视频数据;
第三模拟线程,其包括将所述经编码的音频数据直接解码成经解码的音频数据;
第四模拟线程,其包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口。
55.根据权利要求52所述的方法,其中,执行所述第一模拟线程,包括:将所述第一模拟线程分成多个子部分;在所述子部分对的性能之间,对一个或多个相应的条件进行一个或多个逻辑查询,并且根据所述一个或多个相应的条件,暂时中断所述第一模拟线程,以选择和执行以下中的一个的迭代:第二模拟线程;以及包括实现将所述经解码的音频数据提供给音频呈现器的音频呈现器接口的另一个模拟线程。
56.根据权利要求44或45中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据包括将至少一对帧图像α混合在一起。
57.根据权利要求44或45中任一项所述的方法,其中,通过显示所述一个或多个帧图像来呈现所述视频数据包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像包括α混合第一个帧图像和第二个帧图像。
58.根据权利要求57所述的方法,其中,在显示所述第一个帧图像与显示所述第二个帧图像之间的一个或多个时间的每个时间,显示所述α混合的图像包括使用α混合系数α,在先前显示的图像上α混合第二个所述帧图像,由
α=[β+1-mod(f#,β)]-1
提供所述α混合系数α,
其中:
β是等于所述一个或多个时间+1的数量的下采样因数;
f#是参照所述一个或多个时间中的当前一个的数量的指数;以及
mod(x,y)是返回由x除以y的整数余数的模数运算符。
59.根据权利要求41到58中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接实现视频数据队列监视器的至少一部分,所述至少一部分直接监视视频数据队列,以确定其状态,并且根据所述视频数据队列的所确定的状态,确定是否提取更多经编码的视频数据。
60.根据权利要求59所述的方法,其中,解释所述脚本实现所述视频队列监视器的第二部分,所述第二部分使用AJAX XMLHttpRequest对象来提取更多经编码的视频数据。
61.根据权利要求59所述的方法,其中,解释所述脚本实现所述视频队列监视器的第二部分,所述第二部分交替地使用多个AJAXXMLHttpRequest对象来提取更多经编码的视频数据。
62.根据权利要求44到45中任一项所述的方法,其中,解释所述脚本使得所述应用程序本地地多路分用所述视频数据和所述音频数据。
63.根据权利要求41到62中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接实现帧缓冲监视器,所述帧缓冲监视器监视帧图像缓冲器,以确定其状态,并且根据所述帧图像缓冲器的所确定的状态,确定是否将更多的所述经编码的视频数据解码。
64.根据权利要求41到63中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像的图像文件格式从第一图像文件格式转换成第二图像文件格式,所述第二图像文件格式能够由所述应用程序本地地呈现。
65.根据权利要求41到64中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像转换成内容传输格式,所述内容传输格式能够由解释所述脚本的脚本解释器传递给所述应用程序。
66.根据权利要求41到64中任一项所述的方法,其中,解释所述脚本使得所解释的脚本直接将至少一个所述帧图像转换成base64内容传输格式。
67.根据权利要求41到66中任一项所述的方法,其中,解释所述脚本使得所述应用程将至少一个所述帧图像本地地转换成相应的图像对象,所述图像对象能够由应用程序本地地呈现。
68.根据权利要求41到67中任一项所述的方法,其中,所述应用程序包括网络浏览器。
69.根据权利要求1到68中任一项所述的方法,其中,所述脚本嵌入HTML文档中。
70.根据权利要求43所述的方法,其中,所述一个或多个帧图像包括多个帧图像,并且其中,解释所述脚本,通过重放所述经解码的音频数据,来呈现所述音频数据,并且通过选择所述多个帧图像的一个子集和显示所述多个帧图像的所选择的一个子集,来呈现所述视频数据。
71.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
72.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本查询所述用户计算平台的一个或多个特征,并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下的一个或多个中的至少一个特征:将所述经编码的数据解码以及显示所述一个或多个帧图像。
73.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本,确定由所述用户计算平台接收所述经编码的视频数据的数据速率,并且根据所述确定,改变包括可由所述用户计算平台访问的经编码的视频数据的文件。
74.根据权利要求44或45中任一项所述的方法,其中,解释所述脚本确定由所述用户计算平台接收所述经编码的视频数据的数据速率,并且根据所述确定,修改以下一个或多个中的至少一个特征:将所述经编码的视频数据解码以及显示所述一个或多个帧图像。
75.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括:
服务器计算装置,用于将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释;并且
其中,发送所述脚本使得所述脚本由在所述用户计算平台上操作的所述应用程序解释,以使得所解释的脚本直接将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据。
76.根据权利要求75所述的系统,包括根据权利要求2到40所述的任一个特征或特征的组合。
77.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括处理器,该处理器被配置为提供:
解码部件,用于将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;以及
其中,所述处理器被配置为通过在所述用户计算平台上执行所述应用程序,来提供所述解码部件,所述应用程序解释使得所解释的脚本直接解码所述视频数据的跨平台脚本。
78.根据权利要求77所述的系统,包括根据权利要求42到74所述的任一个特征或特征的组合。
79.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本使得所述脚本由在所述用户计算平台上操作的所述应用程序解释,以:重放可由所述用户计算平台访问的音频数据;通过显示构成所述视频数据的帧图像,来呈现可由所述用户计算平台访问的视频数据;确定与所述音频数据的重放相关的音频重放时间基准;并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述音频数据的重放。
80.根据权利要求79所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
81.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求79和80所述的任一个特征或特征的组合。
82.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:重放可由所述用户计算平台访问的音频数据;通过显示构成视频数据的帧图像,来呈现可由所述用户计算平台访问的所述视频数据;确定与所述音频数据的重放相关的音频重放时间基准;并且使得所解释的脚本根据所述音频重放时间基准直接同步所述帧图像的显示与所述音频数据的重放。
83.根据权利要求82所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
84.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利82和83所述的任一个特征或特征的组合。
85.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本使得所述脚本由所述应用程序解释,以通过:迭代调度和执行包括将可由所述用户计算平台访问的经编码的视频数据直接解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
86.根据权利要求86所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
87.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求85和86所述的任一个特征或特征的组合。
88.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:通过:迭代调度和执行包括将可由所述用户计算平台访问的经编码的视频数据直接解码成包括一个或多个帧图像的经解码的视频数据的第一模拟线程;并且迭代调度和执行包括通过显示所述一个或多个帧图像来呈现所述视频数据的第二模拟线程,来模拟多线程执行环境。
89.根据权利要求88所述的方法,包括根据权利要求41和74所述的任一个特征或特征的组合。
90.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利88和89所述的任一个特征或特征的组合。
91.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本,使得所述脚本由所述应用程序解释,以通过显示构成视频数据的帧图像,来呈现可由所述用户计算平台访问的视频数据;以及
其中,通过显示所述帧图像来呈现所述视频数据,包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括α混合所述第一个帧图像和所述第二个帧图像。
92.根据权利要求91所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
93.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求91和92所述的任一个特征或特征的组合。
94.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本;
其中,解释所述脚本,通过显示构成所述视频数据的帧图像,来呈现可由所述用户计算平台访问的视频数据;以及
其中,通过显示帧图像来呈现所述视频数据,包括在显示第一个所述帧图像与显示第二个所述帧图像之间的一个或多个时间的每个时间,显示α混合的图像,包括α混合所述第一个帧图像和所述第二个帧图像。
95.根据权利要求94所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
96.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利94和95所述的任一个特征或特征的组合。
97.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
编码一系列帧图像,以提供经编码的视频数据,编码这系列帧图像,包括将所述帧图像编码成内容传输格式,据此,所述内容传输编码的帧图像可由所解释的脚本传递给所述应用程序;
将视频数据发送给所述用户计算平台;以及
其中,发送所述脚本,使得所述脚本由所述应用程序解释,以将所发送的编码视频数据解码成包括这系列帧图像的经解码的视频数据,并且显示所述帧图像。
98.根据权利要求97所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
99.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求97和98所述的任一个特征或特征的组合。
100.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
编码一系列帧图像,以提供经编码的视频数据,其中,编码这系列帧图像,包括:
对于以第一文件格式设置的至少第一个所述帧图像:分析所述第一个帧图像的内容;根据所述第一个帧图像的内容的分析,在多个二次图像文件格式之中选择一个;并且如果所述第一文件格式与所述二次图像文件格式中所选择的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的一个格式;并且
对于以第二文件格式设置的至少第二个帧图像:分析所述第二个帧图像的内容;根据所述第二个帧图像的内容的分析,在所述多个二次图像文件格式之中选择不同的一个;并且如果所述第二文件格式与所述二次图像文件格式中所选择的不同的一个格式不同,那么将所述第一个帧图像的图像文件格式转换成所述二次图像文件格式中所选择的不同的一个格式;
其中,所述多个二次图像文件格式中的每个能够由所述应用程序本地地呈现;
将视频数据发送给所述用户计算平台;以及
其中,发送所述脚本使得所述脚本由所述应用程序解释,以将所发送的编码视频数据解码成包括这系列帧图像的经解码的视频数据,并且显示所述帧图像。
101.根据权利要求100所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
102.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求100和101所述的任一个特征或特征的组合。
103.一种由计算机系统执行的方法,用于在所述用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在用户计算平台上进行操作;
其中,发送所述脚本使得所述脚本由所述应用程序解释,以:将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;通过在所述用户计算平台上显示一个或多个帧图像,来呈现所述经解码的视频数据;查询所述用户计算平台的一个或多个特征;并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下中的至少一个:包括可由所述用户计算平台访问的经编码的视频数据的文件;将所述经编码的数据解码的特征;以及显示所述一个或多个帧图像的特征。
104.根据权利要求103所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
105.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求104和105所述的任一个特征或特征的组合。
106.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在是用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用所述应用程序,来解释所述脚本;
其中,解释所述脚本:将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据;查询所述用户计算平台的一个或多个特征;并且根据所述用户计算平台的所述一个或多个查询的特征,修改以下中的至少一个:包括可由所述用户计算平台访问的所述经编码的视频数据的文件;将所述经编码的数据解码的特征;以及显示所述一个或多个帧图像的特征。
107.根据权利要求106所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
108.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利106和107所述的任一个特征或特征的组合。
109.一种由计算机系统执行的方法,用于在用户计算平台上呈现视频内容,所述用户计算平台是多个不同用户计算平台类型中的一种,所述方法包括:
将脚本发送给所述用户计算平台,所述脚本被配置为由被编译以在所述多个用户计算平台类型中的任一个上进行操作的应用程序解释,所述应用程序在所述用户计算平台上进行操作;
其中,发送所述脚本使得所述脚本由所述应用程序解释,以:将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据;确定将所述经编码的视频数据发送给所述用户计算平台的速率;并且根据所述确定,修改以下中的至少一个:包括发送给所述用户计算平台的所述经编码的视频数据的文件;将所述经编码的数据解码的特征;以及显示所述一个或多个帧图像的特征。
110.根据权利要求109所述的方法,包括根据权利要求1到40所述的任一个特征或特征的组合。
111.一种用于在用户计算平台上呈现视频内容的系统,所述用户计算平台是多个不同用户计算平台类型中的一种,所述系统包括根据权利要求109和110所述的任一个特征或特征的组合。
112.一种在用户计算平台上执行的方法,用于呈现视频内容,所述方法包括:
在所述用户计算平台上接收脚本,所述脚本被配置为由在所述用户计算平台上操作的应用程序解释;
在所述计算机平台上使用应用程序,来解释所述脚本;
其中,解释所述脚本:将可由所述用户计算平台访问的经编码的视频数据解码成包括一个或多个帧图像的经解码的视频数据;通过在所述用户计算平台上显示所述一个或多个帧图像,来呈现所述经解码的视频数据;确定由所述用户计算平台接收所述经编码的视频数据的速率;并且根据所述确定,修改以下中的至少一个:包括由所述用户计算平台接收的所述经编码的视频数据的文件;将所述经编码的数据解码的特征;以及显示所述一个或多个帧图像的特征。
113.根据权利要求112所述的方法,包括根据权利要求41到74所述的任一个特征或特征的组合。
114.一种用于在用户计算平台上呈现视频内容的系统,所述系统包括根据权利112和113所述的任一个特征或特征的组合。
115.一种计算机系统,包括使用数据通信网络有效地连接的一个或多个计算机,所述数据通信网络适合于执行根据权利要求1到40、79、80、85、86、91、92、97、98、100、101、103、104、109以及110所述的任一种方法。
116.根据权利要求75、76、81、87、93、99、102、105、111中任一项所述的系统,其中,所述系统包括使用数据通信网络有效地连接的一个或多个计算机。
117.一种计算机可读介质,包括计算机可执行代码,所述计算机可执行代码在由包括使用数据通信网络有效地连接的一个计算机或多个计算机的计算机系统执行时,使得所述计算机系统执行根据权利要求1到40、79、80、85、86、91、92、97、98、100、101、103、104、109以及110所述的任一种方法。
CN201280050754.7A 2011-08-16 2012-05-25 基于脚本的视频呈现 Active CN103891303B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201161524269P 2011-08-16 2011-08-16
US61/524,269 2011-08-16
US201161557856P 2011-11-09 2011-11-09
US61/557,856 2011-11-09
PCT/CA2012/050345 WO2013023287A1 (en) 2011-08-16 2012-05-25 Script-based video rendering

Publications (2)

Publication Number Publication Date
CN103891303A true CN103891303A (zh) 2014-06-25
CN103891303B CN103891303B (zh) 2018-03-09

Family

ID=47714647

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280050754.7A Active CN103891303B (zh) 2011-08-16 2012-05-25 基于脚本的视频呈现

Country Status (12)

Country Link
US (8) US9143826B2 (zh)
EP (1) EP2745526A4 (zh)
JP (1) JP2014531142A (zh)
CN (1) CN103891303B (zh)
AU (1) AU2012297524B2 (zh)
CA (1) CA2843766A1 (zh)
HK (1) HK1199586A1 (zh)
IL (1) IL230898A0 (zh)
RU (1) RU2014110047A (zh)
SG (1) SG2014008775A (zh)
WO (1) WO2013023287A1 (zh)
ZA (1) ZA201401618B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105635667A (zh) * 2014-11-20 2016-06-01 安讯士有限公司 用于可视化数字视频流信息的方法和设备
CN105718210A (zh) * 2014-12-05 2016-06-29 旭景科技股份有限公司 用于操作可携式设备的只读方法与系统
CN108337545A (zh) * 2017-01-20 2018-07-27 韩华泰科株式会社 用于同步再现视频和音频的媒体重放设备和媒体服务设备
CN108337560A (zh) * 2017-01-20 2018-07-27 韩华泰科株式会社 用于在web浏览器上播放媒体的媒体重放设备和媒体服务设备
CN113490044A (zh) * 2021-06-29 2021-10-08 北京百度网讯科技有限公司 一种视频播放方法、装置、电子设备及存储介质
US20220182643A1 (en) * 2020-12-04 2022-06-09 Ofinno, Llc No Reference Image Quality Assessment Based Decoder Side Inter Prediction
US20220191508A1 (en) * 2020-12-14 2022-06-16 Comcast Cable Communications, Llc Methods and systems for improved content encoding
CN117439997A (zh) * 2023-12-20 2024-01-23 天津华来科技股份有限公司 一种基于模块化设计的通用p2p通信架构构建方法

Families Citing this family (78)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9826197B2 (en) 2007-01-12 2017-11-21 Activevideo Networks, Inc. Providing television broadcasts over a managed network and interactive content over an unmanaged network to a client device
US9002974B1 (en) * 2007-10-16 2015-04-07 Sprint Communications Company L.P. Script server for efficiently providing multimedia services in a multimedia system
US8515052B2 (en) 2007-12-17 2013-08-20 Wai Wu Parallel signal processing system and method
US8755515B1 (en) 2008-09-29 2014-06-17 Wai Wu Parallel signal processing system and method
CA3089869C (en) 2011-04-11 2022-08-16 Evertz Microsystems Ltd. Methods and systems for network based video clip generation and management
US9270718B2 (en) * 2011-11-25 2016-02-23 Harry E Emerson, III Internet streaming and the presentation of dynamic content
EP2815582B1 (en) 2012-01-09 2019-09-04 ActiveVideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
US9276989B2 (en) 2012-03-30 2016-03-01 Adobe Systems Incorporated Buffering in HTTP streaming client
US9223599B1 (en) * 2012-03-30 2015-12-29 Zynga Inc. Client-side server for client-side scripting languages
US9800945B2 (en) 2012-04-03 2017-10-24 Activevideo Networks, Inc. Class-based intelligent multiplexing over unmanaged networks
US9866656B2 (en) * 2012-06-29 2018-01-09 Avocent Huntsville, Llc System and method for single KVM client accommodating multiple different video compression technologies
US20150109457A1 (en) * 2012-10-04 2015-04-23 Jigabot, Llc Multiple means of framing a subject
CN104487938A (zh) * 2012-10-26 2015-04-01 惠普发展公司,有限责任合伙企业 利用开放执行器处理流数据
US9871842B2 (en) * 2012-12-08 2018-01-16 Evertz Microsystems Ltd. Methods and systems for network based video clip processing and management
US9767854B2 (en) * 2013-01-23 2017-09-19 Steven Schoenwald Video content distribution package
US9380324B2 (en) * 2013-01-23 2016-06-28 Steven Schoenwald Video content distribution package
US10701305B2 (en) * 2013-01-30 2020-06-30 Kebron G. Dejene Video signature system and method
WO2014145921A1 (en) 2013-03-15 2014-09-18 Activevideo Networks, Inc. A multiple-mode system and method for providing user selectable video content
US20140298157A1 (en) * 2013-03-26 2014-10-02 Samsung Electronics Co., Ltd Apparatus and method for presenting html page
EP3005712A1 (en) * 2013-06-06 2016-04-13 ActiveVideo Networks, Inc. Overlay rendering of user interface onto source video
CN103399729B (zh) * 2013-06-28 2016-04-27 广州市动景计算机科技有限公司 一种HTML5 Canvas应用处理方法、装置及处理器
CN103347209B (zh) * 2013-07-01 2015-12-02 郑义 基于wifi的无线视频转发装置系统及其实现转发的方法
US10115174B2 (en) 2013-09-24 2018-10-30 2236008 Ontario Inc. System and method for forwarding an application user interface
US10976986B2 (en) * 2013-09-24 2021-04-13 Blackberry Limited System and method for forwarding an application user interface
US9805479B2 (en) * 2013-11-11 2017-10-31 Amazon Technologies, Inc. Session idle optimization for streaming server
US9641592B2 (en) 2013-11-11 2017-05-02 Amazon Technologies, Inc. Location of actor resources
CN104954727B (zh) * 2014-03-25 2018-08-07 南宁富桂精密工业有限公司 音视频同步控制设备及方法
DE102014205485A1 (de) * 2014-03-25 2015-10-01 Siemens Aktiengesellschaft Verfahren zur Übertragung digitaler Bilder aus einer Bilderfolge
US9788029B2 (en) 2014-04-25 2017-10-10 Activevideo Networks, Inc. Intelligent multiplexing using class-based, multi-dimensioned decision logic for managed networks
US9690626B2 (en) * 2014-06-27 2017-06-27 Vmware, Inc. Processing workloads in single-threaded environments
WO2016018787A1 (en) 2014-07-31 2016-02-04 Dolby Laboratories Licensing Corporation Audio processing systems and methods
US9679315B2 (en) 2014-09-01 2017-06-13 AdSupply, Inc. Systems and methods to bypass online advertisement blockers
CN105740158A (zh) * 2014-12-11 2016-07-06 广州市动景计算机科技有限公司 减少便携式终端设备上浏览器内存占用的方法与装置
CN104570856B (zh) * 2014-12-18 2017-04-12 黑龙江大学 可在线编程的监控网络系统
RU2608883C2 (ru) * 2014-12-26 2017-01-25 Общество С Ограниченной Ответственностью "Яндекс" Способ и электронное устройство для обработки изображения
FR3034943B1 (fr) * 2015-04-07 2017-04-14 Streamroot Inc Procede de lecture en continu sur un equipement client d'un contenu diffuse au sein d'un reseau pair a pair
US20160313958A1 (en) * 2015-04-27 2016-10-27 Microsoft Technology Licensing, Llc Cross-platform command extensibility
US9420027B1 (en) 2015-04-27 2016-08-16 Wowza Media Systems, LLC Systems and methods of communicating platform-independent representation of source code
CN104837051B (zh) * 2015-05-26 2019-02-22 腾讯科技(北京)有限公司 视频播放方法及客户端
FR3038995B1 (fr) * 2015-07-15 2018-05-11 F4 Dispositif interactif a affichage personnalisable
US9462323B1 (en) * 2015-08-28 2016-10-04 Streamray Inc. Method and system for display of mixed media content on devices without standard video
US9654753B1 (en) * 2015-09-01 2017-05-16 Amazon Technologies, Inc. Video stream processing
FR3042620B1 (fr) 2015-10-16 2017-12-08 F4 Dispositif web interactif a affichage personnalisable
CN106817354A (zh) * 2015-12-01 2017-06-09 阿里巴巴集团控股有限公司 一种视频流传输方法、设备和系统
CN106997348A (zh) * 2016-01-22 2017-08-01 腾讯科技(深圳)有限公司 一种数据绘制方法和装置
US10575007B2 (en) 2016-04-12 2020-02-25 Microsoft Technology Licensing, Llc Efficient decoding and rendering of blocks in a graphics pipeline
NL2016702B1 (en) * 2016-04-29 2017-11-20 E-Comvideo Web-based enriched video.
US20170344523A1 (en) * 2016-05-25 2017-11-30 Samsung Electronics Co., Ltd Method and apparatus for presentation customization and interactivity
US10157480B2 (en) 2016-06-24 2018-12-18 Microsoft Technology Licensing, Llc Efficient decoding and rendering of inter-coded blocks in a graphics pipeline
US11197010B2 (en) * 2016-10-07 2021-12-07 Microsoft Technology Licensing, Llc Browser-based video decoder using multiple CPU threads
KR102130429B1 (ko) * 2016-11-07 2020-07-07 한화테크윈 주식회사 멀티미디어 수신 장치에서 디코딩을 수행하는 방법 및 멀티미디어 장치
KR20180068069A (ko) * 2016-12-13 2018-06-21 삼성전자주식회사 전자 장치 및 이의 제어 방법
CN108235107A (zh) * 2016-12-15 2018-06-29 广州市动景计算机科技有限公司 视频录制方法、装置及电子终端
US10904329B1 (en) 2016-12-30 2021-01-26 CSC Holdings, LLC Virtualized transcoder
US10462512B2 (en) 2017-03-31 2019-10-29 Gracenote, Inc. Music service with motion video
CN109348226B (zh) * 2017-04-08 2022-11-11 腾讯科技(深圳)有限公司 一种图片文件处理方法及智能终端
EP3612978A4 (en) * 2017-04-21 2020-06-03 Zenimax Media Inc. SYSTEMS AND METHODS FOR ENABLING ENCODER-GUIDED QUALITY RENDERING
CN109271327B (zh) 2017-07-18 2020-11-27 杭州海康威视数字技术股份有限公司 内存管理方法及装置
WO2019111348A1 (ja) * 2017-12-06 2019-06-13 株式会社典雅 映像処理装置、映像処理方法、コンピュータプログラム、及び映像処理システム
US11303947B2 (en) * 2018-04-24 2022-04-12 Google Llc Methods, systems, and media for adjusting quality level during synchronized media content playback on multiple devices
EP3818722A1 (en) 2018-07-05 2021-05-12 Dolby International AB Processing media data structures
TWI680661B (zh) * 2018-07-20 2019-12-21 茂傑國際股份有限公司 加值遠端顯示服務的無線路由伺服裝置及方法
EP3651140A1 (en) * 2018-11-12 2020-05-13 BAE SYSTEMS plc Processing simulator data
EP3881307A1 (en) 2018-11-12 2021-09-22 BAE SYSTEMS plc Processing simulator data
CN109218795B (zh) * 2018-11-29 2021-09-24 海信视像科技股份有限公司 一种多设备播放进度同步方法、装置及终端设备
CN109828791B (zh) * 2018-12-28 2022-03-22 北京奇艺世纪科技有限公司 一种动画播放方法、终端和计算机可读存储介质
CN109697060B (zh) * 2018-12-29 2022-08-26 广州方硅信息技术有限公司 视频特效系统及其生成方法、装置、设备和存储介质
US20200296462A1 (en) 2019-03-11 2020-09-17 Wci One, Llc Media content presentation
CN110753265B (zh) * 2019-10-28 2022-04-19 北京奇艺世纪科技有限公司 数据处理方法、装置和电子设备
US20210168472A1 (en) * 2019-12-01 2021-06-03 Arris Enterprises Llc Audio visual time base correction in adaptive bit rate applications
CN110839181A (zh) * 2019-12-04 2020-02-25 湖南快乐阳光互动娱乐传媒有限公司 基于B/S架构的视频内容转换为gif的方法及系统
CN111629214A (zh) * 2020-06-05 2020-09-04 北京百度网讯科技有限公司 视频文件的转码方法、装置、设备和介质
CN114915837B (zh) * 2021-02-10 2023-08-25 武汉斗鱼网络科技有限公司 视频渲染的触发方法、装置、电子设备及存储介质
US11284165B1 (en) 2021-02-26 2022-03-22 CSC Holdings, LLC Copyright compliant trick playback modes in a service provider network
CN113326086B (zh) * 2021-05-18 2022-08-23 翱捷科技股份有限公司 基于lvgl的gif图片显示方法及装置
CN114205662B (zh) * 2021-12-13 2024-02-20 北京蔚领时代科技有限公司 iOS端的低延迟视频渲染方法及装置
US11928078B2 (en) * 2022-03-04 2024-03-12 Lemon Inc. Creating effect assets while avoiding size inflation
CN114979766B (zh) * 2022-05-11 2023-11-21 深圳市闪剪智能科技有限公司 音视频的合成方法、装置、设备及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6246720B1 (en) * 1999-10-21 2001-06-12 Sony Corporation Of Japan Flexible software-based decoding system with decoupled decoding timing and output timing
WO2002089486A2 (en) * 2001-05-01 2002-11-07 Destiny Software Productions Inc. Method and system for video compression and distribution
US20030179941A1 (en) * 2002-02-26 2003-09-25 Decegama Angel Methods for real-time software video/audio compression, transmission, decompression and display
US20040045030A1 (en) * 2001-09-26 2004-03-04 Reynolds Jodie Lynn System and method for communicating media signals
CN1620145A (zh) * 1997-03-07 2005-05-25 通用仪器公司 对交错数字视频的双向预测的视频目标平面的预测和编码
US20070076802A1 (en) * 2005-10-05 2007-04-05 Akira Osamoto Video presentation at fractional speed factor using time domain interpolation
CN101419827A (zh) * 2007-10-22 2009-04-29 联发科技股份有限公司 在音频视频交叉文件中进行音频与视频数据同步的方法
US20100027883A1 (en) * 2005-09-28 2010-02-04 Novell, Inc. Adaptive method and system for encoding digital images for the internet

Family Cites Families (84)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6126382A (ja) * 1984-07-17 1986-02-05 Kokusai Denshin Denwa Co Ltd <Kdd> 動き量を用いた動画像フレ−ムレ−ト変換方式
US5594660A (en) * 1994-09-30 1997-01-14 Cirrus Logic, Inc. Programmable audio-video synchronization method and apparatus for multimedia systems
US6829368B2 (en) 2000-01-26 2004-12-07 Digimarc Corporation Establishing and interacting with on-line media collections using identifiers in media signals
US5767867A (en) * 1995-11-27 1998-06-16 Sun Microsystems, Inc. Method for alpha blending images utilizing a visual instruction set
US6005980A (en) * 1997-03-07 1999-12-21 General Instrument Corporation Motion estimation and compensation of video object planes for interlaced digital video
US6573907B1 (en) 1997-07-03 2003-06-03 Obvious Technology Network distribution and management of interactive video and multi-media containers
US8645838B2 (en) * 1998-10-01 2014-02-04 Digimarc Corporation Method for enhancing content using persistent content identification
JP2000134237A (ja) * 1998-10-23 2000-05-12 Toshiba Corp ホームネットワークのためのデジタルavデータ再生方法およびデジタルavデータ再生装置
US6573905B1 (en) * 1999-11-09 2003-06-03 Broadcom Corporation Video and graphics system with parallel processing of graphics windows
DE60025406T2 (de) * 1999-03-02 2006-09-21 Hitachi Denshi K.K. Laufbilderinformationsanzeigeverfahren und -gerät
US20060041639A1 (en) * 1999-04-21 2006-02-23 Interactual Technologies, Inc. Platform detection
GB9918150D0 (en) 1999-08-03 1999-10-06 Univ Sheffield Nuclease variant
AU7829400A (en) 1999-10-13 2001-04-23 Conexant Systems, Inc. Compressed storage and transmission of high-level computer languages
WO2001059599A1 (en) * 2000-02-11 2001-08-16 Autolycus Corporation Generation and display of multi-image video streams
US6993559B2 (en) * 2000-02-14 2006-01-31 Bigbow.Com, Inc. System, method, apparatus and computer program product for operating a web site by electronic mail
DE60134465D1 (de) 2000-03-27 2008-07-31 Accenture Llp Verfahren und system für eine automatische skript basierte lösung zum unternehmenstesten
US7540021B2 (en) 2000-04-24 2009-05-26 Justin Page System and methods for an identity theft protection bot
US6773845B2 (en) * 2001-06-27 2004-08-10 Delphi Technologies, Inc. Fluid distribution surface for solid oxide fuel cells
US7017162B2 (en) 2001-07-10 2006-03-21 Microsoft Corporation Application program interface for network software platform
US7240120B2 (en) * 2001-08-13 2007-07-03 Texas Instruments Incorporated Universal decoder for use in a network media player
WO2003034725A1 (fr) * 2001-10-18 2003-04-24 Matsushita Electric Industrial Co., Ltd. Appareil et procede de reproduction video/audio, programme et support correspondants
US20030170006A1 (en) * 2002-03-08 2003-09-11 Bogda Peter B. Versatile video player
US7106908B2 (en) * 2002-03-12 2006-09-12 Nokia Corporation Method and apparatus for selecting a format in which to re-encode a quantized image
ES2431307T3 (es) * 2002-04-19 2013-11-25 Open Tv, Inc. Soporte de funcionalidad de televisión común interactiva a través de la presentación de sintaxis de motor
US6825780B2 (en) 2002-04-19 2004-11-30 Droplet Technology, Inc. Multiple codec-imager system and method
US7260257B2 (en) * 2002-06-19 2007-08-21 Microsoft Corp. System and method for whiteboard and audio capture
US7966374B2 (en) 2002-07-01 2011-06-21 Profiliq Software Inc. Adaptive media messaging, such as for rich media messages incorporating digital content
JP2004120440A (ja) 2002-09-26 2004-04-15 Toshiba Corp サーバー装置及びクライアント装置
US7230987B2 (en) 2002-09-30 2007-06-12 Broadcom Corporation Multiple time-base clock for processing multiple satellite signals
US20040181611A1 (en) 2003-03-14 2004-09-16 Viresh Ratnakar Multimedia streaming system for wireless handheld devices
KR20060105409A (ko) 2005-04-01 2006-10-11 엘지전자 주식회사 영상 신호의 스케일러블 인코딩 및 디코딩 방법
US7158668B2 (en) * 2003-08-01 2007-01-02 Microsoft Corporation Image processing using linear light values and other image processing improvements
CN1757074A (zh) 2003-11-28 2006-04-05 索尼株式会社 再现设备、再现方法、再现程序、和记录介质
US9323571B2 (en) * 2004-02-06 2016-04-26 Intel Corporation Methods for reducing energy consumption of buffered applications using simultaneous multi-threading processor
US7509387B2 (en) 2004-04-07 2009-03-24 Nokia Corporation System, apparatus, and method for using reduced Web service messages
JP2005318473A (ja) * 2004-04-30 2005-11-10 Toshiba Corp 動画像のメタデータ
JP2005332274A (ja) * 2004-05-20 2005-12-02 Toshiba Corp 動画像中のオブジェクトに関するメタデータストリームのデータ構造、検索方法及び再生方法
KR100608056B1 (ko) * 2004-06-05 2006-08-02 삼성전자주식회사 멀티미디어 컨텐츠 재생 장치, 재생 방법, 생성 장치,생성 방법, 및 그 멀티미디어 컨텐츠를 저장한 저장 매체
JP2006023945A (ja) * 2004-07-07 2006-01-26 Canon Inc 画像処理システム及び画像処理方法
US7174385B2 (en) * 2004-09-03 2007-02-06 Microsoft Corporation System and method for receiver-driven streaming in a peer-to-peer network
KR100679018B1 (ko) 2004-09-07 2007-02-05 삼성전자주식회사 다계층 비디오 코딩 및 디코딩 방법, 비디오 인코더 및디코더
US20070192818A1 (en) 2004-10-12 2007-08-16 Mikael Bourges-Sevenier System and method for creating, distributing, and executing rich multimedia applications
JP4275611B2 (ja) 2004-12-02 2009-06-10 ソニー株式会社 再生装置、再生方法および再生プログラム、記録媒体、ならびに、データ構造体
JP4468796B2 (ja) 2004-12-02 2010-05-26 ソニー株式会社 再生装置、再生方法および再生プログラム、ならびに、記録媒体
US20060150071A1 (en) * 2005-01-05 2006-07-06 Microsoft Corporation Software-based video rendering
KR100640424B1 (ko) 2005-03-16 2006-11-01 삼성전자주식회사 디지털 멀티미디어 방송 수신기에서 방송 채널의 전환을 제어하는 장치 및 방법
US7707485B2 (en) * 2005-09-28 2010-04-27 Vixs Systems, Inc. System and method for dynamic transrating based on content
ES2276629B1 (es) * 2005-12-15 2009-04-01 Pharma Mar, S.A. Compuestos antitumorales.
JP2007207328A (ja) 2006-01-31 2007-08-16 Toshiba Corp 情報記憶媒体、プログラム、情報再生方法、情報再生装置、データ転送方法、及びデータ処理方法
US8769127B2 (en) 2006-02-10 2014-07-01 Northrop Grumman Systems Corporation Cross-domain solution (CDS) collaborate-access-browse (CAB) and assured file transfer (AFT)
US7921415B1 (en) * 2006-05-19 2011-04-05 Tellme Networks, Inc. Externally loaded browser interpreter for non-native language support
US9432433B2 (en) * 2006-06-09 2016-08-30 Qualcomm Incorporated Enhanced block-request streaming system using signaling or block creation
KR20080050279A (ko) 2006-12-02 2008-06-05 한국전자통신연구원 다단계 해상도 지형의 이미지 튐 현상 완화 장치 및 방법
US20080201736A1 (en) * 2007-01-12 2008-08-21 Ictv, Inc. Using Triggers with Video for Interactive Content Identification
JP5106039B2 (ja) * 2007-10-24 2012-12-26 パナソニック株式会社 画像音声同期再生装置
US7761602B1 (en) 2007-11-26 2010-07-20 Adobe Systems Incorporated Playback of content on portable devices
KR100928998B1 (ko) * 2007-12-12 2009-11-26 한국전자통신연구원 사용자 단말기에 멀티미디어 컨텐츠와 코덱을 제공하는적응적 멀티미디어 시스템 및 그 방법
US8279318B2 (en) * 2007-12-14 2012-10-02 Canon Kabushiki Kaisha Image pickup apparatus and display control method for the same
US8050833B2 (en) * 2008-04-15 2011-11-01 Allison Transmission, Inc. System and method for controlling engagement of a lockup clutch in a torque converter
US20090300685A1 (en) 2008-05-30 2009-12-03 Airme Inc. System, method, and device for transmitting video captured on a wireless device
JP2009289103A (ja) 2008-05-30 2009-12-10 Fujitsu Ltd 情報処理システム、情報処理装置、及びコンピュータプログラム
US8819749B2 (en) * 2008-06-11 2014-08-26 Koninklijke Philips B.V. Synchronization of media stream components
JP2010028509A (ja) 2008-07-22 2010-02-04 Kyocera Mita Corp 画像形成システム、画像形成装置およびコンピュータプログラム
CN101330340B (zh) * 2008-07-31 2010-09-29 中兴通讯股份有限公司 移动多媒体广播终端自适应调整接收速率缓冲播放的方法
US20100043038A1 (en) * 2008-08-14 2010-02-18 Zoran Corporation System and method for efficient video and audio instant replay for digital television
GB2463329B (en) 2008-09-10 2013-02-20 Echostar Advanced Technologies L L C Set-top box emulation system
JP2010113012A (ja) * 2008-11-04 2010-05-20 Seiko Epson Corp 表示システム、画像出力装置及び画像表示装置
JP2010136292A (ja) * 2008-12-08 2010-06-17 Toshiba Corp 画像処理装置
US8432403B2 (en) 2008-12-15 2013-04-30 Leonovus Usa Inc. Media action script acceleration apparatus
US8487942B2 (en) 2008-12-15 2013-07-16 Leonovus Usa Inc. Media action script acceleration system
US8487941B2 (en) 2008-12-15 2013-07-16 Leonovus Usa Inc. Media action script acceleration apparatus
US8432404B2 (en) 2008-12-15 2013-04-30 Leonovus Usa Inc. Media action script acceleration method
US8176096B2 (en) 2008-12-18 2012-05-08 Microsoft Corporation Data visualization interactivity architecture
FI20095175A (fi) * 2009-02-23 2010-08-24 Anygraaf Oy Menetelmä rasterimuotoisen kuvan segmentoinnin hyödyntämiseksi kuvan pakkaamisessa
CA2755774C (en) * 2009-03-19 2015-01-06 Azuki Systems, Inc. Method for scalable live streaming delivery for mobile audiences
JP2011009838A (ja) * 2009-06-23 2011-01-13 Sumitomo Electric Ind Ltd 映像通信システム及び映像通信方法
JP2011023992A (ja) * 2009-07-16 2011-02-03 Hitachi Consumer Electronics Co Ltd コンテンツ配信システム、再生装置、及び配信サーバ
US8832676B2 (en) 2009-09-30 2014-09-09 Zynga Inc. Apparatuses, methods and systems for a social networking application updater
US10713018B2 (en) 2009-12-07 2020-07-14 International Business Machines Corporation Interactive video player component for mashup interfaces
JP2011139211A (ja) * 2009-12-28 2011-07-14 Renesas Electronics Corp 画像処理装置及び画像処理方法
US8537201B2 (en) * 2010-10-18 2013-09-17 Silicon Image, Inc. Combining video data streams of differing dimensionality for concurrent display
US8751565B1 (en) * 2011-02-08 2014-06-10 Google Inc. Components for web-based configurable pipeline media processing
US9167020B2 (en) * 2011-06-10 2015-10-20 Microsoft Technology Licensing, Llc Web-browser based desktop and application remoting solution
US8903897B2 (en) 2011-07-08 2014-12-02 Google Inc. System and method for providing interactive content to non-native application environments

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1620145A (zh) * 1997-03-07 2005-05-25 通用仪器公司 对交错数字视频的双向预测的视频目标平面的预测和编码
US6246720B1 (en) * 1999-10-21 2001-06-12 Sony Corporation Of Japan Flexible software-based decoding system with decoupled decoding timing and output timing
WO2002089486A2 (en) * 2001-05-01 2002-11-07 Destiny Software Productions Inc. Method and system for video compression and distribution
US20040045030A1 (en) * 2001-09-26 2004-03-04 Reynolds Jodie Lynn System and method for communicating media signals
US20030179941A1 (en) * 2002-02-26 2003-09-25 Decegama Angel Methods for real-time software video/audio compression, transmission, decompression and display
US20100027883A1 (en) * 2005-09-28 2010-02-04 Novell, Inc. Adaptive method and system for encoding digital images for the internet
US20070076802A1 (en) * 2005-10-05 2007-04-05 Akira Osamoto Video presentation at fractional speed factor using time domain interpolation
CN101419827A (zh) * 2007-10-22 2009-04-29 联发科技股份有限公司 在音频视频交叉文件中进行音频与视频数据同步的方法

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10878850B2 (en) 2014-11-20 2020-12-29 Axis Ab Method and apparatus for visualizing information of a digital video stream
CN105635667A (zh) * 2014-11-20 2016-06-01 安讯士有限公司 用于可视化数字视频流信息的方法和设备
CN105635667B (zh) * 2014-11-20 2018-08-24 安讯士有限公司 用于可视化数字视频流信息的方法和设备
CN105718210B (zh) * 2014-12-05 2018-12-18 旭景科技股份有限公司 用于操作可携式设备的只读方法与系统
CN105718210A (zh) * 2014-12-05 2016-06-29 旭景科技股份有限公司 用于操作可携式设备的只读方法与系统
CN108337560A (zh) * 2017-01-20 2018-07-27 韩华泰科株式会社 用于在web浏览器上播放媒体的媒体重放设备和媒体服务设备
CN108337545A (zh) * 2017-01-20 2018-07-27 韩华泰科株式会社 用于同步再现视频和音频的媒体重放设备和媒体服务设备
US10979785B2 (en) 2017-01-20 2021-04-13 Hanwha Techwin Co., Ltd. Media playback apparatus and method for synchronously reproducing video and audio on a web browser
CN108337560B (zh) * 2017-01-20 2021-09-21 韩华泰科株式会社 用于在web浏览器上播放媒体的媒体重放设备和媒体服务设备
US20220182643A1 (en) * 2020-12-04 2022-06-09 Ofinno, Llc No Reference Image Quality Assessment Based Decoder Side Inter Prediction
US20220191508A1 (en) * 2020-12-14 2022-06-16 Comcast Cable Communications, Llc Methods and systems for improved content encoding
CN113490044A (zh) * 2021-06-29 2021-10-08 北京百度网讯科技有限公司 一种视频播放方法、装置、电子设备及存储介质
CN117439997A (zh) * 2023-12-20 2024-01-23 天津华来科技股份有限公司 一种基于模块化设计的通用p2p通信架构构建方法
CN117439997B (zh) * 2023-12-20 2024-03-08 天津华来科技股份有限公司 一种基于模块化设计的通用p2p通信架构构建方法

Also Published As

Publication number Publication date
US9143826B2 (en) 2015-09-22
US20130044823A1 (en) 2013-02-21
US9215499B2 (en) 2015-12-15
US20130044822A1 (en) 2013-02-21
US20130044802A1 (en) 2013-02-21
US20170142430A1 (en) 2017-05-18
EP2745526A4 (en) 2016-04-06
US20130047074A1 (en) 2013-02-21
US20130044260A1 (en) 2013-02-21
JP2014531142A (ja) 2014-11-20
US20130044805A1 (en) 2013-02-21
CN103891303B (zh) 2018-03-09
SG2014008775A (en) 2014-04-28
CA2843766A1 (en) 2013-02-21
HK1199586A1 (zh) 2015-08-28
AU2012297524B2 (en) 2017-07-20
US9571886B2 (en) 2017-02-14
EP2745526A1 (en) 2014-06-25
ZA201401618B (en) 2015-01-28
US9432726B2 (en) 2016-08-30
WO2013023287A1 (en) 2013-02-21
NZ622065A (en) 2015-12-24
AU2012297524A1 (en) 2014-04-03
US9432727B2 (en) 2016-08-30
US9380338B2 (en) 2016-06-28
IL230898A0 (en) 2014-03-31
US20130044824A1 (en) 2013-02-21
RU2014110047A (ru) 2015-09-27
US10645405B2 (en) 2020-05-05
US9137567B2 (en) 2015-09-15

Similar Documents

Publication Publication Date Title
CN103891303A (zh) 基于脚本的视频呈现
CN109088887A (zh) 一种流媒体解码的方法及装置
JP2005513621A (ja) マルチメディア用パブリッシングシステム、ワイヤレス装置用メディアプレーヤー、およびパブリッシングシステム
KR20100127240A (ko) 상호작용형 컨텐츠 식별을 위하여 비디오에 트리거를 사용하는 방법
CN112930687B (zh) 一种媒体流处理方法及装置、存储介质及程序产品
JP5414792B2 (ja) リッチメディアサービスを提供する方法及び装置
US9560401B2 (en) Method of transmitting at least one content representative of a service, from a server to a terminal, and associated device and computer program product
US9292081B2 (en) Systems and methods for programmatically interacting with a media player
CN103581741A (zh) 特效播放设备和方法
KR101958662B1 (ko) 웹페이지 자바 스크립트 객체 공유 방법 및 장치
US9049472B2 (en) Systems and methods for dynamic media players utilizing media traits
US10547878B2 (en) Hybrid transmission protocol
CN116261003A (zh) 一种显示设备及基于浏览器的流媒体播放控制方法
CN114731463A (zh) 数据处理设备及其控制方法和程序
CN113364728B (zh) 媒体内容接收方法、装置、存储介质和计算机设备
NZ622065B2 (en) Script-based video rendering
CN115086282A (zh) 一种视频播放方法、设备及存储介质
Karabeg Adaptation trigger mechanism. Context-driven adaptation trigger evaluated with simulated multimedia server and player
Wang Compare multimedia frameworks in mobile platforms
KR20120117313A (ko) 장면 기술 콘텐츠 처리 장치 및 방법
AU2002347201A1 (en) A multimedia publishing system for wireless devices

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 1199586

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant
REG Reference to a national code

Ref country code: HK

Ref legal event code: WD

Ref document number: 1199586

Country of ref document: HK