WO2011024602A1

WO2011024602A1 - 画像符号化装置および画像復号装置

Info

Publication number: WO2011024602A1
Application number: PCT/JP2010/062889
Authority: WO
Inventors: 知宏猪飼
Original assignee: シャープ株式会社
Priority date: 2009-08-26
Filing date: 2010-07-30
Publication date: 2011-03-03
Also published as: US20120195515A1; CN102484720A; JPWO2011024602A1; EP2472872A1

Abstract

　変換係数の特徴を用いて、モードの推定精度の向上と符号化効率の向上を図る画像符号化装置を提供する。変換係数の特徴に基づいて算出した評価値に応じて、推定するモードと選択可能なモードの範囲を制限し、制限されたモードの範囲内の所定のモードの中から符号化コストが最小となるモードを選択し、前記制限されたモードの個数が１個の場合、モードを識別するためのフラグを符号化せず、また、複数個の場合には、前記選択されたモードを符号化する。このため、モード識別用のフラグの符号化コスト量が削減され高い符号化効率で符号化でき、モードの推定精度が向上し、さらに、フラグの符号量が削減され符号化効率が向上する。

Description

画像符号化装置および画像復号装置

　本発明は、画像を符号化して符号化データを出力する画像符号化装置および該画像符号化装置で符号化された符号データを復号する画像復号装置に関する。

　画像符号化技術は、テレビジョン受像機から画像処理の可能な携帯電話まで、身近にある多くの映像機器に応用されている。

　画像符号化技術の分野では、一般に画像データ（画像情報）を複数のブロックに分割し、分割したブロック単位で符号化が行われる。ブロック単位の符号化では、入力信号に近い予測信号の生成、入力信号と予測信号の差分である残差信号の算出、算出された残差信号の変換、変換で得られた変換係数の量子化、量子化された変換係数のスキャン（走査）、量子化・スキャンされた変換係数の可変長符号化等の符号化処理がなされる。
　この可変長符号化の処理では、変換係数の他、予測信号の生成方法を示す情報も符号化される。

　予測信号の生成方法には、対象ブロック周囲の再生画像を用いて生成する画面内予測と既に符号化／復号されたフレームの再生画像を用いて生成する画面間予測がある。
　画面内予測には、ＤＣ予測、水平予測、垂直予測など複数の予測モードがあり、いずれの予測モードを用いるかを示す情報が、フラグとして符号化される。
　また、画面間予測では、予測に使う参照フレームを特定するためのフレームＩＤ、および、フレーム内の位置と動きベクトルがフラグにより符号化される。

　尚、複数の方法（モード）の候補から選択した方法を示す情報を本明細書では「フラグ」と呼ぶことにする。フラグの符号化方法としては、次のもの等があり、例えば、画面内予測における予測モードは（２）の方法、画面間予測における動きベクトルは予測ベクトルとの差分として（３）の方法で符号化される。

（１）そのまま符号化する方法。
（２）予測が当たったか否かを示す情報と予測が外れた場合の識別用の情報を符号化する方法。
（３）予測値との差分を符号化する方法。

　予め用意された複数の方法（モード）から最適な方法を選択し、モード識別用のフラグを符号化する手法は一般的なものであり、予測モード以外にも、スキャン方法、変換方法、可変長符号化テーブルなどで用いられている。

　また、フラグの符号量が大きくなる場合には、フラグを符号化することによって逆に符号化効率が低下することもあるため、フラグを明示的に符号化せず、既に符号化／復号された情報を用いて、適用するモードを決定する技術も知られている。

　特許文献１では、スキャン方法を示すフラグを明示的に符号化せず、予測画像を用いて決定する技術が開示されている。例えば、予測画像の水平方向のエッジと垂直方向のエッジを比較し、水平方向のエッジを垂直方向のエッジより多く含めば水平方向を優先するスキャン方法を用い、垂直方向のエッジを水平方向のエッジより多く含めば垂直方向を優先するスキャン方法を用いている。
　映像符号化装置では、この垂直方向のエッジか水平方向のエッジのいずれが多いかを判定する判定式を生成して符号化ストリーム内に格納し、映像復号化装置では、符号化ストリーム内に格納された判定式によって判定されたスキャン方法を用いて復号している。

　特許文献２では、変換方法を示すフラグを明示的には符号化せず、既に復号した符号化データを用いて変換方法を決定する技術が開示されている。即ち、符号化データ内の量子化パラメータ、符号化モード、動きベクトルの個数情報に基づいて変換方法を決定している。

　非特許文献１では、画面間予測のフラグである動きベクトルの符号量を削減する技術であり、復号した変換係数を逆量子化、逆変換により復号した残差信号と参照フレーム内のブロックとのマッチングを取ることによって、動きベクトルを推定することで、フラグの符号量を削減している。

特開２００６－２１１３０４号公報特開２００３－２０４５５０号公報

谷田隆一他(NTT)、「画像マッチングを用いた予測ベクトル決定方法に関する一検討」、２００８年画像符号化シンポジウム、Ｐ５－１０

　上記の特許文献１、特許文献２では、スキャン方法および変換方法を示すフラグを明示的には符号化せず推定されたモードを用いている。しかしながら、これらの方法では、明示的にフラグを符号化する方法と異なり、推定により決定されたモードが不適切であることがあり、この場合符号量が増加してしまうことがある。

　また、変換係数の特徴（例えば、変換係数の数）とモードを切り替えた場合の効果の間には所定の関係があるにも関わらず、特許文献１、特許文献２の方法では、このような性質を活かしていない。

　例えば、変換係数の数が多い場合には、スキャン順切替の効果が大きいが、この性質を活かしていない。また、変換係数の数によって、スキャン方法や予測方法の推定の当りやすさが異なると考えられるが、変換係数の特徴に応じて推定方法を変更しないためこの性質も活かしていない。

　尚、非特許文献１は、対象ブロックの変換係数の情報を用いて、動きベクトルの推定を行うことにより、精度の高い予測ベクトルを算出し、動きベクトルの符号量を削減している。この技術は、変換係数の特徴を考慮しているが、残差信号を用いた動きベクトル推定は、変換係数が特に多い場合のみに効果がある。
　また、変換係数から得られる情報を用いて復号装置でマッチングを行うため、極めて演算負荷が高い。

　即ち、従来の符号化技術では、変換係数の特徴を用いずにモードを推定しているため、モードの推定精度が低く符号化効率も低い。
　また、変換係数の特徴を用いずにモードを決定しているため、モード切替の効果が大きい場合にもモードを推定された１個に制限するため符号化効率が低下してしまっている。
　また、モード切替の効果が小さい場合にも、使用するモードを識別するフラグを符号化するため符号化効率が低下してしまっている。

　本発明は、上述のような実情を考慮してなされたものであり、変換係数の特徴を用いて、モードの推定精度の向上と符号化効率の向上を図る画像符号化装置および画像復号装置を提供することを目的とする。

　上記課題を解決するために、本発明の画像符号化装置は、入力信号をブロック化し、該ブロック単位で前記入力信号の予測信号を生成する予測部と、前記入力信号と前記予測信号の残差信号を変換して変換係数を算出する変換部と、前記変換係数を量子化する量子化部と、前記量子化後の変換係数を一次元に並べるスキャン部と、前記スキャンされた変換係数を符号化する可変長符号化部と、を備えて符号化データを生成する画像符号化装置において、次の（１）から（３）のいずれかの構成からなる。

（１）本発明の画像符号化装置は、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを推定するモード推定部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記選択可能なモードの範囲内にある所定のモードの中から符号化コストが最小となるモードを選択するモード選択部と、を備え、前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、前記可変長符号化部は、前記制限されたモードの個数が複数個の場合には、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグを符号化する。

（２）本発明の画像符号化装置は、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記選択可能なモードの範囲内にある所定のモードの中から符号化コストが最小となるモードを選択するモード選択部と、を備え、前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、前記可変長符号化部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグを符号化する。

（３）本発明の画像符号化装置は、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを推定するモード推定部と、符号化コストが最小となるモードを所定のモードの中から選択するモード選択部と、を備え、前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、前記可変長符号化部は、前記推定されたモードと前記選択されたモードが同じ場合には、前記推定されたモードを利用するという情報を符号化し、また、異なる場合には、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグと、前記推定されたモードを利用しないという情報を符号化する。

　また、本発明の画像復号装置は、入力信号をブロック化し、該ブロック単位で、変換を施して量子化された変換係数を一次元に並べて符号化した符号化データを逆スキャン部によって逆スキャンし、逆量子化部によって逆量子化し、逆変換部により逆変換を施した残差信号と予測部によって既に復号された信号から予測した予測信号から前記符号化データを復号する画像復号装置において、次の（４）から（６）のいずれかの構成からなる。

（４）本発明の画像復号装置は、前記符号化データから変換係数と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを推定するモード推定部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、前記制限されたモードの個数が１個の場合には、前記モード推定部で推定されたモードとし、また、複数個の場合には、前記フラグで識別されるモードとするモード復号部と、を備え、前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号する。

（５）本発明の画像復号装置は、前記符号化データから変換係数と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードの範囲を限定するモード制限部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、前記限定されたモードの個数が１個の場合は、前記モード制限部で限定された範囲内のモードとし、また、複数の場合には、前記フラグで識別されるモードとするモード復号部と、を備え、前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号する。

（６）本発明の画像復号装置は、前記符号化データから変換係数と、推定されたモードを利用するか否かの情報と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを推定するモード推定部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、推定されたモードを利用するという情報が復号された場合には、前記モード推定部で推定されたモードとし、また、推定されたモードを利用しないという情報が復号された場合には、前記フラグで識別されるモードとするモード復号部と、を備え、前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号する。

　また、上記の（１）から（３）の画像符号化装置、または、上記（４）から（６）の画像復号装置にあっては、前記変換係数評価部の評価値は、ゼロ以外の変換係数があるか否かを示す値、ゼロ以外の変換係数の個数、変換係数のゼロが続く長さ、量子化後の変換係数の大きさ、変換係数を符号化したときの符号化コスト、変換係数のばらつき、量子化後の変換係数の大きさに基づいて計算される符号化効率および最低次数の変換係数が０であるか否かを示す値のいずれか、これらの値を用いて所定の関数から算出される値、あるいは、モード推定あるいはモード限定に使われる組み合わせである。

　さらに、上記の（１）または（２）の画像符号化装置、または、上記（４）または（５）の画像復号装置の前記モード限定部は、（７）前記評価値が所定の値以下である場合よりも大きい場合に、選択可能なモードの範囲を小さく設定するか、または、（８）第一の所定値よりも大きい第二の所定値を有し、前記評価値が前記第一の所定値以下である場合、および、前記第二の所定値よりも大きい場合の選択可能なモードの範囲を、前記評価値が前記第一の所定値よりも大きく、且つ、前記第二の所定値以下である場合の選択可能なモードの範囲よりも小さく設定する。

　また、上記の（１）または（３）の画像符号化装置、または、上記（４）または（６）の画像復号装置の前記モード推定部は、前記評価値が所定の値以下である場合、既に再生済みのブロックのモード、または、既に再生済みブロックの画素値に基づいてモードを推定し、前記評価値が所定の値よりも大きい場合、所定のモードを用いる。

　本発明によれば、変換係数の特徴に応じて、モードの選択可能な選択肢を制限するため、モードの表現に必要なフラグの符号量が削減され符号化効率が向上する。
　また、変換係数の特徴に応じてモードを推定するため、モードの推定精度が向上し、符号化効率も向上する。

本発明の実施形態１に係る画像符号化装置の構成を示すブロック図である。本発明の実施形態１，２のスキャン方法を説明する図である。本発明の実施形態１，２における出現頻度によりモードを推定するモード推定部の構成を示すブロック図である。本発明の実施形態１，２における出現頻度によりモードを推定するモード推定部の他の構成を示すブロック図である。出現頻度によりスキャン方法を生成する方法を説明する図である。本発明の実施形態１，５に係るモード制限部を説明する図である。本発明の実施形態１に係るモード選択部の動作を説明するフローチャートである。従来の符号化データの構成を説明する図である。本発明の符号化データの構成を説明する図である。本発明の実施形態１に係る変形例１のモード選択部の動作を説明するフローチャートである。本発明の実施形態１に係る変形例２のモード選択部の動作を説明するフローチャートである。本発明の実施形態２に係る画像復号装置の構成を示すブロック図である。本発明の実施形態２に係る画像復号装置の動作を説明するフローチャートである。本発明の実施形態２に係る変形例３の動作を説明するフローチャートである。本発明の実施形態２に係る変形例４の動作を説明するフローチャートである。本発明の実施形態３に係る画像符号化装置の構成を示すブロック図である。本発明の実施形態３，４における出現頻度によりモードを推定するモード推定部の構成を示すブロック図である。本発明の実施形態３に係るモード選択部の動作を説明するフローチャートである。本発明の実施形態４に係る画像復号装置の構成を示すブロック図である。本発明の実施形態５に係る画像符号化装置の構成を示すブロック図である。方向予測とブロック予測を説明する図である。関数予測とマッチング予測を説明する図である。本発明の実施形態５，６に係るモード推定部の動作を説明するフローチャートである。本発明の実施形態５，６に係るモード推定部の他の動作を説明するフローチャートである。本発明の実施形態５に係るモード選択部の動作を説明するフローチャートである。本発明の実施形態５に係るモード選択部の他の動作を説明するフローチャートである。本発明の実施形態６に係る画像復号装置の構成を示すブロック図である。本発明の実施形態６に係る画像復号装置の他の動作説明するフローチャートである。

　以下、図面を参照して本発明に係る実施の形態について説明する。
　尚、実施形態１および２は、スキャンモードを選択する場合の画像符号化装置および画像復号装置に関するものであり、実施形態３および４は、変換モードを選択する場合の画像符号化装置および画像復号装置に関するものであり、実施形態５および６は、予測モードを選択する場合の画像符号化装置および画像復号装置に関するものである。
　この場合、選択対象以外のモードについてはあらかじめ定めておくものとする。
　本発明は、このようにスキャンモード、変換モード、予測モードを個々に選択するだけでなく、任意の組み合わせでモードを選択するものとしても同様に適用できる。

＜＜実施形態１＞＞
　実施形態１では、スキャンモードを選択して符号化する場合について説明する。この場合、変換方式、量子化方式はあらかじめ定めておくものとする。

（画像符号化装置１００の構成）
　図１は、本発明の実施形態１に係る画像符号化装置１００の構成を示すブロック図である。同図において、画像符号化装置１００は、予測部１１１、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード選択部１２２、モード推定部１２３、モード制限部１２４、減算部１０１、加算部１０２を備えている。図中の符号、１０３は変換部１１２から出力される変換係数、１０４は量子化部１１３から出力される量子化済み変換係数、１０５はスキャン部１１４から出力されるスキャン済み変換係数、１０６は可変長符号化部１１５から出力される可変長符号化される変換係数の情報、例えば、符号量を示している。

（画像符号化装置１００の動作）
　画像符号化装置１００は、入力された画像をブロックに分解し、各ブロックに対して、まず、モード選択部１２２を動作させると、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、変換係数評価部１２１、モード推定部１２３、モード制限部１２４を動作させてスキャンモードを選択し、選択されたスキャンモードがスキャン部１１４、可変長符号化部１１５に送られる。
　次に、入力された画像に対して、選択されたスキャンモードを用いて従来の符号化処理を実行する。

　尚、予測部１１１、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、減算部１０１、加算部１０２は、従来の符号化処理であるので、以下簡単に説明する。

　予測部１１１は、入力信号の予測信号を生成する。
　減算部１０１は、入力信号と予測信号の差分から残差信号を得る。
　変換部１１２は、残差信号に対しＤＣＴ変換などにより変換係数を算出する。
　量子化部１１３は変換係数を量子化する。量子化された変換係数は、一方では、スキャン部１１４で一次元に並べられ、可変長符号化部１１５で符号化される。量子化された変換係数は他方では、逆量子化部１１６で逆量子化、逆変換部１１７で逆変換が行われ、残差信号が再生される。
　再生された残差信号と予測信号は、加算部１０２で加算され局所復号ブロックが再生される。再生された局所復号ブロックは、フレームメモリ１１８に格納される。

　次に、本発明に係る構成要素（変換係数評価部１２１、モード選択部１２２、モード推定部１２３、モード制限部１２４）および上述の従来の構成要素のうち追加機能について説明する。

　図２は、本発明で用いるスキャン方法を説明する図である。図２は、４×４の変換係数を表し、図中の０から１５の値は、変換係数の位置毎にスキャンされる順番を示す。
　図２（Ｂ）に示す垂直優先スキャンは、垂直方向にゼロでない変換係数が集中するような横方向の模様があるブロックで有効であり、逆に、図２（Ｃ）に示す水平優先スキャンは、水平方向にゼロでない変換係数が集中するような縦方向の模様があるブロックに有効である。図２(Ａ)のジグザグスキャンは、垂直優先でも水平優先でもないスキャンである。

　スキャン部１１４は、ジグザグスキャン、垂直優先スキャン、水平優先スキャンから選択されたいずれかのスキャン方法（以下、スキャンモード）を用いる。スキャンモードの選択は、モード選択部１２２で行われる。
　尚、スキャンモードをこれら３つに制限する必要は無く、後述するように出現確率に基づくスキャンなど他のスキャンモードを用いても良い。本実施形態１ではスキャンモードを識別するためのモード番号を、ジグザグスキャンを１、垂直方向優先を２、水平方向優先を３とする。他のスキャンモードを用いる場合のモード番号は０とする。

（変換係数評価部１２１の説明）
　変換係数評価部１２１は、予め設定しておいた評価方法によって変換係数の情報からその特徴を示す評価値ｘＣを算出する。
　変換係数評価部１２１への入力は、評価方法により異なる。評価が符号量に依存する場合は、１０６の符号量を入力する。スキャン方法に依存する場合は、１０５のスキャン後の変換係数を入力する。量子化方法に依存する場合には、１０４の量子化済み変換係数を入力する。変換方法に依存する場合には、１０３の変換係数を入力する。

　評価値ｘＣの算出方法には様々なものがあり、以下に主な算出方法を説明する。

（方法Ａ）
　対象ブロック内のゼロ以外の変換係数の数ｎＣを評価値ｘＣとする。

（方法Ａ´）
　一次元に並べられた変換係数のうち、０が続く変換係数の長さ（０である変換係数が長く並ぶほど大きくなる値）ｌＣを評価値ｘＣとする。
　例えば、ｌＣは、一次元に並べられた変換係数において、０である変換係数が連続する数の最大値を示す。また、ｌＣは、一次元に並べられた変換係数のうち、０である変換係数の最後の連続以外の場合の、０である変換係数が連続する数の最大値を示す。

（方法Ｂ）
　量子化後の変換係数の大きさｍＣを評価値ｘＣとする。
　例えば、ｍＣは、量子化後の変換係数の絶対値最大値、あるいは、量子化後の変換係数の絶対値の和、あるいは、量子化後の変換係数の２乗の和等とする。

（方法Ｃ）
　対象ブロック内の変換係数を符号化した場合の符号量ｒＣを評価値ｘＣとする。

（方法Ｄ）
　変換係数のばらつきｖＣを評価値ｘＣとする。
　例えば、ｖＣは、対象ブロック内の変換係数の分散、あるいは、対象ブロック内の変換係数の標準偏差等とする。

（方法Ｅ）
　量子化後の変換係数の大きさｍＣと、ゼロ以外の変換係数の数ｎＣから計算される符号化効率ｅＣを評価値ｘＣとする。
　変換係数を逆量子化し、逆変換して得られる信号が残差信号であるが、少ないｎＣでより多くの残差のエネルギーを表現できれば、その方法は符号化効率が高いと考えられ、ｅＣは、この効率を表現するものである。
　ｅＣの算出方法は、様々なものがあり、例えば、ｍＣ／ｎＣなどがある。

（方法Ｅ´）
　また、ゼロ以外の変換係数の数ｎＣの代わりに変換係数の符号量ｒＣを用いて符号化効率ｅＣを算出してもよく、例えば、ｍＣ／ｒＣなどがある。
　なお、ｍＣの評価方法は、方法Ｂで説明したものであり、変換係数を逆量子化し、逆変換して得られる残差信号のエネルギーに関わるものであれば良い。
　尚、ｅＣを計算する関数（入力はｍＣ、ｎＣ、ｒＣ）は、上記説明によらず、ｍＣについて単調増加、ｎＣ、ｒＣについて単調減少する関数であればいずれでも構わない。

（方法Ｆ）
　ゼロ以外の変換係数が存在する（ゼロ以外の変換係数の数ｎＣが０でない）か否かを示すｃｂｐ（Coded Block Pattern）の値ｆＣを評価値ｘＣとする。
　ｆＣ＝０（ｎＣが０の場合）
　ｆＣ＝１（ｎＣが０以外の場合）

（方法Ｇ）
　最低次数の変換係数がゼロであるか否かを示す値ｄＣを評価値ｘＣとする。ＤＣＴ変換、アダマール変換では、最低次数の変換係数はＤＣ係数になる。
　ｄＣ＝０（最低次数の変換係数がゼロの場合）
　ｄＣ＝１（最低次数の変換係数がゼロ以外の場合）

　また、方法Ａから方法Ｇで説明した値ｎＣ、ｌＣ、ｍＣ、ｒＣ、ｖＣ、ｅＣ、ｆＣ、ｄＣを複数個用いて算出される式、例えば（ｎＣ＋ｖＣ）を評価値ｘＣとしてもよい。

（モード推定部１２３の説明）
　モード推定部１２３は、変換係数評価部１２１から出力される評価値ｘＣに応じて、スキャンモードを推定し、モード推定信号として出力する。
　変換係数の数が小さい場合など、変換係数の特徴を示す評価値ｘＣが小さい場合には、残差信号が小さい、即ち、予測信号が原画とよく合っていることを示している。

　予測画像を画面内予測によって求める場合には、符号化対象ブロックが周囲のブロックと似ていることが考えられる。
　画面間予測を行っている場合に、符号化対象ブロックがその周囲のブロックと大きく異なる動きをしているときには、予測が当らなくなると考えられるから、それ以外は画面間予測においても、符号化対象ブロックとその周囲のブロックはある程度、似ていると考えられる。また、符号化対象ブロックと予測画像の生成に用いた参照フレームのブロックは似ていると考えられる。

　このように、符号化対象ブロックとその周囲のブロック間（もしくは、参照フレームのブロック）で同じような性質を持つと考えられ、既に符号化した周囲のブロック（もしくは参照フレームのブロック）から高精度にモードを推定できる。
　逆に、評価値ｘＣが大きい場合には既に符号化した周囲のブロックとの違いが大きくモードの推定は困難である。

　モード推定部１２３は、この性質に基づき、変換係数の特徴を示す評価値ｘＣが小さい場合には、上ブロックのスキャンモードと左ブロックのスキャンモードのうち、優先順位の高い方のスキャンモードをモード推定信号とし、評価値ｘＣが大きい場合には、ジグザグスキャンをモード推定信号とする。ここでは、優先順位はジグザグスキャン、垂直優先スキャン、水平優先スキャンの順である。本実施形態の場合、優先順位の高い順にモード番号が振られているので、モード番号の小さい方を選択するだけで優先順位の高い方のモードを選択できる。

　尚、変換係数の特徴を示す評価値ｘＣが小さいかどうかを判定するための閾値は、以下のような実験により定める。
　まず、複数のテスト画像を準備した上で、所定の閾値を複数、定める。テスト画像の一つに対してある定めた閾値の１つを選択し順に符号化を行うことで、すべてのテスト画像、すべての閾値の組み合わせについて符号化を行う。
　次に、符号化結果を用いて、シーケンス全体の符号量と、シーケンス全体に対する局所復号画像と入力画像の残差から、ＲＤコストを算出する。
　続いて、閾値毎に、用いたテスト画像で平均することで閾値に対する平均ＲＤコストを算出する。
　最後に、平均ＲＤコストが最小となる閾値を選択することで、最適な閾値パラメータを定めることができる。

（ＲＤコストの説明）
　ＲＤコストは、歪み量Ｄと符号量Ｒおよび所定の定数λから計算されるコストであり、次の式（１）で求める。
　ＲＤコスト　＝　Ｄ　＋　λＲ　　　…　（１）
　ここで、λは、歪み量Ｄと符号量Ｒのバランスをとるための値であり、通常、量子化パラメータの値によって定める。

　歪み量Ｄは、選択した符号化モードにおいて、逆量子化、逆変換を行い、予測信号との和により、局所復号画像を生成し、局所復号画像と入力画像との絶対値差分和（もしくは２乗差分和）を歪み量Ｄとする。符号量Ｒは、符号化モードの符号量と、変換係数の符号量の和から算出する。

　このＲＤコストは、歪み量Ｄが小さい場合、また、符号量Ｒが小さい場合に小さくなる値であり、複数の符号化モードにおけるＲＤコストを算出しておいた上で、ＲＤコスト最小の符号化モードを選択し符号化を行うことで、符号量Ｒを抑えながら、歪み量Ｄを小さくするという意味で最適な符号化モードで符号化が可能である。尚、符号化モードを選択する場合に用いる符号化コストとしては、ＲＤコスト以外に、歪み量Ｄ、符号量Ｒなども用いることができる。

　一般に、残差信号においては、横方向にエッジがある場合が、縦方向にエッジがある場合よりも多いことから上記の順序（ジグザグスキャン、垂直優先スキャン、水平優先スキャンの優先順位）を用いているが、シーケンス毎、フレーム毎、複数のブロックの組毎に符号化するヘッダ情報に、スキャン順の優先順序を符号化し、適当な単位で変更しても良い。

　尚、スキャンモードの推定には他の方法も適用可能である。例えば、すでに符号化されたゼロ以外の変換係数の位置毎の出現頻度（もしくは、出現確率）を算出することを用いた方法が考えられ、以下に、２つの方法を示す。

　図３は、出現頻度に基づく推定方法を用いたモード推定部１２３の構成を示すブロック図である。同図において、モード推定部１２３は、出現頻度を格納するための頻度格納部１００１、出現頻度を測定する頻度測定部１００２、出現頻度の偏りを評価する頻度評価部１００３、モード推定信号を決定するモード推定信号決定部１００４から構成されている。

　頻度格納部１００１は、変換係数の位置の個数分（図２の例では、４×４個）の整数値を格納する。以下、変換係数の位置を（ｘ、ｙ）で示す場合に、保持される値（頻度）をＭ（ｘ、ｙ）で表す。

　頻度測定部１００２は、フレーム先頭もしくはスライス先頭の場合に、頻度格納部１００１のすべての頻度Ｍ（ｘ、ｙ）をゼロに初期化する。変換係数を符号化する場合に、すべての変換係数の位置に対して、その位置の変換係数がゼロ以外であれば、頻度格納部１００１で保持される頻度Ｍ（ｘ、ｙ）を１だけインクリメントする。

　頻度評価部１００３は、頻度格納部１００１の値を評価し、出現頻度がどのように集中しているかを示す値を出力する。例えば、出現位置が水平方向に集中しているかを示す評価値Ｈと、垂直方向に集中しているかを示す評価値Ｖを算出し、Ｈが所定の定数以上でありＨ＞Ｖであれば３、Ｖが所定の定数以上でありＶ＞Ｈであれば２、どちらでもなければ１を出力する。

　モード推定信号決定部１００４は、頻度評価部１００３の出力に従いモード推定信号を決定する。例えば、１であればジグザグスキャン、２であれば垂直スキャン、３であれば水平スキャンをモード推定信号とする。
　以上の方法により、既に符号化されたゼロ以外の変換係数の位置毎の出現頻度に応じてスキャンモードの推定が可能である。

　図４は、出現頻度に基づく推定方法を用いたモード推定部１２３の他の構成を示すブロック図である。同図において、モード推定部１２３は、頻度格納部１００１、頻度測定部１００２、出現頻度からスキャン順を生成するスキャン順生成部１１０３、モード推定信号を決定するモード推定信号決定部１１０４から構成されている。頻度格納部１００１と頻度測定部１００２は既に説明した通りなので説明を省略する。

　スキャン順生成部１１０３は、頻度格納部１００１に格納された出現頻度の大きい順に、変換係数の位置を並べる。並べられた変換係数の位置は、スキャンモードとして用いることができる。
　例えば、図５は、このようなスキャンモードを生成する方法を示す図であり、図５（Ａ）は変換係数毎の出現頻度を表し、図５（Ｂ）は出現頻度の高い順をスキャン順序とするスキャンモードである。

　モード推定信号決定部１１０４は、モードの種別を示す信号と、具体的なモードの内容を示す信号をモード推定信号として出力する。例えば、モード種別は番号０（上述したように、ジグザグスキャン、垂直優先スキャン、水平優先スキャン以外のモードのときは番号を０としている。）とし、スキャンモードの内容を示す情報は、スキャン順生成部１１０３で生成されたスキャン順（位置情報を並べた信号）とする。

（モード制限部１２４の説明）
　モード制限部１２４は、変換係数評価部１２１から出力された評価値ｘＣに応じて、選択可能なスキャンモードを制限し、モード制限信号として出力する。モード制限信号は、選択可能なスキャンモードの数と、選択可能なスキャンモードの範囲を示す信号である。但し、選択可能なスキャンモードが１個の場合には、選択可能なスキャンモードの範囲は不要とし、選択可能なスキャンモードの数のみで良い。

　選択可能なスキャンモードを制限するほど、スキャンモードを識別するためのフラグの符号量を削減することができ、特に、選択可能なスキャンモードが１個の場合には、フラグの符号化は不要となる。
　スキャンモードの切替により符号量が削減できるのは、ゼロとなる変換係数の偏りを大きくする、即ち、ゼロとなる変換係数がより長く連続するように偏らせる場合、および、ゼロとなる変換係数をスキャン順の後半に偏らせることができる場合である。
　そのため、対象ブロックにおいてゼロ以外の変換係数の数ｎＣが特に少ない場合、逆にｎＣが特に多い場合にはスキャンモードの切替えは効果が小さい。

　また、符号量ｒＣが小さい場合には、フラグを用いて多くの選択肢からスキャンモードの切替を行うと、符号量ｒＣに比べてフラグの符号量が大きくなり全体として符号量が増加する可能性がある。そのため、符号量ｒＣが特に小さい場合には、選択肢の数は少なく、例えば１個にするのがよい。

　次に、変換係数の大きさｍＣ、ばらつきｖＣ、符号化効率ｅＣ、ｃｂｐのｆＣ、ｄＣとの関係を以下に説明する。
　量子化後の変換係数の大きさｍＣが大きい場合には、大きい変換係数を先に符号化した方が高い符号化効率となることから、そうなるようにスキャン順を変更する効果が大きい。そのため選択肢をｍＣが小さい場合より多くする。

　ばらつきｖＣが大きい場合も、大きな変換係数を先に符号化する効果があるため、選択肢をｖＣが小さい場合より多くする。符号化効率が高い場合もスキャン順の選択肢を多くする。
　ｃｂｐのｆＣがゼロの場合には選択肢をゼロとする。

　最低次数の変換係数ｄＣが大きい場合には、通常のジグザグスキャンの場合にも、大きな変換係数が先に符号化される効果が得られることから、選択肢をｄＣが小さい場合より少なくする。

　図６は、モード制限部１２４の動作を説明する図である。図６（Ａ）に示すように一つの方法では、変換係数の評価値ｘＣが所定の値ＴＨＸ０よりも小さい場合には、選択可能なスキャンモードの数を１個に制限する。所定の値ＴＨＸ０以上である場合には、選択可能なスキャンモードの数をＮ個（Ｎ＞１）とする。

　他の方法では、図６（Ｂ）に示すように、変換係数の評価値ｘＣが所定の値ＴＨＸ０よりも小さい場合には、選択可能なスキャンモードの数を１個に制限する。所定の値ＴＨＸ０以上であり他の所定の値ＴＨＸ１より小さい場合には、選択可能なスキャンモードの数をＮ１個（Ｎ１＞１）とする。所定の値ＴＨＸ１以上である場合には、選択可能なスキャンモードの数をＮ２個とする。

　選択可能なスキャンモードの数が１個より大きい場合には、選択可能なスキャンモードの数に加え、選択可能なスキャンモードの範囲としてモード番号のリストを出力する。ここでは２個であればモード番号を示す１、２を出力し、３個であれば、１、２、３を出力する。

　尚、モード推定部１２３とモード制限部１２４は異なる変換係数の評価値ｘＣを用いても構わない。即ち、モード推定部１２３では符号量ｒＣを用い、モード制限部１２４では変換係数の数ｎＣを用いる構成でも良い。

　また、所定の値ＴＨＸ０、ＴＨＸ１は、以下のような実験により定める。
　まず、複数のテスト画像を準備した上で、所定の値ＴＨＸ０、ＴＨＸ１の数種類の組合せ（閾値パラメータ）を定める。テスト画像の一つに対してある定めた閾値パラメータの１つを選択し順に符号化を行うことで、すべてのテスト画像、すべての閾値パラメータの組み合わせについて符号化を行う。
　次に、符号化結果を用いて、シーケンス全体の符号量と、シーケンス全体に対する局所復号画像と入力画像の残差から、ＲＤコストを算出する。
　続いて、閾値パラメータ毎に、用いたテスト画像で平均することで閾値パラメータに対する平均ＲＤコストを算出する。
　最後に、平均ＲＤコストが最小となる閾値パラメータを選択することで、最適な閾値パラメータを定めることができる。

　また、モード制限を行う場合の制限するスキャンモードは、以下のような実験により定める。
　まず、複数のテスト画像を準備し、選択されたスキャンモードの数を数える装置を追加した画像符号化装置を設ける。この画像符号化装置は、モード制限を行わずに動作するものとし、本明細書で説明する画像符号化装置である必要はなく、従来からある画像符号化装置で構わない。

　このモード選択を行わない画像符号化装置を用いて、準備したすべてのテスト画像に対して符号化を行う。
　次に、選択された数に対し、テスト画像を用いて平均した値を算出する。モード制限部１２４で用いるスキャンモードは、選択された数が多い順にＮ個分のスキャンモードとする。Ｎ個の数は、スキャンモード毎に選択された選択率を算出し、選択率が高いものからＭ個の選択率を合計した場合の累積選択率の値が所定の割合（例えば、５０％）を超える初めてのＭの値を用いる。

（モード選択部１２２の説明）
　モード選択部１２２は、モード推定部１２３およびモード制限部１２４の出力値に基づいてスキャンモードを選択する。図７のフローチャートを用いて、モード選択部１２２の動作を説明する。（尚、以下の説明の左端の括弧付きの記号、例えば、（Ｓ１００１）等は、図７の処理ボックスに対応している。）

（Ｓ１００１）予測部１１１により予測信号を生成する。
（Ｓ１００２）減算部１０１により予測信号と入力信号の差分から残差信号を生成する。
（Ｓ１００３）変換部１１２により残差信号を変換する。
（Ｓ１００４）量子化部１１３により変換係数を量子化する。

（Ｌ１００１）制御変数ｋを１から３まで変化させて、以下のＳ１００５～Ｓ１０１３を繰り返し実行する。その後Ｓ１０１４に進む。尚、出現確率に基づくスキャンモードを用いる場合には、このモード番号を０として、制御変数ｋ＝０，１，２，３に対して以下の処理を行う。

（Ｓ１００５）スキャン部１１４により制御変数ｋに対応するスキャンモード（モード番号ｋのスキャンモード）でスキャンする。
（Ｓ１００６）可変長符号化部１１５により量子化、スキャンされた変換係数の可変長符号化を行う。
（Ｓ１００７）変換係数評価部１２１で変換係数の特徴を示す評価値ｘＣを得る。
（Ｓ１００８）変換係数評価部１２１の評価値ｘＣに従い、モード推定部１２３でスキャンモードを推定し、モード推定信号を得る。
（Ｓ１００９）変換係数評価部１２１の評価値ｘＣに従い、モード制限部１２４で選択可能なスキャンモードを制限し、モード制限信号を得る。
（Ｓ１０１０）モード制御信号を参照して、制御変数ｋに対応するスキャンモードが選択可能かを判定する。選択可能な場合はＳ１０１１、選択不可能な場合にはＳ１０１３に進む。
（Ｓ１０１１）可変長符号化部１１５によりフラグを符号化する。
（Ｓ１０１２）歪み量Ｄと符号量Ｒから算出されるＲＤコストを用いてコストを算出する。符号量Ｒは、変換係数の符号量とフラグの符号量とする。
（Ｓ１０１３）このスキャンモードが選択されないように、制御変数ｋに対応するコストを最大値に設定する。

（Ｓ１０１４）コスト最小となるスキャンモードを選択し、スキャン部１１４および可変長符号化部１１５に出力する。

　このような動作により、変換係数の特徴に従いスキャンモードが推定され、またその評価値ｘＣに従い選択可能なスキャンモードを制限するので、最適なスキャンモードを選択することができる。

（可変長符号化部１１５の説明）
　可変長符号化部１１５は、スキャン部１１４で一次元に並べられた量子化変換係数を符号化するとともに、モード制限部１２４で選択可能なスキャンモードが１個に制限される場合、スキャンモードをフラグとして符号化しない。また、モード推定部１２３で推定されたスキャンモードと選択されたスキャンモードが同じ場合には、モード推定信号が用いられるか否かを示す値を１として符号化し、選択されたスキャンモードをフラグとして符号化しない。
　また、モード制限部１２４で選択可能なスキャンモードが１個に制限されない場合や、モード推定信号（推定されたモード）と選択されたスキャンモードが異なる場合には、モード推定信号が用いられるか否かを示す値を０として符号化し、選択されたスキャンモードを識別するためのフラグを符号化する。

　尚、モード選択部１２２でスキャンモードを選択する間に、可変長符号化部１１５で行う符号化は、符号量を測定するための仮の符号化であり、符号化データは外部に出力せずに破棄する。
　また、フラグの符号化方法には、選択されたスキャンモードとモード推定信号の差分を符号化する方法もある。

（本発明の符号化データ）
　本発明では、符号化データ中にフラグが存在するかどうかを、変換係数の特徴により判定する。そのため、符号化データは、変換係数の符号よりもフラグの符号が後に位置する構成、もしくは、変換係数の特徴を示す符号よりもフラグの符号が後に位置する構成にする必要がある。

　図８は、従来の符号化データの構成を示す図であり、図９は本発明の符号化データの構成を示す図である。図９のフラグは、スキャン方法のフラグ、変換方法のフラグあるいは予測方法のフラグである。従来は、図８のようにフラグの次に変換係数が符号化されていたが、本発明では、図９（Ａ）のように変換係数の次にフラグが符号化される。尚、フラグの符号化が必要ではない場合にはフラグは存在しない。これ以外にも、図９（Ｂ）乃至（Ｅ）の構成をとることができる。

　図９（Ｂ）は、変換係数を２つ以上に分け、一部分をフラグの前で符号化し、残る部分をフラグの後で符号化する。２つに分ける方法としては、例えば、低周波成分を前半、高周波成分は後半に分ける方法、また、例えば、ゼロでない変換係数の位置を示す情報（ラン）を前半、ゼロでない変換係数の値を後半に分ける方法がある。ゼロでない変換係数の位置からはゼロでない変換係数の数の情報も取得することができる。

　図９（Ｃ）は、変換係数の特徴を示す情報をフラグの前に符号化し、変換係数をフラグの後に符号化する。変換係数の特徴としては、ｃｂｐ、変換係数の数、変換係数を可変長符号化するテーブルを示すフラグなどがある。
　図９（Ｄ）は、図９（Ｃ）の変換係数の特徴がｃｂｐの場合を示している。

　図９（Ｅ）は、変換係数のランをフラグの前に符号化し、変換係数のレベルをフラグの後に符号化する構成を示している。
　変換係数は、通常、変換係数の位置を示すランと、変換係数の大きさを示すレベルに分けて符号化される。例えば、スキャン順に、（１，２，０，０，－４，・・・）となる変換係数を符号化する場合には、ランとレベルの組として（０，１）、（０、２）、（２、－４）、・・・を順に符号化する。

　以上、説明した画像符号化装置１００では、変換係数の特徴を用いることにより、スキャンモードの切替が有効であるか否かに応じて選択可能なスキャンモードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化できる。
　また、変換係数の特徴に応じて、スキャンモードの推定方法を変えるため、スキャンモードの推定精度が向上し、さらに、フラグの符号量が削減され符号化効率が向上する。

　上述の実施形態１では、モード推定部１２３とモード制限部１２４の両者を備える構成を説明したが、変形例として、モード推定部１２３のみを備えモード制限部１２４を備えない構成、および、モード推定部１２３を備えず、モード制限部１２４のみを備える構成も考えられる。

＜＜変形例１＞＞
（モード推定部１２３のみを備える構成）
　図１０は、モード制限部１２４を備えず、モード推定部１２３を備える変形例１のモード選択部１２２の動作を説明するフローチャートである。
　この場合のモード選択部１２２の動作は、図７を用いて説明したものと基本的に同じであるが、Ｓ１００９のモード制限信号を得る動作、Ｓ１０１０の判定／分岐の動作、Ｓ１０１３のスキャンモードが選択されないようにコストを設定する動作がない点が異なっている。

＜＜変形例２＞＞
（モード制限部１２４のみを備える構成）
　図１１は、モード推定部１２３を備えず、モード制限部１２４を備える変形例２のモード選択部１２２の動作を説明するフローチャートである。
　この場合のモード選択部１２２の動作は、図７を用いて説明したものと基本的に同じであるが、Ｓ１００８のモード推定信号を得る動作がない点が異なっている。

　また、先に説明したモード制限部１２４は、選択可能なスキャンモードの数が１個より大きい場合には、選択可能なスキャンモードの数に加え、選択可能なスキャンモードの範囲としてモード番号のリストを出力する動作であったが、本変形例２の場合には、選択可能なスキャンモードの数が１個の場合にも、選択可能なスキャンモードの範囲（ここでは１個なのでスキャンモード）を出力する。

＜＜実施形態２＞＞
　実施形態２の画像復号装置は、実施形態１の画像符号化装置１００で生成された符号化データを復号する。

（画像復号装置２００の構成）
　図１２は、本発明の実施形態２に係る画像復号装置２００の構成を示すブロック図である。同図において、画像復号装置２００は、可変長符号化復号部２０１、逆スキャン部２０２、予測部１１１、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード推定部１２３、モード制限部１２４、モード復号部２２２、加算部１０２を備えている。尚、上記構成のうち、実施形態１と同様の構成要素に関しては同一の符号を付し、その説明を省略する。

（画像復号装置２００の動作）
　画像復号装置２００に入力された符号化データは、まず、可変長符号化復号部２０１に入力される。可変長符号化復号部２０１は、符号化データの可変長復号により、予測方法を示す信号と変換・量子化された残差信号である変換係数を復号する。復号された変換係数は、変換係数評価部１２１および逆スキャン部２０２に出力される。

　変換係数評価部１２１は、変換係数の特徴を評価し、評価値ｘＣをモード推定部１２３、モード制限部１２４に出力する。
　モード推定部１２３は、評価値ｘＣに応じてスキャンモードを推定し、モード推定信号としてモード復号部２２２に出力する。
　モード制限部１２４は、評価値ｘＣに応じて選択可能なスキャンモードを制限し、モード制限信号を可変長符号化復号部２０１、モード復号部２２２に出力する。
　可変長符号化復号部２０１は、モード制限信号を受信し、フラグの復号が必要な場合には、モード制限信号によって制限された選択可能なスキャンモードから、１個のスキャンモードを識別するフラグを復号し、モード復号部２２２に出力する。
　モード復号部２２２は、モード推定信号、モード制限信号、フラグを用いてスキャンモードを復号する。

　逆スキャン部２０２は、復号されたスキャンモードにより逆変換に必要な並びに変換係数を並びかえる。逆スキャンされた変換係数は、逆量子化部１１６で逆量子化、逆変換部１１７で逆変換が行われ、残差信号が再生される。再生された残差信号と予測信号は加算部１０２で加算され局所復号ブロックが再生される。再生された局所復号ブロックはフレームメモリ１１８に格納される。

（モード復号部２２２の説明）
　モード復号部２２２は、モード制限信号、モード推定信号、フラグを用いてスキャンモードを復号する。モード制限信号によりスキャンモードが１個に制限される場合や、モード推定信号が用いられるか否かを示す値が１の場合には、モード推定信号で指定されるスキャンモードとする。
　また、モード制限信号によりスキャンモードが複数である場合や、モード推定信号が用いられるか否かを示す値が０の場合には、フラグが指示するスキャンモードとする。

　図１３は、本発明の実施形態２に係る画像復号装置２００の動作を説明するフローチャートである。
（Ｓ１１０１）可変長符号化復号部２０１で、変換係数を復号する。但し、図９の（Ｂ）乃至（Ｅ）のように変換係数の特徴と変換係数が分割されて符号化されている場合には、変換係数の特徴あるいは変換係数の一部を復号する。
（Ｓ１１０２）変換係数評価部１２１で、変換係数の評価値ｘＣを算出する。
（Ｓ１１０３）モード推定部１２３で、変換係数の評価値ｘＣに応じてスキャンモードを推定する。
（Ｓ１１０４）モード制限部１２４で、変換係数の評価値ｘＣに応じて選択可能なスキャンモードの制限を行う。
（Ｓ１１０５）スキャンモードが１個に制限される場合には、フラグの復号が不要と判定され、Ｓ１１０７に進む。フラグの復号が必要な場合には、Ｓ１１０６に進む。
（Ｓ１１０６）フラグを復号する。例えば、モード推定信号をもちいるか否かを示す値が０の場合には、さらに追加のフラグを復号する。または、スキャンモードとモード推定信号の差分を復号する。
（Ｓ１１０７）スキャンモードが１個に制限される場合、もしくは、モード推定信号をもちいるか否かの値が１の場合には、推定されたスキャンモードを使用するスキャンモードとして復号する。それ以外の場合には追加のフラグを用いて、選択可能なモードの中から使用するスキャンモードを復号する。または、モード推定信号の差分から、使用するスキャンモードを復号する。
（Ｓ１１０８）可変長符号化復号部２０１で、変換係数が復号済みかを判定する。Ｓ１１０１で変換係数の特徴もしくは変換係数の一部を復号した場合にはＳ１１０９に進み、全ての変換係数が復号済みであればＳ１１１０に進む。例えば、Ｓ１１０１でｃｂｐが復号されｃｂｐが０となる場合はＳ１１１０に進む。
（Ｓ１１０９）可変長符号化復号部２０１で、残りの変換係数を復号する。
（Ｓ１１１０）逆スキャン部２０２で、変換係数を逆スキャンする。
（Ｓ１１１１）逆量子化部１１６で、変換係数の逆量子化を行う。
（Ｓ１１１２）逆変換部１１７で、逆変換を行い、残差信号を復号する。
（Ｓ１１１３）予測部１１１で、予測信号を生成する。
（Ｓ１１１４）加算部１０２で、予測信号と残差信号の和をとり、再生信号を生成する。

　以上、説明した画像復号装置２００では、変換係数の特徴を用いることにより、スキャンモードの切替が有効であるか否かに応じて選択可能なスキャンモードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化された符号化データを復号できる。
　また、変換係数の特徴に応じて、スキャンモードの推定方法を変えるため、スキャンモードの推定精度が高く、さらに、フラグの符号量が削減された符号化データを復号できる。

　上述の実施形態２では、モード推定部１２３とモード制限部１２４の両者を備える構成を説明したが、変形例として、モード推定部１２３を備え、モード制限部１２４を備えない構成、および、モード推定部１２３を備えず、モード制限部１２４を備える構成も可能である。

＜＜変形例３＞＞
（モード推定部１２３のみを備える構成）
　図１４は、モード制限部１２４を備えず、モード推定部１２３を備える変形例３の画像復号装置２００の動作を説明するフローチャートである。
　この場合のモード選択部１２２の動作は、図１３を用いて説明したものと基本的に同じであるが、Ｓ１１０４のモード制限信号を得る動作と、Ｓ１１０５の判定、分岐がない点が異なっている。また、モード推定信号をもちいるか否かの値が１である場合には、推定したモードを用いて復号し、値が０の場合にはフラグで指定されているモードをもちいて復号する。

＜＜変形例４＞＞
（モード制限部１２４のみを備える構成）
　図１５は、モード推定部１２３を備えず、モード制限部１２４を備える変形例４の画像復号装置２００の動作を説明するフローチャートである。
　この場合のモード選択部１２２の動作は、図１３を用いて説明したものと基本的に同じであるが、Ｓ１１０３のモード推定信号を得る動作がない点が異なっている。
　また、この場合のモード制限部１２４は、選択可能なスキャンモードの数が１個の場合にも、選択可能なスキャンモードを出力する。

＜＜実施形態３＞＞
　実施形態３では、変換モードを選択して符号化する場合について説明する。この場合、量子化方式、スキャン方式はあらかじめ定めておくものとする。

（画像符号化装置３００の構成）
　図１６は、本発明の実施形態３に係る画像符号化装置３００の構成を示すブロック図である。同図において、画像符号化装置３００は、予測部１１１、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード選択部３２２、モード推定部３２３、モード制限部３２４、減算部１０１、加算部１０２を備えている。尚、上記構成のうち、実施形態１と同様の構成要素に関しては同一の符号を付し、その説明を省略する。

（画像符号化装置３００の動作）
　画像符号化装置３００は、入力された画像をブロックに分解し、各ブロックに対して、まず、モード選択部３２２を動作させると、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、変換係数評価部１２１、モード推定部３２３、モード制限部３２４を動作させて変換モードを選択し、選択された変換モードが変換部１１２、逆変換部１１７、可変長符号化部１１５に送られる。
　次に、入力された画像に対して、選択された変換モードを用いて従来の符号化処理を実行する。

　尚、変換部１１２が用いる変換方法は、本実施形態では、ＤＣＴ変換、２次元ＫＬＴ変換、１次元ＫＬＴ変換とする。ＫＬＴ変換は、ＤＣＴ変換と同じく線形直交変換である。但し、ＤＣＴ変換が離散コサイン基底に基づく基底であるのに対し、ＫＬＴ変換は、実画像を用いて予め小数の変換係数にエネルギーが集中するように計算された基底を用いる。
　２次元ＫＬＴ変換は、水平方向のＫＬＴ変換と、垂直方向のＫＬＴ変換を直列に行う。
　１次元ＫＬＴ変換は、ブロック単位に１次元に並べ替えた数値列に対し１回のＫＬＴ変換を行う。尚、ＤＣＴ変換、ＫＬＴ変換に限らず離散サイン変換であるＤＳＴ変換、ウェーブレット変換、ガボール変換、スラント変換などを用いても良い。

　本実施形態では、変換方法（変換モード）を示すモード番号を、ＤＣＴ変換を１、２次元ＫＬＴ変換を２、１次元ＫＬＴ変換を３とする。

（モード推定部３２３の説明）
　モード推定部３２３は、変換係数評価部１２１から出力された評価値ｘＣに応じて変換モードを推定し、モード推定信号として出力する。
　変換係数の特徴を示す評価値ｘＣが小さい場合には、周囲からブロックの情報を用いた推定が当ると考えられるので上ブロックと左ブロックのうち、優先度の高い方のモード番号をモード推定信号とする。一般に、ＫＬＴ変換の方がＤＣＴ変換よりも符号化効率が高く、２次元変換の方が１次元変換よりも符号化効率が高いので、２次元ＫＬＴ変換、ＤＣＴ変換、１次元ＫＬＴ変換の順に選択する。

　また、評価値ｘＣが大きい場合には、予測が当りにくいと考えられるので、周囲のブロックの情報を利用した予測は行わず固定的にＤＣＴ変換を示すモード番号（１）をモード推定信号とする。

　また、すでに符号化されたブロックの変換モードの出現頻度を利用してモード推定信号を定める方法もある。
　図１７は、出現頻度に基づく推定方法を用いたモード推定部３２３の構成を示すブロック図である。図１７において、モード推定部３２３は、使用された変換モードを格納する変換モード格納部１２０１、変換モード測定部１２０２、変換モードの頻度を評価する変換モード頻度評価部１２０３、モード推定信号を決定するモード推定信号決定部１２０４から構成されている。

　変換モード格納部１２０１は、ブロックの位置ごとに、使用された変換モードの種別を格納する。ブロックの位置（ｘ、ｙ）ごとに、使用された変換モードの種別Ｔ（ｘ、ｙ）を格納する。

　変換モード測定部１２０２は、フレーム先頭もしくはスライス先頭の場合に、変換モード格納部１２０１のすべての種別Ｔ（ｘ、ｙ）をゼロに初期化する。また、変換係数を符号化する場合に、使用された変換モードの値をＴ（ｘ、ｙ）に格納する。

　変換モード頻度評価部１２０３は、変換モード格納部１２０１の変換モードの種別Ｔ（ｘ、ｙ）を参照して、変換モードの出現頻度を評価する。例えば、符号化対象ブロックの周囲のブロックのＴ(ｘ、ｙ)を参照し、各変換モードの出現回数を集計し、集計により出現頻度が最大となった変換モードの値を出力する。

　モード推定信号決定部１２０４は、変換モードの種別を示す信号と、具体的な変換モードの内容を示す信号をモード推定信号として出力する。例えば、モード種別は番号０（上述したＤＣＴ変換、２次元ＫＬＴ変換、１次元ＫＬＴ変換以外の変換方法のときはモード番号を０としている。）とし、モードの内容を示す情報は、変換モード頻度評価部１２０３から出力された出現頻度最大の変換モードとする。

（モード制限部３２４の説明）
　モード制限部３２４は、変換係数評価部１２１で得られる評価値ｘＣに応じて、選択可能な変換モードを制限し、モード制限信号として出力する。
　変換モードの切替は、少ない変換係数に多くのエネルギーを集中させられる場合、また、ゼロとなる変換係数の数を多くできる場合に符号化効率の向上を図るものである。変換係数の数が特に小さい場合や、変換係数がＤＣ成分に集中する場合には、どの変換モードを用いても大きな差がないと考えられる。

　例えば、ゼロ以外の変換係数の数ｎＣが小さい場合、変換係数の符号量ｒＣ、また、最低次数の変換係数ｄＣがゼロである場合には、変換係数の符号量に比べ、フラグの符号量が大きくなることから、評価値ｘＣが所定の値以下であれば、選択可能な変換モードを１個に制限する。
　それ以外、評価値ｘＣが所定の値よりも大きい場合には、選択可能な変換モードを３個とし、選択可能な変換モードの範囲を示すモード番号１、２、３をモード制限信号として出力する。尚、選択可能な変換モードの数をそれ以上（例えば４個）とし、選択可能な変換モードの範囲を示すモード番号を０、１、２、３とする方法もある。

（モード選択部３２２の説明）
　モード選択部３２２は、モード推定部３２３およびモード制限部３２４の出力値に基づいて変換モードを選択する。図１８のフローチャートを用いて、モード選択部３２２の動作を説明する。

（Ｓ１２０１）予測部１１１により予測信号を生成する。
（Ｓ１２０２）減算部（残差算出部）１０１により予測信号と入力信号の差分から残差信号を生成する。
（Ｌ１２０１）制御変数ｋを１から３まで変化させて、以下のＳ１２０３～Ｓ１２１３を繰り返し実行する。その後Ｓ１２１４に進む。尚、出現確率に基づく変換モードを用いる場合には、出現確率に基づく変換モードのモード番号０を処理対象に加えて、制御変数ｋ＝０，１，２，３に対して以下の処理を行う。

（Ｓ１２０３）変換部１１２により制御変数ｋに対応するモードの示す変換モード（モード番号ｋの変換モード）で残差信号を変換する。
（Ｓ１２０４）量子化部１１３により変換係数を量子化する。
（Ｓ１２０５）スキャン部１１４によりスキャンする。
（Ｓ１２０６）可変長符号化部１１５により量子化、スキャンされた変換係数の可変長符号化を行う。
（Ｓ１２０７）変換係数評価部１２１で変換係数の特徴を示す評価値ｘＣを得る。
（Ｓ１２０８）変換係数評価部１２１の評価値ｘＣに従い、モード推定部３２３で変換モードを推定し、モード推定信号を得る。
（Ｓ１２０９）変換係数評価部１２１の評価値ｘＣに従い、モード制限部３２４で選択可能な変換モードを制限し、モード制限信号を得る。
（Ｓ１２１０）モード制御信号を参照して、制御変数ｋに対応する変換モードが選択可能かを判定する。選択可能な場合はＳ１２１１、選択不可能な場合にはＳ１２１３に進む。
（Ｓ１２１１）可変長符号化部１１５によりフラグを符号化する。
（Ｓ１２１２）ＲＤコストを用いてコストを算出する。符号量Ｒは、変換係数の符号量とフラグの符号量とする。
（Ｓ１２１３）この変換モードが選択されないように、制御変数ｋに対応するコストを最大値に設定する。

（Ｓ１２１４）コスト最小となる変換モードを選択し、変換部１１２、逆変換部１１７および可変長符号化部１１５に出力する。

　以上、説明した画像符号化装置３００では、変換係数の特徴を用いることにより、変換モードの切替が有効であるか否かに応じて選択可能な変換モードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化できる。
　また、変換係数の特徴に応じて、変換モードの推定方法を変えるため、変換モードの推定精度が向上し、さらに、フラグの符号量が削減され符号化効率が向上する。

　また、上記の実施形態３では、モード推定部３２３とモード制限部３２４の両者を備える構成を説明したが、実施形態１と同様に、モード推定部３２３を備え、モード制限部３２４を備えない構成や、モード制限部３２４を備え、モード推定部３２３を備えない構成も可能である。

＜＜実施形態４＞＞
　実施形態４の画像復号装置は、実施形態３の画像符号化装置３００で生成された符号化データを復号する。

（画像復号装置４００の構成）
　図１９は、本発明の実施形態４に係る画像復号装置４００の構成を示すブロック図である。同図において、画像復号装置４００は、可変長符号化復号部２０１、逆スキャン部２０２、予測部１１１、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード復号部４２２、モード推定部３２３、モード制限部３２４、加算部１０２を備えている。尚、上記構成のうち、実施形態１、実施形態２および実施形態３と同様の構成要素に関しては同一の符号を付し、その説明を省略する。

（画像復号装置４００の動作）
　画像復号装置４００に入力された符号化データは、まず、可変長符号化復号部２０１に入力される。可変長符号化復号部２０１は、符号化データの可変長復号により、予測方法を示す信号と変換・量子化された残差信号である変換係数を復号する。復号された変換係数は、変換係数評価部１２１および逆スキャン部２０２に出力される。

　変換係数評価部１２１は、変換係数の特徴に基づいて評価値ｘＣを算出し、評価値ｘＣをモード推定部３２３、モード制限部３２４に出力する。
　モード推定部３２３は、評価値ｘＣに応じて変換モードを推定し、モード推定信号としてモード復号部４２２に出力する。
　モード制限部３２４は、評価値ｘＣに応じて選択可能な変換モードを制限し、モード制限信号として可変長符号化復号部２０１、モード復号部４２２に出力する。
　可変長符号化復号部２０１は、モード制限信号を受信し、フラグの復号が必要な場合には、モード制限信号によって制限された選択可能な変換モードから、１個の変換モードを識別するためのフラグを復号し、モード復号部４２２に出力する。
　モード復号部４２２は、モード推定信号、モード制限信号、フラグを用いて変換モードを復号する。

　逆スキャン部２０２は、逆変換に必要な並びに変換係数を並びかえる。逆スキャンされた変換係数は、逆量子化部１１６で逆量子化され、モード復号部４２２で復号された変換モードを用いて逆変換部１１７で逆変換が行われ、残差信号が再生される。再生された残差信号と予測信号は加算部１０２で加算され局所復号ブロックが再生される。再生された局所復号ブロックはフレームメモリ１１８に格納される。

（モード復号部４２２の説明）
　モード復号部４２２は、モード制限信号、モード推定信号、フラグを用いて変換モードを復号する。モード制限信号により変換モードが１個に制限される場合や、モード推定信号が用いられるか否かを示す値が１の場合には、モード推定信号で指定される変換モードとする。
　また、モード制限信号により変換モードが複数である場合や、モード推定信号が用いられるか否かを示す値が０の場合には、フラグが指示する変換モードとする。

　画像復号装置４００の動作は、上記した図１３のフローチャートで示したものと同様であるが、本実施形態では、図１３中のスキャンモードを変換モードと置き換え、Ｓ１１１２で行われる逆変換は、Ｓ１１０７（モード復号部４２２）で復号された変換モードで行う。

　以上、説明した画像復号装置４００では、変換係数の特徴を用いることにより、変換モードの切替が有効であるか否かに応じて選択可能な変換モードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化された符号化データを復号できる。
　また、変換係数の特徴に応じて、変換モードの推定方法を変えるため、変換モードの推定精度が高く、さらに、フラグの符号量が削減された符号化データを復号できる。

　上述の実施形態４では、モード推定部３２３とモード制限部３２４の両者を備える構成を説明したが、変形例として、実施形態２と同様、モード推定部３２３を備え、モード制限部５２４を備えない構成や、モード制限部３２４を備え、モード推定部３２３を備えない構成も可能である。

＜＜実施形態５＞＞
　実施形態５では、予測モードを選択して符号化する場合について説明する。この場合、変換方式、量子化方式、スキャン方式はあらかじめ定めておくものとする。

（画像符号化装置５００の構成）
　図２０は、本発明の実施形態５に係る画像符号化装置５００の構成を示すブロック図である。同図において、画像符号化装置５００は、予測部１１１、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード選択部５２２、モード推定部５２３、モード制限部５２４、減算部１０１、加算部１０２を備えている。尚、上記構成のうち、実施形態１および実施形態３と同様の構成要素に関しては同一の符号を付し、その説明を省略する。

（画像符号化装置５００の動作）
　画像符号化装置５００は、入力された画像をブロックに分解し、各ブロックに対して、まず、モード選択部５２２を動作させると、変換部１１２、量子化部１１３、スキャン部１１４、可変長符号化部１１５、変換係数評価部１２１、モード推定部５２３、モード制限部５２４を動作させて予測モードを選択し、選択された予測モードが予測部１１１、可変長符号化部１１５に送られる。
　次に、入力された画像に対して、選択された変換モードを用いて従来の符号化処理を実行する。

（画面内予測の説明）
　図２１は、画面内予測を説明する図である。画面内予測は、対象ブロックの周囲の再生済み画像を用いて、対象ブロックの画素値を予測するものである。
　図２１（Ａ）は、方向予測（線予測、１次元予測）を示す図である。方向予測は、対象ブロックに隣接するブロックの既に再生された画素の画素値を特定の方向に延長することによって行われる。図（Ａ）には、画面内予測の方向を示す矢印と数字が示されている。この数字は、予測モードを識別するためのモード番号０～８の値である。図示されていないが、画面内予測には方向予測のほかＤＣ予測がある。ＤＣ予測のモード番号は２である。

　図２１（Ｂ）は、ブロック予測（面予測、２次元予測）を示す図である。ブロック予測は、対象ブロックの周囲の再生画像からブロックを切り出し、対象ブロックの画素値を予測するものであり、モード番号を９とする。切り出されるブロックは、参照ブロックと呼ばれる。

　対象ブロックを符号化する時点で、参照ブロックに未再生領域が存在する場合には、未再生領域に隣接する再生画像の画素値を用いて補間（パディング）を行う。図２１（Ｂ）では、図中斜め線および縦線で示された領域が参照ブロックになるが、参照ブロックと対象ブロックとが重なる領域（図中、縦線領域）があり、この領域が未再生領域になる。
　ブロック予測では、可変長符号化部１１５において参照ブロックの位置を示す位置ベクトル（画面間予測の動きベクトルに相当）がモード識別用のフラグとして符号化される。

（モード推定部５２３の説明）
　モード推定部５２３は、変換係数評価部１２１で得られる評価値ｘＣに応じて予測モードを推定し、モード推定信号として出力する。
　予測モードの推定方法には、関数予測とマッチング予測がある、関数予測は方向予測の予測モードの推定に用いられ、マッチング予測は、方向予測、ブロック予測の両者のモード推定に用いられる。
　予測モードは、予測モードの種別を示す信号（モード番号）と、予測モードの内容を示す信号から構成され、モード推定信号はこの２つからなる。

　尚、方向予測の場合は、モード番号だけで内容が確定するので予測モードの内容を示す信号は不要である。ブロック予測の場合には、予測モードの内容を示す信号として参照ブロックの位置を示す位置ベクトルが用いられる。以下、モード番号ｍ（ｍは、０から１０の整数）の予測モードを予測モードｍと呼ぶ。

　図２２は、画面内モードのモード推定方法（関数予測とマッチング予測）を説明する図である。
　図２２（Ａ）は、対象ブロックの周囲のブロックの予測モードから、対象ブロックの予測モードを推定するもので関数予測と呼ぶ。この方法では、対象ブロックの左に位置するブロックの予測モードと、対象ブロックの上に位置するブロックの予測モードから、推定モードを決定する関数を定め、その関数の出力を予測モードとするものである。
　この関数は、発生確率が高い順に、モード番号の小さい方から予測モードを並べておいた場合には、小さい方のモード番号を出力する。この場合、確率の高い予測モードの予測が可能である。また、似た予測方法を近くに並べる場合には、予測モードの番号の平均を用いると良い。

　尚、左のブロック、もしくは、上のブロックのいずれかがブロック予測や画面間予測など方向予測以外の予測モードである場合には、方向予測を用いているブロックの予測モードをモード推定信号とする。また、左ブロック、上ブロックがともに方向予測を用いていない場合には、０（予測モード０）をモード推定信号とする。

　図２２（Ｂ）、図２２（Ｃ）は、マッチング予測を用いて予測モードを推定する方法を説明する図である。図２２（Ｂ）では、方向予測の予測モードを推定する方法を示し、図２２（Ｃ）は、ブロック予測の予測モードを推定する方法を示している。

　マッチング予測は、既再生領域から２つの領域を切り出し、領域間の絶対値差分和が最小であるものを選択することによって推定を行う。
　方向予測の予測モードを推定する場合の２つの領域は、図２２（Ｂ）に示したように方向予測のモード毎に定める。
　ここでは、予測モードごとに、既に符号化した２つの領域間の画素値の絶対値差分和を、その和に使用した画素数で割った値（正規化絶対値差分和Ｄ）を算出し、ついで正規化絶対値差分和Ｄを最小とする予測モードをモード推定信号とする。

　尚、正規化絶対値差分和Ｄの算出に用いる２つの領域は、予測モードに対応する方向ごとに、対象ブロックに隣接する画素領域と、その領域を、予測方向の逆方向に延長した先の画素領域間を用いる。
　また、予測モード２（ＤＣ予測）では、予測モードに対応する方向がないため２つの領域を定めることはできない。そのため、予測モード２に対応するＤの算出は行わず、これ以外の予測モードで算出したすべての正規化絶対値差分和Ｄが所定の値未満である場合には、予測モード２をモード推定信号とする。
　尚、既に符号化された領域の画素値を用いて、予測モードを推定する方法は上記によらず、既存のほかの方法を用いても構わない。

　図２２（Ｂ）は、上から順に、それぞれ予測モード０、予測モード１、予測モード４の正規化絶対値差分和Ｄを求める方法を示している。
　例えば、予測モード０では、対象ブロックの上に隣接するブロックにおいて、対象ブロックに隣接する領域（斜め線領域）と、予測モード０の方向（垂直方向）に延長した先に位置する領域（縦線領域）間で正規化絶対値差分和Ｄを算出する。

　方向予測には、予測モード０から予測モード８までの９種類の方向があるが、ここでは全ての方向を用いるのではなく、推定しやすい方向（予測モード）のみ（例えば、垂直方向の予測モード０と水平方向の予測モード１のみ）に制限するようにしてもよい。

　次に、図２２（Ｃ）は、マッチング予測でブロック予測の予測モードを求める方法を説明する図である。
　この方法は、対象ブロックに隣接する逆Ｌ字型の画素値と、再生画像から同じ逆Ｌ字型を切り取って得られる画素値を比較し、その絶対値差分和が最小であるものの位置ベクトルを求める。この方法はテンプレートマッチングとも呼ばれる。

　図２３は、変換係数評価部１２１から出力された評価値ｘＣに応じて予測モードを推定するモード推定部５２３の動作を説明するフローチャートである。
（Ｓ１３０１）変換係数を評価して出力された評価値ｘＣが所定値ＴＨ以下である場合にはＳ１３０２に進み、所定値ＴＨより大きい場合にはＳ１３０３に進む。
（Ｓ１３０２）既に符号化済みの周囲の画素値からマッチング予測を用いて予測モードを推定する。
（Ｓ１３０３）周囲のブロックの予測モードから関数予測を用いて予測モードを推定する。

（モード推定部５２３の別の動作）
　図２４は、モード推定部５２３の別の動作を説明するフローチャートである。
（Ｌ１４０１）制御変数ｋを０から８まで変化させて、以下のＳ１４０１を繰り返し実行する。その後Ｓ１４０２に進む。
（Ｓ１４０１）制御変数ｋに対応する既に符号化済みの２つの領域から正規化絶対値差分和Ｄを算出する。
（Ｓ１４０２）画素間相関が大きい順に選択順序を割り当てる。即ち、正規化絶対値差分和Ｄが小さい順に予測モードが選ばれるよう選択順序を設定する。
（Ｓ１４０３）関数予測により予測モードを推定する。即ち、対象ブロックの左に隣接するブロックの予測モードと、上に隣接するブロックの予測モードのうち、Ｓ１４０２で定められた選択順序の高い予測モード（モード番号の小さい方のモード）を選択する。

（モード推定部５２３の別の動作）
　モード推定部５２３は、画面間予測を用いて予測信号生成するようにしてもよい。
　この場合、変換係数の特徴を示す評価値ｘＣが小さいときには、ブロックマッチングを用いて動きベクトルを推定する。
　逆に、評価値ｘＣが大きいときには、符号化対象ブロック周囲の左ブロック、上ブロック、右上ブロックの動きベクトルの中央値を用いて動きベクトルを推定する。中央値の算出は、ベクトルの要素ごと（Ｘ方向ベクトル、Ｙ方向ベクトルは別々）に行われる。
　このときのモード推定信号は、モードの種別が画面間予測であることを示す予測モード１０と、モードの内容を示す動きベクトル（およびフレームＩＤ、ブロックの位置）とする。

　例えば、ゼロ以外の変換係数の数ｎＣが小さい場合には、予測がよく当たっていると推定される。この場合、対象ブロックと周囲の画素値の特徴が似ていると考えられることから、対象ブロックの既に再生済みの画素値を用いて、マッチング予測により適切な動きベクトルが予測できると考えられる。
　逆に、ｎＣが大きい場合には、対象ブロックと周囲の画素値の特徴に違いがあると考えられ、既に再生済みの画素値を用いては良い予測ができない。この場合、単に隣接するブロックの予測モードを用いる関数予測を用いる。同様の切替方法は、ゼロ以外の変換係数の数ｎＣによらず、変換係数評価部１２１で得られる別の評価値にも適用できる。

（モード制限部５２４の説明）
　モード制限部５２４は、変換係数評価部１２１で得られた評価値ｘＣに応じて、選択可能な予測モードを制限し、モード制限信号として出力する。モード制限信号は、選択可能な予測モードの数と、選択可能な予測モードの範囲とする。但し、選択可能な予測モードが１個の場合には、選択可能な予測モードの範囲は不要とし、選択可能な予測モードの数のみで良い。

　ゼロ以外の変換係数の数ｎＣが小さい場合は、予測が良く当たっていることから多いため、予測モードの数を少なく制限するのがよい。
　また、逆に、ｎＣが大きい場合も、予測が当たらないことを意味するから、予測モードに多くの符号量を使うことは非効率と考えられる。

　図６は、モード制限部５２４を説明する図である。図６（Ａ）、図６（Ｂ）に示すように、変換係数の評価値ｘＣと所定の値ＴＨＸ０、ＴＨＸ１に応じて選択可能な予測モードの数を１個もしくはＮ個（Ｎ＞１）もしくは、１個、Ｎ１個、Ｎ２個に制限する。
　選択可能な予測モードの数が１個より大きい場合には、選択可能な予測モードの数に加え、選択可能な予測モードの番号をモード制限信号として出力する。例えば、選択可能な予測モードがＮ個の場合には、選択可能な予測モードの範囲としてモード番号のリスト、即ち、モード番号０からモード番号Ｎ－１までのモード番号を出力する。

（モード選択部５２２の説明）
　モード選択部５２２は、モード推定部５２３およびモード制限部５２４の出力値に基づいて予測モードを選択する。図２５のフローチャートを用いて、モード選択部５２２の動作を説明する。

（Ｌ１５０１）制御変数ｋを０から８まで変化させて、以下のＳ１５０１～Ｓ１５１３を繰り返し実行する。その後Ｓ１５１４に進む。
　モード推定部５２３でマッチング予測を用いる場合には、ブロック予測を示すモード番号９を処理対象に加え、制御変数ｋ＝０…９に対して処理する。ｋが９の場合は、さらに位置ベクトルを所定のサーチ範囲で変化させながら、以下のＳ１５０１～Ｓ１５１３を繰り返す。ここで、位置ベクトルのサーチ範囲を、マッチング予測で得られる位置ベクトル（もしくはその周辺）に限定するようにすると、演算量が削減可能である。
　また、画面間予測を用いる場合には、これをモード番号１０として加え、以下のＳ１５０１～Ｓ１５１３を繰り返す。

（Ｓ１５０１）予測部１１１により制御変数ｋに対応する予測方法（モード番号ｋの予測モード）で予測信号を生成する。例えば、ｋが０～８の場合はモード番号ｋで示される方向予測、ｋが９の場合はブロック予測を用いる。ｋが１０の場合は画面間予測を用いる。
（Ｓ１５０２）減算部（残差算出部）１０１により予測信号と入力信号の差分から残差信号を生成する。
（Ｓ１５０３）変換部１１２により残差信号を変換する。
（Ｓ１５０４）量子化部１１３により変換係数を量子化する。
（Ｓ１５０５）スキャン部１１４によりスキャンする。
（Ｓ１５０６）可変長符号化部１１５により量子化、スキャンされた変換係数の可変長符号化を行う。
（Ｓ１５０７）変換係数評価部１２１で変換係数の特徴を示す評価値ｘＣを得る。
（Ｓ１５０８）変換係数評価部１２１の評価値ｘＣに従い、モード推定部５２３で予測モードを推定し、モード推定信号を得る。
（Ｓ１５０９）変換係数評価部１２１の評価値ｘＣに従い、モード制限部５２４で選択可能な予測モードを制限し、モード制限信号を得る。
（Ｓ１５１０）モード制限信号を参照して、制御変数ｋに対応する予測モードが選択可能かを判定する。選択可能な場合はＳ１５１１、選択不可能な場合にはＳ１５１３に進む。
（Ｓ１５１１）可変長符号化部１１５によりフラグを符号化する。
（Ｓ１５１２）ＲＤコストを用いてコストを算出する。符号量Ｒは、変換係数の符号量とフラグの符号量とする。
（Ｓ１５１３）この予測モードが選択されないように、制御変数ｋに対応するコストを最大値に設定する。

（Ｓ１５１４）コスト最小となる予測モードを選択し、予測部１１１および可変長符号化部１１５に出力する。

（可変長符号化部１１５の説明）
　実施形態５の可変長符号化部１１５におけるフラグの符号化方法を説明する。
　選択された予測モードが方向予測である場合には、モード推定信号が用いられるか否かを示す値、および、モード推定信号に対応する予測モードが用いられない場合には、さらにモード推定信号以外の予測モードを選択するためのフラグを符号化する。
　上記モード推定信号が用いられるか否かを示す値は、モード推定信号に対応する予測モードが選択された予測モードでなければ１とし、モード推定信号が用いる場合には０とする。

　また、選択された予測モードがブロック予測の場合には、選択された予測モードとモード推定信号の差分を符号化する。ブロック予測の場合、予測モードを示す情報は、ベクトルとなるので、予測モード間の差分はベクトル（差分ベクトル）になる。差分ベクトルは、水平方向、垂直方向の順に符号化する。

　以上、説明した画像符号化装置５００では、変換係数の特徴を用いることにより、予測モードの切替が有効であるかに応じて選択可能な予測モードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化できる。
　また、変換係数の特徴に応じて、予測モードの推定方法を変えるため、予測モードの推定精度が高く、さらに、フラグの符号量が削減され符号化効率が向上する。

（モード選択部５２２の他の動作の説明）
　図２６は、モード選択部５２２の他の動作を説明するフローチャートである。図２６の動作例は、図２５の動作の特殊例である。
　これは、変換係数の評価にｃｂｐ（Coded Block Pattern）を用い、ｃｂｐが０の場合に、モード推定部５２３においてマッチング予測によって予測モードを推定し、また、モード制限部５２４において選択可能な予測モードを１個に制限するものである。

（Ｓ１６０１）モード推定部５２３でｃｂｐ＝０の場合の予測モードを推定する。本実施形態では、ｃｂｐ＝０であるからマッチング予測を用いる。
（Ｓ１６０２）モード推定部５２３でｃｂｐ＝０の場合の予測モードを制限する。ｃｂｐ＝０であるから１個に制限する。
（Ｓ１６０３）予測部１１１により、Ｓ１６０１で推定された予測モードを用いて予測信号を生成する。
（Ｓ１６０４）変換係数の特徴、変換係数、予測モードを識別するフラグを符号化する。ここではｃｂｐ＝０であるのでｃｂｐのみを符号化し、変換係数の特徴の符号化は不要である。予測モードも１個に制限するためモード識別用のフラグの符号化も不要である。
（Ｓ１６０５）ＲＤコストを用いてコストを算出する。

（Ｌ１６０１）制御変数ｋを０から８まで変化させて、以下のＳ１６０６～Ｓ１６１６を繰り返し実行する。その後Ｓ１６１７に進む。
（Ｓ１６０６）モード推定部５２３でｃｂｐ≠０の場合の予測モードを推定する。本実施形態では、関数予測を用いる。
（Ｓ１６０７）モード推定部５２３でｃｂｐ≠０の場合のモードを制限する。ここでは予測モード０から予測モード８までに制限する。
（Ｓ１６０８）予測部１１１により制御変数ｋに対応するモードの示す予測方法（モード番号ｋの予測モード）で予測信号を生成する。
（Ｓ１６０９）減算部（残差算出部）１０１により、予測信号と入力信号の差分から残差信号を生成する。
（Ｓ１６１０）変換部１１２、量子化部１１３、スキャン部１１４により、残差信号を変換、量子化、スキャンする。
（Ｓ１６１１）変換係数評価部１２１により変換係数の評価値ｘＣを算出する。ここではｃｂｐを評価値ｘＣとする。
（Ｓ１６１２）ｃｂｐが０の場合にはＳ１６１３に進む。ｃｂｐがゼロ以外の場合にはＳ１６１４に進む。
（Ｓ１６１３）ｃｂｐ＝０の場合に、ゼロ以外の変換係数の数が０である変換係数の符号化が許される場合にはＳ１６１４に進む。そうでなければＳ１６１６に進む。
　尚、ｃｂｐ＝０の場合に、ゼロ以外の変換係数の数が０である変換係数の符号化が許される場合とは、ｃｂｐ＝１を符号化した後に、１個の変換係数も符号化しないような符号化データが生成できる場合である。例えば、ランレングス符号化の変換係数において変換係数の値＝０が最後のデータと決まっている場合に、最初の変換係数を変換係数の値＝０と符号化すればこのような符号化データを生成可能である。
（Ｓ１６１４）可変長符号化部１１５で、変換係数の特徴（ｃｂｐ）、変換係数、予測モード識別用フラグを符号化する。
（Ｓ１６１５）歪み量Ｄと符号量Ｒから算出されるＲＤコストを用いてコストを算出する。符号量Ｒは、変換係数の特徴（ｃｂｐ）、量子化されスキャンされた残差信号、予測モード識別用フラグを可変長符号化した場合の符号量から計算する。
（Ｓ１６１６）この予測モードが選択されないように、この制御変数ｋに対応するコストを最大値に設定する。

（Ｓ１６１７）コスト最小となる予測方法を選択し、予測部１１１および可変長符号化部１１５に出力する。

　以上、説明した方法により、変換係数の特徴、特にｃｂｐが０であるか否かに従い、モードの推定が行われる。ｃｂｐが０となるような、周囲の既に符号化済みの画素から精度の高いモードが推定できると考えられる場合には、既に符号化済みの画素値を用いるマッチング予測でモードを推定するため、予測方法を高い推定精度で推定できる。
　また、この場合の選択可能な予測モードを１個に制限するため、予測モードを示すフラグの符号量を０とすることができる。これにより、符号化効率を向上させることができる。

　また、上記の実施形態５では、モード推定部５２３とモード制限部５２４の両者を備える構成を説明したが、実施形態１と同様、モード推定部５２３を備え、モード制限部５２４を備えない構成や、モード制限部５２４を備え、モード推定部５２３を備えない構成も可能である。

＜＜実施形態６＞＞
　実施形態６の画像復号装置は、実施形態５の画像符号化装置５００で生成された符号化データを復号する。

（画像復号装置６００の構成）
　図２７は、本発明の実施形態６に係る画像復号装置６００の構成を示すブロック図である。同図において、画像復号装置６００は、可変長符号化復号部２０１、逆スキャン部２０２、予測部１１１、逆量子化部１１６、逆変換部１１７、フレームメモリ１１８、変換係数評価部１２１、モード復号部６２２、モード推定部５２３、モード制限部５２４、加算部１０２を備えている。尚、上記構成のうち、実施形態１、実施形態２および実施形態５と同様の構成要素に関しては同一の符号を付し、その説明を省略する。

（画像復号装置６００の動作）
　画像復号装置６００に入力された符号化データは、まず、可変長符号化復号部２０１に入力される。可変長符号化復号部２０１は、符号化データの可変長復号により、変換・量子化された残差信号である変換係数を復号する。復号された変換係数は変換係数評価部１２１および逆スキャン部２０２に出力される。

　変換係数評価部１２１は、変換係数の特徴に基づいて評価値ｘＣを算出し、評価値ｘＣをモード推定部５２３、モード制限部５２４に出力する。
　モード推定部５２３は、評価値ｘＣに応じて予測モードを推定し、モード推定信号としてモード復号部６２２に出力する。
　モード制限部５２４は、評価値ｘＣに応じて選択可能な予測モードを制限し、モード制限信号として可変長符号化復号部２０１、モード復号部６２２に出力する。
　可変長符号化復号部２０１は、モード制限信号を受信し、フラグの復号が必要な場合には、モード制限信号によって制限された選択可能な予測モードから、１個の予測モードを識別するためのフラグを復号し、モード復号部６２２に出力する。
　モード復号部６２２は、モード推定信号、モード制限信号、フラグを用いて予測モードを復号する。

　逆スキャン部２０２は、逆変換に必要な並びに変換係数を並びかえる。逆スキャンされた変換係数は逆量子化部１１６で逆量子化され、逆変換部１１７で逆変換が行われ、残差信号が再生される。
　予測部１１１は、復号された予測信号に従って、フレームメモリ１１８に格納された復号済みの画像を参照し、復号された予測モードで予測信号を生成する。加算部１０２は、予測信号と再生された残差信号の加算により局所復号ブロックを生成し、フレームメモリ１１８に格納する。

（モード復号部６２２の説明）
　モード復号部６２２は、モード制限信号、モード推定信号、フラグを用いて予測モードを復号する。モード制限信号により予測モードが１個に制限される場合や、モード推定信号が用いられるか否かを示す値が１の場合には、モード推定信号で指定される予測モードとする。
　また、モード制限信号により予測モードが複数である場合や、モード推定信号が用いられるか否かを示す値が０の場合には、フラグが指示する予測モードとする。

　画像復号装置６００の動作は、上記した図１３のフローチャートで示したものと同様であるが、本実施形態では、図１３中のスキャンモードを予測モードと置き換え、Ｓ１１１２で行われる逆変換は、Ｓ１１１３（モード復号部４２２）で復号された予測モードで行われる。

　以上、説明した画像復号装置６００では、変換係数の特徴を用いることにより、予測モードの切替が有効であるか否かに応じて選択可能な予測モードの選択肢を制限するため、モード識別用のフラグの符号量が削減され高い符号化効率で符号化された符号化データを復号できる。
　また、変換係数の特徴に応じて、予測モードの推定方法を変えるため、予測モードの推定精度が向上し、さらに、フラグの符号量が削減された符号化データを復号できる。

（画像復号装置６００の別の動作の説明）
　図２８は、画像復号装置６００の他の動作を説明するフローチャートである。
（Ｓ１７０１）可変長符号化復号部２０１でｃｂｐを復号する。
（Ｓ１７０２）ｃｂｐがゼロ以外の場合はＳ１７０３に進み、０の場合にはＳ１７０９に進む。
（Ｓ１７０３）モード推定部５２３でｃｂｐが０以外の場合の予測モードを推定し、モード制限部５２４で予測モードを制限する。
　尚、ｃｂｐが０以外の場合の予測モードの推定については実施形態５で説明した方法を用いるが、ここでは方向予測を用いる。
（Ｓ１７０４）モード復号部６２２で予測モードを復号する。
（Ｓ１７０５）可変長符号化復号部２０１で変換係数を復号する。
（Ｓ１７０６）逆スキャン部２０２で変換係数を逆スキャンする。
（Ｓ１７０７）逆量子化部１１６で変換係数の逆量子化を行う。
（Ｓ１７０８）逆変換部１１７で逆変換を行い、残差信号を再生し、Ｓ１７１０に進む。
（Ｓ１７０９）モード推定部５２３でｃｂｐが０の場合の予測モードを推定し、モード制限部５２４で予測モードを１つに制限する。予測モードが１つに制限されているので推定された予測モードを選択する。また、残差信号を０とする。
　尚、ｃｂｐが０の場合の予測モードの推定については実施形態５で説明した方法を用いる。
（Ｓ１７１０）予測部１１１で、復号された予測モードにより予測信号を生成する。
（Ｓ１７１１）加算部１０２で予測信号と残差信号の和により、再生信号を生成する。

　以上、説明した上記の動作によれば、変換係数の特徴、特にｃｂｐが０であるか否かによって予測モードが推定されることにより、予測モードの推定精度が向上し符号化効率が向上する。さらにｃｂｐが０である場合に選択可能な予測モードを１個に制限し、フラグを復号しないことにより、予測モードを示すフラグの符号量が削減され高い符号化効率で符号化された符号化データを復号できる。

　また、上記の実施形態６では、モード推定部５２３とモード制限部５２４の両者を備える構成を説明したが、実施形態２と同様、モード推定部５２３を備え、モード制限部５２４を備えない構成や、モード制限部５２４を備え、モード推定部５２３を備えない構成も可能である。

　また、本発明は上述した実施形態に限定されず、本発明の要旨を逸脱しない範囲内で各種の変形、修正が可能であるのは勿論である。

１００，３００，５００…画像符号化装置、１１１…予測部、１１２…変換部、１１３…量子化部、１１４…スキャン部、１１５…可変長符号化部、１１６…逆量子化部、１１７…逆変換部、１１８…フレームメモリ、１０１…減算部（残差算出部）、１０２…加算部、１２１…変換係数評価部、１２２，３２２，５２２…モード選択部、１２３，３２３，５２３…モード推定部、１２４，３２４，５２４…モード制限部、１００１…頻度格納部、１００２…頻度測定部、１００３…頻度評価部、１００４…モード推定信号決定部、１１０３…スキャン順生成部、１１０４…モード推定信号決定部、１２０１…変換モード格納部、１２０２…変換モード測定部、１２０３…変換モード頻度評価部、１２０４…モード推定信号決定部、
２００，４００，６００…画像復号装置、２０１…可変長符号化復号部、２０２…逆スキャン部、２２２，４２２，６２２…モード復号部。

Claims

　入力信号をブロック化し、該ブロック単位で前記入力信号の予測信号を生成する予測部と、前記入力信号と前記予測信号の残差信号を変換して変換係数を算出する変換部と、前記変換係数を量子化する量子化部と、前記量子化後の変換係数を一次元に並べるスキャン部と、前記スキャンされた変換係数を符号化する可変長符号化部と、を備えて符号化データを生成する画像符号化装置において、
　前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを推定するモード推定部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記選択可能なモードの範囲内にある所定のモードの中から符号化コストが最小となるモードを選択するモード選択部と、を備え、
　前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、
　前記可変長符号化部は、前記制限されたモードの個数が複数個の場合には、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグを符号化することを特徴とする画像符号化装置。
　入力信号をブロック化し、該ブロック単位で前記入力信号の予測信号を生成する予測部と、前記入力信号と前記予測信号の残差信号を変換して変換係数を算出する変換部と、前記変換係数を量子化する量子化部と、前記量子化後の変換係数を一次元に並べるスキャン部と、前記スキャンされた変換係数を符号化する可変長符号化部と、を備えて符号化データを生成する画像符号化装置において、
　前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記選択可能なモードの範囲内にある所定のモードの中から符号化コストが最小となるモードを選択するモード選択部と、を備え、
　前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、
　前記可変長符号化部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグを符号化することを特徴とする画像符号化装置。
　入力信号をブロック化し、該ブロック単位で前記入力信号の予測信号を生成する予測部と、前記入力信号と前記予測信号の残差信号を変換して変換係数を算出する変換部と、前記変換係数を量子化する量子化部と、前記量子化後の変換係数を一次元に並べるスキャン部と、前記スキャンされた変換係数を符号化する可変長符号化部と、を備えて符号化データを生成する画像符号化装置において、
　前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを推定するモード推定部と、符号化コストが最小となるモードを所定のモードの中から選択するモード選択部と、を備え、
　前記モード選択部は、前記予測部もしくは前記変換部もしくは前記スキャン部で用いる前記所定のモードを切り替えながら、前記入力信号に対して前記予測部、前記変換部、前記量子化部、前記スキャン部、前記可変長符号化部を動作させ、前記変換係数評価部で算出した評価値を用いて、符号化コストが最小となるモードを選択し、
　前記可変長符号化部は、前記推定されたモードと前記選択されたモードが同じ場合には、前記推定されたモードを利用するという情報を符号化し、また、異なる場合には、前記予測部もしくは前記変換部もしくは前記スキャン部で用いるモードを識別するためのフラグと、前記推定されたモードを利用しないという情報を符号化することを特徴とする画像符号化装置。
　入力信号をブロック化し、該ブロック単位で、変換を施して量子化された変換係数を一次元に並べて符号化した符号化データを逆スキャン部によって逆スキャンし、逆量子化部によって逆量子化し、逆変換部により逆変換を施した残差信号と予測部によって既に復号された信号から予測した予測信号から前記符号化データを復号する画像復号装置において、
　前記符号化データから変換係数と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを推定するモード推定部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いる選択可能なモードの範囲を限定するモード制限部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、前記制限されたモードの個数が１個の場合には、前記モード推定部で推定されたモードとし、また、複数個の場合には、前記フラグで識別されるモードとするモード復号部と、を備え、
　前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号することを特徴とする画像復号装置。
　入力信号をブロック化し、該ブロック単位で、変換を施して量子化された変換係数を一次元に並べて符号化した符号化データを逆スキャン部によって逆スキャンし、逆量子化部によって逆量子化し、逆変換部により逆変換を施した残差信号と予測部によって既に復号された信号から予測した予測信号から前記符号化データを復号する画像復号装置において、
　前記符号化データから変換係数と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードの範囲を限定するモード制限部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、前記限定されたモードの個数が１個の場合は、前記モード制限部で限定された範囲内のモードとし、また、複数の場合には、前記フラグで識別されるモードとするモード復号部と、を備え、
　前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号することを特徴とする画像復号装置。
　入力信号をブロック化し、該ブロック単位で、変換を施して量子化された変換係数を一次元に並べて符号化した符号化データを逆スキャン部によって逆スキャンし、逆量子化部によって逆量子化し、逆変換部により逆変換を施した残差信号と予測部によって既に復号された信号から予測した予測信号から前記符号化データを復号する画像復号装置において、
　前記符号化データから変換係数と、推定されたモードを利用するか否かの情報と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを識別するためのフラグを復号する可変長復号部と、前記変換係数の特徴に基づいて評価値を算出する変換係数評価部と、前記評価値に応じて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを推定するモード推定部と、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部で用いるモードを、推定されたモードを利用するという情報が復号された場合には、前記モード推定部で推定されたモードとし、また、推定されたモードを利用しないという情報が復号された場合には、前記フラグで識別されるモードとするモード復号部と、を備え、
　前記モード復号部で復号されたモードを用いて、前記予測部もしくは前記逆変換部もしくは前記逆スキャン部を動作させて前記符号化データを復号することを特徴とする画像復号装置。
　前記変換係数評価部の評価値は、ゼロ以外の変換係数があるか否かを示す値、ゼロ以外の変換係数の個数、変換係数のゼロが続く長さ、量子化後の変換係数の大きさ、変換係数を符号化したときの符号化コスト、変換係数のばらつき、量子化後の変換係数の大きさに基づいて計算される符号化効率および最低次数の変換係数が０であるか否かを示す値のいずれか、これらの値を用いて所定の関数から算出される値、あるいは、モード推定あるいはモード限定に使われる組み合わせであることを特徴とする、請求項１、２または３に記載の画像符号化装置、または、請求項４、５または６に記載の画像復号装置。
　前記モード限定部は、前記評価値が所定の値以下である場合よりも大きい場合に、選択可能なモードの範囲を小さく設定することを特徴とする請求項１または２に記載の画像符号化装置、または、請求項４または５に記載の画像復号装置。
　前記モード限定部は、第一の所定値よりも大きい第二の所定値を有し、前記評価値が前記第一の所定値以下である場合、および、前記第二の所定値よりも大きい場合の選択可能なモードの範囲を、前記評価値が前記第一の所定値よりも大きく、且つ、前記第二の所定値以下である場合の選択可能なモードの範囲よりも小さく設定することを特徴とする請求項１または２に記載の画像符号化装置、または、請求項４または５に記載の画像復号装置。
　前記モード推定部は、前記評価値が所定の値以下である場合、既に再生済みのブロックのモード、または、既に再生済みブロックの画素値に基づいてモードを推定し、前記評価値が所定の値よりも大きい場合、所定のモードを用いることを特徴とする請求項１または３に記載の画像符号化装置、または、請求項４または６に記載の画像復号装置。