WO2010151075A2 - 영상 장치 및 컴퓨터 판독 기록매체 - Google Patents

영상 장치 및 컴퓨터 판독 기록매체 Download PDF

Info

Publication number
WO2010151075A2
WO2010151075A2 PCT/KR2010/004135 KR2010004135W WO2010151075A2 WO 2010151075 A2 WO2010151075 A2 WO 2010151075A2 KR 2010004135 W KR2010004135 W KR 2010004135W WO 2010151075 A2 WO2010151075 A2 WO 2010151075A2
Authority
WO
WIPO (PCT)
Prior art keywords
avatar
animation
data
information
outline
Prior art date
Application number
PCT/KR2010/004135
Other languages
English (en)
French (fr)
Other versions
WO2010151075A3 (ko
Inventor
한재준
한승주
이현정
방원철
안정환
김도균
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020090101175A external-priority patent/KR20100138701A/ko
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP10792357.5A priority Critical patent/EP2447908A4/en
Priority to US13/379,834 priority patent/US20120169740A1/en
Priority to CN201080038361.5A priority patent/CN102483857B/zh
Publication of WO2010151075A2 publication Critical patent/WO2010151075A2/ko
Publication of WO2010151075A3 publication Critical patent/WO2010151075A3/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20—Input arrangements for video game devices
    • A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/211—Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
    • A63F13/42—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment by mapping the input signals into game commands, e.g. mapping the displacement of a stylus on a touch screen to the steering angle of a virtual vehicle
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/63—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor by the player, e.g. authoring using a level editor
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/65—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70—Game security or game management aspects
    • A63F13/79—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/10—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals
    • A63F2300/1012—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by input arrangements for converting player-generated signals into game device control signals involving biosensors worn by the player, e.g. for measuring heart beat, limb activity
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/55—Details of game data or player data management
    • A63F2300/5546—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history
    • A63F2300/5553—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history user representation in the game field, e.g. avatar
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60—Methods for processing data by generating or executing the game program
    • A63F2300/66—Methods for processing data by generating or executing the game program for rendering three dimensional images
    • A63F2300/6607—Methods for processing data by generating or executing the game program for rendering three dimensional images for animating game characters, e.g. skeleton kinematics
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/60—Methods for processing data by generating or executing the game program
    • A63F2300/69—Involving elements of the real world in the game world, e.g. measurement in live races, real video

Definitions

  • Embodiments of the present invention relate to an imaging device and a computer-readable recording medium, and more particularly to an imaging device and a computer-readable recording medium for generating an operation of an avatar of a virtual world.
  • the interaction between the real world and the virtual world has two directions. The first is to reflect the data information obtained from the sensor of the real world to the virtual world, and the second is to reflect the data information obtained from the virtual world to the real world through an actuator.
  • 1 is a diagram illustrating a system structure of the MPEG-V standard.
  • Document 10618 deals with control information for 'adaptation VR (adaptation virtual world to real world)' that reflects the real world to the virtual world.
  • Control information in the opposite direction that is, control information for 'adaptation RV (adaptation real world to virtual world)' reflecting the virtual world into the real world, has not been proposed yet.
  • Control information for adaptive RV deals with all controllable elements in the virtual world.
  • an image device and a computer-readable recording medium for generating an action of an avatar of a virtual world using data and animation clips obtained from a sensor of the real world in order to implement the interaction between the real world and the virtual world.
  • a video device comprising: animation control information including animation clip, information on which part of the avatar the animation clip corresponds to, and priority information, and motion data processing values received from a motion sensor.
  • a storage unit for storing control control information including priority and information regarding which part of the avatar and a priority of the animation control information corresponding to the first part of the avatar and the first part of the avatar
  • a processor configured to compare the priority of corresponding control control information and determine data to be applied to the first portion of the avatar.
  • a computer-readable recording medium is received from a motion sensor with reference to the animation control information and the control control information corresponding to each part of an avatar and a first instruction set for storing animation control information and control control information. And a second set of instructions for combining motion data and animation clips generated from the generated values, wherein the animation control information includes information about a corresponding animation clip and a facial expression, head, and upper body of a certain avatar. And an identifier as to which part corresponds to a middle body, and a lower body, and the control control information includes information about which avatar's facial expression, head, upper body, middle body, and lower body the real-time motion data corresponds to. Contains an identifier.
  • 1 is a diagram illustrating a system structure of the MPEG-V standard.
  • FIG. 2 is a diagram illustrating a structure of a system for exchanging information and data between a real world and a virtual world according to an embodiment of the present invention.
  • 3 to 7 illustrate avatar control commands according to an embodiment of the present invention.
  • FIG. 8 is a diagram illustrating a structure of an appearance control type according to an embodiment of the present invention.
  • FIG. 9 is a diagram illustrating a structure of a communication skill control type according to an embodiment of the present invention.
  • FIG. 10 is a view showing the structure of the personality control type according to an embodiment of the present invention.
  • FIG. 11 illustrates a structure of an animation control type according to an embodiment of the present invention.
  • FIG. 12 illustrates a structure of a control control type according to an embodiment of the present invention.
  • FIG. 13 is a diagram illustrating a configuration of an imaging device according to an embodiment of the present invention.
  • FIG. 14 is a diagram illustrating an avatar of a virtual world divided into parts of a facial expression, a head, an upper body, a middle body, and a lower body according to an embodiment of the present invention.
  • 15 is a diagram illustrating a database for an animation clip according to an embodiment of the present invention.
  • FIG. 16 illustrates a database for motion data according to an embodiment of the present invention.
  • 17 is a diagram illustrating an operation of determining motion object data to be applied to an arbitrary part of an avatar by comparing priorities according to an embodiment of the present invention.
  • FIG. 18 is a flowchart of a method of determining motion object data to be applied to each part of an avatar.
  • 19 is a flowchart illustrating an operation of combining motion object data corresponding to each part of an avatar according to an embodiment of the present invention.
  • 20 is a diagram illustrating an operation of combining motion object data corresponding to each part of an avatar according to an embodiment of the present invention.
  • FIG. 21 is a diagram illustrating feature points for sensing a face of a user in a real world by an imaging apparatus according to an embodiment of the present invention.
  • FIG. 22 is a diagram illustrating feature points for sensing a face of a user in a real world by an imaging apparatus according to another exemplary embodiment.
  • FIG. 23 illustrates a facial feature control type according to an embodiment of the present invention.
  • 24 is a diagram illustrating a head outline 1 according to an embodiment of the present invention.
  • FIG. 25 is a diagram illustrating a left eye outline 1 and a left eye outline 2 according to an embodiment of the present invention.
  • FIG. 26 is a diagram illustrating a left eye outline 1 and a right eye outline 2 according to an embodiment of the present invention.
  • FIG. 27 is a diagram illustrating an outline of a left eyebrow according to an embodiment of the present invention.
  • FIG. 28 is a diagram illustrating an outline of a right eyebrow according to an embodiment of the present invention.
  • 29 is a diagram illustrating a left ear outline according to an embodiment of the present invention.
  • FIG. 30 is a diagram illustrating a right ear outline according to an embodiment of the present invention.
  • FIG. 31 is a diagram illustrating a nose outline 1 and a nose outline 2 according to an embodiment of the present invention.
  • 33 is a diagram illustrating a head outline 2 according to an embodiment of the present invention.
  • 34 is a diagram illustrating an upper lip outline according to an embodiment of the present invention.
  • 35 is a view showing the lower lip outline according to an embodiment of the present invention.
  • 36 is a diagram illustrating facial points according to an embodiment of the present invention.
  • FIG. 37 is a diagram illustrating a diagram of an outline according to an embodiment of the present invention.
  • 38 is a diagram illustrating a head outline 2 type according to an embodiment of the present invention.
  • 39 is a diagram illustrating an eye outline 2 type according to an embodiment of the present invention.
  • FIG. 40 is a diagram illustrating a nose outline 2 type according to an embodiment of the present invention.
  • FIG. 41 is a diagram illustrating an upper lip outline 2 type according to an embodiment of the present invention.
  • FIG. 43 is a diagram illustrating a face point set type according to an embodiment of the present invention.
  • FIG. 2 is a diagram illustrating a structure of a system for exchanging information and data between a real world and a virtual world according to an embodiment of the present invention.
  • a real world device for example, a motion sensor
  • control information regarding the intention of the real world user may be transmitted to the virtual world processing apparatus.
  • the control information CI may be a command according to a value input through a real-world device and information related to the command.
  • the control information CI may include sensory input device capabilities (SIDC), user sensory input preferences (USIP), sensory input device commands (SDICmd).
  • the adaptation real world to virtual world may be implemented as a real world to virtual world engine (RV engine).
  • the adaptive RV adapts the information of the real world input through the real world device to the virtual world by using control information (CI) about the user's motion, state, intention, and shape of the real world included in the sensor signal. To information that can be converted.
  • the adaptation process may affect virtual world information (VWI).
  • Virtual world information is information about the virtual world.
  • the information may be information about elements constituting a virtual world, such as a virtual world object or an avatar.
  • Changes to virtual world information (VWI) can take the form of virtual world effect metadata (VWEM), virtual world preferences (VWP), and virtual world capabilities (VWC) in the RV engine. It can be done by command.
  • VWEM virtual world effect metadata
  • VWP virtual world preferences
  • VWC virtual world capabilities
  • Table 1 describes the configurations shown in FIG. 2.
  • 3 to 7 illustrate avatar control commands according to an embodiment of the present invention.
  • avatar control commands 310 may include an avatar control command base type 311 and an exception attribute 312. ) May be included.
  • avatar control commands are displayed using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the program source shown in FIGS. 4 to 7 is only one embodiment, and the present invention is not limited thereto.
  • Reference numeral 318 denotes a definition of a base element of the avatar control command 310.
  • the avatar control command 310 refers to a command for controlling an avatar.
  • Reference numeral 320 denotes a definition of a root element of the avatar control command 310.
  • the avatar control command 310 may mean a role of a root element for metadata.
  • Reference numeral 319 and 321 denote the definition of the avatar control command basic type 311.
  • the avatar control command base type 311 extends the avatar ctrl cmd base type and defines a base abstract type for a subset of the types defined as avatar control command metadata types.
  • avatar control command base type provides a base abstract type for a subset of types defined as part of the avatar control commands metadata types).
  • the exception property 312 may be an additional avatar control command.
  • the avatar control command base type 311 may include an avatar control command base attributes 313 and an exception attribute 314.
  • Reference numeral 315 denotes the definition of the avatar control command basic attribute 313.
  • the avatar control command basic attribute 313 means displaying a group of attributes for the commands.
  • the avatar control command basic attribute 313 may include id, idref, activate, and value.
  • id is ID information for identifying an individual identity of the avatar control command basic type 311.
  • idref references elements that have an illustrated attribute of type id (idref references elements that have an instantiated attribute of type id).
  • the idref may be additional information about an id for distinguishing individual identities of the avatar control command basic type 311.
  • Activate indicates whether the effect shall be activated.
  • a 'true' value may mean that the effect is activated, and a 'false' value may mean that the effect is deactivated.
  • the active state has data of type "boolean" and may be used optionally.
  • Value describes the intensity of the effect in percentage according to the max scale defined within the semantics definition of the individual effects .
  • the value has data of type “integer” and may be used as optional.
  • Exception attribute 314 is meant to provide an extension mechanism for including attributes from a namespace other than the target namespace.
  • the attribute to be included may be an XML streaming instruction defined in ISO / IEC 21000-7 to identify the process unit and to associate the time information of the process units.
  • 'si: pts' may indicate the point at which the combined information may be used in an application for processing.
  • Reference numeral 322 denotes a definition of an avatar control command appearance type.
  • the avatar control command appearance type includes an appearance control type, an animation control type, a communication skill control type, and an individuality control type. personality control type) and control control type (control control type).
  • Reference numeral 323 denotes an element of an appearance control type.
  • the appearance control type is a tool for displaying appearance control commands.
  • the structure of the appearance control type will be described in detail with reference to FIG. 8.
  • FIG. 8 is a diagram illustrating a structure of an appearance control type according to an embodiment of the present invention.
  • an appearance control type 410 includes an avatar control command base type 420 and an element. can do. Since the avatar control command basic type 420 has been described in detail above, a description thereof will be omitted.
  • an element of the appearance control type 410 may include a body, a head, eyes, nose, mouthlip, skin, and face. facials, nails, hair, eyebrows, facial hair, appearance resources, physical conditions, clothes, shoes and accessories (accessories) may be included.
  • reference numeral 325 denotes an element of a communication skill control type.
  • the communication skill control type is a tool for displaying animation control commands.
  • the structure of the communication skill control type will be described in detail with reference to FIG. 9.
  • FIG. 9 is a diagram illustrating a structure of a communication skill control type according to an embodiment of the present invention.
  • a communication skill control type 510 may include an avatar control command base type 520 and an element.
  • elements of the communication skill control type 510 are input verbal communication, input nonverbal communication, output verbal communication, and output ratio. Oral nonverbal communication.
  • reference numeral 326 denotes an element of a personality control type.
  • the personality control type is a tool for displaying animation control commands.
  • the structure of the personality control type will be described in detail with reference to FIG.
  • FIG. 10 is a view showing the structure of the personality control type according to an embodiment of the present invention.
  • the personality control type 610 may include an avatar control command base type 620 and an element.
  • elements of the personality control type 610 may include openness, agreeableness, neuroticism, extraversion and conscientiousness.
  • reference numeral 324 denotes an element of an animation control type.
  • the animation control type is a tool for displaying animation control commands.
  • the structure of the animation control type will be described in detail with reference to FIG.
  • FIG. 11 illustrates a structure of an animation control type according to an embodiment of the present invention.
  • an animation control type 710 may include an avatar control command base type 720, an exception attribute 730, and an element. Can be.
  • the exception attribute 730 may include a motion priority 731 and a speed 732.
  • Motion priority determines the priority when generating the motion of avatar by mixing with animation and body and / or facial feature control).
  • Speed 732 adjusts the speed of the animation to achieve various effects using the same animation.
  • animations related to walking motions may be classified into slow walking motions, normal speed walking motions, and fast walking motions according to the speed level.
  • Elements of the animation control type 710 include idle, greeting, dance, walk, moves, fighting, listening, smoking, smoke, disappointment, common actions, specific actions, facial expressions, body expressions, and animation resources.
  • reference numeral 327 denotes an element of a control control type.
  • the control control type is a tool for displaying control feature control commands.
  • the structure of the control control type will be described in detail with reference to FIG.
  • FIG. 12 illustrates a structure of a control control type according to an embodiment of the present invention.
  • a control control type 810 may include an avatar control command base type 820, an exception attribute 830, and an element. Can be.
  • the exception attribute 730 is motion priority (831), frame time (832), frame number (num of frame) 833 and frame id (frame id) 834 may be included.
  • Motion priority 831 determines the priority when generating an avatar's motion by mixing animation with body and / or facial feature control.
  • the frame time 832 defines a frame interval of the motion control data (frame time defines the frame interval of motion control data).
  • frame time defines the frame interval of motion control data.
  • the unit of the frame interval may be seconds.
  • the frame number 833 selectively defines the total number of frames for motion control (num of frame optionally defines the total number of frames for the motion control).
  • Frame id 834 indicates the order of each frame (frame id indicates the order of each frame).
  • Elements of the control control type 810 may include body features control 840 and face features control 850.
  • body feature control 840 may include a body feature control type.
  • the body feature control type may also include elements of headbones, upper body bones, down body bones and middle body bones.
  • the motion of the avatar in the virtual world is related to the animation control type and the control control type.
  • the animation control type may include information regarding the order of the animation set, and the control control type may include information regarding motion sensing.
  • an animation or a motion sensing device may be used. Accordingly, an image device for controlling the operation of the avatar of the virtual world according to an embodiment of the present invention will be described in detail.
  • FIG. 13 is a diagram illustrating a configuration of an imaging device according to an embodiment of the present invention.
  • an imaging apparatus 900 includes a storage 910 and a processor 920.
  • the storage unit 910 may include animation control information including animation clip, information about which part of an avatar the animation clip corresponds to, and priority. And control control information including information on which part of which avatar the motion data processing the value received from the motion sensor corresponds to, and priority.
  • An animation clip is moving image data of an action of an avatar of a virtual world.
  • the avatar of the virtual world may be divided into parts to store animation clips and motion data corresponding to each part.
  • the avatar of the virtual world may be divided into parts of a facial expression, a head, an upper body, a middle body, and a lower body. This will be described in detail with reference to FIG. 14.
  • FIG. 14 is a diagram illustrating an avatar of a virtual world divided into parts of a facial expression, a head, an upper body, a middle body, and a lower body according to an embodiment of the present invention.
  • the avatar 1000 of the virtual world is divided into a facial expression 1010, a head 1020, an upper body 1030, a middle body 1040, and a lower body 1050.
  • the animation clip and motion data may be data corresponding to any one of the facial expression 1010, the head 1020, the upper body 1030, the middle body 1040 and the lower body 1050.
  • animation control information includes information and priority regarding which part of which avatar an animation clip corresponds to.
  • the information regarding which part of which avatar the animation clip corresponds to may be information about which part of the avatar's facial expression, head, upper body, middle body, and lower body.
  • Animation clips corresponding to any part of the avatar may have a priority.
  • the priority may be set in advance by a user of the real world, or may be set by receiving an input in real time. Priority will be described in detail later with reference to FIG. 17.
  • the animation control information may further include information about the speed of the animation clip corresponding to any part of the avatar.
  • the animation clip may move slowly, walk at a normal speed, or walk fast according to information about the speed of the animation clip. And data about a jumping operation.
  • the control control information includes information and priority regarding which part of which avatar the motion data processing the value received from the motion sensor corresponds to.
  • a motion sensor is a sensor that is a real world device for measuring a user's motion, facial expression, and state of the real world.
  • the motion data may be data processed to receive a value measured by a motion sensor of a user in the real world, a facial expression, a state, and the like, and apply the value to an avatar of the virtual world.
  • a motion sensor measures the positional information of a user's arms and legs in the real world, which is the value of X real , Y real , and Z real, which are the values of the x, y, and z axes, and the angle between the x, y, and z axes. It can be expressed as ⁇ Xreal , ⁇ Yreal , ⁇ Zreal .
  • the motion data may be data processed to apply the value of the location information to the avatar of the virtual world.
  • the avatar of the virtual world may be divided into parts, and motion data corresponding to each part may be stored.
  • the information regarding which part of which avatar the motion data corresponds to may be information regarding which part of the avatar's facial expression, head, upper body, middle body, and lower body.
  • Motion data corresponding to any portion of the avatar may have a priority.
  • the priority may be set in advance by a user of the real world, or may be set by receiving an input in real time. Priority will be described in detail later with reference to FIG. 17.
  • the processor 920 determines the data to be applied to the first portion of the avatar by comparing the priority of the animation control information corresponding to the first portion of the avatar with the priority of the control control information corresponding to the first portion of the avatar. do. This will be described later in detail with reference to FIG. 17.
  • the imaging apparatus 900 may further include a generation unit.
  • the generator may generate a facial expression of the avatar.
  • the storage unit may store data about feature points of the face of the user of the real world received from the sensor.
  • the generation unit may generate the facial expression of the avatar based on the data stored in the storage unit.
  • 15 is a diagram illustrating a database for an animation clip according to an embodiment of the present invention.
  • a database 1100 for an animation clip according to an embodiment of the present invention is classified into categories of an animation clip 1110, a corresponding portion 1120, and a priority 1130.
  • the animation clip 1110 is a category of data about the operation of the avatar corresponding to any part of the avatar of the virtual world. According to an embodiment, the animation clip 1110 may be a category for an animation clip corresponding to any one of an avatar's facial expression, a head, an upper body, a middle body, and a lower body.
  • the first animation clip 1111 is an animation clip corresponding to the facial expression portion of the avatar, and may be data about a smiling operation.
  • the second animation clip 1112 is an animation clip corresponding to the head of the avatar and may be data about an operation of shaking the head from side to side.
  • the third animation clip 1113 is an animation clip corresponding to the upper body part of the avatar and may be data about an operation of raising both arms.
  • the fourth animation clip 1114 is an animation clip corresponding to the middle part of the avatar, and may be data about an action of extending the hip forward.
  • the fifth animation clip 1115 is an animation clip corresponding to the lower body of the avatar, and may be data about an operation of bending one leg and extending the other leg backward.
  • the corresponding part 1120 is a category of data regarding which part of the avatar the animation clip corresponds to.
  • the corresponding part 1120 may be a category of data regarding which part of the avatar's facial expression, head, upper body, middle body, and lower body corresponds to the avatar.
  • the first animation clip 1111 is an animation clip corresponding to the facial expression portion of the avatar
  • the first correspondence portion 1121 may be represented as 'facial expression'.
  • the second animation clip 1112 is an animation clip corresponding to the head of the avatar
  • the second corresponding part 1122 may be referred to as 'head'.
  • the third animation clip 1113 is an animation clip corresponding to the upper body part of the avatar
  • the third correspondence part 1123 may be referred to as 'upper body'.
  • the fourth animation clip 1114 is an animation clip corresponding to the middle part of the avatar
  • the fourth corresponding part 1124 may be referred to as a 'middle body'.
  • the fifth animation clip 1115 is an animation clip corresponding to the lower body part of the avatar
  • the fifth corresponding part 1125 may be referred to as a 'lower body'.
  • Priority 1130 is a category of values for the priority of the animation clip. According to an embodiment, it may be a category of values for priority of animation clips corresponding to any one of a facial expression, a head, an upper body, a middle body, and a lower body of an avatar.
  • the first animation clip 1111 corresponding to the facial expression portion of the avatar may have a priority value of '5'.
  • the second animation clip 1112 corresponding to the head of the avatar may have a priority value of '2'.
  • the third animation clip 1113 corresponding to the upper body portion of the avatar may have a priority value of '5'.
  • the fourth animation clip 1114 corresponding to the middle part of the avatar may have a priority value of '1'.
  • the fifth animation clip 1115 corresponding to the lower body of the avatar may have a priority value of '1'.
  • the priority value for the animation clip may be set in advance from a user in the real world or may be set by receiving an input in real time.
  • FIG. 16 illustrates a database for motion data according to an embodiment of the present invention.
  • a database 1200 for motion data is classified into categories of motion data 1210, a corresponding portion 1220 , and a priority 1230.
  • the motion data 1210 is data obtained by processing a value received from a motion sensor and is a category of motion data corresponding to any part of an avatar of the virtual world.
  • the motion data 1210 may be a category of motion data corresponding to any one of a facial expression, a head, an upper body, a middle body, and a lower body of an avatar.
  • the first motion data 1211 is motion data corresponding to the facial expression portion of the avatar.
  • the first motion data 1211 is the avatar of the virtual world.
  • the data may be data about an operation of frowning a face by a user of the real world, which is processed to be applied to a facial expression portion of a.
  • the second motion data 1212 is motion data corresponding to the head of the avatar, and may be data about an operation of bowing down by a user of the real world.
  • the third motion data 1213 is motion data corresponding to the upper body of the avatar, and may be data about an operation of lifting a user's arms from side to side in the real world.
  • the fourth motion data 1214 is motion data corresponding to the middle part of the avatar, and may be data about an action of shaking a hip back and forth by a user of the real world.
  • the fifth motion data 1215 is motion data corresponding to the lower body part of the avatar, and may be data about an operation of bending a user of the real world while bending both legs from side to side.
  • the corresponding part 1220 is a category of data regarding which part of the avatar the motion data corresponds to.
  • the corresponding part 1220 may be a category of data regarding whether the motion data corresponds to an avatar's facial expression, a head, an upper body, a middle body, and a lower body.
  • the first motion data 1211 is motion data corresponding to the facial expression part of the avatar
  • the first corresponding part 1221 may be expressed as 'facial expression'.
  • the second motion data 1212 is motion data corresponding to the head of the avatar
  • the second corresponding part 1222 may be referred to as 'head'.
  • the third motion data 1213 is motion data corresponding to the upper body part of the avatar
  • the third corresponding part 1223 may be referred to as 'upper body'.
  • the fourth motion data 1214 is motion data corresponding to the middle part of the avatar
  • the fourth corresponding part 1224 may be referred to as a 'middle body'.
  • the fifth motion data 1215 is motion data corresponding to the lower body part of the avatar
  • the fifth corresponding part 1225 may be referred to as a 'lower body'.
  • Priority 1230 is a category of values for the priority of motion data. According to an embodiment, it may be a category of values for priority of motion data corresponding to any one of a facial expression, a head, an upper body, a middle body, and a lower body of an avatar.
  • the first motion data 1211 corresponding to the facial expression portion of the avatar may have a priority value of '1'.
  • the second motion data 1212 corresponding to the head of the avatar may have a priority value of '5'.
  • the third motion data 1213 corresponding to the upper body part of the avatar may have a priority value of '2'.
  • the fourth motion data 1214 corresponding to the middle part of the avatar may have a priority value of '5'.
  • the fifth motion data 1215 corresponding to the lower body of the avatar may have a priority value of '5'.
  • the priority value for the motion data may be set in advance from a user of the real world or may be set by receiving an input in real time.
  • 17 is a diagram illustrating an operation of determining motion object data to be applied to an arbitrary part of an avatar by comparing priorities according to an embodiment of the present invention.
  • the avatar 1310 is divided into a facial expression 1311, a head 1312, an upper body 1313, a middle body 1314, and a lower body 1315.
  • Motion object data is data about the motion of any part of the avatar.
  • Motion object data may include animation clips and motion data.
  • the motion object data may be obtained by processing a value received from a motion sensor or by reading from a storage unit of an image device.
  • the motion object data may correspond to any one of facial expression, head, upper body, middle body and lower body of the avatar.
  • Database 1320 is a database for animation clips. Also, database 1330 is a database for motion data.
  • the processing unit of the imaging apparatus compares the priority of the animation control information corresponding to the first portion of the avatar 1310 with the priority of the control control information corresponding to the first portion of the avatar, It is possible to determine the data to apply to the first part of.
  • the first animation clip 1321 corresponding to the facial expression 1311 of the avatar 1310 has a priority value of '5' and corresponds to the facial expression 1311 of the avatar 1310.
  • the first motion data 1331 may have a priority value of '1'. Since the first animation clip 1321 has a higher priority value than the first motion data 1331, the processor of the imaging apparatus may apply data to be applied to the facial expression 1311 of the avatar 1310. 1321).
  • the second animation clip 1322 corresponding to the head 1312 of the avatar 1310 has a priority value of '2' and the second motion data 1332 corresponding to the head 1312 of the avatar 1310. ) May have a value of '5'. Since the second motion data 1332 has a higher priority value than the second animation clip 1322, the processor of the imaging apparatus applies data to be applied to the head 1312 of the avatar 1310 to the second motion data 1332. Can be determined.
  • the third animation clip 1323 corresponding to the upper body 1313 of the avatar 1310 has a priority value of '5'
  • the third motion data 1333 corresponding to the upper body 1313 of the avatar 1310. May have a value of '2'. Since the third animation clip 1323 has a higher priority value than the third motion data 1333, the processing unit of the video chapter applies data to the upper body 1313 of the avatar 1310 to the third animation clip 1323. Can be determined.
  • the fourth animation clip 1324 corresponding to the middle body 1314 of the avatar 1310 has a priority value of '1' and fourth motion data 1334 corresponding to the middle body 1314 of the avatar 1310. ) May have a value of '5'. Since the fourth motion data 1334 has a higher priority value than the fourth animation clip 1324, the processor of the imaging apparatus applies data to be applied to the middle body 1314 of the avatar 1310 to the fourth motion data 1334. Can be determined.
  • the fifth animation clip 1325 corresponding to the lower body 1315 of the avatar 1310 has a priority value of '1' and the fifth motion data 1335 corresponding to the lower body 1315 of the avatar 1310. ) May have a value of '5'. Since the fifth motion data 1335 has a higher priority value than the fifth animation clip 1325, the processor of the imaging apparatus applies data to be applied to the lower body 1315 of the avatar 1310 to the fifth motion data 1335. Can be determined.
  • the avatar 1310 uses the first animation clip 1321 for the facial expression 1311, the second motion data 1332 for the head 1312, and the third animation clip 1323 for the upper body 1313.
  • the middle body 1314 may have fourth motion data 1334 and the lower body 1315 may have fifth motion data 1335.
  • Data corresponding to any part of the avatar 1310 may include a plurality of animation clips and a plurality of motion data.
  • a method of determining data to be applied to any part of the avatar 1310 will be described with reference to FIG. 18.
  • FIG. 18 is a flowchart of a method of determining motion object data to be applied to each part of an avatar.
  • the imaging apparatus checks information included in motion object data (S1410).
  • the information included in the motion object data may include information regarding which part of which avatar the motion object data corresponds to and the priority of the motion object data.
  • the motion object data obtained by reading or processing may be determined as data to be applied to the first part of the avatar.
  • the processor of the imaging apparatus compares the existing motion object data with the priority value of the newly acquired or processed motion object data (S1420).
  • the data to be applied to the first part of the avatar is determined as the newly acquired or processed motion object data. (S1430).
  • the existing motion object data has a higher priority value than the newly read or processed motion object data
  • the existing motion object data is determined as data to be applied to the first portion of the avatar.
  • the imaging apparatus repeats the processes from step S1410 to step S1440 on the motion object data that is not determined.
  • a video of the avatar is generated by combining data having the highest priority among the motion object data corresponding to each part of the avatar (S1450).
  • the processor of the imaging apparatus compares the priority of the animation control information corresponding to each part of the avatar with the priority of the control control information, determines the data to be applied to each part, and determines the determined data. Can be combined to create a video of the avatar.
  • a process of determining data to be applied to each part of the avatar has been described in detail with reference to FIG. 19. Hereinafter, a process of generating a video of the avatar by combining the determined data will be described.
  • 19 is a flowchart illustrating an operation of combining motion object data corresponding to each part of an avatar according to an embodiment of the present invention.
  • the imaging apparatus finds a part of an avatar including a root element (S1510).
  • motion object data may include animation clips and motion data.
  • the motion object data may include information about the connection axis.
  • the joint direction angle included in the information about the connection axis extracted from the motion object data is changed in a relative direction (S1540).
  • the joint direction angle included in the information about the connecting axis may be a relative direction, in which case the step of changing (S1540) may be omitted and go directly to step (S1550).
  • the joint direction angle is an absolute direction
  • a method of changing the joint direction angle in a relative direction will be described in detail.
  • the case where the avatar of the virtual world is divided into parts of a facial expression, a head, an upper body, a middle body, and a lower body is demonstrated as an Example.
  • the motion object data corresponding to the middle body of the avatar may include body center coordinates.
  • the absolute direction of the joint direction may be changed in a relative direction with respect to the connection portion of the intermediate portion including the body center coordinates.
  • the imaging apparatus extracts information about a connection axis stored in motion object data corresponding to the middle body of the avatar.
  • Information about the linking axis can be found in the articulation angle between the thoracic vertebrae, the connecting part of the upper body of the avatar, and the cervical vertebrae, the connecting part of the head, and the thoracic vertebrae, the connecting part of the upper body.
  • Joint orientation angle between the left clavicle and the left clavicle, joint orientation angle between the thoracic vertebrae and the right clavicle and the pelvis and pelvis It may include a joint direction angle between the left femur, the connection site, the pelvis, the connection site of the middle portion, and the right femur, the connection site of the lower body region.
  • Equation 1 the joint direction angle between the pelvis and the right thigh may be represented by Equation 1 below.
  • Equation 1 the function A (.) Is a directional cosine matrix, and R RightFemur_Pelvis is a rotational matrix for a direction angle between the pelvis and the right thigh. Also, ⁇ RightFemur is the joint direction angle at the right femur of the lower body part of the avatar, and ⁇ Pelvis is the joint direction angle of the pelvis and right femur of the middle body part.
  • a rotation function may be calculated from Equation 1 as shown in Equation 2 below.
  • the absolute direction of the joint direction may be changed in a relative direction with respect to the connection portion of the intermediate portion including the body center coordinates.
  • the joint direction angle which is an absolute direction included in the information about the connection axis stored in the motion object data corresponding to the lower body of the avatar, is represented by the relative direction as shown in Equation 3 below. Can be changed.
  • the joint direction angle which is an absolute direction included in the information about the connection axis stored in the motion object data corresponding to the head and the upper body of the avatar, may be changed in the relative direction.
  • the motion object data corresponding to each part is combined using the information about the connection axis stored in the motion object data corresponding to each part of the avatar (S1550). .
  • step S1530 it is checked whether uncombined motion object data exists (S1530).
  • 20 is a diagram illustrating an operation of combining motion object data corresponding to each part of an avatar according to an embodiment of the present invention.
  • the motion object data 1610 corresponding to the first portion of the avatar and the motion object data 1620 corresponding to the second portion are combined to provide a video of the avatar.
  • the motion object data 1610 corresponding to the first portion may be any one of an animation clip and motion data.
  • the motion object data 1620 corresponding to the second part may be any one of an animation clip and motion data.
  • the storage unit of the imaging device further stores information about the connection axis 1601 of the animation clip, the processing unit using the information about the connection axis 1601 of the animation clip using the animation clip and motion data Can be combined.
  • the processor may combine the animation clip and the animation clip by using information about the connection axis 1601 of the animation clip.
  • the processor may extract information about the connection axis from the motion data, and combine the animation clip and the motion data by matching the connection axis 1601 of the animation clip with the connection axis of the motion data.
  • the processor may combine the motion data and the motion data by using information about the connection axis extracted from the motion data. Information about the connection axis has been described in detail with reference to FIG. 19, and will not be described below.
  • an imaging apparatus reflects a face of a user in the real world to a face of an avatar in a virtual world will be described.
  • the imaging device may sense a face of a user of the real world through a real world device (for example, an image sensor) and reflect the face of the avatar of the virtual world.
  • a real world device for example, an image sensor
  • the imaging apparatus may sense a face of a user of the real world and reflect the facial expression and head of the avatar of the virtual world.
  • the imaging apparatus may sense data on feature points of a user's face in the real world, collect data on the feature points, and generate a face of an avatar in the virtual world using the data on the feature points.
  • FIG. 21 is a diagram illustrating feature points for sensing a face of a user in a real world by an imaging apparatus according to an embodiment of the present invention.
  • the imaging apparatus may set feature points 1 to 8 for sensing a face of a user in the real world.
  • the imaging apparatus may collect data by sensing portions corresponding to the feature points 1, the feature points 2, and the feature points 3 of the user's face in the real world.
  • the data may be color, position, depth, angle, refractive index, and the like of the feature point 1, the feature point 2, and the portion corresponding to the feature point 3.
  • the imaging apparatus may create a plane for generating a face of an avatar of the virtual world using the data.
  • the data may be used to generate information about the connection axis of the face of the avatar of the virtual world.
  • the imaging apparatus may collect data by sensing portions corresponding to the feature points 4, the feature points 5, the feature points 6, the feature points 7, and the feature points 8 of the user's face in the real world.
  • the data may be the color, position, depth, angle, refractive index, and the like of the feature point 4, the feature point 5, the feature point 6, the feature point 7, and the portion corresponding to the feature point 8.
  • the imaging apparatus may generate the contour structure of the face of the avatar of the virtual world using the data.
  • the imaging apparatus detects a feature point (1), a feature point (2), and a portion corresponding to the feature point (3) of a user's face in the real world, and generates a plane, a feature point (4), and a feature point (5).
  • the face of the avatar of the virtual world may be generated by combining the contour structure generated by using data collected by sensing the points corresponding to the feature point 6, the feature point 7, and the feature point 8.
  • Table 2 shows data that can be collected to represent the faces of avatars in the virtual world.
  • FIG. 22 is a diagram illustrating feature points for sensing a face of a user in a real world by an imaging apparatus according to another exemplary embodiment.
  • the imaging apparatus may set feature points 1 to 30 for sensing a face of a user in the real world. Since an operation of generating a face of the avatar of the virtual world using the feature points 1 to 30 has been described in detail with reference to FIG. 21, the description thereof will be omitted.
  • [Source 1] represents a program source of data that can be collected to express the face of an avatar of a virtual world using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • [Source 1] is only one embodiment, and the present invention is not limited thereto.
  • FIG. 23 illustrates a facial feature control type according to an embodiment of the present invention.
  • a face features control type may include an attribute 1901 and an element.
  • [Source 2] represents a program source of a facial feature control type using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • [Source 2] is only one embodiment, and the present invention is not limited thereto.
  • Attribute 1901 may include a name.
  • the name is the name of the face control configuration.
  • the name may be optional.
  • Elements of the facial feature control type include Head Outline1, Left Eye Outline1, Right Eye Outline1, Head Outline2, Left Eye Outline2 Right2 Outline, Right Eye Outline2, Left Eye Brow Outline, Right Eye Brow Outline, Left Ear Outline, Right Ear Outline , Nose Outline1, Nose Outline2, Mouth Lip Outline, Upper Lip Outline, Lower Lip Outline2, Face Points and Unexplained It may include Rainier Points.
  • 24 is a diagram illustrating a head outline 1 according to an embodiment of the present invention.
  • a head outline 1 is a top (2001), a left (2002), a bottom (2005) and a right (2008). It may be a basic outline of the head created using the feature point.
  • the head outline 1 is not only the feature points of the top 2001, the left 2002, the bottom 2005, and the right 2008, but also the bottom left 1 bottom.
  • Extended outline of the head created using additional features of left1 (2003), bottom left2 (2004), bottom right2 (2006), and bottom right1 (2007) Can be.
  • FIG. 25 is a diagram illustrating a left eye outline 1 and a left eye outline 2 according to an embodiment of the present invention.
  • a left eye outline 1 includes a top 2101, a left 2103, a bottom 2105, and a right 2107. It may be a basic outline of the left eye generated using a feature point of.
  • Left eye outline 2 is the top left 2102, as well as the feature points of top 2101, left 2103, bottom 2105 and right 2107. It may be an enlarged outline of the left eye created using additional feature points of the bottom left 2104, bottom right 2106, and top right 2108.
  • the left eye outline 2 may be a left eye outline for a high resolution image.
  • FIG. 26 is a diagram illustrating a left eye outline 1 and a right eye outline 2 according to an embodiment of the present invention.
  • a right eye outline 1 includes a top 2201, a left 2203, a bottom 2205, and a right 2207. It may be a basic outline of the right eye generated by using a feature point of.
  • Right eye outline 2 includes top left 2202, as well as feature points of top 2201, left 2203, bottom 2205, and right 2207. It may be an enlarged outline of the right eye created using additional feature points of bottom left 2204, bottom right 2206, and top right 2208.
  • the right eye outline 2 may be a right eye outline for a high resolution image.
  • FIG. 27 is a diagram illustrating an outline of a left eyebrow according to an embodiment of the present invention.
  • a left eye brow outline according to an embodiment of the present invention includes a top 2301, a left 2302, a bottom 2303, and a light 2. It may be an outline of the left eyebrow generated using the feature points of right 2304.
  • FIG. 28 is a diagram illustrating an outline of a right eyebrow according to an embodiment of the present invention.
  • a right eye brow outline according to an embodiment of the present invention includes a top 2401, a left 2402, a bottom 2403, and a light 2. It may be an outline of the right eyebrow generated using the feature point of right) 2404.
  • 29 is a diagram illustrating a left ear outline according to an embodiment of the present invention.
  • a left ear outline according to an embodiment of the present invention includes a top 2501, a left 2502, a bottom 2503, and a right. It may be an outline of the left ear generated using the feature points of 2504.
  • FIG. 30 is a diagram illustrating a right ear outline according to an embodiment of the present invention.
  • a right ear outline according to an embodiment of the present invention includes a top 2601, a left 2602, a bottom 2603, and a right. It may be an outline of the right ear generated using the feature points of) 2604.
  • FIG. 31 is a diagram illustrating a nose outline 1 and a nose outline 2 according to an embodiment of the present invention.
  • a nose outline 1 according to an embodiment of the present invention includes a top 2701, a left 2705, a bottom 2704, and a right 2707. It may be a basic outline of the nose created using the feature point.
  • Nose outline 2 includes top left 2702, center as well as feature points of top 2701, left 2705, bottom 2704, and right 2707. It may be an enlarged outline of the nose created using additional feature points of center 2703, lower bottom 2706, and top right 2708.
  • the nose outline 2 may be a nose outline for a high resolution image.
  • a lip outline according to an embodiment of the present invention includes a top 2801, a left 2802, a bottom 2803, and a right. It may be an outline of a lip generated using the feature point of 2804.
  • 33 is a diagram illustrating a head outline 2 according to an embodiment of the present invention.
  • a head outline 2 includes a top 2901, a left 2902, a bottom left 1 2903, and a bottom left 2. generated using the feature points of left2 (2904), bottom (2905), bottom right2 (2906), bottom right1 (2907), and right (2908). It can be the outline of the head. Head outline 2 may be a head outline for a high resolution image.
  • 34 is a diagram illustrating an upper lip outline according to an embodiment of the present invention.
  • an upper lip outline includes a top left 3001, a bottom left 3002, a bottom 3003, and an upper lip outline. It may be an outline of an upper lip generated by using feature points of a bottom right 3004 and a top right 3005.
  • the upper lip outline may be an upper lip outline for a high resolution image of the upper lip portion of the lip outline.
  • 35 is a view showing the lower lip outline according to an embodiment of the present invention.
  • a lower lip outline according to an embodiment of the present invention includes a top 3101, a top left 3102, and a bottom left 3103. And an outline of the lower lip generated using the feature points of the bottom right 3104 and the top right 3105.
  • the lower lip outline may be a lower lip outline for a high resolution image of the lower lip portion of the lip outline.
  • 36 is a diagram illustrating facial points according to an embodiment of the present invention.
  • a facial point uses the top left 3201, the bottom left 3202, the bottom 3320, the bottom light 3204, and the top light 3205. It may be a generated facial expression.
  • the facial point may be an element for high resolution image of the facial expression.
  • the micelles may be a feature point that can define and additionally position any feature point for facial feature control.
  • FIG. 37 is a diagram illustrating a diagram of an outline according to an embodiment of the present invention.
  • the outline 3310 includes an element. Elements of the outline 3310 may include left, right, top, and bottom.
  • [Source 3] shows a program source of the outline 3310 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the light represents the right feature point of the outline.
  • the tower represents the top feature point of the outline.
  • the bottom represents the lower feature point of the outline.
  • 38 is a diagram illustrating a head outline 2 type according to an embodiment of the present invention.
  • a head outline 2 type 3410 includes an element. Elements of the head outline 2 type 3410 may include bottom left 1, bottom left 2, bottom right 1 and bottom right 2.
  • [Source 4] shows a program source of head outline 2 type 3410 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • Bottom Left 1 is a feature point located at the lower left of the outline near the left feature of the outline.
  • Bottom Left 2 is a feature point located on the lower left of the outline near the bottom feature of the outline.
  • Bottom Light 1 is a feature point located on the lower right side of the outline near the right feature point of the outline.
  • Bottom Light 2 is a feature point located on the lower right side of the outline near the bottom feature point of the outline.
  • 39 is a diagram illustrating an eye outline 2 type according to an embodiment of the present invention.
  • an eye outline2 type 3510 includes an element.
  • Elements of the eye outline 2 type 3510 may include a top left, bottom left, top light and bottom light.
  • [Source 5] shows a program source of the eye outline 2 type 3510 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • Topleft is a feature that is located on the top left of the eye outline.
  • the bottom left is a feature located at the bottom left of the eye outline.
  • Toplights are feature points located on the top right of the eye outline.
  • the bottom light is a feature located at the bottom right of the eye outline.
  • FIG. 40 is a diagram illustrating a nose outline 2 type according to an embodiment of the present invention.
  • a nose outline 2 type 3610 includes an element.
  • Elements of the nose outline 2 type 3610 may include a top left, a top light, a center and a lower bottom.
  • [Source 6] shows a program source of the nose outline 2 type 3610 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the top left is the top left feature point of the nose outline next to the top feature point of the nose outline.
  • the top light is the top right feature point of the nose outline next to the top feature point of the nose outline.
  • the center is the center feature point of the nose outline located between the top and bottom feature points of the nose outline.
  • the lowerbottom is the lower lower feature point of the nose outline that lies below the lower feature point of the nose outline.
  • FIG. 41 is a diagram illustrating an upper lip outline 2 type according to an embodiment of the present invention.
  • an upper lip outline 2 type 3710 includes an element.
  • the elements of the upper lip outline 2 type 3710 may include a top left, top light, bottom left, bottom light and bottom.
  • Source 7 shows a program source of upper lip outline 2 type 3710 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the top left represents the upper left feature point of the upper lip outline.
  • the top light represents the upper right feature point of the upper lip outline.
  • Bottom left represents the lower left feature point of the upper lip outline.
  • Bottom light represents the lower right feature point of the upper lip outline.
  • the bottom represents the lower feature point of the upper lip outline.
  • a lower lip outline 2 type 3810 includes an element. Elements of the lower lip outline 2 type 3810 may include a top left, top light, bottom left, bottom light, and top.
  • [Source 8] shows a program source of lower lip outline 2 type 3810 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the top left represents the upper left feature point of the lower lip outline.
  • the top light represents the upper right feature point of the lower lip outline.
  • Bottom left represents the lower left feature point of the lower lip outline.
  • Bottom light represents the lower right feature point of the lower lip outline.
  • the top represents the upper feature point of the lower lip outline.
  • FIG. 43 is a diagram illustrating a face point set type according to an embodiment of the present invention.
  • a face point set type 3910 includes an element. Elements of the face point set type 3910 may include top left, top light, bottom left, bottom light and bottom.
  • [Source 9] shows a program source of face point set type 3910 using XML (eXtensible Markup Language).
  • XML eXtensible Markup Language
  • the top left represents a feature point located to the left of the nose feature 1's left feature point.
  • the top light represents a feature point located to the right of the nose feature 1's right feature point.
  • the bottom left represents a feature point located to the left of the left feature point of the lip type 1.
  • the bottom light represents a feature point located to the right of the right feature point of the lip type 1.
  • the bottom represents a feature point located between the bottom feature point of the lip type and the bottom feature point of hair type1.
  • Embodiments according to the present invention can be implemented in the form of program instructions that can be executed by various computer means can be recorded in a computer readable medium.
  • the computer readable medium may include program instructions, data files, data structures, etc. alone or in combination.
  • Program instructions recorded on the media may be those specially designed and constructed for the purposes of the present invention, or they may be of the kind well-known and available to those having skill in the computer software arts.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks such as floppy disks.
  • program instructions include machine code, such as produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like.
  • the hardware device described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

Abstract

영상 장치 및 컴퓨터 판독 기록매체가 개시된다. 본 발명의 일실시예에 따르면, 가상 세계의 아바타의 임의의 부분에 대응하는 애니메이션 클립의 우선 순위와 모션 데이터의 우선 순위를 비교하여, 아바타의 임의의 부분에 대응하는 데이터를 결정함으로써, 애니메이션 클립과 현실 세계의 사용자의 동작을 센싱한 모션 데이터가 결합된 아바타의 동작을 생성할 수 있다.

Description

영상 장치 및 컴퓨터 판독 기록매체
본 발명의 실시예들은 영상 장치 및 컴퓨터 판독 기록매체(Display device and Computer-Readable Recording Medium)에 관한 것으로, 보다 구체적으로 가상 세계의 아바타의 동작을 생성하는 영상 장치 및 컴퓨터 판독 기록매체에 관한 것이다.
최근 들어 체감형 게임에 대한 관심이 증대 되고 있다. Microsoft社는 "E3 2009" Press Conference에서 그들의 게임 콘솔인 Xbox360에 Depth/Color 카메라와 마이크 어레이로 구성된 별도의 센서 디바이스를 결합하여 사용자의 전신 모션 캡처링, 얼굴 인식, 음성 인식 기술을 제공하여 별도의 컨트롤러 없이 가상세계와 상호 작용 할 수 있도록 해 주는 "Project Natal"을 발표 했다. 또한, Sony社는 자사 게임 콘솔인 Play Station3에 컬러 카메라와 마커, 초음파 센서를 결합한 위치/방향 센싱 기술을 적용하여 컨트롤러의 모션 궤적을 입력으로 가상세계와 상호 작용 할 수 있는 체감형 게임 모션 컨트롤러 "Wand"를 발표했다.
현실 세계와 가상 세계의 상호 작용은 두 가지 방향을 가진다. 첫째는 현실 세계의 센서로부터 얻어진 데이터 정보를 가상 세계에 반영하는 방향이고, 둘째는 가상 세계로부터 얻어진 데이터 정보를 엑추에이터(actuator)를 통해 현실 세계에 반영하는 방향이다.
도 1은 MPEG-V 표준의 시스템 구조를 나타내는 도면이다.
다큐먼트 10618(document 10618)은 현실 세계를 가상 세계로 반영하는 '적응 VR(adaptation VR, adaptation virtual world to real world)'을 위한 제어 정보를 다룬다. 반대 방향으로의 제어 정보, 즉 가상 세계를 현실 세계로 반영하는 '적응 RV(adaptation RV, adaptation real world to virtual world)'를 위한 제어 정보는 아직 제안되지 않고 있다. 적응 RV를 위한 제어 정보는 가상 세계에서 모든 제어 가능한 엘리먼트(element)를 다룬다.
본 발명에 따른 일실시예는 현실 세계와 가상 세계의 상호 작용을 구현하기 위해, 현실 세계의 센서로부터 얻어진 데이터 및 애니메이션 클립을 이용하여 가상 세계의 아바타의 동작을 생성하는 영상 장치 및 컴퓨터 판독 기록매체를 제공한다.
본 발명의 일측에 따른 영상 장치는, 애니메이션 클립, 상기 애니메이션 클립이 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 우선 순위를 포함하는 애니메이션 제어 정보 및 모션 센서로부터 수신된 값을 처리한 모션 데이터가 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 우선 순위를 포함하는 컨트롤 제어 정보를 저장하는 저장부 및 아바타의 제1 부분에 대응하는 상기 애니메이션 제어 정보의 우선 순위와 상기 아바타의 상기 제1 부분에 대응하는 상기 컨트롤 제어 정보의 우선 순위를 비교하여, 상기 아바타의 상기 제1 부분에 적용할 데이터를 결정하는 처리부를 포함한다.
본 발명의 일측에 따른 컴퓨터 판독 기록매체는, 애니메이션 제어 정보 및 컨트롤 제어 정보를 저장하는 제1 명령어 세트 및 아바타의 각 부분에 대응하는 상기 애니메이션 제어 정보 및 상기 컨트롤 제어 정보를 참조하여 모션 센서로부터 수신된 값으로부터 생성된 모션 데이터 및 애니메이션 클립을 결합하는 제2 명령어 세트를 포함하고, 상기 애니메이션 제어 정보는, 대응하는 애니메이션 클립에 대한 정보 및 상기 대응하는 애니메이션 클립이 어느 아바타의 얼굴 표정, 머리, 상체, 중체, 및 하체 중 어느 부분에 대응하는지에 관한 식별자를 포함하고, 상기 컨트롤 제어 정보는, 상기 실시간 모션 데이터가 어느 아바타의 얼굴 표정, 머리, 상체, 중체, 및 하체 중 어느 부분에 대응하는지에 관한 식별자를 포함한다.
도 1은 MPEG-V 표준의 시스템 구조를 나타내는 도면이다.
도 2는 본 발명의 일실시예에 따른 현실 세계와 가상 세계 사이의 정보 및 데이터 교환에 관한 시스템의 구조를 나타낸 도면이다.
도 3 내지 도 7는 본 발명의 일실시예에 따른 아바타 제어 명령을 나타내는 도면이다.
도 8는 본 발명의 일실시예에 따른 어피어런스 제어 타입의 구조를 나타내는 도면이다.
도 9는 본 발명의 일실시예에 따른 커뮤니케이션 스킬 제어 타입의 구조를 나타내는 도면이다.
도 10은 본 발명의 일실시예에 따른 개성 제어 타입의 구조를 나타내는 도면이다.
도 11은 본 발명의 일실시예에 따른 애니메이션 제어 타입의 구조를 나타내는 도면이다.
도 12은 본 발명의 일실시예에 따른 컨트럴 제어 타입의 구조를 나타내는 도면이다.
도 13는 본 발명의 일실시예에 따른 영상 장치의 구성을 나타낸 도면이다.
도 14은 본 발명의 일실시예에 따른 가상 세계의 아바타를 얼굴 표정, 머리, 상체, 중체 및 하체의 부분으로 나눈 도면을 나타낸다.
도 15은 본 발명의 일실시예에 따른 애니메이션 클립에 대한 데이터베이스를 나타낸 도면이다.
도 16는 본 발명의 일실시예에 따른 모션 데이터에 대한 데이터베이스를 나타낸 도면이다.
도 17은 본 발명의 일실시예에 따른 우선 순위를 비교하여 아바타의 임의의 부분에 적용할 모션 객체 데이터를 결정하는 동작을 나타낸 도면이다.
도 18는 아바타의 각 부분에 적용할 모션 객체 데이터를 결정하는 방법의 흐름도이다.
도 19는 본 발명의 일실시예에 따른 아바타의 각 부분에 대응하는 모션 객체 데이터를 결합하는 동작을 나타낸 흐름도이다.
도 20은 본 발명의 일실시예에 따른 아바타의 각 부분에 대응하는 모션 객체 데이터를 결합하는 동작을 나타낸 도면이다.
도 21은 본 발명의 일실시예에 따른 영상 장치가 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점을 나타낸 도면이다.
도 22은 본 발명의 또 다른 일실시예에 따른 영상 장치가 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점을 나타낸 도면이다.
도 23는 본 발명의 일실시예에 따른 얼굴 특징 제어 타입을 나타내는 도면이다.
도 24은 본 발명의 일실시예에 따른 머리 외곽선1(Head Outline1)을 나타내는 도면이다.
도 25은 본 발명의 일실시예에 따른 왼쪽 눈 외곽선1(Right Eye Outline1) 및 왼쪽 눈 외곽선2(Right Eye Outline2)를 나타내는 도면이다.
도 26은 본 발명의 일실시예에 따른 오른쪽 눈 외곽선1(Left Eye Outline1) 및 오른쪽 눈 외곽선2(Left Eye Outline2)를 나타내는 도면이다.
도 27은 본 발명의 일실시예에 따른 왼쪽 눈썹 외곽선을 나타내는 도면이다.
도 28은 본 발명의 일실시예에 따른 오른쪽 눈썹 외곽선을 나타내는 도면이다.
도 29은 본 발명의 일실시예에 따른 왼쪽 귀 외곽선을 나타내는 도면이다.
도 30은 본 발명의 일실시예에 따른 오른쪽 귀 외곽선을 나타내는 도면이다.
도 31은 본 발명의 일실시예에 따른 코 외곽선1(Nose Outline1) 및 코 외곽선2(Nose Outline2)를 나타내는 도면이다.
도 32은 본 발명의 일실시예에 따른 입술 외곽선을 나타내는 도면이다.
도 33은 본 발명의 일실시예에 따른 머리 외곽선2(Head Outline2)를 나타내는 도면이다.
도 34은 본 발명의 일실시예에 따른 윗입술 외곽선을 나타내는 도면이다.
도 35은 본 발명의 일실시예에 따른 아랫입술 외곽선을 나타내는 도면이다.
도 36는 본 발명의 일실시예에 따른 얼굴 점을 나타내는 도면이다.
도 37은 본 발명의 일실시예에 따른 외곽선(outline)의 도표(diagram)를 나타내는 도면이다.
도 38는 본 발명의 일실시예에 따른 머리 외곽선2 타입을 나타내는 도면이다.
도 39는 본 발명의 일실시예에 따른 눈 외곽선2 타입을 나타내는 도면이다.
도 40는 본 발명의 일실시예에 따른 코 외곽선2 타입을 나타내는 도면이다.
도 41는 본 발명의 일실시예에 따른 윗입술 외곽선2 타입을 나타내는 도면이다.
도 42은 본 발명의 일실시예에 따른 아랫입술 외곽선2 타입을 나타내는 도면이다.
도 43는 본 발명의 일실시예에 따른 얼굴 점 세트 타입을 나타내는 도면이다.
이하에서, 본 발명에 따른 실시예를 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 2는 본 발명의 일실시예에 따른 현실 세계와 가상 세계 사이의 정보 및 데이터 교환에 관한 시스템의 구조를 나타낸 도면이다.
도 2를 참조하면, 현실 세계 장치(real world device)(예를 들어서, 모션 센서(motion sensor))를 통해서 현실 세계의 사용자가 자신의 의도를 입력하면, 현실 세계 사용자의 의도에 관한 제어 정보(control information, CI)를 포함한 센서 신호는 가상 세계 처리 장치로 전송될 수 있다.
제어 정보(CI)는 현실 세계 장치를 통해 입력한 값에 따른 명령(command) 및 상기 명령에 관련된 정보일 수 있다. 제어 정보(CI)는 SIDC(sensory input device capabilities, 센서 입력 장치 특성), USIP(user sensory input preferences, 사용자 센서 입력 선호), SDICmd(sensory input device commands, 센서 입력 장치 명령)를 포함할 수 있다.
적응 RV(adaptation real world to virtual world)는 RV 엔진(real world to virtual world engine, RV engine)으로 구현될 수 있다. 적응 RV는 센서 신호에 포함되어 있는 현실 세계의 사용자의 동작, 상태, 의도, 형태 등에 관한 제어 정보(CI)를 이용하여 현실 세계 장치를 통해 입력된 현실 세계의 정보를 가상 세계에 적응(adaptation) 될 수 있는 정보로 변환한다. 상기 적응 과정을 통해 가상 세계 정보(Virtual World Information, VWI)에 영향을 줄 수 있다.
가상 세계 정보(VWI)는 가상 세계에 관한 정보이다. 예를 들어, 가상 세계 객체(virtual object)나 아바타(avatar) 등 가상 세계(virtual world)를 구성하는 요소에 관한 정보일 수 있다. 가상 세계 정보(VWI)에 대한 변화는 RV 엔진에서 VWEM(virtual world effect metadata, 가상 세계 효과 메타데이터), VWP(virtual world preferences, 가상 세계 선호), VWC(virtual world capabilities, 가상 세계 특성) 형태의 명령으로 이루어질 수 있다.
표 1은 도 2에 표시되어 있는 구성들을 설명한다.
표 1
SIDC 센서 입력 장치 특성(Sensory input device capabilities) VWI 가상 세계 정보(Virtual world information)
USIP 사용자 센서 입력 선호(User sensory input preferences) SODC 센서 출력 장치 특성(Sensory output device capabilities)
SIDCmd 센서 입력 장치 명령(Sensory input device commands) USOP 사용자 센서 출력 선호(User sensory output preferences)
VWC 가상 세계 특성(Virtual world capabilities) SODCmd 센서 출력 장치 명령(Sensory output device commands)
VWP 가상 세계 선호(Virtual world preferences) SEM 센서 효과 메타데이타(Sensory effect metadata)
VWEM 가상 세계 효과 메타데이타(Virtual world effect metadata) SI 센서 정보(Sensory information)
도 3 내지 도 7는 본 발명의 일실시예에 따른 아바타 제어 명령을 나타내는 도면이다.
도 3를 참조하면, 본 발명의 일실시예에 따른 아바타 제어 명령(avatar control commands)(310)은 아바타 제어 명령 기본 타입(avatar control command base type)(311)과 예외 속성(any attributes)(312)를 포함할 수 있다.
또한, 도 4 내지 도 7를 참조하면, XML(eXtensible Markup Language)을 이용하여 아바타 제어 명령(avatar control commands)을 표시했다. 그러나 도 4 내지 도 7에 표시된 프로그램 소스(source)는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
도면 부호(318)는 아바타 제어 명령(310)의 기본 엘리먼트(base element)의 정의를 나타낸다. 아바타 제어 명령(310)은 아바타를 제어하기 위한 명령을 의미(semantic)한다.
도면 부호(320)는 아바타 제어 명령(310)의 루트 엘리먼트(root element)의 정의를 나타낸다. 아바타 제어 명령(310)은 메타데이터(metadata)를 위한 루트 엘리먼트(root element)의 역할을 의미할 수 있다.
도면 부호(319) 및 도면 부호(321)는 아바타 제어 명령 기본 타입(311)의 정의를 나타낸다. 아바타 제어 명령 기본 타입(avatar control command base type)(311)은 아바타 제어 명령 기본 타입(avatar ctrl cmd base type)을 확장하고, 아바타 제어 명령 메타데이터 타입으로서 정의된 타입의 서브셋을 위한 기본 추상 타입을 제공하는 것을 의미한다(avatar control command base type provides a base abstract type for a subset of types defined as part of the avatar control commands metadata types).
예외 속성(312)은 추가적인 아바타 제어 명령일 수 있다.
본 발명의 일측에 따르면, 아바타 제어 명령 기본 타입(311)은 아바타 제어 명령 기본 속성(avatar control command base attributes)(313) 및 예외 속성(314)을 포함할 수 있다.
도면 부호(315)은 아바타 제어 명령 기본 속성(313)의 정의를 나타낸다. 아바타 제어 명령 기본 속성(313)은 명령의 속성으로 이루어진 그룹(group of attribute for the commands)을 표시하는 것을 의미한다.
아바타 제어 명령 기본 속성(313)은 id, idref, 활성 상태(activate) 및 값(value)를 포함할 수 있다.
id는 아바타 제어 명령 기본 타입(311)의 개별적인 정체성을 구분하기 위한 아이디 정보이다.
idref는 타입 id의 예시된 속성을 포함하는 엘리먼트를 참조한다(idref references elements that have an instantiated attribute of type id). idref는 아바타 제어 명령 기본 타입(311)의 개별적인 정체성을 구분하기 위한 id에 대한 부가적인 정보일 수 있다.
활성 상태(activate)는 효과가 활성화될 것인지 여부를 표시한다(activate describes whether the effect shall be activated). 'true'값은 효과가 활성화됨을 의미하고, 'false'값은 효과가 비활성화됨을 의미할 수 있다. 도면 부호(316)에 따르면, 활성 상태은 "boolean" 유형의 데이터를 가지고, 선택적(optional)으로 사용될 수 있다.
값(value)은 효과의 강도를 개별 효과의 의미 정의 내에 정의된 최대 스케일에 따라 비율로서 표시한다(value describes the intensity of the effect in percentage according to the max scale defined within the semantics definition of the individual effects). 도면 부호(317)에 따르면, 값은 "integer" 유형의 데이터를 가지고, 선택적(optional)으로 사용될 수 있다.
예외 속성(314)은 타겟 네임스페이스(target namespace)와는 다른 네임스페이스로부터의 속성을 포함하기 위한 확장 메커니즘을 제공하는 것을 의미한다. 포함되어야 할 속성은 프로세스 유닛을 식별하고, 프로세스 유닛들의 시간 정보를 결합(associating)하기 위해 ISO/IEC 21000-7에서 정의된 XML 스트리밍 명령어일 수 있다. 예를 들어, 'si:pts'는 결합된 정보가 프로세싱을 위한 어플리케이션에서 이용될 수 있는 포인트를 표시할 수 있다.
도면 부호(322)는 아바타 제어 명령 어피어런스 타입(avatar control command appearance type)의 정의를 나타낸다.
본 발명의 일측에 따르면, 아바타 제어 명령 어피어런스 타입은 어피어런스 제어 타입(appearance control type), 애니메이션 제어 타입(animation control type), 커뮤니케이션 스킬 제어 타입(communication skill control type), 개성 제어 타입(personality control type) 및 컨트럴 제어 타입(control control type)을 포함할 수 있다.
도면 부호(323)은 어피어런스 제어 타입(appearance control type)의 엘리먼트(element)를 나타낸다. 어피어런스 제어 타입(appearance control type)은 어피어런스 제어 명령을 표시하기 위한 도구(tool)이다. 이하, 어피어런스 제어 타입의 구조를 도 8를 참조하여 상세히 설명한다.
도 8는 본 발명의 일실시예에 따른 어피어런스 제어 타입의 구조를 나타내는 도면이다.
도 8를 참조하면, 본 발명의 일실시예에 따른 어피어런스 제어 타입(appearance control type)(410)은 아바타 제어 명령 기본 타입(avatar control command base type)(420) 및 엘리먼트(element)를 포함할 수 있다. 아바타 제어 명령 기본 타입(420)에 대해서는 위에서 상세히 설명하였는바, 이하 설명을 생략한다.
본 발명의 일측에 따르면, 어피어런스 제어 타입(410)의 엘리먼트는 몸(body), 머리(head), 눈(eyes), 코(nose), 입술(mouthlip), 피부(skin), 얼굴(facial), 손톱(nail), 머리카락(hair), 눈썹(eyebrows), 안면 털(facial hair), 외양 수단(appearance resources), 육체적 상태(physical condition), 의상(clothes), 신발(shoes) 및 액세서리(accessories)를 포함할 수 있다.
다시 도 3 내지 도 7를 참조하면, 도면 부호(325)는 커뮤니케이션 스킬 제어 타입(communication skill control type)의 엘리먼트를 나타낸다. 커뮤니케이션 스킬 제어 타입은 애니메이션 제어 명령을 표시하기 위한 도구(tool)이다. 이하, 커뮤니케이션 스킬 제어 타입의 구조를 도 9를 참조하여 상세히 설명한다.
도 9는 본 발명의 일실시예에 따른 커뮤니케이션 스킬 제어 타입의 구조를 나타내는 도면이다.
도 9를 참조하면, 본 발명의 일실시예에 따른 커뮤니케이션 스킬 제어 타입(510)은 아바타 제어 명령 기본 타입(avatar control command base type)(520) 및 엘리먼트(element)를 포함할 수 있다.
본 발명의 일측에 따르면, 커뮤니케이션 스킬 제어 타입(510)의 엘리먼트는 입력 구두 의사교환(input verbal communication), 입력 비구두 의사교환(input nonverbal communication), 출력 구두 의사교환(ouput verbal communication) 및 출력 비구두 의사교환(ouput nonverbal communication)를 포함할 수 있다.
다시 도 3 내지 도 7를 참조하면, 도면 부호(326)는 개성 제어 타입(personality control type)의 엘리먼트를 나타낸다. 개성 제어 타입은 애니메이션 제어 명령을 표시하기 위한 도구(tool)이다. 이하, 개성 제어 타입의 구조를 도 10을 참조하여 상세히 설명한다.
도 10은 본 발명의 일실시예에 따른 개성 제어 타입의 구조를 나타내는 도면이다.
도 10을 참조하면, 본 발명의 일실시예에 따른 개성 제어 타입(610)은 아바타 제어 명령 기본 타입(avatar control command base type)(620) 및 엘리먼트(element)를 포함할 수 있다.
본 발명의 일측에 따르면, 개성 제어 타입(610)의 엘리먼트는 개방적(openness), 상냥함(agreeableness), 신경질적(neuroticism), 외향적(extraversion) 및 양심적(conscientiousness)을 포함할 수 있다.
다시 도 3 내지 도 7를 참조하면, 도면 부호(324)는 애니메이션 제어 타입(animation control type)의 엘리먼트를 나타낸다. 애니메이션 제어 타입은 애니메이션 제어 명령을 표시하기 위한 도구(tool)이다. 이하, 애니메이션 제어 타입의 구조를 도 11을 참조하여 상세히 설명한다.
도 11은 본 발명의 일실시예에 따른 애니메이션 제어 타입의 구조를 나타내는 도면이다.
도 11을 참조하면, 본 발명의 일실시예에 따른 애니메이션 제어 타입(710)은 아바타 제어 명령 기본 타입(avatar control command base type)(720), 예외 속성(730) 및 엘리먼트(element)를 포함할 수 있다.
본 발명의 일측에 따르면, 예외 속성(730)은 모션 우선 순위(motion priority)(731) 및 속도(speed)(732)를 포함할 수 있다.
모션 우선 순위(731)는 애니메이션과 몸 및/또는 얼굴 특징 제어를 믹싱함으로써 아바타의 동작을 생성할 때의 우선 순위를 결정한다(motion priority determines the priority when generating the motion of avatar by mixing with animation and body and/or facial feature control).
속도(732)는 동일한 애니메이션을 사용하여 다양한 효과를 얻을 수 있도록 애니메이션의 속도를 조절한다. 예를 들어, 걷는 동작에 관한 애니메이션의 경우, 속도의 단계에 따라 천천히 걷는 동작, 보통 속도로 걷는 동작 및 빨리 걷는 동작으로 분류될 수 있다.
애니메이션 제어 타입(710)의 엘리먼트는 한가한(idle), 인사(greeting), 댄스(dance), 걷기(walk), 이동(moves), 싸우기(fighting), 듣기(hearing), 담배피기(smoke), 축하(congratulations), 일반행동(common actions), 특별한 행동(specific actions), 얼굴 표정(facial expression), 몸 표현(body expression) 및 애니메이션 수단(animation resources)을 포함할 수 있다.
다시 도 3 내지 도 7를 참조하면, 도면 부호(327)는 컨트럴 제어 타입(control control type)의 엘리먼트를 나타낸다. 컨트럴 제어 타입은 컨트럴 특징 제어 명령을 표시하기 위한 도구(tool)이다. 이하, 컨트럴 제어 타입의 구조를 도 12을 참조하여 상세히 설명한다.
도 12은 본 발명의 일실시예에 따른 컨트럴 제어 타입의 구조를 나타내는 도면이다.
도 12을 참조하면, 본 발명의 일실시예에 따른 컨트럴 제어 타입(810)은 아바타 제어 명령 기본 타입(avatar control command base type)(820), 예외 속성(830) 및 엘리먼트(element)를 포함할 수 있다.
본 발명의 일측에 따르면, 예외 속성(730)은 모션 우선 순위(motion priority)(831), 프래임시간(frame time)(832), 프래임개수(num of frame)(833) 및 프래임id(frame id)(834)를 포함할 수 있다.
모션 우선 순위(831)는 애니메이션과 몸 및/또는 얼굴 특징 제어를 믹싱함으로써 아바타의 동작을 생성할 때의 우선 순위를 결정한다.
프래임시간(832)은 모션 제어 데이터의 프래임 간격을 정의한다(frame time defines the frame interval of motion control data). 예를 들어, 프래임 간격의 단위는 초(second)일 수 있다.
프래임개수(833)는 모션 제어를 위한 프레임의 전체 수를 선택적으로 정의한다(num of frame optionally defines the total number of frames for the motion control).
프래임id(834)는 각 프레임의 순서를 가리킨다(frame id indicates the order of each frame).
컨트럴 제어 타입(810)의 엘리먼트는 몸 특징 제어(body features control)(840) 및 얼굴 특징 제어(face features control)(850)를 포함할 수 있다.
본 발명의 일측에 따르면, 몸 특징 제어(840)는 몸 특징 제어 타입을 포함할 수 있다. 또한, 상기 몸 특징 제어 타입은 머리뼈(headbones), 상체뼈(upper body bones), 하체뼈(down body bones) 및 중체뼈(middle body bones)의 엘리먼트를 포함할 수 있다.
가상 세계의 아바타의 동작(motion)은 애니메이션 제어 타입과 컨트럴 제어 타입과 관련된다. 애니메이션 제어 타입은 애니메이션 세트의 순서에 관한 정보를 포함하고, 컨트럴 제어 타입은 모션 센싱(motion sensing)에 관한 정보를 포함할 수 있다. 가상 세계의 아바타의 동작을 제어하기 위해서는 애니메이션 또는 모션 센싱 장치를 이용할 수 있다. 따라서, 이하 본 발명의 일실시예에 따른 가상 세계의 아바타의 동작을 제어하기 위한 영상 장치를 상세히 설명한다.
도 13는 본 발명의 일실시예에 따른 영상 장치의 구성을 나타낸 도면이다.
도 13를 참조하면, 본 발명의 일실시예에 따른 영상 장치(900)는 저장부(910) 및 처리부(920)를 포함한다.
저장부(910)는 애니메이션 클립(animation clip), 애니메이션 클립이 어느 아바타(avatar)의 어느 부분(part)에 대응하는지에 관한 정보와 우선 순위(priority)를 포함하는 애니메이션 제어 정보(animation control information) 및 모션 센서(motion sensor)로부터 수신된 값을 처리한 모션 데이터(motion data)가 어느 아바타의 어느 부분에 대응하는지에 관한 정보와 우선 순위를 포함하는 컨트롤 제어 정보(control control information)를 저장한다.
애니메이션 클립은 가상 세계의 아바타의 동작에 대한 동영상 데이터이다.
본 발명의 일측에 따르면, 가상 세계의 아바타를 부분으로 나누어, 각 부분에 대응하는 애니메이션 클립 및 모션 데이터를 저장할 수 있다. 실시예에 따라서는, 가상 세계의 아바타를 얼굴 표정(facial expression), 머리(head), 상체(upper body), 중체(middle body) 및 하체(lower body)의 부분으로 나눌 수 있다. 이에 대해서 도 14을 참조하여 상세히 설명한다.
도 14은 본 발명의 일실시예에 따른 가상 세계의 아바타를 얼굴 표정, 머리, 상체, 중체 및 하체의 부분으로 나눈 도면을 나타낸다.
도 14을 참조하면, 가상 세계의 아바타(1000)는 얼굴 표정(1010), 머리(1020), 상체(1030), 중체(1040) 및 하체(1050)의 부분으로 나누어진다.
본 발명의 일측에 따르면, 애니메이션 클립 및 모션 데이터는 얼굴 표정(1010), 머리(1020), 상체(1030), 중체(1040) 및 하체(1050) 중 어느 하나에 대응하는 데이터일 수 있다.
다시 도 13를 참조하면, 애니메이션 제어 정보(animation control information)는 애니메이션 클립이 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 우선 순위를 포함한다. 가상 세계의 아바타는 하나 이상일 수 있고, 애니메이션 제어 정보에 따라, 애니메이션 클립은 하나의 아바타 또는 하나 이상의 아바타에 대응할 수 있다.
실시예에 따라서는, 애니메이션 클립이 어느 아바타의 어느 부분에 대응하는지에 관한 정보는 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 부분에 대응하는지에 관한 정보일 수 있다.
아바타의 임의의 부분에 대응하는 애니메이션 클립은 우선 순위를 가질 수 있다. 우선 순위는 현실 세계의 사용자에 의해서 미리 설정되거나, 실시간으로 입력 받아 설정될 수 있다. 우선 순위에 대해서는 도 17을 참조하여 뒤에서 상세히 설명한다.
실시예에 따라서는, 애니메이션 제어 정보는 아바타의 임의의 부분에 대응하는 애니메이션 클립의 속도에 관한 정보를 더 포함할 수 있다. 예를 들어, 아바타의 하체에 대응하는 애니메이션 클립으로서 걷는 동작을 나타내는 데이터의 경우, 상기 애니메이션 클립의 속도에 관한 정보에 따라서, 상기 애니메이션 클립은 천천히 걷는 동작, 보통의 속도로 걷는 동작, 빨리 걷는 동작 및 뛰는 동작에 관한 데이터로 구분될 수 있다.
컨트롤 제어 정보(control control information)는 모션 센서로부터 수신된 값을 처리한 모션 데이터가 어느 아바타의 어느 부분에 대응하는지에 관한 정보와 우선 순위를 포함한다.
모션 센서는 현실 세계의 사용자의 동작, 표정, 상태 등을 측정하기 위한 현실 세계 장치(real world device)인 센서(sensor)이다.
모션 데이터는 모션 센서로부터 현실 세계의 사용자의 동작, 표정, 상태 등을 측정한 값을 수신하고, 상기 값을 가상 세계의 아바타에 적용할 수 있도록 처리한 데이터일 수 있다.
예를 들어, 모션 센서는 현실 세계의 사용자의 팔과 다리에 대한 위치 정보를 측정하여 x, y, z축의 값인 Xreal, Yreal, Zreal값과 x, y, z축과의 각도의 값인 ΘXreal, ΘYreal, ΘZreal값으로 나타낼 수 있다. 또한, 모션 데이터는 상기 위치 정보에 대한 값을 가상 세계의 아바타에 적용할 수 있도록 처리한 데이터일 수 있다.
본 발명의 일측에 따르면, 가상 세계의 아바타를 부분으로 나누어, 각 부분에 대응하는 모션 데이터를 저장할 수 있다. 실시예에 따라서는, 모션 데이터가 어느 아바타의 어느 부분에 대응하는지에 관한 정보는 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 부분에 대응하는지에 관한 정보일 수 있다.
아바타의 임의의 부분에 대응하는 모션 데이터는 우선 순위를 가질 수 있다. 우선 순위는 현실 세계의 사용자에 의해서 미리 설정되거나, 실시간으로 입력 받아 설정될 수 있다. 우선 순위에 대해서는 도 17을 참조하여 뒤에서 상세히 설명한다
처리부(920)는 아바타의 제1 부분에 대응하는 애니메이션 제어 정보의 우선 순위와 아바타의 상기 제1 부분에 대응하는 컨트롤 제어 정보의 우선 순위를 비교하여, 아바타의 제1 부분에 적용할 데이터를 결정한다. 이에 대해서는 도 17을 참조하여 뒤에서 상세히 설명한다.
본 발명의 일측에 따르면, 영상 장치(900)는 생성부를 더 포함할 수 있다.
생성부는 아바타의 얼굴 표정을 생성할 수 있다.
실시예에 따라서는, 저장부는 센서로부터 수신된 현실 세계의 사용자의 얼굴의 특징점에 대한 데이터를 저장할 수 있다. 이 때, 생성부는 저장부에 저장된 데이터에 기초하여 아바타의 얼굴 표정을 생성할 수 있다.
특징점에 대해서는 도 21 내지 도 43를 참조하여 뒤에서 상세히 설명한다.
도 15은 본 발명의 일실시예에 따른 애니메이션 클립에 대한 데이터베이스를 나타낸 도면이다.
도 15을 참조하면, 본 발명의 일실시예에 따른 애니메이션 클립에 대한 데이터베이스(database)(1100)는 애니메이션 클립(1110), 대응 부분(1120) 및 우선 순위(1130)의 카테고리로 분류된다.
애니메이션 클립(1110)은 가상 세계의 아바타의 임의의 부분에 대응하는 아바타의 동작에 대한 데이터의 카테고리이다. 실시예에 따라서는, 애니메이션 클립(1110)은 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 한 부분에 대응하는 애니메이션 클립에 대한 카테고리일 수 있다. 예를 들어, 제1 애니메이션 클립(1111)은 아바타의 얼굴 표정 부분에 대응하는 애니메이션 클립으로서, 웃는 동작에 대한 데이터일 수 있다. 제2 애니메이션 클립(1112)은 아바타의 머리 부분에 대응하는 애니메이션 클립으로서, 고개를 좌우로 흔드는 동작에 대한 데이터일 수 있다. 제3 애니메이션 클립(1113)은 아바타의 상체 부분에 대응하는 애니메이션 클립으로서, 양팔을 위로 올리는 동작에 대한 데이터일 수 있다. 제4 애니메이션 클립(1114)은 아바타의 중체 부분에 대응하는 애니메이션 클립으로서, 엉덩이를 앞으로 내미는 동작에 대한 데이터일 수 있다. 제5 애니메이션 클립(1115)은 아바타의 하체 부분에 대응하는 애니메이션 클립으로서, 다리 하나를 구부리고 다른 다리는 뒤로 뻗는 동작에 대한 데이터일 수 있다.
대응 부분(1120)은 애니메이션 클립이 아바타의 어느 부분에 대응하는지에 대한 데이터의 카테고리이다. 실시예에 따라서는, 대응 부분(1120)은 애니메이션 클립이 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 부분에 대응하는지에 대한 데이터의 카테고리일 수 있다. 예를 들어, 제1 애니메이션 클립(1111)은 아바타의 얼굴 표정 부분에 대응하는 애니메이션 클립이므로, 제1 대응 부분(1121)은 'facial expression'으로 표기될 수 있다. 제2 애니메이션 클립(1112)은 아바타의 머리 부분에 대응하는 애니메이션 클립이므로, 제2 대응 부분(1122)은 'head'로 표기될 수 있다. 제3 애니메이션 클립(1113)은 아바타의 상체 부분에 대응하는 애니메이션 클립이므로, 제3 대응 부분(1123)은 'upper body'로 표기될 수 있다. 제4 애니메이션 클립(1114)은 아바타의 중체 부분에 대응하는 애니메이션 클립이므로, 제4 대응 부분(1124)은 'middle body'로 표기될 수 있다. 제5 애니메이션 클립(1115)은 아바타의 하체 부분에 대응하는 애니메이션 클립이므로, 제5 대응 부분(1125)은 'lower body'로 표기될 수 있다.
우선 순위(1130)는 애니메이션 클립이 갖는 우선 순위에 대한 값의 카테고리이다. 실시예에 따라서는, 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 한 부분에 대응하는 애니메이션 클립이 갖는 우선 순위에 대한 값의 카테고리일 수 있다. 예를 들어, 아바타의 얼굴 표정 부분에 대응하는 제1 애니메이션 클립(1111)은 '5'의 우선 순위 값을 가질 수 있다. 아바타의 머리 부분에 대응하는 제2 애니메이션 클립(1112)은 '2'의 우선 순위 값을 가질 수 있다. 아바타의 상체 부분에 대응하는 제3 애니메이션 클립(1113)은 '5'의 우선 순위 값을 가질 수 있다. 아바타의 중체 부분에 대응하는 제4 애니메이션 클립(1114)은 '1'의 우선 순위 값을 가질 수 있다. 아바타의 하체 부분에 대응하는 제5 애니메이션 클립(1115)은 '1'의 우선 순위 값을 가질 수 있다. 애니메이션 클립에 대한 우선 순위 값은 현실 세계의 사용자로부터 미리 설정되거나, 실시간으로 입력 받아 설정될 수 있다.
도 16는 본 발명의 일실시예에 따른 모션 데이터에 대한 데이터베이스를 나타낸 도면이다.
도 16를 참조하면, 본 발명의 일실시예에 따른 모션 데이터에 대한 데이터베이스 (1200)는 모션 데이터(1210), 대응 부분(1220) 및 우선 순위(1230)의 카테고리로 분류된다.
모션 데이터(1210)는 모션 센서로부터 수신된 값을 처리한 데이터로서, 가상 세계의 아바타의 임의의 부분에 대응하는 모션 데이터의 카테고리이다. 실시예에 따라서는, 모션 데이터(1210)는 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 한 부분에 대응하는 모션 데이터의 카테고리일 수 있다. 예를 들어, 제1 모션 데이터(1211)는 아바타의 얼굴 표정 부분에 대응하는 모션 데이터로서, 현실 세계의 사용자가 얼굴을 찡그리는 동작을 하고 모션 센서가 이를 측정하면, 측정된 값을 가상 세계의 아바타의 얼굴 표정 부분에 적용할 수 있도록 처리한, 현실 세계의 사용자가 얼굴을 찡그리는 동작에 대한 데이터일 수 있다. 마찬가지로, 제2 모션 데이터(1212)는 아바타의 머리 부분에 대응하는 모션 데이터로서, 현실 세계 세계의 사용자가 고개를 숙이는 동작에 대한 데이터일 수 있다. 제3 모션 데이터(1213)는 아바타의 상체 부분에 대응하는 모션 데이터로서, 현실 세계 세계의 사용자가 양팔을 좌우로 들어 올리는 동작에 대한 데이터일 수 있다. 제4 모션 데이터(1214)는 아바타의 중체 부분에 대응하는 모션 데이터로서, 현실 세계 세계의 사용자가 엉덩이를 앞뒤로 흔드는 동작에 대한 데이터일 수 있다. 제5 모션 데이터(1215)는 아바타의 하체 부분에 대응하는 모션 데이터로서, 현실 세계 세계의 사용자가 양 다리를 좌우로 벌리면서 구부리는 동작에 대한 데이터일 수 있다.
대응 부분(1220)은 모션 데이터가 아바타의 어느 부분에 대응하는지에 대한 데이터의 카테고리이다. 실시예에 따라서는, 대응 부분(1220)은 모션 데이터가 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 부분에 대응하는지에 대한 데이터의 카테고리일 수 있다. 예를 들어, 제1 모션 데이터(1211)는 아바타의 얼굴 표정 부분에 대응하는 모션 데이터이므로, 제1 대응 부분(1221)은 'facial expression'으로 표기될 수 있다. 제2 모션 데이터(1212)는 아바타의 머리 부분에 대응하는 모션 데이터이므로, 제2 대응 부분(1222)은 'head'로 표기될 수 있다. 제3 모션 데이터(1213)는 아바타의 상체 부분에 대응하는 모션 데이터이므로, 제3 대응 부분(1223)은 'upper body'로 표기될 수 있다. 제4 모션 데이터(1214)는 아바타의 중체 부분에 대응하는 모션 데이터이므로, 제4 대응 부분(1224)은 'middle body'로 표기될 수 있다. 제5 모션 데이터(1215)는 아바타의 하체 부분에 대응하는 모션 데이터이므로, 제5 대응 부분(1225)은 'lower body'로 표기될 수 있다.
우선 순위(1230)는 모션 데이터가 갖는 우선 순위에 대한 값의 카테고리이다. 실시예에 따라서는, 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 한 부분에 대응하는 모션 데이터가 갖는 우선 순위에 대한 값의 카테고리일 수 있다. 예를 들어, 아바타의 얼굴 표정 부분에 대응하는 제1 모션 데이터(1211)는 '1'의 우선 순위 값을 가질 수 있다. 아바타의 머리 부분에 대응하는 제2 모션 데이터(1212)는 '5'의 우선 순위 값을 가질 수 있다. 아바타의 상체 부분에 대응하는 제3 모션 데이터(1213)는 '2'의 우선 순위 값을 가질 수 있다. 아바타의 중체 부분에 대응하는 제4 모션 데이터(1214)는 '5'의 우선 순위 값을 가질 수 있다. 아바타의 하체 부분에 대응하는 제5 모션 데이터(1215)는 '5'의 우선 순위 값을 가질 수 있다. 모션 데이터에 대한 우선 순위 값은 현실 세계의 사용자로부터 미리 설정되거나, 실시간으로 입력 받아 설정될 수 있다.
도 17은 본 발명의 일실시예에 따른 우선 순위를 비교하여 아바타의 임의의 부분에 적용할 모션 객체 데이터를 결정하는 동작을 나타낸 도면이다.
도 17을 참조하면, 아바타(1310)는 얼굴 표정(1311), 머리(1312), 상체(1313), 중체(1314) 및 하체(1315)의 부분으로 나누어진다.
모션 객체 데이터(motion object data)는 아바타의 임의의 부분의 동작에 관한 데이터이다. 모션 객체 데이터는 애니메이션 클립 및 모션 데이터를 포함할 수 있다. 모션 객체 데이터는 모션 센서로부터 수신된 값을 처리하거나, 영상 장치의 저장부로부터 독출되어 획득될 수 있다. 실시예에 따라서는, 모션 객체 데이터는 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 한 부분에 대응할 수 있다.
데이터베이스(1320)는 애니메이션 클립에 대한 데이터베이스이다. 또한, 데이터베이스(1330)는 모션 데이터에 대한 데이터베이스이다.
본 발명의 일실시예에 따른 영상 장치의 처리부는 아바타(1310)의 제1 부분에 대응하는 애니메이션 제어 정보의 우선 순위와 아바타의 제1 부분에 대응하는 컨트롤 제어 정보의 우선 순위를 비교하여, 아바타의 제1 부분에 적용할 데이터를 결정할 수 있다.
실시예에 따라서는, 아바타(1310)의 얼굴 표정(1311)에 대응하는 제1 애니메이션 클립(1321)은 우선 순위의 값이 '5'이고, 아바타(1310)의 얼굴 표정(1311)에 대응하는 제1 모션 데이터(1331)는 우선 순위의 값이 '1'일 수 있다. 제1 애니메이션 클립(1321)이 제1 모션 데이터(1331)보다 우선 순위의 값이 더 높으므로, 영상 장치의 처리부는 아바타(1310)의 얼굴 표정(1311)에 적용할 데이터를 제1 애니메이션 클립(1321)으로 결정할 수 있다.
또한, 아바타(1310)의 머리(1312)에 대응하는 제2 애니메이션 클립(1322)은 우선 순위의 값이 '2'이고, 아바타(1310)의 머리(1312)에 대응하는 제2 모션 데이터(1332)는 우선 순위의 값이 '5'일 수 있다. 제2 모션 데이터(1332)가 제2 애니메이션 클립(1322)보다 우선 순위의 값이 더 높으므로, 영상 장치의 처리부는 아바타(1310)의 머리(1312)에 적용할 데이터를 제2 모션 데이터(1332)로 결정할 수 있다.
또한, 아바타(1310)의 상체(1313)에 대응하는 제3 애니메이션 클립(1323)은 우선 순위의 값이 '5'이고, 아바타(1310)의 상체(1313)에 대응하는 제3 모션 데이터(1333)는 우선 순위의 값이 '2'일 수 있다. 제3 애니메이션 클립(1323)이 제3 모션 데이터(1333)보다 우선 순위의 값이 더 높으므로, 영상 장의 처리부는 아바타(1310)의 상체(1313)에 적용할 데이터를 제3 애니메이션 클립(1323)으로 결정할 수 있다.
또한, 아바타(1310)의 중체(1314)에 대응하는 제4 애니메이션 클립(1324)은 우선 순위의 값이 '1'이고, 아바타(1310)의 중체(1314)에 대응하는 제4 모션 데이터(1334)는 우선 순위의 값이 '5'일 수 있다. 제4 모션 데이터(1334)가 제4 애니메이션 클립(1324)보다 우선 순위의 값이 더 높으므로, 영상 장치의 처리부는 아바타(1310)의 중체(1314)에 적용할 데이터를 제4 모션 데이터(1334)로 결정할 수 있다.
또한, 아바타(1310)의 하체(1315)에 대응하는 제5 애니메이션 클립(1325)은 우선 순위의 값이 '1'이고, 아바타(1310)의 하체(1315)에 대응하는 제5 모션 데이터(1335)는 우선 순위의 값이 '5'일 수 있다. 제5 모션 데이터(1335)가 제5 애니메이션 클립(1325)보다 우선 순위의 값이 더 높으므로, 영상 장치의 처리부는 아바타(1310)의 하체(1315)에 적용할 데이터를 제5 모션 데이터(1335)로 결정할 수 있다.
따라서, 아바타(1310)는 얼굴 표정(1311)에 제1 애니메이션 클립(1321)을, 머리(1312)에 제2 모션 데이터(1332)를, 상체(1313)에 제3 애니메이션 클립(1323)을, 중체(1314)에 제4 모션 데이터(1334)를, 하체(1315)에 제5 모션 데이터(1335)를 가질 수 있다.
아바타(1310)의 임의의 부분에 대응하는 데이터는 복수 개의 애니메이션 클립과 복수 개의 모션 데이터가 있을 수 있다. 아바타(1310)의 임의의 부분에 대응하는 데이터가 복수 개 있는 경우, 아바타(1310)의 임의의 부분에 적용할 데이터를 결정하는 방법을 이하 도 18를 참조하여 설명한다.
도 18는 아바타의 각 부분에 적용할 모션 객체 데이터를 결정하는 방법의 흐름도이다.
도 18를 참조하면, 본 발명의 일실시예에 따른 영상 장치는 모션 객체 데이터(motion object data)에 포함되어 있는 정보를 확인한다(S1410). 모션 객체 데이터에 포함되어 있는 정보는, 모션 객체 데이터가 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 모션 객체 데이터의 우선 순위를 포함할 수 있다.
아바타의 제1 부분에 대응하는 모션 객체 데이터가 아직 없는 경우, 독출 또는 처리되어 획득된 모션 객체 데이터를 아바타의 제1 부분에 적용할 데이터로 결정할 수 있다.
아바타의 제1 부분에 대응하는 모션 객체 데이터가 있는 경우, 영상 장치의 처리부는 기존의 모션 객체 데이터와 새로 독출 또는 처리되어 획득된 모션 객체 데이터의 우선 순위의 값을 비교한다(S1420).
기존의 모션 객체 데이터보다 새로 독출 또는 처리되어 획득된 모션 객체 데이터가 더 높은 우선 순위의 값을 갖는 경우, 아바타의 제1 부분에 적용할 데이터를 새로 독출 또는 처리되어 획득된 모션 객체 데이터로 결정한다(S1430).
그러나, 기존의 모션 객체 데이터가 새로 독출 또는 처리된 모션 객체 데이터보다 더 높은 우선 순위의 값을 갖는 경우, 기존의 모션 객체 데이터가 아바타의 제1 부분에 적용할 데이터로 결정된다.
모든 모션 객체 데이터를 확인하였는지 여부를 판단한다(S1440)
판단되지 않는 모션 객체 데이터가 있는 경우, 영상 장치는 판단되지 않은 모션 객체 데이터에 대해서 상기 단계(S1410)부터 단계(S1440)까지의 과정을 반복 수행한다.
모든 모션 객체 데이터에 대해서 판단한 경우, 아바타의 각 부위에 대응하는 모션 객체 데이터 중 우선 순위가 가장 높은 데이터를 결합하여 아바타의 동영상을 생성한다(S1450).
본 발명의 일실시예에 따른 영상 장치의 처리부는 아바타의 각 부분에 대응하는 애니메이션 제어 정보의 우선 순위와 컨트롤 제어 정보의 우선 순위를 비교하여, 상기 각 부분에 적용할 데이터를 결정하고, 결정된 데이터를 결합하여 아바타의 동영상을 생성할 수 있다. 아바타의 각 부분에 적용할 데이터를 결정하는 과정에 대해서는 도 에서 상세히 설명하였는바, 이하 도 19를 참조하여, 결정된 데이터를 결합하여 아바타의 동영상을 생성하는 과정에 대해 설명한다.
도 19는 본 발명의 일실시예에 따른 아바타의 각 부분에 대응하는 모션 객체 데이터를 결합하는 동작을 나타낸 흐름도이다.
도 19를 참조하면, 본 발명의 일실시예에 따른 영상 장치는 루트 엘리먼트(root element)를 포함하는 아바타의 부분을 확인(find)한다(S1510).
또한, 아바타의 부분에 대응하는 모션 객체 데이터로부터 연결 축에 관한 정보를 추출한다(S1520). 모션 객체 데이터는 애니메이션 클립 및 모션 데이터를 포함할 수 있다. 모션 객체 데이터는 연결 축에 관한 정보를 포함할 수 있다.
또한, 결합되지 않은 모션 객체 데이터가 존재하는지 확인한다(S1530).
결합되지 않은 모션 객체 데이터가 존재하지 않는 경우, 아바타의 각 부분에 대응하는 모든 데이터가 결합되었으므로, 아바타의 동영상을 생성하는 과정은 종료된다.
결합되지 않은 모션 객체 데이터가 존재하는 경우, 상기 모션 객체 데이터로부터 추출한 연결 축에 관한 정보에 포함되는 관절 방향각을 상대적 방향으로 변경한다(S1540). 실시예에 따라서는, 연결 축에 관한 정보에 포함되는 관절 방향각은 상대적 방향일 수 있고, 이 경우 변경하는 단계(S1540)는 생략하고 단계(S1550)로 바로 갈 수 있다.
이하, 본 발명의 일측에 따른, 관절 방향각이 절대적 방향인 경우, 상기 관절 방향각을 상대적 방향으로 변경하는 방법을 상세히 설명한다. 또한, 가상 세계의 아바타가 얼굴 표정, 머리, 상체, 중체 및 하체의 부분으로 나누어진 경우를 실시예로 하여 설명한다.
실시예에 따라서는, 아바타의 중체에 대응하는 모션 객체 데이터는 신체 중심 좌표를 포함할 수 있다. 절대적 방향인 관절 방향각은 신체 중심 좌표를 포함하는 중체 부분의 연결 부위를 기준으로 상대적 방향으로 변경될 수 있다.
영상 장치는 아바타의 중체에 대응하는 모션 객체 데이터에 저장된 연결 축에 관한 정보를 추출한다. 연결 축에 관한 정보는 아바타의 상체 부분의 연결 부위인 가슴 척추골(thoracic vertebrae)과 머리 부분의 연결 부위인 경부 척추골(cervical vertebrae) 간의 관절 방향각, 상체 부분의 연결 부위인 가슴 척추골(thoracic vertebrae)과 왼편 쇄골(left clavicle) 간의 관절 방향각, 상체 부분의 연결 부위인 가슴 척추골(thoracic vertebrae)과 오른편 쇄골(right clavicle) 간의 관절 방향각 및 중체 부분의 연결 부위인 골반(pelvis)과 하체 부분의 연결 부위인 왼편 대퇴부(left femur), 중체 부분의 연결 부위인 골반(pelvis)과 하체 부분의 연결 부위인 오른편 대퇴부(right femur) 간의 관절 방향각을 포함할 수 있다.
예를 들어, 골반과 오른편 대퇴부 간의 관절 방향각은 다음과 같은 수학식 1로 나타날 수 있다.
수학식 1
Figure PCTKR2010004135-appb-M000001
상기 [수학식 1]에서 함수 A(.)는 디렉셔널 코사인 함수(directional cosine matrix)이고, RRightFemur_Pelvis는 골반과 오른편 대퇴부 간의 방향각에 대한 회전 함수(rotational matrix)이다. 또한, ΘRightFemur는 아바타의 하체 부분의 오른편 대퇴부(right femur)에서의 관절 방향각이고, ΘPelvis는 중체 부분의 골반(pelvis)과 오른편 대퇴부(right femur)와의 관절 방향각이다.
상기 수학식 1로부터 다음의 2수학식 2와 같이 회전 함수를 계산할 수 있다.
수학식 2
Figure PCTKR2010004135-appb-M000002
절대적 방향인 관절 방향각은 신체 중심 좌표를 포함하는 중체 부분의 연결 부위를 기준으로 상대적 방향으로 변경될 수 있다. 예를 들어, 상기 수학식 2의 회전 함수를 이용하여, 아바타의 하체에 대응하는 모션 객체 데이터에 저장된 연결 축에 관한 정보에 포함되는 절대적 방향인 관절 방향각을 하기의 수학식 3과 같이 상대적 방향으로 변경할 수 있다.
수학식 3
Figure PCTKR2010004135-appb-M000003
마찬가지로, 아바타의 머리 및 상체에 대응하는 모션 객체 데이터에 저장된 연결 축에 관한 정보에 포함되는 절대적 방향인 관절 방향각을 상대적 방향으로 변경할 수 있다.
상기 과정에 의해, 관절 방향각이 상대적 방향으로 변경되면, 아바타의 각 부분에 대응하는 모션 객체 데이터에 저장된 연결 축에 관한 정보를 이용하여, 각 부분에 대응하는 모션 객체 데이터를 결합한다(S1550).
다시 단계(S1530)로 돌아가서, 결합되지 않은 모션 객체 데이터가 존재하는지 확인한다(S1530).
결합되지 않은 모션 객체 데이터가 존재하지 않는 경우, 아바타의 각 부분에 대응하는 모든 데이터가 결합되었으므로, 아바타의 동영상을 생성하는 과정은 종료된다.
도 20은 본 발명의 일실시예에 따른 아바타의 각 부분에 대응하는 모션 객체 데이터를 결합하는 동작을 나타낸 도면이다.
도 20을 참조하면, 본 발명의 일실시예에 따른 영상 장치는 아바타의 제1 부분에 대응하는 모션 객체 데이터(1610)와 제2 부분에 대응하는 모션 객체 데이터(1620)가 결합하여 아바타의 동영상(1630)을 생성한다.
제1 부분에 대응하는 모션 객체 데이터(1610)는 애니메이션 클립 및 모션 데이터 중 어느 하나일 수 있다. 마찬가지로, 제2 부분에 대응하는 모션 객체 데이터(1620)는 애니메이션 클립 및 모션 데이터 중 어느 하나일 수 있다.
본 발명의 일측에 따르면, 영상 장치의 저장부는 애니메이션 클립의 연결 축(1601)에 관한 정보를 더 저장하고, 처리부는 애니메이션 클립의 연결 축(1601)에 관한 정보를 이용하여 애니메이션 클립과 모션 데이터를 결합할 수 있다. 또한, 처리부는 애니메이션 클립의 연결 축(1601)에 관한 정보를 이용하여 애니메이션 클립과 애니메이션 클립을 결합할 수 있다.
실시예에 따라서는, 처리부는 모션 데이터로부터 연결 축에 관한 정보를 추출하고, 애니메이션 클립의 연결 축(1601)과 모션 데이터의 연결 축을 대응시켜 애니메이션 클립과 모션 데이터를 결합할 수 있다. 또한, 처리부는 모션 데이터로부터 추출한 연결 축에 관한 정보를 이용하여 모션 데이터와 모션 데이터를 결합할 수 있다. 연결 축에 관한 정보는 도 19에서 상세히 설명하였는바, 이하 설명을 생략한다.
이하, 본 발명의 일실시예에 따른 영상 장치가 현실 세계의 사용자의 얼굴을 가상 세계의 아바타의 얼굴에 반영하는 일례를 설명한다.
영상 장치는 현실 세계의 사용자의 얼굴을 현실 세계 장치(예를 들어서, 영상 센서)를 통해서 센싱(sensing)하고, 가상 세계의 아바타의 얼굴에 반영할 수 있다. 가상 세계의 아바타를 얼굴 표정, 머리, 상체, 중체 및 하체의 부분으로 나눈 경우, 영상 장치는 현실 세계의 사용자의 얼굴을 센싱하여, 가상 세계의 아바타의 얼굴 표정 및 머리 부분에 반영할 수 있다.
실시예에 따라서는, 영상 장치는 현실 세계의 사용자의 얼굴의 특징점을 센싱하여 특징점에 대한 데이터를 수집하고, 상기 특징점에 대한 데이터를 이용하여 가상 세계의 아바타의 얼굴을 생성할 수 있다.
이하, 도 21 및 도 22을 참조하여 현실 세계의 사용자의 얼굴을 가상 세계의 아바타의 얼굴에 적용하는 일례를 상세히 설명한다.
도 21은 본 발명의 일실시예에 따른 영상 장치가 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점을 나타낸 도면이다.
도 21을 참조하면, 영상 장치는 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점(1 내지 8)을 설정할 수 있다. 영상 장치는 현실 세계의 사용자의 얼굴의 특징점(1), 특징점(2) 및 특징점(3)에 대응하는 부분을 센싱하여 데이터를 수집할 수 있다. 데이터는, 특징점(1), 특징점(2) 및 특징점(3)에 대응하는 부분의 색채, 위치, 깊이, 각도, 굴절률 등이 될 수 있다. 영상 장치는 상기 데이터를 이용하여 가상 세계의 아바타의 얼굴을 생성하기 위한 평면을 만들 수 있다. 또한, 상기 데이터를 이용하여 가상 세계의 아바타의 얼굴의 연결 축에 대한 정보를 생성할 수 있다.
영상 장치는 현실 세계의 사용자의 얼굴의 특징점(4), 특징점(5), 특징점(6), 특징점(7) 및 특징점(8)에 대응하는 부분을 센싱하여 데이터를 수집할 수 있다. 데이터는, 특징점(4), 특징점(5), 특징점(6), 특징점(7) 및 특징점(8)에 대응하는 부분의 색채, 위치, 깊이, 각도, 굴절률 등이 될 수 있다. 영상 장치는 상기 데이터를 이용하여 가상 세계의 아바타의 얼굴의 윤곽 구조를 생성할 수 있다.
영상 장치는 현실 세계의 사용자의 얼굴의 특징점(1), 특징점(2) 및 특징점(3)에 대응하는 부분을 센싱하여 수집한 데이터를 이용하여 생성한 평면 및 특징점(4), 특징점(5), 특징점(6), 특징점(7) 및 특징점(8)에 대응하는 부분을 센싱하여 수집한 데이터를 이용하여 생성한 윤곽 구조를 결합하여 가상 세계의 아바타의 얼굴을 생성할 수 있다.
[표 2]는 가상 세계의 아바타의 얼굴을 표현하기 위해 수집될 수 있는 데이터를 나타낸다.
표 2
요소 정의
FacialDefinition Level of brightness of the face from 1-lighted to 5 dark
Freckless Freckless (5 levels, 1=smallest, 5= biggest)
Wrinkles Wrinkles (yes or no)
RosyComplexion Rosy Complexion (yes or no)
LipPinkness Lip Pinkness (5 levels, 1=smallest, 5= biggest)
Lipstick Lipstick (yes or no)
LipstickColor Lipstick Color (RGB)
Lipgloss Lipgloss (5 levels, 1=smallest, 5= biggest)
Blush Blush (yes or no)
BlushColor Blush Color (RGB)
BlushOpacity Blush Opacity (%)
InnerShadow Inner Shadow (yes or no)
InnerShadowColor Inner Shadow Color (RGB)
InnerShadowOpacity Inner Shadow Opacity (%)
OuterShadow Outer Shadow (yes or no)
OuterShadowOpacity Outer Shadow Opacity (%)
Eyeliner Eyeliner (yes or no)
EyelinerColor Eyeliner Color (RGB)
Sellion 도 21의 특징점(1)
r_infraorbitale 도 21의 특징점(2)
l_infraorbitale 도 21의 특징점(3)
supramenton 도 21의 특징점(4)
r_tragion 도 21의 특징점(5)
r_gonion 도 21의 특징점(6)
l_tragion 도 21의 특징점(7)
l_gonion 도 21의 특징점(8)
도 22은 본 발명의 또 다른 일실시예에 따른 영상 장치가 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점을 나타낸 도면이다.
도 22을 참조하면, 영상 장치는 현실 세계의 사용자의 얼굴을 센싱하기 위한 특징점(1 내지 30)을 설정할 수 있다. 특징점(1 내지 30)을 이용하여 가상 세계의 아바타의 얼굴을 생성하는 동작에 대해서는 도 21에서 상세히 설명하였으므로, 이하 설명을 생략한다.
[소스 1]은 XML(eXtensible Markup Language)을 이용한 가상 세계의 아바타의 얼굴을 표현하기 위해 수집될 수 있는 데이터의 프로그램 소스를 나타낸다. 그러나 [소스 1]은 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000001
Figure PCTKR2010004135-appb-I000002
Figure PCTKR2010004135-appb-I000003
Figure PCTKR2010004135-appb-I000004
Figure PCTKR2010004135-appb-I000005
Figure PCTKR2010004135-appb-I000006
도 23는 본 발명의 일실시예에 따른 얼굴 특징 제어 타입을 나타내는 도면이다.
도 23를 참조하면, 본 발명의 일실시예에 따른 얼굴 특징 제어 타입(face features control type)은 속성(1901) 및 엘리먼트를 포함할 수 있다.
[소스 2]는 XML(eXtensible Markup Language)을 이용한 얼굴 특징 제어 타입의 프로그램 소스를 나타낸다. 그러나 [소스 2]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000007
Figure PCTKR2010004135-appb-I000008
Figure PCTKR2010004135-appb-I000009
속성(1901)은 이름(name)을 포함할 수 있다. 이름은 얼굴 제어 환경(configuration)의 이름이다. 이름은 선택적 사항(optional)일 수 있다.
얼굴 특징 제어 타입의 엘리먼트는 머리 외곽선1(Head Outline1), 왼쪽 눈 외곽선1(Left Eye Outline1), 오른쪽 눈 외곽선1(Right Eye Outline1), 머리 외곽선2(Head Outline2), 왼쪽 눈 외곽선2(Left Eye Outline2), 오른쪽 눈 외곽선2(Right Eye Outline2), 왼쪽 눈썹 외곽선(Left Eye Brow Outline), 오른쪽 눈썹 외곽선(Right Eye Brow Outline), 왼쪽 귀 외곽선(Left Ear Outline), 오른쪽 귀 외곽선(Right Ear Outline), 코 외곽선1(Nose Outline1), 코 외곽선2(Nose Outline2), 입술 외곽선(Mouth Lip Outline), 윗입술 외곽선(Upper Lip Outline), 아랫입술 외곽선(Lower Lip Outline2), 얼굴 점(Face Points) 및 미설레이니어스 점(Miscellaneous Points)을 포함할 수 있다.
이하, 도 24 내지 도 36를 참조하여, 얼굴 특징 제어 타입의 엘리먼트를 상세히 설명한다.
도 24은 본 발명의 일실시예에 따른 머리 외곽선1(Head Outline1)을 나타내는 도면이다.
도 24을 참조하면, 본 발명의 일실시예에 따른 머리 외곽선1은 탑(top)(2001), 레프트(left)(2002), 바톰(bottom)(2005) 및 라이트(right)(2008)의 특징점을 이용하여 생성된 머리의 기본 외곽선(basic outline)일 수 있다.
실시예에 따라서는, 머리 외곽선1은 탑(top)(2001), 레프트(left)(2002), 바톰(bottom)(2005) 및 라이트(right)(2008)의 특징점뿐 아니라 바톰레프트1(bottom left1)(2003), 바톰레프트2(bottom left2)(2004), 바톰라이트2(bottom right2)(2006) 및 바톰라이트1(bottom right1)(2007)의 특징점을 추가적으로 이용하여 생성된 머리의 확장 외곽선일 수 있다.
도 25은 본 발명의 일실시예에 따른 왼쪽 눈 외곽선1(Right Eye Outline1) 및 왼쪽 눈 외곽선2(Right Eye Outline2)를 나타내는 도면이다.
도 25을 참조하면, 본 발명의 일실시예에 따른 왼쪽 눈 외곽선1은 탑(top)(2101), 레프트(left)(2103), 바톰(bottom)(2105) 및 라이트(right)(2107)의 특징점을 이용하여 생성된 왼쪽 눈의 기본 외곽선(basic outline)일 수 있다.
왼쪽 눈 외곽선2는 탑(top)(2101), 레프트(left)(2103), 바톰(bottom)(2105) 및 라이트(right)(2107)의 특징점뿐 아니라 탑레프트(top left)(2102), 바톰레프트(bottom left)(2104), 바톰라이트(bottom right)(2106) 및 탑라이트(top right)(2108)의 특징점을 추가적으로 이용하여 생성된 왼쪽 눈의 확장 외곽선일 수 있다. 왼쪽 눈 외곽선2는 고해상도의 영상을 위한 왼쪽 눈 외곽선일 수 있다.
도 26은 본 발명의 일실시예에 따른 오른쪽 눈 외곽선1(Left Eye Outline1) 및 오른쪽 눈 외곽선2(Left Eye Outline2)를 나타내는 도면이다.
도 26을 참조하면, 본 발명의 일실시예에 따른 오른쪽 눈 외곽선1은 탑(top)(2201), 레프트(left)(2203), 바톰(bottom)(2205) 및 라이트(right)(2207)의 특징점을 이용하여 생성된 오른쪽 눈의 기본 외곽선(basic outline)일 수 있다.
오른쪽 눈 외곽선2는 탑(top)(2201), 레프트(left)(2203), 바톰(bottom)(2205) 및 라이트(right)(2207)의 특징점뿐 아니라 탑레프트(top left)(2202), 바톰레프트(bottom left)(2204), 바톰라이트(bottom right)(2206) 및 탑라이트(top right)(2208)의 특징점을 추가적으로 이용하여 생성된 오른쪽 눈의 확장 외곽선일 수 있다. 오른쪽 눈 외곽선2는 고해상도의 영상을 위한 오른쪽 눈 외곽선일 수 있다.
도 27은 본 발명의 일실시예에 따른 왼쪽 눈썹 외곽선을 나타내는 도면이다.
도 27을 참조하면, 본 발명의 일실시예에 따른 왼쪽 눈썹 외곽선(Left Eye Brow Outline)은 탑(top)(2301), 레프트(left)(2302), 바톰(bottom)(2303) 및 라이트(right)(2304)의 특징점을 이용하여 생성된 왼쪽 눈썹의 외곽선일 수 있다.
도 28은 본 발명의 일실시예에 따른 오른쪽 눈썹 외곽선을 나타내는 도면이다.
도 28을 참조하면, 본 발명의 일실시예에 따른 오른쪽 눈썹 외곽선(Right Eye Brow Outline)은 탑(top)(2401), 레프트(left)(2402), 바톰(bottom)(2403) 및 라이트(right)(2404)의 특징점을 이용하여 생성된 오른쪽 눈썹의 외곽선일 수 있다.
도 29은 본 발명의 일실시예에 따른 왼쪽 귀 외곽선을 나타내는 도면이다.
도 29을 참조하면, 본 발명의 일실시예에 따른 왼쪽 귀 외곽선(Right Ear Outline)은 탑(top)(2501), 레프트(left)(2502), 바톰(bottom)(2503) 및 라이트(right)(2504)의 특징점을 이용하여 생성된 왼쪽 귀의 외곽선일 수 있다.
도 30은 본 발명의 일실시예에 따른 오른쪽 귀 외곽선을 나타내는 도면이다.
도 30을 참조하면, 본 발명의 일실시예에 따른 오른쪽 귀 외곽선(Right Ear Outline)은 탑(top)(2601), 레프트(right)(2602), 바톰(bottom)(2603) 및 라이트(right)(2604)의 특징점을 이용하여 생성된 오른쪽 귀의 외곽선일 수 있다.
도 31은 본 발명의 일실시예에 따른 코 외곽선1(Nose Outline1) 및 코 외곽선2(Nose Outline2)를 나타내는 도면이다.
도 31을 참조하면, 본 발명의 일실시예에 따른 코 외곽선1은 탑(top)(2701), 레프트(left)(2705), 바톰(bottom)(2704) 및 라이트(right)(2707)의 특징점을 이용하여 생성된 코의 기본 외곽선(basic outline)일 수 있다.
코 외곽선2는 탑(top)(2701), 레프트(left)(2705), 바톰(bottom)(2704) 및 라이트(right)(2707)의 특징점뿐 아니라 탑레프트(top left)(2702), 센터(center)(2703), 로우어바톰(lower bottom)(2706) 및 탑라이트(top right)(2708)의 특징점을 추가적으로 이용하여 생성된 코의 확장 외곽선일 수 있다. 코 외곽선2는 고해상도의 영상을 위한 코 외곽선일 수 있다.
도 32은 본 발명의 일실시예에 따른 입술 외곽선을 나타내는 도면이다.
도 32을 참조하면, 본 발명의 일실시예에 따른 입술 외곽선(Mouth Lip Outline)은 탑(top)(2801), 레프트(left)(2802), 바톰(bottom)(2803) 및 라이트(right)(2804)의 특징점을 이용하여 생성된 입술의 외곽선일 수 있다.
도 33은 본 발명의 일실시예에 따른 머리 외곽선2(Head Outline2)를 나타내는 도면이다.
도 33을 참조하면, 본 발명의 일실시예에 따른 머리 외곽선2는 탑(top)(2901), 레프트(left)(2902), 바톰레프트1(bottom left1)(2903), 바톰레프트2(bottom left2)(2904), 바톰(bottom)(2905), 바톰라이트2(bottom right2)(2906), 바톰라이트1(bottom right1)(2907) 및 라이트(right)(2908)의 특징점을 이용하여 생성된 머리의 외곽선일 수 있다. 머리 외곽선2는 고해상도의 영상을 위한 머리 외곽선일 수 있다.
도 34은 본 발명의 일실시예에 따른 윗입술 외곽선을 나타내는 도면이다.
도 34을 참조하면, 본 발명의 일실시예에 따른 윗입술 외곽선(Upper Lip Outline)은 탑레프트(top left)(3001), 바톰레프트(bottom left)(3002), 바톰(bottom)(3003), 바톰라이트(bottom right)(3004) 및 탑라이트(top right)(3005)의 특징점을 이용하여 생성된 윗입술의 외곽선일 수 있다. 윗입술 외곽선은 입술 외곽선의 윗입술 부분에 대한 고해상도 영상을 위한 윗입술 외곽선일 수 있다.
도 35은 본 발명의 일실시예에 따른 아랫입술 외곽선을 나타내는 도면이다.
도 35을 참조하면, 본 발명의 일실시예에 따른 아랫입술 외곽선(Lower Lip Outline)은 탑(top)(3101), 탑레프트(top left)(3102), 바톰레프트(bottom left)(3103), 바톰라이트(bottom right)(3104) 및 탑라이트(top right)(3105)의 특징점을 이용하여 생성된 아랫입술의 외곽선일 수 있다. 아랫입술 외곽선은 입술 외곽선의 아랫입술 부분에 대한 고해상도 영상을 위한 아랫입술 외곽선일 수 있다.
도 36는 본 발명의 일실시예에 따른 얼굴 점을 나타내는 도면이다.
도 36를 참조하면, 본 발명의 일실시예에 따른 얼굴 점은 탑레프트(3201), 바톰레프트(3202), 바톰(3203), 바톰라이트(3204) 및 탑라이트(3205)의 특징점을 이용하여 생성된 얼굴 표정일 수 있다. 얼굴 점은 얼굴 표정의 고해상도 영상을 위한 엘리먼트일 수 있다.
본 발명의 일측에 따르면, 미셀레이니어스 점은 얼굴 특징 제어를 위해 임의의 특징점을 정의하고, 추가적으로 위치시킬 수 있는 특징점일 수 있다.
도 37은 본 발명의 일실시예에 따른 외곽선(outline)의 도표(diagram)를 나타내는 도면이다.
도 37을 참조하면, 외곽선(3310)은 엘리먼트를 포함한다. 외곽선(3310)의 엘리먼트는 레프트(left), 라이트(right), 탑(top) 및 바톰(bottom)을 포함할 수 있다.
[소스 3]은 XML(eXtensible Markup Language)을 이용한 외곽선(3310)의 프로그램 소스를 나타낸다. 그러나 [소스 3]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000010
레프트는 외곽선의 왼쪽 특징점을 나타낸다.
라이트는 외곽선의 오른쪽 특징점 을 나타낸다.
탑은 외곽선의 윗 특징점 을 나타낸다.
바톰은 외곽선의 아랫 특징점 을 나타낸다.
도 38는 본 발명의 일실시예에 따른 머리 외곽선2 타입을 나타내는 도면이다.
도 38를 참조하면, 본 발명의 일실시예에 따른 머리 외곽선2 타입(Head Outline2 Type)(3410)은 엘리먼트를 포함한다. 머리 외곽선2 타입(3410)의 엘리먼트는 바톰레프트1, 바톰레프트2, 바톰라이트1 및 바톰라이트2를 포함할 수 있다.
[소스 4]는 XML(eXtensible Markup Language)을 이용한 머리 외곽선2 타입(3410)의 프로그램 소스를 나타낸다. 그러나 [소스 4]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000011
바톰레프트1은 외곽선의 왼쪽 특징점에 가까운 외곽선의 왼쪽 아래에 위치하는 특징점이다.
바톰레프트2는 외곽선의 아랫 특징점에 가까운 외곽선의 왼쪽 아래에 위치하는 특징점이다.
바톰라이트1은 외곽선의 오른쪽 특징점에 가까운 외곽선의 오른쪽 아래에 위치하는 특징점이다.
바톰라이트2는 외곽선의 아랫 특징점에 가까운 외곽선의 오른쪽 아래에 위치하는 특징점이다.
도 39는 본 발명의 일실시예에 따른 눈 외곽선2 타입을 나타내는 도면이다.
도 39를 참조하면, 본 발명의 일실시예에 따른 눈 외곽선2 타입(Eye Outline2 Type)(3510)은 엘리먼트를 포함한다. 눈 외곽선2 타입(3510)의 엘리먼트는 탑레프트, 바톰레프트, 탑라이트 및 바톰라이트를 포함할 수 있다.
[소스 5]는 XML(eXtensible Markup Language)을 이용한 눈 외곽선2 타입(3510)의 프로그램 소스를 나타낸다. 그러나 [소스 5]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000012
탑레프트는 눈 외곽선의 윗 왼쪽에 위치하는 특징점이다.
바톰레프트는 눈 외곽선의 아랫 왼쪽에 위치하는 특징점이다.
탑라이트는 눈 외곽선의 윗 오른쪽에 위치하는 특징점이다.
바톰라이트는 눈 외곽선의 아랫 오른쪽에 위치하는 특징점이다.
도 40는 본 발명의 일실시예에 따른 코 외곽선2 타입을 나타내는 도면이다.
도 40를 참조하면, 본 발명의 일실시예에 따른 코 외곽선2 타입(Nose Outline2 Type)(3610)은 엘리먼트를 포함한다. 코 외곽선2 타입(3610)의 엘리먼트는 탑레프트, 탑라이트, 센터 및 로우어바톰을 포함할 수 있다.
[소스 6]는 XML(eXtensible Markup Language)을 이용한 코 외곽선2 타입(3610)의 프로그램 소스를 나타낸다. 그러나 [소스 6]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000013
탑레프트는 코 외곽선의 윗 특징점 옆에 위치하는 코 외곽선의 윗 왼쪽 특징점이다.
탑라이트는 코 외곽선의 윗 특징점 옆에 위치하는 코 외곽선의 윗 오른쪽 특징점이다.
센터는 코 외곽선의 윗 특징점 및 아랫 특징점 사이에 위치하는 코 외곽선의 센터 특징점이다.
로우어바톰은 코 외곽선의 아랫 특징점 밑에 위치하는 코 외곽선의 낮은 아랫 특징점이다.
도 41는 본 발명의 일실시예에 따른 윗입술 외곽선2 타입을 나타내는 도면이다.
도 41를 참조하면, 본 발명의 일실시예에 따른 윗입술 외곽선2 타입(Upper Lip Outline2 Type)(3710)은 엘리먼트를 포함한다. 윗입술 외곽선2 타입(3710)의 엘리먼트는 탑레프트, 탑라이트, 바톰레프트, 바톰라이트 및 바톰을 포함할 수 있다.
[소스 7]는 XML(eXtensible Markup Language)을 이용한 윗입술 외곽선2 타입(3710)의 프로그램 소스를 나타낸다. 그러나 [소스 7]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000014
탑레프트는 윗입술 외곽선의 윗 왼쪽 특징점을 나타낸다.
탑라이트는 윗입술 외곽선의 윗 오른쪽 특징점을 나타낸다.
바톰레프트는 윗입술 외곽선의 아랫 왼쪽 특징점을 나타낸다.
바톰라이트는 윗입술 외곽선의 아랫 오른쪽 특징점을 나타낸다.
바톰은 윗입술 외곽선의 아랫 특징점을 나타낸다.
도 42은 본 발명의 일실시예에 따른 아랫입술 외곽선2 타입을 나타내는 도면이다.
도 42을 참조하면, 본 발명의 일실시예에 따른 아랫입술 외곽선2 타입(Lower Lip Outline2 Type)(3810)은 엘리먼트를 포함한다. 아랫입술 외곽선2 타입(3810)의 엘리먼트는 탑레프트, 탑라이트, 바톰레프트, 바톰라이트 및 탑을 포함할 수 있다.
[소스 8]는 XML(eXtensible Markup Language)을 이용한 아랫입술 외곽선2 타입(3810)의 프로그램 소스를 나타낸다. 그러나 [소스 8]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000015
탑레프트는 아랫입술 외곽선의 윗 왼쪽 특징점을 나타낸다.
탑라이트는 아랫입술 외곽선의 윗 오른쪽 특징점을 나타낸다.
바톰레프트는 아랫입술 외곽선의 아랫 왼쪽 특징점을 나타낸다.
바톰라이트는 아랫입술 외곽선의 아랫 오른쪽 특징점을 나타낸다.
탑은 아랫입술 외곽선의 윗 특징점을 나타낸다.
도 43는 본 발명의 일실시예에 따른 얼굴 점 세트 타입을 나타내는 도면이다.
도 43를 참조하면, 본 발명의 일실시예에 따른 얼굴 점 세트 타입(Face Point Set Type)(3910)은 엘리먼트를 포함한다. 얼굴 점 세트 타입(3910)의 엘리먼트는 탑레프트, 탑라이트, 바톰레프트, 바톰라이트 및 바톰을 포함할 수 있다.
[소스 9]는 XML(eXtensible Markup Language)을 이용한 얼굴 점 세트 타입(3910)의 프로그램 소스를 나타낸다. 그러나 [소스 9]는 일실시예일 뿐이고, 본 발명이 이에 제한되는 것은 아니다.
Figure PCTKR2010004135-appb-I000016
탑레프트는 코 타입1의 왼쪽 특징점의 왼쪽 옆에 위치하는 특징점을 나타낸다.
탑라이트는 코 타입1의 오른쪽 특징점의 오른쪽 옆에 위치하는 특징점을 나타낸다.
바톰레프트는 입술 타입1의 왼쪽 특징점의 왼쪽 옆에 위치하는 특징점을 나타낸다.
바톰라이트는 입술 타입1의 오른쪽 특징점의 오른쪽 옆에 위치하는 특징점을 나타낸다.
바톰은 입술 타입의 아랫 특징점 및 머리 타입1의 아랫 특징점 사이에 위치하는 특징점을 나타낸다.
본 발명에 따른 실시예들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(Floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.

Claims (13)

  1. 영상 장치에 있어서,
    애니메이션 클립, 상기 애니메이션 클립이 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 우선 순위를 포함하는 애니메이션 제어 정보 및 모션 센서로부터 수신된 값을 처리한 모션 데이터가 어느 아바타의 어느 부분에 대응하는지에 관한 정보 및 우선 순위를 포함하는 컨트롤 제어 정보를 저장하는 저장부; 및
    아바타의 제1 부분에 대응하는 상기 애니메이션 제어 정보의 우선 순위와 상기 아바타의 상기 제1 부분에 대응하는 상기 컨트롤 제어 정보의 우선 순위를 비교하여, 상기 아바타의 상기 제1 부분에 적용할 데이터를 결정하는 처리부
    를 포함하는 영상 장치.
  2. 제1항에 있어서, 상기 처리부는,
    상기 아바타의 각 부분에 대응하는 상기 애니메이션 제어 정보의 우선 순위와 상기 컨트롤 제어 정보의 우선 순위를 비교하여, 상기 각 부분에 적용할 데이터를 결정하고, 상기 결정된 데이터를 결합하여 상기 아바타의 동영상을 생성하는 영상 장치.
  3. 제1항에 있어서, 어느 아바타의 어느 부분에 대응하는지에 관한 상기 정보는,
    상기 아바타의 얼굴 표정, 머리, 상체, 중체 및 하체 중 어느 부분에 대응하는지에 관한 정보인 영상 장치.
  4. 제1항에 있어서, 상기 애니메이션 제어 정보는,
    상기 아바타의 애니매이션의 속도에 관한 정보를 더 포함하는 영상 장치.
  5. 제1항에 있어서,
    상기 저장부는 상기 애니메이션 클립의 연결 축에 관한 정보를 더 저장하고,
    상기 처리부는 상기 애니메이션 클립의 연결 축에 관한 상기 정보를 이용하여 상기 애니메이션 클립과 상기 모션 데이터를 결합하는 영상 장치.
  6. 제5항에 있어서,
    상기 처리부는 상기 모션 데이터로부터 연결 축에 관한 정보를 추출하고, 상기 애니메이션 클립의 연결 축과 상기 모션 데이터의 연결 축을 대응시켜 상기 애니메이션 클립과 상기 모션 데이터를 결합하는 영상 장치.
  7. 제1항에 있어서,
    상기 아바타의 얼굴 표정을 생성하는 생성부
    를 더 포함하고,
    상기 저장부는 상기 센서로부터 수신된 현실 세계의 사용자의 얼굴의 특징점에 대한 데이터를 저장하고,
    상기 생성부는 상기 데이터에 기초하여 상기 얼굴 표정을 생성하는 영상 장치.
  8. 제7항에 있어서,
    상기 데이터는 상기 얼굴의 색채, 위치, 깊이, 각도, 굴절률 중 적어도 하나에 대한 정보를 포함하는 영상 장치.
  9. 프로세서 및 메모리를 포함하는 컴퓨터 시스템에서 수행되는 컴퓨터 프로그램을 기록한 컴퓨터 판독 기록매체에 있어서,
    애니메이션 제어 정보 및 컨트롤 제어 정보를 저장하는 제1 명령어 세트; 및
    아바타의 각 부분에 대응하는 상기 애니메이션 제어 정보 및 상기 컨트롤 제어 정보를 참조하여 모션 센서로부터 수신된 값으로부터 생성된 모션 데이터 및 애니메이션 클립을 결합하는 제2 명령어 세트
    를 포함하고,
    상기 애니메이션 제어 정보는,
    대응하는 애니메이션 클립에 대한 정보; 및
    상기 대응하는 애니메이션 클립이 어느 아바타의 얼굴 표정, 머리, 상체, 중체, 및 하체 중 어느 부분에 대응하는지에 관한 식별자;
    를 포함하고,
    상기 컨트롤 제어 정보는,
    상기 실시간 모션 데이터가 어느 아바타의 얼굴 표정, 머리, 상체, 중체, 및 하체 중 어느 부분에 대응하는지에 관한 식별자
    를 포함하는 컴퓨터 판독 기록매체.
  10. 제9항에 있어서,
    상기 애니메이션 제어 정보는 우선 순위를 더 포함하고, 상기 컨트롤 제어 정보는 우선 순위를 더 포함하는 컴퓨터 판독가능 기록매체.
  11. 제10항에 있어서, 상기 제2 명령어 세트는,
    아바타의 제1 부분에 대응하는 상기 애니메이션 제어 정보의 우선 순위와 상기 아바타의 상기 제1 부분에 대응하는 상기 컨트롤 제어 정보의 우선 순위를 비교하여, 상기 아바타의 상기 제1 부분에 적용할 데이터를 결정하는 컴퓨터 판독가능 기록매체.
  12. 제9항에 있어서, 상기 애니메이션 제어 정보는,
    상기 아바타의 애니매이션의 속도에 관한 정보를 더 포함하는 컴퓨터 판독가능 기록매체.
  13. 제9항에 있어서, 상기 제2 명령어 세트는,
    상기 모션 데이터로부터 연결 축에 관한 정보를 추출하고, 상기 애니메이션 클립의 연결 축과 상기 모션 데이터의 연결 축을 대응시켜 상기 애니메이션 클립과 상기 모션 데이터를 결합하는 컴퓨터 판독가능 기록매체.
PCT/KR2010/004135 2009-06-25 2010-06-25 영상 장치 및 컴퓨터 판독 기록매체 WO2010151075A2 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP10792357.5A EP2447908A4 (en) 2009-06-25 2010-06-25 Imaging device and computer reading and recording medium
US13/379,834 US20120169740A1 (en) 2009-06-25 2010-06-25 Imaging device and computer reading and recording medium
CN201080038361.5A CN102483857B (zh) 2009-06-25 2010-06-25 图像装置及计算机可读记录介质

Applications Claiming Priority (10)

Application Number Priority Date Filing Date Title
KR10-2009-0057314 2009-06-25
KR20090057314 2009-06-25
KR20090060409 2009-07-02
KR10-2009-0060409 2009-07-02
KR10-2009-0101175 2009-10-23
KR1020090101175A KR20100138701A (ko) 2009-06-25 2009-10-23 영상 장치 및 컴퓨터 판독 기록매체
US25563609P 2009-10-28 2009-10-28
US61/255,636 2009-10-28
KR10-2009-0104487 2009-10-30
KR1020090104487A KR101640458B1 (ko) 2009-06-25 2009-10-30 영상 장치 및 컴퓨터 판독 기록매체

Publications (2)

Publication Number Publication Date
WO2010151075A2 true WO2010151075A2 (ko) 2010-12-29
WO2010151075A3 WO2010151075A3 (ko) 2011-03-31

Family

ID=43387067

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2010/004135 WO2010151075A2 (ko) 2009-06-25 2010-06-25 영상 장치 및 컴퓨터 판독 기록매체

Country Status (5)

Country Link
US (1) US20120169740A1 (ko)
EP (1) EP2447908A4 (ko)
KR (1) KR101640458B1 (ko)
CN (1) CN102483857B (ko)
WO (1) WO2010151075A2 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100138700A (ko) * 2009-06-25 2010-12-31 삼성전자주식회사 가상 세계 처리 장치 및 방법
US20110093092A1 (en) * 2009-10-19 2011-04-21 Bum Suk Choi Method and apparatus for creating and reproducing of motion effect
US10133470B2 (en) 2012-10-09 2018-11-20 Samsung Electronics Co., Ltd. Interfacing device and method for providing user interface exploiting multi-modality
KR101456443B1 (ko) * 2013-04-17 2014-11-13 중앙대학교 산학협력단 모바일 기기에서의 아바타 애니메이션 생성 장치 및 방법
US8998725B2 (en) * 2013-04-30 2015-04-07 Kabam, Inc. System and method for enhanced video of game playback
CN106127758B (zh) * 2016-06-21 2019-08-23 四川大学 一种基于虚拟现实技术的视觉检测方法及装置

Family Cites Families (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6118426A (en) * 1995-07-20 2000-09-12 E Ink Corporation Transducers and indicators having printed displays
US5909218A (en) * 1996-04-25 1999-06-01 Matsushita Electric Industrial Co., Ltd. Transmitter-receiver of three-dimensional skeleton structure motions and method thereof
US5982389A (en) * 1996-06-17 1999-11-09 Microsoft Corporation Generating optimized motion transitions for computer animated objects
JPH10188028A (ja) * 1996-10-31 1998-07-21 Konami Co Ltd スケルトンによる動画像生成装置、該動画像を生成する方法、並びに該動画像を生成するプログラムを記憶した媒体
US5912675A (en) * 1996-12-19 1999-06-15 Avid Technology, Inc. System and method using bounding volumes for assigning vertices of envelopes to skeleton elements in an animation system
US6191798B1 (en) * 1997-03-31 2001-02-20 Katrix, Inc. Limb coordination system for interactive computer animation of articulated characters
JP3728942B2 (ja) * 1998-03-24 2005-12-21 ヤマハ株式会社 楽音および画像生成装置
BR9906453A (pt) * 1998-05-19 2000-09-19 Sony Computer Entertainment Inc Dispositivo e método do processamento de imagem, e meio de distribuição.
JP4099273B2 (ja) * 1998-09-25 2008-06-11 富士通株式会社 アニメーション作成装置及び方法並びにアニメーション作成プログラムを記録したコンピュータ読取り可能な記録媒体
IT1315446B1 (it) * 1998-10-02 2003-02-11 Cselt Centro Studi Lab Telecom Procedimento per la creazione di modelli facciali tridimensionali apartire da immagini di volti.
DE69934478T2 (de) * 1999-03-19 2007-09-27 MAX-PLANCK-Gesellschaft zur Förderung der Wissenschaften e.V. Verfahren und Gerät zur Bildverarbeitung auf Basis von Metamorphosemodellen
US6462742B1 (en) * 1999-08-05 2002-10-08 Microsoft Corporation System and method for multi-dimensional motion interpolation using verbs and adverbs
US6535215B1 (en) * 1999-08-06 2003-03-18 Vcom3D, Incorporated Method for animating 3-D computer generated characters
JP3623415B2 (ja) * 1999-12-02 2005-02-23 日本電信電話株式会社 仮想空間通信システムにおけるアバタ表示装置、アバタ表示方法および記憶媒体
KR20010091219A (ko) * 2000-03-14 2001-10-23 조영익 표본화된 얼굴 표정을 새로운 얼굴에 리타켓팅하는 방법
KR100373758B1 (ko) * 2000-05-23 2003-02-26 (주)두모션 2축 2센서 방식에 의한 인체 동작 범위 인지용 무선모션캡처장치
JP3539553B2 (ja) * 2000-05-30 2004-07-07 シャープ株式会社 アニメーション作成方法及びアニメーション作成装置並びにアニメーション作成プログラムを記録したコンピュータ読み取り可能な記録媒体
US7091976B1 (en) * 2000-11-03 2006-08-15 At&T Corp. System and method of customizing animated entities for use in a multi-media communication application
JP4011327B2 (ja) * 2000-11-15 2007-11-21 株式会社レクサー・リサーチ 表示オブジェクト提供装置、表示オブジェクト提供方式及び表示オブジェクト提供プログラム
US20020118194A1 (en) * 2001-02-27 2002-08-29 Robert Lanciault Triggered non-linear animation
JP3848101B2 (ja) * 2001-05-17 2006-11-22 シャープ株式会社 画像処理装置および画像処理方法ならびに画像処理プログラム
US7027054B1 (en) * 2002-08-14 2006-04-11 Avaworks, Incorporated Do-it-yourself photo realistic talking head creation system and method
US6919892B1 (en) * 2002-08-14 2005-07-19 Avaworks, Incorporated Photo realistic talking head creation system and method
EP1627294A2 (en) * 2003-05-01 2006-02-22 Delta Dansk Elektronik, Lys & Akustik A man-machine interface based on 3-d positions of the human body
US7090576B2 (en) * 2003-06-30 2006-08-15 Microsoft Corporation Personalized behavior of computer controlled avatars in a virtual reality environment
US7764287B2 (en) * 2003-07-07 2010-07-27 Arcsoft, Inc. Graphic engine for approximating a quadratic bezier curve in a resource-constrained device
JP3625212B1 (ja) * 2003-09-16 2005-03-02 独立行政法人科学技術振興機構 ３次元仮想空間シミュレータ、３次元仮想空間シミュレーションプログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体
JP4559092B2 (ja) * 2004-01-30 2010-10-06 株式会社エヌ・ティ・ティ・ドコモ 携帯通信端末及びプログラム
US20050278157A1 (en) * 2004-06-15 2005-12-15 Electronic Data Systems Corporation System and method for simulating human movement using profile paths
KR100610199B1 (ko) * 2004-06-21 2006-08-10 에스케이 텔레콤주식회사 모션인식 아바타 서비스 방법 및 시스템
US20060009978A1 (en) * 2004-07-02 2006-01-12 The Regents Of The University Of Colorado Methods and systems for synthesis of accurate visible speech via transformation of motion capture data
GB0426736D0 (en) * 2004-12-06 2005-01-12 Omnifone Ltd MyFone
US7388586B2 (en) * 2005-03-31 2008-06-17 Intel Corporation Method and apparatus for animation of a human speaker
US7403202B1 (en) * 2005-07-12 2008-07-22 Electronic Arts, Inc. Computer animation of simulated characters using combinations of motion-capture data and external force modelling or other physics models
DE602006009191D1 (de) * 2005-07-26 2009-10-29 Canon Kk Bildaufnahmegerät und -verfahren
US7728839B2 (en) * 2005-10-28 2010-06-01 Honda Motor Co., Ltd. Discriminative motion modeling for human motion tracking
US7728866B2 (en) * 2005-11-03 2010-06-01 Broadcom Corp. Video telephony image processing
JP4568223B2 (ja) * 2005-12-21 2010-10-27 株式会社デンソー 推定装置
CN101326546B (zh) * 2005-12-27 2011-10-12 松下电器产业株式会社 图像处理装置
US20090091563A1 (en) * 2006-05-05 2009-04-09 Electronics Arts Inc. Character animation framework
US8330823B2 (en) * 2006-11-01 2012-12-11 Sony Corporation Capturing surface in motion picture
CN1975785A (zh) * 2006-12-19 2007-06-06 北京金山软件有限公司 骨骼动画的生成、实现方法/装置、游戏光盘以及外接卡
US9569876B2 (en) * 2006-12-21 2017-02-14 Brian Mark Shuster Animation control method for multiple participants
WO2008106197A1 (en) * 2007-03-01 2008-09-04 Sony Computer Entertainment America Inc. Interactive user controlled avatar animations
US8284070B2 (en) * 2007-05-14 2012-10-09 The Ohio State University Assessment device
KR100993801B1 (ko) * 2007-12-05 2010-11-12 에스케이커뮤니케이션즈 주식회사 아바타 표현 장치와 방법 및 이를 구현할 수 있는 컴퓨터로읽을 수 있는 기록 매체
US8386918B2 (en) * 2007-12-06 2013-02-26 International Business Machines Corporation Rendering of real world objects and interactions into a virtual universe
KR100896065B1 (ko) * 2007-12-17 2009-05-07 한국전자통신연구원 ３차원 얼굴 표정 애니메이션 생성 방법
KR20090067822A (ko) * 2007-12-21 2009-06-25 삼성전자주식회사 현실 인자를 반영하는 혼합 세계 생성 시스템 및 구현 방법
US10026210B2 (en) * 2008-01-10 2018-07-17 Autodesk, Inc. Behavioral motion space blending for goal-oriented character animation
EP2234062A4 (en) * 2008-01-16 2011-06-01 Asahi Chemical Ind FACIAL DETERMINATION DEVICE, FACING PROCEDURE PROCEDURE AND FACE DETERMINATION PROGRAM
US20090202114A1 (en) * 2008-02-13 2009-08-13 Sebastien Morin Live-Action Image Capture
US9953450B2 (en) * 2008-06-11 2018-04-24 Nawmal, Ltd Generation of animation using icons in text
KR101483713B1 (ko) * 2008-06-30 2015-01-16 삼성전자 주식회사 모션 캡쳐 장치 및 모션 캡쳐 방법
US20100039434A1 (en) * 2008-08-14 2010-02-18 Babak Makkinejad Data Visualization Using Computer-Animated Figure Movement
US8224652B2 (en) * 2008-09-26 2012-07-17 Microsoft Corporation Speech and text driven HMM-based body animation synthesis
US8730245B2 (en) * 2008-12-01 2014-05-20 Naturalmotion Ltd. Defining an animation of a virtual object within a virtual world
US8199151B2 (en) * 2009-02-13 2012-06-12 Naturalmotion Ltd. Animation events
KR101671900B1 (ko) * 2009-05-08 2016-11-03 삼성전자주식회사 가상 세계에서의 객체를 제어하는 시스템, 방법 및 기록 매체
US20100295771A1 (en) * 2009-05-20 2010-11-25 Microsoft Corporation Control of display objects
US8213680B2 (en) * 2010-03-19 2012-07-03 Microsoft Corporation Proxy training data for human body tracking

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
None

Also Published As

Publication number Publication date
WO2010151075A3 (ko) 2011-03-31
EP2447908A4 (en) 2017-03-08
CN102483857B (zh) 2015-04-01
KR101640458B1 (ko) 2016-07-18
US20120169740A1 (en) 2012-07-05
KR20100138707A (ko) 2010-12-31
EP2447908A2 (en) 2012-05-02
CN102483857A (zh) 2012-05-30

Similar Documents

Publication Publication Date Title
WO2010151075A2 (ko) 영상 장치 및 컴퓨터 판독 기록매체
WO2018048054A1 (ko) 단일 카메라 기반의 3차원 영상 해석에 기초한 가상현실 인터페이스 구현 방법, 단일 카메라 기반의 3차원 영상 해석에 기초한 가상현실 인터페이스 구현 장치
WO2019216593A1 (en) Method and apparatus for pose processing
WO2020145697A1 (en) Method for providing image using foldable display and electronic device for supporting the same
WO2021107506A1 (en) Electronic device for providing augmented reality service and operating method thereof
WO2016060397A1 (en) Method and apparatus for processing screen using device
EP3740936A1 (en) Method and apparatus for pose processing
WO2018143707A1 (ko) 메이크업 평가 시스템 및 그의 동작 방법
WO2016089079A1 (en) Device and method for outputting response
WO2013022226A4 (ko) 고객 인적정보 생성방법 및 생성장치, 그 기록매체 및 포스 시스템
EP3146405A1 (en) Wearable device and method of controlling the same
WO2021054589A1 (en) Electronic apparatus and controlling method thereof
WO2022010122A1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
WO2017090833A1 (en) Photographing device and method of controlling the same
WO2020209624A1 (en) Head mounted display device and operating method thereof
WO2022191542A1 (ko) 홈 트레이닝 서비스 제공 방법 및 그를 수행하는 디스플레이 장치
WO2022031041A1 (ko) 단말에 3d 캐릭터 이미지를 제공하는 엣지 데이터 네트워크 및 그 동작 방법
WO2019190142A1 (en) Method and device for processing image
WO2021158058A1 (en) Method for providing filter and electronic device supporting the same
EP3707678A1 (en) Method and device for processing image
WO2021075705A1 (ko) 전자 장치 및 그의 제어 방법
WO2012011755A2 (ko) 데이터 전송 장치 및 방법
WO2021167210A1 (ko) 서버, 전자 장치 및 그들의 제어 방법
EP3818432A1 (en) Electronic apparatus and method of controlling the same
WO2019098597A1 (ko) 부분 영상을 생성하기 위한 전자 장치 및 그의 동작 방법

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 201080038361.5

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 10792357

Country of ref document: EP

Kind code of ref document: A2

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2010792357

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 13379834

Country of ref document: US