EP2273229A1 - Method for determining the 3D coordinates of an object - Google Patents

Method for determining the 3D coordinates of an object Download PDF

Info

Publication number
EP2273229A1
EP2273229A1 EP10006496A EP10006496A EP2273229A1 EP 2273229 A1 EP2273229 A1 EP 2273229A1 EP 10006496 A EP10006496 A EP 10006496A EP 10006496 A EP10006496 A EP 10006496A EP 2273229 A1 EP2273229 A1 EP 2273229A1
Authority
EP
European Patent Office
Prior art keywords
scenes
reference marks
marks
coordinates
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
EP10006496A
Other languages
German (de)
French (fr)
Other versions
EP2273229B1 (en
Inventor
Herbert Daxauer
Thomas Mayer
Christian Thamm
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Carl Zeiss Optotechnik GmbH
Original Assignee
Steinbichler Optotechnik GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Steinbichler Optotechnik GmbH filed Critical Steinbichler Optotechnik GmbH
Publication of EP2273229A1 publication Critical patent/EP2273229A1/en
Application granted granted Critical
Publication of EP2273229B1 publication Critical patent/EP2273229B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B21/00Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant
    • G01B21/02Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness
    • G01B21/04Measuring arrangements or details thereof, where the measuring technique is not covered by the other groups of this subclass, unspecified or not relevant for measuring length, width, or thickness by measuring coordinates of points
    • G01B21/045Correction of measurements

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Length Measuring Devices With Unspecified Measuring Means (AREA)

Abstract

The method involves surrounding an object (1) by a set of reference probes (2-6) that include coded reference marks (7, 8). A set of shots (10-14) are produced by the object in such a manner that a part of the object and a part of one probe are enclosed. The probes are formed longer than a measurement field of a three dimensional sensor (9), where the probes are designed in bar shape. The reference marks are automatically decoded. The shots are linked to one another by a three dimensional matching process. The reference marks are provided on rear sides of the probes.

Description

Verfahren zur Bestimmung der 3D-Koordinaten eines ObjektsMethod for determining the 3D coordinates of an object

Die Erfindung betrifft ein Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts.The invention relates to a method for determining the 3D coordinates of an object.

Die EP 553 266 B1 offenbart ein Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts, die einen Scanner umfaßt, durch den das Objekt abtastbar ist. Durch den Scanner werden die 3D-Koordinaten im Scanner-Bezugssystem bestimmt. Ferner ist ein Tracking-System vorhanden, das die Position und Richtung des Scanners bestimmen kann. Von einem Computer können aus den 3D-Koordinaten im Scanner-Bezugssystem und aus den Daten der Position und Richtung des Scanners im absoluten Bezugssystem die 3D-Koordinaten des Objekts im absoluten Bezugssystem bestimmt und aufgezeichnet werden. Der Scanner kann derart gehalten werden, daß er in Bezug auf das Tracking-System und das Objekt unabhängig bewegbar ist.The EP 553 266 B1 discloses a method for determining the 3D coordinates of an object that includes a scanner through which the object is scannable. The scanner determines the 3D coordinates in the scanner reference system. There is also a tracking system that can determine the position and direction of the scanner. From a computer, the 3D coordinates of the object in the absolute frame of reference can be determined and recorded from the 3D coordinates in the scanner reference system and from the data of the position and direction of the scanner in the absolute reference frame. The scanner may be held such that it is independently movable with respect to the tracking system and the object.

Aus der US 5,805,289 ist ein Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts bekannt, bei dem Referenzkulissen an einem Objekt befestigt werden. Mit einer Fotogrammetrie-Methode werden absolute 3D-Koordinaten ermittelt.From the US 5,805,289 For example, a method for determining the 3D coordinates of an object is known in which reference scenes are attached to an object. With a photogrammetry method absolute 3D coordinates are determined.

Die DE 198 40 334 A1 offenbart eine Vorrichtung zur Verwendung als Navigationskulisse bei der Vermessung von Objekten mit optischer dreidimensionaler Koordinaten-Meßtechnik. Die Navigationskulisse enthält ein Bauelement mit Gitterstruktur, auf dem mehrere Meßmarken angebracht sind. Auf der dem Bauelement abgewandten Seite der Navigationskulisse ist eine Befestigungsvorrichtung zur Befestigung an dem Objekt angebracht.The DE 198 40 334 A1 discloses a device for use as a navigational backdrop in the measurement of objects with optical three-dimensional coordinate measuring technique. The navigation gate contains a component with a grid structure, on which several measuring marks are mounted. On the side facing away from the component of the navigation backdrop a fastening device for attachment to the object is mounted.

Die WO 01/88471 A1 offenbart ein Verfahren zum Bestimmen der 3D-Form eines Objekts, bei dem das Objekt mit einem Referenzkörper verbunden wird, der Referenzobjekte aufweist. Das Objekt und der Referenzkörper werden von einem optoelektronischen Sensor abgetastet, aus dessen Meßsignalen die 3D-Koordinaten der Oberflächenpunkte berechnet werden.The WO 01/88471 A1 discloses a method for determining the 3D shape of an object, wherein the object is connected to a reference body having reference objects. The object and the reference body are scanned by an opto-electronic sensor, from the measurement signals of the 3D coordinates of the surface points are calculated.

Aus der EP 1 724 549 A2 ist ein Verfahren zum Bestimmen der 3D-Koordinaten eines Objekts bekannt, bei dem die 3D-Koordinaten einer Teil-Oberfläche des Objekts durch ein 3D-Meßgerät bestimmt werden, dessen Position durch ein Tracking-System bestimmt wird. Anschließend werden auf diese Weise die 3D-Koordinaten einer teilweise überlappenden, benachbarten Teil-Oberfläche des Objekts bestimmt. Die 3D-Koordinaten des Überlappungsbereichs werden durch ein Matching-Verfahren zusammengesetzt.From the EP 1 724 549 A2 For example, a method for determining the 3D coordinates of an object is known in which the 3D coordinates of a partial surface of the object are determined by a 3D measuring device whose position is determined by a tracking system. Subsequently, the 3D coordinates of a partially overlapping, adjacent partial surface of the object are determined in this way. The 3D coordinates of the overlap area are assembled by a matching method.

Die EP 2 034 269 A1 offenbart ein Verfahren zur dreidimensionalen Digitalisierung von Objekten mit einem 3D-Sensor, der einen Projektor und eine oder mehrere Kameras umfaßt. Mit dem Projektor wird ein Muster auf das Objekt projiziert, das von den Kameras erfaßt wird.The EP 2 034 269 A1 discloses a method for three-dimensional digitization of objects with a 3D sensor comprising a projector and one or more cameras. The projector projects a pattern onto the object captured by the cameras.

Aufgabe der Erfindung ist es, ein verbessertes Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts vorzuschlagen.The object of the invention is to propose an improved method for determining the 3D coordinates of an object.

Erfindungsgemäß wird diese Aufgabe durch die kennzeichnenden Merkmale des Anspruchs 1 gelöst. Von dem Objekt, das von mehreren Referenzkulissen mit codierten Referenzmarken umgeben ist, werden mehrere Aufnahmen hergestellt. Diese Aufnahmen werden derart hergestellt, daß darauf jeweils ein Teil des Objekts und ein Teil einer Referenzkulisse enthalten ist.According to the invention this object is achieved by the characterizing features of claim 1. From the object, which is surrounded by several Referenzkulissen with coded reference marks, several recordings are made. These recordings are made in such a way that each part of the object and a part of a reference scenery is contained on it.

Das erfindungsgemäße Verfahren kann auf der Grundlage aller bekannten Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts durchgeführt werden. Besonders geeignet sind optische Verfahren. Zur Durchführung dieser optischen Verfahren kann ein optischer 3D-Sensor verwendet werden. Der optische 3D-Sensor kann eine Kamera enthalten, die eine Optik und/oder einen flächenhaften Sensor, insbesondere einen CCD-Sensor, umfassen kann. Ferner kann der 3D-Sensor eine oder mehrere Lichtquellen enthalten.The method according to the invention can be carried out on the basis of all known methods for determining the 3D coordinates of an object. Particularly suitable are optical methods. To carry out these optical methods An optical 3D sensor can be used. The optical 3D sensor may include a camera, which may include an optical system and / or a planar sensor, in particular a CCD sensor. Furthermore, the 3D sensor may include one or more light sources.

Vorteilhaft ist es, wenn die Position des 3D-Sensors bestimmt werden kann, insbesondere durch ein Tracking-System. Auf diese Weise ist es möglich, daß der 3D-Sensor die Relativ-3D-Koordinaten des Objekts in dem Bezugssystem des 3D-Sensors bestimmen kann und daß daraus und aus den Absolut-Koordinaten des 3D-Sensors die Absolut-3D-Koordinaten des Objekts bestimmt werden können. Beispiele hierfür sind in der EP 0 553 266 B1 , der EP 1 724 549 A2 und der EP 2 034 269 A1 beschrieben, auf die Bezug genommen wird.It is advantageous if the position of the 3D sensor can be determined, in particular by a tracking system. In this way, it is possible that the 3D sensor can determine the relative 3D coordinates of the object in the frame of reference of the 3D sensor, and that from these and the absolute coordinates of the 3D sensor, the absolute 3D coordinates of the object can be determined. Examples are in the EP 0 553 266 B1 , of the EP 1 724 549 A2 and the EP 2 034 269 A1 to which reference is made.

Der optische 3D-Sensor kann ein Streifenprojektionssystem umfassen, insbesondere ein Weißlicht-Streifenprojektionssystem. Von einem derartigen 3D-Sensor wird ein Streifenmuster auf das Objekt projiziert. Ferner wird das Objekt aufgenommen. Die Aufnahmen werden ausgewertet. Die Aufnahmen und die Auswertungen können angezeigt und/oder gespeichert werden.The 3D optical sensor may comprise a fringe projection system, in particular a white light fringe projection system. From such a 3D sensor, a stripe pattern is projected onto the object. Furthermore, the object is recorded. The recordings are evaluated. The recordings and the evaluations can be displayed and / or saved.

Bei der Bestimmung der 3D-Koordinaten, die auch als 3D-Digitalisierung oder als Vermessung des Objekts bezeichnet werden kann, mit einem Weißlicht-Streifenprojektionssystem und auch mit anderen Systemen ist es notwendig, den 3D-Sensor im Raum in verschiedene Aufnahmepositionen zu bewegen, wenn das zu vermessende Objekt größer ist als das Meßfeld des 3D-Sensors. Die einzelnen Aufnahmen des Objekts müssen anschließend zusammengesetzt werden. Hierfür ist es erforderlich, die einzelnen Aufnahmen in einem übergeordneten Koordinatensystem zu registrieren. Das übergeordnete Koordinatensystem ist vorzugsweis ein absolutes Koordinatensystem, beispielsweise das Koordinatensystem des Raumes, in dem sich das Objekt befindet und in dem die Vermessung des Objekts stattfindet. Diese sogenannte globale Registrierung erfordert eine hohe Genauigkeit.When determining the 3D coordinates, which can also be referred to as 3D digitizing or measuring the object, with a white-light fringe projection system and also with other systems, it is necessary to move the 3D sensor in space in different recording positions, if the object to be measured is larger than the measuring field of the 3D sensor. The individual shots of the object must then be put together. For this it is necessary to register the individual recordings in a higher-level coordinate system. The superordinate coordinate system is preferably an absolute coordinate system, for example the coordinate system of the room in which the object is located and in which the measurement of the object takes place. This so-called global registration requires high accuracy.

Im Falle der Weißlicht-Streifenprojektion erfolgt die Zusammensetzung der einzelnen Aufnahmen in einem übergeordneten Koordinatensystem typischerweise mit Hilfe der Fotogrammetrie, wobei Referenzmarken auf dem Objekt angebracht werden müssen oder auf einer Referenzkulisse, die mit dem Objekt verbunden ist. Die Marken müssen separat mit einer Fotogrammetrieausrüstung vermessen werden. Das Verfahren der Fotogrammetrie bietet eine hohe Genauigkeit, hat aber den Nachteil, daß für die Präparation des Objektes mit Referenzmarken und für deren separate Vermessung ein zusätzlicher Aufwand erforderlich ist. Ferner ist es erforderlich, dem zu vermessenden Objekt angepaßte Referenzkulissen herzustellen, auf denen Referenzmarken aufgebracht sind, die fotogrammetrisch vermessen werden müssen. Die an das zu vermessende Objekt angepaßten Kulissen müssen möglichst nahe an dem und um das Objekt herum angebracht werden. Diese Kulissen, die auch als Vollkulissen bezeichnet werden können, erlauben zwar die Messung des Objekts mit hoher Genauigkeit, weisen jedoch folgende Nachteile auf:

  • die Bauart der Vollkulissen orientiert sich hinsichtlich ihrer Größe und Gestalt an den zu vermessenden Objekten, so daß die Vollkulissen bei großen Meßobjekten teuer und unhandlich sind;
  • für jedes Meßobjekt muß eine eigene Kulisse hergestellt und fotogrammetrisch eingemessen werden, so daß diese Kulissen bei einer Vielzahl unterschiedlicher Meßobjekte eine beträchtlichen Kostenfaktor darstellen;
  • die Ansprüche an die Stabilität der Vollkulisse sind sehr hoch, sie muß also im Ganzen mechanisch sehr stabil ausgelegt sein, was Gewicht und Kosten erhöht;
  • wenn der zu messende Objekttyp wechselt, muß der komplette Meßaufbau einschließlich der unhandlichen Vollkulisse umgebaut werden;
  • das regelmäßige fotogrammetrische Einmessen einer Vollkulisse zur Sicherstellung und Überwachung von deren Genauigkeit ist größenbedingt und gewichtsbedingt sehr aufwendig.
In the case of white-light fringe projection, the composition of the individual images in a higher-level coordinate system is typically carried out by means of photogrammetry, reference marks having to be applied to the object or on a reference surface connected to the object. The stamps must be measured separately with photogrammetry equipment. The method of photogrammetry offers high accuracy, but has the disadvantage that for the preparation of the object with reference marks and for their separate measurement, an additional effort is required. Furthermore, it is necessary to produce the reference object adapted to the object to be measured on which reference marks are applied, which must be measured photogrammetrically. The scenes adapted to the object to be measured must be placed as close to and around the object as possible. Although these scenes, which can also be referred to as full scenes, allow the measurement of the object with high accuracy, they have the following disadvantages:
  • the design of the full scenes is oriented in terms of their size and shape of the objects to be measured, so that the full scenes are expensive and unwieldy in large objects to be measured;
  • for each DUT must have its own backdrop produced and measured photogrammetrically, so that these scenes represent a considerable cost factor in a variety of different DUTs;
  • the demands on the stability of the full scenery are very high, so it must be designed as a whole mechanically very stable, which increases weight and cost;
  • if the object type to be measured changes, the complete measurement setup including the unwieldy full scenery must be rebuilt;
  • the regular photogrammetric calibration of a full set to ensure and monitor their accuracy is very large due to the size and weight.

Diese Nachteile werden durch die Verwendung von mehreren Referenzkulissen, die auch als Referenzkulissenmodule bezeichnet werden können, vermieden. Durch den Einsatz von mehreren Referenzkulissen wird ein deutlich einfacherer, kostengünstigerer und variablerer Meßaufbau ermöglicht, der dennoch eine hohe Genauigkeit der Meßergebnisse sicherstellt.These disadvantages are avoided by the use of multiple reference scenes, which can also be referred to as Referenzkulissenmodule. Through the use of multiple reference scenes a much simpler, cheaper and more variable measurement setup is possible, which nevertheless ensures a high accuracy of the measurement results.

Die Referenzkulissen müssen nicht an dem Objekt befestigt sein. Es ist möglich, die Referenzkulissen im Abstand von dem Objekt anzuordnen.The reference scenes do not have to be attached to the object. It is possible to arrange the reference scenes at a distance from the object.

Die Referenzmarken können in sich codiert sein. Es ist allerdings auch möglich, Referenzmarken zu verwenden, die nicht in sich codiert sind, die aber durch ihre relative Anordnung zueinander eine Codierung beinhalten. Bei in sich codierten Referenzmarken genügt es, diese Referenzmarke aufzunehmen. Von Meßmarken, die nicht in sich codiert sind, muß eine derart hohe Anzahl in einer Aufnahme enthalten sein, daß aus der relativen Position diese Meßmarken zueinander die Codierung decodiert werden kann.The reference marks can be coded in themselves. However, it is also possible to use reference marks which are not coded in themselves, but which contain a coding due to their relative arrangement to each other. For self-coded reference marks, it is sufficient to record this reference mark. Of measurement marks that are not encoded in itself, such a high number must be included in a recording that from the relative position of these measurement marks each other, the coding can be decoded.

Die Aufnahmen von dem Objekt können sich überlappen. Das Objekt kann abschnittsweise vermessen werden.The shots of the object may overlap. The object can be measured section by section.

Der Teil der Referenzkulisse, der auf der Aufnahme enthalten ist, umfaßt vorzugsweise mindestens eine codierte Referenzmarke. Vorzugsweise wird ein solcher Teil einer Referenzkulisse aufgenommen, aus dem die Lage und/oder die Orientierung der Referenzkulisse bestimmt werden kann.The part of the Referenzkulisse contained in the recording, preferably comprises at least one coded reference mark. Preferably, such a part of a reference scenery is recorded, from which the position and / or orientation of the Referenzkulisse can be determined.

Es ist ferner vorteilhaft, wenn die Referenzkulissen eingemessen sind. Dies erfolgt vorzugsweise dadurch, daß die Lage aller Referenzmarken auf der Referenzkulisse vorab bestimmt wird. Vorzugsweise werden die Daten der Lage aller Referenzmarken, bezogen auf die jeweilige Referenzkulisse, gespeichert.It is also advantageous if the reference scenes are calibrated. This is preferably done by the position of all reference marks on the reference gate is determined in advance. Preferably, the data of the position of all reference marks, based on the respective Referenzkulisse stored.

Vorteilhafte Weiterbildungen sind in den Unteransprüchen beschrieben.Advantageous developments are described in the subclaims.

Vorteilhaft ist es, wenn einige oder alle Referenzkulissen länger sind als das Meßfeld des 3D-Sensors. Die Referenzkulissen sind also länger als die Größe des bei einer Aufnahme aufgenommenen Bereichs des Objekts. Hierdurch ergeben sich Vorteile bei großen Objekten, also Objekten, für deren Vermessung mehrere Aufnahmen erforderlich sind.It is advantageous if some or all Referenzkulissen are longer than the measuring field of the 3D sensor. The reference scenes are thus longer than the size of the recorded during a recording area of the object. This results in advantages for large objects, ie objects for the measurement of several shots are required.

Einige oder alle Referenzkulissen können stabförmig sein.Some or all reference scenes may be rod-shaped.

Vorteilhaft ist es, wenn Aufnahmen, die einen Teil, insbesondere ein Ende einer Referenzkulisse enthalten, einen Teil, insbesondere ein Ende einer weiteren Referenzkulisse enthalten. Dies ist insbesondere dann vorteilhaft, wenn die Referenzkulissen stabförmig sind. Die weitere Referenzkulisse kann der ersten Referenzkulisse benachbart sein. Durch die Erfassung von zwei Referenzkulissen ist es möglich, die Referenzkulissen miteinander zu verketten. Hierfür ist es vorteilhaft, wenn von beiden Referenzkulissen jeweils ein Teil aufgenommen wird, der mindestens eine Referenzmarke enthält und/oder ein Teil, aus dem die Lage und/oder Orientierung der jeweiligen Referenzkulisse und/oder deren Referenzmarken bestimmt werden kann.It is advantageous if recordings which contain a part, in particular an end of a reference gate, contain a part, in particular an end, of a further reference gate. This is particularly advantageous if the reference scenes are rod-shaped. The further reference scenery may be adjacent to the first reference scenery. By capturing two reference scenes, it is possible to link the reference scenes together. For this purpose, it is advantageous if in each case a part of both reference scenes is recorded, which contains at least one reference mark and / or a part from which the position and / or orientation of the respective reference gate and / or their reference marks can be determined.

Die Referenzmarken können selbsttätig decodiert werden. Es ist allerdings auch möglich, die Referenzmarken manuell zu decodieren. Durch die Decodierung können die Referenzmarken einer bestimmten Referenzkulisse zugeordnet werden, die damit identifiziert werden kann.The reference marks can be decoded automatically. However, it is also possible to manually decode the reference marks. By decoding the reference marks can be assigned to a specific reference scenery, which can be identified with it.

Einige oder alle Aufnahmen können durch ein 3D-Matching-Verfahren miteinander verknüpft werden, um die Genauigkeit weiter zu steigern.Some or all images can be linked together using a 3D matching process to further increase accuracy.

Vorteilhaft ist es, wenn auch auf den Rückseiten einiger oder aller Referenzkulissen codierte Referenzmarken vorgesehen sind. Dann kann auch die Rückseite des Objekts mit dem selben Meßaufbau vermessen werden.It is advantageous if encoded reference marks are also provided on the backs of some or all of the reference scenes. Then the back side of the object can also be measured with the same measuring setup.

Eine weitere vorteilhafte Weiterbildung ist dadurch gekennzeichnet, daß in einem ersten Meßdurchlauf die Positionen der Referenzmarken erfaßt und gespeichert werden. Der erste Meßdurchlauf kann ohne Vermessen des Objekts durchgeführt werden. Es ist allerdings auch möglich, bei diesem ersten Meßdurchlauf auch ein Objekt zu vermessen. Die erfaßten Positionen der Referenzmarken können in das übergeordnete Koordinatensystem transformiert werden. Die erfaßten und/oder transformierten Positionen können gespeichert werden.A further advantageous development is characterized in that in a first Meßdurchlauf the positions of the reference marks are detected and stored. The first measurement run can be performed without measuring the object. However, it is also possible to measure an object in this first measurement run. The detected positions of the reference marks can be transformed into the higher-level coordinate system. The detected and / or transformed positions can be stored.

Vorteilhaft ist es, wenn weitere Meßdurchläufe auf der Grundlage von gespeicherten Positionen der Referenzmarken durchgeführt werden. Dies ist insbesondere dann vorteilhaft, wenn in einem erstem Meßdurchlauf die Positionen der Referenzmarken erfaßt und gegebenenfalls transformiert und gespeichert werden. Durch die Verwendung der gespeicherten Positionen der Referenzmarken kann Meßzeit eingespart werden.It is advantageous if further Meßdurchläufe be carried out on the basis of stored positions of the reference marks. This is particularly advantageous if the positions of the reference marks are detected and optionally transformed and stored in a first measurement run. By using the stored positions of the reference marks measuring time can be saved.

Ein Ausführungsbeispiel der Erfindung wird nachstehend anhand der beigefügten Zeichnung im einzelnen erläutert. In der Zeichnung zeigt

Fig. 1
einen Meßaufbau mit einem zu vermessenden Objekt und mehreren Referenzkulissen in einer schematischen Ansicht von vorne,
Fig. 2.
den Meßaufbau gemäß Fig. 1 in einer Ansicht von hinten,
Fig. 3
den Meßaufbau gemäß Fig. 1 in einer abgewandelten Darstel- lung und
Fig. 4
verschiedene Arten von Referenzmarken.
An embodiment of the invention will be explained below with reference to the accompanying drawings. In the drawing shows
Fig. 1
a measuring structure with an object to be measured and several reference scenes in a schematic view from the front,
Fig. 2.
the measuring structure according to Fig. 1 in a view from behind,
Fig. 3
the measuring structure according to Fig. 1 in a modified representation and
Fig. 4
different types of reference marks.

Der in Fig. 1 gezeigte Meßaufbau dient dazu, die 3D-Koordinaten der Vorderseite eines Objekts 1, nämlich einer Kraftfahrzeugtür (Rohbautür), zu bestimmen. Das Objekt 1 ist von fünf Referenzkulissen 2, 3, 4, 5, 6 umgeben. Jede Referenzkulisse 2 - 6 weist Referenzmarken auf, nämlich Referenzmarken 7, die in sich codiert sind, und Referenzmarken 8, die nicht in sich codiert sind, die aber derart räumlich zueinander angeordnet sind, daß diese räumliche Anordnung eine Codierung beinhaltet.The in Fig. 1 shown measurement structure is used to determine the 3D coordinates of the front of an object 1, namely a motor vehicle door (bodyshell door). The object 1 is surrounded by five reference scenes 2, 3, 4, 5, 6. Each Referenzkulisse 2-6 has reference marks, namely reference marks 7, which are encoded in itself, and reference marks 8, which are not encoded in itself, but which are arranged spatially relative to each other, that this spatial arrangement includes a coding.

Die Referenzkulissen 2 - 6 sind stabförmig.The reference scenes 2-6 are rod-shaped.

Zur Herstellung von Aufnahmen des Objekts ist ein 3D-Sensor 9 vorhanden, der ein Weißlicht-Streifenprojektionssystem und eine Kamera mit einer Optik und einem CCD-Sensor umfaßt. Ferner ist eine Vorrichtung, nämlich ein Tracking-System, vorgesehen, mit der die Lage und Orientierung des 3D-Sensors 9 in einem übergeordneten Koordinatensystem bestimmt werden kann (in der Zeichnung nicht dargestellt). Auf diese Weise können die Absolut-Koordinaten des Objekts 1 und der Referenzkulissen 2 - 6 bestimmt werden.For the production of images of the object, a 3D sensor 9 is present, which comprises a white-light fringe projection system and a camera with an optical system and a CCD sensor. Furthermore, a device, namely a tracking system, is provided, with which the position and orientation of the 3D sensor 9 in a higher-level coordinate system can be determined (not shown in the drawing). In this way, the absolute coordinates of the object 1 and the reference scenes 2-6 can be determined.

Die Referenzkulissen 2 - 6 sind vermessen worden. Das Ergebnis dieser Vermessung ist in einem Steuersystem, das einen Computer, insbesondere einen PC, umfassen kann, gespeichert (in der Zeichnung nicht dargestellt). Das Ergebnis der Vermessung der Referenzkulissen 2 - 6 umfaßt eine eindeutige Zuordnung der jeweiligen Referenzmarken 7, 8 zu einer bestimmten Referenzkulisse 2 - 6, die auf diese Weise identifiziert werden kann, und die Lagekoordinaten der jeweiligen Referenzmarken 7, 8 auf der jeweiligen Referenzkulisse 2 - 6.The reference scenes 2 - 6 have been measured. The result of this survey is stored in a control system which may include a computer, in particular a personal computer (not shown in the drawing). The result of the measurement of the reference scenes 2 - 6 comprises an unambiguous assignment of the respective reference marks 7, 8 to a specific reference gate 2 - 6, which can be identified in this way, and the position coordinates of the respective reference marks 7, 8 on the respective reference gate 2 - 6th

Die Referenzkulissen 2 - 6 sind nicht an dem Objekt 1 befestigt. Sie werden in der Nähe des Objekts 1 angeordnet, und zwar vorzugsweise in der Weise, daß sie das Objekt 1 umgeben, wie in Fig. 1 gezeigt. Zu diesem Zweck können Referenzobjekte mit verschiedener Länge vorgesehen sein, nämlich Referenzobjekte 2, 3, 6, die länger sind als die Länge 1 des Meßfeldes des 3D-Sensors, und kurze Referenzkulissen 4, 5, die kürzer sind als diese Länge I. Die Referenzkulissen 2, 3, 6 sind also länger als die Größe I des bei einer Aufnahme aufgenommenen Bereichs des Objekts 2.The reference scenes 2 - 6 are not attached to the object 1. They are placed in the vicinity of the object 1, preferably in such a way that they surround the object 1, as in FIG Fig. 1 shown. For this purpose reference objects with different lengths can be provided, namely reference objects 2, 3, 6, which are longer than the length 1 of the measuring field of the 3D sensor, and short reference scenes 4, 5, which are shorter than this length I. The reference scenes 2, 3, 6 are thus longer than the size I of the recorded during a recording area of the object. 2

Die Referenzkulissen 2 - 6 befinden sich in einer nicht exakt kalibrierten Lage. Sie umgeben das Objekt 1, müssen aber zunächst nicht an exakt vorbestimmten Stellen positioniert werden.The reference scenes 2 - 6 are in a not exactly calibrated position. They surround the object 1, but first they do not have to be positioned at exactly predetermined locations.

Von dem Objekt 1 werden mehrere Aufnahmen durch den 3D-Sensor 9 hergestellt. Dies ist in Fig. 3 gezeigt, wo die Meßfelder der nacheinander durchgeführten Aufnahmen 10, 11, 12, 13, 14 dargestellt sind. Jede der Aufnahmen 10 - 14 enthält einen Teil des Objekts 1 und einen Teil einer Referenzkulisse 2 - 6. Ferner enthalten alle Aufnahmen 10 - 14 einen Teil einschließlich eines Endes einer ersten Referenzkulisse und einen Teil einschließlich eines Endes einer weiteren Referenzkulisse. Die Aufnahme 10 enthält einen Teil, nämlich ein Ende der Referenzkulisse 2 und einen Teil, nämlich ein Ende, der Referenzkulisse 3. Die Aufnahme 11 enthält Teile bzw. Enden der Referenzkulissen 3 und 4. Die Aufnahme 12 enthält Teile bzw. Enden der Referenzkulissen 4 und 5. Die Aufnahme 13 enthält Teile bzw. Enden der Referenzkulissen 5 und 6. Die Aufnahme 14 enthält Teile bzw. Enden der Referenzkulissen 6 und 2. Es ist alledings auch möglich, daß Aufnahmen lediglich einen Teil von nur einer Referenzkulisse enthalten (in der Zeichnung nicht dargestellt).From the object 1 several shots are made by the 3D sensor 9. This is in Fig. 3 shown where the measuring fields of successive recordings 10, 11, 12, 13, 14 are shown. Each of the receptacles 10-14 includes a portion of the object 1 and a portion of a reference gallery 2-6. Further, each of the receptacles 10-14 includes a portion including an end of a first reference gate and a portion including an end of another reference gate. The receptacle 10 contains a part, namely an end of the reference gate 2 and a part, namely an end, the reference gate 3. The receptacle 11 contains parts or ends of the reference scenes 3 and 4. The receptacle 12 contains parts or ends of the reference scenes. 4 and 5. The receptacle 13 contains parts or ends of the reference scenes 5 and 6. The receptacle 14 contains parts or ends of the reference scenes 6 and 2. It is alledings also possible that recordings contain only a part of only one reference scenery (in the Drawing not shown).

Die Aufnahmen überlappen sich teilweise. Die Aufnahmen 10 und 11 überlappen sich, ebenso die Aufnahmen 13 und 14. Die Aufnahme 12 überlappt sich nicht mit weiteren Aufnahmen. Einander überlappende Aufnahmen können miteinander verkettet werden. Wenn sich Aufnahmen nicht überlappen, werden die 3D-Koordinaten der zwischen den Aufnahmen liegenden Bereiche nicht bestimmt. Bei diesen Bereichen kann es sich um nicht interessierende Bereiche handeln.The recordings partially overlap. The recordings 10 and 11 overlap, as do the recordings 13 and 14. The record 12 does not overlap with further recordings. Overlapping recordings can be linked together. If shots do not overlap, the 3D coordinates of the areas between shots will not be determined. These areas may be non-interest areas.

Jede Aufnahme enthält Referenzmarken 7, 8. Die Zuordnung der Größe der Aufnahmen und der Verteilung der Referenzmarken 7, 8 ist derart, daß bei jeder Aufnahme 10 - 14 von jeder Referenzkulisse 2 - 6 deren Lage und Orientierung bestimmt werden kann. Beispielsweise enthält die Aufnahme 10 eine in sich codierte Referenzmarke 7 und vier nicht in sich codierte Referenzmarken 8, wobei allerdings diese nicht in sich codierten Referenzmarken 8 durch die Lage ihrer Positionen decodiert werden können. In gleicher Weise enthält die Aufnahme 10 eine in sich codierte Referenzmarke 7 und zwei nicht in sich codierte Referenzmarken 8 der Referenzkulisse 2. Entsprechendes gilt für die übrigen Aufnahmen 11 bis 14 und die übrigen Referenzkulissen 4 bis 6.Each record contains reference marks 7, 8. The assignment of the size of the recordings and the distribution of the reference marks 7, 8 is such that with each shot 10 - 14 of each reference gate 2 - 6 whose position and orientation can be determined. For example, the receptacle 10 contains a self-coded reference mark 7 and four non-self-coded reference marks 8, although these non-self-coded reference marks 8 can be decoded by the position of their positions. In the same way, the receptacle 10 contains a self-coded reference mark 7 and two non-self-coded reference marks 8 of the reference gate 2. The same applies to the other recordings 11 to 14 and the remaining reference scenes 4 to 6.

In einem ersten Meßdurchlauf werden die Positionen der Referenzmarken 7, 8 erfaßt und gespeichert. Während dieses ersten Meßdurchlaufs können auch die 3D-Koordinaten des Objekts 1 bestimmt werden.In a first Meßdurchlauf the positions of the reference marks 7, 8 are detected and stored. During this first measurement run, the 3D coordinates of the object 1 can also be determined.

Wenn anschließend weitere Objekte vermessen werden sollen, können hierfür die gespeicherten Positionen der Referenzmarken 7, 8 verwendet werden. Es ist also möglich, das Objekt 1 zu entfernen, wobei die Lage der Referenzkulissen 2 - 6 zueinander und damit auch die Lage der Referenzmarken 7, 8 nicht verändert wird. Anschließend wird ein weiteres, ähnliches Meßobjekt in ähnlicher Weise innerhalb der Referenzkulissen 2 - 6 plaziert. Dieses weitere Objekt kann dann vermessen werden. Dieser weitere Meßdurchlauf und noch weitere Meßdurchläufe können auf der Grundlage der gespeicherten Positionen der Referenzmarken 7, 8 durchgeführt werden. Dadurch, daß die gespeicherten Positionen der Referenzmarken 7, 8 verwendet werden, kann die Meßzeit verkürzt werden.If subsequently further objects are to be measured, the stored positions of the reference marks 7, 8 can be used for this purpose. It is thus possible to remove the object 1, wherein the position of the reference scenes 2 - 6 to each other and thus the position of the reference marks 7, 8 is not changed. Subsequently, another, similar DUT is placed in a similar manner within the reference scenes 2-6. This further object can then be measured. This further measurement run and still further Meßdurchläufe can be performed on the basis of the stored positions of the reference marks 7, 8. Characterized in that the stored positions of the reference marks 7, 8 are used, the measuring time can be shortened.

Wie aus Fig. 2 ersichtlich sind auch auf den Rückseiten der Referenzkulissen 2 - 6 codierte Referenzmarken vorgesehen, nämlich in sich codierte Referenzmarken 7' und nicht in sich codierte Referenzmarken 8', die durch ihre räumliche Lage zueinander codiert sind. Auf diese Weise ist es möglich, auch die Rückseite des Objekts 1 mit dem selben Meßaufbau zu vermessen. Insbesondere genügt der beschriebene erstmalige Meßdurchlauf der Vorderseiten der Referenzkulissen 2 - 6 zur vollständigen Erfassung und Speicherung auch der Referenzmarken 7', 8' auf den Rückseiten der Referenzkulissen 2 - 6. Hierfür sind auch die Referenzmarken 7', 8' auf den Rückseiten der Referenzkulissen 2 - 6 vorab vermessen worden, und zwar sowohl hinsichtlich ihrer Positionen zueinander als auch hinsichtlich ihrer Positionen bezüglich der Referenzmarken 7, 8 auf der Vorderseite der jeweiligen Referenzkulisse 2 - 6.How out Fig. 2 As can be seen, coded reference marks are also provided on the rear sides of the reference scenes 2-6, namely self-coded reference marks 7 'and non-self-coded reference marks 8' which are coded relative to each other by their spatial position. In this way, it is possible to measure the back of the object 1 with the same Meßaufbau. In particular, the described first-time measurement run of the front sides of the reference scenes 2 - 6 for complete acquisition and storage of the reference marks 7 ', 8' on the backsides of the reference scenes 2 - 6 is sufficient. For this purpose, the reference marks 7 ', 8' on the backs of the reference scenes 2-6 have been measured in advance, both in terms of their positions relative to each other and with respect to their positions relative to the reference marks 7, 8 on the front of the respective reference gate 2-6.

Fig. 4 zeigt verschiedene Ausführungsformen von in sich codierten Referenzmarken 7, 7'. Jede Referenzmarke umfaßt ein unverändertes, nicht codierendes Element und codierende Elemente. Das nicht codierende Element kann aus einem Kreis 15 oder einem Quadrat 16 oder einem Rechteck bestehen. Dieses Element bestimmt die Position der jeweiligen Referenzmarke. Die codierenden Elemente können aus einem zirkulären Strichcode 17, aus einem Punktmuster 18 von runden oder quadratischen Punkten, aus Segmentabschnitten 19 oder aus einem Muster von Punkten 20 und Strichen 21 bestehen. Die codierenden Teile ermöglichen eine Identifikation der jeweiligen Referenzmarke. Fig. 4 shows various embodiments of self-coded reference marks 7, 7 '. Each reference mark comprises an unchanged non-coding element and coding elements. The non-coding element may consist of a circle 15 or a square 16 or a rectangle. This element determines the position of the respective reference mark. The coding elements may consist of a circular bar code 17, a dot pattern 18 of round or square dots, segment sections 19 or a pattern of dots 20 and dashes 21. The coding parts allow identification of the respective reference mark.

Gemäß der Erfindung werden mehrere Referenzkulissen verwendet, die flexibel kombinierbar sind und die vor der Messung um das zu messende Objekt angeordnet werden. Während der Messung des Objekts und möglicherweise weiterer Objekte werden die Referenkulissen dann in ihrer Lage nicht mehr verändert. Mit einem Satz von Referenzkulissen kann eine Vielzahl von unterschiedlichen Meßobjekten gemessen werden.According to the invention, several reference scenes are used, which can be flexibly combined and which are arranged around the object to be measured before the measurement. During the measurement of the object and possibly other objects, the reference scenes are then no longer changed in their position. With a set of reference scenes, a variety of different DUTs can be measured.

Auf den Referenzkulissen sind codierte Referenzmarken angebracht. Es kann sich um Fotogrammetriemarken handeln, die in sich codiert sind, und um Fotogrammetriemarken, die nicht in sich, aber durch ihre Lage zueinander codiert sind. Die Referenzmarken auf den Referenzkulissen sind eingemessen, beispielsweise mit Hilfe der Fotogrammetrie. Auf diese Weise liegt für jede Referenzkulisse eine exakte und in sich stabile 3D-Punkteliste vor. Die fotogrammetrische Einmessung jeder einzelnen Referenzkulisse ist nur einmal notwendig. Die einmal eingemessene Punkteliste wird gespeichert.Coded reference marks are attached to the reference scenes. They may be photogrammetry tags encoded within themselves and photogrammetry tags that are not encoded in themselves but by their position relative to each other. The reference marks on the Referenzkulissen are measured, for example by means of photogrammetry. In this way, there is an exact and inherently stable 3D point list for every reference backdrop. The photogrammetric measurement of each reference frame is only necessary once. The once measured point list is saved.

Das Objekt kann abschnittsweise mit dem 3D-Sensor gemessen werden, wobei in jeder einzelnen Aufnahme des 3D-Sensors sowohl ein Teil des Objekts als auch ein Teil der Referenzmarken auf einer oder mehreren Referenzkulissen erfaßt werden. Die Referenzkulissen sind zumindest teilweise in ihrer Länge so gestaltet, daß sie deutlich größer als das Meßfeld des 3D-Sensors sind, damit mehrere nebeneinanderliegende Aufnahmen des 3D-Sensors über eine Referenzkulisse verknüpft werden können und somit eine hohe Genauigkeit auch bei der Verknüpfung mehrere Meßfelder erreicht wird.The object can be measured in sections with the 3D sensor, wherein in each individual image of the 3D sensor both a part of the object and a part of the reference marks are detected on one or more reference scenes. The reference scenes are at least partially designed in their length so that they are significantly larger than the measuring field of the 3D sensor, so that multiple adjacent shots of the 3D sensor can be linked via a Referenzkulisse and thus achieves high accuracy even when linking multiple measuring fields becomes.

Die Identifikation der einzelnen Referenzkulissen erfolgt selbsttätig (automatish) oder manuell in der Meßszene des 3D-Sensors entweder über die Analyse der geometrischen Anordnung der nicht in sich codierten Referenzmarken oder mit Hilfe der in sich codierten Referenzmarken, was eine einfachere und sicherere Identifikation ermöglicht.The individual reference scenes are identified automatically (automatically) or manually in the measuring scene of the 3D sensor either via the analysis of the geometric arrangement of the non-self-coded reference marks or with the aid of the self-coded reference marks, which enables easier and safer identification.

Nach der ersten Messung wird überprüft, welche Referenkulisse oder welche Referenzkulissen neben dem Objekt in der jeweiligen Aufnahme erfaßt wurde bzw. wurden, und zwar durch die Auswertung der in sich codierten Referenzmarken und/oder durch die Auswertung bzw. Analyse der geometrischen Anordnung der nicht in sich codierten Referenzmarken. Anschließend wird die jeweilige 3D-Punkteliste in das Koordinatensystem der ersten Messung transformiert. Jede weitere Messung kann nun in dieses Koordinatensystem transformiert weren, sofern Referenzmarken einer bereits transformierten Referenzkulisse erfaßt werden. Nach jeder Messung wird überprüft, ob weitere, bisher noch nicht erfaßte Referenzmarken und/oder Referenzkulissen gemessen wurden. Gegebenenfalls werden diese dann in die Meßszene transformiert. Zur Genauigkeitssteigerung kann der komplette Verband aller gemessenen Objektabschnitte, also der komplette Verband aller Aufnahmen, zusammen mit den erfaßten Referenzkulissen und/oder Referenzmarken über ein 3D-Matching-Verfahren zueinander ausgeglichen werden.After the first measurement, it is checked which reference gate or which reference scenes were or were detected next to the object in the respective recording, namely by the evaluation of the self-coded reference marks and / or by the evaluation or analysis of the geometric arrangement of not encoded reference marks. Subsequently, the respective 3D point list is transformed into the coordinate system of the first measurement. Any further measurement can now be transformed into this coordinate system, provided that reference marks of an already transformed reference scenery are detected. After each measurement, it is checked whether further, previously not yet recorded reference marks and / or reference scenes have been measured. If necessary, these are then transformed into the measurement scene. To increase the accuracy of the complete association of all measured object sections, so the complete association of all recordings, together with the detected reference scenes and / or reference marks via a 3D matching method are compared to each other.

Durch die Anbringung von Referenzmarken auf allen Seiten der Referenzkulissen, also auch auf deren Rückseite, ist es möglich, die Vorderseite und die Rückseite eines Objekts in einem gemeinsamen Koordinatensystem zu messen.By applying reference marks on all sides of the reference scenes, and thus also on their back, it is possible to measure the front and the back of an object in a common coordinate system.

Nach Abschluß der Messung an dem Objekt und der damit vorliegenden kombinierten und zueinander ausgerichteten Punkteliste aller Referenzkulissen und deren Referenzmarken ist es mögilch, für Wiederholungsmessungen an weiteren Objekten gleichen Tys die komplette Punkteliste der Referenzkulissen und/ Referenzmarken schon beim Start der Meßsequenz komplett einzuladen, und den Transformationsvorgang der einzelnen Referenzkulissen und/oder Referenzmarken bei den Wiederholungsmessungen einzusparen. Dies setzt voraus, daß die Lage der Referenzkulissen für die Wiederholungsmessung nicht geändert worden ist.After completion of the measurement on the object and thus present combined and aligned points list of all Referenzkulissen and their reference marks, it is mögilch for repeat measurements on other objects same Tys invite the complete point list of reference scenes and / reference marks completely at the start of the measurement sequence completely To save the transformation process of the individual reference scenes and / or reference marks during the repeat measurements. This presupposes that the position of the reference scenes for the repeat measurement has not been changed.

Claims (9)

Verfahren zur Bestimmung der 3D-Koordinaten eines Objekts (1),
dadurch gekennzeichnet,
daß das Objekt (1) von mehreren Referenzkulissen (2, 3, 4, 5, 6) mit kodierten Referenzmarken (7, 8) umgeben ist
und daß von dem Objekt (1) mehrere Aufnahmen (10, 11, 12, 13, 14) derart hergestellt werden, daß darauf jeweils ein Teil des Objekts (1) und ein Teil einer Referenzkulisse (2 - 6) enthalten ist.
Method for determining the 3D coordinates of an object (1),
characterized,
that the object (1) from a plurality of reference links (2, 3, 4, 5, 6) with the coded reference marks (7, 8) is surrounded
and in that a plurality of receptacles (10, 11, 12, 13, 14) of the object (1) are produced in such a way that a part of the object (1) and a part of a reference slide (2 - 6) are respectively contained thereon.
Verfahren nach Anspruch 1, dadurch gekennzeichnet, daß einige oder alle Referenzkulissen (2, 3, 6) länger sind als das Meßfeld des 3D-Sensors (9).Method according to Claim 1, characterized in that some or all of the reference scenes (2, 3, 6) are longer than the measuring field of the 3D sensor (9). Verfahren nach Anspruch 1 oder 2, dadurch gekennzeichnet, daß einige oder alle Referenzkulissen (2 - 6) stabförmig sind.Method according to claim 1 or 2, characterized in that some or all reference scenes (2-6) are rod-shaped. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß Aufnahmen, die einen Teil, insbesondere ein Ende einer Referenzkulisse (2 - 6) enthalten, einen Teil, insbesondere ein Ende einer weiteren Referenzkulisse (2 - 6) enthalten.Method according to one of the preceding claims, characterized in that recordings which contain a part, in particular an end of a reference slide (2 - 6), contain a part, in particular an end of a further reference slide (2-6). Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß die Referenzmarken (7, 8) selbsttätig dekodiert werden.Method according to one of the preceding claims, characterized in that the reference marks (7, 8) are automatically decoded. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß einige oder alle Aufnahmen (10 - 14) durch ein 3D-Matchingverfahren miteinander verknüpft werden.Method according to one of the preceding claims, characterized in that some or all recordings (10-14) are linked together by a 3D matching method. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß auch auf den Rückseiten einiger oder aller Referenzkulissen (2 - 6) kodierte Referenzmarken (7', 8') vorgesehen sind.Method according to one of the preceding claims, characterized in that coded reference marks (7 ', 8') are also provided on the rear sides of some or all of the reference scenes (2-6). Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß in einem ersten Meßdurchlauf die Positionen der Referenzmarken (7, 8) erfaßt und gespeichert werden.Method according to one of the preceding claims, characterized in that the positions of the reference marks (7, 8) are detected and stored in a first measuring pass. Verfahren nach einem der vorhergehenden Ansprüche, dadurch gekennzeichnet, daß weitere Meßdurchläufe auf der Grundlage von gespeicherten Positionen der Referenzmarken (7, 8) durchgeführt werden.Method according to one of the preceding claims, characterized in that further measurement runs are carried out on the basis of stored positions of the reference marks (7, 8).
EP10006496.3A 2009-07-08 2010-06-22 Method for determining the 3D coordinates of an object Active EP2273229B1 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
DE102009032262A DE102009032262A1 (en) 2009-07-08 2009-07-08 Method for determining the 3D coordinates of an object

Publications (2)

Publication Number Publication Date
EP2273229A1 true EP2273229A1 (en) 2011-01-12
EP2273229B1 EP2273229B1 (en) 2019-10-23

Family

ID=42352375

Family Applications (1)

Application Number Title Priority Date Filing Date
EP10006496.3A Active EP2273229B1 (en) 2009-07-08 2010-06-22 Method for determining the 3D coordinates of an object

Country Status (5)

Country Link
US (1) US8502991B2 (en)
EP (1) EP2273229B1 (en)
JP (1) JP2011017700A (en)
DE (1) DE102009032262A1 (en)
ES (1) ES2758776T3 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011011360A1 (en) 2011-02-16 2012-08-16 Steinbichler Optotechnik Gmbh Apparatus and method for determining the 3-D coordinates of an object and for calibrating an industrial robot
EP2574876A1 (en) 2011-09-30 2013-04-03 Steinbichler Optotechnik GmbH Method and device for determining the 3D coordinates of an object
DE102013011848A1 (en) 2013-07-16 2015-01-22 Steinbichler Optotechnik Gmbh Apparatus and method for determining the 3D coordinates of an object
WO2016103125A1 (en) * 2014-12-22 2016-06-30 Bombardier Inc. Reference system for online vision inspection
DE102021121073A1 (en) 2021-08-13 2023-02-16 Inline3D GmbH Measuring device and method for measuring an object

Families Citing this family (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9551575B2 (en) 2009-03-25 2017-01-24 Faro Technologies, Inc. Laser scanner having a multi-color light source and real-time color receiver
DE102009015920B4 (en) 2009-03-25 2014-11-20 Faro Technologies, Inc. Device for optically scanning and measuring an environment
US9529083B2 (en) 2009-11-20 2016-12-27 Faro Technologies, Inc. Three-dimensional scanner with enhanced spectroscopic energy detector
DE102009057101A1 (en) 2009-11-20 2011-05-26 Faro Technologies, Inc., Lake Mary Device for optically scanning and measuring an environment
US9210288B2 (en) 2009-11-20 2015-12-08 Faro Technologies, Inc. Three-dimensional scanner with dichroic beam splitters to capture a variety of signals
US9113023B2 (en) 2009-11-20 2015-08-18 Faro Technologies, Inc. Three-dimensional scanner with spectroscopic energy detector
US8630314B2 (en) 2010-01-11 2014-01-14 Faro Technologies, Inc. Method and apparatus for synchronizing measurements taken by multiple metrology devices
US8832954B2 (en) 2010-01-20 2014-09-16 Faro Technologies, Inc. Coordinate measurement machines with removable accessories
US8284407B2 (en) 2010-01-20 2012-10-09 Faro Technologies, Inc. Coordinate measuring machine having an illuminated probe end and method of operation
US9628775B2 (en) 2010-01-20 2017-04-18 Faro Technologies, Inc. Articulated arm coordinate measurement machine having a 2D camera and method of obtaining 3D representations
US9607239B2 (en) 2010-01-20 2017-03-28 Faro Technologies, Inc. Articulated arm coordinate measurement machine having a 2D camera and method of obtaining 3D representations
US9879976B2 (en) 2010-01-20 2018-01-30 Faro Technologies, Inc. Articulated arm coordinate measurement machine that uses a 2D camera to determine 3D coordinates of smoothly continuous edge features
WO2011090902A1 (en) * 2010-01-20 2011-07-28 Faro Technologies, Inc. Embedded arm strain sensors
DE112011100309B4 (en) 2010-01-20 2015-06-11 Faro Technologies, Inc. Portable articulated arm coordinate measuring machine with removable accessories
US8677643B2 (en) 2010-01-20 2014-03-25 Faro Technologies, Inc. Coordinate measurement machines with removable accessories
US9163922B2 (en) 2010-01-20 2015-10-20 Faro Technologies, Inc. Coordinate measurement machine with distance meter and camera to determine dimensions within camera images
US8898919B2 (en) 2010-01-20 2014-12-02 Faro Technologies, Inc. Coordinate measurement machine with distance meter used to establish frame of reference
US8615893B2 (en) 2010-01-20 2013-12-31 Faro Technologies, Inc. Portable articulated arm coordinate measuring machine having integrated software controls
US8875409B2 (en) 2010-01-20 2014-11-04 Faro Technologies, Inc. Coordinate measurement machines with removable accessories
DE102010020925B4 (en) 2010-05-10 2014-02-27 Faro Technologies, Inc. Method for optically scanning and measuring an environment
GB2501390B (en) 2010-09-08 2014-08-06 Faro Tech Inc A laser scanner or laser tracker having a projector
US9168654B2 (en) 2010-11-16 2015-10-27 Faro Technologies, Inc. Coordinate measuring machines with dual layer arm
DE102012100609A1 (en) 2012-01-25 2013-07-25 Faro Technologies, Inc. Device for optically scanning and measuring an environment
US8997362B2 (en) 2012-07-17 2015-04-07 Faro Technologies, Inc. Portable articulated arm coordinate measuring machine with optical communications bus
DE102012109481A1 (en) 2012-10-05 2014-04-10 Faro Technologies, Inc. Device for optically scanning and measuring an environment
US9513107B2 (en) 2012-10-05 2016-12-06 Faro Technologies, Inc. Registration calculation between three-dimensional (3D) scans based on two-dimensional (2D) scan data from a 3D scanner
US10067231B2 (en) 2012-10-05 2018-09-04 Faro Technologies, Inc. Registration calculation of three-dimensional scanner data performed between scans based on measurements by two-dimensional scanner
DE102013211342A1 (en) * 2013-06-18 2014-12-18 Siemens Aktiengesellschaft Photo-based 3D surface inspection system
WO2015140183A1 (en) * 2014-03-17 2015-09-24 Rapidfit Nv Exterior target frame for optical 3-d scanning of objects
DE102015004873A1 (en) 2014-04-17 2015-10-22 Steinbichler Optotechnik Gmbh Method and device for determining the 3D coordinates of an object
DE102014012710A1 (en) 2014-08-27 2016-03-03 Steinbichler Optotechnik Gmbh Method and device for determining the 3D coordinates of an object
JP6358619B2 (en) * 2014-10-31 2018-07-18 ダイハツ工業株式会社 Three-dimensional position measurement method and three-dimensional position measurement system for vehicle body
EP3215044B1 (en) 2014-11-03 2022-09-14 OptiNav Sp. z o.o. Optical tracking method and system based on passive markers
US10444006B2 (en) * 2015-08-19 2019-10-15 Faro Technologies, Inc. Three-dimensional imager
DE102015118986A1 (en) * 2015-11-05 2017-05-11 Anix Gmbh Test pit measuring system for the optical measurement of a test pit surface, method for optical measurement of a test pit surface with such a test pit measuring system and use of such Prüfgrubenmesssystems
DE102015122844A1 (en) 2015-12-27 2017-06-29 Faro Technologies, Inc. 3D measuring device with battery pack
EP3252458A1 (en) * 2016-06-01 2017-12-06 Hijos de Jose Sivo, S.L. System and method for digitalizing tridimensional objects
DE102016211657A1 (en) 2016-06-28 2017-12-28 Carl Zeiss Industrielle Messtechnik Gmbh Method and apparatus for producing a resulting image of a surface
DE102016220888A1 (en) * 2016-10-24 2018-04-26 Micro-Epsilon Messtechnik Gmbh & Co. Kg Reference plate and method for calibrating and / or checking a deflectometry sensor system
DE102016014384B4 (en) 2016-12-02 2019-01-17 Carl Zeiss Industrielle Messtechnik Gmbh Method and device for determining the 3D coordinates of an object
DE102016124549B4 (en) 2016-12-15 2019-11-07 Carl Zeiss Industrielle Messtechnik Gmbh measuring system
CN114777681A (en) 2017-10-06 2022-07-22 先进扫描仪公司 Generating one or more luminance edges to form a three-dimensional model of an object
DE102018222629A1 (en) 2018-01-17 2019-07-18 Carl Zeiss Industrielle Messtechnik Gmbh Method and device for determining at least one spatial position and orientation of at least one object
EP3598066A1 (en) 2018-07-18 2020-01-22 Carl Zeiss Optotechnik GmbH Method and arrangement for determining at least one of dimensional characteristics and shape characteristics of a large measurement object
DE102018218475B4 (en) 2018-10-29 2022-03-10 Carl Zeiss Optotechnik GmbH Tracking system and optical measuring system for determining at least one spatial position and orientation of at least one measurement object
DE102018220088A1 (en) 2018-11-22 2020-05-28 Carl Zeiss Industrielle Messtechnik Gmbh Method and device for determining at least one spatial position and orientation of at least one measurement object
DE102019200733A1 (en) 2019-01-22 2020-07-23 Carl Zeiss Industrielle Messtechnik Gmbh Method and device for determining at least one spatial position and orientation of at least one tracked measuring device
US10955236B2 (en) * 2019-04-05 2021-03-23 Faro Technologies, Inc. Three-dimensional measuring system
DE102019211063B3 (en) * 2019-07-25 2020-08-20 Carl Zeiss Industrielle Messtechnik Gmbh Measuring device and method for determining a spatial position and orientation of a measurement object
DE102019212856A1 (en) 2019-08-27 2021-03-04 Carl Zeiss Industrielle Messtechnik Gmbh Method for tracking a beam
CN112857325A (en) * 2019-11-28 2021-05-28 中科知影(北京)科技有限公司 System and method for magnetometer spatial localization
DE102020202982A1 (en) 2020-03-09 2021-09-09 Carl Zeiss Industrielle Messtechnik Gmbh Optical device for determining the distance of a measurement object
DE102020211136A1 (en) 2020-09-03 2022-03-03 Carl Zeiss Industrielle Messtechnik Gmbh Method for determining a change in at least one air column property in optical navigation systems
DE102020215073A1 (en) 2020-11-30 2022-06-02 Carl Zeiss Industrielle Messtechnik Gmbh Self-calibrating optronic measuring system
DE102021209427A1 (en) 2021-08-27 2023-03-02 Carl Zeiss Industrielle Messtechnik Gmbh Method and device for determining at least one spatial position and orientation of at least one measurement object

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0553266B1 (en) 1990-10-15 1997-05-07 SCHULZ, Waldean A. Method and apparatus for three-dimensional non-contact shape sensing
US5805289A (en) 1997-07-07 1998-09-08 General Electric Company Portable measurement system using image and point measurement devices
DE19840334A1 (en) 1998-02-02 1999-08-05 Daimler Chrysler Ag Position navigation block for optical three-dimensional co-ordinate measurement e.g. for vehicle
WO2001088471A1 (en) 2000-05-16 2001-11-22 Steinbichler Optotechnik Gmbh Method and device for determining the 3d profile of an object
US20020033885A1 (en) * 2000-06-23 2002-03-21 Heinrich Schuler Method and apparatus for the determination of the contour of sheet metal blanks
US6363169B1 (en) * 1997-07-23 2002-03-26 Sanyo Electric Co., Ltd. Apparatus and method of three-dimensional modeling
US20040234122A1 (en) * 2001-07-30 2004-11-25 Nobuo Kochi Surface shape measurement apparatus, surface shape measurement method, surface state graphic apparatus
EP1724549A2 (en) 2005-05-18 2006-11-22 Steinbichler Optotechnik Gmbh Method for determining the 3D coordinates of the surface of an object
EP2034269A1 (en) 2007-09-10 2009-03-11 Steinbichler Optotechnik Gmbh Method and device for three-dimensional digitalising of objects

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5506682A (en) * 1982-02-16 1996-04-09 Sensor Adaptive Machines Inc. Robot vision using targets
FR2590681B1 (en) * 1985-11-27 1988-06-24 Alcatel Espace SYSTEM FOR LOCATING AN OBJECT PROVIDED WITH AT LEAST ONE PASSIVE SIGHT.
JPH04184203A (en) * 1990-11-20 1992-07-01 Komatsu Ltd Controller for position measuring apparatus
NO174025C (en) * 1991-10-11 1994-03-02 Metronor Sa System for spot measurement of spatial coordinates
US5663795A (en) * 1995-09-07 1997-09-02 Virtek Vision Corp. Method of calibrating laser positions relative to workpieces
NO301999B1 (en) * 1995-10-12 1998-01-05 Metronor As Combination of laser tracker and camera based coordinate measurement
US5748505A (en) * 1996-02-06 1998-05-05 Perceptron, Inc. Method and apparatus for calibrating a noncontact gauging sensor with respect to an external coordinate system
NO303595B1 (en) * 1996-07-22 1998-08-03 Metronor Asa System and method for determining spatial coordinates
BE1011121A3 (en) * 1997-04-21 1999-05-04 Krypton Electronic Eng Nv Device and method for determining the position of an item.
US5831735A (en) * 1997-07-28 1998-11-03 General Electric Company Non-contact optical measurement probe
US6456339B1 (en) * 1998-07-31 2002-09-24 Massachusetts Institute Of Technology Super-resolution display
US6717683B1 (en) * 1998-09-30 2004-04-06 Pentax Corporation Target for photogrammetric analytical measurement system
US6650764B1 (en) * 1999-03-01 2003-11-18 Pentax Corporation Device for calculating positional data of standard points of a photogrammetric target
EP1189732B1 (en) * 1999-06-26 2003-05-07 KUKA Schweissanlagen GmbH Method and device for calibrating robot measuring stations, manipulators and associated optical measuring devices
FR2806657B1 (en) * 2000-03-21 2002-08-16 Romain Granger POSITIONAL MARKING SYSTEM OF A THREE-DIMENSIONAL MACHINE IN A FIXED REFERENCE SYSTEM
US6990215B1 (en) * 2000-07-31 2006-01-24 Geodetic Services, Inc. Photogrammetric measurement system and method
GB0022444D0 (en) * 2000-09-13 2000-11-01 Bae Systems Plc Positioning system and method
JP2003065736A (en) * 2001-08-24 2003-03-05 Sanyo Electric Co Ltd Three-dimensional modeling apparatus
FR2846432B1 (en) * 2002-10-24 2005-03-11 Commissariat Energie Atomique CODED TARGET AND PHOTOGRAMMETER METHOD USING SUCH TARGETS
ATE494561T1 (en) * 2002-11-15 2011-01-15 Leica Geosystems Ag METHOD AND DEVICE FOR CALIBRATION OF A MEASURING SYSTEM
DE10309788A1 (en) * 2003-03-05 2004-09-16 Corpus.E Ag Simple optical detection of the spatial shape of bodies and body parts with mechanically inaccurately positioned imagers
DE10311247B8 (en) * 2003-03-14 2008-05-08 Inos Automationssoftware Gmbh Portable device for detecting a position and dimensions of an object
US6901673B1 (en) * 2004-05-20 2005-06-07 The Boeing Company Tie-in device for the correlation of coordinate systems
US7307737B1 (en) * 2004-10-08 2007-12-11 Snap-On Incorporated Three-dimensional (3D) measuring with multiple reference frames
EP1875159A1 (en) * 2005-04-11 2008-01-09 Faro Technologies Inc. Three-dimensional coordinate measuring device
JP2006329817A (en) * 2005-05-26 2006-12-07 Konica Minolta Sensing Inc Acquisition method of target coordinate in three-dimensional measurement, and target used therefor
US8614669B2 (en) * 2006-03-13 2013-12-24 Navisense Touchless tablet method and system thereof
US7557936B2 (en) * 2006-04-12 2009-07-07 Toyota Motor Engineering & Manufacturing North America, Inc. Digitizer adapter
JP4743771B2 (en) * 2006-05-08 2011-08-10 コニカミノルタセンシング株式会社 Section data acquisition method, system, and section inspection method
US20080123110A1 (en) * 2006-09-20 2008-05-29 Toyota Engineering & Manufacturing North America, Inc. Multifaceted digitizer adapter
TW200842403A (en) * 2007-04-18 2008-11-01 Ming-Yan Lin Cognition method of plural points in visual space
JP4960754B2 (en) * 2007-04-25 2012-06-27 キヤノン株式会社 Information processing apparatus and information processing method
TWI373694B (en) * 2007-08-09 2012-10-01 Nanya Technology Corp Exposure methiod
US7869026B2 (en) * 2007-12-21 2011-01-11 United Technologies Corp. Targeted artifacts and methods for evaluating 3-D coordinate system measurement accuracy of optical 3-D measuring systems using such targeted artifacts

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0553266B1 (en) 1990-10-15 1997-05-07 SCHULZ, Waldean A. Method and apparatus for three-dimensional non-contact shape sensing
US5805289A (en) 1997-07-07 1998-09-08 General Electric Company Portable measurement system using image and point measurement devices
US6363169B1 (en) * 1997-07-23 2002-03-26 Sanyo Electric Co., Ltd. Apparatus and method of three-dimensional modeling
DE19840334A1 (en) 1998-02-02 1999-08-05 Daimler Chrysler Ag Position navigation block for optical three-dimensional co-ordinate measurement e.g. for vehicle
WO2001088471A1 (en) 2000-05-16 2001-11-22 Steinbichler Optotechnik Gmbh Method and device for determining the 3d profile of an object
US20020033885A1 (en) * 2000-06-23 2002-03-21 Heinrich Schuler Method and apparatus for the determination of the contour of sheet metal blanks
US20040234122A1 (en) * 2001-07-30 2004-11-25 Nobuo Kochi Surface shape measurement apparatus, surface shape measurement method, surface state graphic apparatus
EP1724549A2 (en) 2005-05-18 2006-11-22 Steinbichler Optotechnik Gmbh Method for determining the 3D coordinates of the surface of an object
EP2034269A1 (en) 2007-09-10 2009-03-11 Steinbichler Optotechnik Gmbh Method and device for three-dimensional digitalising of objects

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011011360A1 (en) 2011-02-16 2012-08-16 Steinbichler Optotechnik Gmbh Apparatus and method for determining the 3-D coordinates of an object and for calibrating an industrial robot
EP2489977A2 (en) 2011-02-16 2012-08-22 Steinbichler Optotechnik GmbH Method and device for determining the 3D coordinates of an object and calibrating an industrial robot
EP2489977A3 (en) * 2011-02-16 2012-09-19 Steinbichler Optotechnik GmbH Method and device for determining the 3D coordinates of an object and calibrating an industrial robot
EP2574876A1 (en) 2011-09-30 2013-04-03 Steinbichler Optotechnik GmbH Method and device for determining the 3D coordinates of an object
DE102011114674A1 (en) 2011-09-30 2013-04-04 Steinbichler Optotechnik Gmbh Method and device for determining the 3D coordinates of an object
DE202012013561U1 (en) 2011-09-30 2017-12-21 Carl Zeiss Optotechnik GmbH Device for determining the 3D coordinates of an object
US10200670B2 (en) 2011-09-30 2019-02-05 Carl Zeiss Optotechnik GmbH Method and apparatus for determining the 3D coordinates of an object
DE102011114674C5 (en) 2011-09-30 2020-05-28 Steinbichler Optotechnik Gmbh Method and device for determining the 3D coordinates of an object
DE102013011848A1 (en) 2013-07-16 2015-01-22 Steinbichler Optotechnik Gmbh Apparatus and method for determining the 3D coordinates of an object
WO2016103125A1 (en) * 2014-12-22 2016-06-30 Bombardier Inc. Reference system for online vision inspection
US10466041B2 (en) 2014-12-22 2019-11-05 Bombardier Inc. Reference system for online vision inspection
DE102021121073A1 (en) 2021-08-13 2023-02-16 Inline3D GmbH Measuring device and method for measuring an object

Also Published As

Publication number Publication date
JP2011017700A (en) 2011-01-27
US20110007326A1 (en) 2011-01-13
EP2273229B1 (en) 2019-10-23
DE102009032262A1 (en) 2011-01-13
ES2758776T3 (en) 2020-05-06
US8502991B2 (en) 2013-08-06

Similar Documents

Publication Publication Date Title
EP2273229B1 (en) Method for determining the 3D coordinates of an object
DE10219054B4 (en) Method and device for determining the spatial coordinates of an object
DE10137241A1 (en) Arrangement, for detecting and measuring objects, optically projects markers onto object, records partial views of object in global coordinate system using information re-detected markers
EP1597539B1 (en) Method and optical system for measuring the topography of a test object
EP2574876B1 (en) Method and device for determining the 3D coordinates of an object
EP0923705B1 (en) Method and device for determining the spatial coordinates of objects
EP2489977A2 (en) Method and device for determining the 3D coordinates of an object and calibrating an industrial robot
EP2034269B1 (en) Method and device for three-dimensional digitalising of objects
DE10344922B4 (en) All-scanner
EP2234081B1 (en) Method for producing a known fixed spatial relationship between a laser scanner and a digital camera for traffic monitoring
EP2166303A1 (en) Device for determining the 3D coordinates of an object, in particular a tooth
DE102007054906A1 (en) Method for optical measurement of the three-dimensional geometry of objects
WO2001088471A1 (en) Method and device for determining the 3d profile of an object
DE19634254B4 (en) Optical-numerical method for determining the entire surface of a three-dimensional object
DE102006049695A1 (en) Device and method for contactless detection of a three-dimensional contour
EP2133659A1 (en) Method and device for determining the position of a sensor
DE10212364A1 (en) Method and device for determining the absolute coordinates of an object
DE102019201526A1 (en) Method and system for detecting and measuring the position of a component relative to a reference position and the displacement and rotation of a component moving relative to a reference system
DE102017100885A1 (en) METHOD AND DEVICE FOR PRODUCING A 3D THERMOGRAM
DE102008024067B4 (en) Arrangement and method for calibrating a microphone array
EP3077765B1 (en) Method for reading a two-dimensional code by means of a camera used for three-dimensional optical measurement of objects
DE102010029627B4 (en) Apparatus and method for determining the structure of a specular surface of an object
WO2001090688A1 (en) Method for determining the spatial co-ordinates of objects and/or the variation thereof with time
DE10111729A1 (en) Method for determining the position in space of a body, using electronic camera with image processing, which is moved using swinging head to be targeted on three fixed characteristic points on body
DE10358544A1 (en) Fast three dimensional object shape recording procedure uses projected stripe intersections with coordinate calculation by forward projection and line approximation

Legal Events

Date Code Title Description
PUAI Public reference made under article 153(3) epc to a published international application that has entered the european phase

Free format text: ORIGINAL CODE: 0009012

AK Designated contracting states

Kind code of ref document: A1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO SE SI SK SM TR

AX Request for extension of the european patent

Extension state: BA ME RS

17P Request for examination filed

Effective date: 20110302

17Q First examination report despatched

Effective date: 20150130

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

RAP1 Party data changed (applicant data changed or rights of an application transferred)

Owner name: CARL ZEISS OPTOTECHNIK GMBH

GRAP Despatch of communication of intention to grant a patent

Free format text: ORIGINAL CODE: EPIDOSNIGR1

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

INTG Intention to grant announced

Effective date: 20190415

GRAS Grant fee paid

Free format text: ORIGINAL CODE: EPIDOSNIGR3

GRAJ Information related to disapproval of communication of intention to grant by the applicant or resumption of examination proceedings by the epo deleted

Free format text: ORIGINAL CODE: EPIDOSDIGR1

GRAL Information related to payment of fee for publishing/printing deleted

Free format text: ORIGINAL CODE: EPIDOSDIGR3

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: EXAMINATION IS IN PROGRESS

INTC Intention to grant announced (deleted)
GRAR Information related to intention to grant a patent recorded

Free format text: ORIGINAL CODE: EPIDOSNIGR71

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: GRANT OF PATENT IS INTENDED

GRAA (expected) grant

Free format text: ORIGINAL CODE: 0009210

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: THE PATENT HAS BEEN GRANTED

AK Designated contracting states

Kind code of ref document: B1

Designated state(s): AL AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HR HU IE IS IT LI LT LU LV MC MK MT NL NO PL PT RO SE SI SK SM TR

INTG Intention to grant announced

Effective date: 20190917

REG Reference to a national code

Ref country code: GB

Ref legal event code: FG4D

Free format text: NOT ENGLISH

REG Reference to a national code

Ref country code: CH

Ref legal event code: EP

REG Reference to a national code

Ref country code: IE

Ref legal event code: FG4D

Free format text: LANGUAGE OF EP DOCUMENT: GERMAN

REG Reference to a national code

Ref country code: DE

Ref legal event code: R096

Ref document number: 502010016319

Country of ref document: DE

REG Reference to a national code

Ref country code: AT

Ref legal event code: REF

Ref document number: 1194135

Country of ref document: AT

Kind code of ref document: T

Effective date: 20191115

REG Reference to a national code

Ref country code: NL

Ref legal event code: MP

Effective date: 20191023

REG Reference to a national code

Ref country code: LT

Ref legal event code: MG4D

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: PL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: LT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: GR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200124

Ref country code: NO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200123

Ref country code: FI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: PT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200224

Ref country code: LV

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: SE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: BG

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200123

Ref country code: NL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

REG Reference to a national code

Ref country code: ES

Ref legal event code: FG2A

Ref document number: 2758776

Country of ref document: ES

Kind code of ref document: T3

Effective date: 20200506

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: HR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200224

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AL

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

REG Reference to a national code

Ref country code: DE

Ref legal event code: R097

Ref document number: 502010016319

Country of ref document: DE

PG2D Information on lapse in contracting state deleted

Ref country code: IS

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: RO

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: CZ

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: EE

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: DK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: IS

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20200223

PLBE No opposition filed within time limit

Free format text: ORIGINAL CODE: 0009261

STAA Information on the status of an ep patent application or granted ep patent

Free format text: STATUS: NO OPPOSITION FILED WITHIN TIME LIMIT

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: IT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: SM

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: SK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

26N No opposition filed

Effective date: 20200724

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: SI

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MC

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

REG Reference to a national code

Ref country code: CH

Ref legal event code: PL

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: LU

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200622

REG Reference to a national code

Ref country code: BE

Ref legal event code: MM

Effective date: 20200630

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: CH

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200630

Ref country code: LI

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200630

Ref country code: IE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200622

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: BE

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200630

REG Reference to a national code

Ref country code: AT

Ref legal event code: MM01

Ref document number: 1194135

Country of ref document: AT

Kind code of ref document: T

Effective date: 20200622

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: AT

Free format text: LAPSE BECAUSE OF NON-PAYMENT OF DUE FEES

Effective date: 20200622

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: TR

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: MT

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

Ref country code: CY

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

PG25 Lapsed in a contracting state [announced via postgrant information from national office to epo]

Ref country code: MK

Free format text: LAPSE BECAUSE OF FAILURE TO SUBMIT A TRANSLATION OF THE DESCRIPTION OR TO PAY THE FEE WITHIN THE PRESCRIBED TIME-LIMIT

Effective date: 20191023

P01 Opt-out of the competence of the unified patent court (upc) registered

Effective date: 20230525

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: FR

Payment date: 20230620

Year of fee payment: 14

Ref country code: DE

Payment date: 20230620

Year of fee payment: 14

PGFP Annual fee paid to national office [announced via postgrant information from national office to epo]

Ref country code: GB

Payment date: 20230620

Year of fee payment: 14

Ref country code: ES

Payment date: 20230828

Year of fee payment: 14