DE102006002061B4 - Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement - Google Patents
Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement Download PDFInfo
- Publication number
- DE102006002061B4 DE102006002061B4 DE200610002061 DE102006002061A DE102006002061B4 DE 102006002061 B4 DE102006002061 B4 DE 102006002061B4 DE 200610002061 DE200610002061 DE 200610002061 DE 102006002061 A DE102006002061 A DE 102006002061A DE 102006002061 B4 DE102006002061 B4 DE 102006002061B4
- Authority
- DE
- Germany
- Prior art keywords
- data stream
- signal
- useful signal
- identification features
- subsections
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
- H04N21/4347—Demultiplexing of several video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8455—Structuring of content, e.g. decomposing content into time segments involving pointers to the content, e.g. pointers to the I-frames of the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/854—Content authoring
- H04N21/8547—Content authoring involving timestamps for synchronizing content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/858—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
Abstract
Verfahren zum Empfang a) – eines ersten, aus einem ersten Nutzsignal mit einer Vielzahl von aufeinander folgenden Teilabschnitten erzeugten Datenstroms (E), b) – eines zweiten, aus einem zweiten Nutzsignal mit einer Vielzahl von aufeinander folgenden Teilabschnitten erzeugten Datenstroms (P), der einen das zweite Nutzsignal wiedergebenden Nutzanteil (W) und Identifikationsmerkmale (V) umfasst, die jeweils genau einem unterschiedlichen der Teilabschnitte des zweiten Nutzsignals zugeordnet sind und aus dem korrespondierenden Teilabschnitt des ersten Nutzsignals abgeleitet sind und diesen identifizieren, wobei jeweils korrespondierende Teilabschnitte des ersten und der zweiten Nutzsignalen einander zugeordnet sind, die Schritte umfassend: c) – Empfangen der ersten und zweiten Datenströme (E, P); d) – Ermitteln der Identifikationsmerkmale (U) aus dem empfangenen zweiten Datenstrom (D); e) – Wiedergewinnen der Teilabschnitte des zweiten Nutzsignals aus dem Nutzanteil (W); f) – Wiedergewinnen der Teilabschnitte des ersten Nutzsignals aus dem ersten Datenstrom (E); g) – erneutes Ableiten...Method for receiving a) - a first data stream (E) generated from a first useful signal with a plurality of successive subsections, b) - a second data stream (P) generated from a second useful signal with a plurality of successive subsections, the comprises a useful component (W) reproducing the second useful signal and identification features (V) which are each assigned to exactly one different one of the subsections of the second useful signal and are derived from and identify the corresponding subsection of the first useful signal, with corresponding subsections of the first and the second useful signals are assigned to one another, comprising the steps of: c) - receiving the first and second data streams (E, P); d) - determining the identification features (U) from the received second data stream (D); e) - Retrieving the subsections of the second useful signal from the useful component (W); f) - recovering the subsections of the first useful signal from the first data stream (E); g) - renewed derivation ...
Description
Die Erfindung betrifft ein Verfahren zum Empfangen eines ersten Datenstroms und eines zweiten Datenstroms. Die Erfindung betrifft außerdem ein Verfahren zum Senden sowie ein Verfahren zur Übertragung eines ersten und zweiten Datenstroms von einem Sender zu einem Empfänger. Die Erfindung betrifft weiterhin eine Sendeanordnung, eine Empfangsanordnung sowie ein System aus einer Sende- und einer Empfangsanordnung.The invention relates to a method for receiving a first data stream and a second data stream. The invention also relates to a method for transmitting and to a method for transmitting a first and second data stream from a transmitter to a receiver. The invention further relates to a transmitting arrangement, a receiving arrangement and a system comprising a transmitting and a receiving arrangement.
Moderne Kommunikationsverbindungen, beispielsweise für die Übertragung von Sprach- und Audiosignalen verwenden häufig Protokolle in Netzwerken, welche die jeweilige Sende- bzw. Empfangsstation über verschiedene Netzwerkknoten miteinander verbinden. Eine derartige Verbindung wird auch als leitungsvermittelte oder ”circuit switched” Verbindung bezeichnet. Eine Daten- oder Signalübertragung erfolgt über die Netzwerkknoten, wobei je nach verwendeten Protokoll und Netzwerk unterschiedliche Datenübertragungsarten vorgesehen sein können. In einer leitungsvermittelten Verbindung wird für alle Signale und Signalkomponenten im allgemeinen der Übertragungsweg vorher festgelegt und freigehalten. Dies führt dazu, dass bei einer solchen Kommunikationsverbindung eine im Wesentlichen konstante Verzögerungszeit zwischen Sender und Empfänger auftritt. Die Dauer der Verzögerung wird unter anderem durch die Schaltzeiten der unterschiedlichen Bauelemente der verschiedenen Knoten bestimmt, über die die Kommunikationsverbindung hergestellt wird.Modern communication links, for example, for the transmission of voice and audio signals often use protocols in networks that connect the respective transmitting or receiving station via different network nodes. Such a connection is also referred to as a circuit switched connection. Data or signal transmission takes place via the network nodes, it being possible for different types of data transmission to be provided, depending on the protocol and network used. In a circuit-switched connection, the transmission path is generally predetermined and kept clear for all signals and signal components. As a result, a substantially constant delay time between the transmitter and the receiver occurs with such a communication connection. The duration of the delay is determined inter alia by the switching times of the different components of the various nodes over which the communication link is established.
Die Übertragungsformate sind dabei häufig derart ausgestaltet, dass Nutzsignale ohne darin enthaltene Zeitinformation über das Medium transportiert werden. Ein typisches Beispiel dafür ist eine gewöhnliche, z. B. analoge, Telefonverbindung zwischen einem Sender und einem Empfänger, bei dem Sprach- oder Audiosignale senderseitig von einem Mikrofon aufgenommen und über die Kommunikationsverbindung an den Empfänger gesandt werden. Sobald sie empfängerseitig verfügbar sind, werden sie über einen Lautsprecher ohne zusätzliche Verzögerung ausgegeben. Bei digitalen Kommunikationsverbindungen werden die Audiosignale häufig in Abschnitte gewisser Länge unterteilt, kodiert und diese dann an den Empfänger gesendet. Auch digital kodierte Audiosignale enthalten meist keine zusätzliche Zeitinformation. Im Allgemeinen kann davon ausgegangen werden, dass Audiosignale in einer Ende-zu-Ende-Kommunikationsverbindung unter Verwendung von ”circuit switched” basierter Technologie keine zusätzlichen Zeitinformationen aufweisen.The transmission formats are often designed such that useful signals without time information contained therein are transported over the medium. A typical example is an ordinary, z. B. analog, telephone connection between a transmitter and a receiver, are received in the voice or audio signals transmitter side of a microphone and sent via the communication link to the receiver. Once available at the receiver, they will be output through a speaker without additional delay. In digital communication links, the audio signals are often divided into sections of certain lengths, coded, and then sent to the receiver. Even digitally encoded audio signals usually contain no additional time information. In general, audio signals in an end-to-end communication link using circuit switched technology can be expected to have no additional time information.
Daneben gibt es die Möglichkeit, Nutzdaten verschiedenen Typs oder Mediums, beispielsweise Sprache und Bild in einer synchronisierten Weise zwischen Sender und Empfänger zu übertragen. Eine derartige synchronisierte Übertragung einer Kombination aus zwei oder mehr Mediensignalen oder Datenströmen wird auch als engl. ”Session” bezeichnet. Ein typisches Beispiel hierfür ist die so genannte Videokonferenz, bei der neben einem reinen Audiosignal bzw. Audiodatenstrom auch Bild- oder Videosignale übertragen werden. Zur Synchronisation zwischen Audio- und Videosignalen gibt es verschiedene Möglichkeiten. In einem leitungsvermittelten Ansatz werden Audio- und Videosignale in einen leitungsvermittelten Datenstrom zusammenfasst, typischerweise als ”Multiplexing” bezeichnet, so dass ein- und derselbe Übertragungsweg für beide Ströme oder Signale benutzt wird und somit die Synchronisation durch geeignete Anordnung im Datenstrom praktisch gegeben ist indem alle Signale nach deren Decodierung sofort ausgespielt werden In einem weiteren z. B. paketvermittelten Ansatz können verschiedene Medien bzw. jedes einzelne Paket jedes Mediums grundsätzlich über verschiedene Übertragungswege übertragen werden. In diesem Fall für korrektes Ausspielen sowie Synchronisation sind bei der Übermittlung zusätzliche Informationen in Form von Zeitstempeln, z. B. in jedem Medienpaket, vorgesehen.In addition, it is possible to transmit user data of different types or media, for example voice and image, in a synchronized manner between sender and receiver. Such synchronized transmission of a combination of two or more media signals or data streams is also referred to as English. "Session". A typical example of this is the so-called video conference, in which in addition to a pure audio signal or audio data stream and video or video signals are transmitted. There are various possibilities for the synchronization between audio and video signals. In a circuit-switched approach, audio and video signals are combined into a circuit-switched data stream, typically referred to as "multiplexing", so that one and the same transmission path is used for both streams or signals and thus the synchronization is conveniently provided by appropriate arrangement in the data stream Signals are played immediately after their decoding In another z. B. packet-switched approach different media or every single packet of each medium can be transmitted in principle via different transmission paths. In this case, for correct playout and synchronization, additional information in the form of time stamps, eg. B. in each media package provided.
So beschreibt die US-amerikanische Druckschrift
Die US-amerikanische Druckschrift
Ein weiteres Beispiel stellt die US-amerikanische Druckschrift
Es kann jedoch das Bedürfnis bestehen zusätzliche zweite Nutzdaten zu einer bereits bestehenden Kommunikationsverbindung hinfügen zu wollen, wobei die bestehende Kommunikationsverbindung dabei fortgeführt wird. Dies ist beispielsweise dann der Fall, wenn zu einer Sprach- oder Audiosignalübertragung zusätzlich auch Videosignale übermittelt werden sollen. Die Frage einer gemeinsamen Ausgabe stellt sich unter anderem dann, wenn für die erste Verbindung die eingangs erwähnte ”circuit switched” Technik verwendet wird.However, there may be a need to add additional second user data to an already existing communication connection, wherein the existing communication connection is continued in the process. This is the case, for example, if in addition to video or audio signal transmission video signals are to be transmitted. The question of a common output arises, inter alia, when the initially mentioned "circuit switched" technique is used for the first connection.
Eine einfache Möglichkeit besteht darin, das zweite Mediensignal, im vorliegenden das Videosignal über eine zusätzliche Kommunikationsverbindung zu übertragen. In einem solchen Fall ist es durchaus möglich, dass die zweite Kommunikationsverbindung andere Bereiche des Kommunikationsnetzwerkes verwendet. Sofern empfängerseitig beide Mediensignale oder Nutzdaten ausgegeben werden, ist die aufgebaute Session nicht synchronisiert und es kommt im Allgemeinen zu einem Zeitversatz zwischen den unterschiedlichen Mediensignalen bzw. Datenströmen.A simple possibility is to transmit the second media signal, in the present case the video signal via an additional communication link. In such a case, it is quite possible that the second communication connection uses other areas of the communication network. If both media signals or user data are output on the receiver side, the established session is not synchronized and there is generally a time offset between the different media signals or data streams.
Eine Möglichkeit zur Verhinderung eines nicht aufeinander abgestimmten Ausgebens wäre es, die erste Kommunikationsverbindung zu beenden und eine vollständig neue ”Session” einschließlich des zusätzlichen zweiten Mediensignals neu aufzubauen. Eine Synchronisation kann dann durch die gleichzeitige Übertragung der beiden Mediensignale bzw. Datenströme über die gleiche Verbindung erfolgen. Alternativ kann für die Verbindung auch eine weiteres Mediensignal beispielsweise eine Videokonferenz bereitgestellt werden. Bei dieser Lösung wird jedoch die bereits bestehende Kommunikationsverbindung beendet, ein Vorgang, der im Regelfall von einem Benutzer nicht gewünscht ist. Darüber hinaus muss auch bei einer Änderung einer der beiden Datenströme die bestehende Verbindung beendet werden. Eine flexible Addition eines zusätzlichen Mediensignals oder Datenstroms mit beispielsweise unterschiedlicher Bitrate oder Inhalten zu einer bereits existierenden Kommunikationsverbindung ist in dieser Ausgestaltung nicht möglich.One way to prevent mismatched output would be to terminate the first communication connection and rebuild a completely new "session" including the additional second media signal. Synchronization can then take place by the simultaneous transmission of the two media signals or data streams over the same connection. Alternatively, a further media signal, for example a video conference, can be provided for the connection. In this solution, however, the already existing communication connection is terminated, an operation that is not desired by a user as a rule. In addition, even if one of the two data streams is changed, the existing connection must be terminated. A flexible addition of an additional media signal or data stream with, for example, different bit rate or content to an already existing communication connection is not possible in this embodiment.
Aufgabe der Erfindung ist es, Verfahren vorzusehen, welche bei einer Übertragung von ersten und zweiten Datenströmen eine aufeinander abgestimmte zeitliche Ausgabe der beiden Datenströme gewährleisteen. Eine weitere Aufgabe der Erfindung ist es, eine Sende- bzw. Empfangsanordnung vorzusehen, die eine synchrone Datenübertragung mehrerer Datenströme in einfacher Weise ermöglicht.The object of the invention is to provide methods which, in the case of a transmission of first and second data streams, guarantee a coordinated temporal output of the two data streams. Another object of the invention is to provide a transmitting or receiving arrangement which enables a synchronous data transmission of multiple data streams in a simple manner.
Diese Aufgaben werden mit den Gegenständen gemäß den unabhängigen Patentansprüchen gelöst. Ausgestaltungsformen und weitere Aspekte der Erfindung sind in den Unteransprüchen angegeben.These objects are achieved with the objects according to the independent claims. Embodiments and further aspects of the invention are specified in the subclaims.
Nach dem erfindungsgemäßen Prinzip ist vorgesehen, in dem zweiten Datenstrom zusätzliche Identifikationsmerkmale vorzusehen, die von dem ersten Datenstrom abgeleitet sind und so ein aufeinander abgestimmtes Ausgeben des ersten und zweiten Datenstroms erlauben. Dadurch kann eine bereits bestehende Kommunikationsverbindung mit einer Übertragung des ersten Datenstroms fortgeführt werden.According to the principle of the invention, it is provided to provide additional identification features in the second data stream which are derived from the first data stream and thus allow a coordinated output of the first and second data streams. As a result, an already existing communication connection with a transmission of the first data stream can be continued.
Unter dem Begriff Datenstrom wird jegliche Art Signal verstanden, dass zur Übertragung von Informationen geeignet ist. Der Datenstrom kann daher ein Nutzsignal beinhalten, aber auch das Nutzsignal selbst darstellen. Ebenso kann er ein analoges oder ein digitales Signal sein oder ein solches beinhalten. The term data stream means any kind of signal that is suitable for the transmission of information. The data stream can therefore contain a useful signal, but also represent the useful signal itself. Likewise, it may be an analog or a digital signal or include such.
Nach dem vorgeschlagenen Prinzip wird zu der ersten Kommunikationsverbindung für eine Übertragung des ersten Datenstroms eine zweite Kommunikationsverbindung für die Übertragung des zweiten Datenstroms aufgebaut. In dem zweiten Datenstrom sind Identifikationsmerkmale enthalten, die eine Zuordnung von Abschnitten des zweiten Datenstroms zu korrespondierenden Abschnitten des ersten Datenstroms ermöglichen. Ebenso können in dem zweiten Datenstrom Identifikationsmerkmale enthalten sein, die eine Zuordnung von Abschnitten eines im zweiten Datenstroms enthaltenen Nutzsignals zu korrespondierenden Abschnitten des ersten Datenstroms oder zu korrespondierenden Abschnitten eines Nutzsignals im ersten Datenstrom erlauben. Empfängerseitig kann so eine aufeinander abgestimmte Ausgabe des ersten Datenstroms und des zweiten Datenstroms erfolgen.According to the proposed principle, a second communication connection for the transmission of the second data stream is established for the first communication connection for a transmission of the first data stream. The second data stream contains identification features which enable an assignment of sections of the second data stream to corresponding sections of the first data stream. Likewise, identification features may be contained in the second data stream, which allow an assignment of sections of a useful signal contained in the second data stream to corresponding sections of the first data stream or to corresponding sections of a useful signal in the first data stream. On the receiver side, a coordinated output of the first data stream and of the second data stream can thus take place.
Zweckmäßigerweise sind die Identifikationsmerkmale in dem zweiten Datenstrom von dem ersten Datenstrom oder von Nutzdaten im ersten Datenstrom abgeleitet. Es ist sogar möglich, dass die Identifikationsmerkmale wesentliche Teile des ersten Datenstroms oder der Nutzdaten des ersten Datenstroms umfassen.Expediently, the identification features in the second data stream are derived from the first data stream or from payload data in the first data stream. It is even possible that the identification features comprise essential parts of the first data stream or the payload of the first data stream.
Beispielsweise kann der erste Datenstrom Audiosignale bzw. Audiodaten in wenigstens zwei von zeitlich aufeinander folgenden Teilabschnitten enthalten. Unter dem Begriff Audiosignal oder Audiodaten wird jede Form hörbarer Signale verstanden, also Sprache, Töne, Geräusche oder auch Musik. Aus jedem der Teilabschnitte wird ein Identifikationsmerkmal extrahiert, das eine Identifikation des jeweiligen Teilabschnitts des ersten Datenstroms ermöglicht. Dieses Identifikationsmerkmal wird einem Teilabschnitt eines zweiten Datenstroms zugeordnet, so dass eine spätere zeitlich aufeinander abgestimmte oder auch eine synchrone Ausgabe der jeweiligen Teilabschnitte möglich ist. Unter einer synchronen Ausgabe wird ein abgestimmtes Ausspielen verstanden, um möglichst gute Synchronität unter anderen Rahmenbedingungen zu haben. Es ist dabei zweckmäßig, wenn die für die Identifikation der Teilabschnitte herangezogenen Merkmale besonders robust gegen Artefakte bzw. Störungen während der Datenübertragung des ersten Datenstroms sind. Störungen bzw. Signalveränderungen können zum Beispiel entstehen durch das Codieren und Komprimieren von Signalen aufgrund von Irrelevanzreduktion und Quantisierung oder durch Verzerrungen oder Rauschen während der Übertragung oder irgendwelcher anderen Effekte. Auf diese Weise kann empfängerseitig auch nach einer oder mehreren dieser Störungen während der Datenübertragung eine synchrone Ausgabe des ersten und zweiten Datenstroms erfolgen.For example, the first data stream may contain audio signals or audio data in at least two of temporally successive subsections. The term audio signal or audio data is understood to mean any form of audible signals, ie speech, sounds, or even music. An identification feature is extracted from each of the subsections, which enables identification of the respective subsection of the first data stream. This identification feature is assigned to a subsection of a second data stream so that a later coordinated or even synchronous output of the respective subsections is possible. A synchronous output is understood to mean a balanced playing, in order to have the best possible synchronicity under other conditions. It is expedient if the features used for the identification of the subsections are particularly robust against artifacts or disturbances during the data transmission of the first data stream. For example, perturbations or signal variations may arise from the encoding and compression of signals due to irrelevance reduction and quantization or from distortion or noise during transmission or any other effects. In this way, a synchronous output of the first and second data stream can take place on the receiver side even after one or more of these disturbances during the data transmission.
In einem Aspekt der Erfindung umfasst das Verfahren die Schritte eines Empfangens und Verzögerns des ersten Datenstroms, der eine Vielzahl von aufeinander folgenden Teilabschnitten aufweist. Ebenso wird ein zweiter Datenstrom empfangen. Aus diesem wird nun wenigstens ein erstes Identifikationsmerkmal ermittelt, welches von wenigstens einem ersten Teilabschnitt der aufeinander folgenden Teilabschnitte des ersten Datenstroms abgeleitet ist. Zusätzlich umfasst das Verfahren den Schritt eines Analysierens des ersten verzögerten Datenstroms bzw. der einzelnen Teilabschnitte im ersten Datenstrom. Es wird ein erster Teilabschnitt des ersten Datenstroms in Abhängigkeit des wenigstens einen ersten Identifikationsmerkmals ermittelt und anschließend wird dieser erste Teilabschnitt zusammen mit dem zweiten Datenstrom ausgegeben.In one aspect of the invention, the method comprises the steps of receiving and delaying the first data stream having a plurality of consecutive subsections. Likewise, a second data stream is received. From this, at least one first identification feature is determined, which is derived from at least a first subsection of the successive subsections of the first data stream. In addition, the method comprises the step of analyzing the first delayed data stream or the individual subsections in the first data stream. A first subsection of the first data stream is determined as a function of the at least one first identification feature, and subsequently this first subsection is output together with the second data stream.
Zur Verzögerung des ersten Datenstroms ist es ausreichend, wenn dieser zwischengespeichert wird. Auch können für die Verarbeitung des ersten Datenstroms Maßnahmen vorgesehen sein, welche eine Ausgabe der Teilabschnitte des ersten Datenstroms zeitlich verzögern, so dass ausreichend Zeit für die weiteren Verfahrensschritte verbleibt. Ein zeitlicher Versatz zwischen korrespondierenden Abschnitten des ersten und zweiten Datenstroms kann korrigiert werden.For delaying the first data stream, it is sufficient if this is temporarily stored. Measures can also be provided for the processing of the first data stream, which temporally delay an output of the subsections of the first data stream, so that sufficient time remains for the further method steps. A time offset between corresponding portions of the first and second data streams can be corrected.
Für eine aufeinander abgestimmte Ausgabe des ersten und zweiten Datenstroms ist es demnach zweckmäßig, zusätzlich zu der Extrahierung des ersten Identifikationsmerkmals in dem zweiten Datenstrom ein entsprechendes Identifikationsmerkmal im ersten Datenstrom zu ermitteln. Dazu werden die Teilabschnitte des ersten Datenstroms analysiert und von jedem Teilabschnitt ein Identifikationsmerkmal abgeleitet. Dieses sollte von der gleichen Art wie das erste Identifikationsmerkmal sein, so dass nach einem Vergleichen eine Entscheidung darüber getroffen werden kann, ob das im zweiten Datenstrom enthaltene erste Identifikationsmerkmal mit den abgeleiteten Identifikationsmerkmalen des ersten Datenstroms übereinstimmt oder zumindest ausreichend ähnlich ist.For a coordinated output of the first and second data stream, it is therefore expedient, in addition to the extraction of the first identification feature in the second data stream, to determine a corresponding identification feature in the first data stream. For this purpose, the subsections of the first data stream are analyzed and an identification feature is derived from each subsection. This should be of the same nature as the first identification feature, so that after a comparison, a decision can be made as to whether the first identification feature contained in the second data stream matches or is at least sufficiently similar to the derived identification features of the first data stream.
Bei der vorliegenden Erfindung lässt sich so ein zusätzlicher zweiter Datenstrom zu einer bereits bestehenden Kommunikationsverbindung mit einer Datenübertragung hinzufügen, ohne dass die bereits bestehende Kommunikationsverbindung unterbrochen werden muss. Es ist lediglich notwendig, den ersten Datenstrom vor der Ausgabe zwischenzuspeichern, um die Schritte des Ermittelns von Identifikationsmerkmalen und des anschließenden Synchronisierens zu ermöglichen.In the present invention, an additional second data stream can thus be added to an already existing communication connection with a data transmission without having to interrupt the already existing communication connection. It is only necessary to cache the first data stream prior to output to complete the steps of determining Identify features and the subsequent synchronization.
In einer Ausgestaltung der Erfindung wird für die Erzeugung des ersten Datenstroms ein erstes Nutzsignal bereitgestellt, das mehrere aufeinander folgende Teilabschnitte umfasst. Das erste Nutzsignal kann jede Art von Signal sein, die Audiodaten beinhaltet. Aus den einzelnen Teilabschnitten des Nutzsignals werden Identifikationsmerkmale abgeleitet, die den jeweiligen Teilabschnitt mit einer hohen Wahrscheinlichkeit identifizieren. Dadurch lässt sich anhand des Identifikationsmerkmals mit hoher Wahrscheinlichkeit eine Zuordnung zu dem jeweiligen Teilabschnitt bestimmen. Die abgeleiteten Identifikationsmerkmale können für eine Erzeugung eines zweiten Datenstroms verwendet werden, indem sie Teilabschnitten im zweiten Datenstrom zugeordnet werden, die für eine aufeinander abgestimmte Ausgabe mit den korrespondierenden Teilabschnitten des ersten Datenstroms vorgesehen sind.In one embodiment of the invention, a first useful signal is provided for generating the first data stream, which comprises a plurality of successive subsections. The first payload signal may be any type of signal that includes audio data. From the individual subsections of the useful signal identification features are derived, which identify the respective subsection with a high probability. As a result, an assignment to the respective subsection can be determined with a high degree of probability on the basis of the identification feature. The derived identification features may be used to generate a second data stream by associating subsections in the second data stream intended for concurrent output with the corresponding subsections of the first data stream.
Zweckmäßigerweise sind die abgeleiteten Identifikationsmerkmale besonders robust gegen Artefakte bei einer Signalverarbeitung, -kompression bzw. Störungen während der Datenübertragung. Beispielsweise können die Identifikationsmerkmale aus LTP(Long Term Prediction)-Koeffizienten eines Teilabschnittes gebildet werden. Alternativ dazu lässt sich das Identifikationsmerkmal durch Analysieren von Frequenzinformationen eines Inhalts des jeweiligen Teilabschnittes des ersten Datenstroms oder des ersten Nutzsignals erzeugen. Ebenso ist es möglich diverse Sequenzinformationen, beispielsweise HASH Sequenzen oder Prüfsummen aus Teilabschnitten zu ermitteln. Letzteres ist dann zweckmäßig, wenn das erste Nutzsignal nach einem Kodierungsverfahren kodierte Informationen enthält. Es ist aber auch möglich, dass die Identifikationsmerkmale kodierte Anteile des ersten Datenstroms oder des ersten Nutzsignals enthalten.Conveniently, the derived identification features are particularly robust against artifacts in signal processing, compression or interference during data transmission. For example, the identification features can be formed from LTP (Long Term Prediction) coefficients of a subsection. Alternatively, the identification feature can be generated by analyzing frequency information of a content of the respective subsection of the first data stream or of the first useful signal. It is also possible to determine various sequence information, for example HASH sequences or checksums from subsections. The latter is useful if the first useful signal contains coded information according to a coding method. But it is also possible that the identification features encoded portions of the first data stream or the first useful signal.
In einer anderen Ausgestaltung der Erfindung umfasst das Verfahren zusätzlich die Schritte eines Bereitstellens eines ersten und zweiten Nutzsignals, welche jeweils eine Vielzahl von zeitlich aufeinander folgenden Teilabschnitten aufweisen. Jeweils korrespondierende Teilabschnitte sind einander zugeordnet für eine spätere abgestimmte Ausgabe. Aus Teilabschnitten des ersten Nutzsignals werden Identifikationsmerkmale ermittelt und den korrespondierenden Teilabschnitten des zweiten Nutzsignals zugeordnet. Anschließend werden erste und zweite Nutzsignale weiter verarbeitet und als erster bzw. zweiter Datenstrom übertragen. Nach einem Empfang werden die beiden Datenströme zwischengespeichert. Die im zweiten Datenstrom vorhandenen Identifikationsmerkmale werden extrahiert. Gleichzeitig werden aus dem ersten Datenstrom die Teilabschnitte des ersten Nutzsignals gewonnen und daraus Identifikationsmerkmale ermittelt. Diese werden mit den im zweiten Datenstrom vorhandenen Identifikationsmerkmalen verglichen. Bei einer Übereinstimmung werden die korrespondierenden Teilabschnitte ausgegeben, so dass eine aufeinander abgestimmte Ausgabe gewährleistet ist.In another embodiment of the invention, the method additionally comprises the steps of providing a first and second useful signal, which each have a plurality of temporally successive subsections. Corresponding subsections are assigned to each other for a later coordinated output. Identification features are determined from subsections of the first useful signal and assigned to the corresponding subsections of the second user signal. Subsequently, first and second useful signals are further processed and transmitted as the first or second data stream. After a reception, the two data streams are buffered. The identification features present in the second data stream are extracted. At the same time, the subsections of the first useful signal are obtained from the first data stream and identification features are determined therefrom. These are compared with the identification features present in the second data stream. If there is a match, the corresponding sections are output so that a coordinated output is ensured.
Dabei ist es zusätzlich möglich, nach einer gewissen Zeit nicht verwendete Teilabschnitte zu verwerfen bzw. auszugeben. Dies kann insbesondere dann sinnvoll sein, wenn während der Datenübertragung des ersten bzw. zweiten Datenstroms Teile verloren gegangen sind bzw. sich aufgrund von Fehlern während der Datenübertragung nicht mehr rekonstruieren lassen.It is additionally possible to discard or issue unused sections after a certain period of time. This can be useful, in particular, if parts have been lost during the data transmission of the first or second data stream or can not be reconstructed due to errors during the data transmission.
Der erste Datenstrom kann wenigstens eines der folgenden Nutzsignale enthalten oder als solche gebildet sein:
- – Analoge Audiosignale bzw. Audiodaten;
- – GSM kodierte Audiosignale;
- – G.711 kodierte Audiosignale;
- – PCM kodierte Audiosignale;
- – AMR oder AMR-WB kodierte Audiosignale;
- – nach einem der G.72x Verfahren des ITU-T Standards kodierte Audiosignale, z. B. G.723.1, G.727, G.729.
- - analog audio signals or audio data;
- - GSM encoded audio signals;
- G.711 encoded audio signals;
- - PCM encoded audio signals;
- AMR or AMR-WB encoded audio signals;
- - According to one of the G.72x method of the ITU-T standard encoded audio signals, eg. BG723.1, G.727, G.729.
Aus jedem der genannten Audiosignale lassen sich Identifikationsmerkmale für Teilabschnitte ermitteln, die mit hoher Wahrscheinlichkeit eine Identifikation des jeweiligen Teilabschnittes ermöglichen. Es ist eventuell zweckmäßig, Identifikationsmerkmale zu verwenden, die während einer vorgenommenen Signalverarbeitung oder Kodierung des Audiosignals bzw. des ersten Nutzsignals ohnehin erzeugt werden. Dies reduziert die Komplexität innerhalb einer Sendeanordnung. Durch die Nutzung bereits bestehender Kodierungs- bzw. Kommunikationsstandards können die vorhandenen Technologien und Übertragungsverfahren weiter verwendet werden.Identification features for subsections can be determined from each of the mentioned audio signals, which with high probability enable identification of the respective subsection. It may be appropriate to use identification features that are generated anyway during a signal processing or encoding of the audio signal or the first useful signal. This reduces the complexity within a transmission arrangement. By using existing coding or communication standards, the existing technologies and transmission methods can continue to be used.
Mit dem erfindungsgemäßen Verfahren ist es möglich, jeden beliebigen zusätzlichen Datenstrom zu dem bereits vorhandenen Datenstrom hinzuzufügen, ohne diesen zu unterbrechen. Beispielsweise kann der zusätzliche Datenstrom Videodaten, insbesondere im MPG, MPG2 oder H.26X Format enthalten. Ebenso lassen sich zusätzliche Bilddaten, insbesondere im JPG Format oder auch Daten für eine computergestützte Bildschirmpräsentation übertragen. Eine weitere Möglichkeit besteht in der parallelen Übertragung weiterer Sprach- oder Audiosignale bzw. Audiodaten, beispielsweise für die Übertragung eines Stereosignals. Ebenso kann Text als Nutzsignal im zweiten Datenstrom abgestimmt auf den ersten Datenstrom übertragen werden. Grundsätzlich ist jede Art von Information geeignet, die eine Synchronisation auf den ersten Datenstrom bzw. auf die im ersten Datenstrom vorhandenen Nutzdaten benötigt.With the method according to the invention, it is possible to add any additional data stream to the already existing data stream without interrupting it. For example, the additional data stream may contain video data, in particular in MPG, MPG2 or H.26X format. Likewise, additional image data, in particular in the JPG format or even data for a computer-assisted slide show can be transmitted. Another possibility is the parallel transmission of further voice or audio signals or audio data, for example for the transmission of a stereo signal. Likewise, text can be transmitted as a useful signal in the second data stream tuned to the first data stream. Basically, any type of information is suitable, the synchronization to the first data stream or needed on the existing in the first data stream user data.
Eine Übertragung des ersten bzw. des zweiten Datenstroms kann teilweise durch Übermittlung von Signalen nach einem mobilen Kommunikationsstandard oder beispielsweise durch eine Internetverbindung zwischen zumindest zwei verschiedenen Knoten erfolgen. Ebenso ist es möglich, eine Übertragung zumindest teilweise durch eine drahtgebundene Kommunikationsverbindung durchzuführen.A transmission of the first or the second data stream can be done in part by transmitting signals according to a mobile communication standard or for example by an Internet connection between at least two different nodes. It is likewise possible to carry out a transmission at least partially through a wired communication connection.
Demgemäß umfasst eine Sendeanordnung eine erste Vorrichtung zum Erfassen eines ersten Nutzsignals sowie eine zweite Vorrichtung zum Erfassen eines zweiten Nutzsignals. Weiterhin ist eine Analysevorrichtung vorgesehen, die ausgeführt ist, aus einem ersten Teilabschnitt des ersten Nutzsignals wenigstens ein Identifikationsmerkmal für eine Identifikation des ersten Teilabschnittes zu ermitteln. Die Analysevorrichtung ist an eine Kodiereinrichtung angeschlossen, die das von der Analysevorrichtung bereitgestellte Identifikationsmerkmal einem ersten Teilabschnitt des zweiten Nutzsignals zuordnet. Die Sendeanordnung umfasst ebenso eine erste Sendestufe, die mit der ersten Vorrichtung für eine Übertragung des ersten Nutzsignals gekoppelt ist. Eine zweite Sendestufe für eine Übertragung des zweiten Nutzsignals ist an die Kodiereinrichtung angeschlossen.Accordingly, a transmission arrangement comprises a first device for detecting a first useful signal and a second device for detecting a second useful signal. Furthermore, an analysis device is provided, which is designed to determine at least one identification feature for an identification of the first subsection from a first subsection of the first useful signal. The analysis device is connected to a coding device which assigns the identification feature provided by the analysis device to a first subsection of the second useful signal. The transmission arrangement also comprises a first transmission stage, which is coupled to the first device for transmission of the first useful signal. A second transmission stage for a transmission of the second useful signal is connected to the coding device.
Mit der Sendeanordnung lassen sich ein erstes sowie ein zweites Nutzsignal erfassen. Während das erste Nutzsignal durch die erste Sendestufe übertragen wird, umfasst die Sendeanordnung verschiedene Mittel zu einer weiteren Verarbeitung des zweiten Nutzsignals. Dabei ist vorgesehen, dem zweiten Nutzsignal Identifikationsmerkmale zuzuordnen, die eine Synchronisation mit dem ersten Nutzsignal erlauben. Zu diesem Zweck enthält die erfindungsgemäße Sendeanordnung ein Analysevorrichtung für eine Analyse von Teilabschnitten des ersten Nutzsignals.With the transmission arrangement, a first and a second useful signal can be detected. While the first useful signal is transmitted by the first transmission stage, the transmission arrangement comprises different means for further processing of the second useful signal. It is provided to assign the second useful signal identification features that allow synchronization with the first useful signal. For this purpose, the transmission arrangement according to the invention contains an analysis device for an analysis of subsections of the first useful signal.
Die Analysevorrichtung kann ausgeführt sein, aus diesen Signalen Identifikationsmerkmale zu ermitteln, die einerseits robust gegen Störungen jeglicher Art im Sprach- oder Audiosignal sind und andererseits eine Identifikation des jeweiligen Teilabschnittes des Signals ermöglichen. Neben der Verwendung rein analoger Signale lassen sich die Identifikationsmerkmale auch aus kodierten digitalen Nutzsignalen ermitteln. Ebenso können die Identifikationsmerkmale Teile des Audiosignals oder der kodierten Audiodaten enthalten.The analysis device can be designed to determine from these signals identification features that are both robust against interference of any kind in the voice or audio signal and on the other hand allow identification of the respective subsection of the signal. In addition to the use of purely analog signals, the identification features can also be determined from coded digital useful signals. Likewise, the identification features may include portions of the audio signal or encoded audio data.
In einer Ausgestaltung ist daher die erste Vorrichtung zum Erfassen des ersten Nutzsignals für eine Kodierung nach einer Kodierungsart ausgeführt. Beispielsweise ist dies eine μ-law Kodierung, eine GSM Kodierung, eine PCM Kodierung, eine AMR oder AMR-WB Kodierung eine G.711 Kodierung oder eine G.72x Kodierung, wobei x verschiedene Werte annehmen kann. Die letzt genannten Kodierungen bezeichnen verschiedene Verfahren des ITU-T Standards für die Sprachkomprimierung. Die verschiedenen Kodierungsverfahren eignen sich besonders für die Kodierung von Sprach- bzw. Audiosignalen.In one embodiment, therefore, the first device is designed for detecting the first useful signal for coding according to a coding type. For example, this is a μ-law coding, a GSM coding, a PCM coding, an AMR or AMR-WB coding a G.711 coding or a G.72x coding, whereby x can assume different values. The latter encodings refer to various methods of the ITU-T standard for voice compression. The various coding methods are particularly suitable for the coding of speech or audio signals.
Für ein aufeinander abgestimmtes Ausgeben der ersten und zweiten Nutzsignale kann es zweckmäßig sein, wenn die Kodiereinrichtung zusätzlich eine Synchronisationsvorrichtung umfasst. Diese ist geeignet, ein Identifikationsmerkmal eines Teilabschnittes des ersten Nutzsignals zu einem Teilabschnitt des zweiten Nutzsignals zuzuordnen, wobei diese Zuordnung einem vorbestimmten zeitlichen Verhältnis des Teilabschnitts des zweiten Nutzsignals zu dem Teilabschnitt des ersten Nutzsignals entspricht. Zusätzlich kann die Kodiereinrichtung für die Erzeugung von so genannten Zeitstempeln ausgeführt sein. Damit lassen sich die Identifikationsmerkmale und die Teilabschnitte im zweiten Nutzsignal beaufschlagen, wodurch eine Zuordnung bestimmt ist.For a coordinated output of the first and second useful signals, it may be expedient if the coding device additionally comprises a synchronization device. This is suitable for assigning an identification feature of a subsection of the first useful signal to a subsection of the second wanted signal, this assignment corresponding to a predetermined time ratio of the subsection of the second wanted signal to the subsection of the first useful signal. In addition, the coding device can be designed for the generation of so-called time stamps. Thus, the identification features and the subsections can be applied in the second useful signal, whereby an assignment is determined.
In einer anderen Ausgestaltung ist die erste Sendestufe für eine Übertragung auf einem ersten Übertragungskanal und die zweite Sendestufe für eine Übertragung auf einen zweiten Übertragungskanal ausgeführt. Diese können jeweils unterschiedliche Übertragungskanäle aber auch den gleichen Übertragungskanal darstellen. Ebenso ist es möglich, dass erste und zweite Sendestufe eine gemeinsame Sendestufe bilden und erste und zweite Nutzdaten in einen gemeinsamen Übertragungskanal übermitteln.In another embodiment, the first transmission stage is designed for transmission on a first transmission channel and the second transmission stage for transmission onto a second transmission channel. These can each represent different transmission channels but also the same transmission channel. It is also possible that the first and second transmission stage form a common transmission stage and transmit first and second user data in a common transmission channel.
Ein weiterer Aspekt der Erfindung betrifft eine Empfangsanordnung für ein aufeinander abgestimmtes Abspielen von Nutzsignalen eines ersten und zweiten Datenstroms. Diese kann einen ersten Zwischenspeicher zum Ablegen eines ersten Nutzsignals oder eine Verzögerungseinheit enthalten. Eine Analysevorrichtung in der zweiten Empfangsanordnung ist mit dem ersten Zwischenspeicher oder der Verzögerungseinheit gekoppelt und ausgeführt, aus dem ersten Nutzsignal wenigstens ein Identifikationsmerkmal für eine Identifikation wenigstens eines ersten Teilabschnittes des ersten Nutzsignals zu ermitteln und bereitzustellen.Another aspect of the invention relates to a receiving arrangement for a coordinated playback of payloads of a first and second data stream. This may include a first buffer for storing a first useful signal or a delay unit. An analysis device in the second receiving arrangement is coupled to the first intermediate memory or the delay unit and designed to determine and provide at least one identification feature for the identification of at least one first subsection of the first useful signal from the first useful signal.
Die Empfangsanordnung enthält einen Synchronisator für eine aufeinander abgestimmte Ausgabe des ersten und zweiten Nutzsignals anhand eines Vergleichs von im zweiten Nutzsignal abgelegten Identifikationsmerkmalen mit dem wenigstens einem von der Analysevorrichtung bereitgestellten Identifikationsmerkmal.The receiving arrangement contains a synchronizer for a concerted output of the first and second useful signal based on a comparison of stored in the second payload identification features with the at least one provided by the analysis device identification feature.
Durch die Verarbeitung des ersten Datenstroms und die Extrahierung von Identifikationsmerkmalen entfällt die Notwendigkeit, eine bereits bestehende Kommunikationsverbindung und Übertragung des ersten Nutzsignals abzubrechen. Vielmehr ist es möglich, eine neue Kommunikationsverbindung für eine Übertragung eines zweiten Datenstroms aufzubauen, diesen zu empfangen und daraus ein zweites Nutzsignal sowie die Identifikationsmerkmale zu ermitteln, die für eine Synchronisation des zweiten Nutzsignals mit dem ersten Nutzsignal vorgesehen sind. Dadurch können bereits vorhandene Kommunikationsstandards bzw. Technologien weiter verwendet werden. The processing of the first data stream and the extraction of identification features eliminates the need to terminate an already existing communication connection and transmission of the first useful signal. Rather, it is possible to set up a new communication connection for a transmission of a second data stream, to receive this and to determine a second useful signal and the identification features, which are provided for a synchronization of the second useful signal with the first useful signal. As a result, existing communication standards or technologies can continue to be used.
In einem Aspekt der Erfindung enthält die Empfangsanordnung eine Vergleichsvorrichtung, die zur Ausgabe eines Steuersignals in Antwort auf einen Vergleich der im zweiten Datenstrom abgelegten Identifikationsmerkmalen mit den von der Analysevorrichtung bereitgestellten Identifikationsmerkmalen ausgeführt ist. Dieses Steuersignal dient zu einer Abstimmung der Abgabe des ersten und zweiten Nutzsignals.In one aspect of the invention, the receiving arrangement includes a comparison device configured to output a control signal in response to a comparison of the identification features stored in the second data stream with the identification features provided by the analyzer. This control signal is used to tune the output of the first and second useful signal.
Die Vergleichsvorrichtung ist in einem Aspekt der Erfindung für die Analyse einer Ähnlichkeit zwischen den abgelegten Identifikationsmerkmalen und dem wenigstens einen bereitgestellten Identifikationsmerkmal ausgeführt. Durch die Analyse einer Ähnlichkeit wird es möglich, auch bei einer geringen Störung des ersten bzw. zweiten Nutzsignals während einer Datenübertragung eine Identifikation sowie Zuordnung für eine synchrone Ausgabe zu ermöglichen.The comparison device is embodied in one aspect of the invention for analyzing a similarity between the deposited identification features and the at least one provided identification feature. By analyzing a similarity, it becomes possible to enable identification and assignment for a synchronous output even during a slight disturbance of the first or second useful signal during a data transmission.
In einem anderen Aspekt der Erfindung ist die Vergleichsvorrichtung mit einer Erzeugung des ersten Nutzsignals aus den Identifikationsmerkmalen ausgeführt. Dies ist beispielsweise dann zweckmäßig, wenn die Identifikationsmerkmale im zweiten Datenstrom eine kodierte Form des ersten Nutzsignals darstellen. Bei dieser Ausgestaltung ist es möglich, eine Entscheidung darüber zu treffen, welche erste Nutzsignals ausgegeben werden soll, das aus dem ersten Datenstrom ermittelte oder aus den im zweiten Datenstrom enthaltenen Identifikationsmerkmalen erzeugte.In another aspect of the invention, the comparison device is designed with a generation of the first useful signal from the identification features. This is useful, for example, if the identification features in the second data stream represent an encoded form of the first useful signal. In this embodiment, it is possible to make a decision as to which first useful signal is to be output, which is determined from the first data stream or generated from the identification features contained in the second data stream.
Da im Allgemeinen die übertragenen Signale an die Empfangsanordnung gemäß einem Kommunikationsstandard kodiert sind, umfasst in einem Aspekt der Erfindung die Empfangsanordnung eine erste Dekodiereinrichtung. Die Dekodiereinrichtung ist zur Erzeugung des ersten Nutzsignals aus einem ersten von der Empfangsanordnung empfangenen Signal ausgebildet. Weiterhin kann eine zweite Dekodiereinrichtung vorgesehen sein, die zur Erzeugung des zweiten Nutzsignals aus einem zweiten empfangenen Signal ausgeführt ist. Es ist möglich, dass die Empfangsanordnung für einen Empfang des ersten und des zweiten Signals in einem gemeinsamen Übertragungskanal oder in verschiedenen Übertragungskanälen ausgebildet ist.In general, because the transmitted signals are encoded to the receiving device in accordance with a communications standard, in one aspect of the invention, the receiving device comprises a first decoder. The decoder device is designed to generate the first useful signal from a first signal received by the receiving device. Furthermore, a second decoding device may be provided which is designed to generate the second useful signal from a second received signal. It is possible that the receiving arrangement is designed for receiving the first and the second signal in a common transmission channel or in different transmission channels.
Bei dem erfindungsgemäßen System handelt es sich um eine Sendeanordnung, die zur Abgabe eines ersten sowie eines zweiten Signals ausgebildet ist, wobei das zweite Signal Identifikationsmerkmale umfasst, die von dem ersten Signal oder aus darin enthaltenen Informationen abgeleitet sind. Die Empfangsanordnung ist zur Ermittlung von Identifikationsmerkmalen aus dem ersten Signal ausgeführt und enthält Mittel zu einer aufeinander abgestimmten, insbesondere zu einer synchronen Ausgabe von aus dem ersten und zweiten Signal abgeleiteten Signalen. Die Ausgabe erfolgt abhängig durch einen Vergleich der ermittelten Identifikationsmerkmale mit dem im zweiten Signal enthaltenen Identifikationsmerkmal. Dadurch kann die Ausgabe eines beliebigen Inhalts eines zweiten Signals zeitlich abgestimmt zu einer Ausgabe des ersten Signals erfolgen. Das zweite Signal kann beispielsweise Audiosignale, Videosignale oder auch computergestützte Bildschirmpräsentationen umfassen.In the system according to the invention is a transmitting device, which is designed for the delivery of a first and a second signal, wherein the second signal comprises identification features, which are derived from the first signal or from information contained therein. The receiving arrangement is designed to determine identification features from the first signal and includes means for a coordinated, in particular to a synchronous output derived from the first and second signals. The output is dependent on a comparison of the determined identification features with the identification feature contained in the second signal. Thereby, the output of any content of a second signal can be timed to an output of the first signal. The second signal may include, for example, audio signals, video signals or computer-aided slide shows.
Im Folgenden wird die Erfindung anhand verschiedener Ausführungsbeispiele unter Zuhilfenahme der Zeichnung im Detail erläutert. Es zeigen:In the following the invention will be explained with reference to various embodiments with the aid of the drawing in detail. Show it:
Im Regelfall umfasst ein System für eine Kommunikation die folgenden Bestandteile. Zum einen ist ein Sender vorgesehen, der die zu übertragenen Nutzdaten erfasst und nach einem Kommunikationsstandard verarbeitet. Die so verarbeiteten und gegebenenfalls aufbereiteten Daten werden an ein Kommunikationsnetzwerk weitergegeben. Dieses enthält im Regelfall mehrere einzelne Knoten, die das Nutzsignal weiterreichen. Je nach gewählter Kommunikationsverbindung kann es vorkommen, dass das Nutzsignal nochmals verarbeitet bzw. in ein anderes Datenformat umgewandelt wird. Am Ende des Systems ist das Netzwerk wiederum mit der Empfangseinheit gekoppelt, die die übertragenen Daten wieder in das Nutzsignal umwandelt.As a rule, a system for communication comprises the following components. On the one hand a transmitter is provided which detects the payload data to be transmitted and after one Communication standard processed. The processed and possibly processed data are passed on to a communication network. As a rule, this contains several individual nodes which pass on the useful signal. Depending on the selected communication connection, it may happen that the useful signal is processed again or converted into another data format. At the end of the system, the network is in turn coupled to the receiving unit, which converts the transmitted data back into the payload.
Ein typisches Beispiel hierfür ist eine Verbindung eines mobilen Kommunikationsgerätes in ein Festnetz und beispielsweise an einen ISDN-Telefonanschluss. Hierbei werden die zu übertragenden Nutzsignale in Form von Sprach- oder Audiosignalen von dem Sender, dem mobilen Kommunikationsgerät in Signale nach einem Kommunikationsstandard gewandelt und an eine Basisstation übertragen. Die Basisstation bildet einen Teil des Netzwerks und verarbeitet die empfangenen Signale weiter. sie extrahiert daraus beispielsweise wieder das Nutzsignal in Form des Sprachsignals. Dieses wird nach dem PCM-Kodierungsverfahren kodiert und über eine Festnetzleitung an den Empfänger übergeben. Dabei kann es durchaus vorkommen, dass je nach Entfernung zwischen Sendegerät und Empfangsgerät innerhalb des Netzwerkes mehrere verschiedene Knoten vorgesehen sind, die während der Datenübertragung das Signal erneut aufbereiten bzw. anderweitig verarbeiten.A typical example of this is a connection of a mobile communication device in a fixed network and, for example, to an ISDN telephone line. In this case, the useful signals to be transmitted in the form of voice or audio signals are converted by the transmitter, the mobile communication device into signals according to a communication standard and transmitted to a base station. The base station forms part of the network and further processes the received signals. For example, it extracts the useful signal in the form of the speech signal. This is coded according to the PCM coding method and transmitted to the receiver via a landline line. It may well happen that depending on the distance between the transmitting device and receiving device within the network several different nodes are provided, which reprocess the signal during data transmission or otherwise process.
Für die Datenübertragung im vorliegenden Fall wird auf eine Ende-zu-Ende Verbindung zurückgegriffen. Hier wird die Kommunikationsverbindung zwischen dem Kommunikationsgerät und dem Telefon aufgebaut, und die Leitung bleibt unabhängig von einer Sprachübertragung bestehen. Die Verbindung wird erst bei einer vollständigen Beendigung unterbrochen. Dadurch kommt es bei der Übertragung der Sprache zu einer im Wesentlichen konstanten Verzögerungszeit, das sich die einzelnen Knoten der Kommunikationsverbindung nicht ändern. Im Allgemeinen wird eine derartige Kommunikationsverbindung auch als leitungsvermittelte oder ”circuit switched”-Verbindung. bezeichnet.For the data transmission in the present case, an end-to-end connection is used. Here, the communication link between the communication device and the telephone is established, and the line remains independent of a voice transmission. The connection is interrupted only after a complete termination. This results in the transmission of the language to a substantially constant delay time that does not change the individual nodes of the communication link. In general, such a communication connection also becomes a circuit-switched or "circuit-switched" connection. designated.
Im Gegensatz dazu können bei einer paketorientierten Übertragung die einzelnen Pakete über unterschiedliche Routen an den Empfänger übermittelt werden. Demzufolge kann es hier auch zu unterschiedlichen Laufzeiten kommen. Ein typisches Beispiel für eine solche paketorientierte Kommunikationsverbindung liegt bei internetbasierten Übertragungen vor.In contrast, in the case of a packet-oriented transmission, the individual packets can be transmitted to the recipient via different routes. Consequently, it can also come to different terms here. A typical example of such a packet-oriented communication connection is in Internet-based transmissions.
Die Sendeeinheit ist im vorliegenden Fall als ein mobiles Kommunikationsgerät ausgeführt. Sie enthält ein Mikrofon
Im vorliegenden Fall umfasst das Kommunikationsnetzwerk
Letztlich wird ein Datenstrom C, der im Idealfall die gleichen Nutzdaten (also das Audiosignal A) beinhaltet wie der Strom B an die Basisstation
Von der Empfangseinheit
Erfindungsgemäß ist vorgesehen, zu einer bereits bestehenden Kommunikationsverbindung für eine Übertragung von Sprach- oder Audiosignalen eine weitere Kommunikationsverbindung aufzubauen. Mit der zweiten Verbindung sollen Videosignale an die Empfangseinheit
Dazu enthält die Sendeeinheit
Das Gesamtsignal N wird als Datenstrom über die Schnittstelle
Das übermittelte Signal D wird dekodiert und die darin befindlichen Videoinformationen in Form des Signals R an einen Videodekoder
Aufgrund des im Netzwerk
Für ein aufeinander abgestimmtes Ausgeben der Signale A und I im Empfänger ist in der erfindungsgemäßen Sendeanordnung eine Analysevorrichtung
Jeder Teilabschnitt des Audiosignals ist so gewählt, dass seine Ausgabe in einem zeitlich definierten Zusammenhang zu einer Darstellung eines oder mehrerer Bilder des erfassten Videosignals erfolgt. Die Analysevorrichtung
Das Identifikationsmerkmal ist so gewählt, dass es einerseits besonders robust gegen eventuelle Störungen während der Datenübertragung ist. Andererseits ist es auch robust gegen Artefakte, die aufgrund einer Signalverarbeitung bzw. Kompression während der Übertragung des ersten Datenstroms B auftreten. Diese Artefakte können das Nutzsignal im ersten Datenstrom B beeinträchtigen.The identification feature is chosen so that on the one hand it is particularly robust against possible interference during data transmission. On the other hand, it is also robust against artifacts that occur due to signal processing or compression during the transmission of the first data stream B. These artifacts can affect the useful signal in the first data stream B.
Das komprimierte Videosignal M und das Identifikationsmerkmal werden in der Kodiereinrichtung
Für jeden der Teilabschnitte TA1, TA2 und TA3 wird nun ein Fingerabdruck, ein eindeutiges Identifikationsmerkmal FP1, FP2 bzw. FP3 ermittelt. Dieser Fingerabdruck kann beispielsweise durch LTP- oder LPC-Koeffizienten bestimmt sein. Derartige Koeffizienten werden bei einer Kodierung des Sprachsignals A erzeugt und können so leicht ohne Mehraufwand benutzt werden. Eine andere Möglichkeit besteht in der Ermittlung besonders robuster Frequenzinformationen für jeden Teilabschnitt. Nach einer Erzeugung der jeweiligen Identifikationsmerkmale werden diese dem korrespondierenden Videobild des digitalen Videosignals zugeordnet.For each of the subsections TA1, TA2 and TA3 now a fingerprint, a unique identification feature FP1, FP2 or FP3 determined. This fingerprint may be determined, for example, by LTP or LPC coefficients. Such coefficients are generated when encoding the speech signal A and thus can be easily used without additional effort. Another possibility is to determine particularly robust frequency information for each subsection. After generation of the respective identification features, these are assigned to the corresponding video image of the digital video signal.
Für eine Zuordnung werden nun einerseits die Videobilder VB1 bis VB3 sowie die erzeugten Identifikationsmerkmale FP1 bis FP3 mit einem Zeitstempel K versehen. Dieser Zeitstempel K erlaubt die Zuordnung der Identifikationsmerkmale L zu dem kodierten Videosignal M mit den kodierten Videobildern.For an assignment, the video images VB1 to VB3 as well as the generated identification features FP1 to FP3 are now provided with a time stamp K on the one hand. This time stamp K allows the assignment of the identification features L to the coded video signal M with the coded video images.
In der Kodiereinrichtung
Wegen den in den Identifikationsmerkmalen L und dem kodierten Videodatenstrom M enthaltenen Zeitstempeln K ist eine Zuordnung auch dann gewährleistet, wenn eine andere Paketform gewählt wird. So können Videodatenstrom M und die Identifikationsmerkmale L auch in unterschiedlichen Paketen oder sogar verschiedenen Datenströmen übertragen werden.Because of the time stamps K contained in the identification features L and the coded video data stream M, an allocation is ensured even if a different package form is selected. Thus, video data stream M and the identification features L can also be transmitted in different packets or even different data streams.
Eine andere Möglichkeit besteht darin, innerhalb des kodierten Videodatenstroms M die Identifikationsmerkmale L als zusätzliche Information, engl. ”supplementary enhancement information” unterzubringen. Ein Videostandard, der dies ermöglicht, ist der H.264/AVC-Standard. Ein zusätzliches Multiplexen kann dann entfallen, der kodierte und mit den Merkmalen L versehene Videostrom M bildet in einem solchen Fall den Datenstrom N. Grundsätzlich sollte nur eine Zuordnung zwischen den Identifikationsmerkmalen im Strom L und dem Videosignal J gewährleistet sein.Another possibility is, within the encoded video data stream M, the identification features L as additional information, engl. "Supplementary enhancement information". One video standard that allows this is the H.264 / AVC standard. An additional multiplexing can then be omitted, the coded and provided with the features L video stream M forms in such a case the data stream N. Basically, only an association between the identification features in the stream L and the video signal J should be guaranteed.
Vorliegend umfasst nach
Der so aufbereitete zweite Datenstrom N wird wiederum durch die zweite Kommunikationsverbindung über das Netzwerk
Der Merkmalsstrom Q wird der Einrichtung
Um eine aufeinander abgestimmte Ausgabe zu gewährleisten, ist der Audiodekoder
Der Synchronisator ist dazu mit dem Videodekoder
Die zusätzliche Pufferung ermöglicht es darüber hinaus, im Fall verloren gegangener Daten die korrespondierenden Signale des jeweils anderen Datenstroms abzugeben. Beispielsweise können Bereiche des Audiosignals F auch dann abgegeben werden, wenn das dazu korrespondierende Videosignal W während der Übertragung verloren gegangen bzw. nicht rekonstruierbar ist. Aufgrund unterschiedlicher Verzögerungen in den beiden Netzwerken
Einer Pufferung bzw. Verzögerung einer Ausgabe des Sprachsignal kann auch durch eine besondere Verarbeitung des Sprachsignal erfolgen. Anstelle des Puffers kann ein Signalprozessor vorgesehen sein, der eine zeitbasierte Modifikation des Sprachsignals durchführt. So könnte das Sprachsignal dynamisch verzerrt, z. B. vokale Laute bei der Ausgabe dynamisch verlängert oder verkürzt werden, um dadurch eine Verzögerung zu erreichen. Dieses ”time scale modifikation” Verfahren eignet sich besonders, da eine kontinuierliche Ausgabe des Sprachsignal ohne Unterbrechungen vorgenommen, aber dennoch Zeit für die Verarbeitung des zweiten Datenstrom und die Abstimmung einer Ausgabe gewonnen wird.A buffering or delay of an output of the speech signal can also be effected by a special processing of the speech signal. Instead of the buffer, a signal processor may be provided, which performs a time-based modification of the speech signal. So the speech signal could be dynamically distorted, eg. For example, vocal sounds may be dynamically lengthened or shortened at the output, thereby achieving a delay. This "time scale modification" method is particularly suitable, since a continuous output of the speech signal without interruptions made, but still time for the processing of the second data stream and the vote of an output is obtained.
Während der Übertragung des ersten Datenstroms im Netzwerk
Die erste Vorrichtung
Der zweite Datenstrom wird an das zweite Netzwerk
Im vorliegenden Fall erfolgt die Übertragung des ersten Datenstroms, also des Sprachsignals sowie des zweiten Datenstroms über zwei verschiedene Übertragungskanäle. Beispielsweise können die kodierten Audiodaten D in Form eines GSM-Signals an die Empfängeranordnung
Einen anderen Aspekt der Erfindung verdeutlicht
Der Synchronisator
Mit den erfindungsgemäßen Elementen der dargestellten Systeme lässt sich bei einer bestehenden Kommunikationsverbindung zur Übertragung eines ersten Datenstroms eine zweite Kommunikationsverbindung zur Übertragung eines zweiten Datenstroms ohne Unterbrechung der ersten Kommunikationsverbindung hinzufügen.With the elements of the illustrated systems according to the invention, in the case of an existing communication connection for transmitting a first data stream, a second communication connection can be added for transmitting a second data stream without interrupting the first communication connection.
Ebenso ist es möglich, eine neue Kommunikationsverbindung zur Übertragung des ersten und des zweiten Datenstroms aufzubauen. Eine zeitlich aufeinander abgestimmte Ausgabe erfolgt durch die dem zweiten Datenstrom hinzugefügten Identifikationsmerkmale, die von dem ersten Datenstrom abgeleitet sind. Die zusätzlichen Identifikationsmerkmale im zweiten Datenstrom werden sendeseitig hinzugefügt. Dies ist beispielsweise in Form eines Fingerabdrucks bzw. zusätzliche Informationen innerhalb des für den zweiten Datenstrom verwendeten Übertragungsprotokolls möglich. Zudem lassen sich weitere Informationen beispielsweise Zeitstempel übertragen. Durch Verwendung eines geeigneten Übertragungsprotokolls, beispielsweise des Real Time Protokolls wird das Hinzufügen von Zeitstempeln zu Daten bzw. Identifikationsmerkmalen noch formalisiert und deren Verwendung zur Synchronisation vereinfacht.It is likewise possible to set up a new communication connection for transmitting the first and the second data stream. A timed output is provided by the identification features added to the second data stream derived from the first data stream. The additional identification features in the second data stream are added on the transmission side. This is possible, for example, in the form of a fingerprint or additional information within the transmission protocol used for the second data stream. In addition, further information can be transmitted, for example, timestamps. By using a suitable transmission protocol, such as the Real Time Protocol, the addition of timestamps to data or identification features is still formalized and their use for synchronization simplified.
Darüber hinaus besteht die Möglichkeit selbige Identifikationsmerkmale durch einen weiteren Übertragungskanal an den Empfänger zu übermitteln. Dabei muss lediglich gewährleistet sein, dass die Identifikationsmerkmale in dem weiteren Übertragungskanal den einzelnen Abschnitten des zweiten Datenstroms zugeordnet werden können.In addition, it is possible to transmit the same identification features by a further transmission channel to the receiver. It merely has to be ensured that the identification features in the further transmission channel can be assigned to the individual sections of the second data stream.
In Schritt S3 werden die im zweiten Datenstrom enthaltenen Identifikationsmerkmale extrahiert. Anschließend werden in Schritt S4 Teilabschnitte des Nutzsignals im zweiten Datenstrom sowie die den Teilabschnitten zugeordneten Identifikationsmerkmale der Teilabschnitte des ersten Datenstrom zwischengespeichert. Während den Schritten S3 und S4, also des Ermittelns der Identifikationsmerkmale im zweiten Datenstrom, ist es möglich, die Teilabschnitte des zwischengespeicherten Nutzsignals zu analysieren. Dieser Vorgang erfolgt in Schritt S5. Dabei werden aus den einzelnen Teilabschnitten Identifikationsmerkmale ermittelt, die in Art und Aufbau den Identifikationsmerkmalen des zweiten Datenstroms entsprechen. Wenn also beispielsweise die Identifikationsmerkmale im zweiten Datenstrom LTP-Koeffizienten darstellen (Long Term Prediction), so werden in Schritt S5 aus den einzelnen Teilabschnitten des gespeicherten ersten Datenstroms ebenfalls die LTP-Koeffizienten ermittelt.In step S3, the identification features contained in the second data stream are extracted. Subsections of the useful signal in the second data stream and the identification features of the subsections of the first data stream assigned to the subsections are then temporarily stored in step S4. During steps S3 and S4, that is to say the determination of the identification features in the second data stream, it is possible to analyze the subsections of the buffered useful signal. This process takes place in step S5. In this case, identification features are determined from the individual subsections, which correspond in type and structure to the identification features of the second data stream. If, for example, the identification features in the second data stream represent LTP coefficients (Long Term Prediction), the LTP coefficients are also determined in step S5 from the individual subsections of the stored first data stream.
In Schritt S6 werden nun die jeweils die aus den Teilabschnitten des Nutzsignals ermittelten Identifikationsmerkmale mit dem oder den Identifikationsmerkmalen des zweiten Datenstroms verglichen. Beispielsweise kann jedes Identifikationsmerkmal der Teilabschnitte des Nutzsignals im ersten Datenstrom mit jedem der aus dem zweiten Datenstrom ermittelten Identifikationsmerkmalen verglichen werden. Dafür stehen in Schritt S7 verschiedene Vergleichsverfahren und Methoden zur Verfügung. Der Vergleich kann so ausgestaltet sein, dass nur bei einer genauen Übereinstimmung eines Identifikationsmerkmals eines Teilabschnittes des ersten Datenstroms mit einem Identifikationsmerkmal des zweiten Datenstroms ein positives Ergebnis erzeugt.In step S6, the identification features determined from the subsections of the useful signal are compared with the identification feature (s) of the second data stream. For example, each identification feature of the subsections of the useful signal in the first data stream can be compared with each of the identification features determined from the second data stream. For this purpose, different comparison methods and methods are available in step S7. The comparison can be designed such that a positive result is produced only if there is an exact match of an identification feature of a subsection of the first data stream with an identification feature of the second data stream.
Da aber möglicherweise während einer Übertragung Fehler innerhalb der beiden Datenströme aufgetreten sind oder durch Signalverarbeitung oder Kompression Verzerrungen oder andere Veränderungen aufgetreten sein können, können sich auch die Identifikationsmerkmale leicht unterscheiden. Daher ist es eventuell zweckmäßig, für eine Entscheidung bezüglich einer Übereinstimmung gewisse Freiheiten vorzusehen. Die Übereinstimmung wird somit nur mit einer Wahrscheinlichkeit bestimmt. Überschreitet diese einen vorbestimmten Wert, so wird eine Übereinstimmung angenommen. Eine andere Möglichkeit wäre, eine Korrelationsanalyse für die Identifikationsmerkmale des ersten und zweiten Datenstroms durchzuführen.However, since errors may have occurred within the two data streams during a transmission or through signal processing or Compression distortions or other changes may have occurred, the identification features may differ slightly. Therefore, it may be appropriate to provide for some freedom of choice when making a decision. The match is thus determined only with a probability. If this exceeds a predetermined value, then a match is accepted. Another possibility would be to perform a correlation analysis for the identification features of the first and second data streams.
Ergibt der Vergleichsvorgang in den Schritten S6 und S7, dass die Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms mit dem oder den Identifikationsmerkmalen im zweiten Datenstrom nicht übereinstimmen, wird der Vergleich mit neuen Identifikationsmerkmalen des ersten bzw. zweiten Datenstroms wiederholt. Bei einer Übereinstimmung hingegen werden im Schritt S8 die den beiden Identifikationsmerkmalen zugeordneten Teilabschnitte des ersten und zweiten Datenstroms aus dem Puffer geladen. In Schritt S9 werden die Abschnitte schließlich zeitlich aufeinander abgestimmt ausgegeben.If the comparison process in steps S6 and S7 reveals that the identification features of the subsections of the first data stream do not match the identification feature (s) in the second data stream, the comparison is repeated with new identification features of the first or second data stream. In the case of a match, on the other hand, in step S8, the subsections of the first and second data streams assigned to the two identification features are loaded from the buffer. In step S9, the sections are finally output timed to each other.
Durch die Zwischenspeicherung des ersten Datenstroms und die Zwischenspeicherung des zweiten Datenstroms lässt er sich eine zeitliche Verzögerung während eines Empfangsvorgangs des ersten oder zweiten Datenstroms korrigieren. Durch die Analyse der Nutzsignale im ersten Datenstrom sowie die Ermittlung der Identifikationsmerkmale entfällt die Notwendigkeit, bereits im Vorfeld Zeitstempel in beide Datenströme für eine spätere Ausgabe einzufügen.The buffering of the first data stream and the buffering of the second data stream allow it to correct a time delay during a receive operation of the first or second data stream. By analyzing the useful signals in the first data stream and determining the identification features, there is no need to insert timestamps in both data streams in advance for later output.
Vielmehr können im zweiten Datenstrom beliebige Nutzsignale in Teilabschnitten vorgesehen sein, wobei jedem der Teilabschnitte Identifikationsmerkmalen zugeordnet werden, wenn diese synchron zu den Teilabschnitten des Nutzsignals im ersten Datenstrom ausgegeben werden sollen. Eine besondere Wahl des zweiten Nutzsignals ist dabei nicht notwendig. Beispielsweise kann durch das vorgestellte Verfahren ein Videosignal als Nutzsignal des zweiten Datenstroms mit Hilfe der Identifikationsmerkmale auf einen bereits bestehende Übertragung eines Sprachsignals synchronisiert werden. Dabei ist es nicht notwendig, den ersten und zweiten Datenstrom über den gleichen Übertragungskanal an einem Empfänger zu übermitteln.Rather, any desired signals may be provided in subsections in the second data stream, each of the subsections being assigned identification features if these are to be output synchronously to the subsections of the useful signal in the first data stream. A special choice of the second useful signal is not necessary. For example, by the presented method, a video signal as a useful signal of the second data stream can be synchronized with the aid of the identification features to an already existing transmission of a speech signal. It is not necessary to transmit the first and second data streams over the same transmission channel to a receiver.
Zu der bereits bestehenden Kommunikationsverbindung soll nun ein zweiter Datenstrom hinzugefügt werden, der ein zweites Nutzsignal beinhaltet, das zu dem Telefonsignal synchronisiert ist. Dazu werden in Schritt S10 der erste und der zweite Datenstrom im Wesentlichen gleichzeitig über einen gemeinsamen Übertragungskanal empfangen. Dieser Übertragungskanal kann beispielsweise eine Mobilfunkverbindung nach dem UMTS-Standard darstellen. Eine andere Möglichkeit wäre, beispielsweise den ersten Datenstrom über eine Telefonverbindung und den zweiten Datenstrom paketorientiert über eine DSL-Verbindung zu empfangen. In einem solchen Fall erfolgt die Übertragung der beiden Datenströme über die gleiche physikalische Leitung.To the already existing communication connection, a second data stream is now to be added, which contains a second useful signal, which is synchronized to the telephone signal. For this purpose, in step S10, the first and the second data stream are received substantially simultaneously via a common transmission channel. This transmission channel can represent a mobile connection according to the UMTS standard, for example. Another possibility would be to receive, for example, the first data stream via a telephone connection and the second data stream packet-oriented over a DSL connection. In such a case, the transmission of the two data streams takes place via the same physical line.
In Schritt S11 wird das gemeinsame empfangene Signal decodiert bzw. in den ersten und in den zweiten Datenstrom aufgetrennt. Der erste Datenstrom als Telefonsignal wird in Schritt S12 in verschiedene Teilabschnitte gleicher Länge unterteilt. Diese Teilabschnitte sind jedoch nicht willkürlich gewählt, sondern folgen einem vordefinierten Muster, das sich aus dem ersten Datenstrom ergibt. In Schritt S16 werden diese Teilabschnitte für eine spätere Verarbeitung zwischengespeichert.In step S11, the common received signal is decoded or separated into the first and the second data stream. The first data stream as a telephone signal is divided into different sections of equal length in step S12. However, these sections are not arbitrary, but follow a predefined pattern that results from the first data stream. In step S16, these sections are cached for later processing.
Zu der Verarbeitung des ersten Datenstroms in den Schritten S12 und S16 wird auch der zweite Datenstrom mit dem zweiten Nutzsignal verarbeitet. Das zweite Nutzsignal umfasst ebenfalls mehrere Teilabschnitte, die im Schritt S13 aufgetrennt werden. Bestimmten Teilabschnitten ist jeweils ein Identifikationsmerkmal zugeordnet, das aus dem zweiten Datenstrom extrahiert und in einem Speicher abgelegt wird.For processing the first data stream in steps S12 and S16, the second data stream with the second useful signal is also processed. The second useful signal also includes a plurality of subsections, which are separated in step S13. Certain subsections are each assigned an identification feature that is extracted from the second data stream and stored in a memory.
Im Allgemeinen erfolgt der Empfang des ersten und zweiten Datenstroms zwar gleichzeitig, dies bedeutet jedoch nicht, dass die entsprechenden Abschnitte des ersten und des zweiten Nutzsignals eine bestimmte zeitliche Beziehung zueinander aufweisen. Beispielsweise kann aufgrund unterschiedlicher Übertragungswege zwischen dem Sender und dem Empfänger ein Zeitversatz zwischen korrespondierenden Teilabschnitten des ersten Datenstroms und Teilabschnitten des Nutzsignals im zweiten Datenstrom auftreten. Mit anderen Worten können Teilabschnitte des ersten Datenstroms früher oder später beim Empfänger eintreffen als die korrespondierenden Teilabschnitte des zweiten Nutzsignals. Wird dieser Zeitversatz nun größer als ein vorbestimmter Wert, ist es nicht mehr zweckmäßig, verspätet eintreffende Teilabschnitte zwischenzuspeichern. Dies ist vor allem dann nicht mehr sinnvoll, wenn beispielsweise bereits vorher eingetroffenen Teilabschnitte des ersten Datenstroms weiter verarbeitet und gegebenenfalls schon ausgegeben wurden.Although the reception of the first and second data streams is generally simultaneous, this does not mean that the corresponding sections of the first and second data signals have a specific temporal relationship to one another. For example, due to different transmission paths between the transmitter and the receiver, a time offset between corresponding subsections of the first data stream and subsections of the useful signal in the second data stream occur. In other words, subsections of the first data stream may arrive earlier or later at the receiver than the corresponding subsections of the second useful signal. If this time offset now exceeds a predetermined value, it is no longer expedient to buffer late arriving partial sections. This is especially meaningless if, for example, previously arrived sections the first data stream further processed and possibly already been issued.
Im vorliegenden Fall wird davon ausgegangen, dass das zweite Nutzsignal gegenüber dem Telefonsignal verzögert ist. In Schritt S15 wird daher überprüft, ob die den Teilabschnitten des zweiten Datenstroms zugeordneten Identifikationsmerkmale bereits ausgegeben wurden. Dies kann durch einen kurzen Vergleich der extrahierten Identifikationsmerkmale der Teilabschnitte des zweiten Nutzsignals mit Identifikationsmerkmalen von bereits ausgegebenen Teilabschnitten des ersten Datenstroms erfolgen. Eine andere Möglichkeit für eine derartige Überprüfung besteht dann, wenn einzelnen Teilabschnitten des zweiten Nutzsignals im zweiten Datenstrom Zeitstempelinformationen zugeordnet sind. Damit können alle die Teilabschnitte verworfen werden, die einen Zeitstempel umfassen, der vor dem letzten ausgegebenen Zeitstempel eines Teilabschnittes des zweiten Nutzsignals liegen.In the present case, it is assumed that the second useful signal is delayed with respect to the telephone signal. In step S15, it is therefore checked whether the identification features assigned to the subsections of the second data stream have already been output. This can be done by a brief comparison of the extracted identification features of the subsections of the second useful signal with identification features of already output subsections of the first data stream. Another possibility for such a check is when individual subsections of the second useful signal in the second data stream are assigned time stamp information. Thus, all the subsections can be discarded, which include a timestamp, which are before the last time stamp issued a subsection of the second useful signal.
Wenn in Schritt S18 ein solcher Vergleich einer Übereinstimmung zeigt, so wird der korrespondierende Teilabschnitt des zweiten Nutzsignals in Schritt S19 verworfen, da der zu diesem Teilabschnitt synchron auszugebende Teilabschnitt des ersten Datenstroms bereits ausgegeben wurde. Allenfalls wird in Schritt S20 der Teilabschnitt des zweiten Nutzsignals sowie des zugehörige Identifikationsmerkmal abgespeichert.If such a comparison of a match is shown in step S18, the corresponding subsection of the second payload signal is discarded in step S19 since the subsection of the first data stream to be output synchronously to this subsection has already been output. If necessary, the subsection of the second useful signal and the associated identification feature are stored in step S20.
In Schritt S17 wird eine Analyse und Ermittlung der Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms vorgenommen.In step S17, an analysis and determination of the identification features of the subsections of the first data stream is undertaken.
In Schritt S21 werden nun die Identifikationsmerkmale der Teilabschnitte des ersten Datenstroms mit den Identifikationsmerkmalen aus dem zweiten Datenstrom verglichen. Ergibt ein solcher Vergleich in Schritt S22 eine Übereinstimmung, so bedeutet dies im Wesentlichen, dass die Teilabschnitte des ersten und zweiten Datenstroms aufeinander abgestimmt ausgegeben werden sollen. Diese werden in Schritt S23 aus dem jeweiligen Zwischenspeicher geladen und in Schritt S24 synchron ausgegeben.In step S21, the identification features of the subsections of the first data stream are compared with the identification features from the second data stream. If such a comparison results in a match in step S22, this essentially means that the subsections of the first and second data streams are to be output in a coordinated manner. These are loaded from the respective buffer in step S23 and output synchronously in step S24.
Wenn hingegen ein Teilabschnitt des zweiten Nutzsignals zu den korrespondierenden Teilabschnitten des ersten Datenstroms bislang noch nicht empfangen und verarbeitet wurde, ergibt der Vergleichsvorgang in den Schritten S21 und S22 keine Übereinstimmung. In einem solchen Fall wird davon ausgegangen, dass der entsprechend Teilabschnitt im zweiten Datenstrom noch nicht empfangen wurde. Daher wird in Schritt S25 ein Zähler erhöht. Der Zähler zeigt an, ob der Teilabschnitt im Telefonsignal trotz fehlenden Teilabschnittes im zweiten Nutzsignal ausgegeben werden soll. Dazu wird der Zähler in Schritt S26 mit einem im vorbestimmten Wert verglichen. Ist der Zähler kleiner als dieser Wert, so wird das Verfahren mit der weiteren Analyse neu empfangener Teilabschnitte des ersten Datenstroms fortgesetzt.If, on the other hand, a subsection of the second useful signal to the corresponding subsections of the first data stream has not yet been received and processed, the comparison procedure in steps S21 and S22 results in no match. In such a case, it is assumed that the corresponding subsection has not yet been received in the second data stream. Therefore, a counter is incremented in step S25. The counter indicates whether the subsection in the telephone signal should be output in the second useful signal despite the missing subsection. For this purpose, the counter is compared in step S26 with a predetermined value. If the counter is smaller than this value, the method is continued with the further analysis of newly received subsections of the first data stream.
Andernfalls wird, wenn der Zähler in Schritt S25 größer als der vorbestimmter Wert ist, in Schritt S27 der als nächstes auszugebende Teilabschnitt des Telefonsignals ermittelt und in Schritt S28 ausgegeben. Das zu dem ausgegebenen Teilabschnitt gehörige Identifikationsmerkmal wird nun als bereits ausgegeben gekennzeichnet und dient dazu, einen Teilabschnitt des zweiten Nutzsignals mit gleichem zugeordnetem Identifikationsmerkmal zu identifizieren. Da der zugehörige Teilabschnitt im ersten Datenstrom bereits ausgegeben wurde, kann der Teilabschnitt im zweiten Datenstrom verworfen werden.Otherwise, if the counter is greater than the predetermined value in step S25, the portion of the telephone signal to be next issued is determined in step S27 and output in step S28. The identification feature belonging to the output subsection is now marked as already issued and serves to identify a subsection of the second useful signal with the same assigned identification feature. Since the associated subsection has already been output in the first data stream, the subsection in the second data stream can be discarded.
Es ist zweckmäßig, bei der Ausgestaltung des Verfahrens sowohl eine Verzögerung der Teilabschnitte des ersten Datenstroms gegenüber den Teilabschnitten des zweiten Datenstroms, als auch die umgekehrte Möglichkeit zu berücksichtigen.In the embodiment of the method, it is expedient to take into account both a delay of the subsections of the first data stream relative to the subsections of the second data stream and the reverse possibility.
In Schritt S30 wird zwischen einem Sender und einem Empfänger eine Kommunikationsverbindung zur Übertragung eines ersten Nutzsignals bzw. eines ersten Datenstroms aufgebaut. Der Aufbau erfolgt leitungsvermittelt und bleibt bis zur Beendigung bestehen. Der erste Datenstrom enthält das Nutzsignal, beispielsweise ein Sprachsignal. Während eines nun folgenden Zeitraums erfolgt in Schritt
Diese Kommunikation wird auch in Schritt S32 über die bereits bestehende Verbindung fortgeführt. Zusätzlich soll nun zu der bereits bestehenden ersten Kommunikationsverbindung eine zweite Kommunikationsverbindung aufgebaut werden, über die ein zweiter Datenstrom übertragen wird. Das Nutzsignal des ersten und zweiten Datenstroms soll dabei zueinander synchron erfolgen. Dazu sind das erste und das zweite Nutzsignal jeweils in Teilabschnitte aufgeteilt.This communication is also continued in step S32 over the already existing connection. In addition, a second communication connection should now be established to the already existing first communication connection, via which a second data stream is transmitted. The useful signal of the first and second data stream should be synchronized with each other. For this purpose, the first and the second useful signal are each divided into subsections.
Während der Fortführung der ersten Kommunikationsverbindung und der Übertragung der ersten Nutzdaten in den Schritt S32 wird in Schritt S33 eine zweite Kommunikationsverbindung über einen weiteren Übertragungskanal aufgebaut. Dieser Übertragungskanal kann gegenüber dem Übertragungskanal für die erste Kommunikationsverbindung unterschiedlich aufgebaut sein. Während beispielsweise der erste Übertragungskanal für die erste Kommunikationsverbindung eine Festnetzverbindung umfasst, beinhaltet der zweite Übertragungskanal eine paketorientierte Internetverbindung.During the continuation of the first communication connection and the transmission of the first user data in step S32, a second communication connection is set up via a further transmission channel in step S33. This transmission channel can be compared to the Transmission channel for the first communication connection to be structured differently. For example, while the first transmission channel for the first communication connection comprises a fixed network connection, the second transmission channel includes a packet-oriented Internet connection.
In Schritt S34 wird nun ein Sprach- oder Audiosignal in Form mehrerer Teilabschnitte als erstes Nutzsignal erfasst. Im Wesentlichen gleichzeitig und synchron dazu wird ein entsprechendes Videosignal in Schritt S35 erfasst, welches ebenfalls mehrere Teilabschnitte aufweist. In Schritt S36 werden aus dem erfassten Audiosignal Identifikationsmerkmale ermittelt. Diese Merkmale können sowohl aus dem erfassten analogen Audiosignal, als auch aus einem digitalen Audiosignal oder einem bereits codierten Audiosignal ermittelt werden. Unter dem Begriff des codierten Audiosignals werden verarbeitete Audiosignale verstanden, die nach einem Verfahren kodiert wurden. Beispiele für derartige Kodierungsverfahren sind das AMR- oder das AMR-WB Kodierungsverfahren, das GSM EFR Kodierungsverfahren, G.72x-Codierungsverfahren des ITU-T Standards für Sprachkomprimierung oder auch Kombinationen hiervon. Diese eignen sich besonders für eine Sprachkodierung.In step S34, a voice or audio signal in the form of several subsections is now detected as the first useful signal. Essentially at the same time and synchronously, a corresponding video signal is detected in step S35, which likewise has several subsections. In step S36, identification features are determined from the detected audio signal. These features can be determined both from the detected analog audio signal, as well as from a digital audio signal or an already coded audio signal. The term encoded audio signal is understood to mean processed audio signals that have been encoded according to a method. Examples of such coding methods are the AMR or the AMR-WB coding method, the GSM EFR coding method, G.72x coding method of the ITU-T standard for speech compression or combinations thereof. These are particularly suitable for speech coding.
Die Identifikationsmerkmale, die in Schritt S36 ermittelt worden, erlauben eine eindeutige Identifikation des jeweilige Teilabschnittes des Sprachsignals. Bei einer Kodierung nach einem der oben genannten Verfahren ist es zudem denkbar, Merkmale, die während bei der Kodierung erzeugt werden, auch als Identifikationsmerkmale zu verwenden. So können die bei der AMR-Kodierung erzeugten LPC Koeffizienten auch als Identifikationsmerkmale dienen. Darüber hinaus sollten die erzeugten Identifikationsmerkmale besonders robust gegen während der Übertragung des ersten Datenstroms auftretenden Störungen oder Artefakte sein.The identification features, which were determined in step S36, allow a unique identification of the respective subsection of the speech signal. In a coding according to one of the above-mentioned methods, it is also conceivable to use features which are generated during the coding as identification features. Thus, the LPC coefficients generated in the AMR coding can also serve as identification features. In addition, the generated identification features should be particularly robust against disturbances or artifacts occurring during the transmission of the first data stream.
Die in Schritt S36 ermittelten Identifikationsmerkmale werden während der Kodierung der Teilabschnitte des Videosignals in Schritt S37 dem zweiten Datenstrom hinzugefügt. Dies erfolgt derart, dass ein Identifikationsmerkmal eines Teilabschnittes des Sprachsignals einem Teilabschnitt des Videosignals zugeordnet wird, der synchron zu dem korrespondierenden Teilabschnitt des Sprachsignals steht. Erreicht wird dies durch Zeitstempel oder ein geeignetes Kombinieren des Videosignals und der Identifikationsmerkmale.The identification features determined in step S36 are added to the second data stream during the encoding of the subsections of the video signal in step S37. This is done such that an identification feature of a subsection of the speech signal is assigned to a subsection of the video signal that is synchronous with the corresponding subsection of the speech signal. This is achieved by timestamps or a suitable combination of the video signal and the identification features.
Nach einer Kodierung des Videosignals in dem Schritt S37 wird der zweite Datenstrom sowie der erste Datenstrom in den Schritten S38 und S39 übertragen. Die Übertragung kann verschiedene Übertragungskanäle als auch einen gemeinsamen Übertragungskanal beinhalten. Unter einem gemeinsamen Übertragungskanal wird ein Übertragungskanal auf der gleichen Frequenz, unter Verwendung des gleichen Kommunikationsstandards oder unter Benutzung der gleichen Netzwerkknoten verstanden. Während der Schritte S38 und S39 kann es jedoch zu einer zeitlichen Verschiebung oder einer zeitlichen Verzögerung des ersten und zweiten Datenstroms zueinander kommen. Dadurch erfolgt ein Empfang des ersten Datenstroms in Schritt S40 sowie ein Empfang des zweiten Datenstroms in Schritt S41 zu unterschiedlichen Zeiten.After coding the video signal in step S37, the second data stream and the first data stream are transmitted in steps S38 and S39. The transmission may include various transmission channels as well as a common transmission channel. By a common transmission channel is meant a transmission channel on the same frequency, using the same communication standard or using the same network nodes. During steps S38 and S39, however, a time shift or a time delay of the first and second data streams may occur. This results in a reception of the first data stream in step S40 and a reception of the second data stream in step S41 at different times.
In Schritt S42 wird der empfangene erste Datenstrom dekodiert und das darin enthaltene Sprach oder Audiosignal extrahiert. Dieses ist in mehrere Teilabschnitte unterteilt, von denen jeder einzelne analisiert und ein Identifikationsmerkmal erzeugt, wird. Parallel hierzu wird im Schritt S43 der empfangene zweite Datenstrom weiter verarbeitet. Die im zweiten Datenstrom der Teilabschnitte des Videosignals zugefügten Identifikationsmerkmale werden extrahiert. Diese Identifikationsmerkmale werden nun im Schritt S44 mit den erzeugten Identifikationsmerkmalen der Teilabschnitte des zwischengespeicherten Audiosignals verglichen. Sofern der Vergleich eine Übereinstimmung in Schritt S46 ergibt, werden die entsprechenden Teilabschnitte des Audiosignals sowie des Videosignals in Schritt S45 geladen und in Schritt S47 synchron ausgegeben. Anderenfalls kann in Schritt S48 das Audiosignal ohne ein dazu korrespondierendes Videosignal ausgegeben werden.In step S42, the received first data stream is decoded and the speech or audio signal contained therein is extracted. This is subdivided into several subsections, each of which analyzes and generates an identification feature. In parallel, in step S43, the received second data stream is further processed. The identification features added in the second data stream of the subsections of the video signal are extracted. These identification features are then compared in step S44 with the generated identification features of the subsections of the buffered audio signal. If the comparison gives a match in step S46, the respective subsections of the audio signal and the video signal are loaded in step S45 and output synchronously in step S47. Otherwise, in step S48, the audio signal may be output without a corresponding video signal.
Da die Reihenfolge der Teilabschnitte des Audiosignals erkannt ist, können so auch Teilabschnitte des Audiosignals ausgegeben werden, die zeitlich vor einem Teilabschnitt des Audiosignals liegen, zu dem ein korrespondierender Teilabschnitt eines Videosignals gefunden wurde. Dadurch lässt sich gerade bei einer fehleranfälligen Übertragung des zweiten Datenstroms eine kontinuierliche Ausgabe des Audiosignals gewährleisten.Since the sequence of the subsections of the audio signal is detected, it is thus also possible to output subsections of the audio signal that are temporally ahead of a subsection of the audio signal to which a corresponding subsection of a video signal was found. As a result, a continuous output of the audio signal can be ensured, especially in the case of error-prone transmission of the second data stream.
Das dargestellte Verfahren hat den Vorteil, dass es sich in einfacher Weise auf bereits bestehende Mobilfunkstandards bzw. Kommunikationsverbindungen anwenden lässt. Insbesondere ist es möglich, ohne großen Mehraufwand eine bereits bestehende Kommunikationsverbindung fortzuführen. Es muss lediglich gewährleistet sein, dass das empfangene erste leitungsvermittelte Nutzsignal zwischengespeichert wird, so dass eine Synchronisation mit einem eventuell später empfangenen zweiten Datenstrom gewährleistet ist. Dabei ist es nicht notwendig, dass jeder Teilabschnitt des ersten Nutzsignals analysiert wird. Dies ist vielmehr abhängig von den Anforderungen des zweiten Datenstroms. Wenn beispielsweise Videosignale mit dreißig Bildern pro Sekunde übertragen werden, kann es zweckmäßig sein, das Sprach- oder Audiosignal in Abschnitte von jeweils 1/30 Sekunden zu zerlegen und aus jedem dieser Teilabschnitte ein entsprechendes Identifikationsmerkmale zu extrahieren. Ebenso ist es jedoch möglich, nur jedem x-ten Bild des Videosignals ein Identifikationsmerkmal eines entsprechenden Teilabschnitts des Audiosignals zu zuordnen. Dabei ist es bei dem erfindungsgemäßen Verfahren denkbar, dass der Empfänger die genaue Zuordnung nicht kennt. Dennoch kann eine synchrone Ausgabe erfolgen, sofern die Teilabschnitte des Audiosignals, denen kein Teilabschnitt des Videosignals zugeordnet ist, ebenfalls kontinuierlich ausgegeben werden.The illustrated method has the advantage that it can be applied in a simple manner to already existing mobile radio standards or communication connections. In particular, it is possible to continue an already existing communication connection without much additional effort. It merely has to be ensured that the received first circuit-switched useful signal is buffered so that synchronization with a possibly later received second data stream is ensured. It is not necessary that each subsection of the first useful signal is analyzed. This is rather dependent on the requirements of the second data stream. For example, if video signals are transmitted at thirty frames per second, it may be convenient to break the voice or audio signal into 1/30 second increments and extract a corresponding identifier from each of these subsections. However, it is also possible to associate only every xth image of the video signal with an identification feature of a corresponding subsection of the audio signal. It is conceivable in the method according to the invention that the receiver does not know the exact assignment. Nevertheless, a synchronous output can be made if the subsections of the audio signal to which no subsection of the video signal is assigned are also output continuously.
Neben der Synchronisation eines Videosignals auf ein entsprechendes Audiosignal lässt er sich das erfindungsgemäße Verfahren sowie die Anordnungen auf alle Datenströme anwenden, die zeitlich aufeinander abstimmbare Nutzdaten enthalten. So ist beispielsweise auch möglich, ein gemeinsames Videosignal über mehrere Übertragungskanäle und mehrere Datenströme an einem Empfänger zu übermitteln. Denkbar ist auch eine Sprach oder Audioübertragung in mehreren Datenströmen (oder Signalen), beispielsweise um ein Stereosignal zu ermöglichen. Eine Synchronisation der Datenströme kann wie angegeben erfolgen. Auch ist das Verfahren sowie die Anordnung nicht auf die Synchronisation von zwei Datenströmen beschränkt, sondern kann auf mehrere Datenströme erweitert werden, sofern die jeweils zu synchronisierenden Nutzdaten die Erzeugung von eindeutig zuordenbaren Identifikationsmerkmalen erlauben.In addition to the synchronization of a video signal to a corresponding audio signal, he can use the method according to the invention as well as the arrangements for all data streams which contain temporally mutually tunable user data. For example, it is also possible to transmit a common video signal over a plurality of transmission channels and multiple data streams to a receiver. It is also conceivable a voice or audio transmission in multiple streams (or signals), for example, to allow a stereo signal. A synchronization of the data streams can be done as indicated. Also, the method and the arrangement is not limited to the synchronization of two data streams, but can be extended to multiple streams, provided that the respective user data to be synchronized allow the generation of unique identifiable identification features.
BezugszeichenlisteLIST OF REFERENCE NUMBERS
- 11
- Sendertransmitter
- 22
- Netzwerknetwork
- 33
- Empfängerreceiver
- 1111
- Videoenkodervideo encoder
- 11a11a
- Kodiereinrichtungcoding
- 1212
- Analysevorrichtunganalyzer
- 1515
- Vorrichtung, KameraDevice, camera
- 22, 2322, 23
- Netzwerknetwork
- 23, 3523, 35
- Puffereinrichtung, SpeicherBuffering device, storage
- 24, 240, 25024, 240, 250
- Basisstationbase station
- 3131
- AudiodekoderAudio decoder
- 3333
- Videodekodervideo decoder
- 3434
- Synchronisatorsynchronizer
- 3636
- EinrichtungFacility
- 37, 3837, 38
- Ausgabevorrichtungoutput device
- 131131
- Eingang, MikrofonInput, microphone
- 151151
- Eingang, VideokameraEntrance, video camera
Claims (52)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE200610002061 DE102006002061B4 (en) | 2006-01-16 | 2006-01-16 | Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE200610002061 DE102006002061B4 (en) | 2006-01-16 | 2006-01-16 | Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement |
Publications (2)
Publication Number | Publication Date |
---|---|
DE102006002061A1 DE102006002061A1 (en) | 2007-07-19 |
DE102006002061B4 true DE102006002061B4 (en) | 2012-10-18 |
Family
ID=38190032
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
DE200610002061 Expired - Fee Related DE102006002061B4 (en) | 2006-01-16 | 2006-01-16 | Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement |
Country Status (1)
Country | Link |
---|---|
DE (1) | DE102006002061B4 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6493872B1 (en) * | 1998-09-16 | 2002-12-10 | Innovatv | Method and apparatus for synchronous presentation of video and audio transmissions and their interactive enhancement streams for TV and internet environments |
US6602299B1 (en) * | 1997-08-22 | 2003-08-05 | At&T Corp. | Flexible synchronization framework for multimedia streams |
US6836295B1 (en) * | 1995-12-07 | 2004-12-28 | J. Carl Cooper | Audio to video timing measurement for MPEG type television systems |
-
2006
- 2006-01-16 DE DE200610002061 patent/DE102006002061B4/en not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6836295B1 (en) * | 1995-12-07 | 2004-12-28 | J. Carl Cooper | Audio to video timing measurement for MPEG type television systems |
US6602299B1 (en) * | 1997-08-22 | 2003-08-05 | At&T Corp. | Flexible synchronization framework for multimedia streams |
US6493872B1 (en) * | 1998-09-16 | 2002-12-10 | Innovatv | Method and apparatus for synchronous presentation of video and audio transmissions and their interactive enhancement streams for TV and internet environments |
Also Published As
Publication number | Publication date |
---|---|
DE102006002061A1 (en) | 2007-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
DE69535553T2 (en) | VIDEO COMPRESSION | |
DE69732388T2 (en) | Method and device for transmitting data packets | |
DE69825526T2 (en) | Correction of the given time | |
DE602004000879T2 (en) | Image display device | |
DE19620186B4 (en) | Method and device for synchronizing temporally related data streams | |
DE102005032952A1 (en) | Statistical multiplexer with protective characteristics in front of external messages generated by redundant system elements | |
EP1283611A2 (en) | Method for synchronization of a communication system via a packet oriented data network | |
DE102010018376A1 (en) | Dynamic buffering and synchronization of related media streams in packet networks | |
DE602004009560T2 (en) | Data transmission synchronization scheme | |
DE102006036562B4 (en) | Method and system for transmitting data streams related to one another and / or for synchronizing data streams related to one another | |
EP1278339A1 (en) | Method and apparatus for communicating data from a first to a second data network | |
DE69910360T2 (en) | Audio information processing method and apparatus using time-adjusted encoded audio information blocks in audio / video applications to facilitate sound switching | |
DE102006002061B4 (en) | Method for receiving, for transmitting and for transmitting, transmitting and receiving arrangement and system of transmitting and receiving arrangement | |
EP1516495B1 (en) | Method for creating a system clock in a receiver device and corresponding receiver device | |
DE69432631T2 (en) | Multiplexing in a data compression and expansion system | |
DE602004004577T2 (en) | Method and device for determining the language latency by a network element of a communication network | |
DE60209548T2 (en) | Method and device for broadcasting successive content | |
DE112011101955B4 (en) | Video display device | |
WO1996024223A1 (en) | Process for the hierarchical transmission of digitised and coded video, audio and data signals | |
EP2223523B1 (en) | Method and receiving unit for synchronizing a packet-oriented reception with a calculated tone signal | |
DE102016207785B4 (en) | Method and device for quality assessment of a video stream in the transmission of video telephony | |
EP3729817A1 (en) | Method for synchronizing an additional signal to a primary signal | |
DE19820936C1 (en) | Method of evaluating a digital data flow using packet data communications with synchronization bits in each data packet and defined identifier bit positions | |
EP2745510B1 (en) | Method for handling transmission errors of a video stream | |
DE10354973B3 (en) | Method for determining transit time differences between picture and sound signals on television transmission links |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
OP8 | Request for examination as to paragraph 44 patent law | ||
8127 | New person/name/address of the applicant |
Owner name: PALM, INC. (N.D.GES. D. STAATES DELAWARE), SUN, US |
|
8128 | New person/name/address of the agent |
Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, 80538 MUENCHEN |
|
8127 | New person/name/address of the applicant |
Owner name: HEWLETT-PACKARD DEVELOPMENT CO., L.P., HOUSTON, US |
|
R081 | Change of applicant/patentee |
Owner name: HEWLETT-PACKARD DEVELOPMENT CO., L.P., US Free format text: FORMER OWNER: PALM, INC. (N.D.GES. D. STAATES DELAWARE), SUNNYVALE, US Effective date: 20110406 Owner name: QUALCOMM INCORPORATED, SAN DIEGO, US Free format text: FORMER OWNER: PALM, INC. (N.D.GES. D. STAATES DELAWARE), SUNNYVALE, CALIF., US Effective date: 20110406 |
|
R016 | Response to examination communication | ||
R016 | Response to examination communication | ||
R016 | Response to examination communication | ||
R018 | Grant decision by examination section/examining division | ||
R020 | Patent grant now final |
Effective date: 20130119 |
|
R082 | Change of representative |
Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, DE |
|
R081 | Change of applicant/patentee |
Owner name: QUALCOMM INCORPORATED, SAN DIEGO, US Free format text: FORMER OWNER: HEWLETT-PACKARD DEVELOPMENT COMPANY, L.P., HOUSTON, TEX., US Effective date: 20150114 |
|
R082 | Change of representative |
Representative=s name: MAUCHER JENKINS, DE Effective date: 20150114 Representative=s name: SAMSON & PARTNER, PATENTANWAELTE, DE Effective date: 20150114 Representative=s name: SAMSON & PARTNER PATENTANWAELTE MBB, DE Effective date: 20150114 Representative=s name: MAUCHER JENKINS PATENTANWAELTE & RECHTSANWAELT, DE Effective date: 20150114 |
|
R082 | Change of representative |
Representative=s name: MAUCHER JENKINS, DE Representative=s name: MAUCHER JENKINS PATENTANWAELTE & RECHTSANWAELT, DE |
|
R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |