WO2007000231A1 - Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals - Google Patents

Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals Download PDF

Info

Publication number
WO2007000231A1
WO2007000231A1 PCT/EP2006/005560 EP2006005560W WO2007000231A1 WO 2007000231 A1 WO2007000231 A1 WO 2007000231A1 EP 2006005560 W EP2006005560 W EP 2006005560W WO 2007000231 A1 WO2007000231 A1 WO 2007000231A1
Authority
WO
WIPO (PCT)
Prior art keywords
audio signal
trajectory
nerve
activity pattern
pattern
Prior art date
Application number
PCT/EP2006/005560
Other languages
English (en)
French (fr)
Inventor
Frank Klefenz
Original Assignee
Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. filed Critical Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V.
Priority to JP2008519813A priority Critical patent/JP4767316B2/ja
Priority to AU2006264029A priority patent/AU2006264029B2/en
Priority to EP06743146.0A priority patent/EP1896124B1/de
Publication of WO2007000231A1 publication Critical patent/WO2007000231A1/de

Links

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/41—Detecting, measuring or recording for evaluating the immune or lymphatic systems
    • A61B5/414—Evaluating particular organs or parts of the immune or lymphatic systems
    • A61B5/415—Evaluating particular organs or parts of the immune or lymphatic systems the glands, e.g. tonsils, adenoids or thymus
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/12—Audiometering
    • A61B5/121—Audiometering evaluating hearing capacity
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N1/00—Electrotherapy; Circuits therefor
    • A61N1/18—Applying electric currents by contact electrodes
    • A61N1/32—Applying electric currents by contact electrodes alternating or intermittent currents
    • A61N1/36—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
    • A61N1/3605—Implantable neurostimulators for stimulating central or peripheral nerve system
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/24—Speech recognition using non-acoustical features
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61N—ELECTROTHERAPY; MAGNETOTHERAPY; RADIATION THERAPY; ULTRASOUND THERAPY
    • A61N1/00—Electrotherapy; Circuits therefor
    • A61N1/18—Applying electric currents by contact electrodes
    • A61N1/32—Applying electric currents by contact electrodes alternating or intermittent currents
    • A61N1/36—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation
    • A61N1/36036—Applying electric currents by contact electrodes alternating or intermittent currents for stimulation of the outer, middle or inner ear
    • A61N1/36038—Cochlear stimulation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition

Definitions

  • the present invention generally relates to an apparatus, a method and a computer program for analyzing an audio signal to obtain an analysis representation of the audio signal, in particular an apparatus, a method and a computer program for detecting traveling waves in the cochlea using a Parallels Hough Transformation.
  • the peripheral sound-processing apparatus of the human eye (see Fig. 20) consists of the outer, middle and inner ear, through the external auditory canal sound is transmitted to the eardrum and is transmitted through the ossicles in the middle ear mechanical vibrations in neural nerve action potentials and passing them on to the connected auditory nerve fibers.
  • the outer ear forms a funnel that directs the incoming sound waves to the eardrum.
  • the auricle, ear canal, skull shape and shoulder modify the sound signal.
  • the auditory canal (including the auricle) is open at one end and closed at the other, it is physically approximated as a half-open tube.
  • resonance i. if one quarter of the sound wavelength equals the effective auditory channel length, a sound pressure level gain is observed.
  • the gain is up to 20 dB.
  • a second resonance (“Cavum Conchae Resonance") is produced between 2000 Hz and 2500 Hz by the auricle alone.
  • HRTF Outer ear transfer function
  • the essential task of the middle ear consists in the adaptation of the sound characteristic impedances of air and the Liquids in the inner ear. In the absence of such functionality, as in the case of
  • Conductive hearing loss reflects up to 98% of the incident sound energy. With a healthy middle ear, however, about 60% of the signal intensity can be transmitted to the inner ear. The sound pressure amplification necessary for this is made possible by the coupled coupling of the eardrum, the three auditory ossicles (hammer, anvil and stirrup) and the oval window as a contact point to the inner ear (see FIG. 22).
  • the structure of the inner ear is composed of two units. While the vestibular organ is part of the system of equilibrium, the structure of the cochlea forms the final part of the auditory periphery (see Fig. 22). Anatomically, the cochlea resembles a snail shell with two and a half turns. It is in the two through the cochlear partition (CT)
  • the mode of operation of the cochlea can again be described in two sections.
  • the hydromechanical part is determined by the macro- and micromechanical properties of the screw interior.
  • the real one Function unit for converting the input signals into neural representations is located within the cochlear partition.
  • the Scala vestibuli is connected to the middle ear via the oval window (OF). This vibrates with the stirrup movement, forcing the incompressible lymph fluid to dodge.
  • the evasive movement is transmitted to the cochlear partition wall and forms a traveling wave in the direction of the helicotrema (HC), cochlea tip. Due to the continuously variable mechanical properties (mass coating, stiffness, width, etc.) along its extent, the dividing wall forms frequency-dependent resonances at certain points. This tonotopic frequency selectivity is also called locational theory.
  • the characteristic frequencies on the partition can be assigned locations of the maximum wave amplitudes, which range continuously from high frequencies in the range of the oval window (base of the basilar membrane) to low frequencies at the helicotrema (end or apex of the
  • Basilar membrane About this dispersion property frequency content in the incoming audio signal can be split to some extent.
  • Endolymphatic fluid of the Scala Media Movement of the cochlear partition wall causes the tectorial membrane and the Cortical organ in relative motion, which leads to a deflection of the sensory hairs located on the hair cells. This happens partly through direct contact, partly also through hydrodynamic coupling.
  • the outer hair cells now have the ability to shorten or extend very quickly depending on the partition wall vibration. This leads to an amplification of the traveling wave amplitudes of up to 1000 times and produces peak and pronounced oscillation maxima.
  • the inner hair cells At rest, the inner hair cells have a resting membrane potential of about -40 mV and a low potassium concentration.
  • the surrounding liquid of the Scala Media however, has an unusually high proportion of potassium ions and is positively charged.
  • Deflection of the sensory hairs in one direction is opened by so-called transduction ion channels, through which an influx of positively charged potassium ions into the hair cell takes place for the purpose of equipotential bonding.
  • Deflection of the sensory hairs in the opposite direction closes these channels and the original potential can be restored by ionic connections into the basolateral cell membrane.
  • the channels are open, the changed sensor potential causes an increased release of afferent transmitter substance.
  • NAP nerve action potential
  • FIG. 26 shows the anatomy of the auditory periphery.
  • FIG. 26 shows the conversion or transmission of a sound via the eardrum and middle ear to the worm (cochlea).
  • the cochlea allows one
  • the cochlea also has nerve cells, which generate nerve impulses (action potentials), which are transmitted via the auditory nerve to the brain.
  • Fig. 27 shows again in schematic form the mechanism of signal transmission in the human ear. From Fig. 27 it can be seen that the cochlea 3210 perceives different frequencies at different locations (local theory). For example, high frequencies (e.g., at a frequency of 20 KHz) at the beginning of the cochlea are converted into nerve signals, while low frequencies (e.g., at a frequency of 20 Hz) at the end of the cochlea are converted into nerve signals.
  • high frequencies e.g., at a frequency of 20 KHz
  • low frequencies e.g., at a frequency of 20 Hz
  • a spectral analysis of a noise or of an audio signal can take place in the chochlea, with the nerve cells which are optimally designed for a perception of the respective frequency being strongly stimulated for a given frequency.
  • Fig. 28 shows the structure of the screw, which also addresses the geometry of the basilar membrane.
  • a Graph 3310 shows that the width of the basilar membrane 3320 increases by a factor of 10 from the base of the cochlea to the end (apex) of the cochlea.
  • a graph 3320 also shows a
  • Fig. 29 shows an exemplary substitute electrical model that can be used to model the propagation of sound waves through the cochlea to the excitation of the inner hair cells.
  • the model shown is known as the "extended Zwicker model".
  • the model describes, for example, the hydromechanics of the inner ear and the non-linear feedback of the outer hair cells. It should be noted, however, that the model shown is only one of many possible models for calculating the excitation of the inner hair cells.
  • Fig. 30 is a schematic representation of the organ of Corti, and Fig. 31 describes the structure of two different types of hair cells.
  • Fig. 32 shows a detailed schematic representation of two hair cells.
  • the schematic representation of FIG. 32 is designated 3700 in its entirety.
  • graph 3700 the chemical processes in an inner hair cell are briefly outlined here in order to improve understanding.
  • the hair cell 3710 has a plurality of stereocilia 3720, which are in the form of fine hairs.
  • An excitation or deflection of the stereocilia causes the permeability or conductivity of a cell membrane to change so that positively charged potassium ions 3730 can enter the hair cell.
  • V (t) the intracellular hair cell potential
  • positively charged calcium ions 3740 can penetrate the cell, increasing the concentration of calcium ions 3740.
  • the calcium ions then act to release neurotransmitter molecules 3750 into a synaptic cleft 3760 between the hair cell 3710 and a nerve fiber 3770. Release of the neurotransmitter molecules 3750 is typically quantized in vesicles of several thousand molecules.
  • the concentration of neurotransmitters in the synaptic cleft 3760 then alters the potential in the synaptic cleft 3760. If the potential in the synaptic cleft 3760 exceeds a certain threshold, eventually an action potential is created in the nerve fiber 3770.
  • FIG. 33 shows, for clarification, the arrangement of a plurality of hair cells in a sensory pit of a human cochlea. From the illustration of FIG. 33 it can be seen that a single hair cell typically has a plurality of stereocilia
  • the cited article describes a replica of the functionality of the inner ear including the conversion of mechanical vibrations into information about a concentration of a transmitter substance in the columns of the inner hair cells.
  • the basilar membrane is divided into 251 regions of uniform width, and each segment is connected to an inner hair cell, with the inner hair cell being excited by vibrations from the corresponding portion of the basilar membrane. For a pitch detection then the concentration of
  • Said article proposes speech recognition on the basis of a so-called Mellin image, which results from a spatial Fourier transformation from a size-shape image.
  • the size-form image is obtained from a stabilized auditory image by a plurality of conversion steps according to T. Irino and R. D. Patterson.
  • a neural net for 2D-slope and sinusoidal shape detection (published in the CIST International Scientific Journal of Computing, ISSN 1727-6209) (A neural network for Recognition of two-dimensional straight and sinusoidal forms) a neural network for pattern recognition.
  • the described neural network can learn lines in different slopes or a set of sinusoidal curves of different frequencies and recognize the corresponding patterns after the learning phase.
  • the corresponding neural network thus realizes one
  • the analysis presentation has a low data volume and yet at the same time is suitable for speech recognition. This object is achieved by a device according to claim 1, a method according to claim 30, and a computer program according to claim 31.
  • the present invention provides an apparatus for analyzing an audio signal to obtain an analysis representation of the audio signal, comprising means for calculating a neural activity pattern over time on nerve fibers of an ear model that is due to the
  • Audio signal and means for processing the neural activity pattern to obtain, as an analysis representation, a sequence of timing information describing a timing of successive trajectories, wherein a trajectory comprises activity pulses on different nerve fibers due to the same event in the audio signal.
  • time information representing a temporal location of successive trajectories of a
  • Describe nerve activity pattern are particularly well suited for analysis of the audio signal. Namely, the trajectories precisely describe the occurrence of events in the audio signal and the propagation of sound waves on a basilar membrane of a human ear. It should also be noted that a temporal location of successive trajectories varies for different sounds (vowels or consonants) or sounds. Thus, the time information is perfect for a
  • determination of the trajectories in the neural activity pattern can be done in a particularly efficient manner and, correspondingly, time information indicative of a temporal location of describe successive trajectories, can be extracted with little processing effort.
  • the present invention is also based on the finding that a neural activity pattern is particularly well suited for extracting trajectories, since the neural activity pattern includes (temporally) well-defined activity impulses (action potentials) which are particularly well suited for extracting trajectories.
  • the present invention thus provides a number of significant advantages over conventional concepts for analyzing an audio signal. Because of the use of the nerve activity pattern, high accuracy can be achieved. Incidentally, an analysis of the audio signal can be carried out in a manner that understands the human sense of hearing. All of the phenomena occurring in a human ear up to the generation of action potentials in nerve fibers of the auditory nerve can be taken into account in the neural activity pattern so that the neural activity pattern contains information that would also be received by a human brain due to an audio signal.
  • trajectories combine a large number of activity impulses onto the nerve fibers, the trajectories being described by a few parameters. Of these parameters, the timing is the most important parameter. Especially at the
  • the analysis representation according to the invention in the form of time information, which describe a temporal position of directly successive trajectories, enable a particularly reliable analysis of vowels within a speech signal. Furthermore, it has also been shown that the trajectories can be extracted in a computationally efficient manner with the aid of pattern recognition methods, wherein, for example, the application of a Hough transformation is particularly advantageous, since curved trajectories can also be readily recognized with the aid of a Hough transformation ,
  • a pattern of nerve activity describes an activity or activity impulses of a group of nerve fibers of the ear model.
  • the time information preferably indicates a time of occurrence of a trajectory.
  • a trajectory in a device according to the invention is preferably detected when activity pulses that are caused by the same event in the audio signal are present on a number of nerve fibers that is greater than a predetermined minimum number. In other words, only "long enough" trajectories are detected to arrive on more than a predetermined number of nerve fibers, thereby effectively preventing spurious pulses that do not form an extended trajectory from being erroneously identified as a trajectory.
  • An acoustic event may be, for example, a beginning of a vowel, a consonant or a sound.
  • a plurality of trajectories may also be associated with an acoustic event, as can be seen, for example, from known cochleograms is.
  • a vowel may comprise a plurality of trajectories which may be recognized in the manner according to the invention as long as they have a sufficient length and intensity.
  • a trajectory in the neural activity pattern typically describes a traveling wave on a basilar membrane of an ear model.
  • a trajectory describes a neural activity pattern on a group of adjacent nerve cells associated with a traveling wave on the basilar membrane of the ear model.
  • a trajectory describes an occurrence of activity pulses on a group of adjacent nerve fibers, wherein the activity pulses on the adjacent nerve fibers are slightly offset in time by a traveling wave.
  • individual nerve fibers are not excited (for example, due to a perturbation), so that the trajectory has an interruption, which, however, is no longer than 25% of its total length.
  • the inventive methods for determining trajectories have an error tolerance, so that non-ideal trajectories, which have, for example, short interruptions, can also be identified and characterized.
  • the time information preferably comprises an initial time of the trajectory, wherein an initial time of a given trajectory is a time at which a first activity pulse belonging to a given trajectory occurs from a nerve fiber.
  • the time information may also carry other information about the trajectory, such as a mean time of the trajectory or an end time.
  • the device for processing the nerve activity pattern comprises a device for pattern recognition, which is designed to detect a straight or curved line-shaped pattern as a trajectory in a two-dimensional representation which describes the nerve activity pattern over time Determine location of the trajectory and to provide a trajectory associated with time information analysis of the audio signal. It has been shown that an analysis of a two-dimensional representation of the
  • Nerve activity pattern allows a particularly efficient detection of trajectories. Furthermore, two-dimensional analysis techniques are capable of recognizing and characterizing straight or curved linear structures in an efficient manner. Furthermore, it has been found that trajectories, ie linear straight or curved structures, can be detected with good accuracy since, due to the spatial extent of the trajectories in a recognition, averaging takes place via a plurality of nerve fibers (which are described by the nerve activity pattern) can.
  • the means for pattern recognition is adapted to provide information about a shape of the trajectories.
  • the shape of the trajectories provides further information which, in combination with the time information, facilitates further processing of the analysis representation of the audio signal or makes possible a more meaningful further processing of the analysis representation of the audio signal.
  • the information about the shape of the trajectory preferably also includes information about a curvature of the trajectory.
  • the device for Pattern recognition is optimized to detect straight or hyperbolic curved trajectories.
  • the device for pattern recognition is designed to provide information about a length of the trajectory.
  • the length of the trajectory can namely be used in a further processing of the analysis presentation to improve the accuracy.
  • the device for pattern recognition provides information that includes a statement about which frequency range (expressed, for example, by numbers of the nerve fibers on which there is an action potential associated with the trajectory) extends over a trajectory.
  • the excited frequency range can be determined.
  • the device for processing the nerve activity pattern comprises a device for pattern comparison, which is designed to produce a two-dimensional representation, which is the
  • Nerve activity pattern over time describes to compare with at least one comparison pattern to detect a trajectory and to obtain time information describing a temporal location of the trajectory.
  • Pattern matching is an efficient way to recognize a pattern, such as a trajectory, in a two-dimensional representation. In this case, a straight or a hyperbolic curve can be used as the comparison pattern.
  • the recognition of straight or curved trajectories can be achieved particularly advantageously by the means for processing the neural activity pattern being designed to stepwise distort a two-dimensional representation of the neural activity pattern to produce a distorted representation of the two-dimensional neural activity pattern, and to detect if the distorted two-dimensional representation of the neural activity pattern contains an approximately straight line.
  • the straight line can then be recognized as a trajectory, whereupon a temporal position of the trajectory can be determined and associated trajectory associated time information can be assigned.
  • Such a device for processing the nerve activity pattern is particularly advantageous because the presence of a straight line can be easily checked.
  • a "straight line" of a trajectory is here defined by the fact that in a processing stage of the device for processing the nerve activity pattern, a plurality of activity pulses arrive simultaneously or at least overlapping in time signals arriving in one stage, wherein a simultaneous arrival of activity pulses in a stage causes a pronounced peak in a summation result of the summation.
  • the stepwise distorting of the two-dimensional representation of the neural activity pattern may, for example, be performed by a plurality of delaying means, wherein signals describing the neural activity pattern are variously delayed in stages of the means for processing the neural activity pattern.
  • the distortion of the two-dimensional representation of the nerve activity pattern is such that a curved trajectory is gradually bent straight by the stepwise distortion, wherein the
  • the device for processing the nerve activity pattern has a
  • Curve detection means adapted to receive in parallel the neural activity pattern over time in the form of a plurality of signals, and to forward the signals at different speeds (or with different delays) in parallel through a plurality of successive stages, wherein a selected stage is designed to detect when at least a predetermined number of signals in the selected stage are active simultaneously.
  • Differentially fast forwarding of multiple signals forming the neural activity pattern allows bending of trajectories present in the original neural activity pattern. If a plurality of signals are active in one stage, this indicates that a trajectory is just bent or bent approximately straight. In other words, if activity pulses enter a stage simultaneously or at least overlapping, the stage can recognize, for example due to a summation with a subsequent threshold decision, that an (approximately) straight-curved trajectory is present in the stage. In other words, a stage is preferably designed to delay a plurality of signals differently when being forwarded through the stage.
  • Curve recognition device to execute as a neural network.
  • a neural network can learn a plurality of trajectories (or trajectory forms) and then recognize them in a running operation. It is another advantage of a neural network that this also includes non-ideal trajectories that provide an ideal learning pattern are very similar, can recognize.
  • a neural network is a very good embodiment for detecting trajectories in a neural activity pattern, since non-ideal patterns that can be subject to fluctuations and disturbances can also be identified here.
  • the curve recognition device is preferably designed to detect a trajectory based on an evaluation of a Hough transformation.
  • a Hough transformation is a very effective method for recognizing analytically writable curves, but also arbitrary curves, in a two-dimensional representation.
  • the execution of the Hough transformation is preferably carried out in a parallel form, so that a very fast calculation can take place.
  • FIG. 1 shows a flow chart of a method according to the invention for calculating an analysis representation of an audio signal on the basis of the audio signal according to a first exemplary embodiment of the present invention
  • FIG. 2 is a flowchart of a method according to the invention for calculating a neurotransmitter vesicle occurrence based on the audio signal according to the first embodiment of the present invention
  • FIG. 3 is a flowchart of a method according to the invention for calculating a basilar membrane movement due to the audio signal according to the first embodiment of the present invention
  • FIG. 4 shows a flow chart of a method according to the invention for calculating a deflection of a Stereocilia due to the basilar membrane movement according to the first embodiment of the present invention
  • FIG. 5 shows a flowchart of a method according to the invention for calculating the neurotransmitter vesicle occurrence due to the deflection of a stereocilium according to the first exemplary embodiment of the present invention
  • FIG. 6 is a block diagram of a method according to the invention for calculating an action potential of a nerve fiber due to neurotransmitter vesicle leakage according to the first embodiment of the present invention
  • FIG. 7 shows a flow chart of a method according to the invention for calculating an analysis representation of an audio signal according to a second exemplary embodiment of the present invention
  • FIG. 8 is a graphical representation of exemplary nerve activity patterns
  • Fig. 9 is a graph showing a delay in propagation of audio signals of various frequencies on a basilar membrane
  • Figure 11 is a graphical representation of a cochleogram, transmitter release probability, and transmitter vesicle release for a vowel "A";
  • Fig. 12 is a graph of a
  • FIG. 13 is a block diagram of an apparatus for processing the nerve activity pattern according to the second embodiment of the present invention.
  • Fig. 14 is a graph showing signals in an apparatus for processing the nerve activity pattern according to the second example of the present invention.
  • FIG. 15 is a circuit diagram of a Hubel-Wiesel network for calculating an analysis representation of an audio signal according to the second embodiment of the present invention.
  • FIG. 16 is a circuit diagram of a Hubel-Wiesel network for calculating an analysis representation of an audio signal according to the second embodiment of the present invention.
  • 17 is a graphical representation of training patterns for training a Hubel-Wiesel network
  • FIG. 18 is a schematic representation of a device for identifying an audio signal:
  • FIG. 19 shows a schematic representation of a device for extracting an audio signal content
  • Fig. 20 is a graphical representation of the auditory periphery
  • Fig. 21 is a graph of the outer ear transfer function
  • Fig. 22 is a diagram of the middle ear and coiled cochlea
  • Fig. 23 is a graph of a listening surface
  • Fig. 24 is a graph showing a cross section of a cochlea
  • Fig. 25 is a schematic representation of a hair cell
  • Fig. 26 is a graphic representation of an anatomy of the auditory periphery
  • Fig. 27 is a diagram showing a mechanism of signal transmission in a human ear
  • Fig. 28 is a graph showing the geometry of the basilar membrane of a human ear and a reaction of the basilar membrane to excitation;
  • Fig. 29 is a graphical representation of an extended pince-nez [bi] model for describing an inner ear
  • Fig. 30 is a graphical representation of a Corti's organ
  • Fig. 31 is a diagram showing a structure of hair cells
  • Fig. 32 is a diagram of chemical processes in a hair cell.
  • Fig. 33 is a graphical representation of a sensory pit.
  • FIG. 1 shows a flowchart of a method according to the invention for calculating an analysis representation of an audio signal on the basis of the audio signal according to the first exemplary embodiment of the present invention.
  • the Flowchart of Fig. 1 is designated in its entirety by 100.
  • a neurotransmitter vesicle occurrence in columns between auditory cells and associated nerve fibers is determined for the audio signal 110.
  • the occurrence of neurotransmitter vesicles which typically comprise between one hundred and several thousand neurotransmitter molecules, is hereby determined for a plurality of auditory cells, it being assumed that the auditory cells are spatially distributed via a model of an ear. It can be assumed, for example, that the auditory cells considered in the corresponding simulation of the neurotransmitter vesicle occurrence are distributed equidistantly or approximately equidistantly over a cochlea of an ear model. Due to the excitation of the auditory cells by the audio signal, therefore, an occurrence of neurotransmitter vesicles can be determined for each of the auditory cells considered.
  • an action potential AP 1 on a nerve fiber coupled to the observed auditory cell can then be determined.
  • the procedure shown may then be repeated for all the auditory cells considered in the determination of neurotransmitter vesicle occurrence (steps 132 and 134).
  • an action potential AP1, AP2, AP3 is calculated separately on a nerve fiber assigned to the respective auditory cell on the basis of the neurotransmitter vesicle occurrence 122, 124, 126 assigned to the respective auditory cell.
  • an associated neurotransmitter vesicle occurrence 122, 124, 126 is calculated for all i auditory cells. Due to the Neurotransmitter vesicle occurrence is then calculated (for each nerve fiber separately) an associated action potential APl, AP2, AP3. Thus, upon completion of the computation i action potentials are present on nerve fibers which together form the neural activity pattern.
  • the nerve activity pattern AP1, AP2, AP3 thus represents an analysis of the audio signal which can be used for further processing, for example audio signal recognition.
  • the method according to the invention thus offers the advantage that a particularly precise and meaningful analysis of the audio signal can be formed.
  • the action potentials AP1, AP2, AP3 (which in their
  • the whole of the nerve activity pattern) on the nerve fibers are in fact very similar to those signals used by a human brain for the detection of acoustic events.
  • the action potentials AP1, AP2, AP3 are derived on nerve fibers from neurotransmitter vesicle occurrences 122, 124, 126, a particularly high accuracy can be achieved in a subsequent analysis of the audio signal.
  • the action potentials on the nerve fibers carry an accurate temporal information, since the action potentials AP1, AP2, AP3 occur quantized.
  • a dead time refractory time
  • the action potentials AP1, AP2, AP3 can be easily represented due to their quantization, not the magnitude of an action potential, but the time of the occurrence of an action potential or the rate of one after the other action potentials that carries information. This also distinguishes the inventive method substantially from known methods, in which, for example, a concentration of neurotransmitters is evaluated in a synaptic cleft, wherein the
  • Concentration represents a continuous curve that has no temporally well-defined changes.
  • the neural activity pattern comprising simulated action potentials AP1, AP2, AP3 on a plurality of nerve fibers may also be used to excite nerve fibers of an auditory nerve of the human patient having, for example, a hearing damage.
  • FIG. 2 shows a flow chart of a method according to the invention for calculating the neurotransmitter vesicle occurrence on the basis of the audio signal according to the first exemplary embodiment of the present invention.
  • the flowchart of FIG. 2 is designated in its entirety by 200.
  • a corresponding basilar membrane movement 230 is calculated in a first step 220.
  • movement of a basilar membrane is calculated using an ear model.
  • the movement can be described, for example, by speed and / or deflection of various points of the basilar membrane.
  • FIG. 1 it is pointed out that the calculation of the basilar membrane movement will be explained in more detail with reference to FIG.
  • a deflection 250 of a stereocilium coupled to the basilar membrane is then calculated.
  • the calculation of the deflection of the stereocilium is explained in more detail with reference to FIG. 4.
  • the neurotransmitter vesicle occurrence can be calculated or determined in a third step 260.
  • the calculation of the neurotransmitter vesicle occurrence is otherwise explained in more detail with reference to FIG.
  • the method shown in FIG. 2 provides an audio signal for neurotransmitter vesicle occurrence for one or more auditory cells.
  • the basilar membrane movement 230 is preferably calculated at the locations where the observed auditory cells are located.
  • the total movement of the basilar membrane can also be calculated as far as this allows for a favorable calculation (for example, using an analytical solution).
  • FIG. 3 shows a flowchart of a method according to the invention for calculating a basilar membrane movement based on an audio signal according to the first exemplary embodiment of the present invention.
  • the graphical representation of FIG. 3 is designated in its entirety by 300.
  • a mechanical sound conversion in an inner ear is calculated based on an ear model.
  • an excitation 324 of the eardrum in the ear model can be determined. For example, it can be assumed that an audio signal 310 arrives on the eardrum. Due to mechanical or fluidic calculations, the excitation of the eardrum can be determined, after which the vibration of the eardrum is known.
  • a second step 330 it is then also possible to calculate the sound transmission via the auditory ossicles of the middle ear in the ear model. This can be done a detailed mechanical analysis of the middle ear. But it is just as possible, only force or Amplitude ratios of the ossicles to take into account, resulting in a very simple calculation. Furthermore, it is possible to take into account the inertia of the ossicles and / or fluidic influences such as damping. Finally, for a calculation of the sound transmission through the ossicles also be taken into account that the
  • Transmission characteristic of the middle ear can vary depending on the sound intensity. Regardless of the complexity of the model used to calculate the
  • Sound transmission through the ossicles is used in a second step 330, as a result of the described calculation, an excitation 334 of the oval window between the middle ear and the cochlea can be determined.
  • the hydromechanical vibration excitation of the cochlea can be calculated. This can be done by a suitable hydromechanical simulation or by a simplified analytical model. Thus, as a result of analysis of the cochlea, fluidic currents in the cochlea are known or can be determined.
  • a movement 354 of the basilar membrane can be calculated in a fourth step 350.
  • linear or non-linear mechanical models can be used. It should be noted that there are a variety of ways to calculate the basilar membrane movement at selected locations where the observed nerve cells are located.
  • a linear or a non-linear filter can be used in order to determine a movement of a predetermined point of a basilar membrane (at which a hearing cell is preferably located).
  • a plurality of differently designed filters can then be used.
  • a filter describes a response of a location of the cochlea in response to the acoustic signal.
  • F. Baumgarte proposed a particularly advantageous ear model for modeling the cochlea (F. Baumgarte: "A psychophysiological hearing model for simulating perception thresholds for audio coding", thesis, University of Hannover, 2000).
  • the model of Baumgarte allows a particularly advantageous modeling of the cochlea of an ear model, wherein significant effects such as signal reflection at the end of the cochlea can be taken into account.
  • FIG. 4 shows a flow chart of a method according to the invention for calculating a displacement of a stereocilium due to the basilar membrane movement.
  • the flowchart of FIG. 4 is designated 400 in its entirety.
  • a deflection x (t) (partly also as u (t)) of a stereocilium can be determined by solving a motion equation as a function of a basilar membrane movement.
  • the basilar membrane movement is of course to be understood as a relative movement, which is preferably described by a relative velocity v (t).
  • F stoch (t) a stochastic force
  • the equation of motion of a stereocilium results as an inhomogeneous equation of motion of a harmonic oscillator of the form
  • m is the effective mass of the considered stereocilium
  • D is an effective spring constant of the stereocilium
  • K is a constant for a laminar flow resistance of the stereocilium, which describes the fluidic damping of the stereocilium.
  • the excitation of the stereocilium, which is expressed by the external force F ext is proportional to the relative velocity v (t) of the basilar membrane movement, so that:
  • C B is a constant for excitation of the stereocilium due to movement of the basilar membrane.
  • Equation of motion is a displacement x (t) of the stereocilium, sometimes called u (t).
  • a deflection of the stereocilia may be used. For example, it is possible to use a first-order equation of motion that models a low-pass behavior of the stereocilium. In other words, it can be assumed in an alternative description that a stereocilium is the
  • Low-pass system represents, by an equation of motion of the form an equation
  • FIG. 5 shows a flowchart of a method according to the invention for calculating a neurotransmitter vesicle occurrence due to a deflection of a stereocilium according to the first exemplary embodiment of the present invention.
  • the flowchart shown in FIG. 5 is designated 500 in its entirety.
  • a peak conductance (apical conduetance) G (u) can be calculated.
  • a deflection of a stereocilium changes one Number of open ion channels, which changes the conductance of a membrane of an auditory cell.
  • an intracellular hair cell potential V (t) can thus be calculated in a second step 520.
  • a model of a passive electrical circuit can be used, which allows the consideration of a cell capacity.
  • a calcium current I Ca (t) can be calculated.
  • the release of neurotransmitters into the synaptic cleft is mediated by calcium ions.
  • a fraction of open calcium channels can be determined on the basis of the intracellular hair cell potential V (t).
  • the calcium flow itself is dependent on the number of open calcium channels and a potential difference between the intracellular hair cell potential V (t) and an opposite potential for the calcium.
  • the number of open calcium channels is subject to inertia, which may also be taken into account.
  • a calcium concentration [Ca 2+ ] (t) can then be determined in a fourth step 540.
  • a low-pass character can be taken into account, wherein It can be assumed that the calcium concentration in a state of equilibrium assumes a constant value.
  • a transmitter release rate k (t) can be determined in a fifth step 550.
  • the storage of the transmitter substances in a reservoir, in the synaptic gap and in a processing memory can be considered with preference.
  • FIG. 6 shows a block diagram of a method according to the invention for calculating an action potential of a nerve fiber due to a neurotransmitter vesicle occurrence according to the first exemplary embodiment of the present invention.
  • the flowchart of FIG. 6 is designated 600 in its entirety.
  • a voltage in a nerve cell due to the neurotransmitter vesicle occurrence is calculated.
  • This voltage is, for example, a post-synaptic potential or a depolarization of the post-synaptic nerve cell.
  • a diffusion of neurotransmitters can be taken into account.
  • one average neurotransmitter concentration can be determined by evaluating a convolution integral, wherein in the convolution integral a diffusion type core can be evaluated.
  • Action potentials are taken. It is assumed that the release of neurotransmitters increases post-synaptic potential.
  • Hair cells are the connection between the basilar membrane and the auditory nerve fibers (ANF), which send impulses towards the brain.
  • ANF auditory nerve fibers
  • your voltage must increase enough and exceed a threshold. This requires a chain of events in the pre-synaptic IHC, which converts the mechanical vibrations into electrical signals.
  • At the top of an IHC are hair bundles - three rows of stereocilia - linked by so-called tip links. They follow the swinging motion of the basilar membrane - muted by the
  • x (t) stands for the deflection of the stereocilia and v (t) for the velocity of the BM, ⁇ c is one
  • the stereocilia are highly sensitive to movement. Even sinusoidal deflection of +/- 0.003 degrees is perceived as an audible signal. But even without external excitation by the vibrating basilar membrane move the stereocilia. They are subject to Brown's movement, so that even without an incoming sound wave - depending on the type of nerve fiber - up to over 100 action potentials per second are emitted.
  • Depolarization of the hair cell opens voltage-dependent calcium channels in the cell membrane, which are located in the vicinity of so-called active zones. These are regions at the afferent end of the synaptic cleft where neurotransmitters are located. From the outside, Ca ++ ions can enter the IHC in this way. This influx of calcium ions leads to the release of neurotransmitters.
  • a high speed of signal transmission is ensured by the fact that the messenger substances are already "packaged" in so-called vesicles of about the same number of a few thousand neurotransmitter molecules and are ready for retrieval. This can be modeled by so-called pools of available vesicles.
  • the release of the transmitter molecules into the synaptic cleft happens, in which the vesicle diffuses at designated sites of the pre-synaptic membrane, the active zones, and connects to the membrane Content - the neurotransmitters - releases into the gap. If the pool of available vesicles empties, it will gradually be refilled. Furthermore, the use of a reprocessing pool, in which transmitters from the gap are packaged with a certain rate back to vesicles and from there directly return to the free pool. Some of the transmitters are lost in the synaptic cleft.
  • the secretion of neurotransmitters from the pool of vesicles is generally described as binomially distributed.
  • the emission probability is dependent on the calcium concentration in the inner IHC cell membrane in the vicinity of the active zones.
  • ⁇ lk (u-VNa) m 3 hgNa + (U-VK) n 4 gK + (u-VL) gL
  • VNa, VK and VL are Nernst equilibrium potentials that determine the direction of ion exchange.
  • Ik (t) represents the ion exchange through the cell membrane
  • I (t) is an external current - here, for example, by the neurotransmitters emitted by the IHC - and C is the capacitor that the cell membrane forms. When an external current flows into the cell, the capacitor charges and leakage occurs through the membrane ion channels.
  • the temporal behavior of the conductivities as a function of the membrane potential is described by a system of three differential equations:
  • n ' ⁇ n (u) (l-n) - ⁇ m (u) n
  • h ' ⁇ h (u) (1-h) - ⁇ h (u) h.
  • the molecules of a vesicle increase the post-synaptic potential by a so-called mEPP (miniature end-plate potential) of about 0.5-1 mV.
  • mEPP minimum end-plate potential
  • Action potentials are characterized by their always almost identical time course.
  • the membrane voltage initially depolarizes extremely strongly for a very short duration of less than a millisecond, then it hyperpolarizes and is blocked for a period of time during which no further action potentials can occur.
  • ui (t) v ⁇ , where ui (t) is the voltage of the postsynaptic membrane i and v is the threshold required for triggering A.
  • Spike suppression is usually modeled using a short absolute refractory time ⁇ abs followed by in about 0.8 ms
  • Threshold voltage can be modeled by
  • an action potential is triggered when the post-synaptic potential meets the given Threshold exceeds.
  • This threshold can vary over time.
  • an action potential is generated, preferably both an absolute refractory period, ie, a dead time during which triggering of another action potential is no longer possible, and a relative refractory period during which a threshold for triggering an action potential are higher is considered to be in a dormant state.
  • the absolute refractory period can be modeled, for example, by an infinitely high threshold value v, but can also be included elsewhere.
  • the relative refractory period is preferably described by a time-variable threshold v for the triggering of an action potential.
  • the amount of information of the nerve activity pattern can be reduced, which facilitates further processing of the nerve activity pattern and storage of the nerve activity pattern.
  • a spontaneous activity of the nerve fibers can also be taken into account by means of a described arrangement.
  • the time-overlapping occurrence of a plurality of neurotransmitter vesicles does not lead to the triggering of an action potential.
  • the occurrence of a single neurotransmitter vesicle still does not trigger an action potential, whereas an overlapping occurrence of several neurotransmitter vesicles Versie in the relative refractory period may well result in triggering an action potential.
  • a particularly meaningful analysis representation of an audio signal can be generated, which comprises a nerve activity pattern.
  • the nerve activity pattern is calculated based on a neurotransmitter vesicle occurrence, wherein the stochastic nature of the neurotransmitter vesicle occurrence can be taken into account.
  • all relevant effects such as the diffusion of neurotransmitters and the potential dependency in the triggering of a
  • the nerve activity pattern calculated in the manner according to the invention has a particularly high temporal accuracy, which is required for a meaningful analysis.
  • a phase relationship between the action potentials of neighboring nerve cells can also be evaluated on the basis of a nerve activity pattern determined according to the invention, which is conventionally only of little significance due to too imprecise modeling.
  • a calculated release of a neurotransmitter vesicle may be used to deliver in a cochlear implant.
  • the resulting electrical pulses' then supply a cochlear implant.
  • the pulses can then be used to trigger auditory nerve fibers.
  • 251 nerve signals for 251 auditory nerves on the in a cochlear implant typically scales 22 available channels.
  • the neural activity pattern may advantageously be carried out according to the method described above, but other methods providing a pattern of neural activity are also useful for obtaining an improved analysis.
  • FIG. 7 shows a flow chart of a method according to the invention for calculating an improved analysis representation of an audio signal according to a further exemplary embodiment of the present invention.
  • the flowchart of FIG. 7 is designated 700 in its entirety.
  • a nerve activity pattern 730 is calculated.
  • an ear model can be used, as has already been explained in detail above.
  • Result of the calculation of the nerve activity pattern 730 are thus temporal courses of action potentials on a plurality of nerve fibers NF1, NF2, NF3, NF4, NF5.
  • the nerve activity pattern 730 has characteristic trajectories 740, 750 in response to the audio signal 710.
  • this acoustic event results in a series of action potentials ApI, AP2, AP3, AP4, AP5 which are slightly offset in time on a plurality of Nerve fibers NF1, NF2, NF3, NF4, NF5 occur.
  • a trajectory 740, 750 thus comprises a plurality of action potentials AP1, AP2, AP3, AP4, AP5 or tips on a plurality of different nerve fibers NF1, NF2, NF3, NF4, NF5 ("pulse spiking trains").
  • a trajectory 740, 750 is i.a. characterized in that it is recognizable as a line over time in a two-dimensional representation of the neural activity pattern 730.
  • the trajectory 740, 750 may be either straight or curved, with different
  • Types of curvature may occur.
  • a trajectory 740, 750 may be approximated by a section of a sine function.
  • a trajectory 740, 750 is defined to have a minimum length.
  • a trajectory 740, 750 is thus present only if action potentials AP1, AP2, AP3, AP4, AP5 occur on a minimum number of nerve fibers. The action potentials then form in a two-dimensional one
  • a two-dimensional representation of a nerve activity pattern 730 as a function of time describes here a representation in which the action potentials on multiple nerve fibers are plotted in parallel as a function of time, the time being plotted in the direction of an abscissa, and wherein Action potentials on several nerve fibers through
  • a trajectory 740, 750 is thus present if associated maxima or minima of the action potentials AP1, AP2, AP3, AP4, AP5 in the two-dimensional representation of the action potentials
  • Nerve activity pattern 730 by a straight or curved Line (which is preferably smooth or kink-free) can be connected.
  • a trajectory can thus be regarded as a connecting line of associated maxima or minima of action potentials of adjacent nerve fibers.
  • the method according to the invention shown in the flow chart 700 comprises, in a second step 754, the processing of the neural activity pattern that is formed in the first step 720. This is the
  • Nerve activity pattern 730 preferably viewed in a two-dimensional representation as a function of time and as a function of the position of the nerve fibers.
  • the nerve activity pattern 730 is thus processed in order to obtain, as an analysis representation, a sequence of time information t 1, t 2, which describes the temporal position of successive trajectories 740, 750.
  • a trajectory 740, 750 comprises activity pulses AP1, AP2, AP3, AP4, AP5 on different nerve fibers NF1, NF2, NF3, NF4, NF5 due to the same event in the audio signal.
  • the determined time information t1, t2 in this case describe the time of occurrence of the trajectories 740, 750.
  • a trajectory 740, 750 is only recognized if a minimum number of nerve fibers NF1, NF2, NF3, NF4, NF5 Action potential APl, AP2, AP3, AP4, AP5, thereby preventing individual activity potentials in the neural activity pattern from being erroneously identified as a trajectory.
  • an acoustic event involving a trajectory may be a beginning of a sound.
  • Even vowels generate at least one characteristic trajectory, which in the inventive method can be recognized, and then a time information can be assigned.
  • a sound even comprises a plurality of trajectories, wherein preferably associated time information can be generated for each of the successive trajectories.
  • the time information may, for example, characterize an initial point in time of the trajectory, ie a point in time at which the first nerve fiber NF1, NF2, NF3, NF4, NF5 belonging to the trajectory 740, 750 has an action potential AP1, AP2, AP3, AP4, AP5.
  • the processing of the neural activity pattern 730 may be designed to recognize such patterns in the neural activity pattern as a trajectory associated with a traveling wave on a basilar membrane of an ear model.
  • a trajectory can be recognized when an excitation pattern based on propagation of a traveling wave is present on the individual nerve fibers.
  • a traveling wave typically triggers action potentials on the majority of nerve fibers one after the other and with a small but non-disappearing temporal offset.
  • nerve fibers which preferably respond to low frequencies according to the ear model, are activated later or have an action potential than nerve fibers, which preferably detect high frequencies.
  • nerve fibers which preferably detect high frequencies.
  • auditory nerves responding to high frequencies are located at the beginning of the cochlea and the basilar membrane, respectively, whereas auditory nerves detecting low frequencies are located at the end of the cochlea.
  • FIG. 7 also shows action potentials AP1, AP2, AP3, AP4, AP5 on a plurality of nerve fibers NF 1, NF 2, NF 3, NF 4, NF 5. It is assumed here that a first nerve fiber NF 1 associated with a high frequency (eg 20 kHz), while a fifth nerve fiber (NF 5) is associated with a lower frequency (eg 20 Hz). An intermediate second nerve fiber NF 2, a third nerve fiber NF 3 and a fourth nerve fiber NF 4 are associated with intermediate frequencies.
  • Initial time tl can be assigned.
  • a subsequent second acoustic event in turn generates action potentials AP6, AP7, AP8, AP9, AP10 on the nerve fibers NF1, NF2, NF3, NF4, NF5, which form the second trajectory 750.
  • the second trajectory 750 may then be assigned a second time t2.
  • the task of processing the nerve activity pattern in the second step 730 is now the first trajectory 740 and the second trajectory 750 and to provide corresponding time information (t1), (t2) associated with the trajectories 740, 750.
  • the time information (t1) and (t2) thus form an improved analysis representation of the audio signal 710, which allows an even more advantageous processing than the nerve activity pattern itself.
  • the improved analysis representation 760 can also be used in particular for the purpose of speech recognition. In addition, the improved analysis representation 760 is also very well suited for a rhythm detection of a signal.
  • FIG. 8 shows a representation of exemplary nerve activity patterns for a better understanding.
  • a first plot 810 shows how a basilar membrane 820 is excited by an acoustic pulse 824 (CLICK).
  • the acoustic pulse 824 is coupled through the oval window of the cochlea and thus first reaches a base 830 of the basilar membrane 820.
  • the acoustic pulse then propagates via the basilar membrane 820 to its apex 834.
  • five (auditory) nerves are arranged, with a graph showing 840 pulsatile responses of the basilar membrane 820 upon excitation by the acoustic pulse 824 at various locations of the basilar membrane. It can be seen that near the base 830 of the basilar membrane 820 there is a short impulse response that comprises substantially high frequency components, whereas near the apex 834 of the basilar membrane 820 there is a long impulse response comprising essentially low frequencies.
  • Another plot 850 shows impulse responses for a variety of locations along the basilar membrane.
  • An abscissa 860 describes the Time, while an ordinate 862 indicates a location along the basilar membrane 820.
  • the impulse responses at various locations along the basilar membrane 820 upon excitation by the acoustic pulse 824, have a plurality of trajectories, two trajectories 870, 872 being exemplified in the plot 850.
  • trajectories shown in the plot 850 of the impulse response of the basilar membrane may also be similarly identified in a nerve activity pattern, which is not explicitly shown here.
  • the trajectories 870, 872 shown in the graph 850 have a different curvature behavior.
  • the different curvature behavior results from the fact that at different locations of the basilar membrane 820 different frequencies are dominant (for example, high frequencies at the base of the basilar membrane and low frequencies at the apex of the basilar membrane).
  • Another graphical representation 880 shows analogous to the graphical representation 810 an excitation of a
  • FIG. 9 shows a graphic representation of a delay in a propagation of signals of different frequencies on the basilar membrane.
  • a first graph 910 describes a latency of auditory nerve fibers as a function of a characteristic frequency.
  • a frequency is hereby plotted on an abscissa 912 in a range between 0.1 kHz and 16 kHz.
  • An ordinate of 914 describes a latency of the auditory nerve fiber in a range between 0 and 12 milliseconds.
  • a curve 920 describes a course of a latency of the auditory nerve over the frequency for a cat caused by a sinusoidal signal. Measuring points 924 describe a similar course for a chinchilla. It has been found that the latency on auditory nerve fibers as a function of. characteristic frequency fi for the relevant nerve fiber can be described by the following equation:
  • a second plot 930 shows a distance from a cerebellar auditory cell associated with a characteristic frequency. This will become again clearly that high frequency auditory cells are located near the base of the human cochlea, while low frequency auditory cells are located away from the base of the human cochlea.
  • the present illustration consisting of the first graph 910 and the second graph 930 also shows that latency of the auditory nerve for low frequencies (below about 0.5 kHz) increases sharply. It can be concluded that a propagation time in the vicinity of the end of the basilar membrane (ie away from the base of the cochlea) significantly decreases.
  • the described latency of the auditory nerve fibers results in a curvature of trajectories in the neural activity pattern describing action potentials on a plurality of nerve fibers coupled to auditory cells.
  • FIG. 10 shows a graphic representation of a cochleogram for a vowel "i" and for a nonharmonic tone complex of 700 Hz, 900 Hz and 1100 Hz.
  • An abscissa 1010 describes the time, while an ordinate 1020 describes a frequency
  • the cochleogram of the non-harmonic tone complex also shows trajectories labeled 1060.
  • FIG. 11 shows a further graphical representation of a cochleograra as well as a transmitter release probability and a transmitter vesicle release for a vowel "A.”
  • the cochleogram here is shown in a first graphical representation 1110.
  • a second graphical representation 1120 describes one It is noted here that the cochleogram describes basal membrane excitation over time and frequency, based on which, as described above, a neurotransmitter vesicle release probability can be assessed by analysis of the neurotransmitter vesicle mechanical, chemical and electrical processes in an auditory cell are calculated
  • Release probability for example, has been referred to as k (t).
  • Freiezéezi 'tk (t) can then be a neurotransmitter vesicle release are computed by a stochastic analysis.
  • An example of an emerging neurotransmitter vesicle release is shown in the third plot 1130. It can be seen here that the vesicle release also has characteristic trajectories over time and frequency. These trajectories are then mapped onto trajectories of action potentials (ie, trajectories in the neural activity pattern) by modeling the synaptic cleft.
  • FIG. 12 shows a graphic representation of a processing chain for an analysis according to the invention of an audio signal according to the second exemplary embodiment of the present invention.
  • the graph of FIG. 12 is labeled 1200 in its entirety.
  • the motion of a basilar membrane 1220 at a plurality of points (or locations or regions) is calculated.
  • An excitation pattern of the basilar membrane depending on a position along the basilar membrane, is then either delivered directly to a trajectory recognition device, or a neural activity pattern is generated based on the excitation pattern of the basilar membrane, which is used for further processing.
  • the excitation pattern of the basilar membrane, as well as a derived nerve activity pattern, when viewed over time has a plurality of trajectories that are characteristic of an audio signal.
  • the trajectories are typically bent due to the time differences between high and low frequencies described with reference to FIGS. 8 and 9.
  • the trajectories may be interrupted, for example.
  • Basilar membrane different excitation patterns and trajectories occurs. Broken trajectories or partial trajectories, which are excited only in a certain frequency range, are characteristic of speech signals, for example.
  • Nerve activity pattern is then supplied to an acoustic core 1240.
  • the acoustic core is designed to allow a time between two peaks detect. Moreover, it is pointed out that the task of the acoustic core is to identify trajectories in the nerve activity pattern (or basilar membrane excitation pattern).
  • the acoustic core can be designed to analyze the entire frequency range, ie all nerve fibers that make up the nerve activity pattern, or only a selected subrange. Furthermore, it is also possible to analyze different combinations of partial areas as well as the entire frequency range in parallel.
  • the acoustic core 1240 is designed to detect a trajectory when a minimum number of considered nerve fibers has an activity pattern 1230, which in a time-nerve fiber number representation corresponds to a linear course in the form of a typically curved line.
  • the acoustic core 1240 then provides as output a series of timing information describing a timing of the trajectories. This can be, for example, the start time of a trajectory or a mean time within a trajectory. Otherwise, it is pointed out that it is preferable to carry out a parallel evaluation for a plurality of frequency bands or for a plurality of groups of nerve fibers in order to convert the partial information to a plurality of frequency bands for further processing, for As a speech recognition to provide.
  • An exemplary output signal of an acoustic core 1240 is shown in graph 1250.
  • Output of the acoustic core 1240 hereby represents an improved analysis signal, in which the amount of data compared to the nerve activity pattern 1230 is significantly reduced.
  • the acoustic kernel output 1250 describes only discrete times for one or more frequency bands associated with trajectories are. The discrete times are designated 1260 here.
  • the information divided by frequency bands, which describe the timing of trajectories, are also particularly well suited for speech recognition.
  • FIG. 13 shows a block diagram of a device for processing the nerve activity pattern according to the invention.
  • the device shown in Figure 13 is designated in its entirety by 1300.
  • the illustrated device 1300 has a plurality of stages 1310, 1312, 1314, wherein the first stage 1310 receives in parallel signals 1320, 1322, 1324 from nerve cells.
  • the signals 1320, 1322, 1324 preferably describe action potentials on nerve fibers coupled to the respective nerve cells, thus describing the pattern of nerve activity.
  • first nerve signal 1320 is then subjected to a delay in a first delay device 1330 and then forwarded as a delayed nerve signal 1332 to a second stage 1312.
  • second nerve signal 1322 is also delayed in the first stage 1310 and forwarded to the second stage 1312 as a delayed nerve signal.
  • the remaining nerve signals in the first stage 1310 are also processed (thus, for example, also the nth nerve signal 1324).
  • the second stage 1312 is designed parallel to the first stage 1310, thus again enabling the delayed one
  • Nerve activity pattern now comprises a plurality of successive stages, which are the same as the first stage 1310 and the second stage 1312 are constructed.
  • the nerve signals 1320, 1322, 1324 thus become parallel passed through the plurality of stages 1310, 1312, 1314, with each stage adding an adjustable delay to the nerve signals.
  • each of the stages 1310, 1312, 1314 is designed to form a sum of the nerve signals (or m times retarded nerve signals) entering and leaving, respectively. Further, stages 1310, 1312, 1314 are preferably configured to compare this sum with an adjustable threshold to determine if at least a predetermined number of nerve or delayed nerve signals (ie, incoming nerve signals or leaking nerve signals) are active at a given time (or have an action potential).
  • the delays of the delay means present in the stages 1310, 1312, 1314 are set differently so that, for example, a first nerve signal 1320, when passing through the stages 1310, 1312, 1314, is subject to a different delay than the second nerve signal 1322.
  • delays For example, they may be set to provide different total delays for the nerve signals 1320, 1322, 1324 when passing through the stages 1310, 1312, 1314 (although it is admittedly permissible, for example, to delay two nerve signals in the same manner).
  • the device 1300 is preferably designed so that the same delays do not occur for all nerve signals.
  • j stages 1310, 1312, 1314 at least (j-1) stages 1310, 1312 are designed such that the delay means for the "plurality of nerve signals contained in one stage do not all have the same delay. It can thereby be achieved that a nerve activity pattern entering a device 1300 according to the invention over time passes through the device described is temporally distorted, that is, that individual nerve signals are shifted in time compared to other nerve signals. Due to the distortion curved line-like patterns, ie trajectories, can be bent in a temporal representation in the nerve activity pattern.
  • Nerve activity pattern has been bent to a straight line (which is described by the fact that a predetermined number of delayed nerve signals almost simultaneously or temporally overlapping have an action potential).
  • FIG. 14 shows an exemplary graphical representation of the signals in a device 1300 for processing the nerve activity pattern according to the invention.
  • the graphical representation of FIG. 14 is designated 1400 in its entirety.
  • a first graphical representation 1410 describes here an exemplary nerve activity pattern at inputs of the device 1300. Shown here are by way of example the
  • the action potentials 1412 form a trajectory 1314.
  • the trajectory 1414 has a large curvature in the timing as the action potentials 1412 from the various nerve fibers at the inputs of the first stage 1310 have a significant skew.
  • a threshold value for a sum of the action potentials applied to the first stage which is set to two, for example, is not exceeded. Consequently, the first stage does not provide an output at a threshold output.
  • a second plot 1420 describes the conditions at an output of the first stage 1310.
  • the nerve signal delivered by the first nerve cell NZ 1 is delayed more than the nerve signal delivered by the other stages.
  • the nerve signal delivered by the fourth nerve cell NZ4 is least delayed, while the nerve signal from the third nerve cell NZ3 is somewhat more delayed, and the delay for nerve signals from the nerve signals NZ2 and NZ1 always increase more.
  • signals associated with nerve cells that respond to a lower frequency are less delayed than nerve signals from nerve cells that detect higher frequencies.
  • the second graph thus again shows action potentials 1424 as a function of time, with the action potentials 1422 forming a trajectory 1424.
  • the curvature of the trajectory 1424 at the outputs of the first stage is less than a (temporal-spatial) curvature of the trajectory 1414 at the inputs of the first stage. This results from the different delay of the nerve cells belonging to different nerve signals in the
  • Delay devices eg 1330 of the first stage.
  • a curved trajectory is straightened as it were.
  • the second trajectory 1424 still has a residual curvature, so that the action potentials 1422 originating from different nerve cells or nerve fibers do not all coincide at the same time Outputs of the first stage 1310 and inputs of the second stage 1312 abut.
  • a third plot 1430 depicts the retarded nerve signals at second stage outputs in second stage 1312. It can be seen from the third plot 1430 that, in the present example, the nerve signals at the second stage outputs are each delayed such that action potentials 1432 from several nerve cells are applied simultaneously to the outputs of the second stage. In other words, a trajectory 1434 described by action potentials 1432 is at least approximately straight.
  • the action potentials 1432 thus occur simultaneously or approximately simultaneously (but at least overlapping in time) so that the simultaneous occurrence by a summation of the signals present at the outputs of the second stage (or inputs of the third stage) has a clear peak which is large enough is to exceed a predetermined threshold (eg two or three).
  • a predetermined threshold eg two or three
  • the analysis representation may include both characteristic time information of the trajectories and information about the shape or curvature of the trajectories.
  • the additional information about the shape of the trajectories can then be used in a further processing of the
  • Analysis presentation can be exploited advantageous to z. B. to facilitate speech recognition or to improve a recognition quality in speech recognition.
  • a fourth graph 1440 still shows output signals at outputs of a third stage to improve the understanding.
  • Action potentials 1442 describe a trajectory 1444 which, however, is curved again by further bending the trajectory.
  • the delays in stages 1310, 1312, 1314 can be achieved in various ways.
  • the delay devices e.g., 1330
  • one or more delay devices may be deactivated in a predetermined stage for one or more nerve signals, so that some nerve signals are passed through a stage with the least possible delay.
  • the device 1300 as a whole may be implemented as an analog or digital circuit.
  • FIG. 15 shows a circuit diagram of an exemplary Hubel-Wiesel network for the calculation according to the invention of an analysis representation of an audio signal according to the second Embodiment of the present invention.
  • the circuit diagram of FIG. 15 is designated 1500 in its entirety.
  • First circuit block 1510 receives input signals 1520, 1522, 1524 which may include, for example, a neural activity pattern or an excitation pattern
  • the input signals 1520, 1522, 1524 are then passed through a plurality of stages 1530, 1532, 1534.
  • An input signal 1520 thus passes through a plurality of stages 1530, 1532, 1534, wherein an input signal 1520 in a stage 1530, 1532,
  • the delay devices 1534 either passes through a delay or is forwarded directly to a subsequent stage.
  • the delay devices can also be bridged.
  • each stage includes switchable delay means for each signal, which delay means can be switched on or bypassed in a signal path traversed by an input signal.
  • Signals at the inputs of each stage are tapped and supplied to summers 1540, 1542, 1544, summing each of the signals present at the inputs of a stage.
  • the first circuit block 1510 thus forms a grid of delay elements and adders connected in the manner shown.
  • the Hubel-Wiesel network 1500 also has a threshold device 1550, wherein each one value from a threshold value register 1560, 1562, 1564 and a
  • a comparator 1570, 1572, 1572 is supplied.
  • Output signals 1580, 1582, 1584 of the comparators 1570, 1572, 1574 thereby provide a statement as to whether a number of signals are active simultaneously at the inputs of a predetermined stage 1530, 1532, 1534, wherein a minimum number at which an active output signal 1580, 1582, 1584 is output through the threshold registers 1560, 1562, 1564 is fixed.
  • comparators 1570, 1572, 1574 may be used in conjunction with summers 1540, 1542, 1544 and threshold registers 1560, 1562, 1564 to determine if (or after passing through many of stages 1530, 1532, 1534). a trajectory read in via the inputs 1520, 1522, 1524 of the first block 1510 has just been bent.
  • the delays of the individual stages 1530, 1532, 1534 can be suitably specified in this case, in order to enable recognition of the greatest possible number of trajectories (or trajectory forms).
  • FIG. 16 shows a block diagram of a Hubel-Wiesel network for the calculation according to the invention
  • Hubel-Wiesel network is designated in its entirety by 1600.
  • Input neurons 1610 are designed to receive a neural activity pattern or an excitation pattern of a basilar membrane of an ear model in the form of parallel time signals.
  • Nerve activity patterns are forwarded through multiple stages of the neural network with the optional inclusion of delay neurons.
  • the delay neurons 1620 may also be bypassed such that no delay in a signal provided by an input neuron 1610 occurs in one stage.
  • the neural network also has output neurons 1630.
  • the interconnection of the neural network 1600 can be taken from FIG. 16. It should be noted that the neural network shown is capable of producing a curved trajectory in a neural activity pattern (or basilar membrane excitation pattern) that crosses over the Input neurons 1610, the neural network 1600 is input to recognize.
  • the neural network is thereby able (after a training) to determine both the timing and shape of a trajectory in a nerve activity pattern input via the input neurons 1610, an active output neuron describing this information.
  • the information about the shape and time of a trajectory are coded by which output neuron is activated when.
  • FIG. 17 shows a graphical representation of exemplary separation patterns that may be used to train a neural network 1600. After training, the neural network 1600 is then able to identify corresponding straight or curved traces as trajectories.
  • a Hubel-Wiesel mesh 1600 is well suited for detecting trajectories in a nervous activity pattern.
  • the nerve activity pattern at inputs 1520, 1522, 1524 of the Hubel-Wiesel network is to be created.
  • outputs 1580, 1582, 1584 of comparators 1570, 1572, 1574 are then signals that include a statement about the shape and timing of a trajectory.
  • the output signals 1580, 1582, 1584 can still be brought into a more easily interpretable form, if required, from which, for example, a time information about a trajectory emerges directly. The time information then forms the advantageous analysis presentation.
  • the neural network 1700 shown in FIG. 17 which lends itself very well to recognition of trajectories in a nervous activity pattern, is described in detail in the article "A neural net for 2D-slope and sinusoidal shape detection" A. Brückmann, S. Klefenz and A. Fin (published in the CIST International Scientific Journal of Computing, ISSN 1727-6209) has been described in detail.
  • the processing of the nerve activity pattern is preferably carried out by applying a so-called Hough transformation (cf. US Pat. No. 3,069,654).
  • a Hough transform is capable of effectively detecting successive trajectories in a spatio-temporal pattern.
  • the Hough transformation is excellently suited for extracting an analysis representation from an audio signal, since in the context of the present invention it was recognized that precisely trajectories in a nerve activity pattern of an ear model represent a characteristic information of the audio signal, which can advantageously be used for further analysis.
  • the nerve activity pattern for a plurality of nerves over time results in a two-dimensional pattern, along a first direction signals on multiple nerve fibers can be represented by an intensity distribution or by numerical values, whereas in a second direction temporal development.
  • a typical form of representation for a temporal course of a nerve activity pattern can thus be, for example, similar to the cochlear diagrams (cochleograms) shown.
  • a two-dimensional pattern comparison over the temporal representation of the nerve activity pattern can also be carried out in order to obtain a sequence of time information which describes a temporal position of successive trajectories.
  • the time information about trajectories contained in the nerve activity pattern includes, especially good for analyzing the audio signal.
  • Both the neural activity pattern and the temporal representation with information about trajectories contained in the neural activity pattern are hereinafter referred to as audio signal representatives.
  • FIG. 18 shows a schematic representation of a device for identifying an audio signal.
  • the device shown in FIG. 18 is designated 1800 in its entirety.
  • the facility includes a
  • Comparator 1810 coupled to an audio signal database 1820.
  • the comparator 1810 is further supplied with an audio signal representative 1830. Based on the audio signal representative 1830 and comparison audio signal representative contained in the audio signal database, the
  • Comparator 1810 a comparison result 1850, which includes a statement about whether the audio signal representative 1830 has a similarity to at least one stored in the audio signal database comparison audio signal representative 1840.
  • the comparison result 1850 can also include a statement as to which comparison audio signal representatives 1840 the audio signal representative 1830 has the greatest similarity.
  • the comparator 1810 may include any device for comparing two audio signal representatives. For example, it is possible to use a device that can determine a mathematical distance between the audio signal representative and the comparison audio signal representative based on mathematical methods. Further, a neural network may also be used to compare the audio signal representative 1830 with the comparison audio signal representative 1840. A neural network can each be trained, for example, with a plurality of audio signal representatives. It is further noted that the audio signal database: 1820 may include, for example, a plurality of comparison audio signal representatives describing pieces of music. Furthermore, it is just as possible that the audio signal database comprises comparison audio signal representatives which only describe individual sounds, for example a vowel or a consonant. Thus, the illustrated means 1800 for identifying an audio signal may also be for a
  • Speech recognition can be effectively used, the selected audio signal representatives are particularly well suited for such an application.
  • FIG. 19 shows a schematic representation of a device for extracting an audio signal fingerprint from the audio signal representative.
  • the device for extracting the audio signal fingerprint shown in FIG. 19 is designated in its entirety by 1900.
  • an audio signal representative 1910 is supplied to feature extraction means 1920.
  • the feature extraction device 1920 generates an audio signal fingerprint 1930 based on the audio signal representative 1910.
  • the audio signal fingerprint 1930 is then preferably supplied to an audio signal database 1940.
  • the feature extraction means 1920 may be configured to extract a pitch and / or a rhythm from the audio signal representative 1910.
  • a pitch may be extracted by identifying those nerve fibers having maximum activity in the neural activity pattern.
  • the nerve fiber with the highest activity in the nerve activity pattern is in fact a good measure of a pitch, since the nerve fibers typically have a preferred frequency.
  • changes (or the corresponding points in time of the changes) in the nerve activity pattern may be used to determine a rhythm of the audio signal. Recognition of changes in the nerve activity patterns is comparatively easily possible by determining a distance measure between, for example, successive instantaneous values of the nerve activity pattern. As a mathematical standard is formed. Significant changes can be detected if the distance exceeds a given value.
  • Pattern recognition techniques may also be applied to the audio signal representative 1910 to generate an audio signal fingerprint.
  • the audio signal fingerprint may thus comprise, for example, combined information about a pitch and / or rhythm of the audio signal.
  • the audio signal representative 1910 is a representation that includes time information on trajectories contained in the neural activity pattern
  • feature extraction is possible in a particularly simple manner. Namely, for example, time intervals between the successive trajectories can be calculated, which are then characteristic of the audio signal.
  • a form of the trajectories is a particularly important feature.
  • a sound event is typically associated with a plurality of trajectories having a characteristic shape and a characteristic shape Have distance.
  • a group of a plurality of trajectories may be evaluated, whereupon a symbol is assigned to each of a group of trajectories.
  • a sequence of symbols belonging to successive groups of trajectories then form the audio signal fingerprint and can be stored in a database.
  • speech recognition can be realized based on an analysis of a group of trajectories since vowels and consonants each have characteristic trajectory patterns (in terms of distance and shape of the trajectories) that can be recognized.
  • the present invention provides a neurophysiologically parametrized model of the first stages of the auditory system model.
  • the model consists of a cochlear modeling, a harmonic oscillator model of the
  • the model according to the invention comprises a description for the generation of post-synaptic action potentials. It should be noted here that preferably a spring constant value is used for the description of the stereocilia, which is determined with the aid of an atomic force electron microscope.
  • the model according to the invention can serve, for example, for optimizing a simulation of cochlear implants, since cochlear implants directly stimulate the auditory nerve.
  • a significant advantage of the present invention is that the device is adapted in a neurophysiological manner. Furthermore, a stochastic distribution of neurotransmitter vesicles is considered in an advantageous manner.
  • an oscillator model according to the invention is used, wherein the equations of motion for the stereocilia movement is optimized.
  • An equation of force or equation of motion for the stereocilia movement is:
  • Dx describes the spring restoring force kx a laminar flow resistance
  • the present invention shows an apparatus for analyzing an audio signal, wherein the first stages of the auditory system of the mechanical sound conversion in the inner ear, the transmission through the ossicles, the hydromechanical vibrational excitation of the cochlea, the mechano-electrical conversion of the inner hair cells to generate the pulse peaks (pulse-spike generation) of the spiral ganglion cells of the auditory nerve.
  • a particular advantage of the present invention is the use of the model used for basilar excitation. Further, in the present invention, a particularly advantageous modeling of the inner hair cells is used. Release of neurotransmitters in a synaptic cleft is packaged in vesicles according to the present invention.
  • the present invention further includes a particularly advantageous model of coupling between the basilar membrane and movement of the basilar membrane Stereocilia, using a harmonic oscillator model.
  • Another advantage of the present invention is also in a neurophysiological parameterization. For a spring stiffness constant, an IHC table value was assumed for the mouse.
  • a post-synaptic peak generation (postsynaptic spike generation) is carried out according to the invention using a diffusion / refractory model). The present invention is therefore able to reproduce auditory processes very realistically, ie to generate and analyze them.
  • the present invention also provides a device for expanding traveling waves on a cochlear traveling cochlea (cochlea).
  • the corresponding device is based on a frequency-dependent calculation formula for delay trajectories along a basilar membrane. This formula is based on the work of Greenberg. The delay of the trajectories arises from the wave group velocity when a pulse spreads on the basilar membrane of an ear model. Low frequencies result in a time-delayed eruption on the basilar membrane as the low frequencies are registered at the end of the basilar membrane. Thus, for the low frequencies the propagation delay of the basilar membrane is effective.
  • Curved paths or trajectories can be determined advantageously with a Hough transformation. So the Hough transformation is very well suited to recognize circles, ellipses or straight lines, but also other line-shaped curves can be recognized by means of a Hough transformation.
  • a timing feed forward network according to the Hubel-Wiesel theory can self-learn patterns such as bars or sine-wave signals of different frequencies.
  • a Hubel-Wiesel network can self-organizing and self-organizing learn a Hough transform according to a described delay line method.
  • Hough transform Information acquisition from the parallel pulse-spike trains (Pulse spiking trains) is coupled directly to the auditory nerve of an ear model.
  • the Hough transform is flanked directly to the auditory nerve to process the parallel "pulse spiking trains.”
  • the Hough transform now straightens delay trajectories and detects both the waveform (curvature) and the time of occurrence Trajectories:
  • the data is continuously traversed through multiple stages, and unlike well-known analysis methods, time-windowing is not required.
  • the present invention models the first stages of the auditory system, from mechanical noise transmission in the inner ear, transmission through the ossicles, hydromechanical vibrational excitation of the cochlea, mechano-electrical conversion at the inner hair cells, to the generation of pulse peaks (pulse spike generation) in the spiral ganglion cells of the auditory nerve.
  • Each audio signal generates a two-dimensional basilar membrane velocity profile plotted against time, with the basilar membrane preferably subdivided into n-sections.
  • a click pulse generates a traveling wave motion on the basilar membrane.
  • An audio signal comprising, for example, vowels is through a bunch of delay trajectories given, wherein the delay trajectories each having a frequency-dependent form.
  • the present invention makes it possible to detect the delay trajectories.
  • a Hubel-Wiesel neurosimulator according to the invention can preferably be used, which can itself learn the detection of sinusoidal patterns or straight lines.
  • a corresponding Hubel-Wiesel neurosimulator can preferably learn a parallel Hough transformation, which can advantageously be used in a device according to the invention for generating an analysis signal on the basis of an audio signal.
  • a size-shape-image can be generated directly from a neural activity pattern in one step.
  • a further analysis of the audio signal can be carried out according to the invention in a Hough space (hough-space).
  • the device according to the invention also defines a method according to the invention.
  • the method can be carried out in any manner, with an electronic
  • the device according to the invention and the method according to the invention can be implemented in hardware or in
  • the implementation can be on a digital storage medium, such as a floppy disk, a CD, a DVD or a FLASH memory with electronically readable control signals that can interact with a programmable computer system so that the corresponding method is executed.
  • the present invention thus also consists in a computer program product with program code stored on a machine-readable carrier for carrying out the method according to the invention, when the computer program product runs on a computer.
  • the invention can thus be described as a computer program with a program code for
  • Implementation of the method can be realized when the computer program runs on a computer.
  • the present invention thus shows the processing of a basilar membrane vibrational pattern by means of Hough transformation.

Abstract

Eine Vorrichtung (700) zum Analysieren eines Audiosignals, um eine Analysedarstellung (760) des Audiosignals (710) zu erhalten, umfasst eine Einrichtung (720) zum Berechnen eines Nervenaktivitätsmusters über der Zeit auf Nervenfasern eines Ohrmodells, das sich aufgrund des Audiosignals (710) ergibt, und eine Einrichtung (754) zum Verarbeiten des Nervenaktivitätsmusters, um als Analysedarstellung (760) eine Folge von Zeitinformationen (t1,t2) zu erhalten, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien (740,750) beschreiben, wobei eine Trajektorie (740,750) Aktivitätsimpulse auf verschiedenen Nervenfasern (NF1, NF2, NF3, NF4, NF5) aufgrund des gleichen Ereignisses in dem Audiosignal (710) umfasst. Eine erfindungsgemäße Vorrichtung (700) zum Analysieren des Audiosignals liefert eine Analysedarstellung (760) des Audiosignals, die eine für das Audiosignal (710) charakteristische Information in einer besonders effizienten Weise erzeugt. Die in der erfindungsgemäßen Weise erzeugte Analyseinformation kann beispielsweise für eine automatische Erkennung eines Audiosignalinhalts, beispielsweise in Form einer Spracherkennung, vorteilhaft eingesetzt werden.

Description

- ,M r - .
P A T E N T A N W Ä L T E
European Patent Attorneys European Trademark Attorneys
Patentanwälte Postfach 246 82043 RJlachbθ München
Fritz Schoppe* Dipl -Ing Tankred Zimmermann* Dipl -Ing
Fraunhofer-Gesellschaft zur Forderung Ferdinand Stockeier* Dipl -Ing der angewandten Forschung e.V. Franz Zinkler* Dipl -Ing Hansastraße 27c Markus Schenk* Dipl -Phys 80686 München Gunter HersιnaΔ, Dipl -Ing
Telefon/Telephone +4989790445-0 Telefax/Facsimile +49897902215 Telefax/Facsimile +498974996977 e-mail maιl@schopρe-zιmmermann com
VORRICHTUNG, VERFAHREN UND COMPUTERPROGRAMM ZUR ANALYSE EINES
AUDIOSIGNALS
* Patentanwalt, European Patent Attorney, European Trademark Attomey
Δ Patentanwalt, European Trademark Attorney
Postanschrrft /Mail address Postfach /P O Box 246, 82043 Pullach bei München
Kanzleianschrift/Officθ address Hermann-Roth-Weg 1, 82049 Pullach bei München
USt-Id Nr Λ/AT Registration Number DE 130575439 VORRICHTUNG, VERFAHREN UND COMPUTERPROGRAMM ZUR ANALYSE
EINES AUDIOSIGNALS
Die vorliegende Erfindung bezieht sich im Allgemeinen auf eine Vorrichtung, ein Verfahren und ein Computerprogramm zur Analyse eines Audiosignals, um eine Analysedarstellung des Audiosignals zu erhalten, im Speziellen auf eine Vorrichtung, ein Verfahren und ein Computerprogramm zur Detektierung von Wanderwellen in der Cochlea unter Verwendung einer Parallelen Hough-Transformation.
Analyse und Modellierung des menschlichen Gehörsystems bilden schon seit geraumer Zeit einen Schwerpunkt sowohl bei der Erkennung und Klassifizierung von Audiosignalen als auch in der Medizintechnik. Dabei wurde insbesondere der Aufbau des menschlichen Ohrs bereits seit geraumer Zeit studiert. Um ein Verständnis der vorliegenden Erfindung zu erleichtern, werden im Folgenden einige wesentliche Erkenntnisse zu den Grundlagen der Hörwahrnehmung dargestellt .
Physiologie: Auditorische Peripherie und zentrales Gehör
Die physiologischen Gegebenheiten der menschlichen auditorischen Peripherie sind mittlerweile gut erforscht und können in einer Vielzahl wissenschaftlicher Abhandlungen nachgeschlagen werden. Daher sollen an dieser Stelle nur die wesentlichen und zum weiteren Verständnis späterer Ausführungen notwendigen Grundlagen dargestellt werden.
Der periphere Schallverarbeitungsapparat des Menschen (siehe Fig. 20 besteht aus der Gesamtheit von Außen-, Mittel- und Innenohr. Durch den äußeren Gehörgang gelangt Schall zum Trommelfell und wird im Mittelohr über die Gehörknöchelchen weitergeleitet. Anschließende Verarbeitung im Innenohr bewirkt eine frequenzabhängige Transduktion der mechanischen Schwingungen in neuronale Nervenaktionspotentiale und Weitergabe dieser an die angeschlossenen Hörnervenfasern.
Außenohr:
Das äußere Ohr bildet einen Trichter, der die einfallenden Schallwellen zum Trommelfell leitet. Ohrmuschel, Gehörgang, Schädelform und Schulter modifizieren das Schallsignal.
Da der Gehörgang (inkl. Ohrmuschel) an einem Ende geöffnet und am anderen geschlossen ist, wird er physikalisch näherungsweise als halboffenes Rohr aufgefasst. Somit kann im Resonanzfall, d.h. wenn ein Viertel der Schallwellenlänge der effektiven Gehörkanallänge entspricht, ein Schalldruckpegelgewinn beobachtet werden. Im Resonanzmaximum bei ungefähr 2500 Hz beträgt die Verstärkung bis zu 20 dB. Eine zweite Resonanz ("Cavum- Conchae-Resonanz") wird zwischen 2000 Hz und 2500 Hz allein durch die Ohrmuschel hervorgerufen.
In Abhängigkeit von der Schalleinfallsrichtung werden als
Resultat der Außenohrform durch sogenannte
"richtungsbestimmende Bänder" einzelne schmale Frequenzbereiche angehoben bzw. abgesenkt. Dadurch wird bis zu einem gewissen Maß die Lokalisation eintreffenden
Schalls auch ohne binaurale Zeit- und
Intensitätsunterschiede insbesondere in der vertikalen
Ebene (Median-Sagittal-Ebene) möglich.
Zusammenfassen kann man die beschriebenen Phänomene in der
Außenohr-Übertragungsfunktion ("Head related transfer function" HRTF), die in Fig. 21 dargestellt ist.
Mittelohr:
Die wesentliche Aufgabe des Mittelohres (MO) besteht in der Anpassung der Schallkennimpedanzen von Luft und den Flüssigkeiten im Innenohr. Bei Fehlen einer solchen Funktionalität würden wie im Fall der
Schallleitungsschwerhörigkeit bis zu 98 % der einfallenden Schallenergie reflektiert. Bei gesundem Mittelohr können aber ungefähr 60 % der Signalintensität an das Innenohr weitergegeben werden. Die hierfür notwendige Schalldruckverstärkung wird möglich durch die aneinandergereihte Kopplung von Trommelfell, den drei Gehörknöchelchen (Hammer, Amboss und Steigbügel) sowie dem ovalen Fenster als Kontaktstelle zum Innenohr (siehe Fig. 22) .
Drei unterschiedliche Mechanismen sind verantwortlich für diese Impedanztransformation:
1. Flächenverhältnis zwischen Trommelfell AT und Steigbügelfußplatte AS:
2. Verhältnis der Hebelarme von Hammer 1H und Amboss 1A:
3. Hebelarm durch die Biegung des Trommelfells und die unsymmetrische Aufhängung des Hammers:
FT=IA Die Gesamtverstärkung errechnet sich zu:
Figure imgf000006_0001
(pT : Schalldruck am Trommelfell) . Bemerkenswert ist die Bedeutung der Transferfunktion des MO, die sich wie ein Bandpassfilter mit breitem Durchlassbereich verhält. Im Niederfrequenzbereich wird sie begrenzt durch die mechanischen Eigenschaften von Trommelfell und ovalem Fenster. Bei hohen Frequenzen limitieren die Trägheitsmomente und Reibungs- bzw. Biegungsverluste der Gehörknöchelchen die Übertragung. Vergleicht man den Verlauf der MO-Übertragungsfunktion mit dem der Hörschwelle (siehe Fig. 23), so sieht man, dass die Hörempfindlichkeitskurve weitestgehend durch die mechanischen Eigenschaften von mittlerem und äußerem Ohr bestimmt wird.
Eine zusätzliche Aufgabe erfüllen die Muskeln des MO (M. tensor tympanus und M. stapedius, siehe Fig. 20). Durch reflektorische Kontraktion kann die MO-Steifigkeit erhöht und so eine Dämpfung tiefer Frequenzen erreicht werden. Begrenzter Schutz gegenüber hohen Pegeln und Verringerung der Wahrnehmung selbstproduzierter Laute sind die Folge.
Innenohr:
Die Struktur des Innenohres setzt sich aus zwei Einheiten zusammen. Während das Vestibularorgan einen Bestandteil des Gleichgewichtssystems darstellt, bildet der Aufbau der Cochlea den abschließenden Teil der auditorischen Peripherie (siehe Fig. 22). Anatomisch gleicht die Cochlea einem Schneckenhaus mit zweieinhalb Windungen. Sie ist durch die cochleäre Trennwand (CT) in die zwei
Perilymphflüssigkeit enthaltenden Kammern "Scala vestibuli" (SV) und "Scala tympani" (ST) geteilt (siehe Fig. 22).
Die Arbeitsweise der Cochlea lässt sich wiederum in zwei Abschnitten beschreiben. Der hydromechanische Teil wird bestimmt durch die makro- und mikromechanischen Eigenschaften des Schneckeninneren. Die eigentliche Funktionseinheit zur Umwandlung der Eingangssignale in neuronale Repräsentationen befindet sich innerhalb der cochleären Trennwand. Die Scala Vestibuli ist mit dem Mittelohr verbunden über das ovale Fenster (OF) . Dieses schwingt mit der Steigbügelbewegung und zwingt so die inkompressible Lymphflüssigkeit zum Ausweichen. Die Ausweichbewegung wird an die cochleäre Trennwand weitergegeben und bildet eine Wanderwelle in Richtung des Helicotrema (HC), Cochlea-Spitze, aus. Aufgrund der längs ihrer Ausdehnung kontinuierlich veränderlichen mechanischen Eigenschaften (Massenbelag, Steifigkeit, Breite, etc.) bildet die Trennwand an bestimmten Stellen frequenzabhängige Resonanzen aus. Diese tonotopische Frequenzselektivität wird auch als Ortstheorie bezeichnet.
Den charakteristischen Frequenzen können auf der Trennwand Orte der maximalen Wellenamplituden zugeordnet werden, die kontinuierlich von hohen Frequenzen im Bereich des ovalen Fensters (Basis der Basilarmembran) bis zu tiefen Frequenzen am Helicotrema reichen (Ende bzw. Apex der
Basilarmembran) . Über diese Dispersionseigenschaft können Frequenzinhalte im einkommenden Audiosignal bis zu einem gewissen Grad aufgespalten werden.
Unterstützt wird diese Funktionalität durch die
Eigenschaften der cochleären Trennwand (s. Fig. 24) . Diese wird zur Scala Vestibuli hin abgeschlossen durch die Reissnersche Membran (RM) . Die Grenzfläche zur Scala Tympani besteht aus der Basilarmembran (BM) mit aufsitzendem Cortischen Organ (CO) , auf dessen Oberseite sich in Längsrichtung drei Reihen äußerer Haarzellen und eine Reihe innerer Haarzellen befinden. Diese Haarzellen werden wiederum überspannt von der Tektorialmembran (TM) .
Im Bereich dazwischen befindet sich die
Endolymphflüssigkeit der Scala Media. Bei Bewegung der cochleären Trennwand geraten die Tektorialmembran und das Cortische Organ in Relativbewegung, was zu einer Auslenkung der auf den Haarzellen befindlichen Sinneshärchen führt. Dies geschieht teils durch direkten Kontakt, teils aber auch durch hydrodynamische Kopplung. Die äußeren Haarzellen besitzen nun die Fähigkeit, sich in Abhängigkeit der Trennwandschwingung sehr schnell zu verkürzen bzw. zu verlängern. Dies führt zu einer bis zu 1000-fachen Verstärkung der Wanderwellenamplituden und liefert spitze und ausgeprägte Schwingungsmaxima.
Ebenso wie die Sinneshärchen der äußeren Haarzellen werden diejenigen der inneren Haarzellen durch die Relativbewegung von Tektorialmembran und Cortischem Organ ausgelenkt. Die nachgemessene 3-dimensionale Bewegung der Cochlea ist kompliziert und wurde beispielsweise von Zenner und Gummert an der Universität Ulm bestimmt. In Folge dieser Bewegung werden biochemische Prozesse in Gang gesetzt, die eine Transduktion der mechanischen Bewegungen in neuronale Aktionspotentiale bewirken (siehe Fig. 25).
Im Ruhezustand besitzen die inneren Haarzellen ein Ruhemembranpotential von ungefähr -40 mV sowie eine niedrige Kalium-Konzentration. Die umgebende Flüssigkeit der Scala Media weist hingegen einen ungewöhnlich hohen Anteil an Kaliumionen auf und ist positiv geladen. Bei
Deflektion der Sinneshärchen in eine Richtung öffnen sich sogenannte Transduktionsionenkanäle, durch die zwecks Potentialausgleich ein Einstrom positiv geladener Kaliumionen in die Haarzelle erfolgt. Auslenkung der Sinneshärchen in die entgegengesetzte Richtung verschließt diese Kanäle und durch Ionenverbindungen in die basolaterale Zellmembran kann das ursprüngliche Potential wiederhergestellt werden. Bei geöffneten Kanälen bewirkt das geänderte Sensorpotential eine vermehrte Freisetzung von afferenter Transmittersubstanz .
Diese diffundiert durch den synaptischen Spalt in Richtung Hörnerv. In Abhängigkeit von der Transmitterkonzentration im synaptischen Spalt steigt die Wahrscheinlichkeit der Auslösung eines Nervenaktionspotentials (NAP) .
Bis zu einer Frequenz von knapp 5000 Hz folgt die Freisetzung von Transmittersubstanz hochgradig synchron der Deflektion der Sinneshärchen. Somit kann eine lineare Frequenzübertragung über zeitliche Kodierung erfolgen, was in der Literatur auch unter dem Begriff "Phase-Locking" zusammengefasst wird.
Weiterhin wird auch auf die Fig. 26 verwiesen, die noch einmal die Anatomie der auditorischen Peripherie zeigt. Die Fig. 26 zeigt hierbei die Umwandlung bzw. Weiterleitung eines Geräuschs über Trommelfell und Mittelohr zur Schnecke (Cochlea) . Die Cochlea ermöglicht dabei eine
Spektralanalyse des eintreffenden Geräuschs sowie eine Umwandlung von Vibrationen in neurale Impulse. Die Cochlea weist ferner Nervenzellen auf, die Nervenimpulse (Aktionspotenziale) erzeugen, welche über den Hörnerv an das Gehirn weitergeleitet werden.
Fig. 27 zeigt noch einmal in schematischer Form den Mechanismus der Signalübertragung im menschlichen Ohr. Aus der Fig. 27 ist ersichtlich, dass die Cochlea 3210 unterschiedliche Frequenzen an unterschiedlichen Orten wahrnimmt (Ortstheorie) . Es werden beispielsweise hohe Frequenzen (z.B. mit einer Frequenz von 20 KHz) an dem Anfang der Cochlea in Nervensignale umgewandelt, während niedrige Frequenzen (z.B. mit einer Frequenz von 20 Hz) an dem Ende der Cochlea in Nervensignale umgewandelt werden.
Dadurch kann in der Chochlea gleichsam eine Spektralanalyse eines Geräuschs bzw. eines Audiosignals erfolgen, wobei für eine vorgegebene Frequenz jeweils die Nervenzellen am stärksten angeregt werden, die für eine Wahrnehmung der jeweiligen Frequenz optimal ausgelegt sind.
Die Fig. 28 zeigt den Aufbau der Schnecke, wobei auch auf die Geometrie der Basilarmembran eingegangen wird. Eine graphische Darstellung 3310 zeigt hierbei, dass die Breite der Basilarmembran 3320 von der Basis der Cochlea zu dem Ende (Apex) der Cochlea hin um den Faktor 10 zunimmt.
Eine graphische Darstellung 3320 zeigt ferner eine
Einkopplung einer akustischen Welle in die Cochlea über ein ovales Fenster 3330. Die Einkopplung über das ovale Fenster 3330 erzeugt eine Wanderwelle in der Cochlea, die von der Basis 3340 der Cochlea zu dem Apex 3350 der Cochlea läuft und dabei die Basilarmembran 3360 der Cochlea auslenkt. Es ist hierbei zu beachten, dass Nervenzellen, die näher bei der Basis 3340 der Cochlea gelegen sind, früher angeregt werden als Nervenzellen, die weiter von der Basis 3340 der Cochlea entfernt sind. Mit anderen Worten, der Ort der Wanderwelle als Funktion der Zeit kann als Trajektorie der Wanderwelle angesehen werden. Die Trajektorie kann freilich auch auf diskrete Nervenzellen abgebildet werden, so dass eine Trajektorie ebenso beschreibt, in welcher zeitlichen Folge mehrere räumlich getrennte Nervenzellen durch eine Wanderwelle angeregt werden.
Fig. 29 zeigt ein beispielhaftes elektrisches Ersatzmodell, mit dessen Hilfe die Ausbreitung von Schallwellen durch die Cochlea bis zur Anregung der inneren Haarzellen modelliert werden kann. Das gezeigte Modell ist als "erweitertes Zwicker-Modell" bekannt. Das Modell beschreibt beispielsweise die Hydromechanik des Innenohrs und die nicht-lineare Rückkopplung der äußeren Haarzellen. Es wird allerdings darauf hingewiesen, dass das gezeigte Modell nur eines von vielen möglichen Modellen zur Berechnung der Anregung der inneren Haarzellen ist.
Fig. 30 beschreibt in einer schematischen Darstellung das Cortische Organ, und Fig. 31 beschreibt den Aufbau von zwei verschiedenen Sorten von Haarzellen.
Fig. 32 zeigt eine detaillierte schematische Darstellung von zwei Haarzellen. Die schematische Darstellung der Fig. 32 ist in der Gesamtheit mit 3700 bezeichnet. Anhand der graphischen Darstellung 3700 werden hier zur Verbesserung des Verständnisses die chemischen Abläufe in einer inneren Haarzelle kurz skizziert.
Die Haarzelle 3710 weist eine Mehrzahl von Stereozilien 3720 auf, die die Form von feinen Härchen haben. Eine Anregung bzw. Auslenkung der Stereozilien bewirkt, dass sich die Durchlässigkeit bzw. Leitfähigkeit einer Zellmembran verändert, so dass positiv geladene Kalium- Ionen 3730 in die Haarzelle eintreten können. Dadurch verändert sich das intrazelluläre Potenzial der Haarzellen, das oft mit V(t) bezeichnet wird. In Abhängigkeit von dem intrazellulären Haarzellenpotenzial V(t) können positiv geladene Kalzium-Ionen 3740 in die Zelle eindringen, so dass sich damit die Konzentration an Kalzium-Ionen 3740 erhöht. Die Kalzium-Ionen wirken dann auf die Freigabe von Neurotransmitter-Molekülen 3750 in einen synaptischen Spalt 3760 zwischen der Haarzelle 3710 und einer Nervenfaser 3770. Die Freigabe der Neurotransmitter-Moleküle 3750 erfolgt typischerweise gequantelt in Vesikeln von mehreren tausend Molekülen.
Die Konzentration an Neurotransmittern in dem synaptischen Spalt 3760 verändert dann das Potenzial in dem synaptischen Spalt 3760. Übersteigt das Potenzial in dem synaptischen Spalt 3760 einen bestimmten Schwellwert, so wird schließlich ein Aktionspotenzial in der Nervenfaser 3770 erzeugt .
Fig. 33 zeigt schließlich zur Verdeutlichung die Anordnung einer Mehrzahl von Haarzellen in einer sensorischen Grube (sensory pit) einer menschlichen Cochlea. Aus der Darstellung der Fig. 33 geht hervor, dass eine einzige Haarzelle typischerweise eine Mehrzahl von Stereozilien
(Härchen) aufweist und mit einer Mehrzahl von Nervenfasern gekoppelt ist. Es existieren bereits einige Ansätze, um in Anlehnung an die Vorgänge in dem menschlichen Gehör Audiosignale zu verarbeiten bzw. zu identifizieren. Beispielsweise beschreiben Thorsten Heinz und Andreas Brückmann in dem Artikel "Using a physiological ear model for automatic melody transcription and sound source recognition" (Die Verwendung eines physiologischen Ohrmodells zur automatischen Melodieübersetzung und Geräuschquellenerkennung), der auf der 114. Versammlung der Audio-Ingenieur-Gemeinschaft (Audio Engineering Society) in Amsterdam, Niederlande im März 2003 vorgestellt wurde, eine Audiosignalanalyse und an der Wahrnehmung orientierte Modifikationen von konventionellen SignalVerarbeitungsalgorithmen.
Der genannte Artikel beschreibt eine Nachbildung der Funktionalität des Innenohrs einschließlich der Umwandlung von mechanischen Vibrationen in Information über eine Konzentration einer Transmittersubstanz in den Spalten der inneren Haarzellen. Die Basilarmembran wird hierbei in 251 Regionen von gleichmäßiger Breite aufgeteilt, und jedes Segment wird an eine innere Haarzelle angeschlossen, wobei die innere Haarzelle durch Vibrationen des entsprechenden Abschnitts der Basilarmembran angeregt wird. Für eine Tonhöhenerkennung wird dann die Konzentration der
Transmittersubstanz in den Spalten der 251 beschriebenen Haarzellen ausgewertet.
Dazu werden Tonhöhen-Trajektorien gebildet und segmentiert. Weiterhin beschreibt der genannte Artikel kurz die
Erkennung einer Klangfarbe sowie eine Melodieerkennung.
Ferner beschreiben Toshio Irino und Roy D. Patterson in ihrem Artikel "Segregating Information about the size and shape of the vocal tract using a time domain auditory model: The Stabilized Wavelet-Mellin Transform" (Trennen von Informationen über die Größe und die Form des Vokaltrakts unter Verwendung eines Zeitdomänen- Gehörmodells: Die stabilisierte Wavelet-Mellin Transformation) (veröffentlicht in dem Elsevier-Journal for Speech Communication 36, 2002, Seiten 181-203) die Anwendung einer zweidimensionalen Mellin-Transformtion auf ein Gehörbild (Auditory Image) . Gemäß dem genannten Artikel erzeugt die Mellin-Transformation aus dem Gehörbild (Auditory Image) ein Mellin-Abbild (Mellin Image) , das invariant gegenüber der Größe eines Vokaltrakts eines Sprechers ist, auf dessen Sprachsignal das Gehörbild (Auditory Image) basiert.
Der genannte Artikel schlägt eine Spracherkennung anhand eines sogenannten Mellin-Abbilds vor, das durch eine räumliche Fourier-Transformation aus einem Größen-Form-Bild (Size-Shape-Image) entsteht. Das Größen-Form-Bild wird hingegen gemäß dem T. Irino und R. D. Patterson aus einem stabilisierten Gehörbild (Stabilized Auditory Image) durch eine Mehrzahl von Umwandlungsschritten gewonnen.
Ferner beschreiben A. Brückmann, F. Klefenz und A. Wünsche in dem Artikel "A neural net for 2D-slope and sinusoidal shape detection" (erschienen in dem CIST International Scientific Journal of Computing, ISSN 1727-6209) (Ein neuronales Netzwerk zur Erkennung von zweidimensionalen geraden und sinusförmigen Formen) ein neuronales Netzwerk zur Mustererkennung. Das beschriebene neuronale Netzwerk kann Geraden in verschiedener Steigung oder einem Satz von sinusförmigen Kurven verschiedener Frequenzen lernen und die entsprechenden Muster nach der Lernphase erkennen. Das entsprechende neuronale Netzwerk realisiert damit eine
Hough-Transformation und ermöglicht also eine Erkennung von zweidimensionalen Mustern.
Es ist die Aufgabe der vorliegenden Erfindung, ein Konzept zum effizienten Erzeugen einer Analysedarstellung eines
Audiosignals zu schaffen, wobei die Analysedarstellung ein geringes Datenaufkommen aufweist und sich dennoch gleichzeitig für eine Spracherkennung eignet. Diese Aufgabe wird durch eine Vorrichtung gemäß Anspruch 1, ein Verfahren gemäß Anspruch 30, sowie ein Computerprogramm gemäß Anspruch 31 gelöst.
Die vorliegende Erfindung schafft eine Vorrichtung zum Analysieren eines Audiosignals, um eine Analysedarstellung des Audiosignals zu erhalten, mit einer Einrichtung zum Berechnen eines Nervenaktivitätsmusters über der Zeit an Nervenfasern eines Ohrmodells, das sich aufgrund des
Audiosignals ergibt, und eine Einrichtung zum Verarbeiten des Nervenaktivitätsmusters, um als Analysedarstellung eine Folge von Zeitinformationen zu erhalten, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien beschreiben, wobei eine Trajektorie Aktivitätsimpulse auf verschiedenen Nervenfasern aufgrund des gleichen Ereignisses in dem Audiosignal umfasst.
Es ist der Kerngedanke der vorliegenden Erfindung, dass Zeitinformationen, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien eines
Nervenaktivitätsmusters beschreiben, sich besonders gut für eine Analyse des Audiosignals eignen. Die Trajektorien beschreiben nämlich präzise das Auftreten von Ereignissen in dem Audiosignal und die Ausbreitung von Schallwellen auf einer Basilarmembran eines menschlichen Ohrs. Ferner ist festzuhalten, dass eine zeitliche Lage von aufeinanderfolgenden Trajektorien für verschiedene Laute (Vokale oder Konsonanten) oder Geräusche variiert. Damit eignen sich die Zeitinformationen hervorragend für eine
Analyse eines Audiosignalinhalts des Audiosignals oder für eine Spracherkennung.
Es wurde ferner außerdem erkannt, 'dass eine Ermittlung der Trajektorien in dem Nervenaktivitätsmuster in einer besonders effizienten Weise erfolgen kann, und dass entsprechend Zeitinformationen, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien beschreiben, mit geringem Verarbeitungsaufwand extrahiert werden können.
Schließlich beruht die vorliegende Erfindung auch auf der Erkenntnis, dass sich ein Nervenaktivitätsmuster besonders gut für eine Extraktion von Trajektorien eignet, da das Nervenaktivitätsmuster (zeitlich) wohldefinierte Aktivitätsimpulse (Aktionspotentiale) umfasst, die sich für eine Extraktion von Trajektorien besonders gut eignen.
Die vorliegende Erfindung bringt somit eine Reihe von wesentlichen Vorteilen gegenüber herkömmlichen Konzepten zum Analysieren eines Audiosignals mit sich. Aufgrund er Verwendung des Nervenaktivitätsmusters kann eine hohe Genauigkeit erzielt werden. Im Übrigen kann eine Analyse des Audiosignals in einer Weise erfolgen, die dem menschlichen Gehörempfinden nachvollzogen ist. Sämtliche in einem menschlichen Gehör auftretenden Phänomene bis hin zur Erzeugung von Aktionspotentialen in Nervenfasern des Gehörnervs könne in dem Nervenaktivitätsmuster berücksichtigt werden, so dass das Nervenaktivitätsmuster eine Information enthält, die auch ein menschliches Gehirn aufgrund eines Audiosignals empfangen würde.
Eine Extraktion von Trajektorien ist hierbei besonders vorteilhaft, da Trajektorien eine große Anzahl von Aktivitätsimpulsen auf die Nervenfasern zusammenfassen, wobei die Trajektorien durch einige wenige Parameter beschrieben werden. Von diesen Parametern ist die zeitliche Lage der wichtigste Parameter. Insbesondere bei der
Auswertung von direkt aufeinanderfolgenden Trajektorien können relative Informationen über die zeitliche Lage der Trajektorien gewonnen werden, die für ein Audiosignal charakteristisch sind. Aufgrund der Zeitinformationen, die die zeitliche Lage von Trajektorien beschreiben, kann somit sowohl der Anfangszeitpunkt eines Lauts als auch eine Struktur des Nervenaktivitätsmusters innerhalb des Lauts durch eine geringe Anzahl von Parametern beschrieben werden.
Es hat sich ferner gezeigt, dass die erfindungsgemäße Analysedarstellung in Form von Zeitinformationen, die eine zeitliche Lage von direkt aufeinanderfolgenden Trajektorien beschreiben, eine besonders zuverlässige Analyse von Vokalen innerhalb eines Sprachsignals ermöglichen. Ferner hat sich auch gezeigt, dass die Trajektorien mit Hilfe von Methoden zur Mustererkennung in einer recheneffizienten Weise extrahiert werden können, wobei beispielsweise die Anwendung einer Hough-Transformation besonders vorteilhaft ist, da mit Hilfe einer Hough-Transformation auch gekrümmte Trajektorien ohne weiteres erkannt werden können.
Es sei im Übrigen darauf hingewiesen, dass ein Nervenaktivitätsmuster eine Aktivität bzw. Aktivitätsimpulse einer Gruppe von Nervenfasern des Ohrmodells beschreibt. Die Zeitinformationen kennzeichnen bevorzugter Weise einen Zeitpunkt eines Auftretens einer Trajektorie. Ferner wird darauf hingewiesen, dass eine Trajektorie bei einer erfindungsgemäßen Vorrichtung bevorzugterweise dann erkannt wird, wenn Aktivitätsimpulse, die durch das gleiche Ereignis in dem Audiosignal bedingt sind, auf einer Anzahl von Nervenfasern vorliegen, die größer als eine vorgegebene Mindestanzahl ist. In anderen Worten, es werden nur „ausreichend lange" Trajektorien erfasst, die auf mehr als einer vorgegeben Anzahl von Nervenfasern eintreffen. Dadurch kann in einer effizienten Weise verhindert werden, dass Störimpulse, die eben keine ausgedehnte Trajektorie bilden, fälschlicherweise als Trajektorie identifiziert werden.
Ein akustisches Ereignis kann beispielsweise ein Beginn eines Vokals, eines Konsonanten oder eines Lauts sein. Im Übrigen sei darauf hingewiesen, dass einem akustischen Ereignis auch mehrere Trajektorien zugeordnet sein können, wie beispielsweise aus bekannten Cochleogrammen ersichtlich ist. Beispielsweise kann ein Vokal eine Mehrzahl von Trajektorien umfassen, die in der erfindungsgemäßen Weise erkannt werden können, soweit sie eine ausreichende Länge und Intensität aufweisen.
Ferner sei darauf hingewiesen, dass eine Trajektorie in dem Nervenaktivitätsmuster typischerweise eine Wanderwelle auf einer Basilarmembran eines Ohrmodells beschreibt. In anderen Worten, eine Trajektorie beschreibt ein Nervenaktivitätsmuster auf einer Gruppe von benachbarten Nervenzellen, das einer Wanderwelle auf der Basilarmembran des Ohrmodells zugeordnet ist. In anderen Worten, eine Trajektorie beschreibt ein Auftreten von Aktivitätsimpulsen auf einer Gruppe von benachbarten Nervenfasern, wobei die Aktivitätsimpulse auf den benachbarten Nervenfasern zeitlich leicht versetzt durch eine Wanderwelle angeregt werden. Hierbei kann es freilich sein, dass einzelne Nervenfasern (beispielsweise aufgrund einer Störung) nicht angeregt werden, dass die Trajektorie also eine Unterbrechung aufweist, die allerdings nicht länger als 25 % ihrer Gesamtlänge ist. Es hat sich nämlich gezeigt, dass die erfindungsgemäßen Verfahren zum Bestimmen von Trajektorien eine Fehlertoleranz aufweisen, so dass auch nicht-ideale Trajektorien, die beispielsweise kurze Unterbrechungen aufweisen, erkannt und charakterisiert werden können.
Die Zeitinformation umfasst bevorzugterweise einen Anfangszeitpunkt der Trajektorie, wobei ein Anfangszeitpunkt einer vorgegebenen Trajektorie ein Zeitpunkt ist, zu dem ein erster zu der vorgegebenen Trajektorie gehöriger Aktivitätsimpuls aus einer Nervenfaser auftritt. Die Zeitinformation kann allerdings auch eine andere Information über -die Trajektorie tragen, wie beispielsweise einen mittleren Zeitpunkt der Trajektorie oder einen Endzeitpunkt. Ferner wird es bevorzugt, dass die Einrichtung zum Verarbeiten des Nervenaktivitätsmusters eine Einrichtung zur Mustererkennung umfasst, die ausgelegt ist, um in einer zweidimensionalen Darstellung, die das Nervenaktivitätsmuster über der Zeit beschreibt, ein gerades oder gekrümmtes linienförmiges Muster als eine Trajektorie zu erkennen, die zeitliche Lage der Trajektorie zu ermitteln und eine zu der Trajektorie gehörige Zeitinformation als Analysedarstellung des Audiosignals zu liefern. Es hat sich nämlich gezeigt, dass eine Analyse einer zweidimensionalen Darstellung des
Nervenaktivitätsmusters eine besonders effiziente Erkennung von Trajektorien ermöglicht. Ferner sind zweidimensionale Analyseverfahren in der Lage, gerade oder gekrümmte linienförmige Strukturen in einer effizienten Weise zu erkennen und zu charakterisieren. Ferner hat sich gezeigt, dass Trajektorien, also linienförmige gerade oder gekrümmte Strukturen, mit einer der guten Genauigkeit erkannt werden können, da durch die räumliche Ausdehnung der Trajektorien bei einer Erkennung eine Mittlung über eine Mehrzahl von Nervenfasern (die durch das Nervenaktivitätsmuster beschrieben sind) erfolgen kann.
Ferner wird es bevorzugt, dass die Einrichtung zur Mustererkennung ausgelegt ist, um eine Information über eine Form der Trajektorien zu liefern. Die Form der Trajektorien liefert nämlich noch eine weitere Information, die in Kombination mit der Zeitinformation eine Weiterverarbeitung der Analysedarstellung des Audiosignals erleichtern bzw. eine aussagekräftigere Weiterverarbeitung der Analysedarstellung des Audiosignals ermöglichen kann. Die Information über die Form der Trajektorie umfasst bevorzugterweise auch eine Information über eine Krümmung der Trajektorie.
Da sich gezeigt hat, dass Trajektorien in dem Nervenaktivitätsmuster typischerweise hyperbelartig gebogen sind, wird es bevorzugt, dass die Einrichtung zur Mustererkennung darauf optimiert ist, gerade oder hyperbelförmig gekrümmte Trajektorien zu erkennen.
Ferner ist es vorteilhaft, wenn die Einrichtung zur Mustererkennung ausgelegt ist, um eine Information über eine Länge der Trajektorie zu liefern. Auch die Länge der Trajektorie kann nämlich bei einer Weiterverarbeitung der Analysedarstellung zur Verbesserung der Genauigkeit verwendet werden. Im Übrigen ist es auch vorteilhaft, wenn von der Einrichtung zur Mustererkennung eine Information geliefert wird, die eine Aussage darüber umfasst, über welchen Frequenzbereich (ausgedrückt beispielsweise durch Nummern der Nervenfasern, auf denen ein zu der Trajektorie gehöriges Aktionspotential vorliegt) sich eine Trajektorie erstreckt. Damit kann also nicht nur die Anwesenheit einer Trajektorie, sondern beispielsweise auch der angeregte Frequenzbereich ermittelt werden.
Ferner wird es bevorzugt, dass die Einrichtung zum Verarbeiten des Nervenaktivitätsmusters eine Einrichtung zum Mustervergleich umfasst, die ausgelegt ist, um eine zweidimensionale Darstellung, die das
Nervenaktivitätsmuster über der Zeit beschreibt, mit mindestens einem Vergleichsmuster zu vergleichen, um eine Trajektorie zu erkennen, und um eine Zeitinformation zu erhalten, die eine zeitliche Lage der Trajektorie beschreibt. Ein Mustervergleich ist eine effiziente Möglichkeit, um in einer zweidimensionalen Darstellung ein Muster, wie beispielsweise eine Trajektorie, zu erkennen. Als Vergleichsmuster kann hierbei bevorzugterweise eine gerade oder eine hyperbelförmige Kurve dienen.
Es hat sich ferner herausgestellt, dass das Erkennen von geraden oder gekrümmten Trajektorien besonders vorteilhaft erreicht werden kann, indem die Einrichtung zum Verarbeiten des Nervenaktivitätsmusters ausgelegt ist, um eine zweidimensionale Darstellung des Nervenaktivitätsmusters schrittweise zu verzerren, um eine verzerrte Darstellung des zweidimensionalen Nervenaktivitätsmusters zu erhalten, und um zu erkennen, wenn in der verzerrten zweidimensionalen Darstellung des Nervenaktivitätsmusters eine näherungsweise gerade Linie enthalten ist. Die gerade Linie kann dann als Trajektorie erkannt werden, woraufhin eine zeitliche Lage der Trajektorie ermittelt und der erkannten Trajektorie eine zugehörige Zeitinformation zugeordnet werden kann. Eine derartige Einrichtung zum Verarbeiten des Nervenaktivitätsmusters ist besonders vorteilhaft, da das Vorhandensein einer geraden Linie einfach überprüft werden kann. Eine „gerade Linie" einer Trajektorie ist hierbei dadurch definiert, dass in einer Verarbeitungsstufe der Einrichtung zum Verarbeiten des Nervenaktivitätsmusters eine Mehrzahl von Aktivitätsimpulsen gleichzeitig bzw. zumindest zeitlich überlappend eintreffen. Ein gleichzeitiges bzw. zeitlich überlappendes Eintreffen von mehreren Aktivitätsimpulsen kann beispielsweise durch eine Summation der in einer Stufe eintreffenden Signale ermittelt werden, wobei ein gleichzeitiges Eintreffen von Aktivitätsimpulsen in einer Stufe eine ausgeprägte Spitze in einem Summationsergebnisses der Summation hervorruft.
Das schrittweise Verzerren der zweidimensionalen Darstellung des Nervenaktivitätsmusters kann beispielsweise durch eine Mehrzahl von Verzögerungseinrichtungen erfolgen, wobei Signale bzw. Nervensignale, die das Nervenaktivitätsmuster beschreiben, in Stufen der Einrichtung zum Verarbeiten des Nervenaktivitätsmusters verschieden stark verzögert werden.
In anderen Worten, das Verzerren der zweidimensionalen Darstellung des Nervenaktivitätsmusters erfolgt derart, dass eine gekrümmte Trajektorie durch das schrittweise Verzerren schrittweise gerade gebogen wird, wobei die
Anzahl von Verzögerungsschritten, die für ein Geradebiegen der gekrümmten Trajektorie benötigt werden, eine Information über eine Krümmung der gekrümmten Trajektorie umfassen.
Ferner wird es bevorzugt, dass die Einrichtung zum Verarbeiten des Nervenaktivitätsmusters eine
Kurvenerkennungseinrichtung umfasst, die ausgelegt ist, um das Nervenaktivitätsmuster über der Zeit in Form einer Mehrzahl von Signalen parallel zu empfangen, und um die Signale unterschiedlich schnell (bzw. mit unterschiedlichen Verzögerungen) parallel durch eine Mehrzahl von hintereinander geschalteten Stufen weiterzuleiten, wobei eine ausgewählte Stufe ausgelegt ist, um zu erkennen, wenn mindestens eine vorgegebene Anzahl von Signalen in der ausgewählten Stufe gleichzeitig aktiv sind.
Eine unterschiedlich schnelle Weiterleitung von mehreren Signalen, die das Nervenaktivitätsmuster bilden, ermöglicht ein Verbiegen von Trajektorien, die in dem ursprünglichen Nervenaktivitätsmuster vorhanden sind. Ist in einer Stufe eine Mehrzahl von Signalen aktiv, so deutet dies darauf hin, dass eine Trajektorie gerade gebogen oder näherungsweise gerade gebogen ist. Mit anderen Worten, laufen Aktivitätsimpulse gleichzeitig oder zumindest überlappend in eine Stufe ein, so kann die Stufe beispielsweise aufgrund einer Summation mit einer darauffolgenden Schwellwertentscheidung erkennen, dass eine (näherungsweise) geradegebogene Trajektorie in der Stufe anliegt. In anderen Worten, eine Stufe ist bevorzugt ausgelegt, um mehrere Signale bei einer Weiterleitung durch die Stufe unterschiedlich stark zu verzögern.
Weiterhin wird es bevorzugt, die
Kurvenerkennungseinrichtung als ein neuronales Netz auszuführen. Ein solches neuronales Netz kann eine Mehrzahl von Trajektorien (bzw. Trajektorien-Formen) lernen und diese dann in einem laufenden Betrieb erkennen. Es ist ein weiterer Vorteil eines neuronalen Netzes, dass dieses auch nicht-ideale Trajektorien, die einem idealen Lernmuster sehr ähnlich sind, erkennen kann. Somit ist ein neuronales Netz eine sehr gute Ausführungsform zur Erkennung von Trajektorien in einem Nervenaktivitätsmuster, da auch hierbei nicht ideale Muster zu erkennen sind, die Schwankungen und Störungen unterworfen sein können.
Schließlich sei darauf hingewiesen, dass die Kurvenerkennungseinrichtung bevorzugt ausgelegt ist, um eine Trajektorie aufgrund einer Auswertung einer Hough- Transformation zu erkennen. Eine Hough-Transformation ist nämlich ein sehr effektives Verfahren, um analytisch beschreibbare Kurven, aber auch beliebige Kurven, in einer zweidimensionalen Darstellung zu erkennen. Die Ausführung der Hough-Transformation erfolgt bevorzugter Weise in einer parallelen Form, so dass eine sehr schnelle Berechnung erfolgen kann.
Bevorzugte Ausführungsbeispiele der vorliegenden Erfindung werden nachfolgend bezugnehmend auf die beiliegenden Zeichnungen näher erläutert. Es zeigen:
Fig. 1 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Analysedarstellung eines Audiosignals aufgrund des Audiosignals gemäß einem ersten Ausführungsbeispiels der vorliegenden Erfindung;
Fig. 2 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen eines Neurotransmitter-Vesikel- Auftretens aufgrund des Audiosignals gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 3 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Basilarmembranbewegung aufgrund des Audiosignals gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 4 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Auslenkung eines Stereoziliums aufgrund der Basilarmembranbewegung gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 5 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen des Neurotransmitter-Vesikel- Auftretens aufgrund der Auslenkung eines Stereoziliums gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 6 ein Blockschaltbild eines erfindungsgemäßen Verfahrens zum Berechnen eines Aktionspotenzials einer Nervenfaser aufgrund des Neurotransmitter-Vesikel- Austretens gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 7 ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Analysedarstellung eines Audiosignals gemäß einem zweiten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 8 eine graphische Darstellung von beispielhaften Nervenaktivitätsmustern;
Fig. 9 eine graphische Darstellung einer Verzögerung bei einer Ausbreitung von Audiosignalen verschiedener Frequenz auf einer Basilarmembran;
Fig. 10 eine graphische Darstellung eines Cochleograms für einen Vokal "i";
Fig. 11 eine graphische Darstellung eines Cochleograms, einer Transmitter-Freisetzungs-Wahrscheinlichkeit und einer Transmitter-Vesikel-Freisetzung für einen Vokal "A";
Fig. 12 eine graphische Darstellung einer
Verarbeitungskette für eine erfindungsgemäße Analyse eines Audiosignals gemäß dem zweiten Ausführungsbeispiels der vorliegenden Erfindung; Fig. 13 ein Blockschaltbild einer Vorrichtung zum erfindungsgemäßen Verarbeiten des Nervenaktivitätsmusters gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 14 eine graphische Darstellung von Signalen in einer Vorrichtung zum erfindungsgemäßen Verarbeiten des Nervenaktivitätsmusters gemäß dem zweiten Beispiel der vorliegenden Erfindung;
Fig. 15 ein Schaltbild eines Hubel-Wiesel-Netzes zur erfindungsgemäßen Berechnung einer Analysedarstellung eines Audiosignals gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 16 ein Schaltbild eines Hubel-Wiesel-Netzes zur erfindungsgemäßen Berechnung einer Analysedarstellung eines Audiosignals gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung;
Fig. 17 eine graphische Darstellung von Trainingsmustern zum Trainieren eines Hubel-Wiesel-Netzes;
Fig. 18 eine schematische Darstellung einer Einrichtung zum Identifizieren eines Audiosignals:
Fig. 19 eine schematische Darstellung einer Einrichtung zur Extraktion eines Audiosignal-Inhaltes;
Fig. 20 eine graphische Darstellung der auditorischen Peripherie;
Fig. 21 eine graphische Darstellung der Außenohrübertragungsfunktion;
Fig. 22 eine graphische Darstellung von Mittelohr und aufgerollter Cochlea; Fig. 23 eine graphische Darstellung einer Hörfläche;
Fig. 24 eine graphische Darstellung eines Querschnitts durch eine Cochlea;
Fig. 25 eine schematische Darstellung einer Haarzelle;
Fig. 26 eine graphische Darstellung einer Anatomie der auditorischen Peripherie;
Fig. 27 eine graphische Darstellung eines Mechanismus der Signalübertragung in einem menschlichen Ohr;
Fig. 28 eine graphische Darstellung der Geometrie der Basilarmembran eines menschlichen Ohrs und einer Reaktion der Basilarmembran auf eine Anregung;
Fig. 29 eine graphische Darstellung eines erweiterten Zwicker[bi]-Modells zur Beschreibung eines Innenohrs;
Fig. 30 eine graphische Darstellung eines Cortischen Organs;
Fig. 31 eine graphische Darstellung eines Aufbaus von Haarzellen;
Fig. 32 eine graphische Darstellung von chemischen Abläufen in einer Haarzelle; und
Fig. 33 eine graphische Darstellung einer sensorischen Grube.
Fig. 1 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Analysedarstellung eines Audiosignals aufgrund des Audiosignals gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung. Das Flussdiagramm der Fig. 1 ist in seiner Gesamtheit mit 100 bezeichnet .
Dabei wird für das Audiosignal 110 in einem ersten Schritt 120 ein Neurotransmitter-Vesikel-Auftreten in Spalten zwischen Hörzellen und zugehörigen Nervenfasern bestimmt. Das Auftreten von Neurotransmitter-Vesikeln, die typischerweise zwischen hundert und mehreren tausend Neurotransmitter-Molekülen umfassen, wird hierbei für eine Mehrzahl von Hörzellen bestimmt, wobei angenommen wird, dass die Hörzellen über ein Modell eines Ohrs räumlich verteilt sind. Es kann beispielsweise angenommen werden, dass die bei der entsprechenden Simulation des Neurotransmitter-Vesikel-Auftretens berücksichtigten Hörzellen äquidistant oder näherungsweise äquidistant über eine Cochlea eines Ohrmodells verteilt sind. Aufgrund der Anregung der Hörzellen durch das Audiosignal kann also für jede der betrachteten Hörzellen ein Auftreten von Neurotransmitter-Vesikeln bestimmt werden.
Basierend auf dem Neurotransmitter-Vesikel-Auftretens 122 kann dann in einem zweiten Schritt 130 in einer betrachteten Hörzelle ein Aktionspotenzial AP 1 auf einer Nervenfaser, die mit der betrachteten Hörzelle gekoppelt ist, bestimmt werden. Das gezeigte Vorgehen kann dann für alle Hörzellen wiederholt werden, die bei der Bestimmung des Neurotransmitter-Vesikel-Auftretens berücksichtigt wurden (Schritte 132 und 134). Es wird somit für alle bei der Bestimmung des Neurotransmitter-Vesikel-Auftretens beteiligten Hörzellen jeweils separat ein Aktionspotenzial APl, AP2, AP3 auf einer der jeweiligen Hörzelle zugeordneten Nervenfaser aufgrund des der jeweiligen Hörzelle zugeordneten Neurotransmitter-Vesikel-Auftretens 122, 124, 126 berechnet.
Mit anderen Worten, werden i Hörzellen berücksichtigt, so wird für alle i Hörzellen ein zugehöriges Neurotransmitter- Vesikel-Auftreten 122, 124, 126 berechnet. Aufgrund des Neurotransmitter-Vesikel-Auftretens wird dann (für jede Nervenfaser separat) ein zugehöriges Aktionspotential APl, AP2, AP3 berechnet. Somit liegen nach Abschluss der Berechnung i Aktionspotenziale auf Nervenfasern vor, die zusammen das Nervenaktivitätsmuster bilden.
Das Nervenaktivitätsmuster APl, AP2, AP3 stellt somit eine Analysedarstellung des Audiosignals dar, die für eine weitere Verarbeitung, beispielsweise eine Audiosignalerkennung, verwendet werden kann.
Das erfindungsgemäße Verfahren bietet somit den Vorteil, dass eine besonders präzise und aussagekräftige Analysedarstellung des Audiosignals gebildet werden kann. Die Aktionspotenziale APl, AP2, AP3 (die in ihrer
Gesamtheit das Nervenaktivitätsmuster bilden) auf den Nervenfasern sind nämlich denjenigen Signalen sehr ähnlich, die von einem menschlichen Gehirn für eine Erkennung von akustischen Ereignissen verwendet werden.
Bei dem erfindungsgemäßen Verfahren, bei dem die Aktionspotenziale APl, AP2, AP3 auf Nervenfasern von Neurotransmitter-Vesikel-Auftreten 122, 124, 126 abgeleitet werden, kann eine besonders hohe Genauigkeit bei einer nachfolgenden Analyse des Audiosignals erzielt werden. Die Aktionspotenziale auf den Nervenfasern tragen nämlich eine genaue zeitliche Information, da die Aktionspotenziale APl, AP2, AP3 gequantelt auftreten. Ferner tritt bei der Bestimmung der Aktionspotenziale APl, AP2, AP3 eine Totzeit (Refraktärzeit ) auf, die bei bekannten Verfahren zur Bestimmung von Analysedarstellungen eines Audiosignals nicht berücksichtigt wird.
Im Übrigen ist festzuhalten, dass -die Aktionspotenziale APl, AP2, AP3 aufgrund ihrer Quantelung einfach dargestellt werden können, wobei nicht die Höhe eines Aktionspotenzials, sondern der Zeitpunkt des Auftretens eines Aktionspotenzials bzw. die Rate der nacheinander auftretenden Aktionspotenziale die Information trägt. Auch dadurch unterscheidet sich das erfindungsgemäße Verfahren wesentlich von bekannten Verfahren, bei denen beispielsweise eine Konzentration von Neurotransmittern in einem synaptischen Spalt ausgewertet wird, wobei die
Konzentration eine kontinuierliche Kurve darstellt, die keine zeitlich scharf definierten Änderungen aufweist.
Im Übrigen ist festzuhalten, dass sich das Nervenaktivitätsmuster, das simulierte Aktionspotenziale APl, AP2, AP3 auf einer Mehrzahl von Nervenfasern umfasst, auch verwendet werden kann, um Nervenfasern eines Hörnervs des menschlichen Patienten anzuregen, der beispielsweise einen Gehörschaden aufweist.
Fig. 2 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen des Neurotransmitter-Vesikel- Auftretens aufgrund des Audiosignals gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung. Das Flussdiagramm der Fig. 2 ist in seiner Gesamtheit mit 200 bezeichnet. Für ein Audiosignal 210 wird in einem ersten Schritt 220 eine zugehörige Basilarmembran-Bewegung 230 berechnet. Mit anderen Worten, basierend auf dem Audiosignal 210 wird eine Bewegung einer Basilarmembran unter Verwendung eines Ohrmodells berechnet. Die Bewegung kann beispielsweise durch Geschwindigkeit und/oder Auslenkung von verschiedenen Punkten der Basilarmembran beschrieben werden. Im Übrigen wird darauf hingewiesen, dass die Berechnung der Basilarmembran-Bewegung anhand von Fig. 3 näher erläutert wird.
Basierend auf der Basilarmembran-Bewegung 230 wird dann in einem zweiten Schritt 240 eine Auslenkung 250 eines Stereoziliums, das mit der Basilarmembran gekoppelt ist, berechnet. Die Berechnung der Auslenkung des Stereoziliums wird im Übrigen anhand von Fig. 4 näher ausgeführt. Aufgrund einer bekannten Auslenkung 250 des Stereoziliums kann in einem dritten Schritt 260 das Neurotransmitter- Vesikel-Auftreten berechnet bzw. bestimmt werden. Das Berechnen des Neurotransmitter-Vesikel-Auftretens wird im Übrigen anhand von Fig. 5 noch näher erläutert. Somit liefert das in Fig. 2 gezeigte Verfahren zu einem Audiosignal ein Neurotransmitter-Vesikel-Auftreten für eine oder mehrere Hörzellen. Es wird hierbei darauf hingewiesen, dass die Basilarmembran-Bewegung 230 bevorzugt an den Orten berechnet wird, an denen sich die betrachteten Hörzellen befinden. Es kann jedoch auch die gesamte Bewegung der Basilarmembran berechnet werden, soweit dies eine vorteilhafte Berechnung (beispielsweise unter Verwendung einer analytischen Lösung) ermöglicht.
Fig. 3 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Basilarmembran-Bewegung aufgrund eines Audiosignals gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung. Die graphische Darstellung der Fig. 3 ist in ihrer Gesamtheit mit 300 bezeichnet.
Für ein Audiosignal 310 wird hierbei in einem ersten Schritt 320 eine mechanische Schallwandlung in einem Innenohr basierend auf einem Ohrmodell berechnet. Damit kann eine Anregung 324 des Trommelfells in dem Ohrmodells bestimmt werden. So kann beispielsweise von einem Audiosignal 310 ausgegangen werden, das auf dem Trommelfell eintrifft. Aufgrund mechanischer bzw. fluidischer Berechnungen kann damit die Anregung des Trommelfells ermittelt werden, woraufhin die Schwingung des Trommelfells bekannt ist.
In einem zweiten Schritt 330 kann 'dann auch die Schallübertragung über die Gehörknöchelchens des Mittelohrs in dem Ohrmodell berechnet werden. Hierbei kann eine detaillierte mechanische Analyse des Mittelohrs erfolgen. Es ist aber genauso gut möglich, lediglich Kraft- bzw. Amplituden-Übersetzungsverhältnisse der Gehörknöchelchen zu berücksichtigen, wodurch sich eine sehr einfache Berechnung ergibt. Weiterhin ist es möglich, die Trägheit der Gehörknöchelchen und/oder fluidische Einflüsse wie Dämpfung mit zu berücksichtigen. Ferner kann schließlich für eine Berechnung der Schallübertragung über die Gehörknöchelchen auch noch berücksichtigt werden, dass die
Übertragungscharakteristik des Mittelohrs in Abhängigkeit von der Schallintensität variieren kann. Unabhängig von der Komplexität des Modells, das zur Berechndung der
Schallübertragung über die Gehörknöchelchen in einem zweiten Schritt 330 verwendet wird, kann als Ergebnis der beschriebenen Berechnung eine Anregung 334 des ovalen Fensters zwischen Mittelohr und Cochlea ermittelt werden.
Aufgrund einer Kenntnis der Anregung 334 des ovalen Fensters zwischen Mittelohr und Cochlea kann dann in einem dritten Schritt 340 die hydromechanische Schwingungsanregung der Cochlea berechnet werden. Dies kann durch eine geeignete hydromechanische Simulation oder anhand eines vereinfachten analytischen Modells erfolgen. Somit sind als Ergebnis einer Analyse der Cochlea fluidische Strömungen in der Cochlea bekannt bzw. können ermittelt werden.
Basierend auf einer Kenntnis der Schwingungsanregung 344 der Cochlea kann schließlich in einem vierten Schritt 350 eine Bewegung 354 der Basilarmembran berechnet werden. Hierbei können wiederum lineare oder nicht-lineare mechanische Modelle zum Einsatz kommen. Es wird darauf hingewiesen, dass eine Vielzahl von Möglichkeiten besteht, um die Basilarmembran-Bewegung an ausgewählten Orten, an denen die betrachteten Nervenzellen angeordnet sind, zu berechnen.
Es wird ferner darauf hingewiesen, dass es nicht notwendig ist, alle gezeigten Zwischengrößen (also die Anregung 324 des Trommelfells, die Anregung 334 des ovalen Fensters oder die Schwingungsanregung 344 der Cochlea) explizit zu berechnen. Vielmehr existieren auch Verfahren, um näherungsweise direkt von dem Audiosignal 310 auf eine Bewegung 354 der Basilarmembran zu schließen. Hierbei kann beispielsweise ein lineares oder ein nicht-lineares Filter zum Einsatz kommen, um eine Bewegung eines vorgegebenen Punkts einer Basilarmembran (an dem sich bevorzugterweise eine Hörzelle befindet) zu ermitteln. Für die Berechnung der Basilarmembran-Bewegung 354 an mehreren Orten kann dann eine Mehrzahl von verschiedenartig ausgelegten Filtern verwendet werden. Ein Filter beschreibt dabei eine Antwort eines Ortes der Cochlea als Reaktion auf das akustische Signal .
Im Übrigen wird darauf hingewiesen, dass von F. Baumgarte ein besonders vorteilhaftes Gehörmodell für eine Modellierung der Cochlea vorgeschlagen wurde (F. Baumgarte: "Ein psychophysiologisches Gehörmodell zur Nachbildung von Wahrnehmungsschwellen für die Audiocodierung", Dissertation, Universität Hannover, 2000). Das Modell von Baumgarte erlaubt eine besonders vorteilhafte Modellierung der Cochlea eines Ohrmodells, wobei wesentliche Effekte wie etwa eine Signalreflexion an dem Ende der Cochlea mit berücksichtigt werden können.
Fig. 4 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen einer Auslenkung eines Stereoziliums aufgrund der Basilarmembran-Bewegung. Das Flussdiagramm der Fig. 4 ist in seiner Gesamtheit mit 400 bezeichnet.
Es wird hierbei davon ausgegangen, dass die Bewegung der Basilarmembran nach einer der oben genannten Methoden (oder auch auf andere Weise) berechnet wurde, so dass eine Geschwindigkeit der Bewegung der Basilarmembran für diejenigen Orte, an denen sich zu betrachtende Nervenzellen befinden, bekannt ist. Eine Auslenkung x(t) (zum Teil auch als u(t) bezeichnet) eines Stereozilium kann durch Lösen einer Bewegungsgleichung in Abhängigkeit von einer Basilarmembran-Bewegung bestimmt werden. Die Basilarmembran-Bewegung ist hierbei freilich als eine relative Bewegung aufzufassen, die bevorzugt durch eine Relativgeschwindigkeit v(t) beschrieben wird. Ferner wird es bevorzugt, als Anregung für das Stereozilium zusätzlich eine stochastische Kraft Fstoch(t) zu berücksichtigen, die durch eine Stoßbewegung der Atome verursacht wird. Mit anderen Worten, es wird bevorzugt, bei der Anregung des Stereoziliums die Braun 'sehe Bewegung mit zu berücksichtigen. Somit ergibt sich die Bewegungsgleichung eines Stereoziliums als inhomogene Bewegungsgleichung eines harmonischen Oszillators der Form
mx = -Dx - Kx + Fexι (t) + Fstoch (f )
Hierbei ist m die effektive Masse des betrachteten Stereoziliums, D eine effektive Federkonstante des Stereoziliums, und K eine Konstante für einen laminaren Strömungswiderstand des Stereoziliums, die die fluidische Dämpfung des Stereoziliums beschreibt. Die Anregung des Stereoziliums, die durch die externe Kraft Fext ausgedrückt wird, ist proportional zu der Relativgeschwindigkeit v(t) der Basilarmembran-Bewegung, so dass gilt:
Feχt=CBasV(t)
Dabei ist CBas eine Konstante für eine Anregung des Stereoziliums aufgrund einer Bewegung der Basilarmembran. Wie schon erwähnt ergibt die Auswertung der gezeigten Bewegungsgleichung eine Auslenkung x(t) des Stereoziliums, die bisweilen auch mit u(t) bezeichnet wird.
Es wird im Übrigen darauf hingewiesen, dass auch andere Verfahren zur Berechnung einer Auslenkung der Stereozilien verwendet werden können. So ist es beispielsweise möglich, eine Bewegungsgleichung erster Ordnung zu verwenden, die ein Tiefpassverhalten des Stereoziliums modelliert. Mit anderen Worten, es kann bei einer alternativen Beschreibung davon ausgegangen werden, dass ein Stereozilium die
Tiefpasssystem darstellt, das durch eine Bewegungsgleichung der Form eine Gleichung
τcύ(t) + u(t) = τcCcώav(t).
Im Übrigen sei darauf hingewiesen, dass die Berücksichtigung der durch die Braun 'sehe Bewegung hervorgerufenen Kraft FstOch(t) optional ist.
Fig. 5 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zum Berechnen eines Neurotransmitter-Vesikel- Auftretens aufgrund einer Auslenkung eines Stereoziliums gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung. Das in Fig. 5 gezeigte Flussdiagramm ist in seiner Gesamtheit mit 500 bezeichnet.
Aufgrund einer Auslenkung u(t) eines Stereozilium kann beispielsweise in einem ersten Schritt 510 ein Spitzen- Leitwert (apical conduetance) G(u) berechnet werden. Eine Auslenkung eines Stereoziliums verändert nämlich eine Anzahl von offenen Ionen-Kanälen, wodurch sich ein Leitwert einer Membran einer Hörzelle ändert.
Aufgrund des aus dem ersten Schritts 510 bekannten Spitzen- Leitwerts G(u) kann somit in einem zweiten Schritt 520 ein intrazelluläres Haarzellen-Potenzial V(t) berechnet werden. Bei der Berechnung dieses Membranpotenzials des Zellkörpers kann beispielsweise ein Modell einer passiven elektrischen Schaltung verwendet werden, was die Berücksichtigung einer Zellkapazität ermöglicht. Weiterhin können die
Leitfähigkeiten verschiedener Membranen der Hörzelle sowie die durch verschiedene Ionen bedingten Potenziale berücksichtigt werden.
Nach einer Berechnung des intrazellulären Haarzellen- Potenzials V(t) in dem zweiten Schritt 520 kann in einem dritten Schritt 530 ein Kalziumstrom ICa (t) berechnet werden. Die Freisetzung von Neurotransmittern in den synaptischen Spalt wird nämlich durch Kalzium-Ionen vermittelt. Hierbei kann beispielsweise aufgrund des intrazellulären Haarzellen-Potenzials V(t) ein Anteil von offenen Kalziumkanälen bestimmt werden. Der Kalziumstrom an sich ist wiederum abhängig von der Anzahl der offenen Kalziumkanäle sowie einer Potenzialdifferenz zwischen dem intrazellulären Haarzellen-Potenzial V(t) und einem entgegengerichteten Potenzial für das Kalzium. Im Übrigen sei angemerkt, dass die Anzahl der offenen Kalziumkanäle einer Trägheit unterliegt, die ebenfalls berücksichtigt werden kann.
Aufgrund des Kalziumstroms Ica(t) kann dann in einem vierten Schritt 540 eine Kalziumkonzentration [Ca2+] (t) bestimmt werden. Hierbei kann wiederum beispielsweise ein Tiefpass-Charakter berücksichtigt werden, wobei angenommen werden kann, dass die Kalziumkonzentration in einem Gleichgewichtszustand einen konstanten Wert annimmt .
Aufgrund der Kalziumkonzentration [Ca2+] (t) kann ein in einem fünften Schritt 550 eine Transmitter- Freisetzungs-Rate k(t) ermittelt werden. Hierbei kann bevorzugt die Speicherung der Transmitter-Substanzen in einem Reservoir, in dem synaptischen Spalt und in einem Verarbeitungsspeicher berücksichtigt werden. Aufgrund der Transmitter-Freisetzungs-Rate k(t) kann in einem damit gekoppelten sechsten Schritt 560 ein Auftreten bzw. eine Freisetzung von Neurotransmitter- Vesikeln bestimmt werden. Es wird hierbei bevorzugt, von einer gequantelten und stochastischen Freisetzung von Neurotransmitter-Vesikeln auszugehen, wobei ein stochastischer Transport durch eine Funktion N(n,p) beschrieben werden kann. Dabei kann beispielsweise davon ausgegangen werden, dass jedes von n Neurotransmittern- Quanten in einem Simulationsintervall eine gleiche
Freisetzungswahrscheinlichkeit hat. Im Übrigen wird darauf hingewiesen, dass auch die Rückführung von Neurotransmittern bzw. Neurotransmitter-Vesikeln in einem Reservoir bei einer Modellierung mit eingeschlossen werden kann.
Es wird ferner darauf hingewiesen, dass ein vorteilhaft einsetzbares Modell einer inneren Haarzelle in dem Artikel "A revised model of the inner hair cell and auditory nerve complex" von CJ. Sumner, E. A. Lopez-Poveda, L. P. O'Mard und R. Meddis beschrieben ist (J. Acoust. Soc. Am., Vol. 111, No. 5, Pt. 1, May 2002) beschrieben ist. Es wird allerdings ferner darauf hingewiesen, dass auch andere Modelle für eine Berechnung eines Neurotransmitter- Vesikel-Auftretens aufgrund einer Auslenkung u(t) eines Stereoziliums verwendet werden können. Allerdings hat es sich gezeigt, dass es besonders empfehlenswert ist, ein
Modell zu verwenden, das eine stochastische Freisetzung von Neurotransmitter-Vesikeln berücksichtigt, da eine solche stochastische Freisetzung ein zu berechnendes Nervenaktivitätsmuster deutlich besser beschreibt als Modelle, die von einer kontinuierlichen bzw. nicht- gequantelten Freisetzung von Neurotransmitter-Vesikeln ausgehen. Wie schon erwähnt kann im übrigen durch eine Auswertung der Neurotransmitter-Vesikel-Freisetzung eine genauere Information über ein Audiosignal erhalten werden als bei Verwendung kontinuierlicher Freisetzungs-Modelle, bei denen keine scharf definierten zeitlichen Übergänge stattfinden.
Fig. 6 zeigt ein Blockschaltbild eines erfindungsgemäßen Verfahrens zum Berechnen eines Aktionspotenzials einer Nervenfaser aufgrund eines Neurotransmitter-Vesikel- Auftretens gemäß dem ersten Ausführungsbeispiel der vorliegenden Erfindung. Das Flussdiagramm der Fig. 6 ist in seiner Gesamtheit mit 600 bezeichnet.
Bei dem gezeigten Verfahren zum Berechnen eines Aktionspotenzials aufgrund eines Neurotransmitter-Vesikel- Auftretens wird in einem ersten Schritt 610 eine Spannung in einer Nervenzelle aufgrund des Neurotransmitter-Vesikel- Auftretens berechnet. Bei dieser Spannung handelt es sich beispielsweise um ein post-synaptisches Potenzial bzw. eine Depolarisation der post-synaptischen Nervenzelle. Für eine Berechnung der Spannung in der Nervenzelle kann beispielsweise eine Diffusion von Neurotransmittern berücksichtigt werden. Mit anderen Worten, eine durchschnittliche Neurotransmitter-Konzentration kann durch Auswertung eines Faltungsintegrals bestimmt werden, wobei in dem Faltungsintegral ein Diffusions-Typ-Kern ausgewertet werden kann. Eine solche Berücksichtigung des Diffusionsverhaltens wird beispielsweise in dem Artikel "Estimating Transmitter Release Rates from Postsynaptic Current Fluctuations" von Erwin Neher und Takeshi Sakaba (The Journal of Neuroscience, December 15, 2001, 21(24): 9638-9654) beschrieben. Bei der Berechnung des post- synaptischen Potenzials können ferner eine Kapazität der Zellmembran sowie Membranpotenzial-abhängige Leitfähigkeiten von Membran-Ionenkanälen berücksichtigt werden. In ein entsprechendes Modell zur Berechnung einer Spannung in der Nervenzelle fließt somit ein Ionenaustausch durch eine Zellmembran sowie eine Anregung durch die Neurotransmitter ein.
Aufgrund des in dem ersten Schritt 610 berechneten postsynaptischen Potenzials kann dann in einem zweiten Schritt 620 eine Entscheidung über eine Freisetzung eines
Aktionspotenzials getroffen werden. Hierbei wird davon ausgegangen, dass sich durch die Freisetzung der Neurotransmitter das post-synaptische Potenzial erhöht.
Zusammenfassend lässt sich also festhalten: Die inneren
Haarzellen sind die Verbindung zwischen der Basilarmembran und den auditiven Nervenfasern (ANF) , die Impulse in Richtung Gehirn senden. Bevor jedoch eine am postsynaptischen Ende befindliche ANF ein Aktionspotenzial in Richtung Gehirn senden kann muss sich Ihre Spannung ausreichend erhöhen und einen Schwellenwert überschreiten. Dazu ist eine Verkettung von Ereignissen in der pre- synaptischen IHC nötig, die die mechanischen Schwingungen in elektrische Signale umwandelt. Am oberen Ende einer IHC befinden sich Haarbündel- drei Reihen von Stereozilien - die durch sogenannte Tip-Links miteinander verbunden sind. Sie folgen der schwingenden Bewegung der Basilarmembran - gedämpft durch die
Flüssigkeit, in der sie sich befinden und pendeln durch ihre Steifigkeit wieder in die Ausgangslage zurück. Die Stereozilienbewegung lässt sich als ein System gekoppelter harmonischer Oszillatoren auffassen. Vereinfacht wird sie durch folgende Gleichung beschrieben
τcx(t) + x(t) = τcCcιlιav(t)
wobei x(t) für die Auslenkung der Stereozilien und v(t) für die Geschwindigkeit der BM steht, τc ist eine
Zeitkonstante, Ccilia ein Gain-Faktor. Bei niedrigen Frequenzen bewegen sich die Stereozilien phasengleich mit der BM-Geschwindigkeit, bei hohen Frequenzen phasenverschoben .
Im Inneren der IHC Zellmembran liegt ein erheblich niedrigeres Potenzial vor als außerhalb. Dieses ist im Wesentlichen beeinflusst durch die vorliegenden Konzentrationen an (positiv geladenen) Kalium-Ionen. Es herrscht ein stetiger Ionenfluß zwischen innen und außen. Im ruhenden Zustand stellen sich
Gleichgewichtskonzentrationen von [K+] = 130mmol/l (innen) sowie [K+] = 155mmol/l außen ein. Es wird davon ausgegangen, dass auch im Ruhezustand etwa 15% der, an den Stereozilienenden befindlichen Ionenkanäle geöffnet sind. Bewegen sich die Stereozilien nun in medialer Richtung führt das zu einer Öffnung von zusätzlichen Kanälen. Die Leitfähigkeit zwischen Innerem und Äußerem der IHC wird erhöht. Dadurch fließen vermehrt postiv geladene Kaliumionen von außen nach innen und die Spannung im Inneren der IHC steigt an. Andersherum hemmt eine Auslenkung der Stereozilien in entgegengesetzter (lateraler) Richtung den Ionenflusses und führt damit zu einem Absinken des Membranpotenzials.
Die Stereozilien reagieren hochgradig sensibel auf Bewegung. Bereits sinusförmige Auslenkung um +/-0.003 Grad wird als hörbares Signal wahrgenommen. Aber auch ohne externe Anregung durch die schwingende Basilarmembran bewegen sich die Stereozilien. Sie unterliegen Brown' scher Bewegung, so dass auch ganz ohne eingehende Schallwelle - je nach Art der Nervenfaser - bis zu über 100 Aktionspotenziale je Sekunde emittiert werden.
Depolarisierung der Haarzelle öffnet spannungsabhängige Calciumkanäle in der Zellmembran, die in der Nähe sogenannter aktiver Zonen liegen. Das sind Regionen am afferenten Ende des synaptischen Spalts, in denen sich Neurotransmitter befinden. Von außen können so verstärkt Ca++-Ionen in die IHC eintreten. Dieser Zustrom von Calcium-Ionen führt zur Freisetzung von Neurotransmittern. Eine hohe Geschwindigkeit bei der Signalübertragung wird dadurch gewährleistet dass die Botenstoffe bereits in sogenannten Vesikeln etwa gleicher Anzahl von einigen 1000 Neurotransmittermolekülen "verpackt" und abrufbereit sind. Modelliert werden kann dies durch sogenannte Pools von verfügbaren Vesikeln.
Die Freisetzung der Transmittermoleküle in den synaptischen Spalt geschieht, in dem das Vesikel an dafür vorgesehenen Stellen der pre-synaptischen Membran, den Aktiven Zonen, diffundiert, sich mit der Membran verbindet, und seinen Inhalt - die Neurotransmitter - in den Spalt freigibt. Leert sich der Pool zur Verfügung stehender Vesikel, so wird er nach und nach wieder aufgefüllt. Ferner empfiehlt sich die Verwendung eines Reprocessing Pool, in dem Transmitter aus dem Spalt mit einer gewissen Rate wieder zu Vesikeln verpackt werden und von dort aus direkt wieder in den freien Pool gelangen. Ein Teil der Transmitter geht im synaptischen Spalt verloren.
Die Ausschüttung von Neurotransmittern aus dem Pool von Vesikeln wird im Allgemeinen als binomialverteilt beschrieben. Die Emissionswahrscheinlichkeit ist dabei von der Calciumkonzentration im inneren der IHC-Zellmembran in der Nähe der aktiven Zonen abhängig.
Die ursprüngliche Modellierung des Spannnungsverlaufs in Nervenzellen geht auf Hodgkin und Huxley aus dem Jahr 1952 zurück. Dabei sind im Wesentlichen der Austausch von Kalium- [K] und Natrium-Ionen [Na] sowie ein spezifisches "Leck" [L] (im Wesentlichen von CL~-Ionen) von Bedeutung, die sich durch unterschiedliche maximale Leitfähigkeiten (gNa, gK, gL) und den zeitlichen Verlauf der Membrandurchlässigkeit, in Abhängigkeit vom vorliegenden Potenzial (modelliert durch die von u(t) abhängigen Variablen m, h, n) auszeichnen. Die Membranspannung u(t) verhält sich gemäß
u'C = -ΣL (t) + I(t)
∑ l k = ( u-VNa ) m3hgNa+ ( U-VK ) n4gK + ( u-VL ) gL wobei u' die Ableitung nach der Zeit bezeichnet. VNa, VK und VL sind Nernst-Gleichgewichtspotenziale, die die Richtung des Ionenaustauschs determinieren. Ik (t) stellt den Ionenaustausch durch die Zellmembran dar, I (t) dagegen ist ein externer Strom - hier z.B. durch die von den IHC emittierten Neurotransmitter - und C der Kondensator, den die Zellmembran bildet. Wenn ein externer Strom in die Zelle strömt, lädt sich der Kondensator und es entsteht Leck durch die Membran-Ionenkanäle. Das zeitliche Verhalten der Leitfähigkeiten in Abhängigkeit vom Membranpotenzial wird durch ein System dreier Differentialgleichungen beschrieben:
m' = αm(u) (1 - m) - ßm(u)m,
n' = αn(u) (l - n) - ßm(u)n,
h' = αh(u) (1 - h) - ßh(u)h.
Die Funktionen αi (u) und ßi(u) in Abhängigkeit von der Spannung u sind von Hodgkin und Huxley für i = {m, n, h} angepasst worden. Es ergeben sich unterschiedlich schnelle Reaktionen der verschiedenen Ionenflüsse auf eine externe Spannungsänderung, die den Spannungsverlauf in der Membran charakterisieren. Diffundiert nun ein Vesikel aus der presynaptischen IHC in den Spalt, so bindet es an einem Rezeptorprotein der post-synaptischen Membran und setzt
Ladung frei. Durch die Moleküle eines Vesikels erhöht sich das post-synaptische Potenzial um ein so bezeichnetes mEPP (miniature end-plate Potenzial) von etwa 0.5- 1 mV.
Überschreitet die Depolarisation der post-synaptischen Nervenzelle, die durch das post-synaptische Potential beschrieben wird, einen bestimmten Schwellwert v, so kommt es beispielsweise zur Freisetzung eines Aktionspotentials.
Aktionspotenziale kennzeichnen sich durch ihren stets nahezu identischen zeitlichen Verlauf. Die Membranspannung depolarisiert zunächst für eine sehr kurze Dauer von weniger als einer Millisekunde extrem stark, danach hyperpolarisiert sie und ist für einen Zeitraum blockiert, in dem keine weiteren Aktionspotenziale auftreten können.
Das Verhalten einer auditiven Nervenfaser i lässt sich k durch die Zeitpunkte gefeuerter Spikes T = {' | l≤ k ≤= ni} = (t|ui(t) = v} beschreiben, wobei ui(t) die Spannung der postsynaptischen Membran i und v der zur AP-Auslösung nötige Schwellenwert sind. Im allgemeinen wird v = v(t) als dynamisch angenommen, da Neuronen unmittelbar nach Emission eines Spikes eine kurze Weile blockiert sind. Diese
Spikeunterdrückung wird in der Regel modelliert mit Hilfe einer kurzen absoluten Refraktärzeit τabs von in etwa 0.8 ms gefolgt
von einem anschließenden exponentiellen Abklingen mit einer Zeitkonstante τ von etwa 0.25 ms, so dass die
Schwellwertspannung modelliert werden kann durch
-('-< ',,<("t)--r„t,)l
∑ηoe ♦Ir. v(t) = vo + .]('-'.W)
wenn das Neuron sich nicht im absolut refraktären Zustand
befindet und v(t) = ∞, falls t - t ( k) jk)e [θ,τabs] für ein k^ {l,...,ni}, mit I(.) als Indikatorfunktion. Aus Recheneffizenzgründen wird die Summe meist auf den Einfluss der letzten 1 oder 2 Spikes vereinfacht.
Mit anderen Worten, ein Aktionspotenzial wird ausgelöst, wenn das post-synaptische Potenzial den vorgegebenen Schwellenwert überschreitet. Dieser Schwellenwert kann zeitlich variieren. Im Übrigen wird darauf hingewiesen, dass bei einer Erzeugung eines Aktionspotenzials bevorzugterweise sowohl eine absolute Refraktärzeit , d.h. eine Totzeit, während der eine Auslösung eines weiteren Aktionspotenzials nicht mehr möglich ist, als auch eine relative Refraktärzeit, während der eine Schwelle für eine Auslösung eines Aktionspotenzials höher ist als in einem Ruhezustand, berücksichtigt werden können. Die absolute Refraktärzeit kann dabei beispielsweise durch einen unendlich hohen Schwellwert v modelliert werden, aber auch anderweitig einbezogen werden. Die relative Refraktärzeit wird bevorzugt durch einen zeitlich variablen Schwellenwert v für die Auslösung eines Aktionspotenzials beschrieben.
Somit kann gewährleistet werden, dass Totzeiten der Nervenfasern bei einer Erzeugung von Aktionspotenzialen bzw. einer Erzeugung des Nervenaktivitätsmusters, das Aktionspotenziale auf einer Mehrzahl von Nervenfasern beschreibt, berücksichtigt werden. Dadurch kann die
Informationsmenge des Nervenaktivitätsmusters verringert werden, was eine weitere Verarbeitung des Nervenaktivitätsmusters und eine Speicherung des Nervenaktivitätsmusters erleichtert. Im Übringen kann durch eine beschriebene Anordnung auch eine spontane Aktivität der Nervenfasern mit berücksichtigt werden.
Weiterhin sei darauf hingewiesen, dass während der absoluten Refraktärzeit auch das zeitlich überlappte Auftreten einer Mehrzahl von Neurotransmitter-Vesikeln nicht zu einer Auslösung eines Aktionspotenzials führt. In der relativen Refraktärzeit hingegen löst zwar das Auftreten eines einzigen Neurotransmitter- Vesikels noch kein Aktionspotenzial aus, während hingegen ein überlappendes Auftreten mehrerer Neurotransmitter- Versikel in der relativen Refraktärzeit durchaus in einer Auslösung eines Aktionspotenzials resultieren kann.
Gemäß dem anhand der Fig. 1 bis 6 beschriebenen Verfahren kann also eine besonders aussagekräftige Analysedarstellung eines Audiosignals erzeugt werden, die ein Nervenaktivitätsmuster umfasst. In der erfindungsgemäßen Weise wird also das Nervenaktivitätsmuster basierend auf einem Neurotransmitter-Vesikel-Auftreten berechnet, wobei die stochastische Natur des Neurotransmitter-Vesikel- Auftretens berücksichtigt werden kann. Im Übrigen können auch bei der Bestimmung von Aktionspotenzialen auf den Nervenfasern alle relevanten Effekte (wie beispielsweise die Diffusion von Neurotransmittern und die Potenzialabhängigkeit bei der Auslösung eines
Aktionspotenzials auf einer Nervenfaser) berücksichtigt werden. Dadurch weist das in der erfindungsgemäßen Weise berechnete Nervenaktivitätsmuster eine besonders hohe zeitliche Genauigkeit auf, die für eine aussagekräftige Analyse benötigt wird. Anhand eines erfindungsgemäß bestimmten Nervenaktivitätsmuster kann nämlich beispielsweise auch eine Phasenbeziehung zwischen den Aktionspotenzialen benachbarter Nervenzellen ausgewertet werden, die herkömmlicherweise aufgrund einer zu unpräzisen Modellierung nur wenig aussagekräftig ist.
Ferner wird darauf hingewiesen, dass es vorteilhaft ist, Neurotransmitter-Vesikel 1-zu-l in elektrische Impulse einer Höhe von ImV umzusetzen. Eine berechnete Freisetzung eines Neurotransmitter-Vesikels kann beispielsweise verwendet werden, um in einer Cochlea-Implantat-
Ansteuervorrichtung einen Rechteck-Impuls zu erzeugen die entstehenden elektrischen Impulse 'dann einem Cochlea- Implantat zuzuführen. Durch die Impulse können dann Hörnervenfasern getriggert werden. Hierbei werden beispielsweise 251 Nervensignale für 251 Hörnerven auf die in einem Cochlea-Implantat typischerweise verfügbaren 22 Kanäle skaliert.
Weiterhin wird es bevorzugt, das Nervenaktivitätsmuster weiter zu verarbeiten, um eine noch vorteilhaftere Analysedarstellung des Audiosignals zu erhalten. Die Berechnung des Nervenaktivitätsmusters kann hierbei vorteilhafter Weise nach dem oben beschriebenen Verfahren erfolgen, jedoch sind auch andere Verfahren, die ein Nervenaktivitätsmuster liefern, für die Gewinnung einer verbesserten Analysedarstellung verwendbar.
Fig. 7 zeigt ein Flussdiagramm eines erfindungsgemäßen Verfahrens zur Berechnung einer verbesserten Analysedarstellung eines Audiosignals gemäß einem weiteren Ausführungsbeispiel der vorliegenden Erfindung. Das Flussdiagramm der Fig. 7 ist in seiner Gesamtheit mit 700 bezeichnet. Dabei wird basierend auf einem Audiosignal 710 in einem ersten Schritt 720 ein Nervenaktivitätsmuster 730 berechnet. Bei der Ermittlung des Nervenaktivitätsmusters 730 in dem ersten Schritt 720 kann beispielsweise ein Ohrmodell verwendet werden, wie dies schon oben ausführlich erläutert wurde. Ergebnis der Berechnung des Nervenaktivitätsmusters 730 sind somit zeitliche Verläufe von Aktionspotenzialen auf einer Mehrzahl von Nervenfasern NFl, NF2, NF3, NF4, NF5.
Es wird hierbei darauf hingewiesen, dass das Nervenaktivitätsmuster 730 als eine Antwort auf das Audiosignal 710 charakteristische Trajektorien 740, 750 aufweist. Mit anderen Worten ausgedrückt: tritt ein akustisches Ereignis in dem Audiosignal 710 auf, so resultiert dieses akustische Ereignis in einer Serie von Aktionspotenzialen ApI, AP2, AP3, AP4, AP5, die mit leichtem zeitlichem Versatz auf einer Mehrzahl von Nervenfasern NFl, NF2, NF3, NF4, NF5 auftreten. Eine Trajektorie 740, 750 umfasst somit eine Mehrzahl von Aktionspotenzialen APl, AP2, AP3, AP4, AP5 bzw. Spitzen auf mehreren verschiedenen Nervenfasern NFl, NF2, NF3, NF4, NF5 („pulse spiking trains").
Eine Trajektorie 740, 750 ist u.a. dadurch gekennzeichnet, dass sie in einer zweidimensionalen Darstellung des Nervenaktivitätsmusters 730 über der Zeit als eine Linie erkennbar ist. Die Trajektorie 740, 750 kann hierbei entweder gerade oder gekrümmt sein, wobei verschiedene
Arten der Krümmung (z.B. parabolisch oder hyperbelförmig) auftreten können. Im Übrigen ist zu erwähnen, dass es in manchen Fällen auch möglich ist, eine Trajektorie 740, 750 durch einen Ausschnitt aus einer Sinusfunktion anzunähern. Ferner ist festzuhalten, dass eine Trajektorie 740, 750 definitionsgemäß eine Mindestlänge aufweist. Eine Trajektorie 740, 750 liegt also nur dann vor, wenn Aktionspotenziale APl, AP2, AP3, AP4, AP5 auf einer Mindestanzahl von Nervenfasern auftreten. Dabei bilden dann die Aktionspotentiale in einer zweidimensionalen
Darstellung des Nervenaktivitätsmusters als Funktion der Zeit ein Liniensegment.
Im Übrigen ist festzuhalten, dass eine zweidimensionale Darstellung eines Nervenaktivitätsmusters 730 als Funktion der Zeit hier eine Darstellung beschreibt, in der die Aktionspotenziale auf mehreren Nervenfasern parallel als Funktion der Zeit angetragen sind, wobei die Zeit in Richtung einer Abszisse angetragen ist, und wobei Verläufe der Aktionspotenziale auf mehreren Nervenfasern durch
Linienzüge, die im Wesentlichen parallel zu der Abszisse verlaufen, angetragen sind (vgl. auch Fig. 8). Eine Trajektorie 740, 750 liegt somit vor, wenn zusammengehörige Maxima oder Minima der Aktionspotenziale APl, AP2, AP3, AP4, AP5 in der zweidimensionalen Darstellung des
Nervenaktivitätsmusters 730 durch eine gerade oder gebogene Linie (die bevorzugterweise glatt bzw. knickfrei ist) verbunden werden können. Eine Trajektorie kann somit als eine Verbindungslinie von zusammengehörigen Maxima bzw. Minima von Aktionspotenzialen benachbarter Nervenfasern angesehen werden.
Das in dem Flussdiagramm 700 gezeigte erfindungsgemäße Verfahren umfasst in einem zweiten Schritt 754 das Verarbeiten des Nervenaktivitätsmusters, das in dem ersten Schritt 720 gebildet wird. Dabei wird das
Nervenaktivitätsmuster 730 bevorzugt in einer zweidimensionalen Darstellung als Funktion der Zeit und als Funktion der Position der Nervenfasern betrachtet. In dem zweiten Schritt 754 wird somit das Nervenaktivitätsmuster 730 verarbeitet, um als Analysedarstellung eine Folge von Zeitinformationen tl, t2 zu erhalten, die die zeitliche Lage von aufeinander folgenden Trajektorien 740, 750 beschreiben. Dabei wird davon ausgegangen, dass eine Trajektorie 740, 750 Aktivitätsimpulse APl, AP2, AP3, AP4, AP5 auf verschiedenen Nervenfasern NFl, NF2, NF3, NF4, NF5 aufgrund des gleichen Ereignisses in dem Audiosignal umfasst bzw. verbindet. Die ermittelten Zeitinformationen tl, t2 beschreiben hierbei den Zeitpunkt des Auftretens der Trajektorien 740, 750. Es wird ferner darauf hingewiesen, dass eine Trajektorie 740, 750 nur dann erkannt wird, wenn eine Mindestanzahl an Nervenfasern NFl, NF2, NF3, NF4, NF5 ein Aktionspotenzial APl, AP2, AP3, AP4, AP5 aufweisen, wodurch verhindert wird, dass einzelne Aktivitätspotenziale in dem Nervenaktivitätsmuster fälschlich als Trajektorie identifiziert bzw. erfasst werden.
Ein akustisches Ereignis, das eine Trajektorie mit sich bringt, kann beispielsweise ein Beginn eines Lauts sein. Auch Vokale erzeugen mindestens eine charakteristische Trajektorie, die bei dem erfindungsgemäßen Verfahren erkannt werden kann, und der daraufhin eine Zeitinformation zugeordnet werden kann. Üblicherweise umfasst allerdings ein Laut sogar mehrere Trajektorien, wobei bevorzugterweise für jede der aufeinander folgenden Trajektorien eine zugehörige Zeitinformation erzeugt werden kann. Die Zeitinformation kann dabei beispielsweise einen Anfangszeitpunkt der Trajektorie kennzeichnen, also einen Zeitpunkt, an dem die erste zu der Trajektorie 740, 750 gehörige Nervenfaser NFl, NF2, NF3, NF4, NF5 ein Aktionspotenzial APl, AP2, AP3, AP4, AP5 aufweist.
Die Verarbeitung des Nervenaktivitätsmusters 730 kann beispielsweise so ausgelegt werden, dass solche Muster in dem Nervenaktivitätsmuster als Trajektorie erkannt werden, die eine Wanderwelle auf einer Basilarmembran eines Ohrmodells zugeordnet sind. Mit anderen Worten, eine Trajektorie kann dann erkannt werden, wenn auf den einzelnen Nervenfasern ein Anregungsmuster anliegt, das auf einer Ausbreitung einer Wanderwelle basiert. Eine Wanderwelle löst dabei typischerweise nacheinander und mit einem geringen aber nicht verschwindenden zeitlichen Versatz Aktionspotenziale auf der Mehrzahl von Nervenfasern aus .
Weiterhin ist bei obigen Überlegungen zu berücksichtigen, dass üblicherweise Nervenfasern, die gemäß des Ohrmodells bevorzugt auf niedrige Frequenzen ansprechen, erst später aktiviert werden bzw. ein Aktionspotenzial aufweisen, als Nervenfasern, die bevorzugt hohe Frequenzen detektieren. Dies liegt darin begründet, dass Hörnerven, die auf hohe Frequenzen ansprechen, an dem Anfang der Cochlea bzw. der Basilarmembran angeordnet sind, während hingegen Hörnerven, die niedrige Frequenzen erfassen, an dem Ende der Cochlea angeordnet sind. Mit der Ausbreitung eines Schallereignisses über die Cochlea bzw. über die Basilarmembran ergibt sich hierbei eine frequenzabhängige Verzögerung, sodass hohe Frequenzanteile früher als tiefe Frequenzanteile ein Aktivitätspotential auf den jeweils zugeordneten Nervenfasern erzeugen.
So zeigt auch die Darstellung der Figur 7 Aktionspotentiale APl, AP2, AP3, AP4, AP5 auf eine Mehrzahl von Nervenfasern NF 1, NF 2, NF 3, NF 4, NF 5. Es wird hierbei davon ausgegangen, dass eine erste Nervenfaser NF 1 einer hohen Frequenz zugeordnet ist (z. B. 20 kHz), während eine fünfte Nervenfaser (NF 5) einer niedrigeren Frequenz (z. B. 20 Hz) zugeordnet ist. Eine dazwischenliegende zweite Nervenfaser NF 2, eine dritte Nervenfaser NF 3 und eine vierte Nervenfaser NF 4 sind dazwischenliegende Frequenzen zugeordnet .
Zum besseren Verständnis wird hier auch auf eine Zeitachse t hingewiesen. Es ist erkennbar, dass das Aktionspotential APl auf der ersten Nervenfaser NF 1 früher auftritt als Aktionspotentiale auf den übrigen Nervenfasern NF 2, NF 3, NF 4 und NF 5. Die zusammengehörigen Aktionspotentiale auf den fünf Nervenfasern bilden somit bei einer zeitlichen Betrachtung eine erste Trajektorie 740, der ein
Anfangszeitpunkt tl zugeordnet werden kann. Ein später folgendes zweites akustisches Ereignis erzeugt wiederum Aktionspotentiale AP6, AP7, AP8, AP9, APlO auf den Nervenfasern NFl, NF2, NF3, NF4, NF5 , die die zweite Trajektorie 750 bilden. Der zweite Trajektorie 750 kann dann ein zweiter Zeitpunkt t2 zugeordnet werden.
Aufgabe der Verarbeitung des Nervenaktivitätsmusters in dem zweiten Schritt 730 ist es nunmehr, die ersten Trajektorie 740 und die zweite Trajektorie750 zu erkennen und entsprechende Zeitinformationen (tl), (t2), die den Trajektorien 740, 750 zugeordnet sind, zu liefern. Die Zeitinformationen (tl) und (t2) bilden somit eine verbesserte Analysedarstellung des Audiosignals 710, die eine noch vorteilhaftere Verarbeitung als das Nervenaktivitätsmuster selbst ermöglicht. Die verbesserte Analysedarstellung 760 kann insbesondere auch zur Zwecke einer Spracherkennung eingesetzt werden. Daneben eignet sich die verbesserte Analysedarstellung 760 auch sehr gut für eine Rhythmuserkennung eines Signals.
Fig. 8 zeigt zum besseren Verständnis eine Darstellung von beispielhaften Nervenaktivitätsmustern. Eine erste graphische Darstellung 810 zeigt, wie eine Basilarmembran 820 durch einen akustischen Impuls 824 (CLICK) angeregt wird. Der akustische Impuls 824 wird über das ovale Fenster der Cochlea eingekoppelt und erreicht somit zuerst eine Basis 830 der Basilarmembran 820. Der akustische Impuls breitet sich dann über die Basilarmembran 820 zu deren Apex 834 aus. Entlang der Basilarmembran sind beispielsweise fünf (Hör-) Nerven angeordnet, wobei eine grafische Darstellung 840 Pulsantworten der Basilarmembran 820 bei einer Anregung durch den akustischen Impuls 824 an verschiedenen Orten der Basilarmembran zeigt. Es ist hierbei ersichtlich, dass in der Nähe der Basis 830 der Basilarmembran 820 eine kurze Impulsantwort auftritt, die im wesentlichen hohe Frequenzanteile umfasst, während hingegen in der Nähe des Apex 834 der Basilarmembran 820 eine lange Impulsantwort auftritt, die im wesentlichen niedrige Frequenzen umfasst.
Eine weitere grafische Darstellung 850 zeigt Impulsantworten für eine Vielzahl von Orten entlang der Basilarmembran. Eine Abszisse 860 beschreibt hierbei die Zeit, während eine Ordinate 862 einen Ort entlang der Basilarmembran 820 kennzeichnet. Aus der grafischen Darstellung 850 ist ersichtlich, dass die Impulsantworten an verschieden Orten entlang der Basilarmembran 820 bei einer Anregung durch den akustischen Impuls 824 eine Mehrzahl von Trajektorien aufweisen, von denen zwei Trajektorien 870, 872 beispielhaft in der grafischen Darstellung 850 eingezeichnet sind. Trajektorien, die in der grafischen Darstellung 850 der Impulsantwort der Basilarmembran gezeigt sind, können im übrigen in ähnlicher weise auch in einem Nervenaktivitätsmuster identifiziert werden, das hier nicht explizit gezeigt ist.
Es wird im übrigen auch noch darauf hingewiesen, dass die in der graphischen Darstellung 850 gezeigten Trajektorien 870, 872 ein unterschiedliches Krümmungsverhalten aufweisen. Das unterschiedliche Krümmungsverhalten resultiert aus der Tatsache, dass an verschiedenen Orten der Basilarmembran 820 verschiedene Frequenzen dominant sind (beispielsweise an der Basis der Basilarmembran hohe Frequenzen und an dem Apex der Basilarmembran niedrige Frequenzen) .
Eine weitere grafische Darstellung 880 zeigt analog zu der grafischen Darstellung 810 eine Anregung einer
Basilarmembran 882 durch eine Folge von akustischen Impulsen (CLICKS) die mit 884 bezeichnet ist. Entsprechend zeigt eine grafische Darstellung 890 eine Überlagerung von Impulsantworten auf verschiedene akustische Impulse. Eine grafische Darstellung 892 zeigt wiederum die entsprechende Impulsantwort für eine große Anzahl von Orten x auf der Basilarmembran 881. Zur weiteren Verdeutlichung zeigt die Figur 9 eine grafische Darstellung einer Verzögerung bei einer Ausbreitung von Signalen verschiedener Frequenz auf der Basilarmembran. Hierbei beschreibt eine erste grafische Darstellung 910 eine Latenzzeit von auditorischen Nervenfasern als Funktion einer charakteristischen Frequenz .
Eine Frequenz ist hierbei an einer Abszesse 912 in einem Bereich zwischen 0,1 kHz und 16 kHz angetragen. Eine Ordinate von 914 beschreibt eine Latenzzeit der auditorischen Nervenfaser in einem Bereich zwischen 0 und 12 Millisekunden. Eine Kurve 920 beschreibt einen Verlauf einer durch ein Sinussignal hervorgerufenen Latenzzeit des Hörnervs über der Frequenz für eine Katze. Messpunkte 924 beschreiben einen ähnlichen Verlauf für einen Chinchilla. Es wurde herausgefunden, dass die Latenzzeit auf auditorischen Nervenfasern als Funktion einer . charakteristischen Frequenz fi für die betreffende Nervenfaser durch die folgende Gleichung beschrieben werden kann:
Figure imgf000053_0001
Der entsprechende Zusammenhang ist im Detail beispielsweise in dem Artikel „A Space-Time Theory of Pitch and Timbre
Based on Cortical Expansion of the Cochelar Travelling Wave Delay" von S. Greenberg, D. Poeppel und T. Roberts, vorgestellt auf dem XIth International Symposium on Hearing, Grantham, ausführlich erläutert. Für Einzelheiten wird daher auf den entsprechenden Artikel verwiesen.
Es wird hierbei ferner darauf hingewiesen, dass eine zweite grafische Darstellung 930 einen Abstand von zu einer charakteristischen Frequenz gehörigen Hörzellen von einer Basis einer menschlichen Cochlea zeigt. Hieraus wird wiederum deutlich, dass zu hohen Frequenzen gehörige Hörzellen nahe bei der Basis der menschlichen Cochlea angeordnet sind, während zu niedrigen Frequenzen gehörige Hörzellen entfernt von der Basis der menschlichen Cochlea angeordnet sind.
Die vorliegende Darstellung bestehend aus der ersten grafischen Darstellung 910 und der zweiten grafischen Darstellung 930 zeigt allerdings auch, dass eine Latenzzeit des auditorischen Nervs für tiefe Frequenzen (unter ca. 0,5 kHz) stark ansteigt. Daraus kann gefolgert werden, dass eine Ausbreitungszeit in der Nähe des Endes der Basilarmembran (also entfernt von der Basis der Cochlea) deutlich abnimmt.
Die beschriebene Latenzzeit der auditorischen Nervenfasern resultiert, wie auch schon anhand von Figur 8 beschrieben, in einer Krümmung von Trajektorien in dem Nervenaktivitätsmuster, das Aktionspotenziale auf einer Mehrzahl von Nervenfasern, die mit Hörzellen gekoppelt sind, beschreibt.
Zur weiteren Verdeutlichung zeigt die Figur 10 eine grafische Darstellung eines Cochleograms für einen Vokal „i" und für einen nicht-harmonischen Tonkomplex von 700 Hz, 900 Hz und 1100 Hz. Eine Abszisse 1010 beschreibt hierbei die Zeit, während eine Ordinate 1020 eine Frequenz beschreibt. In dem entsprechenden Cochleogram des Vokals „i" sind wiederum deutlich Trajektorien erkennbar, von denen einige ausgewählte Trajektorien gekennzeichnet und mit 1050 bezeichnet sind. In ähnlicher Weise zeigt auch das Cochleogram des nicht-harmionischen Tonkomplexes Trajektorien, die mit 1060 bezeichnet sind. Figur 11 zeigt eine weitere grafische Darstellung eines Cochleograras sowie eine Transmitter-Freisetzungs- Wahrscheinlichkeit und eine Transmitter-Vesikel-Freisetzung für einen Vokal „A" . Das Cochleogram ist hierbei in einer ersten grafischen Darstellung 1110 gezeigt. Eine zweite grafische Darstellung 1120 beschreibt eine auf dem Cochleogram basierende Transmitter-Freisetzungs- Wahrscheinlichkeit . Es wird hierbei darauf hingewiesen, dass das Cochleogram eine Anregung der Basilarmembran über der Zeit und Frequenz beschreibt. Basierend darauf, kann, wie schon oben beschrieben, eine Freisetzungs- Wahrscheinlichkeit für Neurotransmitter-Vesikel durch Analyse der mechanischen, chemischen und elektrischen Abläufe in einer Hörzelle berechnet werden. Die
Freisetzungs-Wahrscheinlichkeit wurde beispielsweise als k(t) bezeichnet. Basierend auf der
Freisetzungswahrscheinlichkei't k(t) kann dann eine Neurotransmitter-Vesikel-Freisetzung durch eine stochastische Auswertung berechnet werden. Ein Beispiel für eine entstehende Neurotransmitter-Vesikel—Freisetzung ist in der dritten grafischen Darstellung 1130 gezeigt. Es ist hierbei ersichtlich, dass auch die Vesikel-Freisetzung über Zeit und Frequenz charakteristische Trajektorien aufweist. Diese Trajektorien werden dann durch eine Modellierung des synaptischen Spalts auf Trajektorien von Aktionspotenzialen (also Trajektorien in dem Nervenaktivitätsmuster) abgebildet .
Es wird hierbei schließlich darauf hingewiesen, dass die an Ordinaten 1140 eingetragene Frequenz jeweils zugehörigen Hörzellen bzw. Nervenfasern (n) zugeordnet werden kann. Somit treten die gezeigten Trajektorien in sehr ähnlicher Form auch in dem Nervenaktivitätsmuster auf. Figur 12 zeigt eine grafische Darstellung einer Verarbeitungskette für eine erfindungsgemäße Analyse eines Audiosignals gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung. Die grafische Darstellung der Figur 12 ist in der Gesamtheit mit 1200 bezeichnet.
Gemäß der Fig. 12 wird aufgrund eines Audiosignals 1210 die Bewegung einer Basilarmembran 1220 an einer Mehrzahl von Punkten (bzw. Orten oder Regionen) berechnet. Ein Anregungsmuster der Basilarmembran eine Abhängigkeit von einer Position entlang der Basilarmembran wird dann entweder direkt einer Einrichtung zur Erkennung von Trajektorien zugeführt, oder es wird basierend auf dem Anregungsmuster der Basilarmembran ein Nervenaktivitätsmuster erzeugt, dass für eine weitere Verarbeitung herangezogen wird. Das Anregungsmuster der Basilarmembran weist, ebenso wie ein daraus abgeleitetes Nervenaktivitätsmuster, bei einer Betrachtung über der Zeit eine Mehrzahl von Trajektorien auf, die charakteristisch für ein Audiosignal sind. Die Trajektorien sind dabei aufgrund der anhand der Figuren 8 und 9 beschriebenen Laufzeitunterscheide zwischen hohen und niedrigen Frequenzen typischerweise gebogen. Im übrigen ist anzumerken, dass die Trajektorien beispielsweise auch unterbrochen sein können. Ferner können in einzelnen Frequenzbereichen bzw. räumlichen Bereichen der
Basilarmembran unterschiedliche Anregungsmuster und Trajektorien auftritt. Unterbrochene Trajektorien bzw. Teil-Trajektorien, die nur in einem bestimmten Frequenzbereich angeregt werden, sind beispielsweise für Sprachsignale charakteristisch.
Das gezeigte Nervenaktivitätsmustör 1230 bzw. ein Basilarmembran-Anregungsmuster, das dem
Nervenaktivitätsmuster ähnlich ist, wird daraufhin einem akustischen Kern 1240 zugeführt. Der akustische Kern ist ausgelegt, um eine Zeit zwischen zwei Spitzen zu detektieren. Im übrigen wird darauf hingewiesen, dass es die Aufgabe des akustischen Kerns ist, Trajektorien in dem Nervenaktivitätsmuster (bzw. Basilarmembran- Anregungsmuster) zu identifizieren. Der akustische Kern kann ausgelegt sein, um den gesamten Frequenzbereich, also alle Nervenfasern, die das Nervenaktivitätsmuster bilden, oder nur einen ausgewählten Teilbereich zu analysieren. Ferner ist es auch möglich, verschiedene Kombinationen von Teilbereichen sowie den gesamten Frequenzbereich parallel zu analysieren.
Der akustische Kern 1240 ist ausgelegt, um eine Trajektorie zu erkennen, wenn eine Mindestanzahl von betrachteten Nervenfasern ein Aktivitätsmuster 1230 aufweist, was in einer Zeit-Nervenfaser-Nummer-Darstellung einem linienförmigen Verlauf in Form einer typischerweise gekrümmten Linie entspricht. Der akustische Kern 1240 liefert dann als Ausgangssignal eine Folge von Zeitinformationen, die eine zeitliche Lage der Trajektorien beschreiben. Dies kann beispielsweise der Anfangszeitpunkt einer Trajektorie oder auch ein mittlerer Zeitpunkt innerhalb einer Trajektorie sein. Im übrigen wird darauf hingewiesen, dass es bevorzugt wird, eine parallele Auswertung für eine Mehrzahl von Frequenzbändern bzw. für eine Mehrzahl von Gruppen von Nervenfasern durchzuführen, um die Teilinformationen zu einer Mehrzahl von Frequenzbändern für eine weitere Verarbeitung, z. B. eine Spracherkennung, zur Verfügung zu stellen. Ein beispielhaftes Ausgangssignals eines akustischen Kerns 1240 ist in der grafischen Darstellung 1250 gezeigt. Das
Ausgangssignal des akustischen Kerns 1240 stellt hierbei ein verbessertes Analysesignal dar, in dem die Datenmenge gegenüber dem Nervenaktivitätsmuster 1230 deutlich verringert ist. Das Ausgangssignal 1250 des akustischen Kerns beschreibt nämlich nur diskrete Zeitpunkte für ein oder mehrere Frequenzbänder, die Trajektorien zugeordnet sind. Die diskreten Zeitpunkte sind hier mit 1260 bezeichnet. Die nach Frequenzbändern aufgeteilten Informationen, die die zeitliche Lage von Trajektorien beschreiben, eignen sich im übrigen besonders gut für eine Spracherkennung.
Figur 13 zeigt ein Blockschaltbild einer Vorrichtung zum erfindungsgemäßen Verarbeiten des Nervenaktivitätsmusters . Die in der Figur 13 gezeigten Vorrichtung ist in ihrer Gesamtheit mit 1300 bezeichnet. Die gezeigte Vorrichtung 1300 weist eine Mehrzahl von Stufen 1310, 1312, 1314 auf, wobei die erste Stufe 1310 parallel Signal 1320, 1322, 1324 von Nervenzellen empfängt. Die Signale 1320, 1322, 1324 beschreiben bevorzugt Aktionspotentiale auf Nervenfasern, die mit den entsprechenden Nervenzellen gekoppelt sind, und beschreiben somit das Nervenaktivitätsmuster .
In einer ersten Stufe 1310 wird dann beispielsweise das erste Nervensignal 1320 in einer ersten Verzögerungseinrichtung 1330 einer Verzögerung unterworfen und dann als verzögertes Nervensignal 1332 an eine zweite Stufe 1312 weitergeleitet. In ähnlicher weise wird auch das zweite Nervensignal 1322 in der ersten Stufe 1310 verzögert und als verzögertes Nervensignal an die zweite Stufe 1312 weitergeleitet. In der gleichen Weise werden auch die übrigen Nervensignale in der ersten Stufe 1310 verarbeitet (also beispielsweise auch das n-te Nervensignal 1324).
Die zweite Stufe 1312 ist parallel zu der ersten Stufe 1310 ausgelegt, ermöglicht also wiederum die verzögerte
Weiterleitung der verzögerten Nervensignale 1332, 1334,
1336, wodurch zwei Mal verzögerte Nervensignale entstehen.
Eine Vorrichtung zum erfindungsgemäßen Verarbeitung des
Nervenaktivitätsmusters umfasst nun eine Mehrzahl von hintereinander geschalteten Stufen, die gleich wie die erste Stufe 1310 bzw. die zweite Stufe 1312 aufgebaut sind.
Die Nervensignale 1320, 1322, 1324 werden also parallel durch die Mehrzahl von Stufen 1310, 1312, 1314 weitergeleitet, wobei jede Stufe eine einstellbare Verzögerung zu den Nervensignalen hinzufügt.
Weiterhin ist jede der Stufen 1310, 1312, 1314 ausgelegt, um eine Summe der an ihr einlaufenden bzw. der aus ihr auslaufenden Nervensignale (bzw. m-mal verzögerten Nervensignale) zu bilden. Ferner sind die Stufen 1310, 1312, 1314 bevorzugt ausgelegt, um diese Summe mit einem einstellbaren Schwellwert zu vergleichen, um festzustellen, ob zu einem gegebenem Zeitpunkt mindestens eine vorgegebene Anzahl von Nervensignalen bzw. verzögerten Nervensignalen (also einlaufende Nervensignale oder auslaufende Nervensignale) aktiv sind (bzw. ein Aktionspotential aufweisen) .
Es wird ferner bevorzugt, dass die Verzögerungen der in den Stufen 1310, 1312, 1314 vorhandenen Verzögerungseinrichtungen unterschiedlich eingestellt sind, sodass beispielsweise ein erstes Nervensignal 1320 bei einem Durchlaufen der Stufen 1310, 1312, 1314 einer anderen Verzögerung unterliegt als das zweite Nervensignal 1322. Verzögerungen können beispielsweise so eingestellt sein, dass sich für die Nervensignale 1320, 1322, 1324 unterschiedliche Gesamtverzögerungen beim Durchlaufen durch die Stufen 1310, 1312, 1314 ergeben (wobei es freilich zulässig ist, das beispielsweise zwei Nervensignale in der gleichen Weise verzögert werden) . In anderen Worten, die Einrichtung 1300 ist bevorzugt so ausgelegt, das sich nicht für alle Nervensignale die gleichen Verzögerungen ergeben. Außerdem ist es vorteilhaft, dass bei Vorhandensein von j Stufen 1310, 1312, 1314 mindestens (j-1) Stufen 1310, 1312 so ausgelegt sind, dass die in einer Stufe enthaltenen Verzögerungseinrichtungen für die "Mehrzahl von Nervensignalen nicht alle die gleiche Verzögerung aufweisen. Dadurch kann erreicht werden, dass ein in eine erfindungsgemäße Einrichtung 1300 einlaufendes Nervenaktivitätsmuster über der Zeit beim Durchlauf durch die beschriebene Einrichtung zeitlich verzerrt wird, dass also einzelne Nervensignale gegenüber anderen Nervenssignalen zeitlich verschoben werden. Durch die Verzerrung können in einer zeitlichen Darstellung gebogene linienartige Muster, also Trajektorien, in dem Nervenaktivitätsmuster gerade gebogen werden.
Ferner wird darauf hingewiesen, dass durch die Summenbildung innerhalb einer Stufe erkannt werden kann, wenn eine ursprünglich gebogene Trajektorie in dem
Nervenaktivitätsmuster zu einer geraden Linie gebogen wurde (die dadurch beschrieben wird, dass eine vorgegebene Anzahl der verzögerten Nervensignale nahezu gleichzeitig bzw. zeitlich überlappend ein Aktionspotential aufweisen) .
Die Funktionsweise der Einrichtung 1300 soll anhand der Figur 14 veranschaulicht werden. Figur 14 zeigt eine beispielhafte grafische Darstellung der Signale in einer Vorrichtung 1300 zum erfindungsgemäßen Verarbeiten des Nervenaktivitätsmusters . Die grafische Darstellung der Figur 14 ist in ihrer Gesamtheit mit 1400 bezeichnet.
Eine erste graphische Darstellung 1410 beschreibt hierbei ein beispielhaftes Nervenaktivitätsmuster an Eingängen der Vorrichtung 1300. Gezeigt sind hierbei beispielhaft die
Signale von vier Nervenzellen (bzw. auf vier Nervenfasern) in einem zeitlichen Verlauf. Im übrigen wird darauf hingewiesen, dass die Aktionspotentiale 1412 eine Trajektorie 1314 bilden. Wie gezeigt, weist die Trajektorie 1414 in der zeitlichen Darstellung eine starke Krümmung auf, da die Aktionspotentiale 1412 von den verschiedenen Nervenfasern an den Eingängen der ersten Stufe 1310 einen deutlichen zeitlichen Versatz aufweisen. Somit liegt in der ersten Stufe 1310 zu einem festen ' Zeitpunkt nur jeweils ein Aktionspotential vor, sodass ein Schwellwert für eine Summe der an der ersten Stufe anliegenden Aktionspotentiale, der beispielsweise zu zwei gesetzt ist, nicht überschritten wird. Folglich liefert die erste Stufe kein Ausgangssignal an einem Schwellwertausgang.
Eine zweite grafische Darstellung 1420 beschreibt die Verhältnisse an einem Ausgang der ersten Stufe 1310.
Hierbei wird davon ausgegangen, dass in der ersten Stufe 1310 das von der erste Nervenzelle NZ 1 gelieferte Nervensignal stärker verzögert wird als das von den anderen Stufen gelieferte Nervensignal. Im übrigen wird davon ausgegangen, dass bei dem gegebenem Beispiel das von der vierten Nervenzelle NZ4 gelieferte Nervensignal am wenigsten verzögert wird, während das Nervensignal von der dritten Nervenzelle NZ3 etwas mehr verzögert wird, und wobei die Verzögerung für Nervensignalen von den Nervensignalen NZ2 und NZl immer stärker ansteigen.
Allgemein gesprochen werden Signale, die zu Nervenzellen gehören, die auf eine niedrigere Frequenz ansprechen, weniger stark verzögert, als Nervensignale von Nervenzellen, die höhere Frequenzen detektieren.
Die zweite grafische Darstellung zeigt somit wiederum Aktionspotentiale 1424 als Funktion der Zeit, wobei die Aktionspotentiale 1422 eine Trajektorie 1424 bilden. Wie aus der zweiten grafischen Darstellung 1420 ersichtlich ist, ist die Krümmung der Trajektorie 1424 an den Ausgängen der ersten Stufe geringer als eine (zeitlich-örtliche bzw. zeitlich-frequenzmäßige) Krümmung der Trajektorie 1414 an den Eingängen der ersten Stufe. Dies resultiert aus der unterschiedlichen Verzögerung der zu verschiedenen Nervenzellen gehörigen Nervensignale in den
Verzögerungseinrichtungen (z.B. 1330) der ersten Stufe. Dadurch wird also eine gekrümmte Trajektorie gleichsam geradegebogen. Wie aus der zweiten grafischen Darstellung 1420 ersichtlich, weist die zweite" Trajektorie 1424 allerdings noch eine Restkrümmung auf, so dass die von verschiedenen Nervenzellen bzw. Nervenfasern stammenden Aktionspotentiale 1422 nicht alle gleichzeitig an den Ausgängen der ersten Stufe 1310 bzw. Eingängen der zweiten Stufe 1312 anliegen.
Auch die zweite Stufe 1312 bewirkt eine weitere Verzögerung, wobei wiederum Signale von Nervenzellen, die für niedrige Frequenzen empfindlich sind, weniger verzögert werden als Signale von Nervenzellen, die für höhere Frequenzen empfindlich sind. Eine dritte grafische Darstellung 1430 zeigt die in der zweiten Stufe 1312 nochmals verzögerten Nervensignale an Ausgängen der zweiten Stufe. Es ist aus der dritten graphischen Darstellung 1430 ersichtlich, dass bei dem vorliegenden Beispiel die Nervensignale an den Ausgängen der zweiten Stufe jeweils so verzögert sind, dass Aktionspotentiale 1432 von mehreren Nervenzellen an den Ausgängen der zweiten Stufe gleichzeitig anliegen. In anderen Worten, eine Trajektorie 1434, die durch die Aktionspotentiale 1432 beschrieben wird, ist zumindest näherungsweise gerade gebogen. Die Aktionspotentiale 1432 treten also gleichzeitig bzw. näherungsweise gleichzeitig (zumindest aber zeitlich überlappend) auf, sodass das gleichzeitige Auftreten durch eine Summation der an den Ausgängen der zweiten Stufe (bzw. Eingängen der dritten Stufe) anliegenden Signale einen deutlichen Peak aufweist, der groß genug ist, um einen vorgegebenen Schwellenwert (z. B. zwei oder drei) zu überschreiten .
In anderen Worten, es kann durch eine geeignete Summiereinrichtung (oder eine andere geeignete Einrichtung) erkannt werden, wann eine gekrümmte Trajektorie gerade gebogen wurde. Die entsprechende Information ermöglicht einen Rückschluss sowohl auf den Anfangszeitpunkt der Trajektorie als auch auf die Form der Trajektorie. Es kann nämlich festgestellt werden, nach 'Durchlaufen von wie vielen Stufe eine Trajektorie gerade gebogen wurde. Dadurch kann bei Kenntnis der Verzögerungen für die einzelnen Nervensignale in den Stufen der Einrichtung 1300 auch auf eine ursprüngliche Form der Trajektorie zurückgeschlossen werden. Ferner ist die Durchlaufzeit für die Stufen bevorzugterweise bekannt, sodass auch der Zeitpunkt, zudem eine Trajektorie in die Einrichtung 1300 eingelaufen ist, bestimmt werden kann. Somit kann die Analysedarstellung sowohl charakteristische Zeitinformationen der Trajektorien als auch Informationen über Form bzw. Krümmung der Trajektorien umfassen.
Die zusätzliche Information über die Form der Trajektorien kann dann bei einer Weiterverarbeitung der
Analysedarstellung vorteilhaft ausgenutzt werden, um z. B. eine Spracherkennung zu erleichtern oder eine Erkennungsqualität bei der Spracherkennung zu verbessern.
Im übrigen wird noch darauf hingewiesen, dass eine vierte grafische Darstellung 1440 zur Verbesserung des Verständnisses noch Ausgangssignale an Ausgängen einer dritten Stufe zeigt. Aktionspotentiale 1442 beschreiben eine Trajektorie 1444, die allerdings durch ein weiteres Verbiegen der Trajektorie wieder gekrümmt ist.
Es wird darauf hingewiesen, dass die Verzögerungen in den Stufen 1310, 1312, 1314 auf verschiedenem Weg erzielt werden können. Die Verzögerungseinrichtungen (z.B. 1330) können beispielsweise getaktet sein, und/oder es kann sich um kontinuierlich oder diskret einstellbare Verzögerungseinrichtungen handeln. Im übrigen ist es auch möglich, dass eine oder mehrere Verzögerungseinrichtungen in einer vorgegebenen Stufe für eine oder mehrere Nervensignale deaktiviert sind, sodass einige Nervensignale durch eine Stufe mit geringst möglicher Verzögerung weitergeleitet werden. Im übrigen ist festzuhalten, dass die Einrichtung 1300 insgesamt als eine analoge oder digitale Schaltung implementiert sein kann.
Figur 15 zeigt ein Schaltbild eines beispielhaften Hubel- Wiesel-Netzes zur erfindungsgemäßen Berechnung einer Analysedarstellung eines Audiosignals gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung. Das Schaltbild der Figur 15 ist in seiner Gesamtheit mit 1500 bezeichnet. Erster Schaltungsblock 1510 empfängt Eingangssignale 1520, 1522, 1524, die beispielsweise ein Nervenaktivitätsmuster oder ein Anregungsmuster einer
Basilarmembran repräsentieren können. Die Eingangssignale 1520, 1522, 1524 werden dann durch eine Mehrzahl von Stufen 1530, 1532, 1534 geleitet. Ein Eingangssignal 1520 durchläuft somit eine Mehrzahl von Stufen 1530, 1532, 1534, wobei ein Eingangssignal 1520 in einer Stufe 1530, 1532,
1534 entweder eine Verzögerungseinrichtung durchläuft oder direkt zu einer darauffolgenden Stufe weitergeleitet wird. In anderen Worten, die Verzögerungseinrichtungen können auch überbrückt werden.
In anderen Worten, jede Stufe umfasst für jedes Signal eine schaltbare Verzögerungseinrichtung, wobei die Verzögerungseinrichtung in einen Signalpfad, der von einem Eingangssignal durchlaufen wird, eingeschaltet werden kann oder überbrückt werden kann. Signale an den Eingängen jeder Stufe werden abgegriffen und Summierern 1540, 1542, 1544 zugeführt, wobei jeweils die an den Eingängen einer Stufe anliegenden Signale aufsummiert werden. Der erste Schaltungsblock 1510 bildet somit ein Gitter von Verzögerungselementen und Addieren, die in der gezeigten Weise verschaltet sind.
Das Hubel-Wiesel-Netz 1500 weist ferner eine Schwellwerteinrichtung 1550 auf, wobei jeweils ein Wert aus einem Schwellwertregister 1560, 1562, 1564 sowie ein
Ausgang eines Summierers 1540, 1543, 1544 einem Komparator 1570, 1572, 1572 zugeführt wird. Ausgangsignale 1580, 1582, 1584 der Komparatoren 1570, 1572, 1574 liefern dabei eine Aussage darüber, ob an den Eingängen einer vorgegebenen Stufe 1530, 1532, 1534 eine Anzahl von Signalen gleichzeitig aktiv sind, wobei eine Mindestanzahl, bei der ein aktives Ausgangssignal 1580, 1582, 1584 ausgegeben wird, durch die Schwellwertregister 1560, 1562, 1564 festgelegt ist. In anderen Worten, durch die Komparatoren 1570, 1572, 1574 kann in Verbindung mit den Summierern 1540, 1542, 1544 und den Schwellwertregistern 1560, 1562, 1564 festgestellt werden, wenn (bzw. nach Durchlaufen wie vieler der Stufen 1530, 1532, 1534) eine Trajektorie, die über die Eingänge 1520, 1522, 1524 des ersten Blocks 1510 eingelesen wurde, gerade gebogen ist.
Die Verzögerungen der einzelnen Stufen 1530, 1532, 1534 können dabei geeignet vorgegeben werden, um eine Erkennung einer möglichst großen Anzahl von Trajektorien (bzw. Trajektorien-Formen) zu ermöglichen.
Figur 16 zeigt ein Blockschaltbild eines Hubel-Wiesel- Netzes zur erfindungsgemäßen Berechung einer
Analysedarstellung eines Audiosignals gemäß dem zweiten Ausführungsbeispiel der vorliegenden Erfindung. Das gezeigte Hubel-Wiesel-Netzwerk ist in seiner Gesamtheit mit 1600 bezeichnet.
Eingangsneuronen 1610 sind ausgelegt, um ein Nervenaktivitätsmuster oder ein Anregungsmuster einer Basilarmembran eines Ohrmodells in Form von parallel bereitstehenden Zeitsignalen zu empfangen. Das
Nervenaktivitätsmuster (bzw. das Anregungsmuster der Basilarmembran) wird dabei unter optionaler Einbeziehung von Verzögerungsneuronen durch mehrere Stufen des neuronalen Netzes weitergeleitet. Hierbei ist anzumerken, dass die Verzögerungsneuronen 1620 auch überbrückt werden können, sodass in einer Stufe keine Verzögerung eines von einem Eingangsneuron 1610 gelieferten Signals stattfindet. Das neuronale Netz weist ferner Ausgangsneuronen 1630 auf. Die Verschaltung des neuronalen Netzes 1600 kann dabei der Figur 16 entnommen werden. Es wird darauf hingewiesen, dass das gezeigte neuronale Netz in der Lage ist, eine gekrümmte Kurve bzw. Trajektorie in einem Nervenaktivitätsmuster (bzw. Basilarmembran-Anregungsmuster) , das über die Eingangsneuronen 1610 das neuronale Netz 1600 eingegeben wird, zu erkennen. Das neu-ronale Netz ist dabei (nach einem Training) in der Lage, sowohl Zeitpunkt als auch Form einer Trajektorie in einem über die Eingangsneuronen 1610 eingegebenen Nervenaktivitätsmuster zu bestimmen, wobei ein aktives Ausgangsneuron diese Informationen beschreibt. Die Informationen über die Form und Zeit einer Trajektorie sind hierbei dadurch codiert, welches Ausgangsneuron wann aktiviert wird.
Figur 17 zeigt schließlich eine grafische Darstellung von beispielhaften Trennungsmustern, die zum Trainieren eines neuronalen Netzwerks 1600 verwendet werden können. Nach einem Training ist das neuronale Netzwerk 1600 dann in der Lage, entsprechende gerade oder gekrümmte Verläufe als Trajektorien zu identifizieren.
Somit ist festzuhalten, dass ein Hubel-Wiesel-Netz 1600 sich sehr gut dazu eignet, um Trajektorien in einem Nervenaktivitätsmuster zu erkennen. Hierzu ist lediglich das Nervenaktivitätsmuster an Eingänge 1520, 1522, 1524 des Hubel-Wiesel-Netzes anzulegen. An Ausgängen 1580, 1582, 1584 von Komparatoren 1570, 1572, 1574 stehen dann Signale an, die eine Aussage über Form und zeitliche Lage einer Trajektorie umfassen. Die Ausgangssignale 1580, 1582, 1584 können freilich bei Bedarf noch in eine leichter interpretierbare Form gebracht werden, aus der beispielsweise direkt eine Zeitinformation über eine Trajektorie hervorgeht. Die Zeitinformation bildet dann die vorteilhafte Analysedarstellung.
Es wird im übrigen darauf hingewiesen, dass das in Figur 17 bezeichnete neuronale Netz 1700, das sich sehr gut für eine Erkennung von Trajektorien in einöm Nervenaktivitätsmuster eignet, im Detail in dem Artikel „A neural net for 2D-slope and sinusoidal shape detection" von A. Brückmann, S. Klefenz und A. Wünsche (veröffentlicht in dem CIST International Scientific Journal of Computing, ISSN 1727- 6209) im Detail beschrieben wurde.
Ferner wird darauf hingewiesen, dass das Verarbeiten des Nervenaktivitätsmusters bevorzugt durch Anwendung einer sogenannten Hough-Transformation erfolgt (Vergleiche US Patent US 3,069,654). Eine Hough-Transformation ist nämlich in der Lage, in effektiver Weise aufeinanderfolgende Trajektorien in eine räumlich-zeitlichen Muster zu erkennen. Damit eignet sich die Hough-Transformation hervorragend zum Extrahieren einer Analysedarstellung aus einem Audiosignal, da im Rahmen der vorliegenden Erfindung erkannt wurde, dass eben Trajektorien in einem Nervenaktivitätsmuster eines Ohrmodells eine charakteristische Information des Audiosignals darstellen, die für eine weitere Analyse vorteilhaft eingesetzt werden kann.
Weiterhin wird darauf hingewiesen, dass auch andere bekannte Verfahren zur Mustererkennung eingesetzt werden können, um Trajektorien in den Nervenaktivitätsmuster zu erkennen. Hierbei können besonders vorteilhaft solche Verfahren eingesetzt werden, die eine Erkennung von gebogenen Linien ermöglichen, da erkannt wurde, dass Trajektorien in den Nervenaktivitätsmuster typischerweise eine hyperbolische Form aufweisen. Hierbei ist zu berücksichtigen, dass das Nervenaktivitätsmuster für eine Mehrzahl von Nerven über der Zeit ein zweidimensionales Muster ergibt, wobei entlang einer ersten Richtung Signale auf mehreren Nervenfasern beispielsweise durch eine Intensitätsverteilung bzw. durch numerische Werte dargestellt werden können, während hingegen in einer zweiten Richtung die zeitliche Entwicklung angetragen ist. Eine typische Darstellungsform für einen zeitlichen Verlauf eines Nervenaktivitätsmusters kann somit beispielsweise ähnlich zu den gezeigten Cochlea-Diagrammen (Cochleogrammen) sein. Somit ist es möglich, einen beliebigen
Mustererkennungsalgorithmus einzusetzen, der in der Lage ist, gekrümmte Linien zu erkennen. Allerdings hat sich gezeigt, dass die Anwendung einer Hough-Transformation besonders vorteilhaft ist, weil eben die Hough- Transformation sich besonders gut für eine Erkennung von gekrümmten Linien eignet. Im übrigen wird darauf hingewiesen, dass bei Durchführen einer Hough- Transformation in einer Anordnung 1600 bzw. 1700 auch bei Vorliegen mehrerer eng benachbarten Trajektorien ein gutes Erkennungsergebnis erzielt werden kann, wenn nur die Schwellenwerte bzw. Ansprechempfindlichkeiten der Ausgangsneuronen (bzw. der Komparatoren) passend eingestellt sind.
Ferner ist es möglich, im Rahmen einer Hough-Transformation (oder einer anderen Mustererkennungsoperation) auch eine Länge einer Trajektorie zu erkennen, sodass neben den Informationen über Zeitpunkt und Form der Trajektorie noch eine dritte Information für eine anschließende Analyse zur Verfügung steht .
Im übrigen wird darauf hingewiesen, dass auch ein zweidimensionaler Mustervergleich über der zeitlichen Darstellung des Nervenaktivitätsmuster durchgeführt werden kann, um eine Folge von Zeitinformationen, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien beschreiben, zu gewinnen.
Ferner wird darauf hingewiesen, dass es vorteilhaft ist, aufgrund einer Analysedarstellung eines Audiosignals eine Mustererkennung durchzuführen. Gemäß der vorliegenden Erfindung existieren zwei besonders vorteilhafte Analysedarstellungen. Es hat sich 'nämlich gezeigt, dass ein Nervenaktivitätsmuster besonders vorteilhaft für eine
Analyse eines Audiosignals eingesetzt werden kann. Ferner eignet sich auch eine Darstellung, die Zeitinformationen über in dem Nervenaktivitätsmuster enthaltene Trajektorien umfasst, besonders gut für eine Analyse des Audiosignals. Sowohl das Nervenaktivitätsmuster als auch die zeitliche Darstellung mit Informationen über in dem Nervenaktivitätsmuster enthaltene Trajektorien werden im folgenden als Audiosignal-Repräsentanten bezeichnet.
Figur 18 zeigt eine schematische Darstellung einer Einrichtung zur Identifizierung eines Audiosignals. Die in der Figur 18 gezeigte Einrichtung ist in Ihrer Gesamtheit mit 1800 bezeichnet. Die Einrichtung umfasst eine
Vergleichseinrichtung 1810, die mit einer Audiosignal- Datenbank 1820 gekoppelt ist. Der Vergleichseinrichtung 1810 wird ferner ein Audiosignal-Repräsentant 1830 zugeführt. Basierend auf dem Audiosignal-Repräsentant 1830 und in der Audiosignal-Datenbank enthaltenen Vergleichs- Audiosignal-Repräsentanten erzeugt die
Vergleichseinrichtung 1810 ein Vergleichsergebnis 1850, das eine Aussage darüber umfasst, ob der Audiosignal- Repräsentant 1830 eine Ähnlichkeit zu mindestens einem in der Audiosignal-Datenbank gespeicherten Vergleichs- Audiosignal-Repräsentanten 1840 aufweist. Das Vergleichsergebnis 1850 kann freilich auch eine Aussage darüber umfassen, zu welchen Vergleichs-Audiosignal- Repräsentanten 1840 der Audiosignal-Repräsentant 1830 die größte Ähnlichkeit aufweist.
Die Vergleichseinrichtung 1810 kann eine beliebige Vorrichtung zum Vergleich zweier Audiosignal-Repräsentanten umfassen. Beispielsweise ist es möglich, eine Einrichtung zu verwenden, die basierend auf mathematischen Methoden einen mathematischen Abstand zwischen dem Audiosignal- Repräsentant und dem Vergleichs-Audiosignal-Repräsentant ermitteln kann. Ferner kann auch ein neuronales Netz verwendet werden, um den Audiosignal-Repräsentanten 1830 mit den Vergleichs-Audiosignal-Repräsentanten 1840 zu vergleichen. Ein neuronales Netz kann jeweils beispielsweise mit einer Mehrzahl von Audiosignal- Repräsentanten trainiert werden. Weiterhin wird darauf hingewiesen, dass die Audiosignal- Datenbank: 1820 beispielsweise eine Mehrzahl von Vergleichs- Audiosignal-Repräsentanten umfassen kann, die Musikstücke beschreiben. Weiterhin ist es genau so gut möglich, dass die Audiosignal-Datenbank Vergleichs-Audiosignal- Repräsentanten umfasst, die lediglich einzelne Laute, beispielsweise einen Vokal oder einen Konsonanten beschreiben. Somit kann die gezeigte Einrichtung 1800 zum Identifizieren eines Audiosignals auch für eine
Spracherkennung effektiv eingesetzt werden, wobei die gewählten Audiosignal-Repräsentanten sich für eine solche Anwendung besonders gut eignen.
Figur 19 zeigt eine schematische Darstellung einer Einrichtung zum Extrahieren eines Audiosignal- Fingerabdrucks aus dem Audiosignal-Repräsentanten. Die in Figur 19 gezeigte Einrichtung zum Extrahieren des Audiosignal-Fingerabdrucks ist in ihrer Gesamtheit mit 1900 bezeichnet. Hierbei wird ein Audiosignal-Repräsentant 1910 einer Einrichtung 1920 zur Merkmalsextraktion zugeführt. Die Einrichtung 1920 zur Merkmalsextraktion erzeugt basierend auf dem Audiosignal-Repräsentant 1910 einen Audiosignal-Fingerabdruck 1930. Der Audiosignal- Fingerabdruck 1930 wird dann bevorzugt einer Audiosignal- Datenbank 1940 zugeführt.
Die Einrichtung 1920 zur Merkmalsextraktion kann beispielsweise ausgelegt sein, um eine Tonhöhe und/oder ein Rhythmus aus dem Audiosignal-Repräsentant 1910 zu extrahieren. Ist der Audiosignal-Repräsentant ein Nervenaktivitätsmuster, so kann beispielsweise eine Tonhöhe extrahiert werden, indem diejenigen Nervenfasern identifiziert werden, die eine maximale Aktivität in dem Nervenaktivitätsmuster aufweisen. Die Nervenfaser mit höchsten Aktivität in den Nervenaktivitätsmuster ist nämlich ein gutes Maß für eine Tonhöhe, da die Nervenfasern typischerweise eine bevorzugte Frequenz aufweisen. Ferner können Veränderungen (bzw. die entsprechenden Zeitpunkte der Veränderungen) in den Nervenaktivitätsmuster verwendet werden, um einen Rhythmus des Audiosignals zu bestimmen. Eine Erkennung von Veränderungen in den Nervenaktivitätsmuster ist vergleichsweise einfach möglich, indem zwischen aufeinanderfolgenden Momentanwerten des Nervenaktivitätsmusters ein Abstandsmaß, z. B. eine mathematische Norm, gebildet wird. Signifikante Veränderungen können dann erkannt werden, wenn das Abstandsmaß einen vorgegebenen Wert überschreitet.
Auch Verfahren zur Mustererkennung können auf den Audiosignal-Repräsentanten 1910 angewendet werden, um einen Audiosignal-Fingerabdruck zu erzeugen. Der Audiosignal- Fingerabdruck kann so somit beispielsweise eine kombinierte Information über eine Tonhöhe und/oder Rhythmus des Audiosignals umfassen.
Ist der Audiosignal-Repräsentant 1910 ferner eine Darstellung, die Zeitinformationen zu Trajektorien, die in den Nervenaktivitätsmuster enthalten sind, umfasst, so ist eine Merkmalsextraktion in einer besonders einfachen Weise möglich. Es können nämlich beispielsweise Zeitabstände zwischen den aufeinanderfolgenden Trajektorien berechnet werden, die dann für das Audiosignal charakteristisch sind.
Ferner hat sich auch gezeigt, dass eine Form der Trajektorien ein besonders wichtiges Merkmal ist. Somit ist es möglich, in einem Audiosignal-Fingerabdruck nur Informationen zu Trajektorien einer besonderen Form zu speichern, wodurch eine Datenmenge des Audiosignal- Fingerabdrucks 1930 verringert werden kann. Dies wiederum ermöglicht eine effiziente Ablage des Audiosignal- Fingerabdrucks in einer Datenbank.'
Ferner hat sich gezeigt, dass einem Schallereignis typischerweise mehrere Trajektorien zugeordnet sind, die eine charakteristische Form und einen charakteristischen Abstand aufweisen. Somit kann beispielsweise bei der Merkmalsextraktion 1920 eine Gruppe von einer Mehrzahl von Trajektorien ausgewertet werden, woraufhin jeweils einer Gruppe von Trajektorien ein Symbol zugeordnet wird. Eine Folge von Symbolen, die zu aufeinanderfolgenden Gruppen von Trajektorien gehören, bilden dann den Audiosignal- Fingerabdruck und können in einer Datenbank abgelegt werden. Basierend auf einer Analyse einer Gruppe von Trajektorien kann ferner eine Spracherkennung realisiert werden, da Vokalen und Konsonanten jeweils charakteristische Trajektorien-Muster (im Hinblick auf Abstand und Form der Trajektorien) aufweisen, die erkannt werden können.
Zusammenfassend lässt sich also festhalten, dass die vorliegende Erfindung ein neurophysiologisch parametrisiertes Modell der ersten Stufen des Gehörsystems (first stages of the auditory System model) schafft. Das Modell setzt sich aus einer Cochlea-Modellierung, einem harmonischen Oszillatormodell der
Stereozilienbewegungsgleichung sowie einem Modell für eine Neurotransmitter-Vesikel-Freisetzung der inneren Hörzellen (IHC Neurotransmitter Vesikel Release) zusammen. Ferner umfasst das erfindungsgemäße Modell eine Beschreibung für die Generierung von post-synaptischen Aktionspotentialen. Es wird hierbei darauf hingewiesen, dass bevorzugt ein Federkonstantenwert für die Beschreibung der Stereozilien verwendet wird, der mit Hilfe eines Rasterkraftelektronenmikroskops ermittelt ist. Das erfindungsgemäße Modell kann beispielsweise zur Optimierung einer Simulation von Cochlea-Implantaten dienen, da Cochlea-Implantate direkt den auditorischen Nerv anregen.
Ein wesentlicher Vorteil der vorliegenden Erfindung besteht darin, dass die Vorrichtung in einer neurophysiologischen Weise angepasst ist. Ferner wird in einer vorteilhaften Weise eine stochastische Ausschüttung von Neurotransmitter- Vesikeln berücksichtigt. Für eine Ankoppelung der Basilarmembrangeschwindigkeit an die Stereozilienbewegung wird ein erfindungsgemäßes Oszillatormodell verwendet, wobei die Bewegungsgleichungen für die Stereozilienbewegung optimiert ist. Eine Kräftegleichung bzw. Bewegungsgleichung für die Stereozilienbewegung lautet:
mx = -Dx - kx + Fεxl + Fbrown .
Dabei beschreibt Dx die Federrückstellkraft, kx einen laminaren Strömungswiderstand, Fext
(Proportionalitätskonstante x Basilarmembrangeschwindigkeit v) eine Anregung und Fbrown eine stochastische thermische Kraft durch Stoßbewegung der Atome.
Eine post-synaptische Generierung von Aktionspotentialen wird ebenso modelliert (vgl. E. Neher und T. Sakaba: „Quantal release parameters estimated from noise" J. Neurosience, December 15, 2001, 21 (24 ): 9638-9654 ).
In anderen Worten, die vorliegende Erfindung zeigt eine Vorrichtung zur Analyse eines Audiosignals, wobei die ersten Stufen des Gehörsystems von der mechanischen Schallwandlung im Innenohr, der Übertragung durch die Gehörknöchelchen, der hydromechanischen Schwingungsanregung der Cochlea, der mechano-elektrischen Wandlung an den inneren Haarzellen bis hin der Erzeugung der Puls-Spitzen (Puls-Spike-Generierung) der Spiralganglienzellen des auditorischen Nervs modelliert sind.
Ein besonderer Vorteil der vorliegenden Erfindung liegt in der Verwendung des zur Basilaranregung verwendeten Modells. Ferner wird bei der vorliegenden Erfindung eine besonders vorteilhafte Modellierung der inneren Haarzellen verwendet. Eine Freisetzung von Neurotransmittern in einem synaptischen Spalt erfolgt gemäß der vorliegenden Erfindung in Vesikel verpackt. Die vorliegende Erfindung umfasst ferner ein besonders vorteilhaftes Modell einer Kopplung zwischen der Basilarmembran und einer Bewegung der Stereozilien, wobei ein harmonisches Oszillatormodell verwendet wurde. Ein weiterer Vorteil der vorliegenden Erfindung liegt auch in einer neurophysiologischen Parametrisierung. Für eine Federkonstante (spring stiffness konstante) wurde eine IHC-Tabellenwert für die Maus angenommen. Eine post-synaptische Spitzenerzeugung (Postsynaptische Spike-Generierung) erfolgt erfindungsgemäß unter Verwendung eines Diffusions-/Refraktärmodells) . Die vorliegende Erfindung ist somit in der Lage, Gehörvorgänge sehr realistisch nachzubilden, also zu erzeugen und zu analysieren.
Im Übrigen sei darauf hingewiesen, dass die vorliegende Erfindung auch eine Vorrichtung zur Expansion von Wanderwellen auf einer Cochlea (Cochlea travelling wave expansion) schafft. Die entsprechende Vorrichtung basiert auf einer frequenzabhängigen Berechnungsformel für Verzögerungstrajektorien (Delay-Trajektorien) längs einer Basilarmembran. Diese Formel beruht auf den Arbeiten von Greenberg. Die Verzögerung der Trajektorien entsteht durch die Wellengruppengeschwindigkeit bei einer Ausbreitung eines Impulses auf der Basilarmembran eines Ohrmodells. Tiefe Frequenzen ergeben einen zeitverzögerten Ausschlag auf der Basilarmembran, da die tiefen Frequenzen an dem Ende der Basilarmembran registriert werden. Somit ist für die tiefen Frequenzen die Laufzeitverzögerung der Basilarmembran wirksam.
Gekrümmte Bahnen bzw. Trajektorien können mit einer Hough- Transformation vorteilhaft bestimmt werden. So eignet sich die Hough-Transformation sehr gut, um Kreise, Ellipsen oder Geraden zu erkennen, aber auch andere linienförmige Kurven können mit Hilfe einer Hough-Transformation erkannt werden. Im Übrigen wird darauf hingewiesen, dass ein Zeit- Weiterleitungs-Netzwerk (timing feed forward network) gemäß der Hubel-Wiesel-Theorie Muster wie Balken oder Sinusaudiosignale unterschiedlicher Frequenz selbst lernen kann. In anderen Worten, ein Hubel-Wiesel-Netzwerk kann selbststrukturierend und selbstorganisierend eine Hough- Transformation nach einer beschriebenen Verzögerungsleitungs-Methode lernen.
Eine besondere Erkenntnis der vorliegenden Erfindung liegt darin, dass die Hough-Transformation zur
Informationsgewinnung aus den parallelen Puls-Spitzen-Zügen (Pulse spiking trains) direkt mit dem auditorischen Nerv eines Ohrmodells gekoppelt wird. In anderen Worten, die Hough-Transformation wird direkt an den auditorischen Nerv angeflanscht, um die parallelen „Pulse spiking trains" zu verarbeiten. Die Hough-Transformation biegt hierbei Verzögerungs-Trajektorien gerade und detektiert sowohl die Signalform (Krümmung) als auch den Auftrittzeitpunkt der Trajektorien. Bei der Hough-Transformation durchlaufen die Daten kontinuierlich mehrere Stufen. Eine Zeitfensterung ist hierbei, anders als bei bekannten Analysemethoden, nicht erforderlich.
In anderen Worten, die vorliegende Erfindung modelliert die ersten Stufen des Gehörsystems, von der mechanischen Schallwandlung im Innenohr, der Übertragung durch die Gehörknöchelchen, der hydromechanischen Schwingungsanregung der Cochlea, der mechano-elektrischen Wandlung an den inneren Haarzellen bis hin zur Erzeugung von Pulsspitzen (Puls spike Generierung) in den Spiralganglienzellen des auditorischen Nervs. Jedes Audiosignal generiert ein zweidimensionales Basilarmembrangeschwindigkeitsprofil aufgetragen gegen die Zeit, wobei die Basilarmembran bevorzugt in n-Sektionen unterteilt ist. Ein Klick-Impuls erzeugt dabei eine Wanderwellenbewegung auf der Basilarmembran. Eine Verzögerungs-Trajektorie der Faserlatenzzeit des auditorischen Nervs (AN-fiber latency) eines sinusförmigen Anregungssignäls ist frequenzabhängig und berechnet sich nach der Formel von Greenberg zu da = 1000/fi + 2 ms. Ein Audiosignal, das beispielsweise Vokale umfasst, ist durch ein Bündel von Verzögerungs-Trajektorien gegeben, wobei die Verzögerungs-Trajektorien eine jeweils frequenzabhängige Form aufweisen.
Die vorliegende Erfindung ermöglicht es hierbei, die Verzögerungs-Trajektorien zu detektieren. Hierbei kann bevorzugterweise ein erfindungsgemäßer Hubel-Wiesel- Neurosimulator eingesetzt werden, der die Detektion von sinusförmigen Mustern oder Geraden selbst erlernen kann. Ein entsprechender Hubel-Wiesel-Neurosimulator kann bevorzugt eine parallele Hough-Transformation lernen, die vorteilhaft in einer erfindungsgemäßen Vorrichtung zur Erzeugung eines Analysesignals aufgrund eines Audiosignals eingesetzt werden kann.
Die Verzögerungs-Trajektorien werden erfindungsgemäßer
Weise durch eine parallele Hough-Transformation bestimmt, wobei vermerkt wird, zu welchem Zeitpunkt welche Verzögerungs-Trajektorie gefunden wird, um dadurch die vorliegende Signalform zu identifizieren. Bei einem erfindungsgemäßen Einsatz einer Hough-Transformation kann aus einem Nervenaktivitätsmuster (neural activity pattern) direkt ein Größen-Form-Abbild (size-shape-image) in einem Schritt erzeugt werden. Eine weitere Analyse des Audiosignals kann erfindungsgemäßer Weise in einem Hough- Raum (hough-space) erfolgen.
Es wird ferner darauf hingewiesen, dass die erfindungsgemäße Vorrichtung auch ein erfindungsgemäßes Verfahren definiert. Das Verfahren kann in beliebiger Weise durchgeführt werden, wobei sich eine elektronische
Recheneinrichtung besonders gut für die Durchführung des erfindungsgemäßen Verfahrens eignet.
In anderen Worten, die erfindungsgemäße Vorrichtung und das erfindungsgemäße Verfahren kann in Hardware oder in
Software implementiert werden. Die Implementation kann auf einem digitalen Speichermedium, beispielsweise einer Diskette, einer CD, einer DVD oder einem FLASH-Speicher mit elektronisch auslesbaren Steuersignalen erfolgen, die so mit einem programmierbaren Computersystem zusammenwirken können, dass das entsprechende Verfahren ausgeführt wird. Allgemein besteht die vorliegende Erfindung somit auch in einem Computer-Programm-Produkt mit auf einem maschinenlesbaren Träger gespeicherten Programmcode zur Durchführung des erfindungsgemäßen Verfahrens, wenn das Computerprogramm-Produkt auf einem Rechner abläuft. In anderen Worten ausgedrückt, kann die Erfindung somit als ein Computer-Programm mit einem Programmcode zur
Durchführung des Verfahrens realisiert werden, wenn das Computer-Programm auf einem Computer abläuft.
Die vorliegende Erfindung zeigt also die Bearbeitung eines Basilarmembran-Schwingungsmusters mit Hilfe der Hough- Transformation .

Claims

Patentansprüche
1. Vorrichtung (700) zum Analysieren eines Audiosignals, um eine Analysedarstellung (760) des Audiosignals zu erhalten, mit folgenden Merkmalen:
eine Einrichtung (720) zum Berechnen eines Nervenaktivitätsmusters über der Zeit an Nervenfasern eines Ohrmodells, das sich aufgrund des Audiosignals (710) ergibt; und
eine Einrichtung (230) zum Verarbeiten des Nervenaktivitätsmusters, um als Analysedarstellung (760) eine Folge von Zeitinformationen (tl,t2) zu erhalten, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien (740,750) beschreiben, wobei eine Trajektorie (740,750) Aktivitätsimpulse auf verschiedene Nervenfasern (NFl, NF2, NF3, NF4, NF5) aufgrund des gleichen Ereignisses in dem Audiosignal 710 umfasst.
2. Vorrichtung gemäß Anspruch 1, wobei ein Nervenaktivitätsmuster (730) eine Aktivität einer Gruppe von Nervenfasern des Ohrmodells beschreibt.
3. Vorrichtung gemäß Anspruch 1 oder 2, wobei eine Zeitinformation, (tl, t2), einen Zeitpunkt eines Auftretens einer Trajektorie (740,750) beschreibt.
4. Vorrichtung (700) gemäß einem der Ansprüche 1 bis 3, die ausgelegt ist, um eine Trajektorie (740,750) zu erkennen, wenn Aktivitätsimpulse, die durch gleiche Ereignisse in dem Audiosigna'l bedingt sind, auf eine Anzahl von Nervenfasern vorliegen, die größer ist als eine vorgegebene Mindestanzahl.
5. Vorrichtung gemäß einem der Ansprüche 1 bis 4, die ausgelegt ist, um einen Beginn eines Vokals, eines Konsonanten oder eines Lauts in dem Audiosignal als ein akustisches Ereignis zu erkennen.
6. Vorrichtung gemäß einem der Ansprüche 1 bis 5, die ausgelegt ist, um eine Trajektorie in dem Nervenaktivitätsmuster zu erkennen, die eine Wanderwelle auf einer Basilarmembran des Ohrmodells beschreibt.
7. Vorrichtung gemäß einem der Ansprüche 1 bis 6, wobei eine Trajektorie als ein Nervenaktivitätsmuster auf einer Gruppe benachbarter Nervenfasern, das einer Wanderwelle auf der Basilarmembran des Ohrmodells zugeordnet ist, definiert ist.
8. Vorrichtung gemäß einem der Ansprüche 1 bis 7, wobei eine Trajektorie durch ein Auftreten von Aktivitätsimpulsen auf einer Gruppe von benachbarten Nervenfasern definiert ist, wobei die Aktivitätsimpulse eine Anregung von benachbarten Nervenfasern durch eine Wanderwelle beschreiben.
9. Vorrichtung gemäß einem der Ansprüche 1 bis 8, bei der die Zeitinformationen Anfangszeitpunkte der Trajektorien beschreiben.
10. Vorrichtung gemäß Anspruch 9, wobei der Anfangszeitpunkt einer vorgegebenen Trajektorie ein Zeitpunkt ist, an dem ein erster zu der vorgegebenen Trajektorie gehöriger Aktivitätsimpuls auf einer Nervenfaser auftritt.
11. Vorrichtung gemäß einem der Ansprüche 1 bis 10, bei der die Einrichtung (730) zum Verarbeiten des Nervenaktivitätsmusters (730) eine Einrichtung zur Mustererkennung umfasst, die ausgelegt ist, um in einer zweidimensionalen Darstellung, die durch das Nervenaktivitätsmuster über der Zeit gebildet wird, ein gerades oder gekrümmtes linienförmiges Muster als eine Trajektorie (740, 750) zu erkennen, die zeitige Lage der Trajektorie (740, 750) zu ermitteln und eine zu der Trajektorie (740, 750) gehörige Zeitinformation (tl,t2) als Analysedarstellung des Audiosignals zu liefern.
12. Vorrichtung gemäß Anspruch 11, bei der die
Einrichtung zur Mustererkennung ferner ausgelegt ist, um eine Information über eine Form der Trajektorien als Teil der Analysedarstellung zu liefern.
13. Vorrichtung gemäß Anspruch 12, bei der die
Information über die Form der Trajektorie eine Information über eine Krümmung der Trajektorie umfasst .
14. Vorrichtung gemäß einem der Ansprüche 11 bis 13, bei der die Einrichtung zur Mustererkennung festgelegt ist, um eine gerade oder eine hyperbelartig gekrümmte Trajektorie zu erkennen.
15. Vorrichtung gemäß einem der Ansprüche 11 bis 14, bei der die Einrichtung zur Mustererkennung ferner ausgelegt ist, um eine Information über eine Länge der Trajektorie als Teil der Analysedarstellung zu liefern.
16. Vorrichtung gemäß einem der Ansprüche 1 bis 15, bei der die Einrichtung (730) zum Bearbeiten des Nervenaktivitätsmusters eine Einrichtung zum Mustervergleich umfasst, die' ausgelegt ist, um eine zweidimensionale Darstellung, die das
Nervenaktivitätsmuster über der Zeit beschreibt, mit mindestens einem Vergleichsmuster zu vergleichen, um eine Trajektorie zu erkennen und eine Zeitinformation zu erhalten, die eine zeitliche Lage der Trajektorie beschreibt .
17. Vorrichtung gemäß Anspruch 16, bei der das Vergleichsmuster eine gerade oder eine hyperbelförmige Kurve ist.
18. Vorrichtung gemäß einem der Ansprüche 1 bis 17, bei der die Einrichtung (730) zum Verarbeiten des Nervenaktivitätsmusters ausgelegt ist, um eine zweidimensionale Darstellung des
Nervenaktivitätsmusters über der Zeit schrittweise zu verzerren, um eine verzerrte zweidimensionale Darstellung des Nervenaktivitätsmusters über der Zeit zu erhalten, und um zu erkennen, wenn in der verzerrten zweidimensionalen Darstellung des Nervenaktivitätsmusters über der Zeit eine näherungsweise gerade Linie enthalten ist, um die näherungsweise gerade Linie als Trajektorie zu erkennen, um die zeitliche Lage der Trajektorie zu ermitteln und um die zu der Trajektorie gehörige Zeitinformation als Analysedarstellung des Audiosignals zu liefern.
19. Vorrichtung gemäß Anspruch 18, bei der die Einrichtung (730) zum Verarbeiten des Nervenaktivitätsmusters ausgelegt ist, um die zweidimensionale Darstellung des Nervenaktivitätsmusters über der Zeit schrittweise derart zu verzerren, so dass eine gekrümmte
Trajektorie in dem Nervenaktivitätsmuster durch das schrittweise Verzerren schrittweise geradegebogen wird, wobei eine Anzahl von Verzerrungsschritten, die für ein Geradebiegen der gekrümmten Trajektorie benötigt werden, von einer Krümmung der gekrümmten Trajektorie abhängig sind, und wobei die Anzahl der Verzerrungsschritte, die für das Geradebiegen der gekrümmten Trajektorie benötigt werden, eine Aussage über eine ursprüngliche Form der Trajektorie umfasst.
20. Vorrichtung gemäß einem der Ansprüche 1 bis 19, bei der die Einrichtung (730) zum Verarbeiten des
Nervenaktivitätsmusters eine
Kurvenerkennungseinrichtung (1300,1500,1600) umfasst, die ausgelegt ist, um das Nervenaktivitätsmuster in
Form einer Mehrzahl von Signalen (1320, 1322, 1324;1520, 1522, 1524) parallel zu empfangen, und um die Signale
(1320, 1322, 1324; 1520, 1522, 1524) unterschiedlich schnell parallel durch eine Mehrzahl von hintereinandergeschalteten Stufen (1310, 1312, 1314;1530, 1532, 1524) weiterzuleiten, wobei mindestens eine vorbestimmte Stufe
(1310, 1312, 1314; 1530, 1532, 1534) eine
Schwellwerterkennungseinrichtung
(1560,1570,1562,1572,1564,1574) aufweist, die ausgelegt ist, um zu erkennen, wenn mindestens eine vorgegebene Anzahl an Signalen in der vorbestimmten
Stufe gleichzeitig aktiv sind.
21. Vorrichtung gemäß Anspruch 20, wobei mindestens eine Stufe (1310, 1312, 1314;1530, 1532, 1534) ausgelegt ist, um mehrere Signale bei einer Weiterleitung durch die Stufe unterschiedlich stark zu verzögern.
22. Vorrichtung gemäß Anspruch 20 oder 21, wobei die Kurvenerkennungseinrichtung (1300; 1500; 1600) ein neuronales Netz ist.
23. Vorrichtung gemäß einem der Ansprüche 1 bis 22, bei der die Einrichtung zum Vera'rbeiten des Nervenaktivitätsmusters ausgelegt ist, um eine
Trajektorie aufgrund einer Auswertung einer Hough- Transformation zu erkennen.
24. Vorrichtung gemäß einem der Ansprüche 1 bis 23, bei der die Einrichtung zum Verarbeiten des Nervenaktivitätsmusters eine Einrichtung zur Durchführung einer parallelen Hough-Transformation umfasst.
25. Vorrichtung gemäß einem der Ansprüche 1 bis 24, die ferner eine Einrichtung (1800) zum Analysieren eines Audiosignalinhalts aufgrund der Zeitinformation (tl, t2) umfasst.
26. Vorrichtung gemäß Anspruch 25, bei der die Einrichtung zum Analysieren des Audiosignalinhalts eine Vergleichseinrichtung (1810) umfasst, die ausgelegt ist, um die Zeitinformation (tl, t2) mit in einer Datenbank (1820) vorhandenen Referenz- Zeitinformationen (1840) zu vergleichen, um als Vergleichsergebnis eine Information (1850) über den Audiosignalinhalt zu liefern.
27. Vorrichtung gemäß Anspruch 25 oder 26, bei der die Einrichtung zum Analysieren des Audiosignalinhalts ausgelegt ist, um einen Vokal oder Konsonanten aufgrund der zu mehreren aufeinanderfolgenden Trajektorien gehörigen Zeitinformationen zu erkennen.
28. Vorrichtung gemäß einem der Ansprüche 25 bis 27, bei der die Einrichtung zum Analysieren des Audiosignals ferner ausgelegt ist, um eine Information über eine Form und/oder Krümmung der Trajektorie zu verwenden.
29. Vorrichtung gemäß einem der Ansprüche 25 bis 28, bei der die Einrichtung zum Analysieren des Audiosignals ausgelegt ist, um basierend 'auf den Zeitinformationen eine Information über einen Rhythmus des Audiosignals zu ermitteln, wobei die Information über den Rhythmus des Audiosignals eine Beschreibung für den Inhalt des Audiosignals darstellt.
30. Verfahren zum Analysieren eines Audiosignals, um eine Analysedarstellung des Audiosignals zu erhalten, mit folgenden Schritten:
Berechnen eines Nervenaktivitätsmusters über der Zeit an Nervenfasern eines Ohrmodells, das sich aufgrund des Audiosignals ergibt; und
Verarbeiten des Nervenaktivitätsmusters, um als
Analysedarstellung eine Folge von Zeitinformationen zu erhalten, die eine zeitliche Lage von aufeinanderfolgenden Trajektorien beschreiben, wobei eine Trajektorie Aktivitätsimpulse auf verschiedenen Nervenfasern aufgrund des gleichen Ereignisses in dem Audiosignal umfasst.
31. Computer-Programm mit einem Programmcode zur Durchführung des Verfahrens gemäß Anspruch 30, wenn das Computer-Programm auf einem Computer abläuft.
PCT/EP2006/005560 2005-06-29 2006-06-09 Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals WO2007000231A1 (de)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008519813A JP4767316B2 (ja) 2005-06-29 2006-06-09 音声信号を分析する装置、方法、およびコンピュータ・プログラム
AU2006264029A AU2006264029B2 (en) 2005-06-29 2006-06-09 Device, method and computer program for analysing an audio signal
EP06743146.0A EP1896124B1 (de) 2005-06-29 2006-06-09 Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
DE102005030327.7 2005-06-29
DE102005030327A DE102005030327A1 (de) 2005-06-29 2005-06-29 Vorrichtung, Verfahren und Computerprogramm zur Analyse eine Audiosignals
US11/172,605 US7996212B2 (en) 2005-06-29 2005-06-29 Device, method and computer program for analyzing an audio signal
US11/172,605 2005-06-29

Publications (1)

Publication Number Publication Date
WO2007000231A1 true WO2007000231A1 (de) 2007-01-04

Family

ID=36972689

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2006/005560 WO2007000231A1 (de) 2005-06-29 2006-06-09 Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals

Country Status (6)

Country Link
US (1) US7996212B2 (de)
EP (1) EP1896124B1 (de)
JP (1) JP4767316B2 (de)
AU (1) AU2006264029B2 (de)
DE (1) DE102005030327A1 (de)
WO (1) WO2007000231A1 (de)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012503212A (ja) * 2008-09-19 2012-02-02 ニューサウス イノベーションズ ピーティーワイ リミテッド オーディオ信号分析方法
US10368785B2 (en) 2008-10-24 2019-08-06 East Carolina University In-ear hearing test probe devices and methods and systems using same

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8535236B2 (en) * 2004-03-19 2013-09-17 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for analyzing a sound signal using a physiological ear model
DE102006030276A1 (de) * 2006-06-30 2008-01-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung und Verfahren zum Erzeugen eines gefilterten Aktivitätsmusters, Quellentrenner, Verfahren zum Erzeugen eines bereinigten Audiosignals und Computerprogramm
US20080306098A1 (en) * 2006-11-06 2008-12-11 Mutz Mitchell W Pharmacokinetics of protease inhibitors and other drugs
US20090054334A1 (en) * 2007-05-23 2009-02-26 Mutz Mitchell W Combinatorial improvement of bifunctional drug properties
WO2009055042A1 (en) * 2007-10-24 2009-04-30 Amplyx Pharmaceuticals, Inc. Enhancing the efficacy of anti-infective therapeutics
US8507781B2 (en) * 2009-06-11 2013-08-13 Harman International Industries Canada Limited Rhythm recognition from an audio signal
WO2011152888A2 (en) * 2010-01-29 2011-12-08 Circular Logic, LLC Rhythm processing and frequency tracking in gradient frequency nonlinear oscillator networks
JPWO2012002467A1 (ja) * 2010-06-29 2013-08-29 茂良 北澤 音楽情報処理装置、方法、プログラム、人工内耳用音楽情報処理システム、人工内耳用音楽情報製造方法及び媒体
US9563740B2 (en) 2012-10-16 2017-02-07 The Florida International University Board Of Trustees Neural interface activity simulator
WO2015057661A1 (en) * 2013-10-14 2015-04-23 The Penn State Research Foundation System and method for automated speech recognition
WO2017135127A1 (ja) * 2016-02-01 2017-08-10 国立大学法人徳島大学 生体音響抽出装置、生体音響解析装置、生体音響抽出プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US11099075B2 (en) 2017-11-02 2021-08-24 Fluke Corporation Focus and/or parallax adjustment in acoustic imaging using distance information
US11209306B2 (en) 2017-11-02 2021-12-28 Fluke Corporation Portable acoustic imaging tool with scanning and analysis capability
CN109753971B (zh) * 2017-11-06 2023-04-28 阿里巴巴集团控股有限公司 扭曲文字行的矫正方法及装置、字符识别方法及装置
JP7403526B2 (ja) 2018-07-24 2023-12-22 フルークコーポレイション 取り外し可能および取り付け可能な音響撮像センサのためのシステムおよび方法
AU2020293557A1 (en) * 2019-06-09 2021-12-09 Universiteit Gent A neural network model for cochlear mechanics and processing

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4536844A (en) * 1983-04-26 1985-08-20 Fairchild Camera And Instrument Corporation Method and apparatus for simulating aural response information
US4980918A (en) * 1985-05-09 1990-12-25 International Business Machines Corporation Speech recognition system with efficient storage and rapid assembly of phonological graphs
US5381512A (en) * 1992-06-24 1995-01-10 Moscom Corporation Method and apparatus for speech feature recognition based on models of auditory signal processing
US5388182A (en) * 1993-02-16 1995-02-07 Prometheus, Inc. Nonlinear method and apparatus for coding and decoding acoustic signals with data compression and noise suppression using cochlear filters, wavelet analysis, and irregular sampling reconstruction
US6064913A (en) * 1997-04-16 2000-05-16 The University Of Melbourne Multiple pulse stimulation
WO2001099470A1 (en) * 2000-06-19 2001-12-27 Cochlear Limited Sound processor for a cochlear implant
WO2002084539A2 (de) * 2001-04-10 2002-10-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und vorrichtung zum extrahieren einer signalkennung, verfahren und vorrichtung zum erzeugen einer dazugehörigen databank

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1333300C (en) 1987-04-03 1994-11-29 Jont Brandon Allen Speech analysis arrangement
GB8720387D0 (en) * 1987-08-28 1987-10-07 British Telecomm Matching vectors
WO1997047065A1 (en) 1996-06-04 1997-12-11 Murphy, Timothy, M. A device for transferring electromagnetic energy between primary and secondary coils
JP4293639B2 (ja) 1997-05-01 2009-07-08 メド−エル・エレクトロメディツィニシェ・ゲラーテ・ゲーエムベーハー 低電力デジタルフィルタ装置及び方法
US6535153B1 (en) 1999-02-04 2003-03-18 Med-El Electromedizinische Gerate Ges.M.B.H. Adaptive sigma-delta modulation with one-bit quantization
ES2358189T3 (es) 1999-07-21 2011-05-06 Med-El Elektromedizinische Geräte GmbH Implante coclear de canales múltiples con telemetría de la respuesta neuronal.
US6594525B1 (en) 1999-08-26 2003-07-15 Med-El Elektromedizinische Geraete Gmbh Electrical nerve stimulation based on channel specific sampling sequences
ES2278727T3 (es) 2000-01-31 2007-08-16 Med-El Elektromedizinische Gerate Gmbh Sistema de implante coclear parcialmente insertable en el oido externo.
EP1488525B1 (de) 2002-03-28 2010-08-18 Med-El Elektromedizinische Geräte GmbH System und verfahren für adaptive sigma-delta modulation
JP4295765B2 (ja) 2003-08-07 2009-07-15 財団法人浜松科学技術研究振興会 人工内耳の音声変換方法
CA2452945C (en) 2003-09-23 2016-05-10 Mcmaster University Binaural adaptive hearing system
US8535236B2 (en) 2004-03-19 2013-09-17 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Apparatus and method for analyzing a sound signal using a physiological ear model

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4536844A (en) * 1983-04-26 1985-08-20 Fairchild Camera And Instrument Corporation Method and apparatus for simulating aural response information
US4980918A (en) * 1985-05-09 1990-12-25 International Business Machines Corporation Speech recognition system with efficient storage and rapid assembly of phonological graphs
US5381512A (en) * 1992-06-24 1995-01-10 Moscom Corporation Method and apparatus for speech feature recognition based on models of auditory signal processing
US5388182A (en) * 1993-02-16 1995-02-07 Prometheus, Inc. Nonlinear method and apparatus for coding and decoding acoustic signals with data compression and noise suppression using cochlear filters, wavelet analysis, and irregular sampling reconstruction
US6064913A (en) * 1997-04-16 2000-05-16 The University Of Melbourne Multiple pulse stimulation
WO2001099470A1 (en) * 2000-06-19 2001-12-27 Cochlear Limited Sound processor for a cochlear implant
WO2002084539A2 (de) * 2001-04-10 2002-10-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und vorrichtung zum extrahieren einer signalkennung, verfahren und vorrichtung zum erzeugen einer dazugehörigen databank

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012503212A (ja) * 2008-09-19 2012-02-02 ニューサウス イノベーションズ ピーティーワイ リミテッド オーディオ信号分析方法
US8990081B2 (en) 2008-09-19 2015-03-24 Newsouth Innovations Pty Limited Method of analysing an audio signal
US10368785B2 (en) 2008-10-24 2019-08-06 East Carolina University In-ear hearing test probe devices and methods and systems using same

Also Published As

Publication number Publication date
AU2006264029A1 (en) 2007-01-04
US7996212B2 (en) 2011-08-09
US20070005348A1 (en) 2007-01-04
JP2008545170A (ja) 2008-12-11
AU2006264029B2 (en) 2010-08-19
JP4767316B2 (ja) 2011-09-07
EP1896124A1 (de) 2008-03-12
EP1896124B1 (de) 2017-08-16
DE102005030327A1 (de) 2007-01-04

Similar Documents

Publication Publication Date Title
EP1896124B1 (de) Vorrichtung, verfahren und computerprogramm zur analyse eines audiosignals
DE102005030326B4 (de) Vorrichtung, Verfahren und Computerprogramm zur Analyse eines Audiosignals
DE102009060093B4 (de) Verfahren und Anordnung zum Einstellen eines Hörgeräts durch Erfassung der Höranstrengung
DE102017214164B3 (de) Verfahren zum Betrieb eines Hörgeräts und Hörgerät
EP2405673B1 (de) Verfahren zum Lokalisieren einer Audioquelle und mehrkanaliges Hörsystem
DE102016003133B4 (de) Verfahren zur automatischen Bestimmung einer individuellen Funktion einer DPOAE-Pegelkarte eines menschlichen oder tierischen Gehörs
EP1981582B1 (de) Vorrichtung und computerprogramm zum erzeugen eines ansteuersignals für ein cochlea-implantat basierend auf einem audiosignal
EP1519301B1 (de) Vorrichtung zur klassifikation physiologischer Ereignisse
EP2584795B1 (de) Verfahren zum Ermitteln einer Kompressionskennlinie
DE102016214745B4 (de) Verfahren zur Stimulation einer implantierten Elektrodenanordnung einer Hörprothese
WO2008000444A1 (de) Vorrichtung und verfahren zum erzeugen eines gefilterten aktivitätsmusters, quellentrenner, verfahren zum erzeugen eines bereinigten audiosignals und computerprogramm
WO2011106809A1 (de) Verfahren zur ermittlung von grundfrequenz-verläufen mehrerer signalquellen
Sabesan et al. Large-scale electrophysiology and deep learning reveal distorted neural signal dynamics after hearing loss
EP3535019B1 (de) Vorrichtung zur transkraniellen hirnstimulation
Mino Modeling of spike trains in auditory nerves with self-exciting point processes of the von Mises type
Wrigley et al. Synfire chains as a neural mechanism for auditory grouping

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application
DPE1 Request for preliminary examination filed after expiration of 19th month from priority date (pct application filed from 20040101)
REEP Request for entry into the european phase

Ref document number: 2006743146

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2006743146

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

WWW Wipo information: withdrawn in national office

Ref document number: DE

WWE Wipo information: entry into national phase

Ref document number: 2008519813

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 2006264029

Country of ref document: AU

ENP Entry into the national phase

Ref document number: 2006264029

Country of ref document: AU

Date of ref document: 20060609

Kind code of ref document: A

WWP Wipo information: published in national office

Ref document number: 2006264029

Country of ref document: AU

WWP Wipo information: published in national office

Ref document number: 2006743146

Country of ref document: EP