Een extra 8 bit in de mantissa alleen voor afronding? Leg uit aub :-)
unity gain bij digitale mengtafels
Collapse
X
-
-
Wat betreft de maximale SNR in een floating point processor (inderdaad AD en DA uitgesloten) ben ik het niet eens met de eerdere schrijvers. De SNR is het maximale wat we eruit kunnen halen zonder 'afrondfouten'. Deze zit dus in de mantissa en niet de exponent. Het grote voordeel van floating point zit er vooral in dat de 'leading zerro's' er niet zijn en je dus de volle 23 databits tot je beschikking hebt. Daarmee komt de theoritische SNR van de FP proc op
1.76+6.02*23 is ongeveer 140 dB
In de praktijk zal dit lager uitkomen omdat na iedere berekening deze afronding plaats zal vinden (in bijvoorbeeld in een IIR filter zijn dit er nogal wat).
Hooguit dat een floating-point processor sneller zou kunnen zijn, maar naar mijn weten zijn integer ALU's nog altijd véél sneller en compacter dan hun floating-point tegenhangers.First make it work, then make it look pretty!Comment
-
Bij analoge tafels is de 0db een merkpunt, die aangeeft dat de preamp op dit gainniveau optimaal werkt. Dan is het eenvoudig om de gain zo dicht mogelijk op die 0db af te regelen.
Het zou interessant zijn dat digitale tafels ook een merkpunt zouden aanbrengen aan de VU meters. Een merkpunt op welk gainniveau hun preamp optimaal werkt.Comment
-
-
Mag ik dan even weten wat we er überhaupt aan hebben, sinds 24-bit integers al meer ruimte bieden, om maar niet te beginnen over 32-bit integer bewerkingen?
Hooguit dat een floating-point processor sneller zou kunnen zijn, maar naar mijn weten zijn integer ALU's nog altijd véél sneller en compacter dan hun floating-point tegenhangers.
het antwoord is (alleen kijkend naar de exponent).
de exponent is 8-bit. dus dit vergroot het floating point getal naar een integer met 24+256 bits. ja je mist informatie (buiten de 24 bit mantissa), maar dat maakt niet uit.
de extra 256 bits geven je dus 256*6dB extra headroom -> ongeveer 1500 dB headroom. En nee dat ga je niet gebruiken, maar je kan dus bijvoorbeeld een channel trim van +100dB geven en vervolgens verzwakken met 100dB en je verliest niets. als je dit echter doet weet je niet echt waar je mee bezig bent.
waarom dan met FP werken ipv integer.
een integer ALU is bijvoorbeeld 40 bit op sommige dsp's. dit geeft je dus 16 bits aan headroom -> toch 96 dB, maar je loopt toch risico met sommige filters (vooral lange fir's).
anyhow dit is mijn kennis, correct me if i'm wrong.Joost van Eenbergen
ELC lightingComment
Comment