Turbo codici
I turbo codici o codici turbo sono una classe di recenti codici di correzione degli errori ad alte prestazioni, che trovano impiego nelle comunicazioni satellitari nello spazio profondo ed in altre applicazioni in cui i progettisti puntano ad avere il massimo trasferimento di informazione su una banda limitata in presenza di un segnale ricevuto molto affetto da rumore.
I codici turbo sono stati teorizzati da Claude Berrou, Alain Glavieux e Punya Thitimajshima presentati nel 1993 ad una conferenza dell'IEEE[1].
I ricercatori di più atenei verificarono i risultati di Berrou, accorgendosi solo in un secondo momento che i risultati mostrati dal francese non andavano al di sotto di probabilità di errore di 10^-5, scoprendo poi che le curve di errore non decrescevano rapidamente dopo questo valore[senza fonte]. Bisogna ricordare che l'algoritmo di Berrou non è completamente originale. Infatti Robert Gallager, geniale studente e ora insegnante del Massachusetts Institute of Technology, propose già con la sua tesi di dottorato un algoritmo di decodifica, chiamato belief propagation, per lungo tempo passato inosservato e successivamente ripreso da Berrou. Inoltre la stessa idea dei codici turbo è riconducubile ad alcuni lavori di Robert Gallager, sebbene Berrou abbia il merito di avere scelto la soluzione parallela anziché quella seriale, poiché per sua stessa ammissione la prima forma risultava di più semplice implementazione[senza fonte].
I codici turbo sono ancora ad oggi oggetto di ricerche in numerose università del mondo, allo scopo di raffinarli e di ottenere implementazioni più efficienti.
Nella teoria dell'informazione, i turbo codici (originariamente in francese Turbocodes) sono una classe di codici FEC forward error correction ad alte prestazioni sviluppati intorno al 1990-91 (ma pubblicati per la prima volta nel 1993), che in pratica sono stati i primi codici sviluppati capaci di avvicinarsi al massimo teorico di capacità del canale teorema di Shannon–Hartley, un massimo teorico per la velocità alla quale è ancora possibile una comunicazione affidabile dato un certo livello di rumore specifico. I turbo codici sono utilizzati nelle comunicazioni mobili 3G/4G(ad es. In UMTS e LTE) e nelle comunicazioni satellitari (nello spazio profondo) così come altre applicazioni in cui i progettisti cercano di ottenere un trasferimento affidabile delle informazioni tramite collegamenti di comunicazione con limiti di larghezza di banda o di latenza, in presenza di rumore dannoso per i dati. I turbo codici sono attualmente in competizione con i codici LDPC, che offrono prestazioni comparabili.
Il nome "turbo code" deriva dal loop di feedback usato durante la decodifica, ed è stato associato alla retro-alimentazione dai gas di scarico utilizzata per la sovralimentazione dei motori turbo, Hagenauer ha sostenuto che il termine turbo in tal senso è improprio poiché non vi è alcun feedback nel processo di codifica, sebbene il termine nell'uso popolare rende bene l'idea di un sistema veloce e potente.[2]
Storia
La prima domanda di brevetto per i codici turbo è stata depositata il 23 aprile 1991. La domanda di brevetto indica Claude Berrou come l'unico inventore dei codici turbo. La registrazione del brevetto ha portato a numerosi brevetti tra cui il brevetto US 5.446.747 US Patent 5,446,747, che è scaduto il 29 agosto 2013.
Il primo documento pubblico sui codici turbo fu "Near Shannon Limit Error-correcting Coding and Decoding: Turbo-codes".[3] Questo documento è stato pubblicato nel 1993 negli Atti della Conferenza Internazionale delle Comunicazioni IEEE. Il documento del 1993 era composto da tre distinti contributi combinati per vincoli di spazio. La fusione ha fatto sì che il documento elencasse tre autori: Berrou, Glavieux, e Thitimajshima (da Télécom Bretagne, ENST Bretagne, Francia). Tuttavia dalla domanda di brevetto originale è chiaro che Claude Berrou è l'unico inventore dei codici turbo e che gli altri autori del lavoro hanno fornito materiale diverso rispetto ai concetti chiave dei codici turbo.
I turbo codici furono così rivoluzionari al momento della loro introduzione che molti esperti nel campo della codifica non credettero ai risultati riportati. Quando la performance fu confermata, ebbe luogo una piccola rivoluzione nel mondo della codifica che ha portato allo studio di molti altri tipi di elaborazione di segnale iterativa.
La prima classe di codice turbo era il codice convoluzionale concatenato parallelo (PCCC). Dopo l'introduzione del primo turbo codice parallelo nel 1993, sono state realizzate molte altre classi di codici turbo, incluse le versioni seriali di codici convoluzionali seriali concatenati e codici ripetuti-accumulati . Metodi di decodifica turbo iterativi sono stati applicati anche ai più convenzionali sistemi FEC, compresi i codici convoluzionali corretti Reed-Solomon, sebbene questi sistemi di decoder iterativi siano troppo complessi per implementazioni pratiche. La turbo equalizzazione a sua volta è stata derivata dai concetti di turbo codifica.
Oltre all'invenzione dei codici Turbo, Claude Berrou ha anche sviluppato i codici ricorsivi sistematici convoluzionali (RSC), utilizzati nell'esempio di implementazione dei turbo codici descritti nel brevetto. I turbo codici che usano i codici RSC sembrano funzionare meglio di quelli che non li usano.
Prima dei codici turbo, le migliori implementazioni FEC erano costituite da codifiche seriali concatenati basate su un codice di correzione degli errori esterno Reed-Solomon combinato con un codice interno convoluzionale a lunghezza corta Viterbi, noto anche come codice RSV.
In un saggio successivo, Berrou ha generosamente riconosciuto l'intuizione di "G. Battail, J. Hagenauer e P. Hoeher, che, alla fine degli anni '80, hanno acceso l'interesse per l'elaborazione probabilistica". Aggiungendo che " R. Gallager e M. Tanner avevano già immaginato tecniche di codifica e decodifica i cui principi generali erano strettamente legati," anche se i calcoli necessari erano impraticabili al momento.[4]
Un esempio di encoder
Esistono molti casi diversi di turbo codici, che utilizzano diversi componenti di codificatori, rapporti di input/output, interleaver e pattern di foratura. Questo esempio di implementazione dell'encoder descrive un classico codificatore turbo e mostra la progettazione generale dei turbo codici paralleli.
Questa implementazione dell'encoder invia tre sotto-blocchi di bit. Il primo sottoblocco è il blocco m-bit dei dati del payload o carico utile (che è inviato tale e quale, la codifica è sistematica). Il secondo sottoblocco è costituito da n/2 bit di parità, calcolati dai dati del carico utile utilizzando un codice convoluzionale sistematico ricorsivo (codice RSC). Il terzo sottoblocco è costituito da n/2 bit di parità calcolati su una permutazione nota dei dati del carico utile, calcolati nuovamente utilizzando un codice RSC. Pertanto, due sottogruppi ridondanti ma diversi di bit di parità vengono inviati insieme al carico utile. Il blocco completo ha m + n bit di dati, con velocità ridotta di un fattore di m / ( m + n ). La permutazione dei dati del carico utile tra le i due RSC viene eseguito da un dispositivo chiamato interleaver.
Dal punto di vista dell'hardware, questo codificatore di turbo-codice consiste di due codificatori RSC identici, С 1 e C 2 , come illustrato nella figura, che sono collegati tra loro usando uno schema di concatenazione, chiamato concatenazione parallela:
Nella figura, M è un registro di memoria. La linea di ritardo e l'interleaver forza i bit di input dk ad apparire in sequenze diverse. Alla prima iterazione, la sequenza di ingresso dk appare su entrambe le uscite dell'encoder, xk e y1k or y2k per la sistematicità dell'encoder. Se gli encoder C1 and C2 sono utilizzati rispettivamente nelle iterazionin1 and n2, le loro velocità sono rispettivamente uguali a
Il decoder
Il decodificatore è costruito in modo simile all'encoder. Due decodificatori elementari sono interconnessi tra loro, ma in modo seriale, non in parallelo. Il decodificatore funziona a bassa velocità (es. ), quindi, è destinato al codificatore e corrispondentemente is for . produce una decisione soft soft decision che causa un ritardo . Lo stesso ritardo è causato dalla linea di ritardo nell'encoder. L'operazione causa un ritardo .
Viene utilizzato un interleaver installato tra i due decodificatori per diffondere i picchi di errore prodotti in output . Il blocco DI è un modulo di demultiplexing e inserimento. Funziona come un interruttore, reindirizzando i bit di input a in un momento e a all'altro. Nello stato OFF, alimenta entrambi gli ingressi and con dei bit di riempimento (zeri).
Considerando un canale AWGN senza memoria AWGN si suppone che alla k-esima iterazione, il decodificatore riceva una coppia di variabili casuali:
dove e sono componenti di rumore indipendenti con la stessa varianza . è un k-th bit dall'uscita dell'encoder .
Le informazioni ridondanti sono demultiplexate e inviate attraverso DI to (dove ) e a (dove ).
implica una decisione soft; i.e.:
e lo consegna a . è il logaritmo del rapporto di verosimiglianza (LLR). is the è la probabilità a posteriori (APP) del bit di dati che mostra la probabilità di interpretare un bit ricevuto come . Prendendo in considerazione l'LLR, produce una decisione hard; cioè il bit decodificato.
L'algoritmo Viterbi non è in grado di calcolare l'APP, quindi non può essere utilizzato in . Invece di quello, può essere usato utilizzato un algoritmo BCJR modificato BCJR algorithm. Per invece l' algoritmo di Viterbi è appropriato.
Tuttavia, la struttura rappresentata non è ottimale, perché utilizza solo una parte delle informazioni ridondanti disponibili. Per migliorare la struttura, viene utilizzato un ciclo di feedback (vedere la linea tratteggiata sulla figura).
Approccio alla decisione Soft
Il front-end del decoder produce un numero intero per ogni bit nel flusso di dati. Questo numero intero è una misura di quanto è probabile che il bit sia uno 0 o 1 ed è anche chiamato soft bit . Il numero intero potrebbe essere estratto dall'intervallo [-127, 127], dove:
- -127 significa "certamente 0"
- -100 significa "molto probabile 0"
- 0 significa "potrebbe essere 0 o 1"
- 100 significa "molto probabile 1"
- 127 significa "certamente 1"
- eccetera.
Questo introduce un aspetto probabilistico al flusso di dati dal front-end, ma trasmette più informazioni su ogni bit rispetto a un solo 0 o 1.
Ad esempio, per ciascun bit, il front end di un ricevitore tradizionale deve decidere se una tensione analogica interna è al di sopra o al di sotto di un determinato livello di tensione di soglia. Per un decodificatore di turbo-codice, il front-end fornirebbe una misura di quanto è distante la tensione interna dalla soglia data.
Per decodificare il blocco di dati m + n, il front-end del decoder crea un blocco di misure di verosimiglianza, con una misura di verosimiglianza per ogni bit nel flusso di dati. Ci sono due decodificatori paralleli, per i n⁄2 bit di parità per ciascuno dei sottoblocchi. Entrambi i decodificatori utilizzano il sottoblocco di m probabilità per i dati del carico utile. Il decodificatore che lavora sul secondo sotto-blocco di parità conosce la permutazione che il codificatore ha usato per questo sottoblocco.
Risoluzione delle ipotesi per trovare i bit
An analogy can be drawn between this process and that of solving cross-reference puzzles like crossword or sudoku. Consider a partially completed, possibly garbled crossword puzzle. Two puzzle solvers (decoders) are trying to solve it: one possessing only the "down" clues (parity bits), and the other possessing only the "across" clues. To start, both solvers guess the answers (hypotheses) to their own clues, noting down how confident they are in each letter (payload bit). Then, they compare notes, by exchanging answers and confidence ratings with each other, noticing where and how they differ. Based on this new knowledge, they both come up with updated answers and confidence ratings, repeating the whole process until they converge to the same solution.
L'innovazione chiave dei codici turbo è il modo in cui utilizzano i dati di probabilità per riconciliare le differenze tra i due decodificatori. Ciascuno dei due decodificatori convoluzionali genera un'ipotesi (con probabilità relativa) per la sequenza di m bit nel sottoblocco del carico utile. I modelli di bit dell'ipotesi vengono confrontati e, se differiscono, i decodificatori scambiano le probabilità che hanno per ciascun bit nell'ipotesi. Ciascun decodificatore incorpora le stime di probabilità derivate dall'altro decodificatore per generare una nuova ipotesi per i bit nel carico utile. Quindi confrontano queste nuove ipotesi. Questo processo iterativo continua fino a quando i due decodificatori giungono alla stessa ipotesi sulla sequenza 'm' di bit del payload, e tipicamente ci riesce in 15 o 18 cicli.
Si può tracciare un'analogia tra questo processo e quello di risolvere enigmi di riferimenti incrociati come il cruciverba o il sudoku. Consideriamo un cruciverba parzialmente completato, probabilmente sbagliato. Due risolutori di rompicapo indipendenti (i decodificatori) cercano di risolverlo: uno possiede solo gli indizi "verticali" (bit di parità) e l'altro possiede solo gli indizi "orizzontali". Per iniziare, entrambi i solutori ipotizzano delle risposte alle domande, annotando quanto sono sicuri di ciascuna lettera (bit del payload). Quindi, confrontano le ipotesi, scambiandosi reciprocamente risposte e valutazioni di quando sono fiduciosi delle risposte, notando dove e come si differenziano. Sulla base di queste nuove conoscenze, entrambi forniscono risposte aggiornate e nuove valutazioni di fiducia, ripetendo l'intero processo fino a quando non convergono alla stessa soluzione.
Prestazioni
I codici Turbo funzionano bene grazie alla combinazione dell'aspetto casuale del codice sul canale con la struttura di decodifica fisicamente realizzabile. I codici Turbo sono affetti da un basso errore di fondo.
Applicazioni pratiche usando i codici turbo
Telecomunicazioni:
- I codici Turbo sono ampiamente utilizzati negli standard di telefonia mobile 3G and 4G; es., in HSPA, EV-DO e LTE.
- MediaFLO, sistema televisivo mobile terrestre di Qualcomm.
- Il canale di interazione dei sistemi di comunicazione satellitare , come DVB-RCS[5] and DVB-RCS2.
- New NASA missions such as Mars Reconnaissance Orbiter ora usano codici turbo, in alternativa ai codici RS- Viterbi Viterbi.
- La codifica del turbo, come la codifica del blocco del turbo e la codifica del turbo convoluzionale, è utilizzata in IEEE 802.16 (WiMAX), uno standard di rete metropolitana senza fili.
Formulazione bayesiana
Dal punto di vista dell'intelligenza artificiale , i codici turbo possono essere considerati come un'istanza di propagazione delle credenze ad anello nelle reti bayesiane Bayesian networks.[6]
Vedi anche
References
- ^ Berrou C., A. Glavieux e P. Thitmajshima; "Near Shannon Limit Error-Correcting Coding and Decoding: Turbo Codes", Proceeding of the IEEE International Conference on Communications, 1993, Ginevra, Svizzera. [1]
- ^ Archived copy (PDF), su ima.umn.edu. URL consultato il 20 marzo 2014 (archiviato dall'url originale l'11 June 2013 ).
- ^ Claude Berrou, Near Shannon Limit Error – Correcting (PDF). URL consultato l'11 February 2010.
- ^ Claude Berrou, The ten-year-old turbo codes are entering into service (PDF). URL consultato l'11 February 2010.
- ^ Digital Video Broadcasting (DVB); Interaction channel for Satellite Distribution Systems, ETSI EN 301 790, V1.5.1, May 2009.
- ^ Turbo decoding as an instance of Pearl's "belief propagation" algorithm, in IEEE Journal on Selected Areas in Communications, vol. 16, n. 2, 1998, pp. 140–152, DOI:10.1109/49.661103.
External links
- "Closing In On The Perfect Code", IEEE Spectrum, March 2004
- "The UMTS Turbo Code and an Efficient Decoder Implementation Suitable for Software-Defined Radios" (International Journal of Wireless Information Networks)
- Dana Mackenzie, Take it to the limit, in New Scientist, vol. 187, n. 2507, 2005, pp. 38–41. (preview, copy)
- "Pushing the Limit", a Science News feature about the development and genesis of turbo codes
- International Symposium On Turbo Codes
- Coded Modulation Library, an open source library for simulating turbo codes in matlab
- "Turbo Equalization: Principles and New Results", an IEEE Transactions on Communications article about using convolutional codes jointly with channel equalization.
- IT++ Home Page The IT++ is a powerful C++ library which in particular supports turbo codes
- Turbo codes publications by David MacKay
- AFF3CT Home Page (A Fast Forward Error Correction Tool) for high speed turbo codes simulations in software