Обзор современных методов помехоустойчивого кодирования

Обзор современных методов
помехоустойчивого
кодирования
д. т. н. В. В. Золотарёв
Большой объем передачи цифровых данных
требует обеспечить их высокую
достоверность
 Одним из важнейших способов
снижения вероятности ошибки при
передаче по каналам с шумами,
искажающими цифровые потоки,
является использование методов
помехоустойчивого кодирования
В.В.Золотарёв
Обзор по кодированию
2
Принципы помехоустойчивого
кодирования


Информация разбивается на блоки, например,
двоичных символов, к которым добавляются
контрольные разряды, являющие функцией
от информационной части передаваемого
сообщения.
Относительная доля исходных
информационных символов в таком
расширенном блоке называется кодовой
скоростью R.
В.В.Золотарёв
Обзор по кодированию
3
Основные понятия
теории информации
 Пропускная способность
канала С - характеризует
максимальное среднее количество
информации, которое может быть
передано получателю за период одного
использования канала.
 С - функция от уровня шума канала, т.е. от
вероятности ошибки передачи двоичного символа.
В.В.Золотарёв
Обзор по кодированию
4
Основное ограничение
теории информации
для кодирования



Всегда должно выполняться условие
R<C
!
В этом случае существуют системы
кодирования, которые могут обеспечить
передачу цифровой информации со сколь
угодно малой вероятностью ошибки, если
длина блока данных будет достаточно велика.
В.В.Золотарёв
Обзор по кодированию
5
Как в технике связи выполнить
указанное условие? Это сложно или
нет?
1. Введение
 2. Для заданной
избыточности,
вероятности
соответствующей
ошибки искажения
заданному значению двоичного символа при
кодовой скорости R - передаче по каналу с
это очень просто.
гауссовским шумом
его пропускная
способность С также
 3.
Значит,
легко вычисляется

R<C - понятное
для специалистов
условие
В.В.Золотарёв
Обзор по кодированию
6
Простейший кодер для блокового кода,
исправляющего 2 ошибки!
Так задаем избыточность (скорость); R=1/2
В.В.Золотарёв
Обзор по кодированию
7
По возможности - ещё проще!!!
Пример кодера для свёрточного кода
с той же кодовой скоростью R=1/2.
В.В.Золотарёв
Обзор по кодированию
8
Предельные возможности кодов
Пропускная способность канала и
скорость R1
Зависимость пропускной способности ДСК и скорости R1
от вероятности ошибки в канале Po
1,00
0,90
0,80
0,70
0,60
C
0,50
R1
0,40
0,30
0,20
0,10
0,00
0,000
0,050
0,100
0,150
0,200
0,250
0,300
0,350
0,400
0,450
0,500
Po - вероятность ошибки в канале
В.В.Золотарёв
Обзор по кодированию
9
Какое качество кодов главное?

- кодовое расстояние d ,
определяющее минимальное количество
символов, в которых могут отличаться
кодовые слова, т. е. допустимые сообщения.
 Например,
в кодах
проверки на чётность все
допустимые слова - только
 с чётным числом единичек
и, значит, для них кодовое
расстояние
d=2 !
В.В.Золотарёв
Обзор по кодированию
10
Зачем надо брать коды
с большими значениями d ?

Чем больше d , тем большее число ошибок,
попавшее в сообщение при передаче, может
быть исправлено.

В этом случае растёт доля сообщений,
которые после обработки (декодирования)
могут оказаться безошибочными.


А тогда какие максимальные значения d
возможны?
В.В.Золотарёв
Обзор по кодированию
11
Пределы корректирующих
свойств двух классов кодов
Связь между кодовым расстоянием d и скоростью R
блоковых и сверточных кодов
1,00
Кодовая скорость R
0,90
0,80
Кодов нет !
0,70
0,60
0,50
0,40
0,30
0,20
d free
R блок
d min
R свёрт
Коды есть !
0,10
R блок
0,00
0,000 0,050 0,100 0,150 0,200 0,250 0,300 0,350 0,400 0,450 0,500
Отношение кодового расстояния d к длине кода n:
В.В.Золотарёв
d/n
Обзор по кодированию
12
Один из главных вопросов:
Какой же длины должен быть код?
 Поскольку
при R<C теория
гарантирует хорошие результаты
при передаче закодированных
данных, давайте посмотрим,
насколько длинным должен быть
кодовый блок в различных
случаях.
В.В.Золотарёв
Обзор по кодированию
13
Нижние оценки вероятностей ошибки
оптимального декодирования блоковых кодов с R=1/2 в ДСК.
Даже коды длины n=1000 неэффективны при вероятности
ошибки в канале Ро>0.08. А теория-то утверждает, что
можно успешно работать при Ро<0.11, поскольку при этом
будет выполняться условие C>1/2.
И ведь это переборные методы!
В.В.Золотарёв
Обзор по кодированию
14
Главные «шутки» природы

1. Почти все коды «хорошие». Случайно
выбранный код, т.е. структура связей в
кодере, в большинстве случаев в хорошем
приёмнике обеспечит вероятность
итоговой ошибки, мало отличающуюся от
наилучшей из возможных.

2. Почти все коды могут декодироваться
только переборными методами. Для кода
длины 1000 перебор при R=1/2 2500(!!!)
вариантов решений превышает число
атомов во Вселенной!
И ЧТО ЖЕ ДЕЛАТЬ?!!!15
В.В.Золотарёв Обзор по кодированию
Главная проблема
теории
помехоустойчивого
кодирования



1. Найти и исследовать методы более
простого непереборного декодирования
принятых из канала с шумом сообщений..
2. Обеспечить такое качество декодирования
этими методами, чтобы оно было по
возможности ближе к эффективности с
переборных процедур.
3. Максимально учитывать потребности
и условия применения кодирования в
В.В.Золотарёв Обзор по кодированию
16
реальных системах
связи.
Что умеют конкретные методы
декодирования? Коды БЧХ: до R=C,
т.е. до Ро=0.11 - о-о-о-чень далеко!
В.В.Золотарёв
Обзор по кодированию
17
Пороговые декодеры: очень просто
Обратим внимание: Это действительно
простейшая схема исправления многих ошибок!
В.В.Золотарёв
Обзор по кодированию
18
Но эффективность ПД - мизерна! До
Ро=0.11 тоже чрезвычайно далеко.
В.В.Золотарёв
Обзор по кодированию
19
Многопороговые декодеры
(МПД) для гауссовских каналов

Разработаны и глубоко исследованы за 25 лет
многопороговые декодеры, очень мало
отличающиеся от обычных чрезвычайно
простых классических пороговых процедур,
предложенных Дж. Месси
 Главное свойство МПД - при каждом
изменении декодируемых символов его
новое решение приближается к
оптимальному.
В.В.Золотарёв
Обзор по кодированию
20
Основные следствия из свойств МПД

Если МПД достаточно долго изменяет
символы принятого сообщения, он может
достичь решения оптимального декодера
(ОД) при линейной сложности
декодирования.

Обычно решения ОД - результат
экспоненциально растущего с длиной
кода перебора . . . . . , а тут линейная сложность?
В.В.Золотарёв
Обзор по кодированию
21
Решенные проблемы МПД



1. Полностью решена сложнейшая задача
оценки размножения ошибок (РО) в ПД
2. Построены коды с минимальным РО
3. Созданы 4 поколения аппаратуры
кодирования, реализующей алгоритм МПД.
4. Самое главное :
Сохранена минимально
возможная сложность декодирования,
характерная для обычного ПД.
 5. Следствие. МПД и при высоких уровнях
шума работает почти как ОД.
 6. ИТОГ. Создание эффективного декодера решенная в принципе проблема.

В.В.Золотарёв
Обзор по кодированию
22
Нижние оценки вероятностей ошибки
оптимального приема свёрточных кодов с
R=1/2 по алгоритму Витерби и МПД в ДСК.
Вероятность ошибки на бит
Вероятности ошибки алгоритмов декодирования в ДСК
МПД1
МПД2
МПД3
av7h
av11h
av15h
n1000
n=10000
n=3000
э4
э6
э8
1,0E-02
1,0E-03
1,0E-04
4
15
11
7
1,0E-05
К
К
1,0E-06
1,0E-07
1,0E-08
Сдск
1,0E-09-1.5 -1.0
0,1170
G=4
0,1038
1
n1000
G=8
n10000-n3000
0.5
0.0 0.5 1.0 1.5
0,0909
0,0787
0,0671
0,0563
0,0464
3
2
G=6
2.0
2.5
0,0375
0,0297
Отношение сигнал/шум в Гауссовском канале, дБ
и Ро в ДСК
В.В.Золотарёв
Обзор по кодированию
3.0 Es/No
0,0229
Po
23
А что надо для техники связи?


«Снижение энергетики канала связи на 1 дБ
дает
экономическую эффективность в
миллион долларов» Э. Р. Берлекэмп.
Техника кодирования с
исправлением
ошибок. ТИИЭР, 1980, т.68, №5.
В настоящее время при многократном
росте стоимости сетей связи цена снижения
энергетики многократно (!!!) возросла.
• Но как увязать вероятностные
характеристики канала с его
энергетикой ?
В.В.Золотарёв
Обзор по кодированию
24
Кодирование значительно
снижает энергетику канала
передачи !




Величина снижения называется
энергетическим выигрышем
кодирования (ЭВК)
• ЭВК = 10*Lg(R*d) дБ
Связисты давно знают, как изменить
приёмник для увеличения ЭВК
А где границы снижения энергетики?
В.В.Золотарёв
Обзор по кодированию
25
Как связисты улучшают ёмкость
(пропускную способность) канала?
Используют «мягкий» модем, оценивающий
надежность приёма (амплитуду) сигнала, а не
«жёсткий», который только выносит решение о
значении принятого бита. Это позволяет снизить
энергетику сигнала примерно на 2 дБ.
Распределение выходного напряжения «мягкого»
модема с квантованием на 16 уровней оценок
амплитуды сигнала показано на рисунке.
Распределение выходного напряжения двоичного сигнала в модеме
0,18
0,16
1
0
0,14
« - »
0,1
Ноль
0,08
Один
« + »
Значения
0,12
0,06
0,04
0,02
№
п/п
0
1
2
3
4
5
6
7
0
8
9
10
11
12
13
14
В.В.Золотарёв
Номера областей Обзор по кодированию
15
16
17
26
Минимально возможное отношение энергии
на бит передаваемой информации к мощности
шума канала Eb/No для различных кодовых
скоростей R может быть представлено для
“жёсткого” и “мягкого” модемов так
7
6
Eb/N0,дБ
5
4
3
"жёсткий", М=2
2
"мягкий", М=16
1
0
0
0,1
0,2
0,3
0,4
0,5
0,6
0,7
0,8
0,9
1
-1
В.В.Золотарёв
R -
Обзор по кодированию
кодовая скорость
27
Вероятности ошибки основных базовых алгоритмов
декодирования в гауссовском канале при "мягком" приёме
av7
av11
av15
м11
m7
m9
э4
э6
э8
Вероятность ошибки на
бит
1,0E-02
1,0E-03
1,0E-04
1,0E-05
1,0E-06
1,0E-07
11
К 15
К
м7
G=8 m11
7
G=4
m9
G=6
-1.5 -1.0 -0.5 0.0 0.5 1.0 1.5 2.0 2.5 3.0
1,0E-08
0,117 0,104 0,091 0,079 0,067 0,056 0,046 0,038 0,030 0,023
Отношение сигнал/шум
в Гауссовском
канале,
дБ и Ро
В.В.Золотарёв
Обзор по
кодированию
Es/No
Po
28
Лучшие решения - каскадные!
При этом кодирование осуществляется двумя и более кодами,
которые в приемнике декодируются в обратном порядке
и при определенном взаимодействии декодеров.
На практике получили широкое распространение каскадные
схемы из свёрточного кода, декодируемого по алгоритму
Витерби, и кода Рида-Соломона. На графике - лучшие
известные результаты по эффективности в гауссовском канале
1E-1
1E-2
МПД-К2
АВ+РС
Pb(e)
1E-3
турбо
1E-4
Плет-2
1E-5
CМ=1/2
Плет-1
МПД-К1
1E-6
0
0,5
1
Eb /No
В.В.Золотарёв
1,5
Обзор по кодированию
2
2,5
29
Но!! МПД на 2 порядка проще!
Сравнение числа операций декодеров
Число операций
100000
10000
МПД-S
1000
МПД-а
МПД-б
100
турбо
10
1
0,00
0,25
0,50
0,75
1,00
1,25
1,50
1,75
2,00
2,25
2,50
Энергетика канала, Eb/No, дБ
В.В.Золотарёв
Обзор по кодированию
30
Что будем использовать?
- Наиболее простые и эффективные методы !!!
Рост эффективности кодирования
- ЭВК - история достижений
10
9
8
ЭВК, дБ
7
6
4
3
Турбо
МПД
5
ПД
ЭВК
КК: АВ+РС
АВ
КК:
турбо,
МПД,
?????
2
1
0
1965
1970
1975
1980
1985
1990
1995
2000
2005
2010
Годы
В.В.Золотарёв
Обзор по кодированию
31
ИКИ РАН: т. 333-23-56
НИИРадио: т.261-54-44
E-mail: zolotasd@yandex.ru
т. +7 -095-573-51-32
моб.: +7-916-518-86-28
15.09.2003 г.
В.В.Золотарёв
Обзор по кодированию
32