Лабораторна робота №10

Тема: Характеристики неперервних джерел інформації

Мета: навчатися визначати продуктивність неперервного джерела повідомлень, швидкість передачі інформації каналами зв’язку.

Теоретичні відомості

Диференційна ентропія джерела:

Відносна диференційна умовна ентропія джерела:

Епсілон-ентропія джерела:

Епсілон-ентропія для одного незалежного відліку при гаусовському процесі X(t) і E(t):

,

де  і  – середньоквадратичне значення сигналу і шуму відповідно.

Епсілон-продуктивність джерела при дискретному часі:

,

де  – швидкість передачі звітів;  – інтервал дискретизації; – полоса частот сигналу X(t).

Якщо час неперервний, то:

Максимальне значення епсілон-продуктивності має місце, коли сигнал X(t) являється гаусовським:

,

,

де  – максимальна потужність перешкоди.

Об’єм інформації, яка видається джерелом, за час Т:

Надлишковість джерела:

Кількість інформації, яка міститься в одній неперервній випадковій величині, відносно іншої:

Пропускна здатність каналу з дискретним часом:

Пропускна здатність каналу з неперервним часом:

Число рівнів, які можуть бути розпізнані без помилок:

дета- потужність корисного сигналу та шуму відповідно.

Приймач не розрізняє зміни вхідного сигналу менше чим корінь квадратний з потужності шуму, тобто:

Найбільша кількість інформації, яка переносяться імпульсом, маючим M різних рівнів:

Приклади виконання завдань

Приклад 1. Визначити ентропію випадкових величин рівномірно розподіленої на інтервалі з шириною .

Розв’язання. З умови задачі випливає, що густина ймовірності , а ентропія

Приклад 2. Обчислити дисперсію рівномірного розподілення на інтервалі .

Розв’язання. На основі визначення дисперсії маємо

Приклад 3. Аналоговий сигнал з амплітудою 2 В передається по каналу зв’язку, в якому відношення сигнал/шум рівне 20 Дб. Визначити абсолютну похибку телевиміру.

Розвя’язання. Якщо сигнал змішаний з перешкодою, то амплітуда сигналу може бути виміряна з точністю до ефективного значення напруги. При цьому похибка оцінки точного значення амплітуди рівна

З відношення

визначим потужність шуму

Тоді похибка

Приклад 4. Визначити пропускну здатність каналу зв'язку при умові, що сигнал повинен бути відновлений з похибкою не більшою, ніж 1 В.

Розвя’язання. З умови задачі відомо, що амплітуда сигналу  а спектр частот  Тоді пропускна здатність

 

Завдання на лабораторну роботу

Завдання 1

Визначити виграш потужності при використанні джерела з гаусовською густиною розподілення в порівнянні з джерелом, яке має в інтервалі рівномірну густину розподілення.

Завдання 2

Визначити ентропію випадкової величини, розподіленої по експоненціальному законі:

Завдання 3

Визначити кількість інформації  для системи  гаусовських випадкових величин:

Завдання 4

Визначити ε продуктивність джерела, формуючого зі швидкістю  некореляційні відліки стаціонарного нормального випадкового сигналу з дисперсією .

Завдання 5

Визначити об’єм інформації, яка міститься в зоображенні з 500 стрічок по 500 елементів в кожній стрічці. Яскравість кожного елемента передається вісьмома квантовими рівнями. Різні градації яскравості рівновірогідні, а яскравості різних елементів не корельовані.

Завдання 6

По непереривному каналі передається сигнал, спектр якого обмежений полосою частот 30 Гц. Визначити пропускну здатність каналу зв’язку  таким чином, щоб похибка не перевищувала 1%.

Завдання 7

Відношення сигнал/шум в лінії зв’язку дорівнює , а спектр пропуску каналу зв’язку 1 кГц. Визначити пропускну здатність каналу зв’язку.

 

Після виконання завдань оформити та здати звіт викладачу.