Тақырып 3. Ақпарат көлемі және артықшылық

⇐ ПредыдущаяСтр 11 из 40Следующая ⇒

Лекция мақ саты: Артық шылық тү сінігін зерртеу

Сұ рақ тар:

1. Ақ парат кө лемі жә не энтропия ө зара қ алай байланысқ ан?

2. Артық шылық тү сінігін анық тау

3. Хабарламадағ ы ақ парат кө лемін анық тау, к тең емес мумкіншілікпен қ ұ рылғ ан

4. Дифференциалды энтропияғ а анық тама берің із жә не оның негізгі сипатын қ ұ растырың ыз

Егер бү кә л анық талмағ андық алынса, ақ парат энтропияғ а тең

І = Н,

Қ арсы жағ дайда- бастапқ ы жә не соң ғ ы энтропия арасындағ ы айырмашылық

I =H₁-H₂ (3. 1)

Ақ параттың кө п саны алынады, егер толық тай ең кө п белгісіздік тү сіріледі - егер барлық оқ иғ аның мү мкіндіктері бірдей болса.

=Н_макс

_{р - жү зеге асудың мү мкіндін барлық оқ иғ аның тең мү мкіндігінің арасында. Ақ параттың артығ ы айырым барынша ық тималдың арасында ақ парат кө лемі жә не энтропияменболады:}

(3. 2)

Ақ параттың саны сияқ ты хабарламаның ортақ санының мумкін ұ сынысы туындысын к ортаның энтропияснда:

Алғ ашқ ы ә ліпбинің тең мү мкінді жә не ө зара тә уелсіз символ оқ иғ асы ү шін ақ параттың саны арада к m ә ліпбиінің хабарламаларында тең:

(бит).

Символдық алфавиттегі тең емес ық тималдық этнропиясы:

(бит/символ),

Ақ параттық хабарлама саны, қ ұ растырылғ ан к тең емес ық тималдық символы

Ақ параттар саны келесідей талаптарды қ анағ аттандырады:

1. Ақ параттар саны екі тә уелсіз хабарламалардың тен қ осындылары яғ ни ә рбір ақ параттық сандағ ы.

2. Жағ дайды таң дау мү мкіншілігінің жоғ арылауы монотонды қ ажеттілігі).

3. Шынайы оқ иғ аларғ а толы Ақ параттар санының қ ұ рамында белгісіздік нолге тең

4. Ақ парат санының тә уелсіздігі хабарламарың сапасынан, ә сіресехабарлама алушының маң ыздылық дә режесінен, салдарының мү мкіншілік дә режесінен жә не т. б.

⇐ Предыдущая 6 7 8 9 101112 13 14 15 Следующая ⇒