![]()
|
|||||||
Шеннон бойынша анықтауКлод Шеннонның тұ жырымы бойынша жұ мсалғ ан анық талмағ андық мә ліменттің ө суіне тең, жә не соны ө згертуге талаптар қ ойды: 1. Ө лшем ү здіксіз болу керек; кіші шамағ а ық тималдық шамасының ө згеруі ө згеру функциясында аз нә тижекө рсету керек; 2. Барлық жағ дайлар(ә ріптер) тең ық тималды болғ анда, жағ дай(ә ріп) санының ө суі функция шамасын да ө сіру керек; 3. Соң ғ ы нә тижелі функция аралық функция қ осындысы болатын екі қ адамғ а таң дау жасай алатын мү мкіндік болу керек. Сондық тан энтропия функциясы
1. Бү тін оң 2. Бү тін оң Шеннонның кө рсетуі бойынша бұ л шарттарғ а бағ ынатын жалғ ыз функция мына тү рде Мұ ндағ ы Мә лімет кө зіне қ олданатын энтропия ө лшеу ( Шеннон энтропиясының анық тамасы термодинамикалық энтропия ұ ғ ымымен байланысты. Ақ параттық теорияғ а «энтропия» ұ ғ ымын енгізуде статистикалық термодинамика саласында Больцман жә не Гиббс ү лкен жұ мыс атқ арды. Термодинамикалық жә не ақ параттық энтропия арасында байланыс бар.
|
|||||||
|