Надмірність інформації, virtual laboratory wiki, fandom powered by wikia
Надмірність - термін з теорії інформації. що означає перевищення кількості інформації. використовуваної для передачі або зберігання повідомлення, над його інформаційної ентропією. Для зменшення надмірності застосовується стиснення даних без втрат. в той же час контрольна сума застосовується для внесення додаткової надмірності в потік, що дозволяє виробляти виправлення помилок при передачі інформації по каналах, що вносить спотворення (супутникова трансляція, бездротова передача і т. д.).
Кількісне визначення Правити
Позначимо як R логарифм числа символів в алфавіті повідомлень:
Абсолютна надмірність може бути визначена як різниця цих двох величин:
Співвідношення називається відносної надмірністю і дає математичну оцінку максимальному ступені стиснення. на яку може бути зменшений розмір файлу.
Інші визначення надмірності Правити
Міра надмірності між двома випадковими величинами - взаємна інформація.