Практичне заняття №1 визначення кількості інформації
Відомо, що одне з До відомих повідомлень, переданих рівномірним двійковим кодом має 3 біта інформації. Чому дорівнює К?

Визначити кількість інформації на одну букву алфавіту що складається з 16 букв. m1 = 16, I =?
Число символів алфавіту m1 = 5. Визначити кількість інформації на один символ повідомлення, складеного з цього алфавіту для двох випадків:
якщо символи рівноймовірно;
Ентропія будь-якого алфавіту дорівнює сумі творів ймовірностей на логарифми цих ймовірностей.
У плановому відділі заводу працюють 3 економіста. Два досвідчених, один - немає. Для недосвідченого поява будь-якого типу документа з цехів равновероятно. Досвідчені знають: PS = 10% - зведення типу S. Яка кількість інформації отримають кожен економіст при отриманні зведення типу S.
Скількома способами можна передати розташування фігур на шаховій дошці? Чому дорівнює кількість інформації в кожному запропонованому випадку?

-P. При якому значенні q, результат досвіду Імовірність певної події при даній кількості дослідів одно Р, ймовірність непоявленія цієї події дорівнює q = 1будет мати максимальну невизначеністю.

Є система, яка задана параметрами:
Чому дорівнює Н всієї системи, стан якої описується дискретною величиною? Розподіл ймовірності зазначено в таблиці.
За умовою завдання є двійковий код для підрахування інформації:
Генератор виробляє 4 частоти, в шифраторі комбінується з 3 частоти в кодової комбінації. Визначити загальна кількість символів первинного алфавіту, яке може бути передано в цьому випадку. Визначити кількість інформації на одну кодову посилку (одне повідомлення).
«

10. У повідомленні передані символи равновероятного первинного ал фавіта, який має 128 якісних ознак. Чому дорівнює кількість символів n, в прийнятому повідомленні, якщо воно кодується двійковим кодом і містить 42 біта інформації?

Чому дорівнює кількість інформації при отриманні повідомлення про вихід з ладу одного з 8 верстатів, отримане в одне і теж час з цього заводу?
Алфавіт складається з букв А, В, С, Д. Імовірність появи: РА = РВ = 0,28, РС = 0,34, РД = 0,1. Визначити кількість ентропії на символ повідомлення, складеного з такого алфавіту?

Завдання 1.1. Відомо, що одне з До повідомлень, переданих рівномірним двійковим кодом має I біт інформації. Чому дорівнює К?
Завдання 1.2. Визначити кількість інформації на одну букву алфавіту що складається з m1 букв.
Завдання 1.3. Число символів алфавіту m1. Визначити кількість інформації на один символ повідомлення, складеного з цього алфавіту для двох випадків:
а) якщо символи рівноймовірно;
б) якщо є такі ймовірності їх появи в текстових повідомленнях. Pi = 1; P2; ... Pm1>