Теоретические основы информатики

1 Введение ....................................................................................................................................................4

2 Методические указания к проведению практических занятий ...................................................................6

2.1 Общие положения ....................................................................................................................................6

2.2 Практическое занятие «Фундаментальные положения информатики» ....................................................7

2.3 Практическое занятие «Количественная мера информации» ...................................................................9

2.4 Практическое занятие «Энтропия дискретных сообщений» ................................................................... 12

2.5 Практическое занятие «Энтропия непрерывных сообщений» ................................................................ 16

2.6 Практическое занятие «Скорость передачи информации и пропускная способность каналов связи» .... 19

2.7 Практическое занятие «Кодирование в каналах без шумов. Коды Шеннона-Фэно и Хаффмана»............ 24

3 Методические указания для организации самостоятельной работы .......................................................... 26

3.1 Общие положения ................................................................................................................................... 26

3.2 Проработка лекционного материала и подготовка к практическим занятиям.......................................... 26

3.3 Подготовка к контрольным работам......................................................................................................... 27

3.4 Подготовка к опросам на практических занятиях .................................................................................... 28

3.5 Самостоятельное изучение тем ................................................................................................................ 29

3.6 Подготовка к зачету ................................................................................................................................. 31

4 Рекомендуемые источники ......................................................................................................................... 32

ПРИЛОЖЕНИЕ 1............................................................................................................................................. 33

ПРИЛОЖЕНИЕ 2 ............................................................................................................................................ 34