Мәғлүмәт теорияһы: өлгөләр араһындағы айырма

'''Мәғлүмәт теорияһы''' — ҡулланма математика, [[радиотехника]] (сигналдарҙы эшкәртеү теорияһы) һәм [[информатика]]ның киҫәгебүлеге, [[мәғлүмәт]]тең һаныниҫәбен үлсәүалыу, уның үҙенсәлектәрен иҫәпләүхисаплау һәм бирелмәләрҙе тапшырыу системалары өсөн сикке нисбәттәр билдәләүгә ҡағыла. Теләһә ҡайһы математик теория кеүек үк, теория математик моделдәр менән эш итә, ә реаль физик объекттар (элемтә сығанаҡтары һәм каналдары) менән түгел). Башлыса ихтималлыҡтар теорияһының һәм математик ститистиканыңстатистиканың математик аппаратын ҡуллана.

Мәғлүмәт теорияһы [[1948 йыл]]<nowiki/>да Клод Шеннондың «Элемтәнең математик теорияһы» тигән хеҙмәте быҫылып сыҡҡас барлыҡҡа килә. Шеннон ҡарашынса, мәғлүмәт теорияһы — элемтәнең математик теорияһы киҫәгебүлеге. Мәғлүмәт теорияһы мәғлүмәт тапшырыу системалары мөмкинлектәренең төп сиктәрен нығыта, уларҙы эшләүҙең һәм ғәмәлгә ашырыуҙың сығанаҡ принциптарын билдәләй. Мәғлүмәт теорияһының бурыстар даирәһе мәғлүмәт тапшырыу йә һаҡлауҙың структур схемаһы, типик системаһы ярҙамында аныҡлана.

[[Файл:Передача_информации2.png|мини|731x731пкс|СхемаЭлемтә системысистемаһы связисхемаһы]]

Схемала источником является любой объект [[Ғаләм|ғаләмдең]] арауыҡ һәм [[ваҡыт]] киңлегендә таралырға тейешле хәбәрҙәр сығарып торған теләһә ҡайһы объекты сығанаҡ булып тора. Тәү физик тәбиғәте ниндәй булһа ла, таралырға тейешле бөтә хәбәрҙәр электр сигналдары формаһына әүерелә. Был сигналдар сыҡҡан сығанаҡ тип ҡарала.

Канал кодеры элемтә каналы буйлап тапшырғанда ҡамасауҙарҙан ҡурсалау йә һаҡлағанда боҙолоуҙан һаҡлау һаҡлау өсөн мәғлүмәтте эшкәртә.

Мәғлүмәт теорияһы барлыҡҡа килеүҙе Клод Шеннондың 1948 йылдың июль-октябрендә Америкалағы «Bell System» телефон компанияһы журналында «Элемтәнең математик теорияһы» тигән хеҙмәтенхеҙмәте баҫылып сығыуға бәйләүселәр күп. Әммә мәғлүмәт теорияһын төҙөүгә башҡа ғалимдар ҙа ҙур өлөш индерә. Шеннон в начале своей статьи написал «Некоторые основные положения этой теории имеются в важных работах Найквиста и Хартли. В настоящее время теория расширена тем, что включено некоторое число новых факторов, в частности, влияние шума в канале».

Шеннон башлыса Американың электронсы ғалимы Ральф Хартлиҙың хеҙмәттәрехеҙмәттәрендәге йүнәлешенйүнәлеште дауам итә, «мәғлүмәт» төшөнсәһен ҡуллана, әммә терминға аңлатма бирмәй. Шеннон теорияһы теүәл итеп төҙөлгән математик мәсьәлә тип ҡабул ителә һәм шаулы коммуникация каналының үткәреү һәләтен асыҡлау мөмкинлеген бирә.

Код алфавиты символдарының (нигеҙҙә, 0 һәм 1) теләһә ҡайһы эҙмә-эҙлелеге айырым һүҙҙәргә бүленә алһа, код берһис һүҙһеҙ сиселеүсән булып тора.

Әгәр кодланған бер һүҙ ҙә икенсе һүҙҙең башы булмаһа, код префикслы тип атала һәм шулай уҡ берһис һүҙһеҙ сиселеүсән булып тора. Тимәк, префикслылыҡ — берһис һүҙһеҙ сиселеүсәнлек өсөн етерлек, әммә мотлаҡ түгел шарт булып тора. Префикслылыҡ талабы кодлы һүҙҙәрҙең оҙонлоғон сикләй һәм кодлы һүҙҙәрҙе үтә ҡыҫҡа итеү мөмкинлеген бирмәй. префикслыПрефикслы күләм коды <math>M</math> барлыҡҡа килһен өсөн (кодлы һүҙҙәрҙең оҙонлоғо <math>l_1,...,l_M</math>) Крафт тигеҙ түгеллеген үтәү талап ителә:

* {{КитапКнига|автор=MacKay, David.|заглавие=Information Theory, Inference, and Learning Algorithms|ссылка=http://www.inference.phy.cam.ac.uk/mackay/itila/|издательство=Cambridge University Press|год=2003|isbn=9780521642989}}