Informasjonsteori

Grunnleggende begreper i teorien introdusert i førtiårene av det tjuende århundre, Shannon. informasjonsteori - vitenskapen om prosessen for overføring, lagring og gjenfinning av data i naturlige, tekniske og sosiale systemer. I mange anvendelser av vitenskapelige felt som informatikk, lingvistikk, kryptografi, kontroll teori, bildebehandling, genetikk, psykologi, økonomi, organisering av produksjons metoder brukes denne vitenskapen.

I moderne forhold med informasjonsteori meget tett knyttet til en kodende teori, diskuterer de vanligste problemene med samsvar mellom et signal og et budskap, og teorien for signalbehandling, karakterisert ved at kvantiseringen studert og gjenvinning av signaler og spektral og korrelasjonsanalyse av disse.

informasjonsteori anser det grunnleggende begrepet "informasjon" for det meste kvantitativt, uten å ta hensyn til sin verdi, og noen ganger meningsløse. I denne tilnærmingen, vil en tekstside inneholde omtrent samme mengde data bestemmes av en rekke tegn og symboler, og er ikke avhengig av at strengt tatt er det skrevet ut, selv om det er helt meningsløst og kaotisk sett noen symboler.

Denne tilnærmingen er berettiget, men bare for simulering av kommunikasjonssystemer, siden de har for nøyaktig å overføre informasjon på kommunikasjonskanaler, som kan være et hvilket som helst sett av tegn og symboler. Deretter, når det er nødvendig å ta hensyn til verdien og betydningen av data, er kvantitativ tilnærming uakseptabelt. Disse forholdene innføre betydelige begrensninger på feltet av mulig anvendelse av denne teorien.

Fundamentals of informasjonsteori innebærer vurdering av forskjellige problemer, inkludert direkte relatert til overføring og mottagning av data. Hovedkommunikasjons ordningen, som regnes i undervisningen er som følger. Informasjonsteori og koding Han mener at dette er kilden til meldinger, som er et ord eller et sett med ord skrevet bestemte bokstaver i alfabetet. Kilden for meldingen kan være tekst til en hvilken som helst naturlig eller kunstig språk, menneskelig språk, database og noen matematiske modeller, og skaper en sekvens av bokstaver. Senderen omformer meldingen til et signal som svarer til den fysiske natur av den kommunikasjonskanal - medium for signaloverføring. Under passeringen av slike er det utsatt for interferens, noe som innfører forvrengninger i verdien av informasjonsparametre. Mottakeren gjenoppretter den opprinnelige meldingen fra det mottatte signal forvrengt. Melding i en redusert form kommer til målet - en bestemt person eller en teknisk enhet.

budskap kilde er statistisk natur, dvs. utseendet av hver melding er bestemt ved en viss sannsynlighet. Shannons informasjonsteori mener at dersom sannsynligheten for meldingen er lik enhet, er at hans utseende betraktelig og usikkerhet ikke tro at det ikke bære noen informasjon.

En av de viktigste problemene med informasjon teori tar hensyn til koordinering av kommunikasjonskanalen og informasjons egenskaper av meldingen kilden. Båndbredde er bestemt av den enhet av en bit per sekund.

Ett problem med kommunikasjonssystemer er forstyrrende for den ønskede signalbanen. Shannon, dessverre, ikke gi oss de spesifikke metoder for å håndtere disse. Den enkleste metoden for fjerning som gjentas mange ganger meldinger er ikke veldig effektivt fordi det tar mer tid kostnader for overføring av informasjon. Mye større effektivitet tillater bruk av koder som lar deg oppdage og korrigere feil for dataoverføring.