Claude Shannon i njegove usluge za informatiku. Ko je Claude Shannon i zašto je poznat? Teorija komunikacije u tajnim sistemima

Claude Elwood Shannon (engleski: Claude Elwood Shannon; 30. april 1916, Petocki, Michigan - 24. februar 2001, Medford, Massachusetts) - američki matematičar i inženjer, njegovi radovi predstavljaju sintezu matematičkih ideja sa specifičnim analizama izuzetno složenih problema njihovu tehničku implementaciju. Osnivač je teorije informacija, koja je našla primjenu u modernim komunikacijskim sistemima visoke tehnologije. Shannon je dao ogroman doprinos teoriji vjerovatnostnih kola, teoriji automata i teoriji upravljačkih sistema - oblasti nauke uključene u koncept kibernetike.

Biografija Claude Shannon je rođen 30. aprila 1916. godine u Petocki, Michigan, SAD. Klod je proveo prvih šesnaest godina svog života u Gaylordu u Mičigenu, gde je pohađao javnu školu, a zatim diplomirao u srednjoj školi Gaylord 1932. godine. Kao mlad, radio je kao kurir za Western Union. Njegov otac je bio advokat, a neko vrijeme i sudija. Njegova majka je bila nastavnica stranog jezika, a potom je postala direktorica srednje škole Gaylord. Mladi Claude je imao veliku ljubav prema dizajniranju automatskih uređaja. Sakupljao je modele aviona i radio kola, a takođe je napravio radio-kontrolisani čamac i telegrafski sistem između kuće prijatelja i njegove kuće. Ponekad je morao da popravlja radio stanice za lokalnu robnu kuću. Thomas Edison je bio njegov daleki rođak.

Godine 1932. Shannon je upisan na Univerzitet u Mičigenu, gdje je pohađao kurs koji je ambicioznog naučnika upoznao sa radom Georgea Boolea. Godine 1936. Klod je diplomirao matematiku i elektrotehniku ​​na Univerzitetu u Mičigenu i otišao na Tehnološki institut u Masačusetsu, gde je radio kao asistent na Vannevar Bushovom diferencijalnom analizatoru, analognom računaru. Proučavajući složena, visoko specijalizirana električna kola diferencijalnog analizatora, Shannon je uvidjela da se Booleovi koncepti mogu dobro iskoristiti. Rad izveden iz njegove magistarske teze iz 1937. godine, "Simbolička analiza releja i prekidača", objavio je 1938. Američki institut elektroinženjera (AIEE). To je bio i razlog da je Shannon 1940. dobio nagradu Alfred Nobel od strane Američkog instituta za inženjerstvo. Digitalna kola su osnova modernog računarstva, što njegov rad čini jednim od najvažnijih naučnih rezultata 20. veka. Hauard Gardner sa Univerziteta Harvard nazvao je Šenonov rad „možda najvažnijim, kao i najpoznatijom magistarskom tezom veka“.

Po Bushovom savjetu, Shannon je odlučila da nastavi doktorat iz matematike na MIT-u. Ideja za budući rad pala mu je u ljeto 1939. dok je radio u Cold Spring Harboru u New Yorku. Bush je imenovan za predsjednika Carnegie instituta u okrugu Washington i pozvao Shannon da učestvuje u radu koji je Barbara Burks radila na genetici. Upravo je genetika, prema Bushu, mogla poslužiti kao predmet Šenoninih napora. Šenonova doktorska disertacija pod nazivom "Algebra za teorijsku genetiku" završena je u proleće 1940. godine. Shannon je doktorirala matematiku i magistrirala elektrotehniku.

U periodu od 1941. do 1956. Shannon predaje na Univerzitetu Michigan i radi u Bell Labs. U Bellovom laboratoriju, Shannon, dok istražuje sklopna kola, otkriva novu metodu njihovog organiziranja koja smanjuje broj relejnih kontakata potrebnih za implementaciju složenih logičkih funkcija. Objavio je rad pod naslovom "Organizacija dvopolnih sklopnih kola". Shannon je radio na problemima stvaranja sklopnih kola, razvijajući metodu koju je prvi pominjao von Neumann koja je omogućila stvaranje strujnih kola koja su bila pouzdanija od releja od kojih su sastavljena. Krajem 1940. Shannon je dobila Nacionalnu nagradu za istraživanje. U proljeće 1941. vratio se u Bell. Sa izbijanjem Drugog svetskog rata, T. Fry je vodio rad na programu za sisteme za upravljanje vatrom za protivvazdušnu odbranu. Shannon se pridružio Fryovoj grupi i radio na uređajima koji su otkrivali neprijateljske avione i ciljali protuavionske topove, a razvio je i kriptografske sisteme, uključujući vladine komunikacije, koji su osiguravali pregovore između Čerčila i Ruzvelta preko okeana. Kako je sam Shannon rekao, rad na polju kriptografije ga je potaknuo na stvaranje teorije informacija.

Od 1950. do 1956. Shannon se bavio stvaranjem logičkih mašina, čime je nastavio nastojanja von Neumanna i Turinga. Stvorio je mašinu koja je mogla igrati šah mnogo prije nego što je stvoren Deep Blue. Godine 1952. Shannon je stvorio mašinu za rješavanje lavirinta.

Shannon se penzionisao sa pedeset godina 1966. godine, ali je nastavio da se konsultuje za Bell Labs. 1985. Claude Shannon i njegova supruga Betty prisustvuju Međunarodnom simpozijumu o teoriji informacija u Brightonu. Shannon dugo nije prisustvovao međunarodnim konferencijama, a u početku ga nisu ni prepoznali. Na banketu je Claude Shannon održao kratak govor, žonglirao sa samo tri loptice, a zatim podijelio stotine i stotine autograma zadivljenim naučnicima i inženjerima koji su stajali u dugom redu, osjećajući strahopoštovanje prema velikom naučniku, upoređujući ga sa Sirom. Isaac Newton.

Claude Shannon preminuo je 24. februara 2001. godine.Šenonovo delo “Teorija komunikacije u tajnim sistemima” (1945), klasifikovano kao tajno, koje je skinuto sa tajne i objavljeno tek 1949. godine, poslužilo je kao početak opsežnog istraživanja u teoriji kodiranja i prenosa informacija, a po opštem mišljenju , dao je kriptografiji status nauke. Claude Shannon je bio taj koji je prvi počeo proučavati kriptografiju koristeći naučni pristup. U ovom članku Claude je definirao temeljne koncepte teorije kriptografije, bez kojih kriptografija više nije zamisliva. Šenonova važna zasluga je istraživanje apsolutno tajnih sistema, i dokaz njihovog postojanja, kao i postojanja kriptografskih šifri i uslova potrebnih za to. Shannon je također formulirao osnovne zahtjeve za jake šifre. Uveo je sada poznate koncepte raspršivanja i miješanja, te metode za kreiranje kriptografski jakih sistema šifriranja zasnovanih na jednostavnim operacijama. Ovaj članak je početna tačka za proučavanje nauke o kriptografiji.

Matematička teorija komunikacije

Članak "Matematička teorija komunikacije" objavljen je 1948. godine i učinio je Claudea Shanona svjetski poznatim. U njemu je Shannon iznio svoje ideje, koje su kasnije postale osnova modernih teorija i tehnika za obradu prijenosa i skladištenja informacija. Rezultati njegovog rada u oblasti prenosa informacija putem komunikacionih kanala pokrenuli su veliki broj studija širom sveta. Shannon je generalizirala Hartleyeve ideje i uvela koncept informacija sadržanih u prenesenim porukama. Kao mjeru informacija prenesene poruke M, Hartley je predložio korištenje logaritamske funkcije. Shannon je bio prvi koji je razmatrao prenesene poruke i šum u komunikacijskim kanalima sa statističke tačke gledišta, uzimajući u obzir i konačne skupove poruka i kontinuirane skupove poruka. Teorija informacija koju je razvio Shannon pomogla je u rješavanju glavnih problema povezanih s prijenosom poruka, a to su: eliminacija suvišnosti poslanih poruka, kodiranje i prijenos poruka preko komunikacijskih kanala sa šumom. Rješavanje problema redundancije poruke koja se prenosi omogućava najefikasnije korištenje komunikacijskog kanala. Na primjer, moderne, široko korištene metode za smanjenje redundancije u televizijskim sistemima emitiranja danas omogućavaju prijenos do šest digitalnih komercijalnih televizijskih programa u frekvencijskom opsegu koji zauzima konvencionalni analogni televizijski signal. Rješavanje problema prijenosa poruke preko komunikacijskih kanala sa šumom za dati omjer snage korisnog signala i snage signala smetnje na lokaciji prijema omogućava prijenos poruka preko komunikacijskog kanala sa proizvoljno malom vjerovatnoćom pogrešne prijenos poruke. Takođe, ovaj odnos određuje kapacitet kanala. To se osigurava upotrebom kodova koji su otporni na smetnje, a brzina prijenosa poruke preko datog kanala mora biti niža od njegovog kapaciteta. Šenon je u svojim radovima dokazao fundamentalnu mogućnost rešavanja identifikovanih problema, što je bila prava senzacija u naučnim krugovima kasnih 40-ih godina. Ovaj rad, kao i radovi koji su ispitivali potencijalnu otpornost na buku, dali su povod za veliki broj studija koje traju do danas, više od pola veka. Naučnici iz Sovjetskog Saveza i SAD (SSSR - Pinsker, Khinčin, Dobrušin, Kolmogorov; SAD - Gallagher, Wolfowitz, Feinstein) dali su striktno tumačenje teorije koju je iznio Shannon. Danas su svi digitalni komunikacioni sistemi dizajnirani na osnovu osnovnih principa i zakona prenosa informacija koje je razvio Shannon. U skladu sa teorijom informacija, redundantnost se prvo uklanja iz poruke, zatim se informacija kodira pomoću kodova koji su otporni na smetnje, a tek onda se poruka kanalom prenosi do potrošača. Suvišnost televizijskih, glasovnih i faks poruka značajno je smanjena, upravo zahvaljujući teoriji informacija.

Velika količina istraživanja posvećena je stvaranju kodova otpornih na buku i jednostavnih metoda za dekodiranje poruka. Istraživanja sprovedena u proteklih pedeset godina formirala su osnovu za ITU preporuku o primeni kodiranja otpornog na buku i metoda izvornog kodiranja u modernim digitalnim sistemima.

Teorema o kapacitetu kanala.

Svaki kanal sa šumom karakteriše maksimalna brzina prenosa informacija, ovo ograničenje je nazvano po Šenonu. Prilikom prenosa informacija brzinama koje prelaze ovu granicu, dolazi do neizbježnog izobličenja podataka, ali se odozdo ovoj granici može pristupiti s potrebnom tačnošću, osiguravajući proizvoljno malu vjerovatnoću greške u prijenosu informacija u šumnom kanalu.

U 40-im godinama američki naučnik prošlog veka K. Shannon, koji se specijalizirao za pitanja kapaciteta komunikacijskih kanala i kodiranja poruka, dao je mjeri količine informacija univerzalniji oblik : količina informacija je postala shvaćena kao količina entropije za koju se ukupna entropija sistema smanjuje kao rezultat toga što ovaj sistem prima informacije. Ova formula izražava entropiju kroz zbir broja vjerovatnoća pomnoženih njihovim logaritmima, a odnosi se samo na entropiju (neizvjesnost) poruke.

Entropija – kvantitativna mjera nesigurnosti koja se uklanja prilikom dobijanja informacija.

Drugim riječima, Informativni sadržaj poruke obrnuto je proporcionalan njenoj očiglednosti, predvidljivost, vjerovatnoća: što je poruka manje predvidljiva, neočigledna i malo vjerovatna, to više informacija nosi za primaoca. Potpuno očigledna (sa vjerovatnoćom jednakom 1) poruka je prazna koliko i potpuno odsustvo takve (tj. poruka čija je vjerovatnoća očito jednaka 0). Oba su, prema Šenonovoj pretpostavci, neinformativna i ne prenose nikakvu informaciju primaocu. Iz brojnih razloga koji se odnose na matematiku i koji se odnose na pogodnost formalizacije, entropiju poruke Shannon opisuje kao funkciju distribucije slučajnih varijabli.

Članak "Matematička teorija komunikacije" objavljen je 1948. godine i učinio je Claudea Shanona svjetski poznatim. U njemu je Shannon iznio svoje ideje, koje su kasnije postale osnova modernih teorija i tehnika za obradu prijenosa i skladištenja informacija. Rezultati njegovog rada u oblasti prenosa informacija putem komunikacionih kanala pokrenuli su veliki broj studija širom sveta. Shannon je generalizirala Hartleyeve ideje i uvela koncept informacija sadržanih u prenesenim porukama. Kao mjeru informacija prenesene poruke M, Hartley je predložio korištenje logaritamske funkcije. Shannon je prva razmatrala prenesene poruke i šum u komunikacijskim kanalima sa statističke tačke gledišta, uzimajući u obzir i konačne skupove poruka i kontinuirane skupove poruka.

Teorija informacija koju je razvio Shannon pomogla je u rješavanju glavnih problema povezanih s prijenosom poruka, a to su: eliminirati suvišnost poslanih poruka, proizvesti kodiranje i prijenos poruka preko komunikacionih kanala sa šumom.

Rješavanje problema redundantnosti poruka koja se prenosi omogućava najefikasnije korištenje komunikacijskog kanala. Na primjer, moderne, široko korištene metode za smanjenje redundancije u televizijskim sistemima emitiranja danas omogućavaju prijenos do šest digitalnih komercijalnih televizijskih programa u frekvencijskom opsegu koji zauzima konvencionalni analogni televizijski signal.

Rješavanje problema prijenosa poruka preko bučnih komunikacijskih kanala pri datom omjeru snage korisnog signala prema snazi ​​signala smetnje na prijemnoj lokaciji, omogućava prijenos poruka preko komunikacijskog kanala sa proizvoljno malom vjerovatnoćom pogrešnog prijenosa poruke. Takođe, ovaj odnos određuje kapacitet kanala. To se osigurava upotrebom kodova koji su otporni na smetnje, a brzina prijenosa poruke preko datog kanala mora biti niža od njegovog kapaciteta.

Kratka biografija Claudea Shanona i zanimljive činjenice iz života američkog inženjera, kriptoanalitičara i matematičara, oca informatičkog doba, predstavljeni su u ovom članku.

Kratka biografija Claudea Shannona

Claude Elwood Shannon rođen je 30. aprila 1916. godine u gradu Petocki, Michigan. Otac mu je bio advokat, a majka predavala strane jezike. Godine 1932. mladić je završio srednju školu i istovremeno se školovao kod kuće. Klodov otac je sinu stalno kupovao radio-amaterske komplete i konstrukcione setove, promovišući njegovu tehničku kreativnost. A njegova starija sestra mu je predavala detaljne časove matematike. Stoga je ljubav prema tehnologiji i matematici bila očigledna.

Godine 1932. budući naučnik je ušao na Univerzitet u Mičigenu. U obrazovnoj ustanovi diplomirao je matematiku i elektrotehniku ​​1936. godine. Na univerzitetu je čitao djela “Logički račun” i “Matematička analiza logike” autora Georgea Boolea, što je u velikoj mjeri odredilo njegova buduća naučna interesovanja.

Ubrzo je pozvan da radi na Tehnološkom institutu u Masačusetsu kao asistent istraživač u laboratoriju za elektrotehniku. Shannon je radio na nadogradnji analognog računara, Vannevar Bushovog diferencijalnog analizatora.

Godine 1936. Claude je odlučio da upiše master program, a godinu dana kasnije napisao je svoju disertaciju. Na osnovu toga, on proizvodi članak pod naslovom “Simbolička analiza releja i sklopnih kola”, objavljen 1938. u časopisu Američkog instituta za elektrotehniku. Njegov članak privukao je interesovanje naučne elektrotehničke zajednice i 1939. godine dobio je nagradu. Alfred Nobel. Ne završivši magistarski rad, Shannon je započeo rad na svom doktoratu iz matematike, dotičući se problema u genetici. Zvala se “Algebra za teorijsku genetiku”.

Godine 1941., u dobi od 25 godina, počeo je raditi na matematičkom odjelu istraživačkog centra Bell Laboratories. U to vrijeme počela su neprijateljstva u Evropi. Amerika je finansirala Šenonovo istraživanje u oblasti kriptografije. Autor je analize šifriranih tekstova teorijskim metodama informacija. Godine 1945. naučnik je završio veliki tajni izvještaj, “Matematička teorija kriptografije”.

Koji je doprinos Klod Šenon dao kompjuterskoj nauci?

U svom istraživanju naučnik je pripremio koncepte o teoriji informacija. Godine 1948. Shannon je objavio djelo “Matematička teorija komunikacije” u kojem se matematička teorija pojavljuje kao prijemnik informacija i komunikacijski kanal za njihov prijenos. Ostaje samo da sve prevedemo na jednostavniji jezik i prenesemo naša dostignuća čovječanstvu. Claude Shannon uveo je koncept informacijske entropije, koji označava količinu, jedinicu informacije. Naučnik je rekao da mu je jedan matematičar savjetovao da koristi ovaj izraz. Claude Shannon stvorio je 6 konceptualnih teorema koje su temelj njegove teorije informacija:

• Teorema za kvantitativnu procjenu informacija.
• Teorema za racionalno pakovanje simbola tokom primarnog kodiranja.
• Teorema za usklađivanje protoka informacija sa kapacitetom komunikacionog kanala bez smetnji.
• Teorema za usklađivanje toka informacija sa kapacitetom binarnog komunikacionog kanala sa šumom.
• Teorema za procjenu kapaciteta kontinuiranog komunikacionog kanala.
• Teorema za rekonstrukciju kontinuiranog signala bez greške.

Godine 1956. naučnik je prestao raditi u Bell Laboratories i preuzeo poziciju profesora na dva fakulteta Massachusetts Institute of Technology: elektrotehnici i matematici.

Kada je napunio 50 godina, prestao je da predaje i potpuno se posvetio omiljenim hobijima. Napravio je monocikl sa 2 sedla, robote koji rješavaju Rubikovu kocku i žongliraju loptice, te sklopivi nož s mnogo oštrica. 1965. posjetio je SSSR. Nedavno je Claude Shannon bio veoma bolestan i umro je u februaru 2001. od Alchajmerove bolesti u staračkom domu u Massachusettsu.

Claude Shannon zanimljive činjenice

Šenonu je ljubav prema nauci usadio njegov deda. Šenonov deda je bio pronalazač i farmer. Izumio je mašinu za pranje veša zajedno sa mnogim drugim korisnim poljoprivrednim uređajima

Kao tinejdžer on radio kao glasnik u Western Unionu.

On volio je svirati klarinet, slušao muziku i čitao poeziju.

Shannon se oženio Mary Elizabeth Moore Shannon, koju je upoznao u Bell Labsu, 27. marta 1949. godine. Tamo je radila kao analitičar. Par je imao troje djece: Andrewa Moorea, Roberta Jamesa i Margaritu Katerina.

Claude Shannon je volio da ide vikendom u Las Vegas sa suprugom Betty i kolegom da igra blekdžek. Shannon i njegov prijatelj čak su dizajnirali prvi nosivi kompjuter za brojanje kartica na svijetu.

Učestvovao je u razvoju uređaja za otkrivanje neprijateljskih aviona i usmjerenih protivavionskih topova prema njima. Također je stvorio kriptografski sistem za američku vladu, osiguravajući tajnost pregovora između Roosevelta i Churchilla.

Voleo je da igra šah i žonglira. Svjedoci njegove mladosti u Bell Laboratories prisjetili su se kako se vozio po hodnicima kompanije na monociklu, žonglirajući lopticama.

Napravio je monocikl sa dva sedla, sklopivi nož sa stotinu oštrica, robote koji rešavaju Rubikovu kocku i robota koji žonglira lopticama.

Shannon je, po vlastitim riječima, bio apolitična osoba i ateista.