Bir mesajdaki bilgi miktarı nasıl sayılır? Bilgi miktarını belirlemede olasılıksal yaklaşım "Shannon formülü. Bilgi miktarını bulma problemlerini çözmek için ET Excel uygulaması"

Farklı mesaj kaynaklarını ve farklı iletişim hatlarını ve kanallarını karşılaştırabilmek için, mesajda yer alan ve sinyal tarafından taşınan bilgilerin değerlendirilmesine izin veren bazı nicel ölçümlerin getirilmesi gereklidir. Bilgi miktarı biçiminde böyle bir ölçü, K. Shannon tarafından, oldukça genel bir matematiksel iletişim teorisi oluşturmasına izin veren seçim kavramı temelinde tanıtıldı.

Bir dizi temel mesaj üreten ayrık bir kaynağa uygulanan bu teorinin ana fikirlerini ele alalım. Belirli bir mesajda yer alan bilgi miktarının uygun bir ölçüsünü bulmaya çalışalım. Bilgi teorisinin ana fikri, bu önlemin belirli bir mesajın belirli içeriği tarafından değil, kaynağın belirli bir temel iletişimi sonlu bir kümeden seçmesiyle belirlenmesidir. Bu fikir, temelinde, bilgi aktarımıyla ilgili sezgisel fikirlerle iyi bir uyum içinde olan bir dizi geniş kapsamlı ve aynı zamanda önemsiz olmayan sonuçlar elde etmenin mümkün olduğu gerçeğiyle doğrulanmaktadır. Bu sonuçların başlıcaları aşağıda sunulacaktır.

Dolayısıyla, kaynak alfabe kümesinden bir temel mesaj () seçerse, çıktı Bilgi miktarı bu öğenin belirli içeriğine değil, bu seçimin nasıl yapıldığına bağlıdır. Seçilen mesaj öğesi önceden belirlenmişse, içerdiği bilgilerin sıfıra eşit olduğunu varsaymak doğaldır. Bu nedenle, bir harf seçiminin bir olasılıkla gerçekleştiğini varsayacağız. Bu olasılık, genel olarak, verilen harften önce hangi dizinin geldiğine bağlı olabilir. Temel bir mesajda bulunan bilgi miktarının bu olasılığın sürekli bir fonksiyonu olduğunu kabul ediyoruz ve bilgi hakkındaki en basit sezgisel fikirlerden bazılarını tatmin edecek şekilde bu fonksiyonun şeklini belirlemeye çalışacağız.

Bu amaçla, kaynak tarafından sırayla oluşturulan her bir "harf" çiftinin büyütülmüş bir "harf" olarak ele alınmasından oluşan basit bir mesaj dönüşümü gerçekleştireceğiz. Böyle bir dönüşüme alfabenin genişlemesi diyoruz. Büyütülmüş "harfler" kümesi, bir hacim alfabesi oluşturur , çünkü alfabenin her bir öğesinden sonra, genel olarak, öğelerden herhangi biri seçilebilir. Kaynağın sıralı bir eleman seçimi yapma olasılığı olsun ve . O halde, çifti yeni alfabenin bir harfi olarak ele alırsak, bu çiftin şu miktarda bilgi içerdiği ileri sürülebilir.

Bir çift harfin içerdiği bilgi miktarının toplama koşulunu karşılamasını, yani her bir harfin ve orijinal alfabenin içerdiği bilgi miktarlarının toplamına eşit olmasını istemek doğaldır. Harfte yer alan bilgi eşittir , burada harfi kendisinden önceki tüm harflerden sonra seçme olasılığıdır. Harfte yer alan bilgileri belirlemek için, harften önce gelen tüm harfleri de hesaba katarak, harften sonra bir harf seçme olasılığını hesaba katmak gerekir. Bu koşullu olasılığı olarak gösteriyoruz. Ardından mektuptaki bilgi miktarı fonksiyon tarafından ifade edilecektir.

Öte yandan, olasılıkların çarpımı kuralına göre bir çift harf seçme olasılığı

Alfabeyi genişletme işleminde bilgi miktarının toplanması gerekliliği, eşitliği sağlar.

ve . Sonra herhangi biri için ve denklem gözetilmelidir

Alfabedeki harflerin sınırlı sayıda olması nedeniyle, bu eşitlikler, kaynak tarafından bir çift harf seçiminin imkansız bir olay olduğu anlamına geldiğinden, durumları hariç tutuyoruz.

Eşitlik (1.3), fonksiyonun biçiminin belirlenebildiği fonksiyonel bir denklemdir. Denklemin (1.3) her iki tarafını p'ye göre farklılaştırıyoruz:

.

Ortaya çıkan denklemin her iki parçasını da p ile çarparız ve notasyonu veririz, sonra

(1.4)

Bu denklem any ve any için geçerli olmalıdır. Son kısıtlama gerekli değildir, çünkü Denklem (1.4) simetriktir ve bu nedenle, argümanların birini aşmayan herhangi bir pozitif değer çifti için karşılanmalıdır. Ancak bu ancak (1.4)'ün her iki kısmı da sabit bir değeri temsil ediyorsa mümkündür, bu nedenle

Ortaya çıkan denklemi entegre ederek, buluruz

, (1.5)

keyfi bir entegrasyon sabitidir.

Formül (1.5), olasılıkla bir harf seçerken bilgi miktarını ifade eden ve toplama koşulunu sağlayan bir işlev sınıfını tanımlar. İntegrasyon sabitini belirlemek için, mesajın önceden belirlenmiş bir öğesinin, yani bir olasılığın bilgi içermediği, yukarıda belirtilen koşulu kullanırız. Bu nedenle, bunu hemen takip eden . - doğal logaritma tabanı) veya başka bir deyişle, olasılığı eşit olan bir olayın meydana geldiği mesajda yer alan bilgilere eşittir

logaritmanın herhangi bir tabanda alındığı düşünülürse, çözülen problem boyunca bu taban korunduğu sürece.

Bilgi toplama özelliği nedeniyle, ifadeler (1.6), yalnızca mesajın harfindeki değil, aynı zamanda keyfi olarak uzun olan herhangi bir mesajdaki bilgi miktarının belirlenmesine izin verir. Önceden seçilen mesajları dikkate alarak, bu mesajı tüm olası olanlar arasından seçme olasılığını almak yeterlidir.

bilişim

Bilgi miktarı

giriiş

2. Belirsizlik, bilgi miktarı ve entropi

3. Shannon formülü

4. Hartley formülü

5. İletişim sürecinde alınan bilgi miktarı

Kullanılan literatür listesi

giriiş

Tanım olarak, A.D. Ursula - "bilgi, çeşitliliği yansıtır." Bilgi miktarı, çeşitliliğin niceliksel bir ölçüsüdür. Bu, belleğin toplam içeriğinin çeşitliliği olabilir; süreçte alınan sinyalin çeşitliliği özel mesaj; belirli bir durumun çeşitli sonuçları; bazı sistemlerin öğelerinin çeşitliliği ... kelimenin en geniş anlamıyla çeşitliliğin bir değerlendirmesidir.

Kaynak ile bilgi alıcısı arasındaki herhangi bir mesajın belirli bir süresi vardır, ancak mesajın bir sonucu olarak alıcı tarafından alınan bilgi miktarı, nihai olarak mesajın uzunluğu ile değil, sinyalin çeşitliliği ile karakterize edilir. alıcıda bu mesaj tarafından oluşturulur.

Bilgi taşıyıcının hafızası, görüntüleri biriktirebildiği belirli bir fiziksel kapasiteye sahiptir ve hafızada biriken bilgi miktarı, sonuçta bu kapasiteyi doldurmanın çeşitliliği ile karakterize edilir. Cansız tabiattaki nesneler için bu onların tarihinin çeşitliliğidir; canlı organizmalar için bu onların deneyimlerinin çeşitliliğidir.

1.bit

Bilgi aktarımında çeşitlilik esastır. Beyaz üzerine beyaz çizemezsiniz, bir devlet yetmez. Bir bellek hücresi yalnızca bir (başlangıç) durumda olabiliyorsa ve dış etki altında durumunu değiştiremiyorsa, bu, bilgiyi algılayamadığı ve depolayamadığı anlamına gelir. Böyle bir hücrenin bilgi kapasitesi 0'dır.

Minimum çeşitlilik, iki durumun varlığı ile sağlanır. Bir bellek hücresi, dış etkiye bağlı olarak, geleneksel olarak "0" ve "1" olarak adlandırılan iki durumdan birini alma yeteneğine sahipse, minimum bir bilgi kapasitesine sahiptir.

İki farklı durumda olabilen bir bellek hücresinin bilgi kapasitesi, bilgi miktarının bir ölçü birimi olarak alınır - 1 bit.

1 bit (bit - İngiliz ikili hanesinin kısaltması - ikili numara) bilgi kapasitesinin ve bilgi miktarının bir ölçüm birimi ve ayrıca daha sonra tanışacağımız bir miktar daha - bilgi entropisi. Bit, en koşulsuz ölçü birimlerinden biridir. Uzunluk ölçü birimi keyfi olarak ayarlanabilseydi: arşın, ayak, metre, o zaman bilgi ölçü birimi temelde başka biri olamazdı.

Açık fiziksel seviye Bit, herhangi bir anda iki durumdan birinde bulunan bir bellek hücresidir: "0" veya "1".

Bir görüntünün her noktası yalnızca siyah veya beyaz olabiliyorsa, böyle bir görüntüye bitmap denir, çünkü her nokta 1 bit kapasiteli bir bellek hücresidir. Açık veya kapalı olabilen bir ampul de bir ritmi sembolize eder. 1 bit bilgiyi gösteren klasik bir örnek - yazı tura veya yazı tura atmanın bir sonucu olarak elde edilen bilgi miktarı.

Evet/hayır sorusuna yanıt olarak 1 bitlik bilgi miktarı elde edilebilir. Başlangıçta ikiden fazla cevap seçeneği varsa, belirli bir cevapta alınan bilgi miktarı 1 bitten fazla olacaktır, eğer ikiden az cevap seçeneği varsa, yani. bir, o zaman bu bir soru değil, bir ifadedir, bu nedenle belirsizlik olmadığı için bilgi alınması gerekli değildir.

Bilgi alabilen bir bellek hücresinin bilgi kapasitesi 1 bitten az olamaz, ancak alınan bilgi miktarı 1 bitten az olabilir. Bu, "evet" ve "hayır" yanıt seçenekleri eşit derecede olası olmadığında olur. Tekdüzelik ise, örneğin önceki yaşam deneyimlerine dayanarak elde edilen, bu konuyla ilgili bazı ön (a priori) bilgilerin zaten mevcut olmasının bir sonucudur. Bu nedenle, bir önceki paragraftaki tüm argümanlarda çok önemli bir uyarı dikkate alınmalıdır: bunlar yalnızca eşlenebilir durum için geçerlidir.

Bilgi miktarını I sembolü ile göstereceğiz, olasılık P sembolü ile gösterilir. Toplam olasılığı hatırlayın. tam grup olaylar 1'dir.

2. Belirsizlik, bilgi miktarı ve entropi

Bilgi teorisinin kurucusu Claude Shannon, bilgiyi belirsizliğin ortadan kaldırılması olarak tanımlamıştır. Daha doğrusu bilgi edinme - gerekli kondisyon belirsizliği ortadan kaldırmak için. Belirsizlik bir seçim durumunda ortaya çıkar. Belirsizliği ortadan kaldırma sürecinde çözülen görev, dikkate alınan seçeneklerin sayısını azaltmak (çeşitliliğin azaltılması) ve sonuç olarak, olası seçenekler arasından duruma karşılık gelen bir seçeneğin seçimidir. Belirsizliğin ortadan kaldırılması, bilinçli kararlar alma ve harekete geçme fırsatı sağlar. Bu, bilginin kontrol edici rolüdür.

Maksimum belirsizlik durumu, birkaç eşit derecede olası alternatifin (seçenek) varlığını ima eder, yani. seçeneklerin hiçbiri tercih edilmez. Ayrıca, eşit olasılıklı seçenekler ne kadar çok gözlemlenirse, belirsizlik o kadar büyük olur, kesin bir seçim yapmak o kadar zor olur ve bunu elde etmek için o kadar fazla bilgi gerekir. N değişken için bu durum aşağıdaki olasılık dağılımı ile açıklanmaktadır: (1/N, 1/N, … 1/N).

Minimum belirsizlik 0'dır, yani bu tam kesinlik durumu, yani seçimin yapıldığı ve tüm gerekli bilgi kabul edilmiş. Tam kesinlik durumu için olasılık dağılımı şöyle görünür: (1, 0, …0).

Bilgi teorisindeki belirsizlik miktarını karakterize eden miktar, H sembolü ile gösterilir ve entropi, daha doğrusu bilgi entropisi olarak adlandırılır.

Entropi (H), bit cinsinden ifade edilen bir belirsizlik ölçüsüdür. Entropi, dağılımın tekdüzeliğinin bir ölçüsü olarak da düşünülebilir. rastgele değişken.

Şekil 1, olasılık oranlarındaki bir değişiklikle (p, (1-p)) iki alternatif durumunda entropinin davranışını göstermektedir.

Entropi en yüksek değerine ulaşır. bu durum daha sonra, her iki olasılık birbirine eşit ve ½'ye eşit olduğunda, sıfır entropi değeri (p 0 =0, p 1 =1) ve (p 0 =1, p 1 =0) durumlarına karşılık gelir.

I bilgi miktarı ve H entropisi aynı durumu, ancak niteliksel olarak zıt taraflardan karakterize eder. I, H belirsizliğini ortadan kaldırmak için gereken bilgi miktarıdır. Leon Brillouin'in tanımına göre, bilgi negatif bir entropidir (negentropi).

Belirsizlik tamamen ortadan kaldırıldığında, alınan bilgi miktarı I, başlangıçta var olan belirsizliğe H eşittir.

Belirsizliğin kısmen ortadan kaldırılmasıyla, alınan bilgi miktarı ve kalan çözülmemiş belirsizlik, başlangıçtaki belirsizliğe eklenir. H t + ben t = H.

Bu nedenle aşağıda H entropisini hesaplamak için verilecek formüller aynı zamanda I bilgi miktarını hesaplamak için formüllerdir, yani. belirsizliğin tamamen ortadan kaldırılması söz konusu olduğunda, içlerindeki H, I ile değiştirilebilir.

3. Shannon'ın formülü

Genel durumda, entropi H ve belirsizliğin ortadan kaldırılmasının bir sonucu olarak elde ettiğim bilgi miktarı, başlangıçta dikkate alınan seçeneklerin sayısına (N) ve bunların her birinin uygulanması için apriori olasılıklara (P: (p 0 , p 1 , …p N -1 ), yani H=F(N, P). Bu durumda entropinin hesaplanması, Shannon'ın 1948'de "Matematiksel İletişim Teorisi" makalesinde önerdiği formüle göre yapılır.

Belirli bir durumda, tüm değişkenler eşit derecede olası olduğunda, bağımlılık yalnızca dikkate alınan değişkenlerin sayısına, yani H=F(N). Bu durumda, Shannon formülü büyük ölçüde basitleştirilmiştir ve ilk kez 1928'de Amerikalı mühendis Ralph Hartley tarafından önerilen Hartley formülü ile örtüşmektedir, yani. 20 yıl önce.

Shannon'ın formülü aşağıdaki forma sahiptir:

Pirinç. 3. b'nin a'nın tabanına göre logaritmasını bulmak, b'yi elde etmek için a'yı yükseltmeniz gereken kuvveti bulmaktır.

Logaritmanın ne olduğunu hatırlayın.

2 tabanlı logaritmaya ikili denir:

günlük 2 (8)=3 => 2 3 =8

günlük 2 (10)=3,32 => 2 3,32 =10

10 tabanlı logaritmaya ondalık sayı denir:

günlük 10 (100)=2 => 10 2 =100

Logaritmanın ana özellikleri:

1. log(1)=0 çünkü herhangi bir sayının sıfırıncı kuvveti 1 verir;

2. log(a b)=b*log(a);

3. log(a*b)=log(a)+log(b);

4. log(a/b)=log(a)-log(b);

5. log(1/b)=0-log(b)=-log(b).

Formül (1)'deki eksi işareti, entropinin negatif olduğu anlamına gelmez. Bu, tanım gereği p ben £1 olması ve birden küçük bir sayının logaritmasının negatif bir değer olmasıyla açıklanır. Logaritmanın özelliğine göre

Bilgi miktarı, belirli bir sinyal biçiminde bir mesaj aldıktan sonra kaybolan belirsizlik derecesini (bilgi eksikliği) yansıtan, bir sinyalin sayısal bir özelliğidir.
Bilgi teorisindeki bu belirsizlik ölçüsüne entropi denir. Bir mesajın alınması sonucunda bazı konularda tam bir netlik sağlanıyorsa, tam veya kapsamlı bilginin alındığı ve alınması gerektiği söylenir. Ek Bilgiler HAYIR. Tersine, mesajı aldıktan sonra belirsizlik aynı kalırsa, o zaman hiçbir bilgi alınmamıştır (sıfır bilgi).
Yukarıdaki akıl yürütme bilgi, belirsizlik ve seçim kavramları arasında yakın bir ilişki olduğunu göstermektedir. Dolayısıyla, herhangi bir belirsizlik, seçim olasılığını ima eder ve belirsizliği azaltan herhangi bir bilgi, seçim olasılığını azaltır. Tam bilgi ile başka seçenek yoktur. Kısmi bilgi, seçenek sayısını azaltarak belirsizliği azaltır.
Bir örnek düşünün. Bir kişi bozuk para atıyor ve hangi tarafa düştüğünü izliyor. Madalyonun her iki yüzü de eşittir, dolayısıyla bir tarafın veya diğerinin düşme olasılığı eşittir. Bu durum, iki olasılıkla karakterize edilen ilk belirsizliğe atfedilir. Madeni para düştükten sonra tam netlik elde edilir ve belirsizlik ortadan kalkar (sıfıra eşit olur).
Yukarıdaki örnek, evet-hayır sorusunun sorulabileceği bir grup olayı ifade eder.
Bir evet-hayır sorusuna cevap verirken elde edilebilecek bilgi miktarına bit denir (İngilizce bit - ikili rakamın kısaltması - ikili birim).
Bit, en küçük bilgi birimidir, çünkü 1 bitten daha az bilgi almak imkansızdır. 1 bitlik bilgi alırken, belirsizlik 2 kat azalır. Böylece, her yazı tura atma bize 1 bitlik bilgi verir.
Birbirinden bağımsız olarak açılıp kapatılabilen iki elektrik ampulü sistemini düşünün. Böyle bir sistem için aşağıdaki durumlar mümkündür:
Lamba A: 0 0 1 1 ;
Lamba B: 0 1 0 1 .
Elde etmek üzere full bilgi sistemin durumu hakkında, sırasıyla ampul A ve ampul B için iki evet-hayır sorusu sormanız gerekir. Bu durumda, bu sistemde yer alan bilgi miktarı zaten 2 bit olarak belirlenir ve sistemin olası durumlarının sayısı 4'tür. Üç ampul alırsanız, o zaman üç soru sormanız ve 3 bit bilgi almanız gerekir. . Böyle bir sistemin durum sayısı 8'dir ve böyle devam eder.
Bilgi miktarı ile sistem durumlarının sayısı arasındaki ilişki Hartley formülü ile kurulur.
i=günlük 2N,
i, bit cinsinden bilgi miktarıdır; N, olası durumların sayısıdır. Aynı formül farklı yazılabilir:
N=2i.
8 bitlik bir bilgi grubuna bayt denir.
En küçük bilgi birimi bit ise, temel birimi bayttır. Türetilmiş bilgi birimleri vardır: kilobayt (KB, Kb), megabayt (MB, Mb) ve gigabayt (GB, GB).
Dolayısıyla “bilgi”, “belirsizlik” ve “seçme fırsatı” kavramları arasında yakın bir ilişki vardır. Herhangi bir belirsizlik, seçim olasılığını ima eder ve belirsizliği azaltan herhangi bir bilgi, seçim olasılığını azaltır. Kısmi bilgi, seçenek sayısını azaltarak belirsizliği azaltır.
Bilgi miktarı, belirli bir sinyal biçiminde bir mesaj aldıktan sonra kaybolan belirsizlik derecesini (bilgi eksikliği) yansıtan, bir sinyalin sayısal bir özelliğidir.

Konuyla ilgili daha fazla bilgi miktarı kavramı:

1. Bilgi alanındaki ilişkilerin yasal düzenleme kavramı, bilgi türleri ve ilkeleri
2. Kitle bilgilendirme faaliyeti olarak gazetecilik. "Bilgi" ve "kitlesel bilgi" kavramları. Kitlesel bilgi faaliyetinin bir ürünü olarak kitlesel bilgi. Toplu bilgi ve sosyal bilgi.

Chetvergova Yu.N.

İş yeri, pozisyon:

MOU "Porkhov'un 1 Nolu Ortaokulu", öğretmen

Pskov bölgesi

Dersin özellikleri (sınıflar)

Eğitim seviyesi:

Orta (tam) genel eğitim

Hedef seyirci kitlesi:

öğretmen (öğretmen)

Sınıf(lar):

Öğeler):

Bilişim ve BİT

Dersin amacı:

Bilgi ve becerilerin tekrarı, pekiştirilmesi, kontrolü

ders türü:

ZUN öğrencilerinin entegre uygulaması için ders

Sınıftaki öğrenciler (izleyici):

Kullanılan metodolojik literatür:

Bilişimde Pourochnye geliştirme. Sınıf 10. O. L. Sokolova;

Kullanılmış ekipman:

Program "Hesap Makinesi"

Hesap makinesi

Ders. Bilgi miktarı. Hartley ve Shannon formülleri

ders ilerlemesi

Derste işlenen materyalin tekrarı. Toplama.(10 dakika)

Eğitim kartları. grup çalışması(20 dakika)

Problem çözme. Eşli çalışma (10 dakika)

Ölçek. (40 dakika)

Karşılıklı doğrulama Hatalar üzerinde çalışın.

Temel bilgi, beceri ve yeterlilikler

Bilgi:

Hangi olaylar eşit derecede olası, hangileri değil.

Bir olayın olasılığı nasıl bulunur;

Farklı olaylar için bir mesajdaki bilgi miktarı nasıl bulunur?

Yetenekler:

Eşit derecede olası ve eşit derecede olası olmayan olayları ayırt edin;

Farklı olaylar için bilgi miktarını bulun.

Yeterlilikleri:

İşbirliği

İletişim

Yaratıcılık ve merak

Eleştirel düşünme (değer yargısı)

Hangi olayların olasılığı eşit, hangilerinin olasılığı eşit değil?

1928'de Amerikalı mühendis R. Hartley, mesajları değerlendirmek için bilimsel bir yaklaşım önerdi. Önerdiği formül şuydu:

ben = günlük 2 K ,
K, eşlenebilir olayların sayısı olduğunda; I, K olaylarından herhangi birinin meydana geldiği mesajdaki bit sayısıdır. O zaman K=2 ben .
Bazen Hartley'in formülü şu şekilde yazılır:

ben \u003d günlük 2 K \u003d günlük 2 (1 / p) \u003d - günlük 2 p,
K olaylarının her birinin eşitlenebilir bir sonucu p = 1 / K olduğundan, o zaman K = 1 / p olur.

Top üç kutudan birinde: A, B veya C. B kutusundaki mesajın kaç bit bilgi içerdiğini belirleyin.

Çözüm.

Böyle bir mesaj I = log 2 3 = 1.585 bit bilgi içerir.

Ancak tüm durumlar aynı gerçekleşme olasılıklarına sahip değildir. Gerçekleşme olasılıklarının farklı olduğu bu tür birçok durum vardır. Örneğin, asimetrik bir madeni para atılırsa veya "sandviç kuralı".

"Bir keresinde çocukken bir sandviçi düşürmüştüm. Ağabeyim yerdeki yağ lekesini suçlu suçlulukla silerken beni rahatlattı:

Endişelenme, işe yarayan sandviç kanunu.

Bu ne tür bir yasa? Diye sordum.

"Bir sandviç her zaman tereyağlı tarafı aşağı düşer" diyen yasa. Ancak bu bir şaka, - diye devam etti kardeş, - Kanun yok. Sadece sandviç gerçekten oldukça tuhaf davranıyor: tereyağının çoğu altta.

Sandviçi birkaç kez daha bırakalım, kontrol edin, - Önerdim. - Nasılsa onu atmak zorunda kalacaksın.

Kontrol. On kere sekizde, sandviç tereyağlı tarafı aşağı düştü.

Ve sonra düşündüm: Sandviçin tereyağı aşağı veya yukarı nasıl düşeceğini önceden bilmek mümkün mü?

Deneylerimiz anne tarafından yarıda kesildi ... "
("Büyük Generallerin Sırrı" kitabından alıntı, V. Abchuk).

1948'de Amerikalı mühendis ve matematikçi K Shannon, farklı olasılıklara sahip olaylar için bilgi miktarını hesaplamak için bir formül önerdi.
Eğer ben bilgi miktarı ise,
K - olası olayların sayısı, p i - bireysel olayların olasılıkları,
o zaman farklı olasılıklara sahip olaylar için bilgi miktarı aşağıdaki formülle belirlenebilir:

ben = - Toplam p ben log 2 p ben , burada i, 1'den K'ye kadar değerler alır.

Hartley'in formülü artık şu şekilde görüntülenebilir: özel durum Shannon formülleri:

Ben \u003d - Toplam 1 / K günlük 2 (1 / K) \u003d I \u003d günlük 2 K.

Eşit derecede olası olaylar için elde edilen bilgi miktarı maksimumdur.

Bir olayın olasılığı nasıl bulunur?

Bir mesajın içerdiği bilgiler yeniyse, bir kişi için anlaşılırsa, bu onun bilgisini tamamlar, yani. bilgi belirsizliğinin azalmasına neden olur, o zaman mesaj bilgi içerir.

1 bit - mesajda yer alan ve bilgi belirsizliğini 2 kat azaltan bilgi miktarı.

Örnek

Yazı tura atarken 2 olay (durum) mümkündür - yazı tura veya tura gelir ve her iki olay da eşit derecede olasıdır (ne zaman çok sayıdaçevirme, madeni paranın tura ve yazı gelme sayısı aynıdır). Madeni para düşüşünün sonucu hakkında bir mesaj aldıktan sonra, bilgi belirsizliği 2 kat azaldı ve bu nedenle bu durumda alınan bilgi miktarı 1 bit.

Farklı olaylar için bir mesajdaki bilgi miktarı nasıl bulunur?

Eşlenebilir olaylar için bilgi miktarının hesaplanması.

Olaylar eşit derecede olasıysa, bilgi miktarı aşağıdaki formül kullanılarak hesaplanabilir:

N = 2 ben

nerede N - olası olayların sayısı,

BEN bit cinsinden bilgi miktarıdır.

Formül, 1928'de Amerikalı mühendis R. Hartley tarafından önerildi.

Görev 1.Bir kutuda 32 adet kalem vardır, tüm kalemler farklı renktedir. Rastgele kırmızı bir tane çekildi. Bundan ne kadar bilgi elde edildi?

Çözüm.

Kutudaki 32 kurşun kalemden herhangi bir renkte bir kalem çizilmesi eşlenebilir olduğundan, olası olay sayısı

32'ye eşittir.

N = 32, ben = ?

N = 2 ben , 32 = 2 5 , ben = 5 bit .

Cevap: 5 bit

Farklı olasılıklara sahip olaylar için bilgi miktarının hesaplanması.

Olası olayların farklı gerçekleşme olasılıklarına sahip olduğu birçok durum vardır. Bu tür olayların örneklerini düşünün.

1. Bir kutuda 15 adet kırmızı ve 5 adet siyah olmak üzere 20 adet kurşun kalem bulunmaktadır. Rastgele kırmızı kalem çekme olasılığı siyah kalemden daha fazladır.

2. Bir sandviç yanlışlıkla düşürülürse, yağ yukarıdayken değil, yağ aşağıdayken (ağır taraf) düşme olasılığı daha yüksektir.

3. Havuzda 8.000 havuz balığı, 2.000 mızrak ve 40.000 minnow yaşıyor. Bir balıkçı için en büyük şans, bu havuzda ikinci sırada bir minnow yakalamaktır - havuz sazanı, üçüncü sırada turna balığı.

Bir olayla ilgili bir mesajdaki bilgi miktarı, olasılığına bağlıdır. Bir olayın olasılığı ne kadar düşükse, o kadar fazla bilgi taşır.
P=K/N , burada K, olayın sonuçlarından birinin gerçekleşme vakalarının sayısıdır, N - olaylardan birinin olası sonuçlarının toplam sayısı
2 ben = log 2 (1/ p ), burada ben - bilgi miktarı, P - olay olasılığı

Görev 1 . Bir kutuda 40 adet beyaz ve 10 adet siyah olmak üzere 50 top bulunmaktadır. Rastgele bir beyaz top ve bir siyah top çekilmesiyle ilgili mesajdaki bilgi miktarını belirleyin.

Çözüm.
Beyaz top çekme olasılığı

P 1 = 40/50 = 0,8
Siyah top çekme olasılığı P 2 = 10/50 = 0,2
Beyaz top çizme hakkında bilgi miktarı ben 1 \u003d günlük 2 (1 / 0,8) \u003d günlük 2 1,25 \u003d günlük 1,25 / günlük 2 " 0.32bit
Siyah bir top çizmeye ilişkin bilgi miktarı

ben 2 \u003d günlük 2 (1 / 0,2) \u003d günlük 2 5 \u003d günlük5 / günlük2» 2.32bit

Cevap: 0.32bit, 2.32bit

Logaritma nedir?

Bir sayının tabana göre logaritması B sayının yükseltilmesi gereken üs A numarayı almak için B.

a logab = b, a > 0, b > 0, a ≠ 1

Problem analizi
Olaylardan birinin uygulanması sırasında alınan bilgi miktarını belirleyin, eğer atarlarsa
a) asimetrik dört yüzlü piramit;
b) simetrik ve düzgün dörtyüzlü piramit.

Çözüm.

A) Asimetrik bir tetrahedral piramit atacağız.
Bireysel olayların olasılığı aşağıdaki gibi olacaktır:
p1 = 1 / 2,
p2 = 1/4,
p3 = 1/8,
p4 = 1/8,
daha sonra bu olaylardan birinin uygulanmasından sonra alınan bilgi miktarı aşağıdaki formülle hesaplanır:
ben = -(1/2 günlük 2 1/2 + 1/4 günlük 2 1/4 + 1/8 günlük 2 1/8 + 1/8 günlük 2 1/8) = 1/2 + 2/4 + 3 / 8 + 3 / 8 = 14/8 = 1,75 (bit).
b) Şimdi simetrik ve düzgün bir dörtyüzlü piramit fırlatırken elde edilecek bilgi miktarını hesaplayalım:
ben = günlük 2 4 = 2 (bit).
2. Birinci olayın olasılığı 0,5, ikinci ve üçüncü olayın olasılığı 0,25'tir. Bunlardan birini uyguladıktan sonra ne kadar bilgi alacağız?
3. 32 sektörlü rulet oynarken ne kadar bilgi elde edilecek?
4. Ne kadar çeşitli sayılar 8 bit ile kodlanabilir mi?
Çözüm: I=8 bit, K=2 I =2 8 =256 farklı sayı.

Görev 2.Gölde sazan ve levrek yaşar. 1500 sazan ve 500 levrek olduğu tahmin edilmektedir.Balıkçının turp, levrek, balık tuttuğuna dair raporlarda ne kadar bilgi yer almaktadır?

Çözüm.
Gölde turpgillerden daha az tünek olduğu için havuz balığı veya levrek yakalama olayları eşit derecede olası değildir.

Havuzdaki toplam turp ve tünek sayısı 1500 + 500 = 2000'dir.
Crucian sazan yemi alma olasılığı

p1 = 1500/2000 = 0,75 levrek p 2 \u003d 500/2000 \u003d 0,25.

ben 1 = günlük 2 (1/ p ben ), ben 1 = günlük 2 (1/ p 2 ), burada P 1 ve P 2 - sırasıyla havuz balığı ve levrek yakalama olasılıkları.

I 1 = günlük 2 (1 / 0,75) » 0,43 bit, I 2 = günlük 2 (1 / 0.25) =2 bit - sırasıyla havuz balığını yakalamak ve levrek yakalamak için mesajdaki bilgi miktarı.

Bir balığı (sazan veya levrek) yakalamak için mesajdaki bilgi miktarı Shannon formülü kullanılarak hesaplanır.

ben = - p 1 günlük 2 p 1 - p 2 günlük 2 p 2

ben = - 0,75*log 2 0,75 - 0,25*log 2 0,25 = - 0,75*(log0,75/log2)-0,25*(log0,25/log2) =

0,311 + 0,5 = 0,811

Cevap:mesaj 0.811 bit bilgi içerir

Alıştırma kartları (20 dakika)

№1

1. Kutuda 32 adet renkli kalem vardı. Kutudan kırmızı kalemin çıktığı mesajı ile ne kadar bilgi aktarılıyor?

2. Arkadaşınızın 9. katta yaşadığı mesajı 4 bitlik bilgi taşımaktadır. Evde kaç kat var?

3. 16 karakterlik bir alfabenin 384 karakterinden oluşan bir mesaj kaç kilobayttan oluşur?

4. Bilgisayarla yazılmış bir kitap 250 sayfa içerir; Sayfa başına 40 satır, satır başına 60 karakter. Kitapta ne kadar bilgi var?

5. Aşağıdaki sayıları yazınız. İkili sistem hesap: 37 ve 52.

№2

2. Okul kütüphanesinde kitapların olduğu 8 raf vardır. Her rafta 4 raf vardır. Kütüphaneci Vasya'ya ihtiyacı olan kitabın üstten ikinci rafın beşinci rafında olduğunu söyledi. Kütüphaneci Vasya'ya ne kadar bilgi verdi?

4. Mesaj, bilgi belirsizliğini 2 kat azaltan ne kadar bilgi içeriyor?

5. Aşağıdaki sayıları ikili olarak yazın: 12 ve 49.

1. Belirli bir aralıkta bir tamsayı tahmin edilirken 8 bitlik bilgi alınıyordu. Bu aralık kaç sayı içerir?

2. Işık kırmızıyken bir trafik ışığına yaklaştınız. Sonra aydınlandı sarı ışık. Ne kadar bilgi aldınız?

3. Pulti kabilesinin 16 karakterlik bir alfabesi vardır. Multi kabilesi 32 karakterlik bir alfabe kullanır. Kabile liderleri mektuplaştı. Pulti kabilesinin harfi 90 karakter, Multi kabilesinin harfi ise 70 karakter içeriyordu. Harflerde yer alan bilgi miktarını karşılaştırın.

4. 8 karakterli alfabenin 384 karakterinden oluşan bir mesaj kaç kilobayttan oluşur?

5. Aşağıdaki sayıları ikili olarak yazın: 33 ve 15.

2. Mesaj 2 sayfa kaplar ve 1/16 Kb bilgi içerir. Her sayfa 256 karakter içerir. Kullanılan alfabenin bir harfi ne kadar bilgi taşır?

3. 128 karakterlik alfabedeki harflerle yazılan bir mesaj 11 karakter içerir. Ne kadar bilgi taşıyor?

4. Kutuda 64 adet renkli kalem bulunmaktadır. Kutudan yeşil kalemin çıktığı mesajında ​​ne kadar bilgi yer alıyor?

5. Aşağıdaki sayıları ikili olarak yazın: 17 ve 42.

1. 4x4 sahasındaki bir tic-tac-toe oyununda birinci oyuncunun ilk hamlesinden sonra ikinci oyuncu ne kadar bilgi alacak?

2. Piyango tamburunda 8 top vardır. İlk çekilen numara hakkında mesaj ne kadar bilgi içeriyor, örneğin 2 numara düştü?

3. "Misha, Bilişim Olimpiyatlarında 16 yerden birini aldı" mesajındaki bilgi bitlerinin sayısı?

4. Tarama grafik dosyası içerir siyah beyaz görüntü 16 dereceli gri renk 10x10 nokta boyutunda. Bu dosyanın bilgi hacmi nedir?

5. Aşağıdaki sayıları ikili olarak yazın: 28 ve 51.

1. Multi kabilesinin alfabesi 8 harften oluşur. 13 karakterlik bir mesaj ne kadar bilgi içerir?

2. Raster grafik dosyası, 100x100 piksel boyutunda siyah beyaz bir görüntü (gri tonlama olmadan) içerir. Bu dosyanın bilgi hacmi nedir?

3. Belirli bir aralıkta bir tamsayı tahmin edilirken 5 bitlik bilgi alınıyordu. Bu aralık kaç sayı içerir?

4. Bir telgraf alındı: "Araba 6 ile tanışın". Trenin 16 vagondan oluştuğu biliniyor. Ne kadar bilgi alındı?

5. Aşağıdaki sayıları ikili olarak yazın: 23 ve 38.

1. Simetrik dörtyüzlü bir piramit fırlatılıyor. Yüzlerden birine düşmesiyle ilgili görsel mesajda ne kadar bilgi alıyoruz?

2. 8 bitlik kodlamada KODLAMA kelimesini içeren metnin bilgi hacmi nedir?

3. Renk (256 renk paletiyle) bitmap grafik görüntü 10x10 nokta boyutundadır. Bu görüntü ne kadar bellek alacak?

4. Arkadaşınızın 8. katta yaşadığı mesajı 4 bitlik bilgi taşımaktadır. Evde kaç kat var?

5. Aşağıdaki sayıları ikili olarak yazın: 19 ve 46.

1. 32 kartlık bir desteden bir kart seçeneği vardır. Belirli bir kartın seçimi hakkında görsel mesajda ne kadar bilgi alıyoruz?

2. Ne kadar bilgi gerekli? ikili kodlama 256 karakterlik bir dizideki her karakter?

3. Metin bilgisayar belleğinde 0,5 Kbyte yer kaplar. Bu metin kaç karakter içeriyor?

4. Pulti kabilesinin alfabesi 128 harften oluşur. Bu alfabenin bir harfi ne kadar bilgi taşır?

5. Aşağıdaki sayıları ikili olarak yazın: 11 ve 35.

1. Okulda bir öğrenciye “arkadaşınız evde mi?” diye soruldu. "Hayır," diye yanıtladı. Cevap ne kadar bilgi içeriyor?

2. Mesaj 25 satırlık 3 sayfadır. Her satır 60 karakter içerir. İletinin tamamı 1125 bayt içeriyorsa, kullanılan alfabede kaç karakter vardır?

3. Kutuda 16 adet renkli top vardır. Sarı topun kutudan çıkarıldığı mesajında ​​ne kadar bilgi var?

4. Belirli bir aralıkta bir tamsayı tahmin edilirken 5 bitlik bilgi alınıyordu. Bu aralık kaç sayı içerir?

5. Aşağıdaki sayıları ikili olarak yazın: 13 ve 41.

1. “Vanya Bilişim Olimpiyatında 8 sıradan birini aldı” mesajındaki bilgi bitlerinin sayısı nedir?

2. Bilgisayarla yazılmış bir kitap 150 sayfa içerir; Sayfa başına 40 satır, satır başına 60 karakter. Kitapta ne kadar bilgi var? KB'de tanımlayın.

3. 1 ile N arasında bir tamsayı tahmin edilirken 8 bit bilgi alındı. N neye eşittir?

4. 32 karakterlik alfabedeki harflerle yazılan bir mesaj 30 karakter içerir. Ne kadar bilgi taşıyor?

5. Aşağıdaki sayıları ikili olarak yazın: 16 ve 39.

1. Multi kabilesinin alfabesi 16 harften oluşmaktadır. Bu alfabenin bir harfi ne kadar bilgi taşır?

2. Arkadaşınızın 8. katta yaşadığı mesajı 5 bitlik bilgi taşımaktadır. Evde kaç kat var?

3. Tamamen yerleştirilmiş maksimum kitap sayısını (her biri 200 sayfa uzunluğunda, sayfada 60 satır, satırda 80 karakter) bulun. lazer disk 600 MB kapasiteli.

4. 64 sayıdan birini tahmin etmek için ne kadar bilgiye ihtiyaç var?

5. Aşağıdaki sayıları ikili olarak yazın: 14 ve 53.

1. Bir telgraf alındı: "Araba 4 ile tanışın". Trenin 8 vagondan oluştuğu biliniyor. Ne kadar bilgi alındı?

2. 2048 karakter içeren bir mesajın hacmi MB'nin 1/512'si kadardı. Mesajın yazıldığı alfabenin boyutu (alfabede kaç karakter var?) nedir?

3. “Bir sonraki durakta iniyor musunuz?” otobüsteki adama sordu. "Evet," diye yanıtladı. Cevap ne kadar bilgi içeriyor?

4. 16 karakterlik alfabedeki harflerle yazılan bir mesaj 25 karakter içerir. Cevap ne kadar bilgi içeriyor?

5. Aşağıdaki sayıları ikili olarak yazın: 26 ve 47.

1. 12288 bit içeren bir mesaj kaç kilobayttır?

2. Mesaj, bilgi belirsizliğini 4 kat azaltan ne kadar bilgi içeriyor?

3. Hacmi MB'nin 1/16'sı ise, 16 karakterlik bir alfabe kullanılarak yazılan bir mesaj kaç karakter içerir?

4. Yüzmek için 8 kulvarı olan havuza bir grup okul çocuğu geldi. Antrenör grubun 4 numaralı kulvarda yüzeceğini söyledi. Öğrenciler bu mesajdan ne kadar bilgi aldılar?

5. Aşağıdaki sayıları ikili olarak yazın: 18 ve 25.

1. Sarı ışık açıkken bir trafik ışığına yaklaştınız. Ondan sonra yeşile döndü. Ne kadar bilgi aldınız?

2. Metni yazmak için 256 karakterlik bir alfabe kullanılmıştır. Her sayfa, her satırda 60 karakterden oluşan 30 satır içerir. 6 sayfalık metin ne kadar bilgi içeriyor?

3. Piyango tamburunda 64 top vardır. Mesaj çekilen ilk numara hakkında ne kadar bilgi içeriyor (örneğin, 32 rakamı düştü)?

4. Belirli bir aralıkta bir tamsayı tahmin edilirken 7 bitlik bilgi alınıyordu. Bu aralık kaç sayı içerir?

5. Aşağıdaki sayıları ikili olarak yazın: 27 ve 56.

1. Petya'nın ilk girişte yaşadığı mesaj 2 bit bilgi taşır. Evde kaç sundurma var?

2. 128 karakterlik alfabedeki harflerle yazılan bir mesaj 40 karakter içerir. Ne kadar bilgi taşıyor?

3. 1,5 KB'lik bir bilgi mesajı 3072 karakter içerir. Bu mesajın yazıldığı alfabede kaç karakter var?

4. 16 karakterlik bir alfabenin 284 karakterinden oluşan bir mesaj kaç kilobayttan oluşur?

5. Aşağıdaki sayıları ikili olarak yazın: 10 ve 29.

1. 4x4'lük bir sahada tic-tac-toe oyununda birinci oyuncunun ilk hamlesinden sonra ikinci oyuncu ne kadar bilgi alacak?

2. 1 MB'de kaç bayt bilgi bulunur?

3. Bunlardan birinin uygulanmasından sonra 7 bite eşit miktarda bilgi alırsak, olası olayların sayısı neydi?

4. Mesajı yazmak için 64 karakterlik alfabe kullanıldı. Her sayfada 30 satır bulunmaktadır. Mesajın tamamı 8775 bayt bilgi içerir ve 6 sayfa kaplar. Satır başına kaç karakter var?

5. Aşağıdaki sayıları ikili olarak yazın: 22 ve 59.

1. 128 karakterlik alfabedeki harflerle yazılan bir mesaj 40 karakter içerir. Ne kadar bilgi taşıyor?

2. İlk oyuncu 1 ile 64 arasında bir sayı tahmin ederse, ikinci oyuncu doğru stratejiyle "Sayıyı tahmin et" oyununda ne kadar bilgi alacak?

3. Metni yazmak için 256 karakterlik bir alfabe kullanılmıştır. Her sayfa, her satırı 70 karakterden oluşan 30 satır içerir. 3 sayfa metin ne kadar bilgi içeriyor?

4. Metin bilgisayar belleğinde 0,25 KB yer kaplar. Bu metin kaç karakter içeriyor?

5. Aşağıdaki sayıları ikili olarak yazın: 32 ve 51.

1. 1 KB'de kaç bit bilgi bulunur?

2. Birinci kabilenin 16 karakterlik bir alfabesi vardır. İkinci kabile 32 karakterlik bir alfabe kullanır. Kabile liderleri mektuplaştı. Birinci kabileden gelen mektup 90 karakter, ikinci kabileden gelen mektup ise 80 karakter içeriyordu. Harflerde yer alan bilgi miktarını karşılaştırın.

3. 32 sektörlü rulet oynarken ne kadar bilgi elde edilecek?

4. Bilgi 2,5 Kb / s hızında iletilir. 20 dakikada ne kadar bilgi aktarılacak?

5. Aşağıdaki sayıları ikili olarak yazın: 21 ve 48.

Seçtiğiniz problemleri çözme (20 dakika)

№1

Mesaj, 8 karakter içeren bir alfabe kullanılarak yazılır. Bu alfabenin bir harfi ne kadar bilgi taşır? Çözüm: ben = günlük 2 8 = 3 bit.

Cevap: 3 bit.

№2

Bazı mesajların bir karakterinin bilgi hacmi 6 bite eşittir. Bu mesajın yazıldığı/oluşturulduğu alfabede kaç karakter var? Çözüm: N=2 ben = 2 6 = 64 karakter.

Cevap: 64 karakter.

№3

Bazı mesajların bir karakterinin bilgi hacmi şuna eşittir: 5 bit. Bu mesajı oluşturan alfabenin gücünün sınırları (maksimum ve minimum değer) nedir?

Çözüm: N = 2 ben = 2 5 = 32 — maksimum değer alfabe güçleri. En az bir karakter daha varsa, kodlama için 6 bit gerekecektir.

Minimum değer 17 karakterdir, çünkü daha az karakter için 4 bit yeterli olacaktır. Cevap: 4 bit.

№4

30 karakter içeren 128 karakterlik bir alfabeden harflerle yazılmış bir mesaj. Ne kadar bilgi taşıyor?

verilen: N = 128, K = 30.

Bulmak: 1 t - ?

Çözüm:

1) Ben t \u003d KI, bilinmeyen ben;

2) ben = günlük 2 N = günlük 2 l 28 \u003d 7 bit - bir karakterin hacmi;

3) ben m = 30 * 7 = 210 bit - tüm mesajın hacmi.

Cevap:210 bit, toplam mesaj boyutudur.

№5

32 karakterlik alfabe kullanılarak oluşturulmuş bir mesaj 80 karakter içerir. Başka bir mesaj 64 karakterlik alfabe kullanılarak yazılır ve 70 karakter içerir. Mesajlarda bulunan bilgi miktarlarını karşılaştırın.

verilen: N 1 \u003d 32, K 1 \u003d 80, N 2 \u003d 64, K 2 \u003d 70.

Bulmak: ben t1 ben t2

Çözüm:

ben ) ben 1 = günlük 2 Nl = günlük 2 32 = 5 bit - ilk mesajın bir karakterinin hacmi;

1. Bilgi. Bilgi nesneleri Çeşitli türler. Ana bilgi süreçleri: bilgilerin depolanması, iletilmesi ve işlenmesi. Bilginin insan yaşamındaki rolü.
2. Sinyallerin canlı organizmalar tarafından algılanması, ezberlenmesi ve dönüştürülmesi.
3. Bilgi miktarı kavramı: Farklı yaklaşımlar. Bilgi miktarını ölçmek için birimler.
4. Konuyla ilgili genelleme dersi, bağımsız çalışma.

Ders.

• eğitici- bilgi miktarı kavramını vermek, bilgi miktarını belirlemede olasılıksal ve alfabetik yaklaşımı tanıtmak, bilgi ölçü birimlerini tanıtmak, bilgi miktarını belirlemede pratik beceriler oluşturmak.
• gelişen- bilimsel bir dünya görüşü oluşturmaya devam edin, "Bilgi" konusundaki kelime dağarcığını genişletin
• eğitici- konuya ilgi oluşturmak, eğitim çalışmalarındaki zorlukların üstesinden gelmek için azim geliştirmek.

1. Organizasyon aşaması (selamlama, derse gelmeyenlerin belirlenmesi)

2. Ödevi kontrol etme, bilgiyi etkinleştirme

önceki 2 derste alınan "Bilgi" konulu. Konuşma oluşturmak için, bu konudaki temel kavramları pekiştirmek, kontrol etmek Ev ödevi Aşağıdaki sorular üzerinde bir ön sözlü anket şeklinde yürütülmüştür:

1. Bilgiden ne anlıyorsunuz? Örnekler ver. Önerilen cevaplar: öğrenciler genellikle çevrelerindeki dünyadan aldıkları bilgilere kolayca örnekler verirler - haberler, okul zili, sınıfta yeni bilgiler, popüler bilim literatürünü okuyarak elde edilen bilgiler, kurgu okumaktan elde edilen deneyim ve duygular, duygusal deneyimler , müzik dinlemekten, estetik kanonlardan, 18. yüzyılın kostümü ve yaşamı hakkında bilgilerden, 18. yüzyıl sanatçılarının tablolarına bakarken alınan duygulardan elde edilen. Öğrencilerin hem teknik hem de biyolojik sistemler vb. bilgilere örnekler vermesi istenir (anahtarın şekli kilit hakkında bilgi içerir, odadaki belirli bir hava sıcaklığı - yangın söndürme sistemi için bilgi, biyolojik bir hücre içerir) parçası olduğu biyolojik nesne hakkında bilgi…)
2. Dünyanın diğer iki önemli varlığının, madde ve enerjinin, Dünya'daki canlı organizmalardan önce var olduğunu biliyoruz. Bilgi ve bilgi süreçleri insanın ortaya çıkışından önce var mıydı? Önerilen cevap evet, vardı. Örneğin, bir bitki hücresinde bitkinin türü, çimlenme, üreme vb. koşulları hakkında yer alan bilgiler, bitkinin insan müdahalesi olmadan büyümesini ve çoğalmasını sağlar; Nesiller boyu yırtıcı hayvanlar tarafından biriktirilen bilgiler, sonraki yırtıcı nesillerin davranışlarının koşullu ve koşulsuz reflekslerini oluşturur.
3. Madde her şeyin yapıldığı şeydir, enerji ise her şeyi hareket ettiren şeydir. Bilginin dünyayı kontrol ettiği doğru mu? Cevabınızı gerekçelendirin. Cevap: Bilgi gerçekten dünyayı yönetir. Dünyadan uyduya gelen sinyal, yörüngesinin değişmesine neden olur; yolda bir su birikintisi görürsek, görünüşü, ıslak ve kirli olduğu bilgisi, su birikintisini atlamaya karar vermemizi sağlar. Bir kişinin karakteristik bir hareketi (dikey bir avuç içi ile öne doğru uzatılmış bir el) bizi durdurur, anahtarın sakalı ve kilit yuvasının şekli hakkında bilgi, bir demet arasından bir anahtar seçmeye karar vermemizi sağlar, oluşan refleksler belirli bir kuş türünün nesiller boyu göç süreçlerini kontrol eder. Kurmaca okuduğumuz zaman, kendi hayatımızdaki belirli kararları etkileyen karakterlerin hayat deneyimlerini özümseriz; belirli müzikleri dinleyerek davranışlarımızı, çevremizi vb. etkileyen uygun tadı oluştururuz.
4. Sunuş biçimlerine göre bilgi türlerini adlandırır, örnekler verir. Cevap: sayısal (malın fiyatı, takvimdeki rakamlar), metinsel (herhangi bir dilde yazılmış bir kitap, ders kitabı metni), grafik (resim, fotoğraf, DUR işareti), ses (müzik, konuşma), video (animasyon + ses) , komut (bilgisayarı yeniden başlatın - Ctrl + Alt + Sil / Enter tuşlarına basarak).
5. Bilgilerle hangi işlemler yapılabilir? Cevap: işlenebilir, iletilebilir, saklanabilir ve kodlanabilir (temsil edilebilir).
6. İnsanların bilgiyi algılama biçimlerini listeleyin. Cevap: Bir kişi bilgiyi 5 duyu kullanarak algılar - görme (görsel görüntüler şeklinde), işitme (sesler - konuşma, müzik, gürültü ...), koku (burun reseptörlerinin yardımıyla koku), tat (dil reseptörleri ayırt eder) ekşi, acı, tuzlu, soğuk arasında), dokunma (nesnelerin sıcaklığı, yüzey tipi…)
7. İşaret sistemlerine örnekler veriniz. Cevap: doğal dil, biçimsel dil (ondalık sayı sistemi, notlar, yol işaretleri, Mors alfabesi), genetik alfabe, ikili işaret sistemi.
8. Bir bilgisayar bilgiyi kodlamak için neden bir ikili karakter sistemi kullanır? Cevap: Bilgisayarda ikili işaret sistemi kullanılmaktadır, çünkü mevcut teknik cihazlar yalnızca iki farklı durumu (işareti) güvenilir bir şekilde saklayabilir ve tanıyabilir.

3. Bilgi miktarını ölçmek için olasılıksal yaklaşım (multimedya sunumuna bakın).

Bugün bilgiyi ölçmekten, yani miktarını belirlemekten bahsedeceğiz. (Öğrenciler dersin konusunu bir deftere yazarlar - "Bilgi miktarı"). Sizce hangi kitap var büyük miktar bilgi (ince ve kalın göster)? Kural olarak, öğrenciler daha fazla kelime, metin, harf içerdiğinden kalın bir tane seçerler (bazıları kitapta ne tür bilgilerin bulunduğunu sorar - grafik mi yoksa metin mi? Kitabın yalnızca metin bilgisi içerdiği açıklığa kavuşturulmalıdır). Hangi mesaj sizin için daha fazla bilgi içeriyor: “yarın her zamanki programa göre çalışacağız” veya “yarın edebiyat yerine kimya olacak”? Öğrenciler sezgisel olarak, ikinci mesajın, neredeyse aynı sayıda kelime olmasına rağmen, ikinci mesajın onlar için daha önemli, yeni veya ilgili bilgiler içermesi olduğunu söyleyecektir. Ve ilk mesaj hiç yeni bilgi taşımıyor. Bilgiye içerdiği karakter sayısı ve sizin için anlamsal önemi açısından baktığınızı fark ettiniz mi? Bilgi miktarını belirlemeye yönelik 2 yaklaşım vardır - anlamsal ve teknik (alfabetik). Semantik, bir kişi tarafından kullanılan bilgileri ölçmek için kullanılır ve teknik (veya alfabetik) bir bilgisayar tarafından kullanılır.

Bir kişi için yeni bilgi edinmek, bilginin artmasına veya belirsizliğin azalmasına yol açar. Örneğin, yarının Çarşamba olduğunu bildirmek belirsizliği azaltmaz, dolayısıyla bilgi içermez. Diyelim ki düz bir yüzeye attığımız bir madeni paramız var. Kura atmadan önce iki şeyden birinin olabileceğini biliyoruz - madeni para iki konumdan birinde son bulur: yazı veya tura. Atıştan sonra, tam bir kesinlik devreye girer (neyin düştüğü hakkında görsel olarak bilgi alırız, örneğin "kartal"). “Kartalın” düştüğü bilgi mesajı, ikisinden biri olduğu için belirsizliğimizi 2 kat azaltır. bilgi mesajları.

Gerçekte, eşit derecede olası 2'den fazla olayın meydana gelebileceği oldukça sık durumlar vardır. Yani, altı taraflı bir zar atarken - 6 eşit olası olay. Küpün yüzlerinden birinin düşürülmesi belirsizliği 6 kat azaltır. İlk olay sayısı ne kadar büyükse, bilgimizin belirsizliği o kadar büyük olur, bilgi mesajı alırken o kadar fazla bilgi alırız.

Bilgi miktarı, bilgi mesajları alınırken bilginin belirsizliğini azaltmanın bir ölçüsü olarak düşünülebilir.(Öğrenciler defterlerine italik olarak yazarlar.)

Olası bilgi mesajlarının sayısı N ile alınan mesajın taşıdığı bilgi miktarı I arasında ilişki kuran bir formül vardır:

N=2BEN (N, olası bilgi mesajlarının sayısıdır,I, alınan mesajın taşıdığı bilgi miktarıdır).

Herhangi bir niceliğin nicel ifadesi için ölçü biriminin belirlenmesi gerekir. Örneğin, uzunluğu ölçmek için belirli bir standart metre ve kütleyi ölçmek için bir kilogram seçilir.

4. Bilgi ölçü birimleri

Arka bilgi miktarının ölçü birimi mesajın içerdiği bilgi miktarı alınır, bu da bilginin belirsizliğini 2 kat azaltır. Böyle bir birim denir biraz.

Yazı tura atarken "kartalın" düştüğüne dair bilgi mesajının yukarıda ele alınan makbuzuna dönelim. Burada belirsizlik 2 kat azalmıştır, dolayısıyla bu mesaj 1 bite eşittir. Zarın belirli bir yüzünün düştüğü mesajı belirsizliği 6 kat azaltır, dolayısıyla bu mesaj 6 bite eşittir.

Bilgi miktarını ölçmek için en küçük birim bit'tir ve sonraki en büyük birim bayttır ve

1 bayt = 8 bit

İÇİNDE uluslararası sistem SI, "Kilo" (10 3), "Mega" (10 6), "Giga" (10 9) ondalık önekleri kullanır ... Bir bilgisayarda, bilgi bir ikili işaret sistemi kullanılarak kodlanır, bu nedenle birden fazla birim halinde bilgi miktarını ölçmek için 2 n'lik bir faktör kullanılır.

1 kilobayt (KB) = 2 10 bayt = 1024 bayt
1 megabayt (MB) = 2 10 KB = 1024 KB
1 gigabayt (GB) = 2 10 MB = 1024 MB
1 terabayt (TB) = 2 10 GB = 1024 GB

Bir terabayt çok büyük bir bilgi birimidir, bu nedenle nadiren kullanılır. İnsanlığın biriktirdiği tüm bilgilerin onlarca terabayt olduğu tahmin ediliyor.

5. Bilgi miktarının belirlenmesi

Görev 1. Çekilmiş bir biletin sayısıyla ilgili görsel mesaj 5 bitlik bilgi içeriyorsa, sınav biletlerinin sayısını belirleyin. Bilet sayısı, bilgi mesajlarının sayısıdır. N=2 ben = 2 5 = 32 bilet.

Görev 2. Değerlendirme hakkında mesaj ne kadar bilgi veriyor? Ölçek? Test için 2, 3, 4 veya 5 alabilirsiniz.Toplamda 4 mesaj var (N=4). Formül bir denklem şeklini alır - 4=2 I = 2 2 , ben=2.

için görevler kendini gerçekleştirme: (Formül her zaman gözünüzün önünde olmalı, üsleri 2 olan bir tablo da asabilirsiniz) (3 dk.)

1. Yüzlerden birine simetrik bir oktahedral piramidin düşüşü hakkında görsel mesajda ne kadar bilgi alıyoruz? Cevap: 3 bit, çünkü olası olayların (mesajların) sayısı N=8, 8=2 I = 2 3 , ben=3.
2. Numaralı toplar opak bir torbadan çıkarılıyor ve topun numarası ile ilgili bilgi mesajının 5 bitlik bilgi taşıdığı biliniyor. Torbadaki bilye sayısını belirleyiniz. Cevap: N=2 I = 2 5 = 32 olduğuna göre torbada 32 top vardır.
3. 4 X 4 hücre alanında tic-tac-toe oynarken, ikinci oyuncunun birinci oyuncunun ilk hamlesinden sonra ne kadar bilgi alacağı. Cevap: Oyun başlamadan önceki olay sayısı N=16, 16=2 I = 2 4 , ben=4. İlk oyuncunun ilk hamlesinden sonraki ikinci oyuncu 4 bitlik bilgi alacaktır.

6. Bilgi miktarını belirlemede alfabetik yaklaşım

Bilgiyi ölçmek için teknik veya alfabetik yaklaşımın özü, onu temsil etmek için kullanılan bazı alfabelerin karakter sayısına göre belirlenir. Örneğin, XVIII sayısını temsil ederken Latin alfabesinin 5 karakteri kullanılıyorsa, bu bilgi miktarıdır. Aynı sayı yani aynı bilgi yazılabilir. ondalık sistem(18). Gördüğünüz gibi 2 karakter çıkıyor, yani bilgi miktarı için başka bir değer. Aynı bilgiyi ölçerken aynı bilgi miktarını elde etmek için belirli bir alfabenin kullanılması konusunda anlaşmak gerekir. Beri teknik sistemlerİkili alfabe kullanıldığı için bilgi miktarını ölçmek için de kullanılır. Alfabedeki karakter sayısı N=2, N=2 I , I - bir karakterin taşıdığı bilgi miktarı. 2 2 = 2 1 , I=1 bit. İlginç bir şekilde, "bit" (bit) bilgi miktarının ölçü birimi, adını İngilizce ifadeden almıştır " Bİ nary digi T" - "ikili rakam".

Alfabedeki karakter sayısı ne kadar fazlaysa, alfabenin 1 karakteri o kadar fazla bilgi taşır.

Rus alfabesinin 1 harfinin taşıdığı bilgi miktarını kendiniz belirleyin.

Cevap: Rus alfabesinin bir harfi 5 bitlik bilgi taşır (ölçüm bilgilerine alfabetik bir yaklaşımla).

8 bitlik bir sembolde ne kadar bilgi bulunur? ikili kod(karakter A - 11000000)? Cevap: 8 bit veya 1 bayt.

Pratik iş(bildiri - talimat kartı yürütme için pratik iş) bir hesap makinesi kullanarak bilgi miktarını belirleyerek:

1. Aşağıdaki mesajın bilgi hacmini bayt cinsinden belirleyin (mesaj bir karta yazdırılır, kartlar her masada):

Bir işaretin taşıdığı bilgi miktarı, onu alma olasılığına bağlıdır. Rusça yazılı konuşmada, metinde harflerin kullanım sıklığı farklıdır, bu nedenle anlamlı bir metnin 1000 karakterinde ortalama olarak 200 "a" harfi vardır ve "f" harflerinin sayısı yüz kat daha azdır (sadece 2 ). Bu nedenle, bilgi teorisi açısından, bilgi kapasitesi Rus alfabesinin işaretleri farklıdır ("a" harfi için en küçüğü ve "f" harfi için en büyüğüdür).

Karakter sayısını belirleyin (satır başına karakter sayısı * satır sayısı) - 460 karakter = 460 bayt

Not Defteri'ni kullanarak bu metni masaüstünüze girin ve kaydedin. Bir bilgisayar kullanarak bu dosyanın bilgi hacmini belirleyin (Özellikler'de APCM nesnesini seçin) Yanıt: 460 bayt.

Bu metin şu şekilde yazılabilir: ses dosyası 1.wav ve metinle karşılaştırın (Programları, aksesuarları, eğlenceyi ve ses kaydını başlatın…). Bir bilgisayar kullanarak bilgi hacmini belirleyin - 5.28 MB (5.537.254 bayt). Öğrencilere bu farklılığın sesin sunumundaki farklılıktan kaynaklandığını açıklayın ve metin bilgisi. Bu tür temsilin özellikleri daha sonra ele alınacaktır.

2. Bilgi hacmi 700 MB olan bir diske kaç tane ders kitabı sığacağını belirleyin. Cevap: 1. ders kitabındaki karakter sayısını belirleyin (satır başına karakter sayısı * sayfa başına satır sayısı * sayfa sayısı) 60 * 30 * 203 = 365400 karakter = 365400 bayt = 365400/1024/1024 Mb = 0,35 Mb . Ders kitabı sayısı K=700/0.35=2000 ders kitabı.

7. Önden anket şeklinde dersi özetlemek:

1. Bilgi miktarını belirlemeye yönelik yaklaşımlar nelerdir? Cevap: Bilgi miktarını ölçmek için 2 yaklaşım vardır - anlamsal ve teknik veya alfabetik.
2. Bir yaklaşımla diğeri arasındaki fark nedir? Cevap: anlamsal bir yaklaşımla bilgi miktarı, bir bilgi mesajı alındığında bilginin belirsizliğini azaltmanın bir ölçüsüdür, alfabetik bir yaklaşımla, mesajdaki karakter sayısı * mesajın 1 karakterinin sahip olduğu bilgi miktarıdır. alfabe taşır.
3. Bilgi ölçü birimlerini küçükten büyüğe sıralayın. Cevap: bit, bayt, KB, MB, GB, TB.
4. Bir baytın KB'den, KB'nin MB'den, MB'nin GB'den farkı nedir? Cevap: 1024 (2 10).
5. 1 baytta kaç bit var? Cevap: 8.
6. Bilgi miktarını belirlemeye anlamsal ve alfabetik yaklaşımda biraz nedir? Cevap: anlamsal bir yaklaşımla, bit, bir bilgi mesajı alındığında bilginin belirsizliğinde 2 kat azalmadır; alfabetik yaklaşımda bit, ikili kodlamada bir karakterin bilgi kapasitesidir.

8. Ödev

1. Paragraf 1.3.1 ve 1.1.3 (N. Ugrinovich "Bilişim. Temel kurs. 8. Sınıf") 29. sayfada 2 soru (1. Bilgi belirsizliğini azaltan bilgi mesajlarına örnekler verin. 2. Örnekler verin 1 bit bilgi taşıyan bilgi mesajları).
2. Görevler: 1. Kontrol çalışması için işaretle ilgili mesaj ne kadar bilgi içeriyor? 2. 1 Kb, 1 Mb'de bit cinsinden ne kadar bilgi bulunduğunu hesaplayın? 3. 1,44 MB'lik bir diskete kaç kitap sığacağını hesaplayın (evinize herhangi bir kurgu kitabı alın).