İletişim kanalının verimi. Bilgi iletim sistemlerinin verimi

Herhangi bir iletişim sisteminde bilgi bir kanal aracılığıyla iletilir. Bilgi aktarım hızı § 2.9'da tanımlanmıştır. Bu hız sadece kanalın kendisine değil aynı zamanda girişine uygulanan sinyalin özelliklerine de bağlıdır ve bu nedenle kanalı bir bilgi aktarım aracı olarak nitelendiremez. Kanalın bilgi aktarma yeteneğini değerlendirmenin bir yolunu bulmaya çalışalım. Öncelikle alfabedeki simgelerin birim zamanda iletildiği ayrı bir kanalı ele alalım: Her bir simgenin iletimi sırasında, ortalama bilgi miktarı kanaldan geçer (bkz. Şekil 1). (2.135) ve (2.140)]:

Nerede rastgele karakterler Kanalın girişinde ve çıkışında. Burada görünen dört entropiden iletilen sembolün doğal bilgisi, ayrık sinyalin kaynağı tarafından belirlenir ve kanalın özelliklerine bağlı değildir. Geriye kalan üç entropi genellikle hem sinyal kaynağına hem de kanala bağlıdır.

Farklı olasılık dağılımlarıyla karakterize edilen farklı kaynaklardan gelen sembollerin kanal girişine beslenebileceğini (ancak elbette aynı değerler için) hayal edelim. Bu tür her kaynak için kanal üzerinden iletilen bilgi miktarı kendi değerini alır. Her türden alınan, iletilen maksimum miktarda bilgi

kaynaklar Giriş sinyali, kanalın kendisini karakterize eder ve kanal kapasitesi olarak adlandırılır. karakter başına

burada maksimizasyon tüm çok değişkenli olasılık dağılımları üzerinden gerçekleştirilir.Ayrıca C kanalının birim zaman başına (saniye) verimini de belirleyebilirsiniz:

Son eşitlik entropinin toplanabilirliğinden kaynaklanır. Gelecekte, özellikle belirtilmediği sürece, saniye başına verimi, verim olarak anlayacağız.

Örnek olarak, geçiş olasılıklarının formül (3.36) ile verildiği simetrik hafızasız bir kanalın kapasitesini hesaplıyoruz. (3.52) ve (3.53)’e göre

Değer bu durum koşullu geçiş olasılığı yalnızca iki değer aldığından hesaplanması kolaydır: bu değerlerden ilki olasılıkla ve ikincisi olasılıkla gerçekleşirse Ayrıca, hafızasız bir kanal dikkate alındığından, bireysel sembollerin alınmasının sonuçları her birinden bağımsızdır. diğer. Bu yüzden

Dolayısıyla B olasılık dağılımına bağlı değildir, yalnızca kanalın geçiş olasılıkları tarafından belirlenir. Bu özellik, ilave gürültülü tüm kanal modelleri için korunur.

(3.56)'yı (3.55)'e koyarsak, şunu elde ederiz:

Sağ tarafta sadece terim olasılık dağılımına bağlı olduğundan, onu maksimize etmek gerekir. Maksimum değer(2.123)'e göre eşittir ve alınan tüm simgelerin eşit olasılığa sahip ve birbirinden bağımsız olması durumunda gerçekleşir. Giriş sembolleri eşit derecede olası ve bağımsız ise bu koşulun karşılandığını doğrulamak kolaydır, çünkü

Aynı zamanda ve

Dolayısıyla saniyedeki verim

İkili simetrik bir kanal için saniyedeki ikili birim cinsinden verim

(3.59)'a göre bağımlılık Şekil 2'de gösterilmektedir. 3.9.

Bir ikili kanalın kapasitesi ne zaman, çünkü böyle bir hata olasılığıyla, kanal üzerinden sinyal iletmeden, ancak bunları rastgele seçerek (örneğin, bir atmanın sonuçlarına göre) bir dizi çıkış ikili sembolü elde edilebilir. madeni para), yani kanalın çıkışındaki ve girişindeki diziler bağımsız olduğunda. Bu duruma kanal kopması denir. İkili kanaldaki at çıkışının for (gürültüsüz bir kanal) ile aynı olması, for at tüm çıkış sembollerini ters çevirmenin yeterli olduğu gerçeğiyle açıklanır (yani 0'ı 1 ile ve 1'i 0 ile değiştirin) Giriş sinyalini doğru şekilde geri yüklemek için.

Pirinç. 3.9. Belleksiz ikili simetrik bir kanalın veriminin, bir sembolün hatalı alınma olasılığına bağlılığı

Bant genişliği sürekli kanal da benzer şekilde hesaplanır. Örneğin kanalın sınırlı bir bant genişliği olsun, kanalın giriş ve çıkışındaki sinyaller Kotelnikov teoremine göre aralıklarla alınan örnekleriyle belirlenir ve dolayısıyla kanaldan bir süre geçen bilgiler bu tür her numune için iletilen bilgi miktarlarının toplamına eşittir. Böyle bir numune başına kanal kapasitesi

Burada rastgele değişkenler, kanalın giriş ve çıkışındaki süreçlerin kesitleridir ve izin verilen tüm giriş sinyallerinden, yani tüm dağıtımlardan maksimum alınır.

Verim C, saniye başına tüm numuneler üzerinden alınan Сots değerlerinin toplamı olarak tanımlanır. Bu durumda elbette (3.60)'daki diferansiyel entropilerin, okumalar arasındaki olasılıksal ilişkiler dikkate alınarak hesaplanması gerekir.

Örneğin, ortalama sinyal gücü (dağılım belirli bir değeri aşmıyorsa) bant genişliğinde bir bant genişliğine sahip toplam beyaz Gauss gürültüsü ile hafızasız sürekli bir kanalın kapasitesini hesaplayalım. Banttaki gürültünün gücü (varyansı) ile gösterilir Giriş ve çıkış sinyallerinin örnekleri ve ayrıca gürültü eşitlikle ilişkilidir

ve sıfır matematiksel beklentiyle normal bir dağılıma sahip olduğundan, sabitteki koşullu olasılık yoğunluğu da normal olacaktır - matematiksel beklenti ve varyansla Örnek başına verimi bulalım:

(2.152)'ye göre, normal dağılımın diferansiyel entropisi matematiksel beklentiye bağlı değildir ve eşittir. Bu nedenle, bağımsız rastgele olduğu göz önüne alındığında, (3.61)'den maksimuma çıkan böyle bir dağılım yoğunluğunu bulmak gerekir. elimizdeki değişkenler

Böylece varyans verildiği gibi sabitlenir. (2.153)'e göre sabit varyansla maksimum diferansiyel entropi şu şekilde sağlanır: normal dağılım. (3.61)'den normal tek boyutlu dağılımla dağılımın da normal olacağı görülebilir ve dolayısıyla,

Saniye başına C verimine dönersek, birkaç örnek üzerinden iletilen bilginin, sinyal örnekleri bağımsız olduğunda maksimum olduğunu görüyoruz. Bu, sinyalin banttaki spektral yoğunluğu tekdüze olacak şekilde seçilmesi durumunda elde edilebilir Aralıklarla ayrılmış numunelerde gösterildiği gibi, katlar karşılıklı olarak korelasyonsuzdur ve Gauss değerleri için korelasyonsuz, bağımsız anlamına gelir.

Bu nedenle, bant genişliği C (saniye başına), bağımsız örnekler için bant genişlikleri (3,63) eklenerek bulunabilir:

Düzgün bir Gauss sürecinin olması durumunda gerçekleştirilir. spektral yoğunluk frekans bandında (yarı beyaz gürültü).

Formül (3.64)'ten, sinyal gücü sınırlı olmasaydı bant genişliğinin sonsuz olacağı görülebilir. Kanaldaki sinyal-gürültü oranı sıfırsa bant genişliği sıfırdır. Bu orandaki bir artışla, logaritmik bağımlılık nedeniyle verim süresiz olarak ancak yavaş yavaş artar.

İlişki (3.64) genellikle Shannon formülü olarak adlandırılır. Bu formül bilgi teorisinde önemlidir, çünkü dikkate alınan sürekli kanalın kapasitesinin böyle bir şeye bağımlılığını belirler. özellikler bant genişliği ve sinyal-gürültü oranı olarak. Shannon'ın formülü, bant genişliğini sinyal gücüyle değiştirme veya bunun tersi olasılığını gösterir. Bununla birlikte, C doğrusal olarak ve logaritmik bir yasaya göre bağlı olduğundan, bant genişliğindeki olası bir azalmanın sinyal gücünü artırarak telafi edilmesi genellikle tavsiye edilmez. Bant genişliği için sinyal gücünün ters değişimi daha verimlidir.

5.1. Ayrık bir iletişim sisteminde bilgi aktarım hızı

Ayrık bir iletişim sisteminde, parazit olmadığında, iletişim kanalının (PI kanalı) çıkışındaki bilgiler, girişindeki bilgilerle tamamen örtüşür, dolayısıyla bilgi aktarım hızı, mesaj kaynağının performansına sayısal olarak eşittir:

Parazit durumunda kaynak bilgilerinin bir kısmı kaybolur ve bilgi aktarım hızı kaynak performansından daha düşük olur. Aynı zamanda kanal çıkışındaki mesaja girişimle ilgili bilgi eklenir (Şekil 12).

Bu nedenle, parazit varlığında, kanal çıkışında kaynak tarafından verilen tüm bilgilerin değil, yalnızca karşılıklı bilgilerin dikkate alınması gerekir:

bps (5.2)

Formül (5.1)'e dayanarak, elimizde

Nerede H (X)  kaynak performansı ;

H (X/ sen)   birim zaman başına kanalın güvenilmezliği (kayıplar);

H (sen) - birim zaman başına çıkış mesajının entropisi;

H (sen/ X) =H’(N) birim zaman başına girişimin (gürültü) entropisidir.

İletişim kanalı bant genişliği(bilgi iletim kanalı) C kanal üzerinden mümkün olan maksimum bilgi aktarım hızıdır

. (5.4)

Maksimum seviyeye ulaşmak için olası tüm çıktı kaynakları ve olası tüm kodlama yöntemleri dikkate alınır.

Böylece, iletişim kanalının verimi, kanalın girişindeki kaynağın maksimum performansına eşittir, bu kanalın özellikleriyle tamamen tutarlıdır, eksi kanaldaki girişim nedeniyle bilgi kaybıdır.

Parazitsiz bir kanalda C= maksimum H (X) , Çünkü H (X/ sen)=0 . Tabanlı tek tip bir kod kullanıldığında k, oluşan N süresi olan öğeler  ah, parazitsiz bir kanalda

,

en k=2
bit/sn. (5.5)

Kanal bant genişliğinin verimli kullanılması için girişteki bilgi kaynağı ile koordineli olması gerekir. Böyle bir koordinasyon, K. Shannon tarafından kanıtlanan iki teorem temelinde hem müdahalesiz iletişim kanalları için hem de müdahaleli kanallar için mümkündür.

1. teorem (parazitsiz bir iletişim kanalı için):

Mesaj kaynağının entropisi varsaH(sembol başına bit) ve iletişim kanalı - verimC(saniye başına bit sayısı), daha sonra mesajlar, kanal üzerinden değere keyfi olarak yakın bir ortalama hızda bilgi iletecek şekilde kodlanabilir.Cama onu aşmayın.

K. Shannon ayrıca istatistiksel veya optimal kodlama olarak adlandırılan bu tür bir kodlama yöntemini de önerdi. Daha sonra böyle bir kodlama fikri Fano ve Huffman'ın çalışmalarında geliştirildi ve artık pratikte "mesaj sıkıştırma" amacıyla yaygın olarak kullanılıyor.

5.2. Homojen simetrik bir iletişim kanalının bant genişliği

Homojen bir iletişim kanalında koşullu (geçiş) olasılıklar P(sen 1 / X 1 ) zamana bağlı olmayın. Homojen bir ikili iletişim kanalının durumlarının ve geçişlerinin grafiği, Şek. 13.

Bu şekilde X 1 ve X 2 - iletişim kanalının girişindeki sinyaller, sen 1 ve sen 2 - çıkış sinyalleri. Bir sinyal iletildiyse X 1 ve sinyal alındı sen 1 , bu, ilk sinyalin (indeks 1) bozulmadığı anlamına gelir. İlk sinyal iletilirse ( X 1) ve ikinci sinyal alınır ( sen 2), bu ilk sinyalin bozulduğu anlamına gelir. Geçiş olasılıkları şekil 2'de gösterilmektedir. 13. Kanal simetrikse geçiş olasılıkları ikili olarak eşittir.

Şunu belirtin: P(sen 2 / X 1 )= P(sen 1 / X 2 )= P ah sinyal elemanı bozulma olasılıkları, P(sen 1 / X 1 )= P(sen 2 / X 2 )=1- P ah – sinyal öğesinin doğru şekilde alınma olasılığı.

Formül (5.1) ve (5.3)'e göre

.

Eğer sinyaller X 1 ve X 2 aynı süreye sahip  ah, O
. Daha sonra kanal kapasitesi şuna eşit olacaktır:

. (5.7)

Bu formülde maksimumH(sen)= kayıt k. İkili bir kanal için ( k= 2) maksimumH(sen)= 1 ve formül (5.4) formunu alır

. (5.8)

Koşullu entropiyi belirlemek için kalır H(sen/ X) . İkili bir kaynak için elimizde

Koşullu entropinin bu değerini (5.8)'de yerine koyarsak, sonunda şunu elde ederiz:

. (5.9)

Bir iletişim kanalı için k>2

bit/sn.

Şek. Şekil 14, ikili kanal kapasitesinin hata olasılığına karşı grafiğidir.

Bir iletişim kanalı için k>2 verim neredeyse benzer bir formülle belirlenir:

Son olarak bir örneğe bakalım. Performanslı bir ikili kaynak olsun
bit/sn.

Bozulma olasılığı ise P ah = 0,01'e göre, bir saniyede iletilen 1000 sinyal elemanından ortalama 990 elemanın distorsiyon olmadan alınacağı ve sadece 10 elemanın distorsiyona uğrayacağı anlaşılmaktadır. Görünüşe göre bu durumda verim saniyede 990 bit olacak. Ancak formül (5.9) ile hesaplama bize çok daha küçük bir değer verir ( C= 919 baz puan). Sorun ne burada? Mesele şu ki, C= Mesajın tam olarak hangi öğelerinin bozulduğunu bilseydik 990 bps. Bu gerçeğin göz ardı edilmesi (ve bunu bilmek neredeyse imkansızdır), 10 çarpık öğenin alınan mesajın değerini o kadar düşürdüğü ve çıktının keskin bir şekilde azaldığı gerçeğine yol açar.

Başka bir örnek. Eğer P ah = 0,5, daha sonra iletilen 1000 öğeden 500'ü bozulmayacaktır. Ancak artık bant genişliği beklendiği gibi 500 bps olmayacak ve formül (5.9) bize değeri verecektir. C= 0. Şunun için geçerlidir: P ah = 0,5'te sinyal aslında iletişim kanalından geçmez ve iletişim kanalı basitçe bir gürültü üretecine eşdeğerdir.

Şu tarihte: P ah  1 aktarım hızı maksimum değerine yaklaşıyor. Ancak bu durumda iletişim sisteminin çıkışındaki sinyallerin ters çevrilmesi gerekir.

Şek. 1 aşağıdaki tanımlamaları kabul etti: X, Y, Z, W- sinyaller, mesajlar ; F- engel; LS- iletişim hattı; AI, PI– bilginin kaynağı ve alıcısı; P– dönüştürücüler (kodlama, modülasyon, kod çözme, demodülasyon).

Var olmak Çeşitli türlerÇeşitli kriterlere göre sınıflandırılabilecek kanallar:

1.İletişim hatlarının türüne göre: kablolu; kablo; Fiber optik;

Güç hatları; radyo kanalları vb.

2. Sinyallerin doğası gereği: sürekli; ayrık; ayrık-sürekli (sistemin girişindeki sinyaller ayrıktır ve çıkıştaki sinyaller süreklidir ve bunun tersi de geçerlidir).

3. Gürültü bağışıklığı için: parazitsiz kanallar; girişim ile.

İletişim kanalları aşağıdakilerle karakterize edilir:

1. Kanal kapasitesi kanal kullanım süresinin ürünü olarak tanımlanır T'ye, kanal tarafından iletilen frekans spektrumunun genişliği F'den Ve dinamik aralıkD'ye. kanalın iletim yeteneğini karakterize eden çeşitli seviyeler sinyaller

V ila = T ila F ila D ila. (1)

Sinyali kanalla eşleştirmenin koşulu:

Vc £ Vk ; T C £ T k ; F C £ Fk ; Vc £ Vk ; DC £ Dk.

2.Bilgi aktarım hızı - birim zaman başına iletilen ortalama bilgi miktarı.

3.

4. Artıklık - İletilen bilgilerin güvenilirliğini sağlar ( R= 0¸1).

Bilgi teorisinin görevlerinden biri, bilgi aktarım hızının ve iletişim kanalı kapasitesinin kanal parametrelerine ve sinyal ve girişim özelliklerine bağımlılığını belirlemektir.

Bir iletişim kanalı mecazi olarak yollara benzetilebilir. Dar yollar - düşük kapasite, ancak ucuz. Geniş yollar - iyi trafik kapasitesi, ancak pahalıdır. Verim darboğaz tarafından belirlenir.

Veri aktarım hızı büyük ölçüde çeşitli iletişim hatları olan iletişim kanallarındaki iletim ortamına bağlıdır.

Kablolu:

1. kablolu – bükümlü çift(kısmen bastırır) Elektromanyetik radyasyon diğer kaynaklar). 1 Mbps'ye kadar iletim hızı. Kullanılan telefon ağları ve veri iletimi için.

2. Koaksiyel kablo. Aktarım hızı 10-100 Mbps - kullanılan yerel ağlar, kablolu televizyon vesaire.

3. Optik lif. Aktarım hızı 1 Gbps.

1-3 ortamlarında dB cinsinden zayıflama mesafeyle doğrusaldır; güç katlanarak düşer. Bu nedenle belli bir mesafeden sonra rejeneratörlerin (amplifikatörlerin) takılması gerekir.

Radyo bağlantıları:

1.Radyo kanalı. Aktarım hızı 100–400 Kbps. 1000 MHz'e kadar radyo frekanslarını kullanır. İyonosferden yansıma nedeniyle 30 MHz'e kadar elektromanyetik dalgaların görüş hattının ötesine yayılması mümkündür. Ancak bu aralık çok gürültülüdür (örneğin amatör radyo tarafından). 30'dan 1000 MHz'e kadar - iyonosfer şeffaftır ve görüş hattı gereklidir. Antenler yüksekliğe kurulur (bazen rejeneratörler kurulur). Radyo ve televizyonda kullanılır.

2.mikrodalga hatları. 1 Gbps'ye kadar aktarım hızları. 1000 MHz'in üzerindeki radyo frekanslarını kullanın. Bu, görüş hattı ve oldukça yönlü parabolik antenler gerektirir. Rejeneratörler arasındaki mesafe 10–200 km'dir. İçin kullanılır telefon bağlantısı, televizyon ve veri iletimi.

3. Uydu bağlantısı. Mikrodalga frekansları kullanılır ve uydu (ve birçok istasyon için) rejeneratör görevi görür. Özellikler mikrodalga hatlarıyla aynıdır.

2. Ayrık bir iletişim kanalının bant genişliği

Ayrık bir kanal, iletim amaçlı bir dizi araçtır ayrık sinyaller.

İletişim kanalı kapasitesi - Hatanın belirli bir değeri aşmaması koşuluyla, teorik olarak elde edilebilecek en yüksek bilgi aktarım hızı. Bilgi aktarım hızı - birim zaman başına iletilen ortalama bilgi miktarı. Ayrık bir iletişim kanalının bilgi aktarım hızını ve verimini hesaplamak için ifadeler tanımlayalım.

Her sembolün iletimi sırasında ortalama olarak, formülle belirlenen iletişim kanalından bilgi miktarı geçer.

ben (Y, X) = ben (X, Y) = H(X) - H (X/Y) = H(Y) - H (Y/X) , (2)

Nerede: ben (Y, X) - karşılıklı bilgi, yani içinde yer alan bilgi miktarı e nispeten X ;H(X) mesaj kaynağının entropisidir; H (X/Y)– gürültü ve bozulmanın varlığıyla ilişkili sembol başına bilgi kaybını belirleyen koşullu entropi.

Mesaj gönderirken X T süre T, oluşan N temel semboller, karşılıklı bilgi miktarının simetrisi dikkate alınarak iletilen bilginin ortalama miktarı:

ben(Y T , X T) = H(X T) – H(X T /Y T) = H(Y T) – H(Y T /X T) = n . (4)

Bilgi aktarımının hızı şunlara bağlıdır: istatistiksel özellikler kaynak, kodlama yöntemi ve kanal özellikleri.

Ayrık bir iletişim kanalının bant genişliği

Mümkün olan maksimum değer, yani Olasılık dağılım fonksiyonlarının tamamı p üzerinde fonksiyonelin maksimumu aranır (X) .

Bant genişliği, kanalın teknik özelliklerine (ekipmanın hızı, modülasyon türü, girişim ve bozulma düzeyi vb.) bağlıdır. Kanal kapasitesi birimleri şunlardır: , , , .

2.1 Parazitsiz ayrık iletişim kanalı

İletişim kanalında herhangi bir girişim yoksa, kanalın giriş ve çıkış sinyalleri kesin, işlevsel bir bağımlılıkla bağlanır.

Bu durumda koşullu entropi sıfıra eşittir ve kaynağın ve alıcının koşulsuz entropileri eşittir, yani. Alınan semboldeki iletilen sembole göre ortalama bilgi miktarı

ben (X, Y) = H(X) = H(Y); H(X/Y) = 0.

Eğer X T- zaman başına karakter sayısı T, bu durumda parazitsiz ayrı bir iletişim kanalı için bilgi aktarım hızı şuna eşittir:

Nerede V = 1/ bir sembolün ortalama iletim hızıdır.

Parazitsiz ayrık bir iletişim kanalı için bant genişliği

Çünkü maksimum entropi eşit olasılıklı sembollere karşılık gelir, bu durumda iletilen sembollerin tekdüze dağılımı ve istatistiksel bağımsızlığı için bant genişliği şuna eşittir:

Shannon'ın bir kanal için ilk teoremi: Kaynak tarafından oluşturulan bilgi akışı iletişim kanalının bant genişliğine yeterince yakınsa;

keyfi olarak küçük bir değer nerede,

o zaman tüm kaynak mesajların iletilmesini sağlayacak bir kodlama yöntemi bulmak her zaman mümkündür ve bilgi aktarım hızı kanal kapasitesine çok yakın olacaktır.

Teorem nasıl kodlanacağı sorusuna cevap vermiyor.

örnek 1 Kaynak, olasılıkları olan 3 mesaj üretir:

P 1 = 0,1; P 2 = 0,2 ve P 3 = 0,7.

Mesajlar bağımsızdır ve eşit şekilde iletilir ikili kod (M = 2 ) 1 ms'lik sembol süresiyle. Parazit olmadan bir iletişim kanalı üzerinden bilgi aktarım hızını belirleyin.

Çözüm: Kaynağın entropisi

[bps]

Tek tip kodla 3 mesaj iletmek için iki bit gerekir, kod kombinasyonunun süresi ise 2t'dir.

Ortalama sinyal oranı

V =1/2 T = 500 .

Bilgi aktarım hızı

C = vH = 500 × 1,16 = 580 [bps]

2.2 Gürültülü ayrık iletişim kanalı

Belleksiz ayrık iletişim kanallarını ele alacağız.

Hafızasız kanal Kanal, daha önce hangi sinyalin iletildiğine bakılmaksızın, iletilen her sinyal sembolünün girişimden etkilendiği kanal olarak adlandırılır. Yani girişim, semboller arasında ek bağıntılı bağlantılar yaratmaz. "Hafızasız" adı, bir sonraki iletim sırasında kanalın önceki iletimlerin sonuçlarını hatırlamadığı anlamına gelir.

Şekil 2'de gösterilen iletişim kanalını düşünün. 5-1. İletim ucuna bir sinyal gönderilir x(t) alıcı girişine bozuk bir gürültüyle giren n(t) biçim YT)[L. 47, 53]. İletişim kanalı kapasitesi kavramını tanıtalım. İletişim kanalının bant genişliği, çıkış sinyalinin girişe göre göreceli bilgisinin maksimum değeri olarak tanımlanır:

Nerede ben(x, y)- formül (7-8) tarafından verilen göreceli bilgiler ve tüm sinyaller eşdeğer ayrık sinyaller olarak kabul edilir (Şekil 7-1), böylece

Bazen değer bilginin bir iletişim kanalı üzerinden iletilme hızına denir. Bu değer, birim zaman başına iletilen göreceli bilgi miktarına eşittir. birim zaman başına ayrık kanal iletişim, bir karakterin iletim süresini dikkate almak uygundur. Bu durumda bilgi aktarım hızı formülleri entropiyi ve sembol başına bilgi miktarını anlar. Sürekli iletişim kanalları için iki ölçüm birimi veya ortak bir birim (örneğin bir saniye) veya örnekler arasında bir zaman aralığı kullanılır. , bu son durumda, formüller bir sayım (veya serbestlik derecesi) başına diferansiyel entropi anlamına gelir. Çoğu zaman kılavuzlar iki üniteden hangisinin kullanıldığını özellikle belirtmez. Bu bağlamda ortalama bilgi aktarım hızı için sıklıkla başka bir formül kullanılır.

Nerede N=2f c t 0. Okumalar bağımsızsa, o zaman V=I 1 (x, y). Miktarın yardımıyla açıkça görülüyor ki V iletişim kanalının bant genişliği formülle belirlenebilir

Gürültünün entropisi için şunu yazabiliriz:

Н(n)=2f c t 0 H 1 (n),

Normal gürültü için örnek başına gürültü entropisi.

Normal sinyaller için de benzer formüller yazılabilir. X Ve sen.

Referans birimi için formül (7-10) şu şekilde yazılabilir:

Bu tanımın anlamının açıklığa kavuşturulması gerekmektedir. Buradaki maksimumun, verildiği varsayılan sabit gürültülü giriş sinyallerinin olasılık dağılımları kümesi üzerinden alındığına dikkat edin. Özel bir durumda, bu dağılımlar kümesi, sıklıkla varsayıldığı gibi, tek bir normal dağılımdan oluşabilir.

Kalan aynı koşullar altında bir iletişim kanalının kapasitesi diğerinden daha büyükse (С 1 >С 2), o zaman fiziksel olarak bu, ilk durumda giriş ve çıkış sinyallerinin olasılık dağılımının ortak yoğunluğunun şundan daha büyük olduğu anlamına gelir: ikincisinde, formül (7-11) kullanıldığından, verimin esas olarak ortak olasılık dağılım yoğunluğunun değeri tarafından belirlendiğini görmek kolaydır. Çıkış sinyalinin girişe göre göreceli bilgisi (veya entropisi) daha büyükse, kanalın kapasitesi daha büyük olur. Gürültü artarsa ​​verimin azaldığı açıktır.

Çıkış ve giriş sinyalleri arasındaki olasılıksal bağlantı kaybolursa, o zaman

p(x,y)=p(x)p(y)

ve formül (7-11)'de logaritma ve dolayısıyla verim sıfır olur.

Başka bir durum ne zaman

p(x,y)=p(x|y)p(y)

sıfıra eğilimlidir, ayrıntılı değerlendirme gerektirir, çünkü log p(x, y)- ∞'a eğilimlidir. Eğer p(y)→ 0, o zaman

Gerekçeye şu şekilde devam edilebilir. Çıkış sinyalinin ortaya çıkma olasılığı sıfıra yakın olduğundan, sinyalin ortaya çıkma olasılığının şu şekilde olduğunu varsayabiliriz: X bağlı değil sen yani

p(x|y)=p(x)

Bu durumda verim sıfırdır ve bu da fiziksel yorumla tutarlıdır; yani sinyal yoksa [ya da kullanışlı değildir. x(t), ses yok n(t)], bu, kanalda bir "tıkanma" (kırılma) olduğu anlamına gelir. Diğer tüm durumlarda verim sıfır değildir.

İletişim kanalının bant genişliğinin giriş sinyaline bağlı olmayacak şekilde belirlenmesi doğaldır. Bunun için, entropinin aşırı özelliklerine uygun olarak, çoğunlukla normal dağılım yasasına sahip bir giriş sinyalini belirleyen bir maksimizasyon işlemi gerçekleştirilir. varsa gösterelim x(t) Ve n(t) bağımsız ve y(t)=x(t)+n(t), O

I(x,y)=H(y)-H(n), (7-12)

Nerede H(y) Ve H(n) alınan sinyal ve gürültünün diferansiyel entropileridir. Koşul (7-12), gürültünün sinyale bir terim olarak eklenmesi anlamında iletişim kanalının doğrusallığı anlamına gelir. Doğrudan şu kaynaktan takip edilir:

I(x,y)=H(x)-H(x|y)=H(y)-H(y|x).

Çünkü X Ve N istatistiksel olarak bağımsızdır, o zaman

Bu oranı bir öncekiyle değiştirerek (7-12) elde ederiz. Açıkçası, eğer gürültü ilave ise ve giriş sinyaline bağlı değilse, o zaman azami hız mesajların bir iletişim kanalı üzerinden iletilmesi (maksimum verim), aşağıdaki durumlarda sağlanır: maksH(y), Çünkü

Aşağıdaki varsayımlara dayalı bir Gauss iletişim kanalını düşünün: Kanal bant genişliği frekansla sınırlıdır f c; kanal gürültüsü - birim bant genişliği başına ortalama güçle normal beyaz S n =S n 2; ortalama faydalı sinyal gücü Rx; sinyal ve gürültü istatistiksel olarak bağımsızdır; çıkış sinyali faydalı sinyal ve gürültünün toplamına eşittir.

Açıkçası, formül (7-4)'e göre böyle bir kanalın verimi şu şekilde belirlenir:

H(n)=Flog2πeS n f c . (7-14)

Sinyal ve gürültü istatistiksel olarak bağımsız olduğundan birbirleriyle korelasyonları yoktur, dolayısıyla toplam sinyalin ortalama gücü

P y \u003d P x + S n f c \u003d P x + P n

Formül (7-13)'e göre sinyalin maksimum entropisini bulmak gerekir. YT) belirli bir zamanda bir sayım için orta güç. Entropinin aşırı özelliklerinden dolayı (bkz. Bölüm 6), sinyal YT) normal dağılmalıdır. Gruptaki beyaz gürültü fc aynı bantta spektral yoğunluğa sahip bir sinyale eşdeğerdir S, eğer ortalama güçleri eşitse, yani.

Aslında normal bir sinyal için örnek başına entropi formülü kanıtlanmıştır.

Bilgi iletim sistemlerinin verimi

Yukarıda sıralananlara ek olarak herhangi bir bilgi iletim sisteminin temel özelliklerinden biri de bant genişliğidir.

Bant genişliği - birim zaman başına iletilen mümkün olan maksimum yararlı bilgi miktarı:

c = maks(Imax) / TC ,

c = [bps]

Bazen bilgi aktarım hızı, bir temel sinyaldeki maksimum yararlı bilgi miktarı olarak tanımlanır:

s = maks(Imax) / n,

s = [bit/öğe].

Dikkate alınan özellikler yalnızca iletişim kanalına ve onun özelliklerine bağlıdır ve kaynağa bağlı değildir.

Parazitsiz ayrı bir iletişim kanalının bant genişliği. Parazitsiz bir iletişim kanalında bilgi, yedekli olmayan bir sinyalle iletilebilir. Bu durumda n = m sayısı ve temel sinyalin entropisi HCmax = logK olur.

maks(IC) = nHCmax= mHCmax .

Temel sinyalin süresi burada temel sinyalin süresidir.

burada FC sinyal spektrumudur.

İletişim kanalının parazitsiz verimi

Bir bilgi kaynağı tarafından temel bir sinyalin üretilme hızı kavramını tanıtalım:

Daha sonra yeni konsepti kullanarak bilgi aktarım hızı formülünü dönüştürebiliriz:

Ortaya çıkan formül, ayrı bir iletişim kanalında parazit olmadan mümkün olan maksimum bilgi aktarım hızını belirler. Bu, sinyalin entropisinin maksimum olduğu varsayımından kaynaklanmaktadır.

Eğer HC< HCmax, то c = BHC и не является максимально возможной для данного канала связи.

Gürültülü ayrık bir iletişim kanalının bant genişliği. Girişimli ayrık bir iletişim kanalında, Şekil 2'de gösterilen durum. 6.

Yukarıda tartışılan bilgi miktarını belirlemeye yönelik Shannon formüllerinin yanı sıra toplanabilirlik özelliğini de dikkate alarak şunu yazabiliriz:

IC = TC FC günlüğü(AK PC),

IPOM \u003d TP FP günlüğü (APP).

Alıcı için yararlı bilginin kaynağı ve girişimin kaynağı eşdeğerdir, bu nedenle alıcı tarafta sinyaldeki girişim bileşenini sonuçta ortaya çıkan bilgiden izole etmek imkansızdır.

IRES = TC FC log(AK (PP + PC)) eğer TC = TP, FC = FP.

Alıcı dar bantlı olabilir ve girişim diğer frekans aralıklarında olabilir. Bu durumda sinyali etkilemeyecektir.

Sinyal ve gürültü parametreleri birbirine yakın veya çakıştığında, en "hoş olmayan" durum için ortaya çıkan sinyali belirleyeceğiz. Yardımcı bilgi ifadeyle tanımlanır

Bu formül Shannon tarafından elde edildi. Sinyalin PC gücü varsa ve girişimin PP gücü varsa, bir iletişim kanalı üzerinden bilgi aktarım hızını belirler. Bu hızdaki tüm mesajlar mutlak bir kesinlikle iletilecektir. Formül, böyle bir hıza nasıl ulaşılacağı sorusunun cevabını içermiyor ancak gürültülü bir iletişim kanalında mümkün olan maksimum c değerini, yani alınan bilginin kesinlikle güvenilir olacağı iletim hızının değerini veriyor. . Uygulamada iletim hızı artsa da mesajda belirli bir miktar hataya izin vermek daha ekonomiktir.

PC >> PP durumunu düşünün. Sinyal-gürültü oranı kavramını tanıtırsak

PC >> PP şu anlama gelir . Daha sonra

Ortaya çıkan formül, bir iletişim kanalındaki güçlü bir sinyalin maksimum hızını yansıtır. PC ise<< PП, то с стремится к нулю. То есть сигнал принимается на фоне помех. В таком канале в единицу времени сигнал получить не удается. В реальных ситуациях полностью помеху отфильтровать нельзя. Поэтому приемник получает полезную информацию с некоторым набором ошибочных символов. Канал связи для такой ситуации можно представить в виде, изображенном на рис. 7, приняв источник информации за множество передаваемых символов {X}, а приемник – за множество получаемых символов {Y}.

Şekil 7 K-ary iletişim kanalının geçiş olasılıkları grafiği

Aralarında belli bire bir yazışmalar vardır. Eğer girişim yoksa birebir eşleşme olasılığı bire eşittir, aksi halde birden küçüktür.

Eğer qi, yi'yi xi ile karıştırma olasılığı ise ve pij = p(yi / xi) hata olasılığı ise, o zaman

.

Geçiş olasılıkları grafiği, gürültünün sinyal üzerindeki etkisinin nihai sonucunu yansıtır. Kural olarak deneysel olarak elde edilir.

Yararlı bilgi IPOL = nH(XY) olarak tahmin edilebilir; burada n, sinyaldeki temel sembollerin sayısıdır; H(XY), X kaynağının ve Y kaynağının ortak entropisidir.

Bu durumda X'in kaynağı yük kaynağı, Y'nin kaynağı ise alıcıdır. Yararlı bilgiyi tanımlayan ilişki, karşılıklı entropinin anlamından türetilebilir: Diyagramın gölgeli bölümü, X kaynağı tarafından iletilen ve alıcı Y tarafından alınan mesajları tanımlar; gölgesiz alanlar, alıcıya ulaşmayan ve alıcı tarafından alınan, kaynak tarafından iletilmeyen harici sinyaller olan X kaynak sinyallerini temsil eder.

B, kaynağın çıkışında temel sembollerin üretilme hızıdır.

Maksimuma ulaşmak için mümkünse H(Y)'yi artırmanız ve H(Y/X)'i azaltmanız gerekir. Grafiksel olarak bu durum diyagramdaki dairelerin birleştirilmesiyle temsil edilebilir (Şekil 2d).

Eğer çemberler hiç kesişmiyorsa X ve Y birbirinden bağımsız olarak var olur. Aşağıda belirli iletişim kanallarını analiz ederken maksimum iletim hızına ilişkin genel ifadenin nasıl kullanılabileceği gösterilecektir.

Ayrı bir kanalı karakterize ederken iki hız kavramı kullanılır: teknik ve bilgilendirici.

Anahtarlama hızı olarak da adlandırılan teknik iletim hızı RT, birim zaman başına kanal üzerinden iletilen sembollerin (cips) sayısını ifade eder. İletişim hattının özelliklerine ve kanal ekipmanının hızına bağlıdır.

Sembollerin sürelerindeki farklılıklar dikkate alınarak teknik hız şu şekilde tanımlanır:

ortalama karakter süresi süresi nerede.

Ölçü birimi "baud"dur; bu, bir karakterin bir saniyede iletilme hızıdır.

Bilgi hızı veya bilgi hızı, kanal üzerinden birim zaman başına iletilen ortalama bilgi miktarına göre belirlenir. Hem belirli bir kanalın özelliklerine (kullanılan sembollerin alfabesinin boyutu, iletimlerinin teknik hızı, hattaki müdahalenin istatistiksel özellikleri gibi) hem de sembollerin kanala ulaşma olasılıklarına bağlıdır. girdi ve istatistiksel ilişkileri.

Bilinen bir manipülasyon hızıyla, kanal üzerinden bilgi aktarım hızı aşağıdaki ilişkiyle verilir:

,

bir karakterin taşıdığı ortalama bilgi miktarı nerede.

Uygulama için, belirli bir kanal üzerinden bilgi aktarım hızını ne ölçüde ve ne şekilde artırmanın mümkün olduğunu bulmak önemlidir. Bir kanalın bilgi aktarımına yönelik sınırlayıcı olanakları, kapasitesiyle karakterize edilir.

Belirli geçiş olasılıklarına sahip bir kanalın kapasitesi, kaynak sembolleri X'in tüm giriş dağılımları üzerinden iletilen bilginin maksimumuna eşittir:

Matematiksel bir bakış açısından, hafızası olmayan ayrı bir kanalın bant genişliği arayışı, iletilen maksimum bilgiyi sağlayan X kaynağının giriş sembollerinin olasılık dağılımının araştırılmasına indirgenir. Aynı zamanda giriş sembollerinin olasılıklarına aşağıdaki kısıtlama getirilir: , .

Genel durumda, verilen kısıtlamalar altında maksimumun belirlenmesi, çarpımsal Lagrange yöntemi kullanılarak mümkündür. Ancak böyle bir çözüm aşırı derecede pahalıdır.

Özel bir durumda, belleği olmayan ayrık simetrik kanallar için, verim (maksimum), X kaynağının giriş simgelerinin düzgün bir şekilde dağıtılmasıyla elde edilir.

Daha sonra, belleği olmayan bir DSC için, hata olasılığının ε verildiğini ve eşit olasılıklı giriş simgeleri = = = =1/2 için verildiğini varsayarak, böyle bir kanalın kapasitesini aşağıdaki iyi bilinen ifadeyle elde edebiliriz:

burada = belirli bir hata olasılığı ε için ikili simetrik kanalın entropisidir.

Sınır durumları ilgi çekicidir:

1. Gürültüsüz bir kanal üzerinden bilgi aktarımı (parazit yok):

, [bit/karakter].

Teknik hızın değerini belirleyen kanalın ana teknik özellikleri (örneğin, bant genişliği, ortalama ve tepe verici gücü) sabitlendiğinde, kanalın girişimsiz verimi [bps] olacaktır.