نحوه شمارش مقدار اطلاعات در یک پیام رویکرد احتمالی برای تعیین مقدار اطلاعات "فرمول شانون. کاربرد ET Excel برای حل مشکلات یافتن مقدار اطلاعات"

برای اینکه بتوانیم منابع مختلف پیام ها و خطوط و کانال های ارتباطی مختلف را با هم مقایسه کنیم، لازم است معیارهای کمی معرفی شوند که به فرد امکان می دهد اطلاعات موجود در پیام را ارزیابی کند و توسط سیگنال حمل شود. چنین معیاری در قالب مقدار اطلاعات توسط K. Shannon بر اساس مفهوم انتخاب معرفی شد که به او اجازه داد تا یک نظریه ریاضی نسبتاً کلی از ارتباطات بسازد.

اجازه دهید ایده‌های اصلی این نظریه را به عنوان یک منبع مجزا که دنباله‌ای از پیام‌های ابتدایی را تولید می‌کند، اعمال می‌کنیم. بیایید سعی کنیم اندازه گیری مناسبی از مقدار اطلاعات موجود در یک پیام خاص پیدا کنیم. ایده اصلی نظریه اطلاعات این است که این اندازه گیری نه با محتوای خاص یک پیام معین، بلکه با این واقعیت تعیین می شود که منبع یک ارتباط ابتدایی معین را از یک مجموعه محدود انتخاب می کند. این ایده با این واقعیت توجیه می شود که بر اساس آن می توان تعدادی از نتایج گسترده و در عین حال غیر پیش پاافتاده را به دست آورد که با ایده های شهودی در مورد انتقال اطلاعات مطابقت دارد. عمده این نتایج در زیر ارائه خواهد شد.

بنابراین، اگر منبع یک پیام ابتدایی () را از مجموعه حروف الفبا انتخاب کند، سپس خروجی را انتخاب کند مقدار اطلاعاتبستگی به محتوای خاص این عنصر ندارد، بلکه به نحوه انتخاب بستگی دارد. اگر عنصر پیام انتخاب شده از پیش تعیین شده باشد، طبیعی است که فرض کنیم اطلاعات موجود در آن برابر با صفر است. بنابراین، ما فرض می کنیم که انتخاب یک حرف با احتمال کمی اتفاق می افتد. این احتمال به طور کلی ممکن است بستگی به این دارد که کدام دنباله قبل از حرف داده شده باشد. ما می پذیریم که مقدار اطلاعات موجود در یک پیام ابتدایی تابع پیوسته این احتمال است و سعی می کنیم شکل این تابع را به گونه ای تعیین کنیم که برخی از ساده ترین ایده های شهودی در مورد اطلاعات را برآورده کند.

برای این منظور، یک تبدیل ساده پیام را انجام خواهیم داد، که شامل این واقعیت است که هر جفت "حروف" به ترتیب توسط منبع ایجاد می شود، ما به عنوان یک "حرف" بزرگ شده در نظر می گیریم. ما چنین تحولی را بزرگ شدن الفبا می نامیم. مجموعه "حروف" بزرگ شده الفبای حجم را تشکیل می دهد، زیرا پس از هر یک از عناصر الفبا، به طور کلی، هر یک از عناصر را می توان انتخاب کرد. اجازه دهید این احتمال وجود داشته باشد که منبع یک انتخاب متوالی از عناصر و . سپس با در نظر گرفتن جفت به عنوان یک حرف از الفبای جدید، می توان استدلال کرد که این جفت حاوی مقدار اطلاعات است.

طبیعی است که بخواهیم مقدار اطلاعات موجود در یک جفت حروف، شرط افزایش را برآورده کند، یعنی برابر است با مجموع مقدار اطلاعات موجود در هر یک از حروف و الفبای اصلی. اطلاعات موجود در نامه برابر است با ، که در آن احتمال انتخاب حرف بعد از تمام حروف قبل از آن است. برای تعیین اطلاعات موجود در نامه، باید احتمال انتخاب حرف بعد از نامه را در نظر گرفت، همچنین تمام حروف قبل از نامه را در نظر گرفت. ما این احتمال شرطی را به صورت . سپس مقدار اطلاعات در نامه توسط تابع بیان می شود.

از طرف دیگر، احتمال انتخاب یک جفت حروف با قاعده ضرب احتمالات است.

نیاز به افزایش مقدار اطلاعات در عملیات بزرگ کردن الفبا منجر به برابری می شود.

بگذار و . سپس برای هر و معادله باید رعایت شود

ما موارد را حذف می کنیم یا از بررسی خارج می کنیم، زیرا به دلیل محدود بودن تعداد حروف الفبا، این برابری ها به این معنی است که انتخاب یک جفت حروف توسط منبع یک اتفاق غیر ممکن است.

تساوی (1.3) یک معادله تابعی است که از آن می توان شکل تابع را تعیین کرد. هر دو طرف معادله (1.3) را با توجه به p متمایز می کنیم:

.

هر دو قسمت معادله حاصل را در p ضرب می کنیم و نماد را معرفی می کنیم

(1.4)

این معادله باید برای هر کدام معتبر باشد. آخرین محدودیت ضروری نیست، زیرا معادله (1.4) با توجه به متقارن است و بنابراین، باید برای هر جفت مقدار مثبت آرگومان ها که از یک تجاوز نمی کند، ارضا شود. اما این تنها در صورتی امکان‌پذیر است که هر دو بخش (1.4) مقداری ثابت را نشان دهند، از آنجا

با ادغام معادله به دست آمده، متوجه می شویم

, (1.5)

که در آن ثابت دلخواه ادغام است.

فرمول (1.5) یک کلاس از توابع را تعریف می کند که مقدار اطلاعات را هنگام انتخاب یک حرف با احتمال بیان می کند و شرط افزایش را برآورده می کند. برای تعیین ثابت ادغام، از شرط ذکر شده در بالا استفاده می کنیم که طبق آن یک عنصر از پیش تعیین شده پیام، یعنی داشتن یک احتمال، حاوی اطلاعات نیست. بنابراین،، از آنجا که بلافاصله به دنبال آن است. - پایه لگاریتم های طبیعی) یا به عبارت دیگر برابر با اطلاعات موجود در پیام وقوع رویدادی است که احتمال وقوع آن برابر است با

با توجه به اینکه لگاریتم در هر پایه ای گرفته می شود، تا زمانی که این پایه در سراسر مسئله حل شده حفظ شود.

با توجه به خاصیت افزودن اطلاعات، عبارات (1.6) به فرد اجازه می دهد تا مقدار اطلاعات را نه تنها در نامه پیام، بلکه در هر پیام طولانی دلخواه تعیین کند. فقط لازم است با در نظر گرفتن پیام های انتخاب شده قبلی، احتمال انتخاب این پیام از بین همه پیام های ممکن در نظر گرفته شود.

انفورماتیک

مقدار اطلاعات

معرفی

2. عدم قطعیت، مقدار اطلاعات و آنتروپی

3. فرمول شانون

4. فرمول هارتلی

5. میزان اطلاعات دریافتی در فرآیند ارتباط

فهرست ادبیات استفاده شده

معرفی

طبق تعریف، A.D. اورسولا - "اطلاعات منعکس کننده تنوع است." مقدار اطلاعات معیار کمی تنوع است. این ممکن است تنوع کل محتویات حافظه باشد. تنوع سیگنال دریافتی در فرآیند پیام خاص; انواع نتایج یک موقعیت خاص؛ تنوع عناصر یک سیستم ... ارزیابی تنوع به معنای وسیع کلمه است.

هر پیامی بین منبع و گیرنده اطلاعات دارای مدت زمان مشخصی است، اما میزان اطلاعات دریافتی توسط گیرنده در نتیجه پیام در نهایت نه با طول پیام، بلکه با تنوع سیگنال مشخص می شود. توسط این پیام در گیرنده ایجاد می شود.

حافظه حامل اطلاعات دارای ظرفیت فیزیکی خاصی است که در آن قادر به جمع آوری تصاویر است و میزان اطلاعات انباشته شده در حافظه در نهایت با تنوع پر کردن این ظرفیت مشخص می شود. برای اشیاء طبیعت بی جان، این تنوع تاریخ آنها است، برای موجودات زنده، این تنوع تجربه آنها است.

1. بیت

تنوع در انتقال اطلاعات ضروری است. شما نمی توانید سفید را روی سفید بکشید، یک حالت کافی نیست. اگر یک سلول حافظه بتواند تنها در یک حالت (اولیه) باشد و قادر به تغییر حالت خود تحت تأثیر خارجی نباشد، به این معنی است که قادر به درک و ذخیره اطلاعات نیست. ظرفیت اطلاعاتی چنین سلولی 0 است.

حداقل تنوع با حضور دو حالت فراهم می شود. اگر یک سلول حافظه، بسته به تأثیر خارجی، قادر باشد یکی از دو حالت را که معمولاً «0» و «1» نامیده می‌شوند، بگیرد، دارای حداقل ظرفیت اطلاعاتی است.

ظرفیت اطلاعات یک سلول حافظه که قادر به قرار گرفتن در دو حالت مختلف است به عنوان واحد اندازه گیری مقدار اطلاعات - 1 بیت در نظر گرفته می شود.

1 بیت (بیت - کوتاه برای رقم دودویی انگلیسی - عدد باینری) واحد اندازه گیری ظرفیت اطلاعات و مقدار اطلاعات و همچنین یک کمیت دیگر - آنتروپی اطلاعات است که در ادامه با آن آشنا خواهیم شد. بیت، یکی از بی قید و شرط ترین واحدهای اندازه گیری. اگر بتوان واحد اندازه گیری طول را دلخواه تنظیم کرد: کوبیت، فوت، متر، آنگاه واحد اندازه گیری اطلاعات اساساً نمی تواند واحد دیگری باشد.

بر سطح فیزیکیبیت یک سلول حافظه است که در هر زمان در یکی از دو حالت است: "0" یا "1".

اگر هر نقطه از یک تصویر فقط می تواند سیاه یا سفید باشد، چنین تصویری Bitmap نامیده می شود، زیرا هر نقطه یک سلول حافظه با ظرفیت 1 بیت است. یک لامپ که می تواند روشن یا خاموش باشد نیز نمادی از ضربان است. یک مثال کلاسیک که 1 بیت اطلاعات را نشان می دهد - مقدار اطلاعات به دست آمده در نتیجه پرتاب یک سکه - سر یا دم.

مقدار اطلاعات برابر با 1 بیت را می توان در پاسخ به سوال بله / خیر به دست آورد. اگر در ابتدا بیش از دو گزینه پاسخ وجود داشت، مقدار اطلاعات دریافتی در یک پاسخ خاص بیش از 1 بیت خواهد بود، اگر کمتر از دو گزینه پاسخ وجود داشته باشد، یعنی. یک، پس این یک سوال نیست، بلکه یک بیانیه است، بنابراین، به دست آوردن اطلاعات مورد نیاز نیست، زیرا عدم قطعیت وجود ندارد.

ظرفیت اطلاعات یک سلول حافظه که قادر به دریافت اطلاعات است نمی تواند کمتر از 1 بیت باشد، اما مقدار اطلاعات دریافتی می تواند کمتر از 1 بیت باشد. این زمانی اتفاق می افتد که گزینه های پاسخ "بله" و "خیر" به یک اندازه محتمل نباشند. عدم یکنواختی، به نوبه خود، نتیجه این واقعیت است که برخی از اطلاعات اولیه (پیشینی) در مورد این موضوع از قبل در دسترس است، به عنوان مثال، بر اساس تجربه زندگی قبلی به دست آمده است. بنابراین، در تمام استدلال های پاراگراف قبل، یک اخطار بسیار مهم باید در نظر گرفته شود: آنها فقط برای مورد مشابه معتبر هستند.

مقدار اطلاعات را با نماد I نشان می دهیم، احتمال را با نماد P نشان می دهیم. به یاد بیاورید که احتمال کل گروه کاملرویدادها 1 است.

2. عدم قطعیت، مقدار اطلاعات و آنتروپی

بنیانگذار نظریه اطلاعات، کلود شانون، اطلاعات را حذف عدم قطعیت تعریف کرد. به طور دقیق تر، به دست آوردن اطلاعات - شرط لازمبرای رفع عدم قطعیت عدم اطمینان در یک موقعیت انتخابی به وجود می آید. وظیفه ای که در مسیر رفع عدم قطعیت حل می شود، کاهش تعداد گزینه های در نظر گرفته شده (کاهش تنوع) و در نتیجه انتخاب یک گزینه متناسب با وضعیت از بین گزینه های ممکن است. حذف عدم قطعیت فرصتی برای تصمیم گیری آگاهانه و اقدام فراهم می کند. این نقش کنترل کننده اطلاعات است.

وضعیت حداکثر عدم قطعیت دلالت بر وجود چندین گزینه (گزینه) به همان اندازه احتمالی دارد، به عنوان مثال. هیچ یک از گزینه ها ترجیح داده نمی شود علاوه بر این، هرچه گزینه‌های احتمالی یکسان بیشتری مشاهده شود، عدم اطمینان بیشتر، انجام یک انتخاب بدون ابهام دشوارتر است و اطلاعات بیشتری برای به دست آوردن آن مورد نیاز است. برای انواع N، این وضعیت با توزیع احتمال زیر توصیف می شود: (1/N، 1/N، … 1/N).

حداقل عدم قطعیت 0 است، یعنی. این وضعیت از قطعیت کامل، به این معنی که انتخاب شده است، و همه اطلاعات لازماخذ شده. توزیع احتمال برای یک موقعیت با اطمینان کامل به این صورت است: (1، 0، ...0).

کمیتی که میزان عدم قطعیت را در نظریه اطلاعات مشخص می کند با نماد H نشان داده می شود و آنتروپی، به طور دقیق تر آنتروپی اطلاعات نامیده می شود.

آنتروپی (H) اندازه گیری عدم قطعیت است که در بیت بیان می شود. آنتروپی را می توان به عنوان معیاری برای یکنواختی توزیع نیز در نظر گرفت متغیر تصادفی.

شکل 1 رفتار آنتروپی را برای مورد دو گزینه، با تغییر در نسبت احتمالات آنها نشان می دهد (p, (1-p)).

آنتروپی به حداکثر مقدار خود در می رسد این موردسپس، هنگامی که هر دو احتمال برابر یکدیگر و برابر با ½ هستند، مقدار آنتروپی صفر با موارد (p 0 = 0، p 1 = 1) و (p 0 = 1، p 1 = 0) مطابقت دارد.

مقدار اطلاعات I و آنتروپی H وضعیت یکسانی را مشخص می کند، اما از طرف های کیفی مخالف. I مقدار اطلاعاتی است که برای حذف عدم قطعیت H مورد نیاز است. طبق تعریف لئون بریلوین، اطلاعات یک آنتروپی منفی (negentropy) است.

وقتی عدم قطعیت به طور کامل حذف شد، مقدار اطلاعات دریافتی I برابر با عدم قطعیت اولیه موجود H است.

با حذف جزئی عدم قطعیت، مقدار اطلاعات دریافتی و عدم قطعیت حل نشده باقیمانده به عدم اطمینان اولیه اضافه می شود. H t + I t = H.

به همین دلیل، فرمول هایی که در زیر برای محاسبه آنتروپی H ارائه خواهد شد، فرمول هایی برای محاسبه مقدار اطلاعات I، یعنی. وقتی صحبت از حذف کامل عدم قطعیت می شود، H در آنها می تواند با I جایگزین شود.

3. فرمول شانون

در حالت کلی، آنتروپی H و مقدار اطلاعاتی که در نتیجه حذف عدم قطعیت به دست آوردم به تعداد اولیه گزینه های در نظر گرفته شده N و احتمالات پیشینی برای اجرای هر یک از آنها بستگی دارد P: (p 0 , p 1، …p N -1)، یعنی. H=F(N, P). محاسبه آنتروپی در این مورد بر اساس فرمول شانون که در سال 1948 توسط وی در مقاله "نظریه ریاضی ارتباطات" پیشنهاد شد، انجام می شود.

در یک مورد خاص، زمانی که همه انواع به یک اندازه محتمل هستند، وابستگی فقط به تعداد انواع در نظر گرفته شده باقی می ماند، یعنی. H=F(N). در این مورد، فرمول شانون بسیار ساده شده است و با فرمول هارتلی که اولین بار توسط مهندس آمریکایی رالف هارتلی در سال 1928 ارائه شد، مطابقت دارد. 20 سال قبل

فرمول شانون به شکل زیر است:

برنج. 3. یافتن لگاریتم b به پایه a، یافتن توانی است که برای بدست آوردن b باید a را بالا ببرید.

به یاد بیاورید که لگاریتم چیست.

لگاریتم پایه 2 را باینری می گویند:

log 2 (8)=3 => 2 3 =8

log 2 (10)=3.32 => 2 3.32 =10

لگاریتم پایه 10 اعشاری نامیده می شود:

log 10 (100)=2 => 10 2 =100

ویژگی های اصلی لگاریتم:

1. log(1)=0 زیرا هر عددی به توان صفر 1 می دهد.

2. log(a b)=b*log(a);

3. log(a*b)=log(a)+log(b);

4. log(a/b)=log(a)-log(b);

5. log(1/b)=0-log(b)=-log(b).

علامت منفی در فرمول (1) به معنای منفی بودن آنتروپی نیست. این با این واقعیت توضیح داده می شود که p i £ 1 طبق تعریف، و لگاریتم یک عدد کوچکتر از یک مقدار منفی است. با توجه به خاصیت لگاریتم

مقدار اطلاعات یک مشخصه عددی یک سیگنال است که منعکس کننده درجه عدم قطعیت (ناقص بودن دانش) است که پس از دریافت پیام در قالب یک سیگنال داده شده ناپدید می شود.
این اندازه گیری عدم قطعیت در نظریه اطلاعات آنتروپی نامیده می شود. اگر در نتیجه دریافت پیام، شفافیت کامل در مورد موضوعی حاصل شود، گفته می شود که اطلاعات کامل یا جامع دریافت شده و نیاز به دریافت است. اطلاعات اضافیخیر برعکس، اگر پس از دریافت پیام، عدم قطعیت ثابت باقی بماند، هیچ اطلاعاتی دریافت نشده است (اطلاعات صفر).
استدلال فوق نشان می دهد که بین مفاهیم اطلاعات، عدم قطعیت و انتخاب رابطه تنگاتنگی وجود دارد. بنابراین هر گونه عدم قطعیت بر امکان انتخاب دلالت دارد و هرگونه اطلاعات با کاهش عدم قطعیت امکان انتخاب را کاهش می دهد. با اطلاعات کامل چاره ای نیست. اطلاعات جزئی تعداد انتخاب ها را کاهش می دهد و در نتیجه عدم اطمینان را کاهش می دهد.
یک مثال را در نظر بگیرید. یک نفر سکه ای پرتاب می کند و می بیند که به کدام طرف می افتد. هر دو روی سکه برابر است، بنابراین به یک اندازه احتمال دارد که یک یا روی دیگر از بین برود. این وضعیت به عدم قطعیت اولیه نسبت داده می شود که با دو احتمال مشخص می شود. پس از سقوط سکه، وضوح کامل حاصل می شود و عدم قطعیت از بین می رود (برابر صفر می شود).
مثال بالا به گروهی از رویدادها اشاره دارد که می توان برای آنها یک سوال بله و نه پرسید.
به مقدار اطلاعاتی که هنگام پاسخ دادن به سوال بله و خیر می توان به دست آورد بیت (به انگلیسی bit - مخفف عدد باینری - یک واحد باینری) می گویند.
بیت کوچکترین واحد اطلاعات است، زیرا دریافت اطلاعات کمتر از 1 بیت غیرممکن است. هنگام دریافت اطلاعات در 1 بیت، عدم قطعیت 2 برابر کاهش می یابد. بنابراین، هر پرتاب یک سکه 1 بیت اطلاعات به ما می دهد.
سیستمی متشکل از دو لامپ الکتریکی را در نظر بگیرید که می توانند به طور مستقل از یکدیگر روشن یا خاموش شوند. برای چنین سیستمی، حالت های زیر ممکن است:
لامپ A: 0 0 1 1 ;
لامپ B: 0 1 0 1 .
بدست آوردن اطلاعات کاملدر مورد وضعیت سیستم، باید دو سوال بله-نه به ترتیب در مورد لامپ A و لامپ B بپرسید. در این حالت، مقدار اطلاعات موجود در این سیستم قبلاً در 2 بیت تعیین می شود و تعداد حالت های احتمالی سیستم 4 است. اگر سه لامپ بگیرید، باید سه سؤال بپرسید و 3 بیت اطلاعات دریافت کنید. . تعداد حالت های چنین سیستمی 8 است و به همین ترتیب.
رابطه بین مقدار اطلاعات و تعداد حالت های سیستم با فرمول هارتلی ایجاد می شود.
i=log 2N,
جایی که i مقدار اطلاعات در بیت است. N تعداد حالت های ممکن است. فرمول یکسان را می توان متفاوت نوشت:
N=2i.
به یک گروه 8 بیتی اطلاعات، بایت می گویند.
اگر یک بیت کوچکترین واحد اطلاعات باشد، یک بایت واحد اصلی آن است. واحدهای اطلاعات مشتق شده وجود دارد: کیلوبایت (KB، Kb)، مگابایت (MB، Mb) و گیگابایت (GB، GB).
بنابراین بین مفاهیم «اطلاعات»، «عدم قطعیت» و «فرصت انتخاب» رابطه تنگاتنگی وجود دارد. هرگونه عدم قطعیت دلالت بر امکان انتخاب دارد و هرگونه اطلاعاتی که عدم قطعیت را کاهش دهد، امکان انتخاب را کاهش می دهد. اطلاعات جزئی تعداد انتخاب ها را کاهش می دهد و در نتیجه عدم اطمینان را کاهش می دهد.
مقدار اطلاعات یک مشخصه عددی یک سیگنال است که منعکس کننده درجه عدم قطعیت (ناقص بودن دانش) است که پس از دریافت پیام در قالب یک سیگنال داده شده ناپدید می شود.

بیشتر در مورد موضوع مفهوم مقدار اطلاعات:

1. مفهوم، انواع اطلاعات و اصول تنظیم حقوقی روابط در حوزه اطلاعات
2. روزنامه نگاری به عنوان فعالیت اطلاعات جمعی مفاهیم «اطلاعات» و «اطلاعات انبوه». اطلاعات انبوه به عنوان محصول فعالیت اطلاعات انبوه. اطلاعات انبوه و اطلاعات اجتماعی.

چتورگووا یو.ن.

محل کار، موقعیت:

تفاهم نامه "دبیرستان شماره 1 پورخوف"، معلم

منطقه پسکوف

ویژگی های درس (کلاس)

سطح تحصیلات:

آموزش عمومی متوسطه (کامل).

مخاطب هدف:

معلم (معلم)

کلاس ها):

موارد):

انفورماتیک و ICT

هدف از درس:

تکرار، تثبیت، کنترل دانش و مهارت

نوع درس:

درسی برای کاربرد یکپارچه دانش آموزان ZUN

دانش آموزان کلاس (مخاطب):

ادبیات روش شناختی مورد استفاده:

توسعه Pourochnye در انفورماتیک. پایه 10. O. L. Sokolova;

تجهیزات مورد استفاده:

برنامه "ماشین حساب"

ماشین حساب

موضوع. مقدار اطلاعات. فرمول های هارتلی و شانون

پیشرفت درس

تکرار مطالب مطرح شده در درس. اضافه (10 دقیقه)

کارت های آموزشی کار گروهی(20 دقیقه)

حل مسئله. کار دو نفره (10 دقیقه)

تست. (40 دقیقه)

تایید متقابل روی اشتباهات کار کنید.

دانش، مهارت ها و شایستگی های پایه

دانش:

کدام رویدادها به همان اندازه محتمل هستند، کدام نه.

چگونه احتمال یک رویداد را پیدا کنیم؛

نحوه یافتن مقدار اطلاعات در یک پیام برای رویدادهای مختلف

مهارت ها:

تمایز قائل شدن بین رویدادهای به همان اندازه محتمل و غیر محتمل.

مقدار اطلاعات مربوط به رویدادهای مختلف را بیابید.

شایستگی ها:

مشارکت

ارتباط

خلاقیت و کنجکاوی

تفکر انتقادی (قضاوت ارزشی)

کدام رویدادها به یک اندازه محتمل و کدام یک به یک اندازه محتمل نیستند؟

در سال 1928، مهندس آمریکایی آر. هارتلی یک رویکرد علمی برای ارزیابی پیام ها پیشنهاد کرد. فرمولی که او پیشنهاد کرد به شرح زیر بود:

I = log 2 K
که در آن K تعداد رویدادهای همسان است. I تعداد بیت های پیام است، به طوری که هر یک از رویدادهای K رخ داده است. سپس K=2 I.
گاهی اوقات فرمول هارتلی به این صورت نوشته می شود:

I \u003d log 2 K \u003d log 2 (1 / p) \u003d - log 2 p,
از آنجایی که هر یک از رویدادهای K یک نتیجه مشابه p = 1 / K دارند، پس K = 1 / p.

توپ در یکی از سه urn است: A، B یا C. تعیین کنید پیامی که در urn B قرار دارد چند بیت اطلاعات دارد.

راه حل.

چنین پیامی حاوی اطلاعات I = log 2 3 = 1.585 بیت است.

اما همه موقعیت ها احتمال تحقق یکسانی ندارند. بسیاری از چنین موقعیت هایی وجود دارد که در آنها احتمال تحقق متفاوت است. به عنوان مثال، اگر یک سکه نامتقارن پرتاب شود یا "قانون ساندویچ".

"یک بار، در کودکی، ساندویچی را به زمین انداختم. برادر بزرگترم با تماشای من در حال پاک کردن لکه روغن به جا مانده روی زمین، به من اطمینان داد:

نگران نباشید، این قانون ساندویچ است که کار کرده است.

این چه قانونی است؟ من پرسیدم.

قانونی که می گوید: "یک ساندویچ همیشه کره به پایین می افتد." با این حال، این یک شوخی است، - برادر ادامه داد - هیچ قانونی وجود ندارد. فقط این است که ساندویچ واقعاً رفتار عجیبی دارد: بیشتر کره در پایین است.

چند بار دیگر ساندویچ را بریزیم، بررسی کنیم، - پیشنهاد کردم. - به هر حال باید آن را دور بریزید.

بررسی شد. از ده برابر هشت، ساندویچ از طرف کره به پایین افتاد.

و بعد فکر کردم: آیا می توان از قبل دانست که چگونه ساندویچ با کره پایین یا بالا می افتد؟

آزمایشات ما توسط مادر قطع شد ... "
(گزیده ای از کتاب «راز ژنرال های بزرگ»، وی. آبچوک).

در سال 1948، مهندس و ریاضیدان آمریکایی K Shannon فرمولی برای محاسبه مقدار اطلاعات برای رویدادهایی با احتمالات مختلف ارائه کرد.
اگر من مقدار اطلاعات باشم،
K - تعداد رویدادهای ممکن، p i - احتمالات رویدادهای فردی،
سپس مقدار اطلاعات رویدادهایی با احتمالات مختلف را می توان با فرمول تعیین کرد:

I = - مجموع p i log 2 p i، جایی که i مقادیر را از 1 تا K می گیرد.

اکنون فرمول هارتلی را می توان به صورت مشاهده کرد مورد خاصفرمول های شانون:

I \u003d - مجموع 1 / K log 2 (1 / K) \u003d I \u003d log 2 K.

برای رویدادهای به همان اندازه محتمل، مقدار اطلاعات به دست آمده حداکثر است.

چگونه احتمال یک رویداد را پیدا کنیم؟

اگر اطلاعات موجود در یک پیام جدید و قابل درک برای شخصی باشد، دانش او را تکمیل می کند، یعنی. منجر به کاهش عدم قطعیت دانش می شود، سپس پیام حاوی اطلاعات است.

1 بیت - مقدار اطلاعات موجود در پیام، که عدم قطعیت دانش را 2 برابر کاهش می دهد.

مثال

هنگام پرتاب یک سکه، 2 رویداد (مورد) ممکن است - سکه سر یا دم سقوط می کند، و هر دو رویداد به یک اندازه محتمل هستند (زمانی که در تعداد زیادورق می خورد، تعداد دفعاتی که سکه سر و دم می افتد یکسان است). پس از دریافت پیام در مورد نتیجه سقوط سکه، عدم قطعیت دانش 2 برابر کاهش یافت و بنابراین، میزان اطلاعات دریافتی در این مورد 1 بیت است.

چگونه می توان میزان اطلاعات موجود در یک پیام را برای رویدادهای مختلف پیدا کرد؟

محاسبه مقدار اطلاعات برای رویدادهای مشابه.

اگر رویدادها به یک اندازه محتمل باشند، می توان مقدار اطلاعات را با استفاده از فرمول محاسبه کرد:

N = 2 I

جایی که N - تعداد رویدادهای احتمالی،

من مقدار اطلاعات در بیت است.

این فرمول توسط مهندس آمریکایی آر. هارتلی در سال 1928 پیشنهاد شد.

وظیفه 1.در یک جعبه 32 مداد وجود دارد که همه مدادها رنگ های متفاوتی دارند. یک قرمز به صورت تصادفی کشیده شد. چقدر اطلاعات از این به دست آمد؟

راه حل.

از آنجایی که کشیدن یک مداد با هر رنگی از 32 مداد داخل جعبه محتمل است، تعداد رویدادهای ممکن

برابر با 32

N = 32، I = ?

N = 2 I , 32 = 2 5 , I = 5 بیت .

پاسخ: 5 بیت

محاسبه مقدار اطلاعات برای رویدادهایی با احتمالات مختلف.

موقعیت‌های زیادی وجود دارد که رویدادهای ممکن احتمالات متفاوتی برای تحقق دارند. نمونه هایی از چنین رویدادهایی را در نظر بگیرید.

1. در یک جعبه 20 مداد وجود دارد که 15 عدد آن قرمز و 5 عدد مشکی است. احتمال ترسیم یک مداد قرمز به صورت تصادفی بیشتر از یک مداد سیاه است.

2. اگر یک ساندویچ به طور تصادفی بیفتد، احتمال افتادن آن با پایین بودن روغن (سمت سنگین تر) بیشتر است تا با روغن بالا.

3. 8000 صلیبی، 2000 پیک و 40000 مینا در این برکه زندگی می کنند. بزرگترین شانس برای یک ماهیگیر این است که در این حوضچه میناو صید کند، در رتبه دوم - کپور صلیبی، در رتبه سوم - پیک.

مقدار اطلاعات موجود در یک پیام در مورد یک رویداد به احتمال آن بستگی دارد. هر چه احتمال وقوع یک رویداد کمتر باشد، اطلاعات بیشتری را حمل می کند.
P=K/N ، که در آن K تعداد موارد تحقق یکی از نتایج رویداد است،ن - تعداد کل نتایج ممکن یکی از رویدادها
2 I = log 2 (1/ p )، جایی که I - میزان اطلاعاتپ - احتمال رویداد

وظیفه 1 . در یک جعبه 50 توپ وجود دارد که 40 توپ سفید و 10 توپ سیاه است. مقدار اطلاعات موجود در پیام را در مورد رسم یک توپ سفید و یک توپ سیاه به طور تصادفی مشخص کنید.

راه حل.
احتمال رسم یک توپ سفید

پ 1 = 40/50 = 0,8
احتمال کشیدن توپ سیاهپ 2 = 10/50 = 0,2
مقدار اطلاعات در مورد رسم یک توپ سفید I 1 \u003d log 2 (1 / 0.8) \u003d log 2 1.25 \u003d log 1.25 / log 2 " 0.32 بیت
مقدار اطلاعات در مورد رسم توپ سیاه

I 2 \u003d log 2 (1 / 0.2) \u003d log 2 5 \u003d log5 / log2» 2.32 بیت

پاسخ: 0.32 بیت، 2.32 بیت

لگاریتم چیست؟

لگاریتم یک عدد به پایه ب توانی است که عدد باید به آن افزایش یابد آ برای دریافت شماره ب

a logab = b، a > 0، b > 0، a ≠ 1

تحلیل مسئله
میزان اطلاعات دریافتی در حین اجرای یکی از رویدادها را در صورت پرتاب تعیین کنید
الف) هرم چهار وجهی نامتقارن؛
ب) هرم چهار وجهی متقارن و یکنواخت.

راه حل.

الف) یک هرم چهار وجهی نامتقارن پرتاب خواهیم کرد.
احتمال رخدادهای فردی به شرح زیر خواهد بود:
p1 = 1/2،
p2 = 1/4،
p3 = 1/8،
p4 = 1/8،
سپس مقدار اطلاعات دریافتی پس از اجرای یکی از این رویدادها با فرمول محاسبه می شود:
I = -(1/2 log 2 1/2 + 1/4 log 2 1/4 + 1/8 log 2 1/8 + 1/8 log 2 1/8) = 1/2 + 2/4 + 3 / 8 + 3 / 8 = 14/8 = 1.75 (بیت).
ب) حال بیایید مقدار اطلاعاتی را که هنگام پرتاب یک هرم چهار وجهی متقارن و یکنواخت بدست می آید محاسبه کنیم:
I = log 2 4 = 2 (bit).
2. احتمال رخداد اول 0.5 و دوم و سوم 0.25 است. پس از اجرای یکی از آنها چه مقدار اطلاعات به دست خواهیم آورد؟
3. هنگام بازی رولت با 32 سکتور چقدر اطلاعات به دست می آید؟
4. چقدر اعداد مختلفمیشه با 8 بیت کدگذاری کرد؟
راه حل: I=8 بیت، K=2 I =2 8 =256 عدد مختلف.

وظیفه 2.ماهی کپور و سوف در دریاچه زندگی می کنند. تخمین زده می شود که 1500 ماهی کپور و 500 ماهی سوف وجود داشته باشد، گزارشات مربوط به صید ماهی صلیبی، سوف، ماهی صید شده توسط ماهیگیر چقدر است؟

راه حل.
وقایع صید صلیبی یا سوف به یک اندازه محتمل نیست، زیرا در دریاچه تعداد کمتری از صلیبی ها وجود دارد.

تعداد کل صلیبی ها و سوف ها در حوض 1500 + 500 = 2000 است.
احتمال قرار گرفتن بر طعمه ماهی کپور صلیبی

p1 = 1500/2000 = 0.75 سوف p 2 \u003d 500/2000 \u003d 0.25.

I 1 = log 2 (1/ p I ), I 1 = log 2 (1/ p 2 ) ، جایی که P 1 و P 2 - احتمال صید صلیبی و سوف به ترتیب.

I 1 = log 2 (1 / 0.75) » 0.43 بیت، I 2 = log 2 (1 / 0.25) = 2 بیت - مقدار اطلاعات موجود در پیام به ترتیب برای گرفتن crucian و catch perch.

مقدار اطلاعات پیام برای صید ماهی (کپور یا سوف) با استفاده از فرمول شانون محاسبه می شود.

I = - p 1 log 2 p 1 - p 2 log 2 p 2

I = - 0.75*log 2 0.75 - 0.25*log 2 0.25 = - 0.75*(log0.75/log2)-0.25*(log0.25/log2) =

0,311 + 0,5 = 0,811

پاسخ:پیام حاوی 0.811 بیت اطلاعات است

کارت های تمرین (20 دقیقه)

№1

1. در جعبه 32 مداد رنگی وجود داشت. با این پیام که یک مداد قرمز از جعبه خارج شده است چقدر اطلاعات منتقل می شود؟

2. پیامی که دوست شما در طبقه 9 زندگی می کند حاوی 4 بیت اطلاعات است. خانه چند طبقه است؟

3. یک پیام 384 کاراکتری از یک الفبای 16 کاراکتری چند کیلوبایت خواهد بود؟

4. یک کتاب کامپیوتری شامل 250 صفحه; 40 خط در هر صفحه، 60 کاراکتر در هر خط. اطلاعات کتاب چقدر است؟

5. اعداد زیر را بنویسید سیستم دودوییحساب: 37 و 52.

№2

2. در کتابخانه مدرسه 8 قفسه با کتاب وجود دارد. هر قفسه دارای 4 قفسه است. کتابدار به واسیا گفت که کتاب مورد نیاز او در قفسه پنجم در قفسه دوم از بالا قرار دارد. کتابدار چقدر اطلاعات به واسیا داد؟

4. پیام حاوی چه مقدار اطلاعات است که عدم قطعیت دانش را 2 برابر کاهش می دهد؟

5. اعداد زیر را به صورت باینری بنویسید: 12 و 49.

1. هنگام حدس زدن یک عدد صحیح در یک محدوده خاص، 8 بیت اطلاعات دریافت شد. این محدوده شامل چند عدد است؟

2. وقتی چراغ قرمز بود به چراغ راهنمایی نزدیک شدید. سپس روشن شد نور زرد. چقدر اطلاعات دریافت کردید؟

3. قبیله پولتی الفبای 16 حرفی دارد. قبیله Multi از الفبای 32 حرفی استفاده می کند. سران قبایل نامه رد و بدل کردند. نامه قبیله پولتی شامل 90 کاراکتر و نامه قبیله Multi شامل 70 کاراکتر بود. مقدار اطلاعات موجود در حروف را با هم مقایسه کنید.

4. یک پیام 384 کاراکتری از الفبای 8 کاراکتری چند کیلوبایت خواهد بود؟

5. اعداد زیر را به صورت باینری بنویسید: 33 و 15.

2. پیام 2 صفحه را اشغال می کند و 1/16 کیلوبایت اطلاعات دارد. هر صفحه شامل 256 کاراکتر است. یک حرف از الفبای مورد استفاده چقدر اطلاعات دارد؟

3. پیامی که با حروف الفبای 128 کاراکتری نوشته شده است شامل 11 کاراکتر است. چقدر اطلاعات حمل می کند؟

4. 64 مداد رنگی در جعبه وجود دارد. چه مقدار اطلاعات در این پیام وجود دارد که یک مداد سبز از جعبه خارج شده است؟

5. اعداد زیر را به صورت باینری بنویسید: 17 و 42.

1. بازیکن دوم بعد از اولین حرکت بازیکن اول در یک بازی تیک تاک روی زمین 4x4 چه مقدار اطلاعات به دست خواهد آورد؟

2. 8 توپ در درام قرعه کشی وجود دارد. پیام حاوی چه مقدار اطلاعات در مورد اولین شماره کشیده شده است، مثلاً شماره 2 افتاد؟

3. تعداد بیت های اطلاعات در پیام "میشا یکی از 16 مکان در المپیاد انفورماتیک را گرفت"؟

4. شطرنجی فایل گرافیکیشامل تصویر سیاه و سفیدبا 16 درجه بندی رنگ خاکستریاندازه 10*10 نقطه حجم اطلاعات این فایل چقدر است؟

5. اعداد زیر را به صورت دودویی بنویسید: 28 و 51.

1. الفبای قبیله Multi از 8 حرف تشکیل شده است. یک پیام 13 کاراکتری حاوی چه مقدار اطلاعات است؟

2. یک فایل گرافیکی شطرنجی حاوی یک تصویر سیاه و سفید (بدون مقیاس خاکستری) با اندازه 100x100 پیکسل است. حجم اطلاعات این فایل چقدر است؟

3. هنگام حدس زدن یک عدد صحیح در یک محدوده مشخص، 5 بیت اطلاعات دریافت می شد. این محدوده شامل چند عدد است؟

4. تلگرام دریافت شد: «ماشین 6 ملاقات کنید». مشخص است که قطار از 16 واگن تشکیل شده است. چقدر اطلاعات دریافت شد؟

5. اعداد زیر را به صورت باینری بنویسید: 23 و 38.

1. یک هرم چهار وجهی متقارن پرتاب می شود. در پیام بصری چقدر اطلاعات در مورد سقوط آن بر روی یکی از چهره ها به دست می آوریم؟

2. حجم اطلاعات متن حاوی کلمه ENCODING در رمزگذاری 8 بیتی چقدر است؟

3. رنگ (با پالت 256 رنگ) بیت مپ تصویر گرافیکیدارای سایز 10*10 نقطه این تصویر چقدر حافظه خواهد داشت؟

4. پیامی که دوست شما در طبقه 8 زندگی می کند حاوی 4 بیت اطلاعات است. خانه چند طبقه است؟

5. اعداد زیر را به صورت باینری بنویسید: 19 و 46.

1. امکان انتخاب یک کارت از عرشه 32 کارتی وجود دارد. در پیام تصویری انتخاب یک کارت خاص چقدر اطلاعات به دست می آوریم؟

2. چه مقدار اطلاعات مورد نیاز است رمزگذاری باینریهر شخصیت در مجموعه ای از 256 کاراکتر؟

3. متن 0.5 کیلوبایت از حافظه کامپیوتر را اشغال می کند. این متن شامل چند کاراکتر است؟

4. الفبای قوم پولتی از 128 حرف تشکیل شده است. یک حرف این الفبا چقدر اطلاعات دارد؟

5. اعداد زیر را به صورت باینری بنویسید: 11 و 35.

1. از دانش آموزی در مدرسه پرسیده شد: "آیا دوستت در خانه است؟" او پاسخ داد: «نه. پاسخ شامل چه مقدار اطلاعات است؟

2. پیام 3 صفحه 25 خطی می گیرد. هر خط شامل 60 کاراکتر است. اگر کل پیام حاوی 1125 بایت باشد، در الفبای مورد استفاده چند کاراکتر وجود دارد؟

3. 16 توپ رنگارنگ در جعبه وجود دارد. پیام حاوی چه مقدار اطلاعات است که یک توپ زرد از جعبه خارج شده است؟

4. هنگام حدس زدن یک عدد صحیح در یک محدوده مشخص، 5 بیت اطلاعات دریافت می شد. این محدوده شامل چند عدد است؟

5. اعداد زیر را به صورت باینری بنویسید: 13 و 41.

1. تعداد بیت های اطلاعات در پیام "وانیا یکی از 8 مکان در المپیاد انفورماتیک را گرفت" چقدر است؟

2. یک کتاب کامپیوتری شامل 150 صفحه; 40 خط در هر صفحه، 60 کاراکتر در هر خط. اطلاعات کتاب چقدر است؟ در KB تعریف کنید.

3. هنگام حدس زدن یک عدد صحیح در محدوده 1 تا N، 8 بیت اطلاعات دریافت شد. N برابر چیست؟

4. پیامی که با حروف الفبای 32 کاراکتری نوشته شده است شامل 30 کاراکتر است. چقدر اطلاعات حمل می کند؟

5. اعداد زیر را به صورت باینری بنویسید: 16 و 39.

1. الفبای قبیله Multi از 16 حرف تشکیل شده است. یک حرف این الفبا چقدر اطلاعات دارد؟

2. پیامی که دوست شما در طبقه 8 زندگی می کند حاوی 5 بیت اطلاعات است. خانه چند طبقه است؟

3. حداکثر تعداد کتاب (هر 200 صفحه، 60 خط در هر صفحه، 80 کاراکتر در هر خط) را به طور کامل پیدا کنید. دیسک لیزریبا ظرفیت 600 مگابایت

4. برای حدس زدن یکی از 64 عدد چقدر اطلاعات لازم است؟

5. اعداد زیر را به صورت باینری بنویسید: 14 و 53.

1. تلگرام دریافت شد: «ماشین 4 ملاقات کنید». مشخص است که قطار از 8 واگن تشکیل شده است. چقدر اطلاعات دریافت شد؟

2. حجم یک پیام حاوی 2048 کاراکتر 1/512 مگابایت بود. اندازه حروف الفبا (چند کاراکتر در الفبا؟) که پیام با آن نوشته می شود چقدر است؟

3. "آیا در ایستگاه بعدی پیاده می شوید؟" از مرد در اتوبوس پرسید. او پاسخ داد: بله. پاسخ شامل چه مقدار اطلاعات است؟

4. پیامی که با حروف الفبای 16 کاراکتری نوشته شده است حاوی 25 کاراکتر است. پاسخ شامل چه مقدار اطلاعات است؟

5. اعداد زیر را به صورت باینری بنویسید: 26 و 47.

1. یک پیام حاوی 12288 بیت چند کیلوبایت است؟

2. پیام حاوی چه مقدار اطلاعات است که عدم قطعیت دانش را تا 4 برابر کاهش می دهد؟

3. یک پیام که با الفبای 16 کاراکتری نوشته شده است، در صورتی که حجم آن 1/16 مگابایت باشد، حاوی چند کاراکتر است؟

4. گروهی از دانش آموزان به استخر آمدند که 8 مسیر برای شنا دارد. مربی گفت که گروه در لاین شماره 4 شنا خواهد کرد. دانش آموزان چقدر از این پیام مطلع شدند؟

5. اعداد زیر را به صورت باینری بنویسید: 18 و 25.

1. وقتی چراغ زرد روشن بود به چراغ راهنمایی نزدیک شدید. بعد از آن سبز شد. چقدر اطلاعات دریافت کردید؟

2. برای نوشتن متن از الفبای 256 حرفی استفاده شده است. هر صفحه شامل 30 خط 60 کاراکتری در هر خط است. 6 صفحه متن حاوی چه مقدار اطلاعات است؟

3. 64 توپ در درام قرعه کشی وجود دارد. پیام حاوی چه مقدار اطلاعات در مورد اولین عدد ترسیم شده (مثلاً عدد 32 افتاد) است؟

4. هنگام حدس زدن یک عدد صحیح در یک محدوده خاص، 7 بیت اطلاعات دریافت می شد. این محدوده شامل چند عدد است؟

5. اعداد زیر را به صورت باینری بنویسید: 27 و 56.

1. پیامی که پتیا در ورودی اول زندگی می کند حاوی 2 بیت اطلاعات است. خانه چند ایوان دارد؟

2. پیامی که با حروف الفبای 128 کاراکتری نوشته شده است حاوی 40 کاراکتر است. چقدر اطلاعات حمل می کند؟

3. یک پیام اطلاعاتی 1.5 کیلوبایتی حاوی 3072 کاراکتر است. الفبای این پیام با چند کاراکتر نوشته شده است؟

4. یک پیام 284 کاراکتری از یک الفبای 16 کاراکتری چند کیلوبایت خواهد بود؟

5. اعداد زیر را به صورت باینری بنویسید: 10 و 29.

1. بازیکن دوم پس از اولین حرکت بازیکن اول در یک بازی تیک تاک در زمین 4x4 چه مقدار اطلاعات به دست خواهد آورد؟

2. چند بایت اطلاعات در 1 مگابایت وجود دارد؟

3. اگر پس از اجرای یکی از آنها، مقدار اطلاعاتی معادل 7 بیت دریافت کنیم، تعداد رویدادهای ممکن چقدر بود؟

4. برای نوشتن پیام از الفبای 64 کاراکتری استفاده شده است. هر صفحه شامل 30 خط است. کل پیام حاوی 8775 بایت اطلاعات و 6 صفحه است. چند کاراکتر در هر خط؟

5. اعداد زیر را به صورت باینری بنویسید: 22 و 59.

1. پیامی که با حروف الفبای 128 کاراکتری نوشته شده است حاوی 40 کاراکتر است. چقدر اطلاعات حمل می کند؟

2. اگر بازیکن اول عددی را در بازه 1 تا 64 حدس بزند، بازیکن دوم با استراتژی درست چه مقدار اطلاعات در بازی "عدد را حدس بزنید" به دست می آورد؟

3. برای نوشتن متن از الفبای 256 حرفی استفاده شده است. هر صفحه شامل 30 خط 70 کاراکتری در هر خط است. 3 صفحه متن حاوی چه مقدار اطلاعات است؟

4. متن 0.25 کیلوبایت حافظه کامپیوتر را اشغال می کند. این متن شامل چند کاراکتر است؟

5. اعداد زیر را به صورت باینری بنویسید: 32 و 51.

1. چند بیت اطلاعات در 1 کیلوبایت وجود دارد؟

2. قبیله اول الفبای 16 حرفی دارد. قبیله دوم از الفبای 32 حرفی استفاده می کند. سران قبایل نامه رد و بدل کردند. نامه قبیله اول شامل 90 کاراکتر و نامه قبیله دوم 80 کاراکتر بود. مقدار اطلاعات موجود در حروف را با هم مقایسه کنید.

3. هنگام بازی رولت با 32 سکتور چقدر اطلاعات به دست می آید؟

4. اطلاعات با سرعت 2.5 Kb / s منتقل می شود. در 20 دقیقه چقدر اطلاعات منتقل می شود؟

5. اعداد زیر را به صورت باینری بنویسید: 21 و 48.

حل مسائل انتخابی (20 دقیقه)

№1

پیام با استفاده از الفبای حاوی 8 کاراکتر نوشته شده است. یک حرف این الفبا چقدر اطلاعات دارد؟ راه حل: I = log 2 8 = 3 بیت.

پاسخ: 3 بیت.

№2

حجم اطلاعات یک کاراکتر از یک پیام برابر با 6 بیت است. چند کاراکتر در الفبای این پیام وجود دارد؟ راه حل: N=2 I = 2 6 = 64 کاراکتر.

پاسخ: 64 کاراکتر.

№3

حجم اطلاعات یک کاراکتر از یک پیام برابر است 5 بیت ها حدود (حداکثر و حداقل مقدار) قدرت الفبا که این پیام با آن ساخته شده است چیست؟

راه حل: N = 2 I = 2 5 = 32 — حداکثر مقدارقدرت های الفبا اگر حداقل یک کاراکتر بیشتر باشد، 6 بیت برای رمزگذاری مورد نیاز است.

حداقل مقدار 17 کاراکتر است، زیرا برای کاراکترهای کمتر، 4 بیت کافی است. پاسخ: 4 بیت.

№4

پیامی که با حروف الفبای 128 حرفی حاوی 30 کاراکتر نوشته شده است. چقدر اطلاعات حمل می کند؟

داده شده: N = 128، K = 30.

پیدا کردن: 1 تن -؟

راه حل:

1) I t \u003d KI، ناشناخته I؛

2) I = log 2 N = log 2 l 28 \u003d 7 بیت - حجم یک کاراکتر؛

3) من m = 30 * 7 = 210 بیت - حجم کل پیام.

پاسخ:210 بیت کل اندازه پیام است.

№5

پیامی که با استفاده از الفبای 32 نویسه ای تشکیل شده است شامل 80 کاراکتر است. پیام دیگری با استفاده از الفبای 64 کاراکتری نوشته شده و شامل 70 کاراکتر است. مقادیر اطلاعات موجود در پیام ها را مقایسه کنید.

داده شده: N 1 \u003d 32, K 1 \u003d 80, N 2 \u003d 64, K 2 \u003d 70.

پیدا کردن: I t1 I t2

راه حل:

I ) I 1 = log 2 Nl = log 2 32 = 5 بیت - حجم یک کاراکتر از پیام اول.

1. اطلاعات. اشیاء اطلاعاتی انواع مختلف. اصلی فرآیندهای اطلاعاتی: ذخیره سازی، انتقال و پردازش اطلاعات. نقش اطلاعات در زندگی مردم.
2. درک، به خاطر سپردن و تبدیل سیگنال ها توسط موجودات زنده.
3. مفهوم مقدار اطلاعات: رویکردهای مختلف. واحدهای اندازه گیری مقدار اطلاعات
4. تعمیم درس در مورد موضوع، کار مستقل.

درس.

• آموزشی- مفهوم مقدار اطلاعات را ارائه دهد، رویکرد احتمالی و الفبایی را در تعیین مقدار اطلاعات معرفی کند، واحدهای اندازه گیری اطلاعات را معرفی کند، مهارت های عملی در تعیین میزان اطلاعات را شکل دهد.
• در حال توسعه- ادامه شکل گیری یک جهان بینی علمی، گسترش واژگان در مورد موضوع "اطلاعات"
• آموزشی- ایجاد علاقه به موضوع، پرورش استقامت در غلبه بر مشکلات در کار آموزشی.

1. مرحله سازمانی (سلام، شناسایی غایبان درس)

2. بررسی تکالیف، فعال کردن دانش

با موضوع "اطلاعات" دریافت شده در 2 درس قبلی. برای شکل دادن به گفتار، برای تثبیت مفاهیم اساسی این موضوع، بررسی مشق شبدر قالب یک نظرسنجی شفاهی پیشانی در مورد سوالات زیر انجام شد:

1. از اطلاعات چه می فهمی؟ مثال بزن. پاسخ‌های پیشنهادی: معمولاً دانش‌آموزان به راحتی نمونه‌هایی از اطلاعاتی را که خود در دنیای اطراف دریافت می‌کنند - اخبار، زنگ مدرسه، دانش جدید در کلاس، اطلاعات به‌دست‌آمده از خواندن ادبیات علمی عامه پسند، تجربه و احساسات به‌دست‌آمده از خواندن داستان‌های تخیلی، تجربیات عاطفی ارائه می‌کنند. ، از گوش دادن به موسیقی ، قوانین زیبایی شناختی ، اطلاعات مربوط به لباس و زندگی قرن 18 ، احساسات دریافتی هنگام مشاهده نقاشی های هنرمندان قرن 18 به دست آمده است. مطلوب است که دانش آموزان نمونه هایی از اطلاعات را در سیستم های فنی و بیولوژیکی و غیره ارائه دهند (شکل ریش کلید حاوی اطلاعاتی در مورد قفل، دمای هوای معین در اتاق - اطلاعات مربوط به سیستم اطفاء حریق، یک سلول بیولوژیکی حاوی اطلاعات است. اطلاعات مربوط به شی بیولوژیکی که بخشی از آن است…)
2. می دانیم که دو موجود مهم دیگر جهان، ماده و انرژی، قبل از موجودات زنده روی زمین وجود داشته اند. آیا اطلاعات و فرآیندهای اطلاعاتی قبل از ظهور انسان وجود داشته است؟ پاسخ پیشنهادی این است که بله وجود داشت. به عنوان مثال، اطلاعات موجود در یک سلول گیاهی در مورد نوع گیاه، در مورد شرایط جوانه زنی، تولید مثل و غیره به گیاه اجازه رشد و تکثیر بدون دخالت انسان را می دهد. اطلاعات جمع‌آوری‌شده توسط نسل‌های حیوانات درنده، بازتاب‌های شرطی و بدون قید و شرط رفتار نسل‌های بعدی شکارچیان را تشکیل می‌دهد.
3. ماده چیزی است که همه چیز از آن ساخته شده است، انرژی چیزی است که همه چیز را به حرکت در می آورد. آیا این درست است که اطلاعات جهان را کنترل می کند؟ پاسخت رو توجیه کن. پاسخ: اطلاعات واقعاً بر جهان حاکم است. سیگنال از زمین به ماهواره باعث می شود که مسیر حرکت آن تغییر کند. اگر در راه حوضچه ای ببینیم، اطلاعاتی در مورد ظاهر آن، خیس و کثیف بودن آن، باعث می شود که تصمیم بگیریم از گودال عبور کنیم. ژست مشخص یک شخص (دستی که با کف دست عمودی به جلو کشیده شده است) ما را وادار می کند بایستیم، اطلاعات مربوط به ریش کلید و شکل شکاف قفل به ما امکان می دهد در مورد انتخاب یک کلید از یک دسته تصمیم بگیریم، رفلکس ها شکل می گیرند. توسط نسل های گونه خاصی از پرندگان، فرآیندهای مهاجرت را کنترل می کنند. وقتی داستان می خوانیم، تجربیات زندگی شخصیت ها را جذب می کنیم که بر تصمیمات خاصی در زندگی ما تأثیر می گذارد. با گوش دادن به موسیقی خاصی، ذائقه مناسبی را شکل می دهیم که بر رفتار، محیط و غیره ما تأثیر می گذارد.
4. انواع اطلاعات را با توجه به شکل ارائه نام ببرید، مثال بزنید. پاسخ: عددی (قیمت کالا، اعداد در تقویم)، متنی (کتاب نوشته شده به هر زبان، متن کتاب درسی)، گرافیکی (تصویر، عکس، علامت STOP)، صدا (موسیقی، گفتار)، ویدئو (انیمیشن + صدا)، دستور (کامپیوتر را مجدداً راه اندازی کنید - با فشار دادن کلیدهای Ctrl + Alt + Delete / Enter).
5. با اطلاعات چه اقداماتی می توان انجام داد؟ پاسخ: می توان آن را پردازش، انتقال، ذخیره و رمزگذاری (نمایش) کرد.
6. راه هایی را که مردم اطلاعات را درک می کنند را فهرست کنید. پاسخ: فرد اطلاعات را با کمک 5 حس درک می کند - بینایی (به صورت تصاویر بصری)، شنوایی (صداها - گفتار، موسیقی، سر و صدا ...)، بویایی (بویایی با کمک گیرنده های بینی)، چشایی ( گیرنده های زبان بین ترش، تلخ، شور، سرد)، لمس (دمای اجسام، نوع سطح…)
7. نمونه هایی از سیستم های نشانه ای را ذکر کنید. پاسخ: زبان طبیعی، زبان رسمی (سیستم اعداد اعشاری، یادداشت ها، علائم جاده، کد مورس)، الفبای ژنتیکی، سیستم علامت دودویی.
8. چرا یک کامپیوتر از یک سیستم کاراکتر باینری برای رمزگذاری اطلاعات استفاده می کند؟ پاسخ: سیستم علامت دودویی در رایانه استفاده می شود، زیرا موجود است دستگاه های فنیمی تواند به طور قابل اعتماد تنها دو حالت (نشانه) متفاوت را ذخیره و تشخیص دهد.

3. رویکرد احتمالی برای اندازه گیری مقدار اطلاعات (به ارائه چند رسانه ای مراجعه کنید).

امروز در مورد اندازه گیری اطلاعات، یعنی در مورد تعیین کمیت آن صحبت خواهیم کرد. (دانش آموزان موضوع درس را در یک دفتر می نویسند - "مقدار اطلاعات"). به نظر شما شامل کدام کتاب است مقدار زیاداطلاعات (نشان دادن نازک و ضخیم)؟ به عنوان یک قاعده، دانش آموزان یک ضخیم را انتخاب می کنند، زیرا حاوی کلمات، متن، حروف بیشتری است (بعضی از بچه ها می پرسند چه نوع اطلاعاتی در کتاب موجود است - گرافیکی یا متنی؟ باید روشن شود که کتاب فقط حاوی اطلاعات متنی است). کدام پیام حاوی اطلاعات بیشتری برای شماست: "فردا طبق برنامه معمول مطالعه می کنیم" یا "فردا به جای ادبیات شیمی خواهد بود"؟ دانش آموزان به طور شهودی پاسخ خواهند داد که دومی به این دلیل است که با وجود تعداد کلمات تقریباً یکسان، پیام دوم حاوی اطلاعات مهم، جدید یا مرتبط تری برای آنهاست. و پیام اول اصلاً حاوی اطلاعات جدیدی نیست. آیا توجه کرده اید که به اطلاعات از نظر تعداد کاراکترها و از نظر اهمیت معنایی آن برای شما نگاه کرده اید؟ 2 رویکرد برای تعیین میزان اطلاعات وجود دارد - معنایی و فنی (الفبایی). معنایی برای اندازه گیری اطلاعات مورد استفاده توسط یک شخص و فنی (یا حروف الفبا) توسط رایانه استفاده می شود.

برای یک فرد، کسب اطلاعات جدید منجر به افزایش دانش یا کاهش عدم اطمینان می شود. به عنوان مثال، گزارش اینکه فردا چهارشنبه است، عدم قطعیت را کاهش نمی دهد، بنابراین حاوی اطلاعاتی نیست. فرض کنید سکه ای داریم که روی یک سطح صاف می اندازیم. ما قبل از پرتاب می دانیم که یکی از دو چیز ممکن است رخ دهد - سکه در یکی از دو موقعیت قرار می گیرد: سر یا دم. پس از پرتاب، اطمینان کامل ایجاد می شود (از نظر بصری اطلاعاتی در مورد آنچه که بیرون افتاده است، به عنوان مثال، "عقاب" دریافت می کنیم). پیام اطلاعاتی که "عقاب" سقوط کرد، عدم اطمینان ما را 2 برابر کاهش می دهد، زیرا یکی از این دو پیام های اطلاعاتی.

در واقعیت، اغلب موقعیت‌هایی وجود دارد که بیش از 2 رویداد با احتمال یکسان ممکن است رخ دهد. بنابراین، هنگام پرتاب یک تاس شش طرفه - 6 رویداد به همان اندازه محتمل. افتادن یکی از وجوه مکعب عدم قطعیت را تا 6 برابر کاهش می دهد. هرچه تعداد اولیه رویدادها بیشتر باشد، عدم قطعیت دانش ما بیشتر است، اطلاعات بیشتری هنگام دریافت پیام اطلاعاتی دریافت خواهیم کرد.

میزان اطلاعات را می توان به عنوان معیاری برای کاهش عدم قطعیت دانش در هنگام دریافت پیام های اطلاعاتی در نظر گرفت.(دانش آموزان با حروف مورب در دفترچه یادداشت خود می نویسند.)

فرمولی وجود دارد که تعداد پیام‌های اطلاعاتی ممکن N و مقدار اطلاعات I را که پیام دریافت‌شده حمل می‌کند، مرتبط می‌کند:

N=2من (N تعداد پیام های اطلاعاتی ممکن است،I مقدار اطلاعاتی است که پیام دریافتی با خود حمل می کند).

برای بیان کمی هر کمیت، تعیین واحد اندازه گیری ضروری است. به عنوان مثال، یک متر استاندارد خاص برای اندازه گیری طول و یک کیلوگرم برای اندازه گیری جرم انتخاب می شود.

4. واحدهای اندازه گیری اطلاعات

پشت واحد اندازه گیری مقدار اطلاعاتمقدار اطلاعات موجود در پیام دریافت می شود که عدم قطعیت دانش را تا 2 برابر کاهش می دهد. چنین واحدی نامیده می شود بیت

برگردیم به دریافت پیام اطلاع رسانی در نظر گرفته شده در بالا مبنی بر افتادن «عقاب» هنگام پرتاب سکه. در اینجا عدم قطعیت ضریب 2 کاهش یافته است، بنابراین این پیام برابر با 1 بیت است. پیغام افتادن صورت خاصی از تاس، عدم قطعیت را ضریب 6 کاهش می دهد، بنابراین این پیام برابر با 6 بیت است.

کوچکترین واحد برای اندازه گیری مقدار اطلاعات یک بیت و بزرگترین واحد بعدی یک بایت است و

1 بایت = 8 بیت

که در سیستم بین المللی SI از پیشوندهای اعشاری "Kilo" (10 3)، "Mega" (10 6)، "Giga" (10 9)، ... در یک کامپیوتر، اطلاعات با استفاده از یک سیستم علامت باینری کدگذاری می شود، بنابراین، در چندین واحد از برای اندازه گیری مقدار اطلاعات از ضریب 2 n استفاده می شود.

1 کیلوبایت (KB) = 2 10 بایت = 1024 بایت
1 مگابایت (MB) = 2 10 کیلوبایت = 1024 کیلوبایت
1 گیگابایت (GB) = 2 10 مگابایت = 1024 مگابایت
1 ترابایت (TB) = 2 10 گیگابایت = 1024 گیگابایت

ترابایت یک واحد اطلاعات بسیار بزرگ است، بنابراین به ندرت از آن استفاده می شود. تمام اطلاعاتی که بشر جمع آوری کرده است ده ها ترابایت تخمین زده می شود.

5. تعیین میزان اطلاعات

وظیفه 1. اگر پیام تصویری در مورد تعداد یک بلیط کشیده شده حاوی 5 بیت اطلاعات باشد، تعداد بلیط های امتحان را تعیین کنید. تعداد بلیط ها تعداد پیام های اطلاعاتی است. N=2 I = 2 5 = 32 بلیط.

وظیفه 2. پیام در مورد ارزیابی برای چه مقدار اطلاعات است تست? برای آزمون می توانید 2، 3، 4 یا 5 دریافت کنید که در کل 4 پیام وجود دارد (N=4). فرمول به شکل یک معادله است - 4=2 I = 2 2 , I=2.

وظایف برای خودشکوفایی: (فرمول باید همیشه جلوی چشمان شما باشد، همچنین می توانید یک میز با توان های 2 را آویزان کنید) (3 دقیقه.)

1. در پیام بصری در مورد سقوط یک هرم هشت وجهی متقارن روی یکی از وجوه چقدر اطلاعات به دست می آوریم؟ پاسخ: 3 بیت، زیرا تعداد رویدادهای ممکن (پیام) N=8، 8=2 I = 2 3 , I=3.
2. توپ های دارای اعداد از یک کیسه مات خارج می شوند و مشخص است که پیام اطلاعاتی شماره توپ حاوی 5 بیت اطلاعات است. تعداد توپ های داخل کیسه را مشخص کنید. پاسخ: 32 توپ در کیسه وجود دارد، زیرا N=2 I = 2 5 = 32.
3. بازیکن دوم پس از اولین حرکت بازیکن اول، هنگام بازی تیک تاک روی زمین سلولی 4 در 4 چه مقدار اطلاعات دریافت می کند. پاسخ: تعداد رویدادهای قبل از شروع بازی N=16، 16=2 I = 2 4 , I=4. بازیکن دوم پس از اولین حرکت بازیکن اول 4 بیت اطلاعات دریافت می کند.

6. رویکرد الفبایی برای تعیین میزان اطلاعات

ماهیت رویکرد فنی یا الفبایی برای اندازه گیری اطلاعات با تعداد کاراکترهای برخی از حروف الفبای مورد استفاده برای نشان دادن آن تعیین می شود. به عنوان مثال، اگر هنگام نمایش عدد XVIII، 5 کاراکتر از الفبای رومی استفاده شود، این مقدار اطلاعات است. همان عدد، یعنی همان اطلاعات را می توان در آن نوشت سیستم اعشاری(18). همانطور که می بینید، 2 کاراکتر به نظر می رسد، یعنی مقدار دیگری برای مقدار اطلاعات. برای به دست آوردن مقدار یکسانی از مقدار اطلاعات هنگام اندازه گیری همان اطلاعات، لازم است در مورد استفاده از یک الفبای خاص توافق شود. از آنجایی که در سیستم های فنیاز آنجایی که از الفبای دودویی استفاده می شود، برای اندازه گیری میزان اطلاعات نیز استفاده می شود. تعداد کاراکترهای الفبا N=2، N=2 I , I - مقدار اطلاعاتی که یک کاراکتر حمل می کند. 2 2 = 2 1، I = 1 بیت. جالب اینجاست که خود واحد اندازه گیری مقدار اطلاعات "bit" (bit) نام خود را از عبارت انگلیسی "" گرفته است. BIناری دیجی تی" - "رقم دودویی".

هرچه تعداد کاراکترهای حروف الفبا بیشتر باشد، 1 کاراکتر الفبا اطلاعات بیشتری را در خود جای می دهد.

میزان اطلاعاتی که 1 حرف از الفبای روسی دارد را خودتان تعیین کنید.

پاسخ: یک حرف از الفبای روسی حاوی 5 بیت اطلاعات است (با رویکرد الفبایی برای اندازه گیری اطلاعات).

چه مقدار اطلاعات در یک نماد 8 بیتی وجود دارد کد باینری(شخصیت A - 11000000)؟ پاسخ: 8 بیت یا 1 بایت.

کار عملی(جزوه - کارت دستورالعملبرای اعدام کار عملی) با تعیین مقدار اطلاعات با استفاده از ماشین حساب:

1. حجم اطلاعات پیام زیر را بر حسب بایت تعیین کنید (پیام بر روی یک کارت چاپ می شود، کارت های روی هر میز):

مقدار اطلاعاتی که یک علامت حمل می کند به احتمال دریافت آن بستگی دارد. در گفتار نوشتاری روسی، فراوانی استفاده از حروف در متن متفاوت است، بنابراین به طور متوسط ​​200 حرف "a" در هر 1000 کاراکتر یک متن معنی دار وجود دارد و تعداد حروف "f" صد برابر کمتر است (فقط 2). ). بنابراین، از دیدگاه نظریه اطلاعات، ظرفیت اطلاعاتعلائم الفبای روسی متفاوت است (برای حرف "a" کوچکترین است و برای حرف "f" بزرگترین است).

تعداد کاراکترها را تعیین کنید (تعداد کاراکتر در هر خط * تعداد خطوط) - 460 کاراکتر = 460 بایت

این متن را با استفاده از Notepad وارد کنید و روی دسکتاپ خود ذخیره کنید. حجم اطلاعات این فایل را با استفاده از کامپیوتر تعیین کنید (شیء APCM à Properties را انتخاب کنید) پاسخ: 460 بایت.

این متن را می توان به صورت فایل صوتی 1.wav و مقایسه با متن (شروع à برنامه ها à لوازم جانبی à سرگرمی à ضبط صدا ...). حجم اطلاعات آن را با استفاده از رایانه تعیین کنید - 5.28 مگابایت (5،537،254 بایت). برای دانش آموزان توضیح دهید که این تفاوت ناشی از تفاوت در ارائه صدا و اطلاعات متنی. ویژگی های چنین نمایندگی بعدا در نظر گرفته خواهد شد.

2. تعیین کنید که چه تعداد کتاب درسی روی یک دیسک که حجم اطلاعات آن 700 مگابایت است قرار می گیرد. پاسخ: 1. تعیین تعداد کاراکترهای کتاب درسی (تعداد کاراکتر در هر خط * تعداد خطوط در هر صفحه * تعداد صفحات) 60 * 30 * 203 = 365400 کاراکتر = 365400 بایت = 365400/1024/1024 Mb = 0.35 Mb. . تعداد کتاب درسی K=700/0.35=2000 کتاب درسی.

7. جمع بندی درس به صورت پیمایش پیشانی:

1. چه رویکردهایی برای تعیین میزان اطلاعات وجود دارد؟ پاسخ: 2 رویکرد برای سنجش میزان اطلاعات وجود دارد - معنایی و فنی یا الفبایی.
2. تفاوت یک رویکرد با رویکرد دیگر چیست؟ پاسخ: با رویکرد معنایی، مقدار اطلاعات معیاری برای کاهش عدم قطعیت دانش هنگام دریافت پیام اطلاعاتی است، با رویکرد الفبایی تعداد کاراکترهای پیام * مقدار اطلاعاتی است که 1 کاراکتر از الفبا حمل می کند.
3. واحدهای اندازه گیری اطلاعات را از کوچکترین به بزرگترین فهرست کنید. پاسخ: بیت، بایت، کیلوبایت، مگابایت، گیگابایت، TB.
4. یک بایت چقدر با KB، کیلوبایت با مگابایت، مگابایت با گیگابایت تفاوت دارد؟ جواب: 1024 (2 10).
5. 1 بایت چند بیت است؟ پاسخ: 8.
6. در رویکرد معنایی و الفبایی برای تعیین میزان اطلاعات چه بیتی وجود دارد؟ پاسخ: با رویکرد معنایی، کمی کاهش 2 برابری عدم قطعیت دانش پس از دریافت پیام اطلاعاتی است. در رویکرد حروف الفبا، بیت ظرفیت اطلاعات یک کاراکتر در کدگذاری باینری است.

8. تکالیف

1. پاراگراف های 1.3.1 و 1.1.3 (N. Ugrinovich "Informatics. Basic. Grade 8") 2 سوال در صفحه 29 (1. مثال هایی از پیام های اطلاعاتی ارائه دهید که منجر به کاهش عدم قطعیت دانش می شود. 2. مثال هایی بزنید. از پیام های اطلاعاتی که حاوی 1 بیت اطلاعات هستند).
2. وظایف: 1. پیام در مورد علامت برای کار کنترل چقدر اطلاعات دارد؟ 2. محاسبه کنید چه مقدار اطلاعات در بیت در 1 کیلوبایت، 1 مگابایت وجود دارد؟ 3. محاسبه کنید که چند کتاب (هر کتاب داستانی را در خانه ببرید) روی یک فلاپی دیسک 1.44 مگابایتی قرار می گیرد.