نمونه های وابستگی تصادفی در زندگی اتصالات عملکردی و تصادفی

اجازه دهید مطالعه وابستگی لازم باشد و هر دو کمیت در آزمایش های مشابه اندازه گیری شوند. برای انجام این کار، یک سری آزمایش در مقادیر مختلف انجام می شود و سعی می شود سایر شرایط آزمایشی بدون تغییر باقی بماند.

اندازه گیری هر کمیت حاوی خطاهای تصادفی است (در اینجا خطاهای سیستماتیک را در نظر نخواهیم گرفت). بنابراین، این مقادیر تصادفی هستند.

رابطه طبیعی متغیرهای تصادفی را تصادفی می گویند. ما دو مشکل را در نظر خواهیم گرفت:

الف) تعیین کنید که آیا (با احتمال معین) وابستگی به آن وجود دارد یا اینکه ارزش به آن بستگی ندارد.

ب) اگر وابستگی وجود دارد، آن را به صورت کمی توصیف کنید.

اولین کار آنالیز واریانس نامیده می شود و اگر تابعی از متغیرهای زیادی در نظر گرفته شود، تحلیل واریانس چند متغیره. دومین کار تحلیل رگرسیون نام دارد. اگر خطاهای تصادفی بزرگ باشند، می توانند وابستگی مورد نظر را پنهان کنند و شناسایی آن ممکن است آسان نباشد.

بنابراین، کافی است یک متغیر تصادفی را بسته به یک پارامتر در نظر بگیرید. انتظار ریاضی این مقدار بستگی به این دارد که این وابستگی مطلوب باشد و قانون رگرسیون نامیده می شود.

تحلیل واریانس. اجازه دهید یک سری اندازه گیری کوچک برای هر مقدار انجام دهیم و تعیین کنیم دو روش پردازش این داده ها را در نظر بگیرید، که به ما امکان می دهد بررسی کنیم که آیا وابستگی قابل توجهی (به عنوان مثال، با احتمال اطمینان پذیرفته شده) z به وجود دارد یا خیر.

در روش اول، استانداردهای نمونه برداری یک اندازه گیری برای هر سری به طور جداگانه و برای کل مجموعه اندازه گیری ها محاسبه می شود:

تعداد کل اندازه گیری ها کجاست و

مقادیر متوسط، به ترتیب، برای هر سری و برای کل مجموعه اندازه گیری هستند.

بیایید واریانس مجموعه ای از اندازه گیری ها را با واریانس سری های جداگانه مقایسه کنیم. اگر معلوم شد که در سطح اطمینان انتخاب شده می توان برای همه i محاسبه کرد، پس وابستگی z به وجود دارد.

اگر بیش از حد قابل اعتماد وجود نداشته باشد، نمی توان وابستگی را تشخیص داد (با توجه به دقت آزمایش و روش پردازش اتخاذ شده).

واریانس ها با استفاده از آزمون فیشر مقایسه می شوند (30). از آنجایی که s استاندارد با تعداد کل اندازه گیری های N تعیین می شود که معمولاً بسیار بزرگ است، تقریباً همیشه می توانید از ضرایب فیشر ارائه شده در جدول 25 استفاده کنید.

روش دوم تجزیه و تحلیل، مقایسه میانگین ها در مقادیر مختلف با یکدیگر است. مقادیر تصادفی و مستقل هستند و استانداردهای نمونه گیری خودشان برابر است

بنابراین، آنها با توجه به طرح اندازه گیری های مستقل که در بند 3 توضیح داده شده است، مقایسه می شوند. اگر تفاوت بین هر 2 ناچیز باشد، نمی توان وابستگی را تشخیص داد.

تجزیه و تحلیل چند متغیره دارای ویژگی هایی است. توصیه می شود مقدار را در گره های یک شبکه مستطیلی اندازه گیری کنید تا مطالعه وابستگی به یک آرگومان راحت تر باشد و آرگومان دیگری را ثابت کند. انجام یک سری اندازه گیری در هر گره از یک شبکه چند بعدی بسیار کار فشرده است. برای تخمین پراکندگی یک اندازه گیری، کافی است یک سری اندازه گیری در چندین نقطه شبکه انجام شود. در گره های دیگر می توانیم خود را به اندازه گیری های منفرد محدود کنیم. آنالیز واریانس طبق روش اول انجام می شود.

نکته 1. اگر اندازه‌گیری‌های زیادی وجود داشته باشد، در هر دو روش، اندازه‌گیری‌ها یا سری‌های منفرد می‌توانند با احتمال قابل‌توجهی به شدت از انتظارات ریاضی خود منحرف شوند. این باید هنگام انتخاب یک احتمال اطمینان به اندازه کافی نزدیک به 1 در نظر گرفته شود (همانطور که در تعیین حدود جداسازی خطاهای تصادفی مجاز از خطاهای ناخالص انجام شد).

تجزیه و تحلیل رگرسیون. بگذارید تحلیل واریانس نشان دهد که وابستگی z به است. چگونه می توان آن را کمیت کرد؟

برای انجام این کار، وابستگی مورد نظر را با یک تابع مشخص تقریب می زنیم، مقادیر بهینه پارامترها را با استفاده از روش حداقل مربعات، حل می کنیم

وزن‌های اندازه‌گیری که به نسبت معکوس با مجذور خطای اندازه‌گیری در یک نقطه مشخص انتخاب شده‌اند، کجا هستند (یعنی). این مشکل در فصل دوم، § 2 مورد تجزیه و تحلیل قرار گرفت.

نوع یا از ملاحظات نظری در مورد ماهیت وابستگی یا به طور رسمی، با مقایسه نمودار با نمودارهای توابع شناخته شده انتخاب می شود. اگر فرمول از ملاحظات نظری انتخاب شود و به درستی (از نقطه نظر نظری) مجانبی را منتقل کند، معمولاً نه تنها به خوبی مجموعه داده های تجربی را تقریب می دهد، بلکه وابستگی یافت شده را به محدوده های دیگر مقادیر نیز برون یابی می کند. یک تابع به طور رسمی انتخاب شده می تواند به طور رضایت بخشی آزمایش را توصیف کند، اما به ندرت برای برون یابی مناسب است.

اگر یک چند جمله ای جبری باشد، حل مسئله (34) به ندرت رضایت بخش است. به طور معمول، فرمول های خوب به طور غیرخطی به پارامترها (رگرسیون استعلایی) بستگی دارند. ساختن رگرسیون استعلایی با انتخاب چنین جایگزینی همسطح متغیرها به گونه‌ای که وابستگی تقریباً خطی باشد راحت‌تر است (به فصل دوم، بند 1، بند 8 مراجعه کنید). سپس به راحتی می توان آن را با یک چند جمله ای جبری تقریب کرد: .

یک تغییر همسطح متغیرها با استفاده از ملاحظات نظری و با در نظر گرفتن مجانبی به دنبال آن است که چنین تغییری قبلاً انجام شده است.

نکته 2. هنگام انتقال به متغیرهای جدید، مسئله روش حداقل مربعات (34) شکل می گیرد.

که در آن اوزان جدید مربوط به روابط اصلی است

بنابراین، حتی اگر در فرمول اولیه (34) همه اندازه‌گیری‌ها دقت یکسانی داشته باشند، وزن متغیرهای تسطیح یکسان نخواهد بود.

تجزیه و تحلیل همبستگی. باید بررسی شود که آیا جایگزینی متغیرها واقعاً همسطح بوده است، یعنی آیا وابستگی نزدیک به خطی است یا خیر. این را می توان با محاسبه ضریب همبستگی جفت انجام داد

به راحتی می توان نشان داد که رابطه همیشه راضی است

اگر وابستگی کاملاً خطی باشد (و حاوی خطاهای تصادفی نباشد)، پس یا بسته به علامت شیب خط مستقیم است. هر چه کوچکتر باشد، وابستگی کمتر به خطی شباهت دارد. بنابراین، اگر، و تعداد اندازه گیری های N به اندازه کافی بزرگ باشد، متغیرهای سطح بندی به طور رضایت بخشی انتخاب می شوند.

چنین نتیجه گیری هایی در مورد ماهیت وابستگی بر اساس ضرایب همبستگی، تحلیل همبستگی نامیده می شود.

تحلیل همبستگی نیازی به انجام یک سری اندازه گیری در هر نقطه ندارد. کافی است در هر نقطه یک اندازه گیری انجام شود، اما سپس نقاط بیشتری از منحنی مورد مطالعه گرفته شود که اغلب در آزمایش های فیزیکی انجام می شود.

نکته 3. معیارهای نزدیکی وجود دارد که به شما امکان می دهد نشان دهید که آیا وابستگی عملاً خطی است یا خیر. ما روی آنها تمرکز نمی کنیم، زیرا انتخاب درجه چند جمله ای تقریبی در زیر در نظر گرفته خواهد شد.

نکته 4. نسبت نشان دهنده عدم وجود وابستگی خطی است اما به معنای عدم وجود وابستگی نیست. بنابراین، اگر در یک بخش - پس

چند جمله ای درجه بهینه a. اجازه دهید به جای مسئله (35) یک چند جمله ای تقریبی درجه را جایگزین کنیم:

سپس مقادیر پارامتر بهینه سیستم را برآورده می کند معادلات خطی (2.43):

و یافتن آنها دشوار نیست. اما چگونه درجه یک چند جمله ای را انتخاب کنیم؟

برای پاسخ به این سوال، اجازه دهید به متغیرهای اصلی برگردیم و واریانس فرمول تقریبی را با ضرایب یافت شده محاسبه کنیم. یک تخمین بی طرفانه از این واریانس است

بدیهی است که با افزایش درجه چند جمله ای، پراکندگی (40) کاهش می یابد: هر چه ضرایب بیشتری گرفته شود، نقاط تجربی را می توان با دقت بیشتری تقریب زد.

موسسه آموزشی ایالتی فدرال

آموزش عالی حرفه ای

فرهنگستان بودجه و خزانه داری

وزارت دارایی فدراسیون روسیه

شعبه کالوگا

خلاصه

بر اساس رشته:

اقتصاد سنجی

موضوع:روش اقتصاد سنجی و استفاده از وابستگی های تصادفی در اقتصاد سنجی

دانشکده حسابداری

تخصص

حسابداری، تحلیل و حسابرسی

بخش پاره وقت

مدیر علمی

شوتسوا اس.ت.

کالوگا 2007

معرفی

1. تحلیل رویکردهای مختلف برای تعیین احتمال: رویکرد پیشینی، رویکرد فرکانس پسینی، رویکرد مدل پسینی

2. نمونه‌هایی از وابستگی‌های تصادفی در اقتصاد، ویژگی‌های آنها و روش‌های احتمال-نظری مطالعه آنها

3. آزمون تعدادی فرضیه در مورد ویژگی های توزیع احتمال برای مولفه تصادفی به عنوان یکی از مراحل تحقیق اقتصادسنجی

نتیجه

کتابشناسی - فهرست کتب

معرفی

شکل گیری و توسعه روش اقتصاد سنجی بر اساس آمار به اصطلاح بالاتر - در روش های رگرسیون زوجی و چندگانه، همبستگی زوجی، جزئی و چندگانه، شناسایی روندها و سایر مؤلفه های سری زمانی و آماری صورت گرفت. برآورد کردن. آر فیشر می نویسد: «روش های آماری یک عنصر اساسی در علوم اجتماعی هستند و عمدتاً به کمک این روش ها است که آموزه های اجتماعی می توانند به سطح علوم ارتقا پیدا کنند.»

هدف این مقاله بررسی روش اقتصادسنجی و استفاده از وابستگی های تصادفی در اقتصاد سنجی بود.

هدف این مقاله تحلیل رویکردهای مختلف برای تعیین احتمال، ارائه مثال‌هایی از وابستگی‌های تصادفی در اقتصاد، شناسایی ویژگی‌های آنها و ارائه روش‌های احتمال-نظری برای مطالعه آنها و تحلیل مراحل تحقیق اقتصادسنجی است.

1. تحلیل رویکردهای مختلف برای تعیین احتمال: رویکرد پیشینی، رویکرد فرکانس پسینی، رویکرد مدل پسینی

برای توضیحات کاملبرای مکانیسم آزمایش تصادفی مورد مطالعه، تنها مشخص کردن فضای رویدادهای ابتدایی کافی نیست. بدیهی است، همراه با فهرست کردن تمام نتایج احتمالی آزمایش تصادفی مورد مطالعه، ما همچنین باید بدانیم که چند بار در یک سری طولانی از این آزمایش‌ها، رویدادهای ابتدایی خاصی ممکن است رخ دهند.

برای ساخت (در یک حالت گسسته) یک نظریه ریاضی کامل و کامل از یک آزمایش تصادفی - نظریه احتمال –علاوه بر مفاهیم اصلی آزمایش تصادفی، نتیجه ابتداییو رویداد تصادفینیاز به ذخیره بیشتر یک فرض اولیه (اکسیوم)،فرض وجود احتمالات رویدادهای ابتدایی (ارضای یک نرمال سازی خاص)، و تعریفاحتمال وقوع هر رویداد تصادفی

اصل.هر عنصر w i از فضای رویدادهای ابتدایی Ω با برخی از مشخصه های عددی غیر منفی مطابقت دارد پ i شانس وقوع آن، احتمال وقوع رویداد نامیده می شود wمن و

پ 1 + پ 2 + . . . + پ n + . . . = ∑ پ من = 1 (1.1)

(از اینجا، به ویژه، چنین است که 0 ≤ آر من ≤ 1 برای همه من ).

تعیین احتمال وقوع یک رویداد.احتمال هر رویدادی آبه عنوان مجموع احتمالات همه رویدادهای ابتدایی که رویداد را تشکیل می دهند تعریف می شود آ،آن ها اگر از نمادهای P(A) برای نشان دادن "احتمال یک رویداد" استفاده کنیم آ» , که

P(A) = ∑ P( w من } = ∑ پ من (1.2)

از اینجا و از (1.1) بلافاصله نتیجه می شود که 0 ≤ Р(A) ≤ 1، و احتمال یک رویداد قابل اعتماد برابر با یک و احتمال یک رویداد غیرممکن برابر با صفر است. تمام مفاهیم و قواعد دیگر برای برخورد با احتمالات و رویدادها قبلاً از چهار تعریف اولیه معرفی شده در بالا (آزمایش تصادفی، نتیجه ابتدایی، رویداد تصادفی و احتمال آن) و یک بدیهیات مشتق شده است.

بنابراین، برای توصیف جامع مکانیسم آزمایش تصادفی مورد مطالعه (در مورد گسسته)، لازم است یک مجموعه محدود یا قابل شمارش از تمام نتایج اولیه ممکن Ω و هر پیامد ابتدایی مشخص شود. wمن برخی از مشخصه های عددی غیر منفی (که از یک تجاوز نمی کند) مرتبط می کنم پ من , به عنوان احتمال وقوع نتیجه تفسیر می شود w i (این احتمال را با نمادهای P نشان خواهیم داد w i ))، و مکاتبات ایجاد شده از نوع wمن ↔ پ من باید شرایط عادی سازی (1.1) را برآورده کند.

فضای احتمالدقیقاً مفهومی است که چنین توصیفی از مکانیسم یک آزمایش تصادفی را رسمیت می دهد. تعریف فضای احتمال به معنای تعریف فضای رویدادهای ابتدایی Ω و تعریف مطابقت نوع فوق در آن است.

w من ↔ پ من = P ( w من }. (1.3)

برای تعیین از شرایط خاص مشکل در حال حل شدن احتمال پ { wمن } از رویدادهای ابتدایی فردی، یکی از سه رویکرد زیر استفاده می شود.

رویکرد پیشینیبرای محاسبه احتمالات پ { wمن } شامل یک تحلیل نظری و نظری از شرایط خاص این آزمایش تصادفی خاص (قبل از خود آزمایش) است. در تعدادی از موقعیت ها، این تحلیل اولیه امکان اثبات نظری روش برای تعیین احتمالات مورد نظر را فراهم می کند. برای مثال، ممکن است فضای تمام نتایج ابتدایی ممکن از یک عدد محدود تشکیل شده باشد نعناصر، و شرایط برای تولید آزمایش تصادفی مورد مطالعه به گونه ای است که احتمال هر یک از اینها وجود دارد ننتایج ابتدایی برای ما برابر به نظر می رسند (این دقیقاً همان موقعیتی است که ما در هنگام پرتاب یک سکه متقارن، پرتاب یک تاس مناسب، کشیدن تصادفی یک کارت بازی از یک عرشه به هم ریخته و غیره در آن قرار می گیریم). بر اساس اصل (1.1)، احتمال هر رویداد ابتدایی در این مورد برابر است 1/ ن . این به ما اجازه می دهد تا یک دستور العمل ساده برای محاسبه احتمال هر رویداد به دست آوریم: اگر رویداد آشامل ن آرویدادهای ابتدایی، سپس مطابق با تعریف (1.2)

P(A) = ن آ / ن . (1.2")

منظور از فرمول (1.2) این است که احتمال یک رویداد در این دسته از موقعیت هارا می توان به عنوان نسبت تعداد پیامدهای مطلوب (یعنی پیامدهای ابتدایی موجود در این رویداد) به تعداد تمام پیامدهای ممکن (به اصطلاح) تعریف کرد. تعریف کلاسیک احتمال).در تفسیر مدرن آن، فرمول (1.2') تعریفی از احتمال نیست: این فرمول فقط در مورد خاصی قابل استفاده است که همه نتایج اولیه به یک اندازه محتمل باشند.

یک فرکانس پسینیرویکردی برای محاسبه احتمالات R (wمن } اساساً مبتنی بر تعریف احتمال است که توسط مفهوم به اصطلاح فرکانس احتمال اتخاذ شده است. با توجه به این مفهوم، احتمال پ { wمن } مشخص به عنوان یک محدودیت در فراوانی نسبی وقوع نتیجه wمن در روند افزایش نامحدود در تعداد کل آزمایشات تصادفی n، یعنی

پ من =P( w من ) = lim m n (w من )/n (1.4)

جایی که متر n (w من) – تعداد آزمایش های تصادفی (از تعداد کل nآزمایشات تصادفی انجام شده) که در آن وقوع یک رویداد ابتدایی ثبت شده است wمن. بر این اساس، برای تعیین عملی (تقریبی) احتمالات پ منپیشنهاد می‌شود که فرکانس‌های نسبی وقوع رویداد را در نظر بگیریم wمن در یک سری نسبتا طولانی از آزمایش های تصادفی.

تعاریف در این دو مفهوم متفاوت است. احتمالات: با توجه به مفهوم فرکانس، احتمال عینی نیست، وجود قبل از تجربهویژگی پدیده مورد مطالعه، و ظاهر می شود فقط در ارتباط با آزمایشیا مشاهدات؛ این منجر به ترکیبی از خصوصیات احتمالی (درست، مشروط به مجموعه واقعی شرایط برای "وجود" پدیده مورد مطالعه) و آنالوگ های تجربی (انتخابی) آنها می شود.

رویکرد مدل پسینی بهتنظیم احتمالات پ { w من } ، که به طور خاص با مجموعه واقعی شرایط مورد مطالعه مطابقت دارد، در حال حاضر شاید گسترده ترین و از نظر عملی راحت ترین باشد. منطق این رویکرد به شرح زیر است. از یک سو، در چارچوب یک رویکرد پیشینی، یعنی در چارچوب یک تحلیل نظری و نظری گزینه‌های ممکن برای ویژگی‌های مجموعه‌های واقعی فرضی شرایط، مجموعه‌ای از مدل احتمالیفضاها (دوجمله ای، پواسون، عادی، نمایی و غیره). از سوی دیگر محقق دارد نتایج حاصل از تعداد محدودی آزمایش تصادفی است.علاوه بر این، محقق با کمک تکنیک‌های خاص ریاضی و آماری، مدل‌های فرضی فضاهای احتمال را با نتایج مشاهداتی که دارد تطبیق می‌دهد و تنها آن مدل یا مدل‌هایی را که با این نتایج مغایرت ندارند، برای استفاده بیشتر رها می‌کند. به یک معنا، بهترین مطابقت با آنها است.

بین پدیده های مختلف و ویژگی های آنها، قبل از هر چیز لازم است دو نوع اتصال را تشخیص دهیم: عملکردی (به طور دقیق تعیین شده) و آماری (تعیین تصادفی).

رابطه ویژگی y با ویژگی x در صورتی عملکردی نامیده می شود که هر مقدار ممکن از ویژگی مستقل x با یک یا چند مقدار کاملاً تعریف شده از ویژگی وابسته y مطابقت داشته باشد. تعریف یک رابطه عملکردی را می توان به راحتی در مورد بسیاری از ویژگی های x1,x2,…,xn تعمیم داد.

ویژگی مشخصه اتصالات عملکردی این است که در هر مورد فردی فهرست کاملی از عوامل تعیین کننده مقدار مشخصه وابسته (نتیجه) و همچنین مکانیسم دقیق تأثیر آنها که با معادله خاصی بیان می شود شناخته شده است.

رابطه تابعی را می توان با معادله نشان داد:

جایی که y i علامت حاصل است (i=1،…، n)

f(x i) - تابع شناخته شده ارتباط بین ویژگی های حاصل و عامل

x i – علامت عامل.

ارتباط تصادفی ارتباط بین کمیت هایی است که در آن یکی از آنها، کمیت تصادفی y، به تغییر کمیت دیگر x یا مقادیر دیگر x1، x2،...، xn، (تصادفی یا غیر تصادفی) با تغییر مقدار واکنش نشان می دهد. قانون توزیع این امر به این دلیل است که متغیر وابسته (ویژگی حاصل)، علاوه بر موارد مستقل مورد بررسی، تحت تأثیر تعدادی از عوامل محاسبه نشده یا کنترل نشده (تصادفی) و همچنین برخی از خطاهای اجتناب ناپذیر در اندازه گیری متغیرها قرار می گیرد. از آنجایی که مقادیر متغیر وابسته در معرض پراکندگی تصادفی هستند، نمی‌توان آن‌ها را با دقت کافی پیش‌بینی کرد، بلکه فقط با یک احتمال مشخص نشان داده می‌شوند.

ویژگی بارز روابط تصادفی این است که آنها خود را در کل جمعیت نشان می دهند و نه در هر یک از واحدهای آن (و نه فهرست کامل عواملی که ارزش مشخصه مؤثر را تعیین می کنند و نه مکانیسم دقیق عملکرد و تعامل آنها با مشخصه موثر شناخته شده است). همیشه تأثیر تصادفی وجود دارد. مقادیر مختلف متغیر وابسته ظاهر می شود - تحقق یک متغیر تصادفی.

مدل جفت تصادفی را می توان در نمایش داد نمای کلیمعادله:

جایی که y i مقدار محاسبه شده مشخصه به دست آمده است

f(x i) - بخشی از مشخصه حاصل که تحت تأثیر ویژگی های عامل شناخته شده (یک یا چند) در نظر گرفته شده تشکیل شده است که در ارتباط تصادفی با مشخصه هستند.

ε i بخشی از مشخصه حاصل است که در نتیجه عملکرد عوامل کنترل نشده یا حساب نشده و همچنین اندازه گیری ویژگی ها به ناچار با برخی از خطاهای تصادفی همراه است.

نظریه احتمال اغلب به عنوان شاخه ای از ریاضیات تلقی می شود که با "حساب احتمالات" سروکار دارد.

و تمام این محاسبات در واقع به یک فرمول ساده می رسد:

« احتمال هر رویدادی برابر است با مجموع احتمالات وقایع ابتدایی موجود در آن" در عمل، این فرمول "طلسم" را که از دوران کودکی برای ما آشناست تکرار می کند:

« جرم یک جسم برابر است با مجموع جرم اجزای سازنده آن».

در اینجا ما حقایق نه چندان بی اهمیت از نظریه احتمال را مورد بحث قرار خواهیم داد. ما اول از همه در مورد صحبت خواهیم کرد وابستهو مستقلمناسبت ها.

درک این نکته مهم است که اصطلاحات یکسان در شاخه های مختلف ریاضیات می توانند معانی کاملاً متفاوتی داشته باشند.

مثلاً وقتی می گویند مساحت یک دایره اسبه شعاع آن بستگی دارد آر، پس البته منظور ما وابستگی عملکردی است

مفاهیم وابستگی و استقلال در نظریه احتمال معنای کاملا متفاوتی دارند.

بیایید با یک مثال ساده شروع به آشنایی با این مفاهیم کنیم.

تصور کنید که در حال انجام آزمایش پرتاب تاس در این اتاق هستید و همکار شما در اتاق بعدی نیز در حال پرتاب سکه است. فرض کنید به رویداد A علاقه مند هستید - همکار شما یک "دو" و رویداد B - همکار شما یک "دم" دریافت می کند. عقل سلیم حکم می کند: این اتفاقات مستقل هستند!

اگرچه ما هنوز مفهوم وابستگی/استقلال را معرفی نکرده‌ایم، اما به طور شهودی واضح است که هر تعریف معقولی از استقلال باید طوری طراحی شود که این رویدادها مستقل تعریف شوند.

حالا بیایید به آزمایش دیگری بپردازیم. یک تاس پرتاب می شود، رویداد A دو است و رویداد B تعداد فرد امتیاز است. با فرض متقارن بودن استخوان، بلافاصله می توان گفت که P(A) = 1/6. حال تصور کنید که آنها به شما می گویند: "در نتیجه آزمایش، رویداد B رخ داد، تعداد عجیبی از نقاط سقوط کرد." اکنون در مورد احتمال رویداد A چه می توانیم بگوییم؟ واضح است که اکنون این احتمال صفر شده است.

مهمترین چیز برای ما این است که او تغییر کرد.

با بازگشت به مثال اول می توان گفت اطلاعاتاین واقعیت که رویداد B در اتاق بعدی اتفاق افتاده است به هیچ وجه بر ایده های شما در مورد احتمال رویداد A تأثیر نمی گذارد. این احتمال تغییر نخواهد کرداز این واقعیت که شما چیزی در مورد رویداد B یاد گرفتید.

ما به یک نتیجه طبیعی و بسیار مهم می رسیم -

اگر اطلاعاتی از رویدادکه در اتفاق افتاده احتمال یک رویداد را تغییر می دهدآ ، سپس رویدادهاآ وکه در باید وابسته در نظر گرفته شود و اگر تغییر نکند، مستقل باشد.

به این ملاحظات باید یک شکل ریاضی داده شود، وابستگی و استقلال رویدادها باید با استفاده از فرمول تعیین شود.

ما از پایان نامه زیر ادامه خواهیم داد: "اگر A و B رویدادهای وابسته هستند، رویداد A حاوی اطلاعاتی در مورد رویداد B است و رویداد B حاوی اطلاعاتی درباره رویداد A است." چگونه می توانید متوجه شوید که آن موجود است یا نه؟ پاسخ این سوال توسط تئوری اطلاعات.

از نظریه اطلاعات ما فقط به یک فرمول نیاز داریم که به ما امکان می دهد مقدار اطلاعات متقابل I(A, B) را برای رویدادهای A و B محاسبه کنیم.

ما مقدار اطلاعات را برای رویدادهای مختلف محاسبه نمی‌کنیم یا درباره این فرمول به تفصیل بحث نمی‌کنیم.

برای ما مهم است که اگر

سپس مقدار اطلاعات متقابل بین رویدادهای A و B برابر با صفر است - رویدادهای A و B مستقل. اگر

سپس مقدار اطلاعات متقابل رویدادهای A و B است وابسته.

توسل به مفهوم اطلاعات در اینجا ماهیت کمکی دارد و همانطور که به نظر ما می رسد به ما امکان می دهد مفاهیم وابستگی و استقلال رویدادها را ملموس تر کنیم.

در تئوری احتمال، وابستگی و استقلال رویدادها به طور رسمی تر توصیف می شود.

اول از همه، ما به مفهوم نیاز داریم احتمال شرطی.

احتمال شرطی رویداد A، مشروط بر اینکه رویداد B رخ داده باشد (P(B) ≠0)، مقدار P(A|B) نامیده می شود که با فرمول محاسبه می شود.

.

با پیروی از روح رویکرد ما برای درک وابستگی و استقلال رویدادها، می‌توان انتظار داشت که احتمال شرطی دارای ویژگی زیر باشد: اگر رویدادهای A و B مستقل ، آن

این بدان معنی است که اطلاعات مربوط به رویداد B روی احتمال رویداد A تأثیری ندارد.

همینطور که هست!

اگر رویدادهای A و B مستقل باشند، پس

برای رویدادهای مستقل A و B داریم

و