Зависими и независими събития. Продуциране на събития. Концепцията за условна вероятност. Теорема за умножение на вероятностите (с доказателство).

Пълна вероятност и формули на Бейс (с доказателство). Примери.

Повтарящи се независими тестове. Формула на Бернули (с извеждане). Примери.

Локална теорема на Моавр-Лаплас, условия за нейната приложимост. Свойства на функцията Dx). Пример.

Асимптотична формула на Поасон и условия за нейната приложимост. Пример.

Интегрална теорема на Моавр-Лаплас и условия за нейната приложимост. Функцията на Лаплас φ(x) и нейните свойства. Пример.

Следствия от интегралната теорема на Моавр-Лаплас (с извеждане). Примери.

Математическо очакване на дискретна случайна величина и нейните свойства (с извеждане). Примери.

Дисперсия на дискретна случайна променлива и нейните свойства (с извеждане). Примери.

Функция на разпределение на случайна променлива, нейната дефиниция, свойства и графика.

Непрекъсната случайна променлива (ново). Вероятността за единична стойност на nsv. Математическо очакване и дисперсия nsv.

Плътност на вероятността на непрекъсната случайна променлива, нейното определение, свойства и графика.

Случайна променлива, разпределена според биномния закон, нейното математическо очакване и дисперсия. Закон за разпределение на Поасон.

Математическо очакване и дисперсия на броя и честотата на възникване на събитие в n повторени независими опита (с извод).

Определение на нормалния закон за разпределение. Теоретичен и вероятностен смисъл на неговите параметри. Нормална крива и зависимост на нейното положение и форма от параметри.

Функцията на разпределение на нормално разпределена случайна променлива и нейното изразяване чрез функцията на Лаплас.

Формули за определяне на вероятността: а) попадане на нормално разпределена случайна променлива в даден интервал; б) отклоненията му от математическото очакване. Правилото на трите сигми.

Концепцията за двумерна (/7-мерна) случайна променлива. Примери. Таблица на разпределението му. Едномерни разпределения на неговите компоненти. Условни разпределения и намирането им в разпределителната таблица.

Ковариация и коефициент на корелация на случайни променливи. Връзка между е-корелация и независимост на случайни променливи.

Концепцията за двумерен нормален закон на разпределение. Условни математически очаквания и дисперсии.

Неравенство на Марков (лема на Чебишев) (с извод). Пример.

Неравенство на Чебишев (с извеждане) и неговите частни случаи за случайна величина, разпределена по биномния закон и за честотата на събитие.

Теорема на Чебишев (с доказателство), нейното значение и следствие. Пример.

Законът за големите числа. Теорема на Бернули (с доказателство) и нейното значение. Пример.

Неравенство на Чебишев за средно аритметично на случайни величини (с извеждане).

Централна гранична теорема. Концепцията на теоремата на Ляпунов и нейното значение. Пример.

Вариационна серия, нейните разновидности. Средно аритметично и дисперсия на редицата. Опростен начин за изчисляването им.

Концепцията за оценка на параметрите на генералната съвкупност. Оценъчни свойства: безпристрастност, последователност, ефективност.

Оценка на общия дял на базата на случайна извадка. Безпристрастност и последователност на извадковия дял.

Оценка на общата средна стойност за правилната случайна извадка. Безпристрастност и последователност на средната стойност на извадката.

Оценка на общата дисперсия за правилна произволна извадка. Пристрастност и последователност на дисперсията на извадката (без заключение). Коригирана дисперсия на извадката.

Концепцията за интервална оценка. Доверителна вероятност и доверителен интервал. Пределна извадкова грешка. Грешки в представителността на извадката (случайни и систематични).

Доверителна формула за оценка на общата средна стойност. Средната квадратична грешка на повторени и неповторени проби и конструиране на доверителен интервал за общата средна стойност.

Определяне на необходимия обем повторни и неповторни проби при оценка на общата авария и пропорция.

Статистическа хипотеза и статистически тест. Грешки от 1-ви и 2-ри вид. Ниво на значимост и сила на теста. Принципът на практическата сигурност.

Построяване на теоретичен закон за разпределение по експериментални данни. Концепцията за критериите за съгласие.

Тестът за съответствие на x2-Pearson и схемата за неговото приложение.

Функционални, статистически и корелационни зависимости. Разлики между тях. Основните задачи на теорията на корелацията.

Регресия на линейна двойка. Система от нормални уравнения за определяне на параметрите на регресионните линии. Примерна ковариация. Формули за изчисляване на регресионни коефициенти.

Опростен начин:

Оценка на плътността на връзката. Коефициент на корелация (селективен), неговите свойства и оценка на надеждността.

1. Концепцията за оценка на параметрите на генералната съвкупност. Оценъчни свойства: безпристрастност, последователност, ефективност.

Нека формулираме задачата за оценка на параметрите в общ вид . Нека разпределението на атрибута X - генералната съвкупност - бъде дадено от функцията на verti (за дискретно CV X) или плътността на verti
(за непрекъснат SW X), който съдържа неизвестен параметър . Например, това е параметърът λ в разпределението на Поасон или параметрите a и
За нормален закондистрибуции и др.

За изчисляване на параметъра не е възможно да се изследват всички елементи на генералната съвкупност. Следователно, относно параметъра опитвайки се да съдя по извадка, състояща се от стойности (опции)
. Тези стойности могат да се разглеждат като частни стойности (реализации) на n независими случайни променливи
всеки от които има същия закон на разпределение като самия SV X.

Определение . признателност параметър именувайте всяка функция от резултатите от наблюденията над SV X (в противен случай - статистика), с помощта на които те преценяват стойността на параметъра :

.

Тъй като
са случайни променливи, тогава оценката (за разлика от изчисления параметър - неслучайна, детерминирана стойност) е случайна променлива, която зависи от закона за разпределение на SV X и числото n.

Качеството на една оценка не трябва да се съди по нейните индивидуални стойности, а само по разпределението на нейните стойности в голяма мрежа от тестове, т.е. по примерното разпределение на оценката.

Ако оценката стойности концентрирани около истинската стойност на параметъра , т.е. основната част от масата на извадковото разпределение на оценката е концентрирана в малък квартал на оценявания параметър , тогава с голяма вероятност можем да приемем, че оценката различен от параметъра само с малка сума. Следователно, за да стойността беше близо до , очевидно трябва да изискваме разсейването случайна величинаотносително , изразено например чрез математическото очакване на квадратното отклонение на оценката от прогнозния параметър
, беше възможно най-малък. Това е основното условие, на което трябва да отговаря "най-добрата" оценка.

Рейтингови свойства.

Определение . Степен параметър Наречен безпристрастен, ако неговото очакване за чифтосване е равно на оценения параметър, т.е.
.

в противен случай се извиква оценката разместен.

Ако това равенство не е изпълнено, тогава оценката , получени от различни проби, ще осреднят или надценят стойността (Ако
, или го подценявайте (ако
). Изискването за безпристрастност гарантира, че няма систематични грешки в оценката.

Ако за краен размер на извадката n
, т.е. оценка пристрастие
, Но
, тогава такава оценка Наречен асимптотично безпристрастен.

Определение . Степен параметър Наречен богат, ако удовлетворява закона за големите числа, т.е. се сближава по ver-ty към оценения параметър:

, или .

В случай на използване на последователни оценки, увеличаването на размера на извадката е оправдано, тъй като в същото време значителни грешки в оценката стават малко вероятни. Следователно само последователните оценки имат практическо значение. Ако оценката е последователна, тогава е почти сигурно, че за достатъчно голямо n
.

Ако резултатът параметър е безпристрастен и неговата дисперсия
като n → ∞, тогава оценката също е богат. Това следва пряко от неравенството на Чебишев:

.

Определение . Безпристрастен оценител параметърът се извиква ефективенако има най-малката дисперсия сред всички възможни безпристрастни оценки на параметъра изчислени от проби с еднакъв размер n.

защото за безпристрастен оценител
е неговата дисперсия , тогава eff е решаваща собственост, което определя качеството на оценката.

Ефективността на оценката се определя от съотношението: .

Където И - Съответстващи на дисперсията на ефективната и дадена оценка. Колкото по-близко е до 1, толкова по-ефективна е оценката. Ако e → 1 при n → ∞, тогава такава оценка се нарича асимптотично ефективна.

"

към параметъра, който се оценява.

Дефиниции

• Позволявам $X\_1,\backslash lточки,\; X\_n,\backslash lточки$- образец за разпределението в зависимост от параметъра $\backslash theta\; \backslash в\; \backslash Theta$. След това оценката $\backslash hat(\backslash theta)\; \backslash equiv\; \backslash hat(\backslash theta)(X\_1,\backslash ldots,X\_n)$се нарича богат, ако

$$по вероятност при $n\; \backslash to\; \backslash infty$.

В противен случай оценката се нарича невалидна.

• Степен $\backslash hat(\backslash theta)$Наречен много богат, Ако

$\backslash hat(\backslash theta)\; \backslash to\; \backslash theta,\backslash quad\; \backslash forall\; \backslash theta\backslash in\; \backslash Theta$почти сигурно при $n\; \backslash to\; \backslash infty$.

На практика не е възможно да се „види“ конвергенция „почти вероятно“, тъй като извадките са крайни. Следователно за приложната статистика е достатъчно да се изисква последователност на оценката. Освен това оценките, които биха били последователни, но не много последователни, "в живота" са много редки. Законът за големите числа за еднакво разпределени и независими количества с краен първи момент също е изпълнен в засилен вариант, всички статистики от екстремен ред също се сближават поради монотонност не само по вероятност, но и почти сигурно.

знак

• Ако оценката се сближава с истинската стойност на параметъра „среден квадрат“ или ако оценката е асимптотично безпристрастна и нейната дисперсия клони към нула, тогава такава оценка ще бъде последователна.

Имоти

• От свойствата на конвергенция на случайните променливи имаме, че една силно последователна оценка винаги е последователна. Обратното обикновено не е вярно.
• Тъй като дисперсията на последователните оценки клони към нула, често със скорост от порядъка на 1/n, последователните оценки се сравняват една с друга чрез асимптотичната дисперсия на случайната променлива $\backslash sqrt\; (n)\; (\backslash hat(\backslash theta)-\backslash theta)$(асимптотичното очакване на това количество е нула).

Свързани понятия

• Резултатът се нарича супер богат, ако дисперсията на случайната променлива $n\; (\backslash hat(\backslash theta)-\backslash theta)$клони към крайната стойност. Това означава, че скоростта на конвергенция на оценката към истинската стойност е значително по-висока от тази на последователна оценка. Свръхконсистентни, например, са оценките на регресионните параметри на коинтегрирани времеви редове.

Примери

• извадкова средна стойност $\backslash bar(X)\; =\; \backslash frac(1)(n)\; \backslash sum\backslash limits\_(i=1)^n\; X\_i$е силно последователна оценка на очакванията $X\_i$.
• Периограмата е безпристрастна, но непоследователна оценка на спектралната плътност.

Вижте също

Напишете отзив за статията "Постоянна оценка"

Откъс, характеризиращ последователната оценка

„О, Господи, помилуй“, добави отново дяконът.
- Ходиш тук-там, те са там. Тя е. Още плачеше, плачеше - пак каза жената. - Тя е. Ето го.
Но Пиер не послуша жената. Няколко секунди той се взираше в случващото се на няколко крачки от него, без да откъсва очи от него. Той погледна арменското семейство и двамата френски войници, които се бяха приближили до арменците. Един от тези войници, дребен неподвижен човечец, беше облечен в синьо палто, препасан с въже. На главата си имаше шапка, а краката му бяха боси. Другият, който особено порази Пиер, беше дълъг, с кръгли рамене, рус, слаб мъж с бавни движения и идиотско изражение на лицето. Този беше облечен с качулка на фриз, сини панталони и големи скъсани над коляното ботуши. Малък французин, без ботуши, в синьо, изсъска, приближи се към арменците, веднага, като каза нещо, хвана краката на стареца и старецът веднага започна да събува ботушите си. Другият, с качулката, се спря пред красивата арменка и мълчаливо, неподвижно, хванал ръце в джобовете си, я гледаше.
— Вземи, вземи детето — каза Пиер, като даде момичето и властно и припряно се обърна към жената. Върнете ги, върнете ги! — почти извика той на жената, слагайки крещящото момиче на земята, и отново погледна към французите и арменското семейство. Старецът вече седеше бос. Французинът събу последния си ботуш и потупа ботушите си един в друг. Старецът, хлипайки, каза нещо, но Пиер само го забеляза; цялото му внимание беше насочено към французина с качулката, който в този момент, бавно олюлявайки се, се насочи към младата жена и като извади ръцете си от джобовете си, я хвана за врата.
Красивата арменка продължаваше да седи в същата неподвижна поза, със спуснати дълги мигли и сякаш не виждаше и не усещаше какво причинява войникът с нея.
Докато Пиер тичаше онези няколко крачки, които го разделяха от французите, дълъг мародер с качулка вече късаше огърлицата, която беше върху нея, от врата на арменката, а младата жена, стиснала врата си с ръце, изкрещя пронизителен глас.
– Laissez cette femme! [Оставете тази жена!] Пиер изграчи с неистов глас, сграбчи един дълъг войник с кръгли рамене за раменете и го изхвърли. Войникът паднал, станал и избягал. Но неговият другар, хвърляйки ботушите си, извади сатър и заплашително напредна към Пиер.
Voyons, pas de betises! [О, добре! Не бъди глупав!] извика той.
Пиер беше в онзи екстаз на ярост, в който не помнеше нищо и в който силата му се увеличи десетократно. Той се хвърли върху босоногия французин и преди да успее да извади сатъра, вече го беше съборил и го набил с юмруци. От заобикалящата тълпа се чуха одобрителни викове на одобрение, в същото време зад ъгъла се появи конен патрул от френски улани. Копийците се приближиха към Пиер и французина в тръс и ги обкръжиха. Пиер не помнеше нищо от случилото се след това. Спомняше си, че биеше някого, бият го и че накрая усети, че ръцете му са вързани, че тълпа френски войници стоят около него и претърсват роклята му.

Определение.Случайната променлива се извиква оценканеизвестен параметър , ако стойността на тази случайна променлива, намерена от резултатите от поредица от измервания, може да се приеме като приблизителна стойност на този параметър, т.е. ако равенството е вярно.

Пример.Ако вероятността за настъпване на някакво събитие се разглежда като неизвестен параметър, тогава оценката на този параметър е честотата на настъпване на събитието в независими опити (вижте статистическата дефиниция на вероятността и теоремата на Бернули).

Пример.Нека случайни променливи имат едно и също математическо очакване, т.е. . След това средното аритметично тези случайни променливи. Важен частен случай на разглежданата ситуация е следният.

Пример. Оценка на някакъв параметър е средната аритметична стойност резултати независими измервания на този параметър (вижте теоремата на Чебишев).

При директно използване на приблизителното равенство Говорейки за точкова оценканеизвестен параметър.

Евентуално също интервална оценканеизвестен параметър. За да обясним от какво се състои, въвеждаме следните понятия под внимание.

Определение.За произволен интервал се извиква доверителен интервал; в този случай се извиква самото количество пределна извадкова грешка.

Определение.Нарича се вероятността неизвестна стойност на оценения параметър да бъде покрита от доверителен интервал вероятност за доверие.

По този начин, ако – оценка на параметъра , Че

е нивото на доверие (предполагаме, че оценката е непрекъсната случайна променлива).

Интервалната оценка се състои, например, в изчисляване на ниво на достоверност за дадена пределна извадкова грешка.

Решаването на проблема с интервалната оценка е свързано с определяне на естеството на закона за разпределение на използваната оценка .

Нека сега разгледаме някои свойства на оценките.

Определение.Оценката на параметъра се нарича безпристрастен, ако математическото очакване на тази оценка е равно на оценения параметър, т.е.

Определение.Оценката на параметъра се нарича богат, ако следната гранична връзка е валидна за произволно

С други думи, оценката за даден параметър е последователна, ако тази оценка се сближава по вероятност с дадения параметър. (Припомнете си, че примери за този вид конвергенция са дадени от теоремите на Бернули и Чебишев; вижте § 6.2.)

Определение.Извиква се безпристрастна оценка на някакъв параметър ефективен, ако има най-малката дисперсия сред всички безпристрастни оценки, намерени от извадка с даден размер.

Пример.Честота появата на някакво събитие е безпристрастна, последователна и ефективна оценка на вероятността това събитие . Имайте предвид, че свойствата на безпристрастност и последователност на честотата всъщност бяха разгледани от нас по-рано в малко по-различен контекст. Наистина, честотната безпристрастност - равенството - е едно от свойствата на случайна променлива с биномно разпределение (вижте § 3.3). Съгласуваността на честотата се посочва от теоремата на Бернули (вижте § 6.2).

Пример. Средната аритметична стойност на определен брой независими и еднакво разпределени случайни променливи е безпристрастна и последователна оценка на общото математическо очакване на тези случайни променливи. Наистина безпристрастността е свойство 5 на очакванията (вижте § 3.3). Съгласуваността се потвърждава от теоремата на Чебишев (вижте § 6.2).

) проблеми на математическата статистика.

Нека приемем, че има параметрично семейство от вероятностни разпределения (за простота ще разгледаме разпределението на случайни променливи и случая на един параметър). Тук е числов параметър, чиято стойност е неизвестна. Изисква се да се оцени чрез наличната извадка от стойности, генерирани от това разпределение.

Има два основни вида оценки: точкови оценкиИ доверителни интервали.

Точкова оценка

Точковата оценка е вид статистическа оценка, при която стойността на неизвестен параметър се апроксимира с едно число. Тоест, трябва да посочите функцията на извадката (статистика)

,

чиято стойност ще се счита за приближение на неизвестната истинска стойност.

Общите методи за конструиране на точкови оценки на параметри включват: метод на максималното правдоподобие, метод на моментите, метод на квантила.

По-долу са някои свойства, които точковите оценки могат или не могат да имат.

платежоспособност

Едно от най-очевидните изисквания за точкова оценка е, че може да се очаква сравнително добро приближение до истинската стойност на параметъра за достатъчно големи стойности на размера на извадката. Това означава, че оценката трябва да се сближава с истинската стойност при . Това свойство за оценка се нарича платежоспособност. Тъй като говорим за случайни величини, за които има различни видовеконвергенция, тогава даден имотмогат да бъдат точно формулирани по различни начини:

Когато просто използвам термина платежоспособност, тогава обикновено имаме предвид слаба консистенция, т.е. конвергенция във вероятността.

Условието за съгласуваност е практически задължително за всички оценки, използвани в практиката. Рядко се използват непоследователни оценки.

Безпристрастност и асимптотична безпристрастност

Оценката на параметъра се нарича безпристрастен, ако неговото математическо очакване е равно на истинската стойност на оценения параметър:

.

По-слабото състояние е асимптотична безпристрастност, което означава, че математическото очакване на оценката се сближава с истинската стойност на параметъра с увеличаване на размера на извадката:

.

Безпристрастността е препоръчително свойство на оценителите. Неговото значение обаче не трябва да се надценява. Най-често съществуват безпристрастни оценки на параметрите и тогава човек се опитва да вземе предвид само тях. Възможно е обаче да има някои статистически проблеми, при които не съществуват безпристрастни оценки. Най-известният пример е следният: помислете за разпределение на Поасон с параметър и задайте проблема за оценка на параметъра. Може да се докаже, че няма безпристрастен оценител за този проблем.

Сравнение на степени и ефективност

За да сравните различни оценки на един и същ параметър една с друга, се използва следният метод: изберете някои рискова функция, който измерва отклонението на оценката от истинската стойност на параметъра, като за най-добър се счита този, за който тази функция приема по-малка стойност.

Най-често математическото очакване на квадрата на отклонението на оценката от истинската стойност се разглежда като функция на риска

За безпристрастните оценители това е просто дисперсията.

Има долна граница на тази рискова функция, наречена Неравенство на Крамър-Рао.

(Безпристрастни) оценители, за които тази долна граница е изпълнена (т.е. имащи най-малката възможна дисперсия), се наричат ефективен. Наличието на ефективна оценка обаче е доста силно изискване за проблема, което в никакъв случай не е така.

По-слабото състояние е асимптотична ефективност, което означава, че съотношението на дисперсията на безпристрастната оценка към долната граница на Cramer-Rao клони към единица при .

Обърнете внимание, че при достатъчно широки допускания за изследваното разпределение, методът на максималната вероятност дава асимптотично ефективна оценка на параметъра и ако има ефективна оценка, тогава тя дава ефективна оценка.

Достатъчна статистика

Статистиката се нарича достатъчноза параметъра, ако условното разпределение на извадката, при условие че, не зависи от параметъра за всички.

Важността на концепцията за достатъчна статистика се дължи на следното одобрение. Ако е достатъчна статистика и е безпристрастна оценка на параметъра, тогава условното очакване също е безпристрастна оценка на параметъра и неговата дисперсия е по-малка или равна на дисперсията на първоначалната оценка.

Спомнете си, че условното очакване е случайна променлива, която е функция на . По този начин, в класа на безпристрастните оценители е достатъчно да се разгледат само тези, които са функции на достатъчна статистика (при условие, че такава статистика съществува за дадения проблем).

Оценката на (безпристрастния) ефективен параметър винаги е достатъчна статистика.

Можем да кажем, че достатъчната статистика съдържа цялата информация за оценения параметър, който се съдържа в извадката.

За да могат статистическите оценки да дадат добро приближение на оценените параметри, те трябва да бъдат безпристрастни, ефективни и последователни.

безпристрастенсе нарича статистическа оценка на параметъра , чието математическо очакване е равно на оценения параметър за всеки размер на извадката.

Разместенинаречена статистическа оценка
параметър , чието математическо очакване не е равно на оценения параметър.

ефикасеннаречена статистическа оценка
параметър , което за даден размер на извадката има най-малка дисперсия.

Богатнаречена статистическа оценка
параметър , която при
клони по вероятност към оценения параметър.

т. е. за всякакви

.

За проби с различни размери се получават различни стойности на средната аритметична стойност и статистическата дисперсия. Следователно средноаритметичното и статистическата дисперсия са случайни променливи, за които има математическо очакване и дисперсия.

Нека изчислим математическото очакване на средното аритметично и дисперсията. Означаваме с математическо очакване на случайна променлива

Тук следните се считат за случайни променливи: – S.V., чиито стойности са равни на първите стойности, получени за различни обемни проби от общото население
–S.V., чиито стойности са равни на вторите стойности, получени за различни обемни проби от общото население, ...,
- S.V., чиито стойности са равни -та стойност, получена за различни обемни проби от общото население. Всички тези случайни променливи се разпределят по един и същи закон и имат едно и също математическо очакване.

От формула (1) следва, че средноаритметичното е безпристрастна оценка на математическото очакване, тъй като математическото очакване на средноаритметичното е равно на математическото очакване на случайната променлива. Тази оценка също е последователна. Ефективността на тази оценка зависи от вида на разпределението на случайната променлива
. ако напр.
нормално разпределени, оценяването на очакваната стойност с помощта на средната аритметична ще бъде ефективно.

Нека сега намерим статистическа оценка на дисперсията.

Изразът за статистическата дисперсия може да се трансформира по следния начин

(2)

Нека сега намерим математическото очакване на статистическата дисперсия

. (3)

Като се има предвид това
(4)

получаваме от (3) -

От формула (6) се вижда, че математическото очакване на статистическата дисперсия се различава с фактор от дисперсията, т.е. е предубедена оценка на дисперсията на популацията. Това е така, защото вместо истинската стойност
, което е неизвестно, статистическата средна стойност се използва за оценка на дисперсията .

Затова въвеждаме коригираната статистическа дисперсия

(7)

Тогава математическото очакване на коригираната статистическа дисперсия е

тези. коригираната статистическа дисперсия е безпристрастна оценка на дисперсията на популацията. Получената оценка също е последователна.