ELEMENTS OF PROBABILITY AND STATISTICS
Academic year2020/21
CourseMATHEMATICS
Code052AA
Credits6
PeriodSemester 2
LanguageItalian
| Modules | Area | Type | Hours | Teacher(s) |
| ELEMENTI DI PROBABILITÀ E STATISTICA | MAT/06 | LEZIONI | 60 | |
Obiettivi di apprendimento
Conoscenze
Lo studente al termine del corso avrà acquisito la conoscenza dei concetti di base della probabilità e della inferenza statistica.
Knowledge
Students are expected to acquire basic notions of probability and of statistical inference.
Modalità di verifica delle conoscenze
Lo studente sarà valutato riguardo la sua abilità di risolvere esercizi sulla probabilità elementare e sulla inferenza statistica, di formulare i risultati più importanti del corso e saperli dimostrare, di discutere i concetti principali esaminati durante le lezioni.
Assessment criteria of knowledge
The student will be assessed on her/his demonstrated ability to solve exercises on elementary probability and statistical inference, to give precise statements and proofs of the main results and to discuss the concepts introduced in the lectures.
Capacità
Lo studente sarà in grado di comprendere argomenti elementari di probabilità e inferenza statistica. Lo studente sarà inoltre in grado di impostare e risolvere semplici problemi relativi a tali argomenti.
Skills
The student will be able to understand elementary topics in probability and statistical inference. Moreover, the student will be able to solve simple problems on such topics.
Modalità di verifica delle capacità
Nella prova scritta sarà verificata la capacità dello studente di risolvere semplici problemi. Nella prova orale sarà verificata la capacità di comprensione e di elaborazione degli argomenti analizzati.
Assessment criteria of skills
The capacity to solve simple problems will be the subject of the written exam. The capacity of understanding and elaborating the topics of the course will be the subject of the oral exam.
Comportamenti
Il corso permetterà di affrontare semplici problemi di natura probabilistica e statistica.
Behaviors
The student will be able to manage simple problems of probabilistic and statistical nature.
Modalità di verifica dei comportamenti
Nel corso degli esami agli studenti sarà richiesto di suggerire soluzioni a semplici problemi e a fornire esempi dei concetti principali del corso.
Assessment criteria of behaviors
During the exams the student will be asked to suggest a solution to simple problems and provide examples of the main ideas of the course.
Prerequisiti (conoscenze iniziali)
Lo studente deve avere padronanza degli argomenti degli insegnamenti di analisi, aritmetica e algebra lineare del primo anno di corso.
Prerequisites
The student should master the arguments of Analysis, Arithmetic and Linear algebra.
Indicazioni metodologiche
Il corso prevede lezioni frontali sia per la parte teorica che per la parte di esercizi. La frequenza è consigliata. Ci si aspetta che lo studente frequenti le lezioni e a questo affianchi un tempo sufficiente per lo studio individuale.
Teaching methods
The course is delivered face-to-face for the theoretical part and for the exercise sessions. Attendance is highly recommended. The student is expected to attend lectures and devote a sufficient amount of time to individual study.
Programma (contenuti dell'insegnamento)
PROBABILITÀ
- Introduzione al concetto di probabilità. Modello di probabilità uniforme, proprietà ed esempi elementari. Modello di probabilità finita, proprietà, funzione di densità discreta.
- Indipendenza di eventi, esempi elementari. Indipendenza di famiglie di eventi, esempi. Probabilità condizionata: definizione e esempi, probabilità condizionata e indipendenza. Formula di disintegrazione e formula di Bayes. Formula di fattorizzazione per intersezioni di eventi. Esperimento a prove ripetute indipendenti. Calcolo delle probabilità del numero di successi per probabilità p di successo arbitraria, moda del numero di successi per probabilità p di successo generica. Teorema di De Moivre-Laplace, legge dei grandi numeri per esperimenti a prove ripetute indipendenti.
- Spazi di probabilità discreti, sigma-additività e continuità della probabilità, esempi: distribuzione geometrica e primo successo in un esperimento a prove ripetute indipendenti, distribuzione di Poisson. Indipendenza di famiglie numerabili di eventi. Legge degli eventi rari.
- Variabile aleatoria, legge. uguaglianza in legge, esistenza di una variabile aleatoria con legge assegnata (costruzione canonica). Valore atteso: definizione e proprietà. Momenti, varianza. Valore medio come minimizzante dello scarto quadratico medio. Variabili aleatorie indipendenti: definizione, proprietà equivalenti, indipendenza di sottofamiglie di variabili aleatorie indipendenti, indipendenza di variabili aleatorie e di eventi. Covarianza. Vettori aleatori, leggi congiunte, distribuzioni marginali. Distribuzioni marginali dalle leggi congiunte. Correlazione: definizione e proprietà. Distribuzione condizionale, valore atteso condizionato.
- Teorema del limite centrale: enunciato e discussione. Disuguaglianza di Markov, disuguaglianza di Chebychev, legge (debole) dei grandi numeri. Discussione sul tasso di convergenza, teorema (di concentrazione).
- Modello generale: Sigma algebre, spazi di probabilità. Variabili aleatorie, legge di una variabile aleatoria, funzione di distribuzione cumulata e sue proprietà. Esistenza di una variabile aleatoria assegnata una funzione di distribuzione cumulata. Funzione di distribuzione cumulata per variabili aleatorie discrete. Densità continua di probabilità. Funzione di distribuzione cumulata e densità. Funzione di distribuzione cumulata congiunta e densità continua congiunta di variabili aleatorie. Densità marginali di variabili aleatorie. Densità condizionale. Indipendenza di variabili aleatorie. Indipendenza e funzioni di distribuzione cumulate, indipendenza e densità continue. Densità della somma di variabili aleatorie indipendenti.
STATISTICA
- Cenni sulla statistica descrittiva. Illustrazione di un esempio motivazionale di introduzione alla statistica inferenziale (lancio ripetuto di una moneta): problema dell'identificazione del valore della probabilità di una data faccia, problema dell'identificazione di un range "ragionevole" per il valore della probabilità di una data faccia, problema della plausibilità in termini di test statistici.
- Modello statistico, campione. Modello statistico generato da un campione. Stimatore, stimatore non distorto, consistenza di una successione di stimatori. Rischio quadratico di uno stimatore. Funzione di verosimiglianza, stimatori di massima verosimiglianza, esempi. Modelli esponenziali, consistenza di stimatori di massima verosimiglianza su modelli esponenziali.
- Regioni di fiducia, esempi. Stimatori pivotali. Introduzione ai test statistici. Formulazione dell'ipotesi, pianificazione dell'esperimento: regione critica, errori di prima e seconda specie, livello di un test e potenza di un test. Modelli a rapporto di verosimiglianza crescente. Lemma di Neyman-Pearson (solo enunciato). Test unilatero per modelli a rapporto di verosimiglianza crescente. Soglia di accettazione (p-value).
- Popolazioni Gaussiane, indipendenza tra media e varianza campionarie, e loro distribuzione, stimatori di massima verosimiglianza per popolazioni Gaussiane. Popolazioni Gaussiane con varianza nota: intervalli di fiducia per la media, Z-test bilatero e unilatero. Popolazioni Gaussiane con varianza non nota: intervalli di fiducia per la media, test bilatero e unilatero per la media, intervalli di fiducia per la varianza, test unilatero per la varianza.
CATENE DI MARKOV
- Introduzione alle catene di Markov. Formulazione di proprietà equivalenti della proprietà di Markov. Catene di Markov omogenee. Matrice di transizione, matrici stocastiche. Esempi. Probabilità di transizione a n passi, formula di Chapman-Kolmogorov. Legge della catena a tempo fissato, descrizione della legge in termini della distribuzione iniziale e delle probabilità di transizione.
- Stati ricorrenti e transienti. Istante di primo passaggio e sua distribuzione, ricorrenza in termini dell'istante di primo passaggio. Ricorrenza in termini delnumero di visite. Formula tra le funzioni generatrici dell'istante di primo passaggio e dell'istante di passaggio. Caratterizzazione della ricorrenza in termini delle probabilità di transizione ad n passi. Tempo medio di ritorno, stati ricorrenti positivi e ricorrenti nulli. Periodo di uno stato.
- Comunicazione e intercomunicazione. Invarianza delle nozioni di transienza, ricorrenza e periodo per stati intercomunicanti. Classi chiuse e irriducibili. Teorema di decomposizione. Caso particolare: spazio degli stati finito. Distribuzioni stazionarie. Teorema di esistenza e unicità di soluzioni stazionarie e di convergenza.
Syllabus
PROBABILITY
- Introduction to probability. Uniform probability, properties and elementary examples. Finite spaces, discrete density.
- Independence of two events, of families of events. Conditional probability, disintegration formula and Bayes theorem. Bernoulli trials, their probabilities, De Moivre-Laplace theorem, law of large numbers for Bernoulli trials.
- Discrete probability, geometric distribution and Bernoulli trials, Poisson distribution. Law of rare events.
- Random variables, law, equality in law. Expected value, moments, variance. Expected value as minimum of the mean square error. Independent random variables. Covariance. Random vectors, joint law, marginal laws. Correlation, conditional distribution and conditional expected value.
- Central limit theorem, Markov's inequality, Chebychev's inequality, weak law of large numbers, concentration theorem.
- General probability spaces: sigma-fields, probability measures. Random variables, laws, cumulative distribution function, probability density function, joint cdf and joint pdf, conditional density. Independence of random variables.
STATISTICS
- Introduction to statistics and statistical inference. Statistical model, sample, estimator, bias, consistency, mean square error. Likelihood function, maximum likelihood estimators, exponential models.
- Confidence regions, pivotal estimators. Introduction to statistical tests, hypotheses, critical regions, errors. Significance level, power of a test. Neyman-Pearson's lemma, one-sided tests, p-value.
- Gaussian populations, maximum likelihood estimators for Gaussian populations, confidence regions, hypothesis tests.
MARKOV CHAINS
- Introduction to Markov chains. Markov property. Homogeneous Markov chains. Transition matrix, Chapman-Kolmogorov's formula, law of a Markov chain.
- Recurrent and transient states, first passage time, mean first passage time, positive and null recurrent states, period.
- Communicating states, invariances through communication. Closed and irreducible classes, decomposition theorem. Invariant distributions, theorem of convergence to equilibrium.
Bibliografia e materiale didattico
Testi consigliati:
- F. Caravenna, P. Dai Pra, Probabilità. Una introduzione attraverso modelli e applicazioni
- P. Baldi, Calcolo delle probabilità e statistica.
Bibliography
Recommended lectures:
- F. Caravenna, P. Dai Pra, Probabilità. Una introduzione attraverso modelli e applicazioni
- P. Baldi, Calcolo delle probabilità e statistica.
Indicazioni per non frequentanti
Attraverso la pagina web del corso, tenersi al corrente del programma svolto.
Non-attending students info
Keep up to date through the web page of the course on the topics discussed.
Modalità d'esame
L'esame è composto da una prova scritta e una prova orale. La prova scritta può essere eventualmente rimpiazzata da prove intermedie svolte durante il corso.
La prova scritta consiste nella risoluzione di 3-4 problemi, sviluppati su più quesiti.
La prova orale consiste in un colloquio che prevede tipicamente tre domande, volte a verificare la conoscenza dei risultati illustrati nel corso e delle loro dimostrazioni, dei concetti e delle definizioni principali, e la padronanza di tali concetti attraverso esempi illustrativi.
Assessment methods
The exam is divided in two parts: written and oral exam. The written exam can be possibly replaced by in-course written exams.
The written exam consists in solving 3-4 problems, in full details.
The oral exam consists tipically in three questions. The first regards the knowledge of the main results of the course and their proof. The second regards the knowledge of the main definitions ans concepts, the third wishes to verify the mastery of the main concepts through suitable examples.
Updated: 03/08/2020 13:43
