ECTS - University of Pisa
| Modules | Area | Type | Hours | Teacher(s) | |
| STATISTICA II | MAT/06 | LEZIONI | 60 |
|
Al termine del corso lo studente avrà acquisito conoscenze di metodi della statistica multivariata, metodi di classificazione e clustering, analisi di serie storiche, sia da un punto di vista teorico che attraverso l'implementazione con un software statistico.
Students are expected to acquire knowledge of methods of multivariate statistics, classification and clustering, time series analysis, from a theoretical point of view and through the implementation via a statistical software.
Lo studente sarà valutato riguardo la sua abilità di risolvere problemi e discutere concetti e applicazioni di statistica nell'ottica dell'intrepretazione di analisi statistica sui dati.
The student will be assessed on his/her demonstrated ability to solve problems and discuss concepts and applications of Statistics in view of the onterpretazione of statistical analysis on data.
Al termine del corso
At the end of the course,
Analisi e implementazione di modelli statistici saranno il soggetto delle prove d'esame (scritto e orale).
Lo studente potrà preparare un progetto didattico che prevede l'analisi statistica e l'implementazione di un problema a partire da dati reali.
Analysis of a statistical model and its implementation through a statistical software will be the subject of the final exam.
The student will be offered the possibility to prepare an individual projoect of statistical analysis that consists in the analysis and implementation of an industrial problem from real data.
il corso permetterà di gestire l'analisi quantitativa di problemi industriali mediante metodi statistici.
After the course, the student will be able to manage the quantitative analysis of industrial problems through statistical methods.
Durante le sessioni di esame, saranno verificate le fasi di analisi statistica di un problema industriale, dal riconoscimento del modello più efficace alla sua implementazione e previsione.
During the exams, the student will be assessed over his/her attitude from the formulation of a statistical model to its implementation and prediction.
Ci si aspetta che lo studente conosca i concetti e le idee di base della statistica, quali quelle contenute nel corso di Statistica I.
The student is required to know and master basic concepts and ideas of statistics and operational research, as those provided in the basic course of Statistics I.
Il corso prevede lezioni frontali per la parte teorica. La parte implementativa è svolta usando i PC personali degli studenti. Il materiale della parte implementativa è reso disponibile sulla pagina del corso. Il corso prevede la possibilità di svolgere un progetto didattico di analisi statistica.
The course is delivered face-to-face. The practical part is developed using the students' PCs. Notes of the omplementation are available on the course web page. There is the possibility to prepare an individual project of statistical analysis.
Elementi di teoria
Regressione lineare
Richiami su covarianza e coefficiente di correlazione. Regressione lineare semplice: introduzione del modello, calcolo dei coefficienti nel modello teorico, calcolo dei coefficienti nel caso campionario. Interpretazione del coefficiente di correlazione nel modello di regressione, varianza spiegata.
Regressione lineare multipla: introduzione del modello, discussione sulla dipendenza causale, scarto quadratico medio. Discussione e descrizione del modello di regressione lineare multipla. Descrizione in termini di un modello teorico di natura probabilistica e calcolo dei coefficienti del modello di regressione nell'ambito del modello teorico. Calcolo dei coefficienti del modello di regressione a partire dai dati empirici: minimizzazione dello scarto quadratico medio. Generica unicità della soluzione trovata. Discussione dei problemi di interpretazione del modello di regressione: overfitting, variabilità statistica dei parametri ottimali, interpretazione e significato dei coefficienti, problemi derivati da differenze di scala, problemi derivati dall'allineamento di fattori, ruolo della varianza spiegata, andamento della varianza spiegata rispetto al numero di fattori e varianza spiegata corretta, p-value sui coefficienti. Discussione sull'opportunità e le modalità di riduzione del modello.
Discussione sulla utilità dei residui: identificazione dei parametri ottimali per un modello, confronto di modelli diversi attraverso la varianza spiegata, stima dell'incertezza nelle previsioni. Analisi quantitativa della varianza e identificazione di eventuale struttura residua. Il metodo di autovalutazione per giudicare le capacità predittive dei modelli)
Analisi delle componenti principali
Matrici di covarianza e correlazione per vettori aleatori. Simmetria e positività, teorema spettrale per la diagonalizzazione. Richiami di algebra lineare: basi ortonormali, matrici ortogonali, cambio di base. Matrici di covarianza e correlazione di una serie di dati empirici, loro simmetria e positività.
Vettori Gaussiani: vettori gaussiani standard, definizione generale, vettore delle medie, matrice di covarianza, esistenza di un vettore Gaussiano assegnati il vettore delle medie e la matrice di covarianza. Densità di vettori gaussiani non-degeneri, indipendenza e scorrelazione, vettori Gaussiani degeneri. Rappresentazione grafica e interpretazione della covarianza attraverso le curve di livello. Studio delle curve di livello di un vettore Gaussiano.
Analisi delle componenti principali: introduzione al metodo, interpretazione per mezzo di vettori Gaussiani, asse e piano principali. Proiezioni sull'asse come classificazione. Varianza lungo le componenti principali. Interpretazione della varianza delle componenti principali, proporzione di varianza spiegata, valutazione dell'efficacia dell'analisi. Matrice dei loading e interpretazione delle componenti principali, rotazioni delle componenti. Analisi fattoriale: cenni.
Classificazione e clustering
Introduzione al problema della classificazione. Descrizione dell'approccio Bayesiano per la classificazione, regola di appartenenza per mezzo delle probabilità a-posteriori, punto cdi vista geometrico e formulazione della regola di appartenenza in termini geomtetrici. Regressione lineare multipla applicata alla classificazione. Regressione logistica: introduzione al modello, formulazione del problema di verosimiglianza, interpretazione dei risultati. Cenni a modelli lineari generalizzati e al problema di classificare con più classi. Interpretazione geometrica della classificazione: cenno grafico e concettuale. Introduzione alla analisi discriminante. Regola di appartenenza mediante le probabilità a-posteriori e corrispondenti insiemi geometrici. Analisi discriminante quadratica e analisi discriminante lineare.
Introduzione al problema del clustering: ruolo della distanza, similarità. Metodi di clustering per punti prototipo: discussione preliminare sulla scelta del numero di classi, strategia generale basata su centroidi, algoritmo di ottimizzazione per i centroidi. Metodo k-means, discussione sulla convergenza dell'algoritmo iterativo per l'ottimizzazione di k-means. Metodo partition around medoids. Metodi gerarchici: costruzione del dendrogramma, distanze tra cluster: single linkage, complete linkage, average linkage. Confronto con i metodi a punti prototipo. Analisi dell'output di un clustering: silhouette, calcolo della silhouette.
Serie storiche
Introduzione alle serie storiche, caratteristiche essenziali della struttura di una serie storica. Funzione di autocorrelazione empirica, interpretazione delle caratteristiche strutturali (trend, stagionalità) in termini della autocorrelazione. Decomposizione di una serie storica: decomposizione additiva o moltiplicativa, medie locali e detrendizzazione, individuazione della componente stagionale, analisi dei residui.
Metodo di smorzamento esponenziale: introduzione alla strategia del metodo, derivazione della formula per ricorrenza, ruolo del parametro, inizializzazione del metodo. Metodo di smorzamento esponenziale con trend: introduzione alla strategia del metodo, derivazione della formula per ricorrenza per intercetta e pendenza, calcolo della previsione, ruolo del parametro, inizializzazione del metodo. Metodo di Holt-Winters: smorzamento esponenziale con trend e stagionalità: introduzione alla strategia del metodo, derivazione della formula per ricorrenza per intercetta, pendenza e stagionalità, calcolo della previsione, ruolo del parametro, inizializzazione del metodo.
Metodi autoregressivi per serie storiche. Discussione delle idee di base. Implementazione elementare del modello, previsione. Funzione di autocorrelazione parziale, metodi AR (Yule-Walker, minimi quadrati). Funzione di cross-correlazione, fattori esogeni, uso dei fattori esogeni a fini interpretativi.
Parte Implementativa mediante il software R
Introduzione al software R. Strutture e operazioni elementari, importazione di dati. Introduzione alla rappresentazione grafica dei dati empirici. Primi comandi statistici e principali distribuzioni. Campioni casuali.
Implementazione attraverso R di modelli di regressione semplice. Intervalli di confidenza e bande empiriche di confidenza. Predizione, intervalli di predizione. Elementi implementativi relativi all'analisi dei residui. Regressione nonlineare. Esempi di regressione multipla implementati in R, previsione, intervalli di confidenza e predizione. Autovalutazione del modello tramite il confronto tra dati noti e previsioni. Riduzione dei fattori in regressione multipla.
Vettori Gaussiani nel piano e nello spazio. Autovalori, autovettori e radice quadrata della matrice di covarianza. Analisi delle componenti principali, interpretazione, rotazioni.
Classificazione mediante regressione multivariata. Accuratezza, matrice di confusione, robustezza del modello rispetto a informazioni non corrette. Classificazione mediante regressione logistica, problemi di convergenza. Curva ROC, area sotto il grafico (AUC). Analisi discriminante lineare e quadratica,
confronto mediante le curve ROC, l'area sotto la curva ROC e l'autovalidazione. Classificazione multiclasse attraverso l'analisi discriminante lineare e la regressione logistica.
Clustering con i metodi k-means e pam, instabilità di k-means. Valutazione del numero di cluster mediante la varianza entro ogni classe e l'analisi della silhouette. Clustering gerarchico.
Rappresentazione grafica di serie storiche. Funzione di autocorrelazione. Decomposizione additiva di serie storiche caratterizzate principalmente da trend, da stagionalità. Decomposizione moltiplicativa. Confronto tra decomposizioni attraverso i residui. Decomposizione con stagionalità non uniforme.
Smorzamento esponenziale di serie, ruolo del parametro e sua scelta ottimale, previsione. Smorzamento esponenziale con trend, scelta ottimale dei parametri e delle condizioni iniziali, previsione. Metodo di Holt-Winters, previsione e stima dell'incertezza parametrica e non parametrica. Auto-validazione del modello. Analisi dei residui. Valutazione dell'incertezza nelle previsioni. Metodo di Holt-Winters con trend e stagionalità additiva e moltiplicativa, confronto tra i residui e validazione dei metodi.
Metodi regressivi per serie storiche. Funzione di autocorrelazione parziale. Autocorrelazione e autocorrelazione parziale per serie tipicamente autoregressive. Previsione attraverso il modello di autoregressione e confronto con la previsione di Holt-Winters attraverso analisi dei residui e autovalidazione. Autoregressione con il metodo Yule-Walker, previsione, stima delle incertezza e confronto con Holt-Winters mediante autovalutazione. Autoregressione con il metodo dei minimi quadrati, previsione e confronto con Holt-Winters. Funzione di cross-correlazione. Previsione con fattori esogeni.
Linear regression.
Covariance and correlation. Linear regression model, computation of the coefficients, explained variance. Covariance and correlation matrices and their properties. Multivariate linear regression model, computation of the coefficients, mean quadratic error. Overifitting, statistical distribution of coefficients, p-value, model reduction.
Analysis of residuals: parameter tuning, model selection, measurament of uncertainty, analysis of variance. Cross-validation.
Principal components analysis.
Gaussian vectors, mean vector and covariance matrix, existence of a Gaussian vector given mean and covariance, density, graphical representation. Principal components analysis method, principal axis and principal plane, variance of principal components, loadings and interpration of components, rotations. Basic facts on factorial analysis.
Classification and clustering.
Introduction. multivariate linear regression for classification. Bayesian approach, geometric interpretation. Logistic regression. Generalized linear models and multi-class classification. Linear and quadratic discriminant analysis.
Clustering: distance, similarity. Clustering methods based on prototype points: k-means, pam. Hierarchical methods, dendrogram, distance between clusters: single linkage, complete linkage, average linkage. Silhouette.
Time series.
Introduction. Auto-correlation function, trend and seasonal components. Additive and multiplicative decomposition of a time series, moving averages, residuals, forecasting. Exponential smoothing and Holt-Winters methods for analysis and forecasting. Paerrtial autocorrelation function, autoregression methods (Yule-Walker, least squares) for time series. Cros-correlation function, esogenous factors.
Implementation in R
Introduction to R. Elementary structures, data input and output. Graphical representation of data. Basic statistics, random samples.
Linear regression in R. Confidence and prediction intervals. Analysis of residuals. Nonlinear regression. Multivariate regression, confidence and prediction intervals. Cross-validation. Model reduction.
Gaussian vectors in the plane and in the space. Eigenvalues, eigenvectors and square root of the covariance matrix. Principal component analysis, interpretation of results, rotations.
Classification through multivariate regression. Accuracy, confusion matrix, robustness with respect to misclassifications. Classification through logistic regression, convergence problems. ROC curve, area under the curve (AUC). Linear and quadratic discriminant analysis, comparison through the ROC curve, the AUC, and cross-validation. Multiple classes classification through linear discriminant analysis and logistic regression.
Clustering through k-means and PAM, instabilities of k-means. Evaluation of the number of clusters through the `within class' variance and the silhouette. Hierarchical clustering.
Graphical representation of time series. Autocorrelation function. Additive decomposition of time series with trend, or with seasonality. Multiplicative decomposition. Comparison of decomposition through their residuals. Decomposition with non uniform seasonality.
Exponential smoothing, parameter tuning and optimal choice, prediction. Exponential smoothing with trend, parameters tuning and choice of the initial condition, prediction. Holt-Winters method, prediction and estimate of uncertainty. Cross-validation for time series, residuals analysis. Uncertainty in predictions. Additive and multiplicative Holt-Winters method with trend and seasonality, model selection.
Autoregressive methods for time series. Partial autocorrelation function. Prediction with autroregressive methods, model selection through residuals analysis and cross-validation. The Yule-Walker autoregression, prediction, uncertainty, model selection. Least squares autoregression, prediction, uncertainty, model selection. Cross-correlation function, esogenous factors.
Note disponibili sulla pagina web del corso
Notes available from the course web page.
La modalità d'esame attraverso la realizzazione di un progetto personale di analisi dei dati è riservata agli studenti frequentanti.
Only the students that fully attends the course can perform their exam through a project of data analysis.
L'esame prevede una prova scritta e una prova orale. La prova scritta è finalizzata alla verifica della capacità di analisi dei dati attraverso la formulazione di modelli statistici e loro implementazione. La prova orale è finalizzata alla verifica della conoscenza dei concetti di base del corso, e prevede due o più domande. In alternativa alla prova scritta lo studente frequentante può svolgere un progetto autonomo in cui si cimenta in una analisi statistica basata su dati reali.
A written and a oral exams are required. The written exam assesses the ability of the student to analyse data through the formulation of statistical models together with their implementation. The oral exam verifies the knowledge of the main ideas and concepts of the course, and requires to answer to two or more questions. Alternatively to the written exam, the student that fully attends the course can prepare a project on statistical analysis of real data.
