View syllabus
THEORY AND METHODS OF OPTIMIZATION
GIANCARLO BIGI
Academic year2022/23
CourseMATHEMATICS
Code577AA
Credits6
PeriodSemester 1
LanguageItalian

ModulesAreaTypeHoursTeacher(s)
TEORIA E METODI DELL'OTTIMIZZAZIONEMAT/09LEZIONI42
GIANCARLO BIGI unimap
Obiettivi di apprendimento
Learning outcomes
Conoscenze

L'insegnamento si prefigge l'obiettivo di far conoscere i prinicipali aspetti teorici ed i principali algoritmi risolutivi dei problemi di ottimizzazione nonlineare in dimensione finita.

Knowledge

The course aims at showing the main theoretical concepts and algorithms for nonlinear optimization problems in finite dimension.

Capacità

L'insegnamento si prefigge l'obiettivo di mettere in grado gli studenti di formulare, analizzare e risolvere problemi di ottimizzazione nonlineare in dimensione finita.

Skills

The course aims at enabling students to formulate, analyse and solve nonlinear optimization problems in finite dimension.

Comportamenti

Lo studente potrà acquisire sensibilità nella formulazione di problemi applicativi in differenti campi tramite  problemi di ottimizzazione nonlineare.

Behaviors

The student should open up the mind to the formulation of concrete problems from different fields as nonlinear optimization problems.

Prerequisiti (conoscenze iniziali)

Algebra lineare.  Nozioni di base di topologia. Convergenza in spazi metrici. Calcolo differenziale per funzioni di più variabili reali.

Prerequisites

Linear algebra. Basic notions of topology. Convergence in metric spaces. Multivariate calculus.

Programma (contenuti dell'insegnamento)

Classificazione dei problemi di ottimizzazione. Ottimizzazione non lineare: funzioni e insiemi convessi, massimi e minimi locali e globali,  analisi convessa e calcolo sottodifferenziale, condizioni di ottimalità,  teoria della dualità, metodi risolutivi per problemi non vincolati (gradiente, Newton, sottogradiente, senza derivate) e vincolati (gradiente condizionato, gradiente e sottogradiente proiettato, penalizzazione, punto interno), minimi quadrati non lineari. Equilibri nei giochi non cooperativi. Applicazioni a problemi specifici  (ad esempio: approssimazione e data/curve fitting, modelli di crescita, disposizione spaziale di molecole, trasporti su reti urbane e informatiche, teoria finanziaria del portafoglio, relazioni tra grandezze economiche, equilibri economici), ottimizzazione per l'intelligenza artificiale e l'apprendimento automatico.

Syllabus

Classification of optimization problems. Nonlonear optimization: convex functions and convex sets, local and global minima and maxima,  convex analysis and subdifferential calculus, optimality conditions, duality theory, algorithms for unconstrained optimization (gradient descent, Newton, subgradient, derivate free) and constrained optimization (conditional gradient, projected gradient and subgradient, penalization, interior point, proximal gradient in composite optimization), nonlinear least squares. Equilibria in noncooperative games. Applications to specific problems (e.g., approximation and data/curve fitting, growth models, spatial configurations of moleculse, trasportation on urban and  telecommunication networks, portfolio management, economic measures and their eventual relationships, economic equilibria), optimization in artificial intelligence and machine learning.

Bibliografia e materiale didattico

Non è prevista l'adozione di un libro di testo specifico. Durante il corso verrà fornita la lista dettagliata degli argomenti e dei riferimenti per ciascuno di essi
nonché appunti del docente stesso.

Appunti   

http://pages.di.unipi.it/bigi/dida/tmo/lista.html

Referenze principali

  1. J. Nocedal, S.J. Wright, Numerical Optimization, Springer, 1999
  2. M.S. Bazaraa, H.D. Sherali, C.M. Shetty, Nonlinear Programming: Theory and Algorithms, Wiley, 1993
  3. D. Bertsekas, Nonlinear Programming, Athena, 2004
  4. J.-B. Hiriart-Urruty, C. Lemaréchal, Convex Analysis and Minimization Algorithms, Springer, 2006
  5. A. Beck, First-Order Methods in Optimization, SIAM, 2017

Per ulteriori referenze consultare questa pagina

Bibliography

No textbook will be adopted. During the classes the instructor will provide a detailed list of references for each topic. Some handwritten lecture notes by the instructor are available as well.

Lecture notes    

http://pages.di.unipi.it/bigi/dida/tmo/lista.html (mainly in Italian)

Main references

  1. J. Nocedal, S.J. Wright, Numerical Optimization, Springer, 1999
  2. M.S. Bazaraa, H.D. Sherali, C.M. Shetty, Nonlinear Programming: Theory and Algorithms, Wiley, 1993
  3. D. Bertsekas, Nonlinear Programming, Athena, 2004
  4. J.-B. Hiriart-Urruty, C. Lemaréchal, Convex Analysis and Minimization Algorithms, Springer, 2006
  5. A. Beck, First-Order Methods in Optimization, SIAM, 2017

For further references check this page

Modalità d'esame

Gli studenti che hanno frequentato le lezioni con regolarità (almeno 32 ore) possono scegliere di sostenere l'esame tramite una delle seguenti prove:

  1. colloquio finale
  2. seminario e relazione scritta di supporto

mentre gli altri studenti dovranno necessariamente sostenere il colloquio finale.

Il colloquio verte sugli argomenti svolti durante il corso ed è articolato in una serie di domande volte ad accertare la comprensione degli argomenti. Il seminario (indicativamente di 1 ora) e la relazione vertono su uno specifico argomento che approfondisce e/o amplia alcuni degli argomenti illustrati durante il corso. L'argomento è scelto di comune accordo con il docente. Dal momento della definizione dell'argomento lo studente avrà 2 mesi di tempo per sostenere l'esame.

Assessment methods

Students who regularly attended classes (32h or more) are free to choose one of the following examination procedures:

  1. final interview
  2. report and seminar

while those who didn't will be necessarily examed via a final interview on the contents of the course. The seminar will be an approximatively 1h talk on an advanced topic related to the contents of the course, while the report provides a detailed analysis of the same topic. The choice of the topic will be jointly made by the student and the instructor. Once the topic is chosen, the student will have 2 months to deliver the report and give the talk.

Updated: 25/08/2022 10:29