View syllabus
LAW AND ETHICS OF AI
ILARIO BELLONI
Academic year2023/24
Course INNOVATION LAW FOR BUSINESS AND INSTITUTIONS
Code569NN
Credits9
PeriodSemester 2
LanguageItalian

ModulesAreaTypeHoursTeacher(s)
LAW AND ETHICS OF AIIUS/09LEZIONI72
ERNESTO BELISARIO unimap
ILARIO BELLONI unimap
DOMENICO LAFORENZA unimap
Obiettivi di apprendimento
Learning outcomes
Conoscenze

Il corso intende offrire un approfondimento delle principali questioni di tipo etico e giuridico implicate dalla Intelligenza Artificiale.

Knowledge

The course aims to offer an in-depth study of the main ethical and legal issues involved in Artificial Intelligence.

 

Modalità di verifica delle conoscenze

La verifica delle conoscenze avverrà al termine del corso con un esame finale, secondo le modalità indicate più avanti.

Assessment criteria of knowledge

The assessment of knowledge will take place at the end of the course with a final exam, according to the methods indicated below.

Capacità

Alla fine del corso lo studente sarà capace di analizzare criticamente le principali questioni di tipo etico e giuridico connesse agli usi della intelligenza artificiale.

Skills

At the end of the course the student will be able to critically analyze the main ethical and legal issues related to the uses of artificial intelligence.

 

Modalità di verifica delle capacità

Nel corso dell’esame verrà valutata la capacità dello studente di riconoscere e analizzare criticamente le principali questioni di tipo etico e giuridico legate alla Intelligenza Artificiale.

Assessment criteria of skills

During the examination the student's ability to recognize and critically analyze the main ethical and legal issues related to the uses of artificial intelligence.

.

Comportamenti

Il corso intende fare acquisire agli studenti attitudine a prendere posizione in modo argomentato e coerente sulle questioni in esso affrontate.

Behaviors

The course aims to make students acquiring the aptitude to take position in a reasoned and coherent way on the issues addressed.

Modalità di verifica dei comportamenti

Durante il colloquio d’esame, attraverso domande appositamente congegnate, lo studente che avrà proficuamente seguito le lezioni dimostrerà la sua capacità di avvicinarsi allo studio dei temi affrontati con sguardo critico e con piena consapevolezza delle dimensioni etiche e politiche ad essi sottese.

Assessment criteria of behaviors

During the exam interview, through specially designed questions, the student who will have proficiently followed the lessons will demonstrate his ability to approach the study of the themes addressed with a critical view and with full awareness of the ethical and political dimensions it underlies.

Prerequisiti (conoscenze iniziali)

Il corso presuppone una conoscenza dei concetti basilari elaborati dalla scienza giuridica.

Prerequisites

The course requires knowledge of the basic concepts developed by legal science.

Indicazioni metodologiche

Ulteriori modalità di apprendimento e attività di approfondimento potranno essere definite e concordate nel corso delle lezioni.

Teaching methods

Further learning methods and in-depth activities can be defined and agreed during the lessons.

Programma (contenuti dell'insegnamento)

 

La prima parte del corso è progettata per fornire agli studenti gli elementi tecnici e metodologici di base dell'intelligenza artificiale e dei sistemi di machine learning. Anche a seconda della composizione della classe, tipicamente popolata da studenti provenienti da background “non-STEM”, il corso si concentrerà sugli aspetti introduttivi e di facile comprensione degli argomenti, anche attraverso una serie di semplici casi di studio, utilizzando strumenti moderni strumenti di apprendimento.

Gli argomenti che verranno trattati nella prima parte del corso saranno i seguenti:

  • Introduzione all’Intelligenza Artificiale: come navigare in questo affascinante e

complesso ecosistema multidisciplinare.

  • Machine Learning: come insegnare alle “macchine”.
  • Metodi di apprendimento automatico
    • Supervisionato, non supervisionato e con rinforzo.
    • Creazione di semplici modelli di Machine Learning:
    • Semplici casi di studio: Regressione lineare. Classificazione (K-MEDIA).
  • Deep Learning: principi di funzionamento delle reti neurali e loro applicazioni.
  • Caso di studio: rete neurale per il riconoscimento dei caratteri scritti a mano.
  • Cenni sulle principali tipologie di reti neurali (Ricorrenti, Convoluzionali, Generative).
  • Caso di studio: riconoscimento delle immagini (come costruire un classificatore di immagini).
    • Alcuni settori applicativi dell'intelligenza artificiale (Bancario, Commercio elettronico, Sanità, Giuridico-legale, Sicurezza, ecc.)

Parte opzionale:

  • Jupyter Notebook:
    • applicazione per la creazione e la condivisione di documenti; ambiente IPython: per usare il linguaggio di programmazione Python.
  • Parte propedeutica: Elementi di matematica; Elementi di programmazione Python. 

 

La seconda parte del corso si propone di esplorare i profili giuridici dell'Intelligenza Artificiale (IA), analizzando le sfide legali e di policy che l'adozione dell'IA pone nei diversi ambiti applicativi.

Gli studenti saranno introdotti ai principi di base dell'IA per contestualizzare le questioni giuridiche, con un focus specifico sui principali provvedimenti normativi (europei e internazionali) in materia di sistemi di IA, protezione dei dati personali, responsabilità civile e implicazioni in termini di diritti umani.

Gli argomenti che verranno trattati nella seconda parte del corso saranno i seguenti:

  • Introduzione alla regolamentazione giuridica dell’IA: dai principi etici alla norma
  • Le implicazioni dell’IA per i diritti umani
    Caso di studio: social scoring
  • Governance dell’IA e relazioni internazionali
  • Le regolazione europea dell’IA: l’AI Act (principi, obblighi, adempimenti e scadenze)
  • GDPR e l'IA: il trattamento dei dati personali per l’IA
    Casi di studio: riconoscimento facciale, apprendimento dei sistemi di IA
  • Responsabilità civile e IA: la liability directive UE
    Caso di studio: gli incidenti dei veicoli autonomi
  • Diritti d’autore e proprietà intellettuale nell’IA
    Caso di studio: opere d’arte e musica create da IA
    Caso di studio: New York Times vs. OpenAI
  • Decisioni algoritmiche e bias: la riserva di umanità

Durante questo modulo verranno alternate lezioni frontali a discussioni di casi studio e analisi di legislazione attuale e proposte normative, per fornire una comprensione pratica e approfondita delle questioni giuridiche legate all'IA.

 

Nell'ultima parte del corso si intende dare, più in generale, contezza dell'approccio teorico-filosofico al tema delle macchine intelligenti e, nello specifico, indagare alcune questioni e dilemmi etici legati allo sviluppo dell'intelligenza artificiale. Particolare attenzione verrà dedicata alla questione della fiducia e della vulnerabilità nella interazione uomo-macchina. Le lezioni intenderanno fornire agli studenti interessati una chiave critica per l'analisi della regolamentazione giuridica dell'intelligenza artificiale prodotta in risposta a detti dilemmi etici.

 

Syllabus

 

A first part of this course is designed to provide students with the basic technical and methodological elements of AI and machine learning systems. Also depending on the composition of the class, typically populated by students from “non-STEM” background, the course will focus on the introductory and easy-to-understand aspects of the topics, also through a series of simple case studies, using modern learning tools. 

The topics that will be covered in the first part of the course are:

  • Introduction to Artificial Intelligence: How to navigate this fascinating and complex multidisciplinary ecosystem.
  • Machine Learning: How to teach “machines".
  • Machine learning methods.
    • Supervised, Unsupervised, with Reinforcement.
  • Creating simple Machine Learning models:
  • Simple case studies: Linear Regression. Classification (K-MEANS).
  • Deep Learning: operating principles of neural networks and their applications.
    • Case study: Neural network for handwritten character recognition.
  • Outline of the main types of neural networks (Recurrent, Convolutional, Generative).
    • Case study: Image recognition (How to build an image classifier).
  • Some application sectors of artificial intelligence (Banking; e-Commerce; Healthcare; Legal-Juridical; Security; etc.)

Optional part:

  • Jupyter Notebook:
    • applicazione per la creazione e la condivisione di documenti; ambiente IPython: per usare il linguaggio di programmazione Python.
  • Preparatory part:
    • Elements of mathematics.
    • Elements of Python programming

 

The second part of the course aims to explore the legal profiles of Artificial Intelligence (AI), analysing the legal and policy challenges that the adoption of AI poses in different application domains.

Students will be introduced to the basic principles of AI in order to contextualise the legal issues, with a specific focus on the main (European and international) regulatory provisions concerning AI systems, personal data protection, civil liability and human rights implications.

The topics that will be covered in the second part of the course will be as follows:

  • Introduction to the legal regulation of AI: from ethical principles to norms
  • The implications of AI for human rights
    Case study: social scoring
  • AI governance and international relations
  • European regulation of AI: the AI Act (principles, obligations, compliance and deadlines)
  • GDPR and AI: the processing of personal data for AI
    Case studies: facial recognition, learning AI systems
  • Civil liability and AI: the EU liability directive
    Case study: autonomous vehicle accidents
  • Copyright and intellectual property in AI
    Case study: works of art and music created by AI
    Case study: New York Times vs. OpenAI
  • Algorithmic decisions and bias: the reservoir of humanity

During this module, lectures will be alternated with case study discussions and analyses of current and proposed legislation to provide a practical and in-depth understanding of AI-related legal issues. 

 

In the last part of the course, the theoretical-philosophical approach to the topic of intelligent machines will be given a more general overview and, specifically, some ethical questions and dilemmas related to the development of artificial intelligence will be investigated. Particular attention will be paid to the issue of trust and vulnerability in human-machine interaction. The lectures will aim to provide interested students with a critical key to analysing the legal regulation of artificial intelligence produced in response to these ethical dilemmas.

 

Bibliografia e materiale didattico

 

 

Durante le lezioni verranno presentate diapositive e altri documenti (articoli, leggi, regolamenti, ecc.). Tale materiale sarà disponibile accedendo all'aula virtuale TEAMS abilitata per ogni studente che frequenta il corso.

 

Bibliography

Slides and other documents (articles, laws, regulations, etc.) will be presented during the lessons. This material will be available by accessing the TEAMS virtual room enabled for each student taking the course.

Indicazioni per non frequentanti

Nella aula virtuale Teams verranno forniti strumenti e materiali didattici ad uso anche degli studenti non frequentanti.

Non-attending students info

In the virtual Teams classroom, teaching tools and materials will be provided for the use of non-attending students as well.

Modalità d'esame

L’esame per la verifica delle conoscenze acquisite si svolge in forma orale.

Assessment methods

The exam for verification of acquired knowledge takes place in oral form.

Updated: 18/03/2024 00:02