Introduzione alla teoria della probabilità

Controlli e Misure per l’Automazione�Modulo: Monitoraggio dei Processi Industriali

A.A. 2025-26

Introduzione alla teoria della probabilità

Riferimenti e approfondimenti:

1. Bruno de Finetti, Teoria delle probabilità. Sintesi introduttiva con appendice critica, Einaudi 1970
2. Glen Cowan, Statistical Data Analysis, Oxford University Press, 1998
3. Giulio D’Agostini, Bayesian Reasoning in Data Analysis. A Critical Introduction, World Scientific, 2003

​

Introduzione alla teoria della probabilità

Fenomeni deterministici

Fenomeni che nelle medesime condizioni si ripetono con i medesimi esiti, processi i cui risultati sono predicibili (entro l’accuratezza con cui sono note le condizioni)

Fenomeni aleatori

Fenomeni che nelle medesime condizioni non giungono ai medesimi esiti, processi i cui risultati non sono predicibili, o per la natura stessa del fenomeno o per mancanza di informazioni sufficienti.

Teoria della probabilità

Informalmente: teoria che ci fornisce un modello matematico generale che permette di descrivere quantitativamente i fenomeni aleatori e di calcolare a priori le frequenze osservate dei possibili risultati.

Introduzione alla teoria della probabilità

Evento

È il verificarsi di un determinato fatto o di un insieme definito di fatti, o il prodursi di un determinato risultato, come l’esito di un esperimento o il risultato di una misurazione.

Eventi certi, impossibili, aleatori

Un evento certo si verifica sempre, un evento impossibile non si verifica mai, un evento aleatorio può verificarsi o non verificarsi.

Definizione di probabilità

Approccio oggettivista

Si assume che la probabilità sia una caratteristica intrinseca degli enti implicati nell’evento considerato. Vedremo più avanti la critica a questo approccio.

Definizione classica della probabilità (Laplace, 1749-1827)

Definizione statistica o frequentista della probabilità (Richard von Mises, 1883-1953)

​

Approccio soggettivista (Bruno de Finetti, 1906-1985)

La probabilità quantifica il grado di fiducia soggettivo verso il verificarsi di un dato evento. Vedremo che questo è l’approccio più coerente.

Approccio assiomatico (Andrey Kolmogorov, 1903-1987)

La probabilità viene definita in maniera puramente assiomatica, ricorrendo alla teoria degli insiemi e all’algebra, senza darne alcuna interpretazione. L’approccio assiomatico è compatibile con entrambe le interpretazioni oggettiva e soggettiva.

«Se ogni caso è ugualmente probabile, la probabilità dell'evento è uguale al numero di casi favorevoli diviso per il numero di tutti i casi possibili.»

​

Laplace, P.-S., Memoire sur les suites recurro-recurrentes et sur leurs usages dans la theorie des hasards, 1774. Memoire de l’Academie Royale des Sciences de Paris (savants etrangers) Tome VI: 353–371.

​

«La teoria della probabilità consiste nel ridurre tutti gli eventi dello stesso tipo a un certo numero di casi ugualmente possibili e nel determinare il numero di casi favorevoli all'evento di cui si cerca la probabilità. Il rapporto tra questo numero e quello di tutti i casi possibili è la misura di questa probabilità, che è quindi semplicemente una frazione il cui numeratore è il numero di casi favorevoli e il cui denominatore è il numero di tutti i casi possibili.»

​

Laplace, P.-S., Essai philosophique sur les probabilités. Parigi, 1814, p. 4.

Definizione classica di probabilità

• Definizione circolare (usa il concetto di probabilità per definire la probabilità).

• Definizioni analoghe storicamente precedenti a partire da Gerolamo Cardano (1501-1576), cfr: Özlem Kart, A Historical Survey of the Development of Classical Probability Theory, Uppsala University, 2018

Definizione classica di probabilità

Definizione classica di probabilità

Definizione classica di probabilità

Esempio: paradosso dei due bambini

• Il signor Smith ha due bambini. Almeno uno dei due è maschio. Qual è la probabilità che entrambi siano maschi?

Definizione classica di probabilità

Altri esempi per esercizio

• Paradosso delle tre carte: ci sono tre carte, delle quali la prima (A) è rossa su entrambi i lati, la seconda (B) su un lato è rossa e sull'altro è bianca, e la terza (C) è bianca su entrambi i lati. Ponendo su un tavolo una delle tre carte, scelta a caso, ottengo che il lato visibile è di colore rosso. Qual è la probabilità che anche il lato non visibile sia di colore rosso?
• Problema di Monty Hall: ci sono tre porte chiuse; dietro ad una si trova un'automobile, mentre ciascuna delle altre due nasconde una capra. Il giocatore può scegliere una delle tre porte, vincendo il premio corrispondente. Dopo che il giocatore ha selezionato una porta, ma non l'ha ancora aperta, il conduttore dello show – che conosce ciò che si trova dietro ogni porta – apre una delle altre due, rivelando una delle due capre, e offre al giocatore la possibilità di cambiare la propria scelta iniziale, passando all'unica porta restante. Cambiare porta migliora la probabilità del giocatore di vincere l'automobile?

• La definizione non è applicabile in molti casi
• Qual è la probabilità che domani piova?
• Qual è la probabilità che io muoia domani?
• Qual è la probabilità della tris vincente Soldatino, King e D’Artagnan?
• …

Definizione statistica o frequentista di probabilità

• Le prove devono essere ripetute nelle stesse condizioni
• Il numero di prove deve essere abbastanza grande da poter estendere alla popolazione i risultati ottenuti sul campione
• I cosiddetti metodi Monte Carlo sono basati su un approccio frequentista.

• Anche questa definizione non è applicabile in casi come quelli già elencati
• Qual è la probabilità che domani piova?
• Qual è la probabilità che io muoia domani?
• Qual è la probabilità della tris vincente Soldatino, King e D’Artagnan?
• …

Integrazione Monte Carlo secondo l’approccio frequentista

Definizione statistica o frequentista di probabilità

• Con un generatore di numeri casuali, si generano punti uniformemente distribuiti all’interno di un rettangolo che copre la curva integranda.
• Il rapporto tra il numero di punti che cadono sotto la curva ed il numero totale di punti generati, moltiplicato per l’area del rettangolo fornisce una stima dell’integrale.
• L’accuratezza della stima migliora al crescere del numero di punti generati (legge dei grandi numeri, di cui parleremo)

Definizione statistica o frequentista di probabilità

Definizione statistica o frequentista di probabilità

Esperimento realmente condotto nel 1940 dal matematico danese John Edmund Kerrich (1903–1985) lanciando 10,000 volte una moneta e registrandone a mano i risultati mentre si trovava in un campo di prigionia tedesco. Qui usiamo numeri casuali generati al computer.

Definizione statistica o frequentista di probabilità

Definizione statistica o frequentista di probabilità

Definizione statistica o frequentista di probabilità

Definizione statistica o frequentista di probabilità

Definizione statistica o frequentista di probabilità

ESEMPI:

​

• Si vuole scommettere che lanciando una moneta per un certo numero di volte, si otterrà testa per il 60% dei casi. Sarà meglio scegliere di fare 10 lanci oppure 100 lanci?

​

• Si vuole scommettere che lanciando una moneta per un certo numero di volte, si otterrà testa per il 50% dei casi. Sarà meglio scegliere di fare 10 lanci oppure 100 lanci?

Definizione statistica o frequentista di probabilità

Definizione soggettivista di probabilità

Approccio soggettivista (Bruno de Finetti, 1906-1985)

La probabilità quantifica il grado di fiducia soggettivo verso il verificarsi di un dato evento.

• È di fatto applicabile in tutti casi
• Qual è la probabilità che domani piova?
• Qual è la probabilità che io muoia domani?
• Qual è la probabilità della tris vincente Soldatino, King e D’Artagnan?
• …

• L’assegnazione dei valori di probabilità dipende esclusivamente dalle informazioni o dai pregiudizi del soggetto.
• Non si tratta però di un approccio totalmente arbitrario, infatti, come si vedrà, se a priori l’assegnazione può pure essere arbitraria, deve però essere modificata secondo precise regole man mano che le osservazioni forniscono nuova informazione sul fenomeno considerato (teorema di Bayes)
• Il teorema di Bayes permetterà di riconnettere in modo consistente l’approccio assiomatico astratto all’analisi di fenomeni concreti.
• Anche le definizioni classica e frequentista possono essere utilizzate secondo l’approccio soggettivista, quando esse risultino soggettivamente applicabili nei casi concreti considerati.

​

Analisi di alcune obiezioni

• Oggettivista: l’approccio soggettivista è arbitrario.
• Soggettivista: è il contrario. L’approccio oggettivista pretende di trattare in modo oggettivo ciò che oggettivo non è, cadendo in contraddizioni, come abbiamo visto. L’approccio soggettivista invece rispetta ciò che è oggettivo.
• Oggettivista: nella definizione classica, se due eventi distinti, sotto le medesime condizioni e per tutte le circostanze rilevanti, sono indifferenti, allora sono equiprobabili.
• Soggettivista: oltre al problema della circolarità della definizione, se due eventi sono distinti, allora non possono essere indifferenti, altrimenti come sarebbe possibile distinguerli? Dunque l’assegnazione di equiprobabilità a due eventi distinti è un giudizio soggettivo.
• Oggettivista: la probabilità è una caratteristica intrinseca dell’evento
• Soggettivista: l’evento o accade o non accade. La probabilità è una valutazione di un grado di possibilità che può essere effettuata solo da un soggetto che riflette sull’evento a priori della verificazione.
• Oggettivista: due eventi sono indipendenti se il verificarsi dell’uno non influisce sulla probabilità dell’altro.
• Soggettivista: due eventi sono indipendenti se il verificarsi dell’uno non modifica la valutazione della probabilità dell’altro. La probabilità non è una qualità intrinseca dell’oggetto, ma è legata alla conoscenza che ne abbiamo.

​

Definizione assiomatica della probabilità

• Nel lancio di due dadi, gli eventi elementari sono le singole combinazioni dei risultati dei singoli dadi
• Gli eventi non elementari sono i possibili risultati della somma.

Definizione assiomatica della probabilità

• Nel lancio di due dadi, gli eventi elementari sono le singole combinazioni dei risultati dei singoli dadi
• Gli eventi non elementari sono i possibili risultati della somma.

Definizione assiomatica della probabilità

Definizione assiomatica della probabilità

• Sia la definizione classica che quella frequentista soddisfano gli assiomi della probabilità.

Definizione assiomatica della probabilità

Probabilità condizionata

• Vediamo prima alcuni esempi

Definizione assiomatica della probabilità

Probabilità condizionata

• Vediamo prima alcuni esempi

Definizione assiomatica della probabilità

Probabilità condizionata

Probabilità condizionata

Teorema della probabilità totale

Teorema di Bayes

Teorema di Bayes

• Si assume che l’AIDS abbia un’incidenza dello 0.1% sulla popolazione.
• Un test per l’AIDS risulta positivo nel 98% dei casi se effettuato sui malati.
• Lo stesso test restituisce un falso positivo nel 3% dei casi se effettuato sui sani.
• Se facendo un test risulto positivo, qual è la probabilità che io sia malato?

Teorema di Bayes

• Si assume che l’AIDS abbia un’incidenza dello 0.1% sulla popolazione.
• Un test per l’AIDS risulta positivo nel 98% dei casi se effettuato sui malati.
• Lo stesso test restituisce un falso positivo nel 3% dei casi se effettuato sui sani.
• Se facendo un test risulto positivo, qual è la probabilità che io sia malato?

Teorema di Bayes

• Si assume che l’AIDS abbia un’incidenza dello 0.1% sulla popolazione.
• Un test per l’AIDS risulta positivo nel 98% dei casi se effettuato sui malati.
• Supponiamo ora un falso positivo nello 0.2% (non più 3%) dei casi se effettuato sui sani.
• Se facendo un test risulto positivo, qual è la probabilità che io sia malato?

Teorema di Bayes

• Supponiamo A sia un’ipotesi o una teoria H che fa previsioni su delle osservabili o sullo stato di un sistema, e B siano i dati osservati x
• In questo caso
• p(x|H): verosimiglianza o likelihood
• p(H|x): probabilità a posteriori
• p(H): probabilità a priori
• p(x): probabilità marginale 🡺

​

​

​

​

​

​

​

​

​

Teorema di Bayes

• Il teorema permette di passare dalla probabilità delle osservazioni a quella delle ipotesi
• Date due serie di osservazioni successive x₁e x₂

​

​

​

• Il teorema permette di aggiornare la stima della probabilità sulla base di nuove osservazioni, dunque rende coerente e non arbitrario l’approccio soggettivista
• Formalizza il processo di induzione nella verifica di ipotesi e teorie

Interpretazione frequentista vs bayesiana

Interpretazione frequentista vs bayesiana

Variabili aleatorie e distribuzioni di probabilità

Valore di aspettazione e varianza

Processo di Bernoulli

Distribuzione binomiale

Distribuzione binomiale

Distribuzione binomiale

Distribuzione binomiale

Distribuzione binomiale

Variabili aleatorie continue

Probabilità congiunta

Covarianza e correlazione

Covarianza e correlazione

Covarianza e correlazione

Stimatore della media

Stimatore della varianza

Istogrammi e distribuzioni

Istogrammi e distribuzioni

• Aumentiamo il numero di campioni
• La legge dei grandi numeri ci dice che l’istogramma empirico approssimerà sempre meglio la distribuzione teorica
• Infatti il numero di campioni in ogni bin rappresenta la frequenza di un certo evento, e la legge dei grandi numeri ci dice che la frequenza empirica convergerà a quella teorica

​

Istogrammi e distribuzioni

Istogrammi e distribuzioni

+

=

• n = 10,000

Istogrammi e distribuzioni

+

+

+

=

Istogrammi e distribuzioni

Istogrammi e distribuzioni

Grafici da G. D’Agostini, op. cit., p. 110

Teorema centrale del limite (o teorema del limite centrale)

Teorema centrale del limite e macchina di Galton

• La cosiddetta macchina di Galton permette di realizzare una dimostrazione pratica del teorema centrale del limite.

Teorema centrale del limite e macchina di Galton

1

0

…

2

…

Teorema centrale del limite e macchina di Galton

1

0

…

2

…

Per il teorema centrale del limite:

Teorema centrale del limite e macchina di Galton

Valor medio, mediana e moda

Distribuzione bimodale (multimodale se ci sono due o più massimi)