IBC1.2024.2

Este es el repositorio oficial de la materia Inferencia Bayesiana Causal 1, 2024, segundo semestre.

Cronograma

Unidad	Bibliografía	Teórica	Práctica	Video
0 - Previa	Jaynes 1984 (completo) Bishop 2013 (1-4)	0-previa.pdf
1 - Especificación y evaluación de modelos	Bishop 2006 (1.1-1.3, 2.1-2.3, 3.3-3.4)	1-modelo.pdf	1-practica.zip	Video YouTube
2 - Sorpresa: el problema de la comunicación con la realidad	MacKay (1.1, 2.4-6, 4.1) Kelly (completo)	2-dato.pdf	2-practica.zip	Video YouTube
3 Flujo de inferencia en estructuras causales dinámicas	Kschischang (1,2.2,4,5.1) Herbrich (completo) Winn (completo)	3-flujo.pdf	3-practica.zip	Video Unidad 3.1 Video Unidad 3.2
4 Estimación pasiva de efectos causales	Pearl 2016 (2 a 4) Cinelli (completo) Neal (optativo)	4-causa.pdf	4-practica.pdf	Video Unidad 4.1 Video Unidad 4.2
5 Modelos de historia completa	Dangauthier 2008 (completo) Bishop 2006 (sec 13) Brodersen (optativo)	5-tiempo.pdf	5-practica.zip	Video Unidad 5
6 Acción-percepción	Peters 2019 (completo) Levine 2018 (sec 1 y 2) Parr 2022 (optativo) Czégel 2022 (optativo)	6-accion.pdf	Examen final	Video Unidad 6

Materia Inferencia Bayesiana Causal 1. (IBC1.2024.2)

La materia Inferencia Bayesiana Causal 1 se imparte como optativa de forma paralela en las licenciaturas de ciencias de datos de la Escuela de Ciencia y Tecnología de la UNSAM y en las licenciatura de ciencia de datos, ciencias de la computación y posgrado de Facultad de Ciencias Exactas y Naturales, UBA.

Campus Migueletes - EscuelaCyT	Universidad Nacional de San Martín - Argentina

Pabellón 0 + Inf - FacultadCEN	Universidad Nacional de Buenos Aires - Argentina

Evaluación

Si sos estudiante, es necesario que tengas una copia privada de este repositorio oficial (con el equipo docente como colaboradores), donde deberán subir los ejercicios y donde podrán actualizar los materiales de la materia haciendo pull del repo fuente.

Habrá dos formas de evaluación.

1. Por un lado podrán realizar auto-evaluaciones descargando del repositorio oficial los casos de test con lo que verificar la correctitud de sus ejercicios.
2. Por otro lado, el equipo docente al tener acceso a su repositorio privado tendrá acceso a sus soluciones y ejecutará tests adicionales.

El resultado de las evaluaciones será enviado mediante un mensaje de commit y eventualmente un archivo explicando el tipo de error.

Copia privada del repositorio oficial (con equipo docente como colaboradores)

Seguir los siguientes pasos para crear el repositorio.

1. Crear la carpeta donde vivirá su repositorio privado

git init nombre_de_carpeta_a_crear

2. Conectarlo con el repositorio oficial.

git remote add upstream git@github.com:MetodosBayesianos/IBC1.2024.2.git

3. Descargar el contenido del repositorio oficial.

git pull upstream main

4. Crear un repositorio **privado vacío** en github.

# Entrar con sus usuario a github.com y crear un repositorio privado vacío.

5. Agregar una referencia al repositorio privado recién creado.

git remote add origin git@github.com:usuario/nombre_del_repositorio.git

6. Subir los cambios locales a la plataforma.

git push origin main

7. Dar acceso de edición a equipo docente.

# En Setting > Collaborators, agregar a @glandfried.

Objetivos.

Esta materia está enfocada en la evaluación de argumentos causales alternativos mediante la (aproximación a) la aplicación estricta de las reglas de la probabilidad, el sistema de razonamiento en contextos de incertidumbre. La materia tiene por principal objetivo revisar los métodos desarrollados en las últimas décadas para:

• Especificar matemáticamente los argumentos causales expresados en lenguaje natural mediante métodos gráficos intuitivos
• Precisar cómo la estructura causal influye en el flujo de inferencia entre las variables del modelo.
• Identificar el efecto causal entre variables de un modelo causal en base de datos observacionales (sin intervenciones).
• Diseñar experimentos que permitan evaluar teorías causales alternativos
• Seleccionar decisiones óptimas en ciclos de acción-percepción con una naturaleza oculta (simulada).

El problema real detrás de este problema de conocimiento es responder preguntas esenciales como ¿Qué acciones generan bienestar?.

Marco Conceptual

Definición de Inferencia. Las "verdades" son proposiciones válidas para todas las personas. Las ciencias con datos deben validar sus proposiciones (hipótesis) en sistemas naturales abiertos. ¿Tiene sentido hablar de "verdad" si justamente tenemos incertidumbre respecto de su valor real? Al menos podemos evitar mentir: no afirmar más de lo que se sabe (maximizando incertidumbre) sin ocultar todo aquello que sí se sabe (dada la información disponible o restricciones).




Definición de Bayes. Evaluación de todo el espacio de hipótesis mediante la (aproximación a la) aplicación estricta de las reglas de la probabilidad: preservar la creencia previa que sigue siendo compatible con los datos (regla del producto) y predecir con la contribución de todas las hipótesis (regla de la suma). Debido al costo computacional de las reglas de la probabilidad, durante el siglo 20 propusieron una gran cantidad criterios arbitrarios de selección de hipótesis, que genera siempre efectos secundarios indeseados como ocurre con el overfitting. Afortunadamente, la aplicación estricta de las reglas de la probabilidad no exhiben estos problemas. Si lo hicieran, no tendríamos aún un sistema de razonamiento para contexto de incertidumbre.




Definición de Causal. El problema real de todo organismo vivo es orientar el ciclo de acción-percepción con la naturaleza en favor de su reproducción, supervivencia y bienestar. Los problemas del conocimiento científico obtienen su relevancia y jerarquía de los objetivos que persigue alcanzar. Luego de una percepción evaluamos los argumentos causales alternativos maximizando la incertidumbre dada la información disponible, y antes de actuar seleccionamos la acción minimizando la incertidumbre esperada en relación al objetivo que perseguimos.

Programa

Unidad 1. Introducción a la especificación y evaluación de argumentos causales

• Explicación causal. Creencias honestas. Reglas de razonamiento en contextos de incertidumbre. Métodos gráficos de especificación de argumentos causales.
• La naturaleza generativa de los argumentos causales. Evaluación de modelos causales alternativos. Ejemplos identificables y no identificables.
• Modelos conjugados. Emergencia del overfitting por selección y balance natural por evaluación. Ejemplo con modelos polinomiales de complejidad creciente.
• Bibliografía sugerida: Bishop 2013 (1-4). Bishop 2006 (1.1-1.3, 2.1-2.3, 3.3-3.4) Otras: Jaynes (paper), Samaja (3.1-3.4), Klimovsky (4), Jaynes (paper)

Unidad 2. Sorpresa: el problema de la comunicación con la realidad

• Niveles de base empírica. La estructura invariante del dato. El isomorfismo con los sistemas de comunicación emisor-receptor de la teoría de la información.
• Evaluación de sistemas de comunicación alternativos en base a su tasa de predicción en el tiempo, expresada en órdenes de magnitud.
• La sorpresa como fuente de información. Equivalencia entre la media geométrica de las predicciones y la entropía cruzada. Máxima entropía y divergencia KL.
• Bibliografía sugerida: MacKay (1.1, 2.4-6, 4.1), Kelly (paper). Otras: Klimovsky (2), Samaja (3.5, 3.6.2-5).

Unidad 3. Estructuras causales dinámicas (teorías) y flujo de inferencia.

• Especificación de modelos mediante factor graphs. Descomposición de las reglas de la probabilidad como pasaje de mensajes entre los nodos de las red causal.
• Estructuras causales dinámicas (teorías). Su especificación mediante gates. Flujo de inferencia en las estructuras causales básicas: pipe, fork y collider.
• Implementación completa de la estimación de habilidad en un evento por pasaje de mensajes y aproximaciones analíticas (expectation propagation). Filtro de Kalman.
• Bibliografía sugerida. Kschischang (1,2.2,4,5.1), Winn (paper), Herbrich (completo) Otras: Bishop 2006 (8.2-8.2.2, 8.4-8.4.4, 8.4.7). Neal (2.1, 3, 4.1), Pearl (1).

Unidad 4. Estimación pasiva de efectos causales.

• Los niveles de razonamiento causal: asociacional, intervencional y contrafactual. Los conceptos de potential outcome y do-operator.
• Estimación de efectos causales mediante el control del flujo de inferencia (d-separation). Buenos y malos controles. Ejemplos varios.
• Adjustment formula, inverse probability weighting, propensity scores. backdoor, frontdoor y do-calculus. Contrafactuales: twin networks.
• Bibliografía sugerida. Pearl (3,6-7), Hernán (parte I), Cinelli (paper), Neal (4, 6, 7.5-7.6).

Unidad 5. Series temporales y modelos de historia completa.

• Modelos de historia completa. Problemas de usar el último posterior como prior del siguiente evento. Propagación de la información por toda la red histórica causal.
• Estimación de efecto causal por simulación de contrafactuales. Intervenciones en series temporales. Monte Carlo para series temporales.
• Evaluación de modelos causales alternativos. Apuestas óptimas en deportes: criterio Kelly, fractional Kelly y otros criterios.
• Bibliografía sugerida. Brodersen (paper), Dangauthier (paper), Bishop (13.2.3-13.2.4, 13.3), Hernán (parte II).

Unidad 6. Acción-percepción: el problema de la interacción con la realidad

• Ciclos de acción-percepción. La persistencia de la vida fuera del equilibrio. Isomorfismo probabilidad-evolución. Toma de decisiones por minimización de la sorpresa esperada.
• Apuestas óptimas: ventajas a favor de la diversificación individual, la cooperación y la especialización cooperativa. Transiciones evolutivas y epistémicas mayores.
• Re-formulación ergódica de la teoría de utilidad esperada. Kelly Criterion. Planificación como inferencia. Control óptimo mediante pseudo-posteriors de las acciones.
• Bibliografía: Peters (paper), Levine (1-2), Parr (1-3), Schrodinger (4-7)

Bibliografía

Bibliografía en links, en `github.com/glandfried/biblio/releases/tag/teca`, Sci-hub o Libgen.

• Bishop. Pattern recognition and machine learning. Springer; 2006
• Levine S. Reinforcement learning and control as probabilistic inference: Tutorial and review. arXiv. 2018.
• Parr T, Pezzulo G, Friston KJ. Active Inference. MIT Press; 2022
• Pearl J. Causality. Cambridge university press; 2009.
• Peters O. The ergodicity problem in economics. Nature Physics. 2019.
• Winn J. Causality with gates. In: Artificial Intelligence and Statistics. PMLR; 2012.

Complementaria:

• Bishop. Model-based machine learning. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 2013
• Brodersen KH, Gallusser F, Koehler J, Remy N, Scott SL. Inferring causal impact using Bayesian structural time-series models. The Annals of Applied Statistics. 2015;
• Chopin N, Papaspiliopoulos O, et al. An introduction to sequential Monte Carlo. Vol. 4. Springer; 2020.
• Cinelli C, Forney A, Pearl J. A crash course in good and bad controls. Sociological Methods & Research. 2022
• Czégel D, Giaffar H, Tenenbaum JB, Szathmáry E. Bayes and Darwin: How replicator populations implement Bayesian computations. BioEssays. 2022.
• Dangauthier P, Herbrich R, Minka T, Graepel T. Trueskill through time: Revisiting the history of chess. In: Advances in Neural Information Processing Systems; 2008
• Gronau QF, Sarafoglou A, Matzke D, Ly A, Boehm U, Marsman M, et al. A tutorial on bridge sampling. Journal of mathematical psychology. 2017.
• Herbrich, R, Minka T, Graepel T. TrueSkill: A Bayesian Skill Rating System. In: Advances in Neural Information Processing Systems; 2006
• Hernán MA, Robins JM. Causal inference: What if. 2020.
• Jaynes ET. Bayesian methods: General background; 1984.
• Kass RE, Raftery AE. Bayes factors. Journal of the American Statistical Association. 1995.
• Kelly jr JL. A New Interpretation of Information Rate. Bell System Technical Journal. 1956
• Klimovsky G. Las desventuras del conocimiento científico; 1994
• Koller D, Friedman N. Probabilistic graphical models: principles and techniques. MIT press; 2009.
• Kschischang et al. Factor graphs and the sum-product algorithm. IEEE Transactions on information theory. 2001./li>
• MacKay DJ. Information theory, inference and learning algorithms. Cambridge university press; 2003.
• McElreath R. Statistical rethinking: A Bayesian course with examples in R and Stan. 2020
• Neal. Introduction to causal inference. Course Lecture Notes (draft). 2020;
• Perrakis K, Ntzoufras I, Tsionas EG. On the use of marginal posteriors in marginal likelihood estimation via importance sampling. Computational Statistics & Data Analysis. 2014.
• Popper K. La lógica de la investigación científica; 1967.
• Samaja J. Epistemologı́a y metodología: elementos para una teoría de la investigación científica. EUDEBA; 1999.
• Schrodinger E. ¿Qué es la vida?. 1944.
• Vousden W, Farr WM, Mandel I. Dynamic temperature selection for parallel tempering in Markov chain Monte Carlo simulations. Monthly Notices of the Royal Astronomical Society. 2018