Carga horária da disciplina: 60 horas/aula

Professor(es) em 2023-1

Turma 11

Professor: Rafael Alves Bonfim de Queiroz - e-mail Horários: Segunda-feira (19h00 - 20h40) Quarta-feira (19h00 - 20h40)

Objetivos

Ementa

Introdução à interpretabilidade e explicabilidade; interpretabilidade e explicabilidade do pré-modelo; técnicas de visualização de modelos e algoritmos interpretáveis tradicionais; interpretabilidade do modelo: avanços no aprendizado de máquina interpretável; interpretabilidade e explicações post-hoc; aprendizado profundo explicável; explicabilidade na previsão de séries temporais, processamento de linguagem natural e visão computacional.

Conteúdo Programático

- 1) Introdução à interpretabilidade e explicabilidade
- 1.1) Problema da caixa preta e objetivos
- 1.2) Breve história e propósito
- 1.3) Impacto social e tipos de explicações
- 1.4) Taxonomia e técnicas
-
- 2) Interpretabilidade e explicabilidade do pré-modelo
- 2.1) Processo de ciência de dados
- 2.2) Análise exploratória de dados
- 2.3) Engenharia de atributos
-
- 3) Técnicas de visualização de modelos e algoritmos interpretáveis tradicionais
- 3.1) Validação, avaliação e hiperparâmetros do modelo
- 3.2) Seleção e visualização do modelo
- 3.3) Visualização do modelo de classificação
- 3.4) Visualização do modelo de regressão
- 3.5) Visualização do modelo de agrupamento
- 3.6) Propriedades de aprendizado de máquina interpretáveis
- 3.7) Algoritmos interpretáveis tradicionais
-
- 4) Interpretabilidade do modelo: avanços no aprendizado de máquina interpretável
- 4.1) Algoritmos interpretáveis vs. explicáveis
- 4.2) Baseado em conjunto
- 4.3) Baseado em árvore de decisão
- 4.4) Técnicas baseadas em regras
- 4.5) Sistema de pontuação
-
- 5) Interpretabilidade e explicações post-hoc
- 5.1) Explicação visual
- 5.2) Importância do atributo
- 5.3) Baseado em exemplo
-
- 6) Aprendizado Profundo Explicável
- 6.1) Intrínseco
- 6.2) Perturbação
- 6.3) Gradiente/Retropropagação
-
- 7) Explicabilidade na previsão de séries temporais, processamento de linguagem natural e visão computacional
- 7.1) Previsão de séries temporais
- 7.2) Processamento de linguagem natural
- 7.3) Visão computacional

Bibliografia

- RUSSELL, Stuart J; NORVIG, Peter. Artificial intelligence: a modern approach. 3.ed. Upper Saddle River, N.J.: Prentice-Hall 2010. xviii,1132 p. ISBN 9780136042594.
-
- LUGER, George F. Artificial intelligence: structures and strategies for complex problem solving . 6.ed. New York: Pearson 2008. 754 p. ISBN 9780321545893.
-
- MARSLAND, Stephen. Machine learning: an algorithmic perspective . New York: CRC Press 2009. 390 p. ISBN 9781420087187.
-
- MOLNAR, Christoph. Interpretable Machine Learning. 1.ed. Lulu.com 2020. 320 p. ISBN 9780244768522.
-
- KAMATH, Uday; LIU, John. Explainable Artificial Intelligence: An Introduction to Interpretable Machine Learning . 1.ed. Springer 2021. 339 p. ISBN ‎ 9783030833558.

Bibliografia complementar

- KOVACS, Z.L. Redes neurais artificiais: fundamentos e aplicações : um texto básico. 4.ed. São Paulo: Livraria da Física 2006. 174 p ISBN 8586396028.
-
- ENGELBRECHT, Andries P. Computational intelligence: an introduction. 2.ed. New York: John Wiley & Sons 2007. 597 p. ISBN 9780470035610.
-
- JONES, M. Tim. Artificial intelligence: a systems approach. Boston: Jones and Bartlett 2009. 498 p. ISBN 9780763773373.
-
- MASÍS, Serg. Interpretable Machine Learning with Python: Learn to build interpretable high-performance models with hands-on real-world examples. 1.ed. Packt Publishing 2021. 736 p. ISBN 9781800203907.
-
- GIANFAGNA, Leonida; CECCO, Antonio D. Explainable AI with Python. 1.ed. Springer 2021. 202 p. ISBN 9783030686390.
-
- MISHRA, Pradeepta. Practical Explainable AI Using Python: Artificial Intelligence Model Explanations Using Python-based Libraries, Extensions, and Frameworks. 1.ed. Apress 2021. 364 p. ISBN 9781484271575.
-
- THAMPI, Ajay. Interpretable AI: Building explainable machine learning systems. 1.ed. Manning Publications 2022. 275 p. ISBN 9781617297649.