Sumários

semana 7

9 Abril 2026, 13:00 António Manuel Horta Branco

Algoritmo de treino: passagem para a frente, perda, passagem para trás, retropropagação, otimização baseada no gradiente.

Configuração e hiperparâmetros: ajuste aos dados, número de camadas e cabeças, tamanho dos embeddings e da representação escondida, funções de ativação, algoritmos de otimização, funções de perda, número de épocas e de passos, tamanho do lote, inicialização dos pesos e dos embeddings, taxa de aprendizagem, passos de aquecimento, regularização, recomeços e agregados, otimização dos hiperparâmetros.

Realização do elemento de avaliação Mini-teste 2.


semana 6

26 Março 2026, 15:00 António Manuel Horta Branco

Semântica distribucional de frases/textos. Bag of words (BOW): concatenação, soma, média, máximo. Rede Neuronal Convolucional (“CNN”): agregação, avanço, hierarquia, ligação de parâmetros, conexões-salto. Rede Neuronal Recorrente ("RNN"): estado interno, codificador, descodificador, seq-to-seq, transdução, explosão e desaparecimento de gradientes. Atenção: produto escalar e semelhança semântica, representação ponderada pelo contexto, ponderação pela tarefa, matrizes query-key-value. Transformer: sub-camadas de atenção, atenção multi-cabeça, paralelismo, vetores posicionais, transdução, máscara no descodificador. Modelação de linguagem probabilística e composicionalidade em semântica distribucional com Transformers.

Laboratório: Cap2 do curso HF (Hugging Face)


semana 6

26 Março 2026, 13:00 António Manuel Horta Branco

Semântica distribucional de frases/textos. Bag of words (BOW): concatenação, soma, média, máximo. Rede Neuronal Convolucional (“CNN”): agregação, avanço, hierarquia, ligação de parâmetros, conexões-salto. Rede Neuronal Recorrente ("RNN"): estado interno, codificador, descodificador, seq-to-seq, transdução, explosão e desaparecimento de gradientes. Atenção: produto escalar e semelhança semântica, representação ponderada pelo contexto, ponderação pela tarefa, matrizes query-key-value. Transformer: sub-camadas de atenção, atenção multi-cabeça, paralelismo, vetores posicionais, transdução, máscara no descodificador. Modelação de linguagem probabilística e composicionalidade em semântica distribucional com Transformers.

Laboratório: Cap2 do curso HF (Hugging Face)


semana 5

19 Março 2026, 15:00 António Manuel Horta Branco

Aprendizagem automática (intro): supervisionada, conjuntos de dados de treino, teste e desenvolvimento, etiquetação, avaliação, enviesamento.
Redes neuronais (intro): neurónio, pesos, funções de ativação, camadas, arquiteturas, modelos, formatos de saída e entrada, algoritmo de treino, inferência, aproximador universal.

Laboratório: Cap1, sec 2 do curso HF (Hugging Face)


semana 5

19 Março 2026, 13:00 António Manuel Horta Branco

Aprendizagem automática (intro): supervisionada, conjuntos de dados de treino, teste e desenvolvimento, etiquetação, avaliação, enviesamento.
Redes neuronais (intro): neurónio, pesos, funções de ativação, camadas, arquiteturas, modelos, formatos de saída e entrada, algoritmo de treino, inferência, aproximador universal.

Laboratório: Cap1, sec 2 do curso HF (Hugging Face)