Sumários

semana 9

23 Abril 2026, 13:00 • António Manuel Horta Branco

Eficiência nos dados: Afinação (fine-tuning). Eficiência nos parâmetros: Adaptadores (LoRA). Eficiência na computação: aprendizagem em contexto (few-shot; prompt engineering). Desvio por desalinhamento: aprendizagem por preferências (DPO). Desvio por alucinações: aumento do incitamento com conhecimento externo (RAG).

Laboratório: Cap3 do curso HF (Hugging Face), continuação e conclusão.

semana 8

16 Abril 2026, 13:00 • António Manuel Horta Branco

Aprendizagem auto-supervisionada. Tarefas de continuação. Pré-treino e afinação. Aprendizagem por transferência. Lei do dimensionamento.

Avaliação. Referenciais de avaliação. Quadros de honra.

Família de Transformers. Codificadores-descodificadores, Codificadores, descodificadores. Transformers notáveis. Incitamento (prompting). Few-, one- e zero-shot. Descodificador em modo de inferência em todo o detalhe.

Laboratório: Cap3 do curso HF (Hugging Face)

semana 7

9 Abril 2026, 13:00 • António Manuel Horta Branco

lgoritmo de treino: passagem para a frente, perda, passagem para trás, retropropagação, otimização baseada no gradiente.

Configuração e hiperparâmetros: ajuste aos dados, número de camadas e cabeças, tamanho dos embeddings e da representação escondida, funções de ativação, algoritmos de otimização, funções de perda, número de épocas e de passos, tamanho do lote, inicialização dos pesos e dos embeddings, taxa de aprendizagem, passos de aquecimento, regularização, recomeços e agregados, otimização dos hiperparâmetros.

Realização do elemento de avaliação Mini-teste 2.

semana 6

26 Março 2026, 13:00 • António Manuel Horta Branco

Semântica distribucional de frases/textos. Bag of words (BOW): concatenação, soma, média, máximo. Rede Neuronal Convolucional (“CNN”): agregação, avanço, hierarquia, ligação de parâmetros, conexões-salto. Rede Neuronal Recorrente ("RNN"): estado interno, codificador, descodificador, seq-to-seq, transdução, explosão e desaparecimento de gradientes. Atenção: produto escalar e semelhança semântica, representação ponderada pelo contexto, ponderação pela tarefa, matrizes query-key-value. Transformer: sub-camadas de atenção, atenção multi-cabeça, paralelismo, vetores posicionais, transdução, máscara no descodificador. Modelação de linguagem probabilística e composicionalidade em semântica distribucional com Transformers.

Laboratório: Cap2 do curso HF (Hugging Face)

semana 5

19 Março 2026, 13:00 • António Manuel Horta Branco

Aprendizagem automática (intro): supervisionada, conjuntos de dados de treino, teste e desenvolvimento, etiquetação, avaliação, enviesamento.
Redes neuronais (intro): neurónio, pesos, funções de ativação, camadas, arquiteturas, modelos, formatos de saída e entrada, algoritmo de treino, inferência, aproximador universal.

Laboratório: Cap1, sec 2 do curso HF (Hugging Face)