Abstract
<jats:p>Esta publicação refere-se ao microcurso Arquiteturas Profundas para Processamento de Linguagem Natural (PLN), que aborda, em detalhes, as diversas arquiteturas propostas, seus desdobramentos e aplicações, desde o PLN clássico, pautado no Machine Learning clássico, até o PLN contemporâneo, baseado em Deep Learning e o Aprendizado de Representações. Dessa forma, explora toda a evolução das arquiteturas neurais voltadas ao PLN, inicia com RNNs, discute as vantagens e defeitos das arquiteturas recorrentes, passa pelos Transformers e o mecanismo de atenção e, por fim, estuda as arquiteturas que surgiram nos anos recentes com base em Transformers, passando pelo BERT e GPT e refletindo sobre como essas arquiteturas revolucionaram a forma de se resolver problemas em NLP.</jats:p>