Modelos de linguagem no jornalismo


Álvaro Justen


IJNet (online)

16 de maio de 2023

$ whoami

Sigam-me os bons:

{twitter,
github,
youtube,
slideshare,
instagram}
/turicas

alvaro@brasil.io

## Agenda - Processamento de linguagem natural - Aplicações no jornalismo - Problemas
## Machine Learning - aplicações - Sistemas de recomendação - Detecção de fraude - Diagnósticos médicos por imagem - Transcrição de áudio - Classificação de imagens - Assistentes pessoais
## Processamento de Linguagem Natural (PLN/NLP) - Linguística + matemática + computação - Aplicações clássicas: - Marcação morfossintática - Identificação de entidades nomeadas (NER) - Classificação - Análise de sentimento - Tradução - Sumarização - Perguntas e respostas - Geração de texto
## Grandes modelos de linguagem (LLM) - Modelos "genéricos" - Capacidade de "raciocinar" - Escala gigantesca: - Treinado com bilhões de palavras - Milhares de computadores - "Papagaios estocásticos"
## ChatGPT - Criado pela OpenAI - 1 milhão de usuários em 5 dias - Mais de 100 milhões de usuários - Interface amigável - Versão gratuita - Acessível por API
## Exemplos - "Sumarize, em um parágrafo, a seguinte matéria:" - "Sumarize, em um parágrafo e em Inglês, a seguinte matéria:" - "Extraia as entidades nomeadas (pessoas, empresas, organizações e locais) do texto abaixo, no formato '- categoria: entidade':" - "O texto a seguir são notas de uma entrevista feita com X. Estruture as anotações em um texto coerente." - "Dada a matéria abaixo, responda em um parágrafo: X?"

Problema: Alucinação

Problema: Privacidade de dados


xkcd.com/2169

Dúvidas?



{twitter,
github,
youtube,
slideshare,
instagram}
/turicas

alvaro@brasil.io