Explorando LLMs abertos para classificação de discurso de ódio em jogos online (2024)
- Authors:
- Autor USP: TORNISIELLO, VICTOR ROZZATTI - ICMC
- Unidade: ICMC
- Subjects: CLASSIFICAÇÃO; LINGUAGEM
- Keywords: Discurso de ódio; Linguagem ofensiva
- Language: Português
- Abstract: O discurso de ódio é marcadamente presente em comunidades de jogos online. Motivado por isso, este projeto tem como objetivo o estudo da viabilidade da utilização de grandes modelos de linguagem abertos e com quantidades reduzidas de parâmetros na identificação e avaliação de linguagem ofensiva e discurso de ódio implícito em texto. Para atingir este objetivo, tendo como foco jogos online, foi proposto um pipeline para a classificação e avaliação de linguagem ofensiva e discurso de ódio, e cada uma de suas etapas foi avaliada de forma quantitativa ou qualitativa através de experimentos realizados utilizando o conjunto de dados ToxiGen, o modelo Llama3, de 8 bilhões de parâmetros, e os modelos Mistral e OpenChat, de 7 bilhões de parâmetros cada. Os resultados mostram que o uso de grandes modelos de linguagem na classificação binária de discurso de ódio implícito é viável, com os modelos escolhidos superando modelos de arquiteturas mais simples especializados nesse tipo de tarefa. Adicionalmente, o uso de grandes modelos de linguagem mostrou-se viável também na execução de tarefas mais complexas, como na identificação dos grupos minoritários alvo mencionados, na avaliação do grau de toxicidade e na elaboração de explicações sobre os textos.
- Imprenta:
- Publisher place: São Carlos
- Date published: 2024
-
ABNT
TORNISIELLO, Victor Rozzatti. Explorando LLMs abertos para classificação de discurso de ódio em jogos online. 2024. Trabalho de Conclusão de Curso (MBA) – Instituto de Ciências Matemáticas e de Computação, Universidade de São Paulo, São Carlos, 2024. Disponível em: https://bdta.abcd.usp.br/directbitstream/b0376907-ca64-4b77-a711-f1f2b526e35f/Victor_Rozzatti_Tornisiello.pdf. Acesso em: 25 abr. 2025. -
APA
Tornisiello, V. R. (2024). Explorando LLMs abertos para classificação de discurso de ódio em jogos online (Trabalho de Conclusão de Curso (MBA). Instituto de Ciências Matemáticas e de Computação, Universidade de São Paulo, São Carlos. Recuperado de https://bdta.abcd.usp.br/directbitstream/b0376907-ca64-4b77-a711-f1f2b526e35f/Victor_Rozzatti_Tornisiello.pdf -
NLM
Tornisiello VR. Explorando LLMs abertos para classificação de discurso de ódio em jogos online [Internet]. 2024 ;[citado 2025 abr. 25 ] Available from: https://bdta.abcd.usp.br/directbitstream/b0376907-ca64-4b77-a711-f1f2b526e35f/Victor_Rozzatti_Tornisiello.pdf -
Vancouver
Tornisiello VR. Explorando LLMs abertos para classificação de discurso de ódio em jogos online [Internet]. 2024 ;[citado 2025 abr. 25 ] Available from: https://bdta.abcd.usp.br/directbitstream/b0376907-ca64-4b77-a711-f1f2b526e35f/Victor_Rozzatti_Tornisiello.pdf
Download do texto completo
| Tipo | Nome | Link | |
|---|---|---|---|
 |
Victor_Rozzatti_Tornisiel... | Direct link |
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
