Analiza tekstnih dokumenata na hrvatskom jeziku korištenjem metoda dubokog učenja

master's thesis

• Title (english): Analysis of text documents in the Croatian language using deep learning methods
• Author: Domagoj Šebalj
• Mentor: Jasminka Dobša (mentor); MBZ: 218640
• Committee member: Ivan Magdalenić (član povjerenstva); MBZ: 244501
• Granter: University of Zagreb; Faculty of Organization and Informatics; (Department of Quantitative Methods); Varaždin
• Defense date and country: 2022-09-19, Croatia
• Scientific / art field, discipline and subdiscipline: SOCIAL SCIENCES; Information and Communication Sciences; Organization and Informatics

Abstract

Najbolji predtrenirani modeli u području obrade prirodnog jezika dolaze od nekolicine velikih
tvrtki koje nemaju uvijek interes ili motivaciju za prilagod̄avanje modela za slabo zastupljene
jezike. Tako je cilj ovoga rada prikazati način treniranja vlastitog predtreniranog modela na
već postojećoj GPT-2 arhitekturi korištenjem slobodno dostupnih ili jeftinih alata, biblioteka i
programskog okružja, a kao teorijska podloga je dan pregled povijesnog razvoja predtrenira-
nih modela, njihov način rada i vodeće arhitekture. Tehnike kojima se zaobilaze ograničenja
alata, biblioteka i programskih okružja je potrebno dodatno razraditi i pronaći optimalni način
treniranja, ali kreirani model za hrvatski jezik svejedno pokazuje zadovoljavajuće rezultate na
zadacima jezičnog modeliranja, analize sentimenta te strojnog prevod̄enja.

• Keywords: obrada prirodnog jezika; hrvatski jezik; jezični model
• Language: croatian
• URN:NBN: urn:nbn:hr:211:161205
• Study programme: Title: Information and Programming Engineering; Study programme type: university; Study level: graduate; Academic / professional title: magistar/magistra informatike (magistar/magistra informatike)
• Type of resource: Text
• File origin: Born digital
• Access conditions: Open access
• Created on: 2022-09-26 04:25:31