Analiza tekstnih dokumenata na hrvatskom jeziku korištenjem metoda dubokog učenja

diplomski rad

• Naslov (engleski): Analysis of text documents in the Croatian language using deep learning methods
• Autor: Domagoj Šebalj
• Mentor: Jasminka Dobša (mentor); MBZ: 218640
• Član povjerenstva: Ivan Magdalenić (član povjerenstva); MBZ: 244501
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet organizacije i informatike; (Katedra za kvantitativne metode); Varaždin
• Datum i država obrane: 2022-09-19, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: DRUŠTVENE ZNANOSTI; Informacijske i komunikacijske znanosti; Organizacija i informatika

Sažetak

Najbolji predtrenirani modeli u području obrade prirodnog jezika dolaze od nekolicine velikih
tvrtki koje nemaju uvijek interes ili motivaciju za prilagod̄avanje modela za slabo zastupljene
jezike. Tako je cilj ovoga rada prikazati način treniranja vlastitog predtreniranog modela na
već postojećoj GPT-2 arhitekturi korištenjem slobodno dostupnih ili jeftinih alata, biblioteka i
programskog okružja, a kao teorijska podloga je dan pregled povijesnog razvoja predtrenira-
nih modela, njihov način rada i vodeće arhitekture. Tehnike kojima se zaobilaze ograničenja
alata, biblioteka i programskih okružja je potrebno dodatno razraditi i pronaći optimalni način
treniranja, ali kreirani model za hrvatski jezik svejedno pokazuje zadovoljavajuće rezultate na
zadacima jezičnog modeliranja, analize sentimenta te strojnog prevod̄enja.

• Ključne riječi: obrada prirodnog jezika; hrvatski jezik; jezični model
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:211:161205
• Studijski program: Naziv: Informacijsko i programsko inženjerstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra informatike (mag.inf.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup
• Datum i vrijeme pohrane: 2022-09-26 04:25:31