Entropija i vjerojatnost u strojnom učenju

završni rad

• Naslov (engleski): Entropy and probability in machine learning
• Autor: Luka Gajdek
• Mentor: Jelena Gusić Munđar (mentor); MBZ: 341600
• Član povjerenstva: Petra Žugec (član povjerenstva); MBZ: 319436
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet organizacije i informatike; (Katedra za kvantitativne metode); Varaždin
• Datum i država obrane: 2024-09-24, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: DRUŠTVENE ZNANOSTI; Informacijske i komunikacijske znanosti; Organizacija i informatika

Sažetak

Ovaj završni rad istražuje pojam entropije i njezinu ulogu unutar strojnog učenja, ključnog područja umjetne inteligencije. Rad započinje razmatranjem entropije u termodinamici, njezine povijesne pozadine i šire primjene, uključujući Shannonovu entropiju u teoriji informacija. Naglašava se kako entropija djeluje kao mjera nesigurnosti, posebice u procesima analize podataka i optimizacije algoritama strojnog učenja. U daljnjem razmatranju, istražuju se različiti pristupi strojnog učenja – nadzirano, nenadzirano, polunadzirano i pojačano učenje – te njihova primjena u stvarnom svijetu. Poseban fokus stavljen je na ID3 algoritam, koji koristi entropiju za odabir atributa u klasifikaciji podataka, što pokazuje ključnu ulogu entropije u poboljšanju preciznosti i učinkovitosti modela. Kroz konkretne primjere analizirani su izazovi i mogućnosti koje entropija nudi u strojnom učenju, uz poseban osvrt na optimizaciju procesa i povećanje točnosti modela.
Ključne riječi: entropija; idealan toplinski stroj; strojno učenje; nadzirano učenje; nenadzirano učenje; ID3 algoritam.

• Ključne riječi: vjerojatnost; strojno učenje; metoda entropije
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:211:958207
• Studijski program: Naziv: Informacijski i poslovni sustavi; Vrsta studija: sveučilišni; Stupanj studija: preddiplomski; Akademski / stručni naziv: sveučilišni/a prvostupnik/prvostupnica (baccalaureus/baccalaurea) informatike (univ. bacc. inf.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Pristup svim korisnicima iz sustava znanosti i visokog obrazovanja RH
• Datum i vrijeme pohrane: 2024-09-30 04:24:03