Regularizacija
Section outline
-
Linearna regresije se v primeru dovolj velikega števila atributov povsem prilagodi učni množici. Če je atributov dovolj, primerov pa dovolj malo, lahko celo dosežemo, da model linearne regresije točno napove vse vrednosti razredov primerov učne množice. Tako prilagojeni modeli pa tipično ne napovedujejo dobro na učni množici. Da vse to rešimo rabimo določiti mere za ocenjevanje točnosti, postopek, kako merimo točnost (množico primerov razbijemo na učno in testno množico) in postopek, kako preprečimo preveliko prileganje učni množici. Slednjega imenujemo regularizacija, in je v osnovni zelo enostavna: poleg napake na učni množici gradimo model linearne regresije tako, da skušamo minimizirati tudi vsoto kvadratov vrednosti parametrov modela. Postopek opišemo na primeru polinomske regresije. Literatura - Regularizacija (zapiski predavatelja)
Predavaja- Polinomska regresija
- Polinomska regresija: primer
- Polinomska regresija: prileganje učnim podatkom
- Regularizacija: motivacija
- Kriterijska funkcija z regularizacijo
- Regularizacija: primer
- Točnost na učni in testni množici