섹션 개요

  • Razložljivost v strojnem učenju pomeni sposobnost modela, da človeku utemelji svoje odločitve; potrebujemo jo za nadzor, zaupanje, pravičnost in skladnost z regulativo, še posebej v občutljivih domenah. Ločimo med globalno in lokalno razlago modela. Med razložljive modele sodijo linearne metode in odločitvena drevesa. Pri kompleksnejših modelih, kot so nevronske mreže ali naključni gozdovi, se poslužujemo posebnih tehnik razlage. Ena ključnih metod je SHAP, ki temelji na Shapleyjevih vrednostih; ta vsakemu vhodnemu atributu pripiše povprečen prispevek k napovedi, upoštevajoč vse kombinacije drugih atributov. SHAP je teoretično utemeljen, a računsko zahteven; v praksi uporabljamo približke. Vrednosti SHAP lahko učinkovito prikažemo v grafih, tudi za časovne vrste, kar omogoča vpogled v vpliv posameznih delov vhodnega signala. Zapiski predavatelja
    Koda