Section outline

  • Razvijemo osnovni program za avtomatsko (strojno) odvajanje z uporabo računskega grafa, ki omogoča izračun gradientov po verižnem pravilu. Na začetku implementiramo vozlišča grafa kot objekt `Value`, ki shranjujejo vrednosti, operacije in povezave s predhodniki. S pomočjo tega razreda in njegovih metod za seštevanje, množenje (kasneje dodamo še druge operacije, ki vključujejo odštevanje, potenciranje, negacija, konstante) gradimo graf, po katerem se lahko sprehodimo naprej za izračun vrednosti funkcije ter nazaj za izračun gradientov. Zapiski s predavanj
    Koda