Nieuws

Implicitieke generatie en generalisatie methoden voor energie-gebaseerde modellen

OpenAI heeft vooruitgang geboekt bij het stabiliseren en schalen van het trainen van energie-gebaseerde modellen (EBMs), wat leidt tot betere voorbeeldkwaliteit en generalisatievermogen dan bestaande modellen. Generatie in EBMs gebruikt meer rekenkracht om antwoorden continu te verfijnen, waardoor ze samples kunnen genereren die concurreren met GANs bij lage temperaturen, terwijl ze ook de modusdekkingsgaranties van likelihood-gebaseerde modellen hebben. OpenAI hoopt dat deze bevindingen verder onderzoek stimuleren in deze veelbelovende klasse van modellen.