commit 1380ec9411f7b3474680041f9af8e27248853431
parent 9131a1f22a0a674c8d56ccd14e4fc57f5c9dba9a
Author: Silas Brack <s174433@student.dtu.dk>
Date: Thu, 9 Feb 2023 16:32:31 +0100
Fixed again*.
Diffstat:
1 file changed, 2 insertions(+), 0 deletions(-)
diff --git a/chapters/abstract.tex b/chapters/abstract.tex
@@ -37,6 +37,7 @@ matrix for at g{\o}re den beregningsm{\ae}ssigt gennemf{\o}rlig. N{\aa}r vi ikke
praktiske tiln{\ae}rmelser, kr{\ae}ver de eksisterende metoder, at den fulde posteriore pr{\ae}cision skal instantieres. Vi kalder
dette den fulde Laplace-approximation. For alle problemer undtagen leget{\o}jsproblemer er det imidlertid s{\aa}dan, at den fulde pr{\ae}cisionsmatrix skalerer
kvadratisk med antallet af parametre, er denne matrix for stor til at blive lagret i hukommelsen.
+
I dette arbejde foresl{\aa}r vi en metode til beregning af Laplace-approximationen ved hj{\ae}lp af kun Jacobian-vektor
produkter. Dette giver os mulighed for at udf{\o}re marginal tr{\ae}ning og posterior sampling ved hj{\ae}lp af den fulde Laplace
approksimation uden at lagre hele den efterf{\o}lgende pr{\ae}cisionsmatrix. For at opn{\aa} dette viser vi, at vi kan
@@ -47,6 +48,7 @@ til at evaluere kvaliteten af de efterf{\o}lgende stikpr{\o}ver uden at instanti
baseret p{\aa} resultater fra traditionel statistik. Til at gennemf{\o}re disse metoder anvender vi JAX, et bibliotek til automatisk
differentiering, som g{\o}r det muligt for os at udf{\o}re Jacobian-vektorprodukter effektivt uden eksplicit at lagre den
hele den posteriore pr{\ae}cision.
+
Vi udf{\o}rer den fulde Laplace-approximation p{\aa} b{\aa}de en sinusfunktion og MNIST ved hj{\ae}lp af vores metode. Denne
best{\aa}r af to trin, (a) tr{\ae}ning af et neuralt netv{\ae}rk ved at maksimere enten dets posterior sandsynlighed eller marginale
sandsynlighed og (b) udtagning af pr{\o}ver fra denne posterior. Vores tiln{\ae}rmede maksimale marginale tr{\ae}ningsprocedure er