Transformed sparse grids for high-dimensional models

Abstract

Computer experiments provide a convenient framework for investigating real world phenomena, and making more information available to a simulation enables it to represent reality more accurately. However, many complex simulations suffer from the curse of dimensionality, which makes an accurate simulation difficult and requires the use of a model surrogate. In many cases, a simulation mainly depends only on a subset of the input parameters and is therefore a possible target for dimensionality reduction techniques. These techniques aim to identify such input parameter structures and try to adapt the simulation accordingly, for example by constructing a lower-dimensional model surrogate. Done well, this approach can ease the curse of dimensionality while still preserving a required level of simulation accuracy. Various approaches to dimensionality reduction already exist in the context of sparse grids, such as adaptive sparse grids or sparse grid based analysis of variance, where the goal is to neglect or eliminate less important dimensions of a model function. Active subspaces are another dimensionality reduction technique, which in contrast to sparse grid based methods, can replace input parameters through linear combiniations of others, thus making them more flexible than purely dimension oriented approaches. In this thesis, the active subspace method is applied in combination with sparse grids to obtain the name-giving transformed sparse grids and create a more flexible dimensionality reduction technique that can exploit the best of both worlds. This combined approach views the model from a black-box perspective and can therefore be employed on a wide variety of high-dimensional models. To evaluate the quality and properties of the produced transformed sparse grid surrogates in different contexts, we also perform a range of experiments on a variety of high-dimensional models that are used for real world applications.

Computerexperimente ermöglichen es, Phänomene der realen Welt zu untersuchen. Um so mehr Informationen der Simulation zur Verfügung gestellt werden können, um so genauer kann diese dann die Realität darstellen. Viele komplexe Simulationen leiden jedoch unter dem Fluch der Dimensionalität, wodurch eine genaue Simulation schwierig wird und die Verwendung eines Modelsurrogats erforderlich ist. In vielen Fällen zeigt sich, dass eine Simulation hauptsächlich nur von einer Teilmenge der Eingabeparameter abhängt, was sie zu einem möglichen Ziel für Dimensionsreduktionstechniken macht. Diese Techniken zielen darauf ab, solche Parameterstrukturen zu identifizieren und versuchen die Simulation entsprechend anzupassen, beispielsweise durch die Konstruktion eines niedrigerdimensionalen Modellsurrogats. Ein Ansatz dieser Art kann den Fluch der Dimensionalität mildern und gleichzeitig ein erforderliches Maß an Genauigkeit während der Simulation beibehalten. Im Kontext von Dünnen Gittern existieren bereits verschiedene Ansätze zur Dimensionsreduktion, wie zum Beispiel adaptive Dünne Gitter oder Gitter-basierte Varianzanalysen, die das Ziel haben, weniger wichtige Dimensionen einer Modellfunktion gezielt zu vernachlässigen oder zu eliminieren. Active Subspaces sind eine weitere Dimensionalitätsreduktionstechnik, die, im Gegensatz zu Gitter-basierten Verfahren, Eingabeparameter durch Linearkombinationen ersetzen kann und somit flexibler ist. In dieser Arbeit wird die Active-Subspace-Methode in Kombination mit Dünnen Gittern angewendet, um die namensgebenden transformierten Dünnen Gitter zu konstruieren und damit eine flexiblere Dimensionsreduktionstechnik zu schaffen, die das Beste beider Methoden ausnutzen kann. Dieser kombinierte Ansatz betrachtet das Modell aus einer Black-Box-Perspektive und kann daher auf eine Vielzahl von hochdimensionalen Modellen angewendet werden. Um die Qualität und Eigenschaften der erzeugten transformierten Dünnen Gitter in verschiedenen Kontexten zu bewerten, führen wir auch eine Reihe von Experimenten an einer Vielzahl von hochdimensionalen Modellen durch.