Browsing by discipline "Applied Mathematics"

In this master's thesis we explore the mathematical model of classical Lagrangian mechanics with constraints. The main focus is on the nonholonomic case which is obtained by letting the constraint distribution to be nonintegrable. Motivation for the study arises from various physical examples, such as a rolling rigid body or a snakeboard. In Chapter 2, we introduce the model and derive the associated equations of motion in several different forms while using the Lagrangian variational principle as a basis for the kinematics. We also show how nonintegrability of the constraint distribution is linked to some external forces via the Frobenius theorem. Symmetric mechanical systems are discussed in Chapter 3. We define the concept for a Lagrangian system with constraints and show how any free and proper Lie group action induces an intrinsic vertical structure to the tangent bundle of the configuration manifold. The associated bundle is used to define the nonholonomic momentum which is a constrained version of the form that appears in the modern formulation of the classical Noether's theorem. One applies the classical Noether's theorem to a symmetric system with integrable constraints by restricting observation to an integral submanifold. This procedure, however, is not always possible. In nonholonomic mechanics, a Lie group symmetry implies only an additional equation of motion rather than actual conservation law. In Chapter 4, we introduce a coordinate free technique to split the Lagrangian variational principle in two equations, based on the Lie group invariance. The equations are intrinsic, that is to say, independent of the choice of connections, related parallel transports and covariant differentiation. The vertical projection, associated to the symmetry, may be varied to alter the representation and shift balance between the two equations. In Chapter 5, the results are applied to the rattleback which is a Lagrangian model for a rigid, convex object that rolls without sliding on a plane. We calculate the nonholonomic momentum and state the equations of motion for a pair of simple connections. One of the equation is also solved with respect to a given solution for the other one. The thesis is mainly based on the articles 'Nonholonomic Mechanical Systems with Symmetry' (A.M. Bloch, P.S. Krishnaprasad, J.E. Marsden, and R M. Murray, 1996), 'Lagrangian reduction by stages' (H. Cendra, J.E. Marsden, and T.S. Ratiu, 2001), 'Geometric Mechanics, Lagrangian Reduction and Nonholonomic Systems' (H. Cendra, J.E. Marsden, and T.S. Ratiu, 2001) and the book 'Nonholonomic mechanics and control' (A.M. Bloch, 2003).

This thesis strives to familiarize the ideas behind the success of patch-based image representations in image processing applications in recent years. Furthermore we show how to restore images using the idea of patch-based dictionary learning and the k-means clustering algorithm. In chapter 1 we introduce the notion of patch-based image processing and take a look at why dictionary learning using sparsity is a hot topic and useful in processing natural images. The second chapter aims to formulate the different methods and approaches used in this thesis mathematically. Dictionary learning, the k-means algorithm and the Structural similarity index (SSIM) are in the main focus. Chapter 3 goes into the details of the experiments. We present and discuss the results as well. The fourth and final chapter summarizes the main ideas of the thesis and introduces development suggestions for further investigation based on the methods used. Using a fairly simplistic patch-based image processing method we manage to reconstruct images from a set of similar images to a reasonable extent. As the main result we see how the size of the patches as well as the size of the learned dictionary effects the quality of the restored image. We also detect the limitations and problems of this approach such as the appearance of patch artifacts which is an issue to attack and resolve in following studies.

Multiple testing is a statistical inference problem, applied widely in the fields of genomic studies, QTL mapping and national security, where large number of hypotheses is being tested simultaneously. However, it is not always straightforward whether multiple testing can successfully be carried out for a specific dataset. To measure whether multiple testing works as desired, the error rate, defined as P ( Type I error ) + P ( Type II error ) , for investigating performance of different frequentist and Bayesian testing methods is considered. In a grid of all possible combinations of p (proportion of signal in the data) and τ^2 /σ^2 (variance), a simulation study is conducted, testing a set of hypotheses with Benjamini-Hochberg procedure and its modified versions, as well as with Parametric Empirical and Full Bayes methods. As a result, a sharp phase transition phenomenon for the error rate of each of the inference schemes is noticed, indicating the existence of a phase boundary defining regions of p and τ^2 /σ^2 for which multiple testing is feasible and for which it isn't. This discovery is then also discussed from the point of view of variable selection; Bayesian methods in variable selection are expected to show similar results due to the well known connections between multiple testing and model selection. Furthermore, the outcome of the simulation yields differences between the performance of full Bayes and empirical Bayes methods noted before from asymptotic point of view. This finding is then contemplated from the perspective of phase boundary, resulting in new ideas of how to avoid conflict when using parametric Bayes approaches as an approximation of full Bayes analysis.

This thesis focuses on privacy-preserving statistical inference. We use a probabilistic point of view of privacy called differential privacy. Differential privacy ensures that replacing one individual from the dataset with another individual does not affect the results drastically. There are different versions of the differential privacy. This thesis considers the ε-differential privacy also known as the pure differential privacy, and also a relaxation known as the (ε, δ)-differential privacy. We state several important definitions and theorems of DP. The proofs for most of the theorems are given in this thesis. Our goal is to build a general framework for privacy preserving posterior inference. To achieve this we use an approximative approach for posterior inference called variational Bayesian (VB) methods. We build the basic concepts of variational inference with certain detail and show examples on how to apply variational inference. After giving the prerequisites on both DP and VB we state our main result, the differentially private variational inference (DPVI) method. We use a recently proposed doubly stochastic variational inference (DSVI) combined with Gaussian mechanism to build a privacy-preserving method for posterior inference. We give the algorithm definition and explain its parameters. The DPVI method is compared against the state-of-the-art method for DP posterior inference called the differentially private stochastic gradient Langevin dynamics (DP-SGLD). We compare the performance on two different models, the logistic regression model and the Gaussian mixture model. The DPVI method outperforms DP-SGLD in both tasks.

Measuring risk is mandatory in every form of responsible asset management; be it mitigating losses or maximizing performance, the level of risk dictates the magnitude of the effect of the strategy the asset manager has chosen to execute. Many common risk measures rely on simple statistics computed from historic data. In this thesis, we present a more dynamic risk measure explicitly aimed at the commodity futures market. The basis of our risk measure is built on a stochastic model of the commodity spot price, namely the Schwartz two-factor model. The model is essentially determined by a system of stochastic differential equations, where the spot price and the convenience yield of the commodity are modelled separately. The spot price is modelled as a Geometric Brownian Motion with a correction factor (the convenience yield) applied to the drift of the process, whereas the convenience yield is modelled as an Ornstein-Uhlenbeck process. Within this framework, we show that the price of a commodity futures contract has a closed form solution. The pricing of futures contracts works as a coupling between the unobservable spot price and the observable futures contract price, rendering model fitting and filtering techniques applicable to our theoretic model. The parameter fitting of the system parameters of our model is done by utilizing the prediction error decomposition algorithm. The core of the algorithm is actually obtained from a by-product of a filtering algorithm called Kalman filter; the Kalman filter enables the extraction of the likelihood of a single parameter set. By subjecting the likelihood extraction process to numerical optimization, the optimal parameter set is acquired, given that the process converges. Once we have attained the optimal parameter sets for all of the commodity futures included in the portfolio, we are ready to perform the risk measurement procedure. The first phase of the process is to generate multiple future trajectories of the commodity spot prices and convenience yields. The trajectories are then subjected to the trading algorithm, generating a distribution of the returns for every commodity. Finally, the distributions are aggregated, resulting in a returns distribution on a portfolio level for a given target time frame. We show that the properties of this distribution can be used as an indicator for possible anomalies in the returns within the given time frame.

Tutkielmassa tarkastellaan vajaavaisilla tari tekijöillä säädellyn vakuutuksen hinnoittelun vaikutusta vakuutettavien hyvinvointiin. Tutkielmassa esitetään malli vakuutusmarkkinoiden mallintamiseen eri markkina ja hinnoittelun tilanteissa. Hinnoittelun tapauksista käsitellään vakuutuksen riskivastaava hinnoittelu ja säätelyn seurauksena riskivastaavuudesta tingitty hinnoittelu. Tutkittavat markkinatilanteet ovat vapaan kilpailun markkina ja monopolimarkkina. Vapaan kilpailun markkinoilla vakuutusyhtiöt kilpailevat vakuutettavista hinta- tai hinta-määrä-kilpailun keinoin. Vajaavaisilla tari tekijöillä hinnoiteltujen vakuutuksien tuomaa hyvinvointia verrataan riskivastaavien vakuutusten tuomaan hyvinvointiin eri markkinatilanteissa. Riskivastaavasta hinnoittelusta tinkiminen heikentää vakuutuksen mahdollisuuden tuomaa hyvinvointia.

Taloudellisten, institutionaalisten ja teknologisten ympäristöjen kiihtyvä muutostahti on luonut tarpeen tehdä oikeita valintoja menestymisen ja kehityksen takeeksi. Parhaimman valinnan tekee henkilö, jolla on eniten tietoa ja varmuutta tiedon paikkansapitävyydestä. Vaihtoehtoisesti päätöksenteon epävarmuustekijöitä voidaan hallita eliminointimenetelmillä, joiden hyödyntäminen voi myös johtaa parempiin päätöksiin. Epävarmuuden minimoimisen edellytyksenä on niin ikään pohjatietojen parantaminen. Tästä tarpeesta ovat nousseet tiedonlouhintamenetelmät. Tiedonlouhintamenetelmiä on kehittynyt valtava määrä vastaamaan kysynnän luomia tarpeita. Päätöksentekopuu on eräs tällainen analysointimenetelmä ja päätöksentekopuun pohjalta on luotu koneoppimismenetelmä satunnaismetsä. Satunnaismetsä on tutkimusten mukaan tällä hetkellä paras saatavilla oleva luokittelumenetelmä ja valikoitunut tämän tutkielman aiheeksi. Luvussa 2 luomme pohjaa satunnaismetsä-menetelmän ymmärtämiseksi. Lähdemme liikkeelle koneoppimisesta ja datalouhintamenetelmistä, joilla alustamme päätöksentekopuutyökalun. Käy ilmi, että on olemassa luokittelu-, regressio- ja luokitteluregressiopuita, ja että tässä tutkielmassa keskitymme luokittelupuihin. Tämän jälkeen esittelemme päätöksentekopuun metodologiaa. Luvussa 3 esittelemme tutkielman kannalta päätöksentekopuiden tärkeimmät validointimenetelmät, sillä datalouhinnassa analysointimenetelmien validoiminen on yhtä tärkeää kuin itse analysoiminen. Esittelemme mallien validointiin liittyviä käsitteitä, kuten tarkkuus, yleistysvirhe ja ylisovittuminen. Käymme läpi yleisimpiä tapoja validoida malleja, sekä näytämme esimerkkien kautta työkalut, joita käytämme tutkielmassa. Näitä ovat tarkkuus, väärinluokittelumatriisi, ROC-, kumulatiivinen saanti- ja nostokäyrä. Luvussa 4 esittelemme satunnaismetsä-koneoppimismenetelmän. Käymme ensiksi läpi joukko-oppimisen metodologiaa, jonka jälkeen käsittelemme satunnaismetsän algoritmin. Osoitamme teoreettisesti, miksi satunnaismetsä on parempi luokittelija kuin esimerkiksi päätöksentekopuu näyttämällä, että satunnaismetsän puumäärän kasvaessa satunnaismetsän yleistysvirhe suppenee kohti nollaa. Analysoimme teoreettisesti satunnaismetsän hyötyjä ja haittoja. Satunnaismetsän hyötyjä ovat sen tarkkuus, nopeus, ymmärrettävyys, toimivuus valtavilla datamäärillä, sekä kykeneväisyys analysoida tietojoukon merkittävimpiä muuttujia. Haittoja ovat, että satunnaismetsä ei suoriudu yhtä hyvin regressio-ongelmissa kuin esimerkiksi logistinen regressiomalli, sekä huono sovellettavuus pieniin tietojoukkoihin. Luvussa 5 sovellamme opittuja taitoja suppeaan tietojoukkoon. Tarkoituksenamme on arvioida RStudion ja SAS Enterprise Minerin satunnaismetsä-pakettien toimivuutta tunnetulla syötejoukolla. Analysoimme satunnaismetsäin suoriutumista luokittelutehtävässä ja vertailemme tuloksia päätöksentekopuuhun ja regressiomalliin. Hyödynnämme luvussa 3 opittuja validointimenetelmiä. Käy ilmi, että RStudion ja SAS Enterprise Minerin satunnaismetsä-paketit toimivat hyvin, ja että satunnaismetsä suoriutuu pienenkin tietojoukon luokittelussa malleista parhaiten. Luvussa 6 sovellamme satunnaismetsää yrityksen tarjoamaan haasteeseen, jossa tarkoitus on selittää ja ennustaa uusien asiakkaiden tietyn asiakassegmentin asiakasvaihtuvuutta. Käytämme yhtiön tarjoamia tietokantoja ja SAS Enterprise Miner-työkalua. Suoritamme vertailun satunnaismetsä- ja päätöksentekopuu-mallien välillä käyttämällä luvussa 3 esiteltyjä validointimenetelmiä ja analysoimme tulokset. Käy ilmi, että ROC-käyrien ja tarkkuuden perusteella satunnaismetsä suoriutuu sekä luokittelussa että ennustamisessa paremmin kuin päätöksentekopuu. Luvussa 7 pohdimme, millaisissa puitteissa satunnaismetsä soveltuu yrityksen liiketoimintaprosessiin. Käymme läpi vaatimuksia, joita satunnaismetsän soveltaminen asettaa, sekä mitä lisäarvoa satunnaismetsä menetelmänä tuo yritykselle. Tulos on, että satunnaismetsä soveltuu hyvin yrityksille, jotka hyödyntävät SAS-työkaluja ja tuo lisäarvoa analysointitehtäviin olemalla ymmärrettävä malli, mutta kuitenkin monipuolinen, nopea ja tarkka.

Tutkielmassa tarkastellaan niitä asioita, joita vakuutusyhtiön tulisi ottaa huomioon hinnoitellessaan sijoitussidonnaisia vakuutustuotteita myytäviksi asiakkailleen. Pääkysymyksenä on, miten vakuutusyhtiö selviää tällaisistakin sopimuksista, vaikka sijoitusten ennustettavuus on heikkoa ja tuotot vaihtelevat satunnaisesti. Alussa käydään läpi kaavoja, joilla lasketaan sijoituksen arvoa vakuutetun kannalta sekä vakuutusyhtiön saamaa tuottoa sijoitussidonnaisesta henkivakuutuksesta. Sopimuksen tulee olla houkutteleva molempien osapuolten näkökulmasta, jotta sopimus syntyy. Todennäköisyys sille, että molemmat osapuolet hyötyvät taloudellisesti, tulee olla postitiivinen. Riskin mittaamisen näkökulmasta on valittu tarkemmin tarkasteltavaksi Monte Carlo -simulaatio sekä kaksi erilaista riskimittaria: Value at Risk –menetelmä sekä Conditional tail expectation –menetelmä. Tutkielmassa käydään läpi erilaisia mahdollisuuksia riskiltä suojautumiseen vakuutusyhtiön näkökulmasta katsottuna. Keinoja on useita ja tässä perehdytään tarkemmin jälleenvakuuttamiseen sekä riskin suojaamiseen sijoitusmarkkinoilla. Vakuutusyhtiö voi myös pitää suurta pääomareserviä tappioiden varalle, mutta tämä on kallista ja tehotonta. Sijoitusmarkkinoilla vakuutusyhtiö voi hyödyntää optioita, joita käydään laajemmin läpi. Optioiden hinnoittelussa keskeisiä malleja ovat binomimalli sekä Black-Scholes-Merton option hinnoittelumalli. Vakuutusyhtiö voi antaa asiakkailleen erilaisia tuottolupauksia korvauksista, joita asiakkaat saavat sijoitussidonnaisista henkivakuutuksista. Keskeisimmät korvaukset ovat kuolemantapauskorvaus sekä elämänvarakorvaus. Vakuutusyhtiön tulee selvitä näistä korvauksista ja lopussa käydäänkin läpi erilaisia näkökulmia vakuutusyhtiön strategiaksi. Möller, T. (2001) antaa pääasialliseksi vastaukseksi vakuutusyhtiön selviämiseen tällaisista sopimuksista suurten lukujen lain yhdistettynä oikeanlaiseen sijoitusstrategiaan. Käytetyimmät lähteet tutkielmassa ovat: Dickson, D., Hardy, M. and Waters, H. (2013). Actuarial Mathematics for Life Contingent Risks, 2nd edition, Campridge University Press, New York. Möller, T. (2001). Hedging Equity-Linked Life Insurance Contracts. North American Actuarial Journal 5: 79-95.

Tutkielman aihe, Impedanssitomografia (engl. Electrical Impedance Tomography, EIT) perustuu tutkittavan kohteen rakenteiden sähkönjohtokykyyn. Ajatuksena on luoda rakenneosien toisistaan poikkeavien sähkönjohtavuuksien avulla kuva tutkittavasta kohteesta. Kappaleen pinnalla syötetään heikkoa virtaa erilaisin virransyöttökuvioin ja mitataan syntyneitä jännite-eroja. Näistä mittauksista pyritään ratkaisemaan tutkittavan kappaleen sähkönjohtavuusjakauma. Käytännössä joudutaan tyytymään jonkinlaiseen approksimaatioon todellisesta jakaumasta. Tutkittavan kappaleen mahdollisten rakenneosien johtavuus tunnetaan, joten johtavuusjakauman tunteminen tuottaa suoraan kuvan tutkittavasta kappaleesta. Ennen itse aiheeseen menemistä esitellään tarvittavia työkaluja, joita ovat Sobolev-avaruudet, Fourier-analyysi, Funktionaalianalyysi ja distribuutioteoria ja tavat approksimoida ääretönulotteisia operaattoreita äärellisulotteisilla matriiseilla. Lisäksi luodaan lyhyt katsaus inversio-ongelmiin yleisesti sekä luodaan teoreettinen kehys toimivalle rekonstruktiomenetelmälle. Myös tuotettujen rekonstruktioiden laadun arviointiin käytettävät mittarit määritellään. Tässä tutkielmassa esitellään nk. d-bar -rekonstruktiomenetelmä ääretönulotteisena matemaattisena mallina. Käytännön laskennallisessa menetelmässä ääretönulotteisuudesta joudutaan luopumaan. Tutkielmassa esitellään seuraavaksi tapa siirtyä äärellisulotteiseen malliin ja havaitaan, että menetelmä toimii edelleen siirryttäessä äärellisulotteiseen mittausdataan. Tutkielmassa esiteltävä menetelmä käyttää mittausdatassa olevan kohinan poistamiseksi menetelmässä esiintyvän kompleksitason funktion, sirontamuunnoksen, määrittelyjoukon katkaisua. Tutkielmassa esitellään vaihtoehtoisia tapoja tehdä sirontamuunnoksen katkaisu nykyistä mallia tehokkaammin - tavoitteena on päästä kohinasta eroon säästämällä aiempaa suurempi osa 'hyvästä datasta'. Tutkielman viimeisessä kappaleessa tehdään rekonstruktioita simuloidusta datasta käyttäen alkuperäistä sekä tutkielmassa esitettyjä uusia sirontamuunnoksen katkaisumenetelmiä. Vertailuun käytetään visuaalisten havaintojen lisäksi rekonstruktion virhettä todelliseen johtavuusjakaumaan verrattuna sekä rekonstruktion ja todellisen johtavuuden suurimman ja pienimmän arvon erotuksen suhdetta. Simuloidun datan etuna on se, että todellinen johtavuusjakauma on automaattisesti tiedossa. Lisäksi sirontamuunnoksen epälineaarisuutta tutkitaan numeerisesti.

The concept of economic inequality necessarily encompasses a dimension of social welfare, for otherwise it is just the dispersion of values in a distribution. If we agree that inequality is a potential source of welfare loss in a society, our interest naturally turns towards measuring it and studying what causes or affects it. Dalton (1920) pointed out that underlying any measure of inequality is some concept of social welfare and as such, all measures imply a value judgment towards its very definition. The social welfare approach, however, is the only approach that makes this judgment explicit. This thesis begins by introducing central concepts of inequality measurement. A coverall term 'income' is typically used to compress a set of personal attributes, ones that contribute to the individual's economic status in the society, into a single parameter. All individuals are thought to hold preferences towards equality, which are then aggregated into a social welfare function. To give a useful presentation of these preferences, the social welfare function needs to satisfy a number of basic properties that are discussed later in the thesis. The inequality measurement literature takes interest, above all, in what causes inequality, how it develops in time and whether we can say that it is more prevalent in one society than in another. Two general objectives can be identified: that of ranking different distributions, and that of quantifying the degree of inequality in a given distribution. A well-known graphical representation of inequality in an income distribution, the Lorenz curve, gives a standard tool of comparing different distributions regarding their level of inequality. However, a 'one size fits all' approach to ranking distributions still does not exist. To begin the discussion on quantifying the amount of inequality in a given distribution, the basic axioms of inequality measurement are introduced. They form the basis of the so-called axiomatic approach to inequality measurement, and arguably any measure should satisfy these axioms. In contrast the so-called ad hoc measures of inequality are often bluntly borrowed from statistics to measure the dispersion in an income distribution, without justifying their validity as tools of inequality measurement. In closer inspection their use more often than not cannot be motivated from either a welfare theoretic or an axiomatic point of view. At last the approach of building inequality measures from 'scratch', based on social welfare theory, is introduced. The best known measures of this approach, the Dalton and Atkinson indices, are derived, followed by a discussion on their axiomatic properties.