Página 1 dos resultados de 1902 itens digitais encontrados em 0.006 segundos

Uma abordagem bayesiana para o mapeamento de QTLS utilizando o método MCMC com saltos reversíveis; A bayesian approach to map QTLs using reversible jump MCMC

SILVA, Joseane Padilha da; LEANDRO, Roseli Aparecida
Fonte: Editora da Universidade Federal de Lavras Publicador: Editora da Universidade Federal de Lavras
Tipo: Artigo de Revista Científica
POR
Relevância na Pesquisa
37.31%
A utilização de metodologias bayesianas tem se tornado frequente nas aplicações em Genética, em particular em mapeamento de QTLs usando marcadores moleculares. Mapear um QTL significa identificar sua localização ao longo do genoma, estimar seus efeitos genéticos: aditivo, dominância, epistasia, etc. A abordagem bayesiana permite combinar a verossimilhança dos dados fenotípicos com distribuições a priori atribuídas a todas as quantidades desconhecidas no modelo (número, localização no genoma e efeitos genéticos dos QTLs) de forma a fornecer distribuições a posteriori a respeito dessas quantidades. Métodos de mapeamento bayesiano podem incorporar a incerteza relativa ao número desconhecido de QTLs na análise; essa incerteza, no entanto, resulta em complicações na obtenção da amostra da distribuição conjunta a posteriori, uma vez que a dimensão do espaço do modelo pode variar. O método MCMC com Saltos Reversíveis (MCMC-SR), proposto por Green (1995), é uma excelente ferramenta para explorar a distribuição conjunta a posteriori nesse contexto. Neste trabalho, explora-se o método MCMC-SR, utilizando dados artificiais gerados no software WinQTLCart, atribuindo-se diferentes prioris para o número de QTLs.; The use of Bayesian methodology in genetic applications has grown increasingly popular...

Uma abordagem Bayesiana para o mapeamento de QTLs utilizando o método MCMC com saltos reversíveis; A Bayesian approach to detect quantitative trait loci using reversible-jump MCMC

Silva, Joseane Padilha da
Fonte: Biblioteca Digitais de Teses e Dissertações da USP Publicador: Biblioteca Digitais de Teses e Dissertações da USP
Tipo: Dissertação de Mestrado Formato: application/pdf
Publicado em 07/02/2007 PT
Relevância na Pesquisa
37.24%
A utilização de metodologias Bayesianas tem se tornado freqüuente nas aplicações em Genética, em particular em mapeamento de QTLs usando marcadores moleculares. Mapear um QTL implica em identificar sua posição no genoma, bem como seus efeitos genéticos. A abordagem Bayesiana combina, através do Teorema de Bayes, a verossimilhança dos dados fenotípicos com distribuições a priori atribuídas a todos os parâmetros desconhecidos (número, localização e efeito do QTL) induzindo distribuições a posteriori a respeito dessas quantidades. Métodos de mapeamento Bayesiano podem tratar o número desconhecido de QTLs como uma variável aleatória, resultando em complicações na obtençãao da amostra aleatória da distribuição conjunta a posteriori, uma vez que a dimensão do espaço do modelo pode variar. O Método MCMC com Saltos Reversíveis (MCMC-SR), proposto por Green(1995), é excelente para explorar distribuições a posteriori nesse contexto. O método proposto foi avaliado usando dados simulados no WinQTLCart, onde o maior objetivo foi avaliar diferentes prioris atribuídas para o número de QTLs.; The use of Bayesian methodology in genetical applications has grown increasingly popular, in particular in the analysis of quantitative trait loci (QTL) for studies using molecular markers. In such analyses the aim is mapping QTLs...

Modelos longitudinais de grupos múltiplos multiníveis na teoria da resposta ao item: métodos de estimação e seleção estrutural sob uma perspectiva bayesiana; Longitudinal multiple groups multilevel models in the item response theory : estimation methods and structural selection under a bayesian perspective

Azevedo, Caio Lucidius Naberezny
Fonte: Biblioteca Digitais de Teses e Dissertações da USP Publicador: Biblioteca Digitais de Teses e Dissertações da USP
Tipo: Tese de Doutorado Formato: application/pdf
Publicado em 11/03/2008 PT
Relevância na Pesquisa
27.24%
No presente trabalho propomos uma estrutura bayesiana, através de um esquema de dados aumentados, para analisar modelos longitudinais com grupos mútiplos (MLGMTRI) na Teoria da Resposta ao Item (TRI). Tal estrutura consiste na tríade : modelagem, métodos de estimação e métodos de diagnóstico para a classe de MLGMTRI. Na parte de modelagem, explorou-se as estruturas multivariada e multinível, com o intuito de representar a hierarquia existente em dados longitudinais com grupos múltiplos. Esta abordagem permite considerar várias classes de submodelos como: modelos de grupos múltiplos e modelos longitudinais de um único grupo. Estudamos alguns aspectos positivos e negativos de cada uma das supracitadas abordagens. A modelagem multivariada permite representar de forma direta estruturas de dependência, além de possibilitar que várias delas sejam facilmente incorporadas no processo de estimação. Isso permite considerar, por exemplo, uma matriz não estruturada e assim, obter indícios da forma mais apropriada para a estrutura de dependência. Por outro lado, a modelagem multinível propicia uma interpretação mais direta, obtenção de condicionais completas univariadas, fácil inclusão de informações adicionais, incorporação de fontes de dependência intra e entre unidades amostrais...

Filtro de partículas adaptativo para o tratamento de oclusões no rastreamento de objetos em vídeos; Adaptive MCMC-particle filter to handle of occlusions in object tracking on videos

Oliveira, Alessandro Bof de
Fonte: Universidade Federal do Rio Grande do Sul Publicador: Universidade Federal do Rio Grande do Sul
Tipo: Dissertação Formato: application/pdf
POR
Relevância na Pesquisa
36.87%
O rastreamento de objetos em vídeos representa um importante problema na área de processamento de imagens, quer seja pelo grande número de aplicações envolvidas, ou pelo grau de complexidade que pode ser apresentado. Como exemplo de aplicações, podemos citar sua utilização em áreas como robótica móvel, interface homem-máquina, medicina, automação de processo industriais até aplicações mais tracionais como vigilância e monitoramento de trafego. O aumento na complexidade do rastreamento se deve principalmente a interação do objeto rastreado com outros elementos da cena do vídeo, especialmente nos casos de oclusões parciais ou totais. Quando uma oclusão ocorre a informação sobre a localização do objeto durante o rastreamento é perdida parcial ou totalmente. Métodos de filtragem estocástica, utilizados para o rastreamento de objetos, como os Filtros de Partículas não apresentam resultados satisfatórios na presença de oclusões totais, onde temos uma descontinuidade na trajetória do objeto. Portanto torna-se necessário o desenvolvimento de métodos específicos para tratar o problema de oclusão total. Nesse trabalho, nós desenvolvemos uma abordagem para tratar o problema de oclusão total no rastreamento de objetos utilizando Filtro de Partículas baseados em Monte Carlo via Cadeia de Markov (MCCM) com função geradora de partículas adaptativa. Durante o rastreamento do objeto...

Uma abordagem bayesiana para o mapeamento de QTLS utilizando o método MCMC com saltos reversíveis

Silva,Joseane Padilha da; Leandro,Roseli Aparecida
Fonte: Editora da Universidade Federal de Lavras Publicador: Editora da Universidade Federal de Lavras
Tipo: Artigo de Revista Científica Formato: text/html
Publicado em 01/08/2009 PT
Relevância na Pesquisa
37.11%
A utilização de metodologias bayesianas tem se tornado frequente nas aplicações em Genética, em particular em mapeamento de QTLs usando marcadores moleculares. Mapear um QTL significa identificar sua localização ao longo do genoma, estimar seus efeitos genéticos: aditivo, dominância, epistasia, etc. A abordagem bayesiana permite combinar a verossimilhança dos dados fenotípicos com distribuições a priori atribuídas a todas as quantidades desconhecidas no modelo (número, localização no genoma e efeitos genéticos dos QTLs) de forma a fornecer distribuições a posteriori a respeito dessas quantidades. Métodos de mapeamento bayesiano podem incorporar a incerteza relativa ao número desconhecido de QTLs na análise; essa incerteza, no entanto, resulta em complicações na obtenção da amostra da distribuição conjunta a posteriori, uma vez que a dimensão do espaço do modelo pode variar. O método MCMC com Saltos Reversíveis (MCMC-SR), proposto por Green (1995), é uma excelente ferramenta para explorar a distribuição conjunta a posteriori nesse contexto. Neste trabalho, explora-se o método MCMC-SR, utilizando dados artificiais gerados no software WinQTLCart, atribuindo-se diferentes prioris para o número de QTLs.

On the Use of Bootstrapped Topologies in Coalescent-Based Bayesian MCMC Inference: A Comparison of Estimation and Computational Efficiencies

Rodrigo, Allen G.; Tsai, Peter; Shearman, Helen
Fonte: Libertas Academica Publicador: Libertas Academica
Tipo: Artigo de Revista Científica
Publicado em 31/07/2009 EN
Relevância na Pesquisa
27.34%
Coalescent-based Bayesian Markov chain Monte Carlo (MCMC) inference generates estimates of evolutionary parameters and their posterior probability distributions. As the number of sequences increases, the length of time taken to complete an MCMC analysis increases as well. Here, we investigate an approach to distribute the MCMC analysis across a cluster of computers. To do this, we use bootstrapped topologies as fixed genealogies, perform a single MCMC analysis on each genealogy without topological rearrangements, and pool the results across all MCMC analyses. We show, through simulations, that although the standard MCMC performs better than the bootstrap-MCMC at estimating the effective population size (scaled by mutation rate), the bootstrap-MCMC returns better estimates of growth rates. Additionally, we find that our bootstrap-MCMC analyses are, on average, 37 times faster for equivalent effective sample sizes.

Quantifying MCMC Exploration of Phylogenetic Tree Space

Whidden, Chris; Matsen, Frederick A.
Fonte: Oxford University Press Publicador: Oxford University Press
Tipo: Artigo de Revista Científica
EN
Relevância na Pesquisa
27.28%
In order to gain an understanding of the effectiveness of phylogenetic Markov chain Monte Carlo (MCMC), it is important to understand how quickly the empirical distribution of the MCMC converges to the posterior distribution. In this article, we investigate this problem on phylogenetic tree topologies with a metric that is especially well suited to the task: the subtree prune-and-regraft (SPR) metric. This metric directly corresponds to the minimum number of MCMC rearrangements required to move between trees in common phylogenetic MCMC implementations. We develop a novel graph-based approach to analyze tree posteriors and find that the SPR metric is much more informative than simpler metrics that are unrelated to MCMC moves. In doing so, we show conclusively that topological peaks do occur in Bayesian phylogenetic posteriors from real data sets as sampled with standard MCMC approaches, investigate the efficiency of Metropolis-coupled MCMC (MCMCMC) in traversing the valleys between peaks, and show that conditional clade distribution (CCD) can have systematic problems when there are multiple peaks.

Firefly Monte Carlo: Exact MCMC with Subsets of Data

Maclaurin, Dougal; Adams, Ryan Prescott
Fonte: AUAI Press Publicador: AUAI Press
Tipo: Conference Paper
EN_US
Relevância na Pesquisa
27.24%
Markov chain Monte Carlo (MCMC) is a popular and successful general-purpose tool for Bayesian inference. However, MCMC cannot be practically applied to large data sets because of the prohibitive cost of evaluating every likelihood term at every iteration. Here we present Firefly Monte Carlo (FlyMC) an auxiliary variable MCMC algorithm that only queries the likelihoods of a potentially small subset of the data at each iteration yet simulates from the exact posterior distribution, in contrast to recent proposals that are approximate even in the asymptotic limit. FlyMC is compatible with a wide variety of modern MCMC algorithms, and only requires a lower bound on the per-datum likelihood factors. In experiments, we find that FlyMC generates samples from the posterior more than an order of magnitude faster than regular MCMC, opening up MCMC methods to larger datasets than were previously considered feasible.; Engineering and Applied Sciences

Uma abordagem bayesiana para o mapeamento de QTLS utilizando o método MCMC com saltos reversíveis

Fonte: Editora da Universidade Federal de Lavras Publicador: Editora da Universidade Federal de Lavras
Tipo: Artigo de Revista Científica Formato: text/html
PT
Relevância na Pesquisa
37.11%
A utilização de metodologias bayesianas tem se tornado frequente nas aplicações em Genética, em particular em mapeamento de QTLs usando marcadores moleculares. Mapear um QTL significa identificar sua localização ao longo do genoma, estimar seus efeitos genéticos: aditivo, dominância, epistasia, etc. A abordagem bayesiana permite combinar a verossimilhança dos dados fenotípicos com distribuições a priori atribuídas a todas as quantidades desconhecidas no modelo (número, localização no genoma e efeitos genéticos dos QTLs) de forma a fornecer distribuições a posteriori a respeito dessas quantidades. Métodos de mapeamento bayesiano podem incorporar a incerteza relativa ao número desconhecido de QTLs na análise; essa incerteza, no entanto, resulta em complicações na obtenção da amostra da distribuição conjunta a posteriori, uma vez que a dimensão do espaço do modelo pode variar. O método MCMC com Saltos Reversíveis (MCMC-SR), proposto por Green (1995), é uma excelente ferramenta para explorar a distribuição conjunta a posteriori nesse contexto. Neste trabalho, explora-se o método MCMC-SR, utilizando dados artificiais gerados no software WinQTLCart, atribuindo-se diferentes prioris para o número de QTLs.

Régression logistique bayésienne : comparaison de densités a priori

Deschênes, Alexandre
Fonte: Université de Montréal Publicador: Université de Montréal
Tipo: Thèse ou Mémoire numérique / Electronic Thesis or Dissertation
FR
Relevância na Pesquisa
27.28%
La régression logistique est un modèle de régression linéaire généralisée (GLM) utilisé pour des variables à expliquer binaires. Le modèle cherche à estimer la probabilité de succès de cette variable par la linéarisation de variables explicatives. Lorsque l’objectif est d’estimer le plus précisément l’impact de différents incitatifs d’une campagne marketing (coefficients de la régression logistique), l’identification de la méthode d’estimation la plus précise est recherchée. Nous comparons, avec la méthode MCMC d’échantillonnage par tranche, différentes densités a priori spécifiées selon différents types de densités, paramètres de centralité et paramètres d’échelle. Ces comparaisons sont appliquées sur des échantillons de différentes tailles et générées par différentes probabilités de succès. L’estimateur du maximum de vraisemblance, la méthode de Gelman et celle de Genkin viennent compléter le comparatif. Nos résultats démontrent que trois méthodes d’estimations obtiennent des estimations qui sont globalement plus précises pour les coefficients de la régression logistique : la méthode MCMC d’échantillonnage par tranche avec une densité a priori normale centrée en 0 de variance 3...

Factor graphs and MCMC approaches to iterative equalization of nonlinear dispersive channels; Factor graphs and Markov chain Monte Carlo approaches to iterative equalization of nonlinear dispersive channels

Kashif, Faisal M. (Faisal Mahmood)
Fonte: Massachusetts Institute of Technology Publicador: Massachusetts Institute of Technology
Tipo: Tese de Doutorado Formato: 90 p.
ENG
Relevância na Pesquisa
27.28%
In this work, equalization for nonlinear dispersive channels is considered. Nonlinear communication channels can lead to significant degradations when nonlinearities are not taken into account at either the receiver or the transmitter. In many cases, the nonlinearity of the channel precludes the use of spectrally efficient signaling schemes to achieve high data-rates and the bandwidth efficiency. Satellite channel is a typical case of nonlinear channel that needs to be used efficiently. We develop two novel equalization strategies for a general class of nonlinear channels. Both strategies are based on iterating between decoding and equalization, termed as iterative equalization. The first strategy is a factor graph based equalizer that converts the nonlinear channel equalization problem into forward-backward algorithm on hidden Markov model (HMM). The equalizer is implemented via the sum-product algorithm on the factor graph representation of the channel and receiver blocks. The second equalization strategy is based on Markov chain Monte Carlo (MCMC) methods. We typecast the problem of executing forward-backward algorithm on HMM into an MCMC domain problem and develop four different types of MCMC equalizers.; (cont.) These solutions have different performance and magnitudes of complexity. For the purpose of performance analysis of our equalizers...

General-Purpose MCMC Inference over Relational Structures

Milch, Brian; Russell, Stuart
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 27/06/2012
Relevância na Pesquisa
27.24%
Tasks such as record linkage and multi-target tracking, which involve reconstructing the set of objects that underlie some observed data, are particularly challenging for probabilistic inference. Recent work has achieved efficient and accurate inference on such problems using Markov chain Monte Carlo (MCMC) techniques with customized proposal distributions. Currently, implementing such a system requires coding MCMC state representations and acceptance probability calculations that are specific to a particular application. An alternative approach, which we pursue in this paper, is to use a general-purpose probabilistic modeling language (such as BLOG) and a generic Metropolis-Hastings MCMC algorithm that supports user-supplied proposal distributions. Our algorithm gains flexibility by using MCMC states that are only partial descriptions of possible worlds; we provide conditions under which MCMC over partial worlds yields correct answers to queries. We also show how to use a context-specific Bayes net to identify the factors in the acceptance probability that need to be computed for a given proposed move. Experimental results on a citation matching task show that our general-purpose MCMC engine compares favorably with an application-specific system.; Comment: Appears in Proceedings of the Twenty-Second Conference on Uncertainty in Artificial Intelligence (UAI2006)

Quantifying MCMC Exploration of Phylogenetic Tree Space

Whidden, Christopher; Matsen IV, Frederick A.
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Relevância na Pesquisa
27.28%
In order to gain an understanding of the effectiveness of phylogenetic Markov chain Monte Carlo (MCMC), it is important to understand how quickly the empirical distribution of the MCMC converges to the posterior distribution. In this paper we investigate this problem on phylogenetic tree topologies with a metric that is especially well suited to the task: the subtree prune-and-regraft (SPR) metric. This metric directly corresponds to the minimum number of MCMC rearrangements required to move between trees in common phylogenetic MCMC implementations. We develop a novel graph-based approach to analyze tree posteriors and find that the SPR metric is much more informative than simpler metrics that are unrelated to MCMC moves. In doing so we show conclusively that topological peaks do occur in Bayesian phylogenetic posteriors from real data sets as sampled with standard MCMC approaches, investigate the efficiency of Metropolis-coupled MCMC (MCMCMC) in traversing the valleys between peaks, and show that conditional clade distribution (CCD) can have systematic problems when there are multiple peaks.; Comment: 62 pages, 17 figures; revised in response to peer review

CosmoHammer: Cosmological parameter estimation with the MCMC Hammer

Akeret, Joël; Seehars, Sebastian; Amara, Adam; Refregier, Alexandre; Csillaghy, André
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Relevância na Pesquisa
27.24%
We study the benefits and limits of parallelised Markov chain Monte Carlo (MCMC) sampling in cosmology. MCMC methods are widely used for the estimation of cosmological parameters from a given set of observations and are typically based on the Metropolis-Hastings algorithm. Some of the required calculations can however be computationally intensive, meaning that a single long chain can take several hours or days to calculate. In practice, this can be limiting, since the MCMC process needs to be performed many times to test the impact of possible systematics and to understand the robustness of the measurements being made. To achieve greater speed through parallelisation, MCMC algorithms need to have short auto-correlation times and minimal overheads caused by tuning and burn-in. The resulting scalability is hence influenced by two factors, the MCMC overheads and the parallelisation costs. In order to efficiently distribute the MCMC sampling over thousands of cores on modern cloud computing infrastructure, we developed a Python framework called CosmoHammer which embeds emcee, an implementation by Foreman-Mackey et al. (2012) of the affine invariant ensemble sampler by Goodman and Weare (2010). We test the performance of CosmoHammer for cosmological parameter estimation from cosmic microwave background data. While Metropolis-Hastings is dominated by overheads...

Accelerating MCMC with active subspaces

Constantine, Paul G.; Kent, Carson; Bui-Thanh, Tan
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 30/09/2015
Relevância na Pesquisa
27.24%
The Markov chain Monte Carlo (MCMC) method is the computational workhorse for Bayesian inverse problems. However, MCMC struggles in high-dimensional parameter spaces, since its iterates must sequentially explore a high-dimensional space for accurate inference. This struggle is compounded in physical applications when the nonlinear forward model is computationally expensive. One approach to accelerate MCMC is to reduce the dimension of the state space. Active subspaces are an emerging set of tools for dimension reduction. When applied to MCMC, the active subspace separates a low-dimensional subspace that is informed by the data from its orthogonal complement that is constrained by the prior. With this information, one can run the sequential MCMC on the active variables while sampling independently according to the prior on the inactive variables. We provide a theoretical bound on the Hellinger distance between the true posterior and its approximation with the active subspace. And we demonstrate the active subspace-accelerated MCMC on two computational examples: (i) a two-dimensional parameter space with a quadratic forward model and one-dimensional active subspace and (ii) a 100-dimensional parameter space with a PDE-based forward model and a two-dimensional active subspace.

A Novel MCMC Based Receiver for Large-Scale Uplink Multiuser MIMO Systems

Datta, Tanumay; Kumar, N. Ashok; Chockalingam, A.; Rajan, B. Sundar
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 29/01/2012
Relevância na Pesquisa
27.24%
In this paper, we propose low complexity algorithms based on Markov chain Monte Carlo (MCMC) technique for signal detection and channel estimation on the uplink in large scale multiuser multiple input multiple output (MIMO) systems with tens to hundreds of antennas at the base station (BS) and similar number of uplink users. A BS receiver that employs a randomized sampling method (which makes a probabilistic choice between Gibbs sampling and random sampling in each iteration) for detection and a Gibbs sampling based method for channel estimation is proposed. The algorithm proposed for detection alleviates the stalling problem encountered at high SNRs in conventional MCMC algorithm and achieves near-optimal performance in large systems. A novel ingredient in the detection algorithm that is responsible for achieving near-optimal performance at low complexities is the joint use of a {\it randomized MCMC (R-MCMC) strategy} coupled with a {\it multiple restart strategy} with an efficient restart criterion. Near-optimal detection performance is demonstrated for large number of BS antennas and users (e.g., 64, 128, 256 BS antennas/users). The proposed MCMC based channel estimation algorithm refines an initial estimate of the channel obtained during pilot phase through iterations with R-MCMC detection during data phase. In time division duplex (TDD) systems where channel reciprocity holds...

Firefly Monte Carlo: Exact MCMC with Subsets of Data

Maclaurin, Dougal; Adams, Ryan P.
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 22/03/2014
Relevância na Pesquisa
27.24%
Markov chain Monte Carlo (MCMC) is a popular and successful general-purpose tool for Bayesian inference. However, MCMC cannot be practically applied to large data sets because of the prohibitive cost of evaluating every likelihood term at every iteration. Here we present Firefly Monte Carlo (FlyMC) an auxiliary variable MCMC algorithm that only queries the likelihoods of a potentially small subset of the data at each iteration yet simulates from the exact posterior distribution, in contrast to recent proposals that are approximate even in the asymptotic limit. FlyMC is compatible with a wide variety of modern MCMC algorithms, and only requires a lower bound on the per-datum likelihood factors. In experiments, we find that FlyMC generates samples from the posterior more than an order of magnitude faster than regular MCMC, opening up MCMC methods to larger datasets than were previously considered feasible.

Augmentation Schemes for Particle MCMC

Fearnhead, Paul; Meligkotsidou, Loukia
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 29/08/2014
Relevância na Pesquisa
27.34%
Particle MCMC involves using a particle filter within an MCMC algorithm. For inference of a model which involves an unobserved stochastic process, the standard implementation uses the particle filter to propose new values for the stochastic process, and MCMC moves to propose new values for the parameters. We show how particle MCMC can be generalised beyond this. Our key idea is to introduce new latent variables. We then use the MCMC moves to update the latent variables, and the particle filter to propose new values for the parameters and stochastic process given the latent variables. A generic way of defining these latent variables is to model them as pseudo-observations of the parameters or of the stochastic process. By choosing the amount of information these latent variables have about the parameters and the stochastic process we can often improve the mixing of the particle MCMC algorithm by trading off the Monte Carlo error of the particle filter and the mixing of the MCMC moves. We show that using pseudo-observations within particle MCMC can improve its efficiency in certain scenarios: dealing with initialisation problems of the particle filter; speeding up the mixing of particle Gibbs when there is strong dependence between the parameters and the stochastic process; and enabling further MCMC steps to be used within the particle filter.

Orthogonal parallel MCMC methods for sampling and optimization

Martino, L.; Elvira, V.; Luengo, D.; Corander, J.; Louzada, F.
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Publicado em 30/07/2015
Relevância na Pesquisa
27.38%
Monte Carlo (MC) methods are widely used in statistics, signal processing and machine learning. A well-known class of MC methods are Markov Chain Monte Carlo (MCMC) algorithms. In order to foster better exploration of the state space, specially in high-dimensional applications, several schemes employing multiple parallel MCMC chains have been recently introduced. In this work, we describe a novel parallel interacting MCMC scheme, called orthogonal MCMC (O-MCMC), where a set of vertical parallel MCMC chains share information using some horizontal MCMC techniques working on the entire population of current states. More specifically, the vertical chains are led by random-walk proposals, whereas the horizontal MCMC techniques employ independent proposals, thus allowing an efficient combination of global exploration and local approximation. The interaction is contained in these horizontal iterations. Within the analysis of different implementations of O-MCMC, novel schemes for reducing the overall computational cost of parallel multiple try Metropolis (MTM) chains are also presented. Furthermore, a modified version of O-MCMC for optimization is provided by considering parallel simulated annealing (SA) algorithms. Finally, we also discuss the application of O-MCMC in a big bata framework. Numerical results show the advantages of the proposed sampling scheme in terms of efficiency in the estimation...

A computational framework for infinite-dimensional Bayesian inverse problems: Part II. Stochastic Newton MCMC with application to ice sheet flow inverse problems

Petra, Noemi; Martin, James; Stadler, Georg; Ghattas, Omar
Fonte: Universidade Cornell Publicador: Universidade Cornell
Tipo: Artigo de Revista Científica
Relevância na Pesquisa
27.24%
We address the numerical solution of infinite-dimensional inverse problems in the framework of Bayesian inference. In the Part I companion to this paper (arXiv.org:1308.1313), we considered the linearized infinite-dimensional inverse problem. Here in Part II, we relax the linearization assumption and consider the fully nonlinear infinite-dimensional inverse problem using a Markov chain Monte Carlo (MCMC) sampling method. To address the challenges of sampling high-dimensional pdfs arising from Bayesian inverse problems governed by PDEs, we build on the stochastic Newton MCMC method. This method exploits problem structure by taking as a proposal density a local Gaussian approximation of the posterior pdf, whose construction is made tractable by invoking a low-rank approximation of its data misfit component of the Hessian. Here we introduce an approximation of the stochastic Newton proposal in which we compute the low-rank-based Hessian at just the MAP point, and then reuse this Hessian at each MCMC step. We compare the performance of the proposed method to the original stochastic Newton MCMC method and to an independence sampler. The comparison of the three methods is conducted on a synthetic ice sheet inverse problem. For this problem...