Characterizing and detecting changes in complex multidimensional data with permutation entropy

Abstract

(English) The analysis of signals obtained from complex dynamical systems is very important, not only from the point of view of many practical and interdisciplinary applications, but also, from the point of view of fundamental science, for elucidating the underlying mechanisms that generate complex behaviors. On one side, large amounts of data are currently used for purposes that have significant impact on society, for example, the detection and prediction of epidemic spreads, the analysis of trends in mobility and transportation networks, weather forecasting, to name a few. On the other side, many of the most challenging scientific endeavors intend to untangle many of these complex systems, such as the global climate and the human brain, and rely on the analysis of the signals that can be extracted from them. The analysis of these signals, even using modern approaches like machine learning and artificial intelligence, is based on the extraction of features that encode the relevant information that one needs for the specific end. One of the possible techniques used to extract features is ordinal analysis, which was proposed more than 20 years ago and looks at the relative ordering of data points to determine different aspects of the systems, like how predictable, complex, or efficient they are. Although it has been extensively applied to a wide variety of systems, and generalized to include additional aspects of the data, as well to extract temporal and spatial features, there are still aspects of its implementation to be addressed. The main goal of this thesis is to demonstrate new applications of ordinal pattern analysis for uncovering temporal and spatial structures in real world complex data. Specifically, I analyze experimental recordings obtained during the turn-on of a complex multimode laser; I analyze EEG signals recorded from healthy subjects in different conditions (eyes open or eyes open) and I analyze and compare sea surface temperature anomalies of two well-known climate datasets, in two important geography regions (El Niño and Gulf Stream). In the first chapter of the results section, I present the experimental analysis of a long cavity semiconductor laser in order to anticipate and identify the threshold bifurcation that occurs during its turn on. In the second chapter of the results section, I present the analysis of brain data obtained from electroencephalograms (EEG): recordings of the brains electrical activity obtained from the scalp in two conditions, the subjects having their eyes open (EO) or their eyes closed (EC). Here I show how the temporal and spatial features perform in the classification between the EO and EC states, and how, for the spatial features, evaluating the correlations with specific orientations can improve this performance. Finally, in the final chapter of the results section, I analyze two datasets of sea surface temperature anomaly, and I show how the spatial features allow the detection of transitions caused by changes in the acquisition and processing methodology of these datasets, showing also how their agreement improves with time. Taken together, the studies carried out in this thesis demonstrate that ordinal analysis offers great flexibility, allowing the selection of different time scales, different spatial scales, or different shapes and orientations of patterns, which allows to obtain relevant features that encapsulate complementary information to characterize complex spatio-temporal data. (Català) L'anàlisi de senyals obtingudes de sistemes dinàmics complexos és molt important, no només des de el punt de vista de moltes aplicacions pràctiques interdisciplinàries, sinó també des del punt de vista de la ciència fonamental, per elucidar els mecanismes subjacents que generen comportaments complexos. D'una banda, grans quantitats de dades són utilitzades actualment amb propòsits que tenen un impacte significatiu per la societat, per example, per la detecció i predicció del contagi de malalties, per l'anàlisi de tendències de mobilitat i xarxes de transport, i pel pronòstic meteorològic, entre altres. D'altre banda, molts dels esforços científics més retadors pretenen desentranyar molts d'aquests sistemes complexos, com el clima global i el cervell humà, depenen del anàlisi de les senyals que poden obtenir-se d'ells. L'anàlisi de aquestes senyals, fins i tot fent ús de les tècniques més modernes com l'aprenentatge automàtic i la intel·ligència artificial, es basa en l'extracció de característiques que contenen la informació rellevant que un necessita per un fi específic. Una de les possibles tècniques utilitzades per l'extracció de característiques és l'anàlisi ordinal, proposat més de 20 anys enrere i que mira l'ordre relatiu de les dades per determinar diferents aspectes dels sistemes, com quan predictibles, complexos o eficient són. Tot i que ha sigut extensament aplicada a una gran varietat de sistemes, i generalitzada per incloure aspectes addicionals de les dades, així com també per extreure característiques temporals i espacials, encara existeixin aspectes de la seva implementació que resten per ser investigats. L'objectiu principal d'aquesta tesi és demostrar noves aplicacions de l'anàlisi de patrons ordinals per revelar les estructures temporals i espacials en les dades de sistemes reals i complexos. Específicament, analitzo dades experimentals obtinguts durant l'encesa d'un làser multimode complexo, senyals d'EEG provinents de subjectes sans en diferents condicions experimentals (ulls oberts o ulls tancats), i analitzo i comparo dos conjunts de dades climàtics molt coneguts de la temperatura de la superfície de la mar, en dues regions geogràfiques importants (El Niño i la corrent del Golf). En el primer capítol de la secció de resultats, presento l'anàlisi experimental d'un làser de semiconductor amb una cavitat llarga, amb el fi d'anticipar i identificar la bifurcació de llindar que ocorre durant l'encesa. En el segon capítol de la secció de resultats, presento l'anàlisi de dades d'activitat cerebral obtinguts per electroencefalogrames (EEG): gravacions de la activitat elèctrica del cervell des del cuir cabellut en dues condicions, els subjectes mantenint el seus ulls oberts (EO) o tancats (EC). Aquí mostro com de bé les característiques temporals i espacials funcionen per classificar els dos estats EO i EC, i com, per les característiques espacials, avaluar les correlacions amb orientacions especifiques pot millorar aquest funcionament. Finalment, en el últim capítol de aquesta secció de resultats, analitzo dos conjunts de dades de la anomalia de la temperatura de la superfície de la mar, i mostro com les característiques espacials permeten detectar transicions causades per canvis en la adquisició i processament de aquestes dades, mostrant també com el seu acord millora amb el temps. Tots junts, els estudis realitzats en aquesta tesi demostren que l'anàlisi ordinal ofereixi gran flexibilitat, permetent la selecció de diferents escales temporals i espacials, o diferents formes i orientacions dels patrons, el que permet obtenir característiques rellevants que encapsulen informació complementària per caracteritzar dades espai-temporalment complexes. (Español) El análisis de señales obtenidas de sistemas dinámicos complejos es muy importante, no solo desde el punto de vista de muchas aplicaciones prácticas interdisciplinarias, sino también, desde el punto de vista de la ciencia fundamental, para elucidar los mecanismos subyacentes que generan comportamientos complejos. Por un lado, grandes cantidades de datos son utilizados actualmente con propósitos que tienen un impacto significativo en la sociedad, como por ejemplo, para la detección y predicción de contagios epidémicos, para el análisis de tendencias en movilidad y redes de transporte, y para el pronóstico del estado del tiempo, entre otros. Por otro lado, muchos de los esfuerzos científicos más desafiantes que pretenden desentrañar muchos de estos sistemas complejos, como el clima global y el cerebro humano, dependen en el análisis de las señales que pueden obtenerse de ellos. El análisis de estas señales, incluso usando técnicas modernas como el aprendizaje automático y la inteligencia artificial, está basado en la extracción de características que contienen la información relevante que uno necesita para un fin específico. Una de las posibles técnicas utilizada para la extracción de características es el análisis ordinal, propuesto más de 20 años atrás y que mira al orden relativo de los datos para determinar diferentes aspectos de los sistemas, como cuán predecibles, complejos o eficientes son. Aunque ha sido extensamente aplicada a una gran variedad de sistemas, y generalizada para incluir aspectos adicionales de los datos, así como también para extraer características temporales y espaciales, aún existen aspectos de su implementación que restan por ser investigados. El objetivo principal de esta tesis es demostrar nuevas aplicaciones del análisis de patrones ordinales para revelar estructuras temporales y espaciales en datos de sistemas reales y complejos. Específicamente, analizo datos experimentales obtenidos durante el encendido de un láser multimodo complejo, señales de EEG proveniente de sujetos sanos en diferentes condiciones experimentales (ojos abiertos o ojos cerrados), y analizo y comparo dos conjuntos de datos climáticos muy conocidos de temperatura de la superficie del mar, en dos regiones geográficas importantes (El Niño y la corriente del Golfo). En el primer capítulos de la sección de resultados, presento el análisis experimental de un láser de semiconductor con una cavidad larga, con el fin de anticipar y identificar la bifurcación de umbral que ocurre durante su encendido. En el segundo capítulo de la sección de resultados, presento el análisis de datos de actividad cerebral obtenidos mediante electroencefalogramas (EEG): grabaciones de la actividad eléct