Skibidi toilettes

Préface

Pour cette nouvelle problématique, j'ai décidé de m'éloigner de tout ce qui est météorologique. Quand notre sujet a été décidé, avant d'avoir les documents, je m'attendais à deux thèmes qui pouvaient être donnés autour des prévisions, la météo et l'économie. Les documents reçus étaient donc centrés sur la météo, plus précisémment sur les évènements extrêmes, nous avons donc travaillé sur ce thème pour la problématique de groupe. J'ai donc décidé ici pour mon sujet de m'orienter vers la finance. On se basera donc principalement sur les documents suivants :

-Multivariate Time Series Forecasting
-Timer-XL: Long-Context Transformers for Unified Time Series Forecasting
-Deep Learning Architectures in Financial Forecasting (Nouveau document)
-Financial Time Series Analysis with Transformer Models (Nouveau document)

        Les prévisions financières sont au cœur des stratégies économiques et des décisions d'investissement. Conditions économiques, événements géopolitiques, fluctuations à court terme, tous ces facteurs amènent une grande volatilité sur le marché boursier. Historiquement, les modèles statistiques comme ARIMA et GARCH ont été utilisés pour analyser ces séries temporelles. Bien que ces approches soient utiles, elles se montrent vite dépassées face à des problématiques bien plus complexes, notamment, l’intégration de dépendances globales et la gestion de non-linéarité.

Avec l’essor des modèles de Deep Learning, et plus particulièrement des Transformers, de nouvelles perspectives voient le jour. Les Transformers ont d'abord été prévus pour le traitement du langage naturel, mais ces derniers se distinguent par leur mécanisme d’attention qui permet de capturer des relations complexes sur des longues séquences. Ces caractéristiques les rendent optimal pour répondre aux problèmes des prévisions boursières. Mon étude examine la question suivante : comment les modèles Transformers peuvent-ils améliorer la précision des prévisions boursières ? Nous explorerons, comme pour la synthèse précédente, les limites des approches traditionnelles, les forces des modèles modernes et les défis liés à leur application.

1.

        Les modèles traditionnels, tels qu’ARIMA (AutoRegressive Integrated Moving Average) et GARCH (Generalized AutoRegressive Conditional Heteroskedasticity), ont été le pilier central de la prévision des séries temporelles financières pendant des décennies. Leur simplicité mathématique et leur capacité à  pouvoir modéliser des aspects spécifiques des marchés, comme par exemple les tendances linéaires et les variations de volatilité conditionnelle, les ont propulsés au stade d'incontournable. Cependant, ces approches présentent des limites qui ne devraient pas être négligées lorsqu'on les confronte à la complexité croissante des marchés financiers actuels. La première limitation majeure d’ARIMA réside dans son hypothèse de stationnarité. En théorie, ce modèle va supposer que les propriétés statistiques des séries temporelles, comme la moyenne la variance etc, restent constantes dans le temps. Or, dans la réalité, on sait que les séries financières s'écartent souvent de cette hypothèse à cause de la prédominance de dynamiques externes imprévisibles. Des événements comme les crises économiques, les changements de politiques monétaires ou les conflits géopolitiques perturbent la stationnarité des données, rendant les prévisions basées sur ARIMA inexactes. De plus, ARIMA est conçu pour capturer des relations linéaires entre les observations temporelles. Les marchés financiers, caractérisés par une dynamique intrinsèquement non linéaire, dépassent la portée de ce modèle.

        GARCH excelle lui plus particulièrement dans la modélisation de la volatilité conditionnelle, il va identifier des périodes de haute et basse volatilité dans les séries temporelles financières. Néanmoins, il montre des limites dans son aptitude à intégrer des variables extérieures et à capturer des relations complexes entre différents actifs et différents indices. Par exemple, si une annonce politique ou économique majeure impacte simultanément plusieurs marchés différents, on sait que GARCH n'est pas en mesure d'idéalement modéliser l'effet combiné de ces influences interdépendantes, mais en plus de ça, comme pour ARIMA, il reste limité lui aussi par ses hypothèses linéaires, ce qui le rend inadapté pour des environnements financiers où les comportements non linéaires et les ruptures structurelles prédominent. Les deux modèles traditionnels, présentent également des limites communes en matière d’analyse de données multivariées. Les marchés financiers sont intrinsèquement connectés : les mouvements d’un indice peuvent être influencés par ceux d’un autre marché, ou encore par des variation de la valeur des devises, des matières premières ou des taux d’intérêt. Par exemple, dans un contexte de crise financière globale, l’effet domino entre plusieurs secteurs et régions ne peut être entièrement expliqué par ces approches isolées.

Une autre faiblesse importante des modèles traditionnels est leur capacité limitée à capturer des dépendances temporelles à long terme. Les marchés financiers sont souvent affectés par des cycles économiques ou des politiques monétaires qui s’étendent sur plusieurs années. Les modèles traditionnels, en raison de leur conception, se concentrent sur des horizons temporels courts ou moyens et ne parviennent pas à intégrer ces dynamiques à long terme. Par exemple, l’impact d’une politique monétaire expansionniste, comme des taux d’intérêt faibles, peut avoir des répercussions sur les investissements et la consommation sur plusieurs trimestres, voire années. Cette information essentielle risque d’être négligée par ARIMA ou GARCH.

        Les données exogènes jouent également un rôle clef dans la précision des prévisions financières. Les événements mondiaux, les nouvelles économiques, les résultats d’entreprises et même les tendances sur les réseaux sociaux peuvent avoir des répercussions significatives sur les marchés. Cependant, les modèles traditionnels ne sont pas conçus pour intégrer ces données non structurées ou qualitative. Par exemple, une annonce surprise des USA concernant une hausse des taux d’intérêt pourrait entraîner une chute brutale des marchés, Elon Musk qui tweet "Signal" fait grimper l'action de la société de 91%, ce sont des effets que ni ARIMA ni GARCH ne soient en mesure de prédire sans leur intégrer explicitement ce genre d’informations.

...