Forecasting power of neural networks in cryptocurrency domain : Forecasting the prices of Bitcoin, Ethereum and Cardano with Gated Recurrent Unit and Long Short-Term Memory

Abstract

Machine learning has developed substantially during the past decades and more emphasis has gone to deeper machine learning methods, i.e., artificial neural networks, computer-based networks seeking to mimic how the human brain functions. The groundwork for ANN research was established already in the 1940s and the advancement of ANNs has been ex-tensive. Price prediction of different financial assets is a broadly studied field, as researchers have been trying to create models to predict the volatile and noisy environment of financial markets. Also, ANNs have been placed for these hard prediction tasks, as their advantage is the ability to find non-linear patterns in uncertain and volatile setting.

Cryptocurrencies have made their way to the common audience in the past years. After Nakamoto (2008) presented the first proposal for an electronic cash system, Bitcoin, the number of different cryptocurrencies has exceeded over 8 000. Also, the market capitaliza-tion of all cryptocurrencies has grown rapidly, in November 2021 the aggregate market capi-talization topped 3 000 billion U.S. dollars. Cryptocurrencies are not a small concept for closed groups of tech-people, but a phenomenon that concerns also in the governmental level.

This study utilizes recurrent neural networks, GRU and LSTM, in the prediction task regarding cryptocurrencies. In addition to trading data, this study uses Google trend-based popularity score to try to better the ANNs accuracy. In addition to the sole prediction task, the study compares the two used RNN architectures and presents the performance and accuracy with selected performance measures.

The results show that recurrent neural networks have potential in prediction tasks in the cryptocurrency domain. The constructed models were able to find coherent trends in the price fluctuations but the average differences on actual and predicted prices were compara-tively high, with the introduced simple RNN models. On average, the LSTM model was able to predict the cryptocurrency prices more accurately, but the GRU model showed also great evidence of prediction accuracy in the domain. All in all, the cryptocurrency prediction task is a hard task due to its volatile nature, but his study shows great evidence for ANNs ability to predict cryptocurrency prices. Considering the findings, further research could be applied to more optimized and complex ANN models as the models used in the study were relatively simple one-layer models.

Koneoppiminen on kehittynyt erittäin paljon viimeisten vuosikymmenten aikana, painottuen enemmän syvempien koneoppimisen metodien, kuten keinotekoisten neuroverkkojen (ANN), kehitykseen. Keinotekoiset neuroverkot ovat tietokoneeseen perustuvia verkkoja, jotka pyrkivät jäljittelemään ihmisaivojen toimintaa. Keinotekoisten neuroverkkojen tutki-mus on alkanut jo 1940-luvulla, josta lähtien kyseisten verkkojen kehitys on ollut nopeaa. Eri omaisuuslajien hintakehityksen ennustaminen on laajasti tutkittu alue, kun tutkijat ovat yrit-täneet luoda malleja, joilla he ovat pyrkineet ennustamaan epävarmaa rahoitusmarkkinaym-päristöä. Keinotekoiset neuroverot on valjastettu tähän vaikeaan tehtävän, koska niiden selkeänä etuna on kyky löytää epälineaarisia yhteyksiä epävarmassa ja epävakaassa ympäris-tössä.

Viime vuosien aikana kryptovaluutat ovat yleistyneet huomattavasti, niin yksityissijoittajien kun institutionaalisten sijoittajien joukossa. Sen jälkeen, kun Nakamoto (2008) esitteli en-simmäisen ehdotuksen käteisen ja valuutan sähköisestä järjestelmästä, kryptovaluuttojen lukumäärä on kasvanut yli 8 000 yksittäiseen valuuttaan. Samaan aikaan kryptovaluuttojen yhteenlaskettu markkina-arvo on kasvanut räjähdysmäisesti, marraskuussa 2021 kokonais-markkina-arvo kasvoi yli 3 000 miljardiin Yhdysvaltojen dollariin. Nykyään kryptovaluutat eivät ole vain konsepti suljetuille teknologiasta kiinnostuneille ryhmille, vaan ilmiö, joka vaikuttaa myös valtiollisella tasolla.

Tämä tutkimus hyödyntää toistuvia neuroverkkoja (recurrent neural networks), GRU ja LSTM, kryptovaluuttojen hintakehityksen ennustamisessa. Kaupankäyntitietojen lisäksi, tut-kimuksessa käytetään Googlen hakutiedusteluihn perustuvaa Google Trend suosiomittaria, neuroverkkojen tarkkuuden parantamiseksi. Kryptovaluuttojen hintakehityksen ennustami-sen lisäksi, tutkimuksessa verrataan kahta RNN-rakennetta ja esitellään molempien verkko-jen tarkkuutta sekä verrataan sitä valituilla tarkkuusmittareilla.

Tutkimuksen tulokset osoittavat, että yksinkertaisilla RNN-rakenteilla on selkeää potentiaalia kryptovaluuttojen hintakehityksen ennustamisessa. Tutkimuksessa luodut mallit löytävät johdonmukaisia ja selkeitä trendejä, mutta keskimääräiset erotukset todellisilla ja ennuste-tuilla hinnoilla oli suhteellisesti korkeat. Tutkituista malleista LSTM-malli tuottaa keskimäärin tarkempia ennusteita kuin GRU-malli, mutta erot mallien tarkkuuksissa ovat pienet. Kokonai-suudessaan kryptovaluuttojen hintojen ennustaminen on vaikea tehtävä kryptovaluut-tamarkkinan epävakaan luonteen johdosta, tämä tutkimus kuitenkin osoittaa näyttöä keino-tekoisten neuroverkkojen kyvystä ennustaa kryptovaluuttojen hintoja. Ottaen huomioon tutkimuksen löydökset, lisätutkimusta voisi soveltaa tarkemmin optimoituihin ja kompleksi-simpiin keinotekoisiin neuroverkkoihin, sillä tässä tutkimuksessa käytetyt mallit olivat suh-teellisen yksinkertaisia.