Modeling and Forecasting Stock Market Volatility Using Recurrent Deep Learning Architectures: Evidence from RNN, LSTM, and GRU Models

Subject Areas : Financial Economics

Nasim Abdollah Zarkesh ¹ , roya seyfipour ²

1 - Department of Economics, CT.C. , Islamic Azad University, Tehran, Iran.
2 - Department of Economics, Central Tehran Branch, Islamic Azad University, Tehran, Iran

Received: 2025-11-08 Accepted : 2025-11-22 Published : 2025-12-09

Keywords: Stock market volatility, Deep learning, Recurrent Neural Network (RNN), Long Short-Term Memory (LSTM), Gated Recurrent Unit (GRU),

Abstract :

Forecasting stock market volatility is one of the fundamental challenges in financial economics, playing a critical role in risk management, investment strategy design, and policy decision-making. Although traditional econometric models such as ARCH and GARCH have demonstrated success in modeling volatility clustering, they exhibit limitations in capturing long-term dependencies and nonlinear dynamics inherent in financial data. In recent years, the advancement of deep learning technologies, particularly recurrent architectures such as RNN, LSTM, and GRU, has enabled the extraction of complex patterns and hidden features in financial time series. The present study aims to investigate and compare the performance of these three models in forecasting stock market volatility in Iran, assessing their accuracy, stability, and interpretability. The dataset covers a specified period of Tehran Stock Exchange trading, and model performance was evaluated using statistical metrics (MSE, RMSE, MAE) as well as financial indicators (Sharpe ratio and directional accuracy). The results indicate that the LSTM model, with an R² of 0.97, achieves the highest accuracy and stability, while the GRU model, with an R² of 0.948, exhibits performance close to LSTM with faster convergence. In contrast, the basic RNN model, with an R² of 0.89, shows limitations in forecasting long-term volatility. These findings confirm that advanced recurrent architectures can serve as effective tools for developing financial forecasting systems and risk management strategies. Furthermore, it is recommended that future research explores hybrid models, multi-source datasets, and online learning frameworks to enhance prediction accuracy and generalizability

References:

الف- منابع فارسی: احمدی، علیرضا، و مرادی، نسرین. (۱۴۰۲). بهبود پیش‌بینی نوسانات بازار سرمایه با استفاده از مدل‌های ترکیبی یادگیری عمیق و الگوریتم‌های بهینه‌سازی. مجله مهندسی مالی و سرمایه‌گذاری، ۸(۱)، ۵۵–۷۶.
افلاطونی، عباس. (1403). پیش بینی نوسان های شاخص کل بورس اوراق بهادار تهران با مدل ترکیبی پیشنهادی WD-LSTM، ششمین همایش سالانه انجمن مالی ایران، تهران.
امیری، سیده بیتا، عمیدیان، عارفه، فصیح فر، زهره. (1403). یش بینی هوشمند قیمت سهام به کمک مدلهایLSTM ، GRU، ARIMA و ARIMAX تحلیل و مقایسه عملکرد،شانزدهمین کنفرانس بین المللی تحلیل پوششی داده ها و علوم تصمیم گیری، تنکابن.
حسینی، محمد، احمدی، سارا، و نادری، حسن. (۱۴۰۲). به‌کارگیری مدل‌های یادگیری عمیق و الگوریتم ژنتیک در پیش‌بینی نوسانات بازار سرمایه ایران. فصلنامه راهبرد مدیریت مالی، ۱۷(۴)، ۱۰۳–۱۲۴.
صیادی نژاد، سکینه، اسماعیل زاده مقری، علی، رستمی، محمد رضا، یعقوب نژاد، احمد. (1403). ارایه مدل پیش‌بینی تجزیه سیگنال‌های بازار سرمایه با استفاده از رویکرد (CEEMD- DL(LSTM)). راهبرد مدیریت مالی، 12(1)، 211-226.
صیادی‌نژاد، مجید، محمدی، رضا، و سلیمانی، حامد. (۱۴۰۳). کاربرد ترکیب تبدیل موجک و شبکه‌های عصبی بازگشتی در پیش‌بینی نوسانات شاخص کل بورس تهران. مجله مدیریت مالی، ۱۱(۱)، ۸۹–۱۰۸.
کاظمی، رضا، و رضوی، مهدی. (۱۴۰۳). ترکیب شبکه‌های عصبی بازگشتی و الگوریتم PSO در مدل‌سازی نوسانات شاخص کل بورس تهران. فصلنامه مهندسی مالی، ۱۰(۲)، ۵۱–۷۰.
مرادی، نسرین، و احمدی، علیرضا. (۱۴۰۲). مقایسه کارایی مدل‌های LSTM و GRU در پیش‌بینی روند بازده بازار سرمایه ایران. فصلنامه اقتصاد و مدل‌سازی مالی، ۹(۳)، ۶۷–۸۶.
معصومی، سجاد، و بهرامی، کامران. (۱۴۰۴). مدل‌سازی نوسانات قیمت سهام با استفاده از شبکه‌های عصبی بازگشتی و مدل‌های GARCH ترکیبی. مجله پژوهش‌های مالی ایران، ۱۸(۱)، ۷۵–۹۸.
نوری، سمیه، و طاهری، الفت. (۱۴۰۳). پیش‌بینی هوشمند قیمت سهام با استفاده از مدل‌های یادگیری عمیق و داده‌های کلان اقتصادی. فصلنامه اقتصاد و فناوری اطلاعات، ۶(۴)، ۴۳–۶۴.
ب- منابع انگلیسی: Bollerslev, T. (1986). Generalized autoregressive conditional heteroskedasticity. Journal of Econometrics, 31(3), 307–327.
Boudri, M., & El Bouhadi, R. (2024). Modeling and forecasting historical volatility using econometric and deep learning approaches: Evidence from emerging markets. Journal of Computational Finance and Economics, 18(3), 221–245.
Boudri, S., & El Bouhadi, A. (2024). Deep learning versus GARCH models for volatility prediction in emerging North African markets. Journal of Financial Econometrics, 22(1), 58–76.
Cai, W., Liu, K., & Lu, K. (2024). Forecasting daily stock volatility: A comparison between GARCH and recurrent neuro‑networks. BCP Business & Management, 38. https://doi.org/10.54691/bcpbm.v38i.3723
Cho, K., van Merriënboer, B., Gulcehre, C., Bahdanau, D., Bougares, F., Schwenk, H., & Bengio, Y. (2014). Learning phrase representations using RNN encoder–decoder for statistical machine translation. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), 1724–1734.
Cont, R. (2001). Empirical properties of asset returns: Stylized facts and statistical issues. Quantitative Finance, 1(2), 223–236.
Elman, J. L. (1990). Finding structure in time. Cognitive Science, 14(2), 179–211.
Engle, R. F. (1982). Autoregressive conditional heteroscedasticity with estimates of the variance of United Kingdom inflation. Econometrica, 50(4), 987–1007.
Fama, E. F. (1970). Efficient capital markets: A review of theory and empirical work. The Journal of Finance, 25(2), 383–417. Fischer, T., & Krauss, C. (2018). Deep learning with long short-term memory networks for financial market predictions. European Journal of Operational Research, 270(2), 654–669.
Greff, K., Srivastava, R. K., Koutník, J., Steunebrink, B. R., & Schmidhuber, J. (2017). LSTM: A search space odyssey. IEEE Transactions on Neural Networks and Learning Systems, 28(10), 2222–2232.
Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural Computation, 9(8), 1735–1780.
LeCun, Y., Bengio, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436–444.
Petrozziello, A. (2022). Stock market volatility prediction using LSTM deep learning networks. European Journal of Finance and Economics, 12(3), 85–101.
Sako, K., Mpinda, B. N., & Rodrigues, P. C. (2020). Stock price forecasting with deep learning: A comparative study of LSTM, RNN, and GRU models. Mathematics, 8(9), 1441. https://doi.org/10.3390/math8091441
Song, Y., Chen, D., & Li, X. (2024). A hybrid CNN–GRU model for stock market volatility forecasting across interconnected markets. Expert Systems with Applications, 240, 122563.
Song, Y., Lei, X., Tang, Y., & Li, J. (2024). Volatility forecasting for stock market index based on complex network and hybrid deep learning model. Expert Systems with Applications, 240, 122642.
Taylor, S. J. (2005). Asset price dynamics, volatility, and prediction. Princeton University Press.
Trivedi, D. V., & Patel, S. (2022). An analysis of GRU–LSTM hybrid deep learning models for stock price prediction. International Journal of Scientific Research in Science, Engineering and Technology, 9(3). https://doi.org/10.32628/IJSRSET229264
Wang, T. (2023). Stock volatility forecasting: Adopting LSTM deep learning method and comparing the results with GARCH family model. In Proceedings of the International Conference on Financial Innovation, FinTech and Information Technology (FFIT 2022). https://doi.org/10.4108/eai.28-10-2022.2328447
Wang, Y., Liu, H., Tran, Q. T., & Wang, X. (2025). Deep learning enhanced multivariate GARCH: A hybrid LSTM-BEKK framework for volatility modeling. Journal of Financial Econometrics, 23(1), 101–125.
Xu, Z., Zhang, W., Sun, Y., & Lin, Z. (2024). Multi-source data-driven LSTM framework for enhanced stock price prediction and volatility analysis. Journal of Computer Technology and Software, 3(8). https://doi.org/10.5281/zenodo.14291972.