مدلسازی دینامیک غیرخطی به کمک شبکه‌های عصبی عمیق بازگشتی مطلع از فیزیک

نوع مقاله : علمی-پژوهشی

نویسندگان

1 دانشگاه صنعتی شریف، دانشکده هوافضا

2 دانشگاه صنعتی شریف

10.22034/jtae.2023.343832.1236

چکیده

در این مقاله به بررسی قدرت پیشبینی شبکه‌های عصبی بازگشتی و به صورت ویژه شبکه‌های مطلع از فیزیک برای دینامیک‌های غیرخطی پرداخته شده‌است. شبکه‌های مطلع از فیزیک شبکه‌های عصبی بدون نظارتی هستند .این مشخصه‌ی شبکه‌ کمک خواهد کرد تا معادلات با این دسته از شبکه‌های عصبی تقریب زده شود. در این تحقیق نشان داده خواهد شد که این رده از شبکه‌های عصبی به خوبی توانمندی اخذ دینامیک سامانه را دارند و حتی در مناطقی از فضای حالت که به شبکه نقطه‌ی نمونه‌ای داده نشده‌است تقریب قابل قبولی از سامانه بدست می‌دهند. برای اثبات این فرضیه، در مقاله‌ی حاضر سه دسته از دینامیک‌های غیرخطی مورد بررسی قرار گرفته‌اند: سیستم‌های (1) خود-پایا (self-sustained)، (2) تحریک شونده (excitatory)، و (3) آشوبناک (chaotic). نتایج ارائه شده نشان‌دهنده‌ی توانمندی شبکه‌های مطلع از فیزیک برای تخمین سامانه‌های خود-پایا و آشوبناک است. این در حالی است که پاسخ شبکه در پیش‌بینی رفتار شبکه‌های تحریک شونده مطلوب نبوده و نیاز به مطالعه‌ی بیش‌تر دارد.

کلیدواژه‌ها

موضوعات


[1] J. Guckenheimer and P. Holmes, Nonlinear oscillations, dynamical systems, and bifurcations of vector fields. Springer Science & Business Media, 2013.
[2] H. Voss, M. Bünner, and M. Abel, "Identification of continuous, spatiotemporal systems," Physical Review E, vol. 57, no. 3, p. 2820, 1998.
[3] M. Quade, M. Abel, K. Shafi, R. K. Niven, and B. R. Noack, "Prediction of dynamical systems by symbolic regression," Physical Review E, vol. 94, no. 1, p. 012214, 2016.
[4] M. Schmidt and H. Lipson, "Distilling free-form natural laws from experimental data," science, vol. 324, no. 5923, pp. 81-85, 2009.
[5] J. Pathak, B. Hunt, M. Girvan, Z. Lu, and E. Ott, "Model-free prediction of large spatiotemporally chaotic systems from data: A reservoir computing approach," Physical review letters, vol. 120, no. 2, p. 024102, 2018.
[6] J. Pathak, Z. Lu, B. R. Hunt, M. Girvan, and E. Ott, "Using machine learning to replicate chaotic attractors and calculate Lyapunov exponents from data," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 27, no. 12, p. 121102, 2017.
[7] I. Goodfellow, Y. Bengio, A. Courville, and Y. Bengio, Deep learning (no. 2). MIT press Cambridge, 2016.
[8] R. S. Zimmermann and U. Parlitz, "Observing spatio-temporal dynamics of excitable media using reservoir computing," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 28, no. 4, p. 043118, 2018.
[9] Z. Lu, B. R. Hunt, and E. Ott, "Attractor reconstruction by machine learning," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 28, no. 6, p. 061104, 2018.
[10] R. Cestnik and M. Abel, "Inferring the dynamics of oscillatory systems using recurrent neural networks," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 29, no. 6, p. 063128, 2019.
[11] B. A. Pearlmutter, "Learning state space trajectories in recurrent neural networks," Neural Computation, vol. 1, no. 2, pp. 263-269, 1989.
[12] K.-i. Funahashi and Y. Nakamura, "Approximation of dynamical systems by continuous time recurrent neural networks," Neural networks, vol. 6, no. 6, pp. 801-806, 1993.
[13] C. A. Bailer-Jones, D. J. MacKay, and P. J. Withers, "A recurrent neural network for modelling dynamical systems," network: computation in neural systems, vol. 9, no. 4, pp. 531-547, 1998.
[14] D. Svozil, V. Kvasnicka, and J. Pospichal, "Introduction to multi-layer feed-forward neural networks," Chemometrics and intelligent laboratory systems, vol. 39, no. 1, pp. 43-62, 1997.
[15] M. Raissi, P. Perdikaris, and G. E. Karniadakis, "Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations," Journal of Computational Physics, vol. 378, pp. 686-707, 2019.
[16]  H. Gomi and M. Kawato, "Neural network control for a closed-loop system using feedback-error-learning," Neural Networks, vol. 6, no. 7, pp. 933-946, 1993.
[17]  J. Sarangapani, Neural network control of nonlinear discrete-time systems. CRC press, 2018.
[18]  F. Arnold and R. King, "State–space modeling for control based on physics-informed neural networks," Engineering Applications of Artificial Intelligence, vol. 101, p. 104195, 2021.
[19] S. Hochreiter and J. Schmidhuber, "Long Short-Term Memory," Neural Computation, vol. 9, no. 8, pp. 1735-1780, 1997, doi: 10.1162/neco.1997.9.8.1735.