نوع مقاله : علمی پژوهشی

نویسندگان

1 استاد، دانشکده مهندسی هوافضا، دانشگاه صنعتی شریف، تهران، ایران

2 دانشجوی دکتری، دانشکده مهندسی هوافضا، دانشگاه صنعتی شریف، تهران، ایران

چکیده

در این مقاله به بررسی قدرت پیشبینی شبکه‌های عصبی بازگشتی (Recurrent Neural Networks - RNNs ) و به صورت ویژه شبکه‌های مطلع از فیزیک (Physics-Informed Neural    Networks - PINNs) برای دینامیک‌های غیرخطی پرداخته شده‌است. شبکه‌های مطلع از فیزیک شبکه‌های عصبی بدون نظارتی (unsupervised) هستند که در آن‌ها صرف برقراری رابطه‌ی ورودی و خروجی مد نظر قرار نگرفته و برقراری رابطه‌ی دینامیکی مشخصی میان مشتقات به عنوان تابع هدف آموزش تعیین می‌گردد. این مشخصه‌ی شبکه‌های مطلع از فیزیک به ما کمک خواهد کرد تا معادلات دیفرانسیل غیرخطی پیچیده‌ای را با این دسته از شبکه‌های عصبی تقریب زده و برای طراحی کنترل‌کننده‌های پیچیده از این تقریب به عنوان حل‌گر زمان-حقیقی مدل سامانه استفاده گردد. در این تحقیق نشان داده خواهد شد که این رده از شبکه‌های عصبی به خوبی توانمندی اخذ دینامیک سامانه را دارند و حتی در مناطقی از فضای حالت که به شبکه نقطه‌ی نمونه‌ای داده نشده‌است تقریب قابل قبولی از سامانه بدست می‌دهند. برای اثبات این فرضیه، در مقاله‌ی حاضر سه دسته از دینامیک‌های غیرخطی مورد بررسی قرار گرفته‌اند: سیستم‌های (1) خود- پایا (self-sustained)، (2) تحریک شونده (excitatory)، و (3) آشوبناک ( (chaotic). نتایج ارائه شده نشان‌دهنده‌ی توانمندی شبکه‌های مطلع از فیزیک برای تخمین سامانه‌های خود- پایا و آشوبناک است. این در حالی است که پاسخ شبکه در پیش‌بینی رفتار شبکه‌های تحریک شونده مطلوب نبوده و نیاز به مطالعه‌ی بیش‌تر دارد.

کلیدواژه‌ها

موضوعات

[1] J. Guckenheimer and P. Holmes, Nonlinear oscillations, dynamical systems, and bifurcations of vector fields. Springer Science & Business Media, 2013.
[2] H. Voss, M. Bünner, and M. Abel, "Identification of continuous, spatiotemporal systems," Physical Review E, vol. 57, no. 3, p. 2820, 1998.
[3] M. Quade, M. Abel, K. Shafi, R. K. Niven, and B. R. Noack, "Prediction of dynamical systems by symbolic regression," Physical Review E, vol. 94, no. 1, p. 012214, 2016.
[4] M. Schmidt and H. Lipson, "Distilling free-form natural laws from experimental data," science, vol. 324, no. 5923, pp. 81-85, 2009.
[5] J. Pathak, B. Hunt, M. Girvan, Z. Lu, and E. Ott, "Model-free prediction of large spatiotemporally chaotic systems from data: A reservoir computing approach," Physical review letters, vol. 120, no. 2, p. 024102, 2018.
[6] J. Pathak, Z. Lu, B. R. Hunt, M. Girvan, and E. Ott, "Using machine learning to replicate chaotic attractors and calculate Lyapunov exponents from data," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 27, no. 12, p. 121102, 2017.
[7] I. Goodfellow, Y. Bengio, A. Courville, and Y. Bengio, Deep learning (no. 2). MIT press Cambridge, 2016.
[8] R. S. Zimmermann and U. Parlitz, "Observing spatio-temporal dynamics of excitable media using reservoir computing," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 28, no. 4, p. 043118, 2018.
[9] Z. Lu, B. R. Hunt, and E. Ott, "Attractor reconstruction by machine learning," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 28, no. 6, p. 061104, 2018.
[10] R. Cestnik and M. Abel, "Inferring the dynamics of oscillatory systems using recurrent neural networks," Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 29, no. 6, p. 063128, 2019.
[11] B. A. Pearlmutter, "Learning state space trajectories in recurrent neural networks," Neural Computation, vol. 1, no. 2, pp. 263-269, 1989.
[12] K.-i. Funahashi and Y. Nakamura, "Approximation of dynamical systems by continuous time recurrent neural networks," Neural networks, vol. 6, no. 6, pp. 801-806, 1993.
[13] C. A. Bailer-Jones, D. J. MacKay, and P. J. Withers, "A recurrent neural network for modelling dynamical systems," network: computation in neural systems, vol. 9, no. 4, pp. 531-547, 1998.
[14] D. Svozil, V. Kvasnicka, and J. Pospichal, "Introduction to multi-layer feed-forward neural networks," Chemometrics and intelligent laboratory systems, vol. 39, no. 1, pp. 43-62, 1997.
[15] M. Raissi, P. Perdikaris, and G. E. Karniadakis, "Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations," Journal of Computational Physics, vol. 378, pp. 686-707, 2019.
[16]  H. Gomi and M. Kawato, "Neural network control for a closed-loop system using feedback-error-learning," Neural Networks, vol. 6, no. 7, pp. 933-946, 1993.
[17]  J. Sarangapani, Neural network control of nonlinear discrete-time systems. CRC press, 2018.
[18]  F. Arnold and R. King, "State–space modeling for control based on physics-informed neural networks," Engineering Applications of Artificial Intelligence, vol. 101, p. 104195, 2021.
[19] S. Hochreiter and J. Schmidhuber, "Long Short-Term Memory," Neural Computation, vol. 9, no. 8, pp. 1735-1780, 1997, doi: 10.1162/neco.1997.9.8.1735.