Методика подбора гиперпараметров нейросетевой модели в задачах оптической навигации


Авторы

Дорошев А. С.1*, Шеломанов Д. А.2**

1. Московское опытно-конструкторское бюро «Марс», 1-й Щемиловский пер., 16, стр. 2, Москва, 127473, Россия
2. Московский авиационный институт (национальный исследовательский университет), 125993, г. Москва, Волоколамское шоссе, д. 4

*e-mail: doroshevas@mai.ru
**e-mail: shelomanovda@mai.ru

Аннотация

В данной статье рассматривается задача автономного управления беспилотного летательного аппарата (БЛА) с использованием методов Simultaneous Localization and Mapping (SLAM). Одной из проблем данного метода при использовании оптического диапазона в качестве источника данных является оценка расстояния до объектов. Для определения расстояния предложена методика обучения нейросетевой модели, способной проводить оценку расстояния на основе монокулярного изображения с камеры с дополнительной оптимизацией гиперпараметров с целью достижения более качественного результата обучения модели. Использование предложенной методики позволило улучшить целевую метрику обучения в рамках одинакового количества итераций подбора гиперпараметров модели. Дополнительно данная методика проверялась при использовании двух других архитектур нейронных сетей и наборов данных, показав положительные результаты что позволяет сделать предположение об эффективности данного метода и возможности его применения для улучшения точности обучаемых моделей.

Ключевые слова:

нейронные сети, беспилотные летательные аппараты, гиперпараметры, оптическая навигация, интеллектуальные системы

Библиографический список

  1. Forster C., Lynen S., Kneip L., Scaramuzza D. et al. Collaborative monocular slam with multiple micro aerial vehicles // 2013 IEEE/RSJ International Conference on Intelligent Robots and Systems. IEEE, 2013. P. 3962-3970. DOI: 10.1109/IROS.2013.6696923
  2. Blösch M., Weiss S., Scaramuzza D., Siegwart R. et al. Vision based MAV navigation in unknown and unstructured environments // 2010 IEEE International Conference on Robotics and Automation. IEEE, 2010. P. 21-28. DOI: 10.1109/ROBOT.2010.5509920
  3. Олькина Д.С. Алгоритм семантической сегментации изображений для решения задачи позиционирования летательного аппарата на земной поверхности // Труды МАИ. 2023. № 130. URL: https://trudymai.ru/published.php?ID=174617. DOI: 10.34759/trd-2023-130-18
  4. Бурага А.В., Костюков В.М. Сравнительный анализ пассивных методов измерения дальности для малого беспилотного летательного аппарата // Труды МАИ. 2012. № 53. URL: https://trudymai.ru/published.php?ID=29624
  5. Li R., Wang S., Gu D. Ongoing evolution of visual SLAM from geometry to deep learning: Challenges and opportunities // Cognitive Computation. 2018. V. 10, No 6. P. 875-889. DOI: 10.1007/s12559-018-9591-8
  6. Wang W., Hu Y., Scherer S. TartanVO: A generalizable learning-based VO // Conference on Robot Learning. 2021. P. 1761-1772. DOI: 10.48550/arXiv.2011.00359
  7. Van Rijn J. N., Hutter F. Hyperparameter importance across datasets // Proceedings of the 24th ACM SIGKDD international conference on knowledge discovery & data mining. 2018. P. 2367-2376. DOI: 10.1145/3219819.3220058
  8. Radosavovic I., Kosaraju R.P., Girshick R., He K., Dollár P. et al. Designing network design spaces // Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020. P. 10428-10436. DOI: 10.1109/CVPR42600.2020.01044
  9. Wistuba M., Schilling N., Schmidt-Thieme L. Hyperparameter search space pruning–a new component for sequential model-based hyperparameter optimization // Machine Learning and Knowledge Discovery in Databases: European Conference, ECML PKDD 2015, Porto, Portugal, September 7-11, 2015, Proceedings, Part II 15. Springer International Publishing, 2015. P. 104-119. DOI: 10.1007/978-3-319-23525-7_7
  10. Akiba T. et al. Optuna: A next-generation hyperparameter optimization framework // Proceedings of the 25th ACM SIGKDD international conference on knowledge discovery & data mining. 2019. P. 2623-2631. DOI: 10.1145/3292500.3330701
  11. Makarov A., Namiot D. Overview of data cleaning methods for machine learning // International Journal of Open Information Technologies. 2023. V. 11, No. 10. P. 70-78. 
  12. Bhat S.F., Birkl R., Wofk D., Wonka P., Müller M. et al. Zoedepth: Zero-shot transfer by combining relative and metric depth // arXiv preprint arXiv:2302.12288. 2023. DOI: 10.48550/arXiv.2302.12288
  13. Alhashim I. High quality monocular depth estimation via transfer learning // arXiv preprint arXiv:1812.11941. 2018. URL: https://doi.org/10.48550/arXiv.1812.11941
  14. Wang Z., Bovik A.C., Sheikh H.R., Simoncelli E.P. et al. Image quality assessment: from error visibility to structural similarity // IEEE transactions on image processing. 2004. V. 13, No. 4. P. 600-612. DOI: 10.1109/TIP.2003.819861
  15. Kanopoulos N., Vasanthavada N., Baker R.L. Design of an image edge detection filter using the Sobel operator // IEEE Journal of solid-state circuits. 1988. V. 23, No. 2. P. 358-367. URL: https://doi.org/10.1109/4.996
  16. Lee K., Yim J. Hyperparameter optimization with neural network pruning // arXiv preprint arXiv:2205.08695. 2022. DOI: 10.48550/arXiv.2205.08695
  17. Engel J., Koltun V., Cremers D. Direct sparse odometry // IEEE transactions on pattern analysis and machine intelligence. 2017. V. 40, No. 3. P. 611-625. DOI: 10.1109/TPAMI.2017.2658577
  18. Mokssit S. et al. Deep learning techniques for visual slam: A survey // IEEE Access. 2023. V. 11, P. 20026-20050. DOI: 10.1109/ACCESS.2023.3249661
  19. Bischl B. et al. Hyperparameter optimization: Foundations, algorithms, best practices, and open challenges // Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery. 2023. V. 13, No. 2. P. 1484. DOI: 10.1002/widm.1484
  20. Yang L., Shami A. On hyperparameter optimization of machine learning algorithms: Theory and practice // Neurocomputing. 2020. V. 415, P. 295-316. DOI: 10.1016/j.neucom.2020.07.061
  21. Bartz E. et al. Experimental investigation and evaluation of model-based hyperparameter optimization // arXiv preprint arXiv:2107.08761. 2021. DOI: 10.48550/arXiv.2107.08761


Скачать статью

mai.ru — информационный портал Московского авиационного института

© МАИ, 2000—2025

 Вход