<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE article PUBLIC "-//NLM//DTD JATS (Z39.96) Journal Publishing DTD v1.3 20210610//EN" "JATS-journalpublishing1-3.dtd">
<article article-type="research-article" dtd-version="1.3" xmlns:mml="http://www.w3.org/1998/Math/MathML" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xml:lang="ru"><front><journal-meta><journal-id journal-id-type="publisher-id">tuzsut</journal-id><journal-title-group><journal-title xml:lang="ru">Труды учебных заведений связи</journal-title><trans-title-group xml:lang="en"><trans-title>Proceedings of Telecommunication Universities</trans-title></trans-title-group></journal-title-group><issn pub-type="ppub">1813-324X</issn><issn pub-type="epub">2712-8830</issn><publisher><publisher-name>СПбГУТ</publisher-name></publisher></journal-meta><article-meta><article-id pub-id-type="doi">10.31854/1813-324X-2025-11-5-74-83</article-id><article-id custom-type="edn" pub-id-type="custom">JEJUCM</article-id><article-id custom-type="elpub" pub-id-type="custom">tuzsut-727</article-id><article-categories><subj-group subj-group-type="heading"><subject>Research Article</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="ru"><subject>ЭЛЕКТРОНИКА, ФОТОНИКА, ПРИБОРОСТРОЕНИЕ И СВЯЗЬ</subject></subj-group><subj-group subj-group-type="section-heading" xml:lang="en"><subject>ELECTRONICS, PHOTONICS, INSTRUMENTATION AND COMMUNICATIONS</subject></subj-group></article-categories><title-group><article-title>Алгоритмы адаптивной обработки сигналов в геостационарных системах</article-title><trans-title-group xml:lang="en"><trans-title>Algorithms for Adaptive Signal Processing in Geosynchronous Orbit Satellite Systems</trans-title></trans-title-group></title-group><contrib-group><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0001-8856-9733</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Бойко</surname><given-names>И. А.</given-names></name><name name-style="western" xml:lang="en"><surname>Boyko</surname><given-names>I. A.</given-names></name></name-alternatives><bio xml:lang="ru"><p>ассистент кафедры радиотехники Санкт-Петербургского государственного университета телекоммуникаций им. проф. М.А. Бонч-Бруевича</p></bio><email xlink:type="simple">boiko.ia@sut.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0000-0003-4148-3208</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Глушанков</surname><given-names>Е. И.</given-names></name><name name-style="western" xml:lang="en"><surname>Glushankov</surname><given-names>E. I.</given-names></name></name-alternatives><bio xml:lang="ru"><p>доктор технических наук, профессор, профессор кафедры радиотехники Санкт-Петербургского государственного университета телекоммуникаций им. проф. М.А. Бонч-Бруевича</p></bio><email xlink:type="simple">glushankov.ei@sut.ru</email><xref ref-type="aff" rid="aff-1"/></contrib><contrib contrib-type="author" corresp="yes"><contrib-id contrib-id-type="orcid">https://orcid.org/0009-0003-7460-0949</contrib-id><name-alternatives><name name-style="eastern" xml:lang="ru"><surname>Лялина</surname><given-names>А. Ж.</given-names></name><name name-style="western" xml:lang="en"><surname>Lyalina</surname><given-names>A. Zh.</given-names></name></name-alternatives><bio xml:lang="ru"><p>ассистент кафедры радиотехники Санкт-Петербургского государственного университета телекоммуникаций им. проф. М.А. Бонч-Бруевича</p></bio><email xlink:type="simple">lyalina.az@sut.ru</email><xref ref-type="aff" rid="aff-1"/></contrib></contrib-group><aff-alternatives id="aff-1"><aff xml:lang="ru">Санкт-Петербургский государственный университет телекоммуникаций им. проф. М.А. Бонч-Бруевича<country>Россия</country></aff><aff xml:lang="en">The Bonch-Bruevich Saint Petersburg State University of Telecommunications<country>Russian Federation</country></aff></aff-alternatives><pub-date pub-type="collection"><year>2025</year></pub-date><pub-date pub-type="epub"><day>05</day><month>11</month><year>2025</year></pub-date><volume>11</volume><issue>5</issue><fpage>74</fpage><lpage>83</lpage><permissions><copyright-statement>Copyright &amp;#x00A9; Бойко И.А., Глушанков Е.И., Лялина А.Ж., 2025</copyright-statement><copyright-year>2025</copyright-year><copyright-holder xml:lang="ru">Бойко И.А., Глушанков Е.И., Лялина А.Ж.</copyright-holder><copyright-holder xml:lang="en">Boyko I.A., Glushankov E.I., Lyalina A.Z.</copyright-holder><license license-type="creative-commons-attribution" xlink:href="https://creativecommons.org/licenses/by/4.0/" xlink:type="simple"><license-p>This work is licensed under a Creative Commons Attribution 4.0 License.</license-p></license></permissions><self-uri xlink:href="https://tuzs.sut.ru/jour/article/view/727">https://tuzs.sut.ru/jour/article/view/727</self-uri><abstract><sec><title>Актуальность</title><p>Актуальность. Адаптивная обработка сигналов является ключевой технологией в современных спутниковых системах. Ее применение позволяет значительно повысить эффективность работы радиотехнических комплексов за счет улучшения помехозащищенности, увеличения дальности действия. Для реализации пространственной фильтрации в реальном времени используют итерационные алгоритмы адаптации. Анализ существующих разработок показывает, что подавляющее большинство решений основано на алгоритмах наименьших средних квадратов (LMS) и рекурсивных наименьших квадратов (RLS). Популярность этих методов обусловлена их относительной простотой реализации и оптимальными характеристиками в стационарной электромагнитной среде. Однако в условиях динамически изменяющейся сигнально-помеховой обстановки их эффективность резко снижается, и в этих условиях используют нестационарные алгоритмы на основе фильтра Калмана, среди которых наиболее известными являются алгоритм постоянного модуля на основе несмещенного фильтра Калмана (UKF-CMA) и алгоритм минимальной дисперсии без искажений на основе расширенного фильтра Калмана (EKF-MVDR). </p><p>Целью исследования являлось повышение отношения сигнал / шум за счет использования алгоритмов адаптивной обработки сигналов в геостационарных системах спутниковой связи. </p></sec><sec><title>Методы</title><p>Методы: математическое моделирование адаптивных алгоритмов пространственной фильтрации для спутникового канала связи в среде MATLAB.</p><p>В ходе решения научной задачи было выполнено исследование устойчивости как стационарных алгоритмов (LMS и RLS), так и нестационарных, основанных на калмановской фильтрации (UKF-CMA, EKF-MVDR, UKF-MVDR), в системе геостационарной спутниковой связи для различных сред, таких как город, пригород и сельская местность. Также для исследуемых алгоритмов был проведен анализ вычислительной сложности, скорости сходимости и выигрышу в отношении сигнал / шум в условиях стационарной и нестационарной сигнально-помеховой обстановки. Научная новизна данной работы заключается в предложении модификации алгоритма EKF-MVDR на основе несмещенного фильтра Калмана (UKF-MVDR) для повышения устойчивости алгоритма в условиях нестационарной сигнально-помеховой обстановки применительно к задачам адаптивной обработки сигналов.</p><p>Теоретическая значимость работы заключается в использовании алгоритмов пространственной обработки сигналов в геостационарных системах спутниковой связи для обеспечения устойчивой работы в условиях стационарной и динамической сигнально-помеховой обстановки.</p></sec></abstract><trans-abstract xml:lang="en"><p>Relevance. Adaptive signal processing is a key technology in modern satellite systems. Its use significantly improves the efficiency of radio engineering systems by improving interference immunity and increasing the operating range. Iterative adaptation algorithms are used to implement spatial filtering in real time. An analysis of existing developments shows that the vast majority of solutions are based on least mean squares (LMS) and recursive least squares (RLS) algorithms. The popularity of these methods is due to their relative simplicity of implementation and optimal characteristics in a stationary electromagnetic environment. However, in a dynamically changing signal-to-noise environment, their effectiveness decreases sharply, and in these conditions, non-stationary algorithms based on the Kalman filter are used, among which the most well-known are the constant modulus algorithm based on the unbiased Kalman filter (UKF-CMA) and the minimum variance distortionless algorithm based on the extended Kalman filter (EKF-MVDR).</p><p>The aim of the study was to improve the signal-to-noise ratio by using adaptive signal processing algorithms in geostationary satellite communication systems.</p><p>The work used methods of mathematical modeling of adaptive spatial filtering algorithms for satellite communication channels in the MATLAB environment.</p><p>In the solution of solving the scientific problem, an analysis of the stability of both stationary algorithms (LMS and RLS) and non-stationary algorithms based on Kalman filtering (UKF-CMA, EKF-MVDR, UKF-MVDR) in a geostationary satellite communication system for various environments, such as urban, suburban, and rural areas. An analysis of computational complexity, convergence speed, and signal-to-noise ratio gain was also performed for the algorithms under study in stationary and non-stationary signal-to-noise conditions.</p><p>The scientific novelty of this work lies in proposing a modification of the EKF-MVDR algorithm based on an unbiased Kalman filter (UKF-MVDR) to improve the stability of the algorithm in non-stationary signal-to-noise conditions as applied to adaptive signal processing tasks.</p><p>The theoretical significance of this work lies in the use of spatial signal processing algorithms in geostationary satellite communication systems to ensure stable operation in stationary and dynamic signal-to-noise environments.</p></trans-abstract><kwd-group xml:lang="ru"><kwd>геостационарные спутниковые системы</kwd><kwd>адаптивное диаграммообразование</kwd><kwd>LMS</kwd><kwd>RLS</kwd><kwd>UKF-CMA</kwd><kwd>EKF-MVDR</kwd><kwd>UKF-MVDR</kwd></kwd-group><kwd-group xml:lang="en"><kwd>GEO satellite system</kwd><kwd>adaptive beamforming</kwd><kwd>LMS</kwd><kwd>RLS</kwd><kwd>UKF-CMA</kwd><kwd>EKF-MVDR</kwd><kwd>UKF-MVDR</kwd></kwd-group><funding-group xml:lang="ru"><funding-statement>Исследование выполнено при финансовой поддержке Министерства цифрового развития, связи и массовых коммуникаций Российской Федерации, соглашение № 071-03-2025-005, "Прикладные научные исследования в области разработки методов мониторинга и идентификация типов трафика для эффективного использования сетевого ресурса в гибридных сетях связи" (регистрационный номер ПТНИ: 1024062100008-4).</funding-statement></funding-group><funding-group xml:lang="en"><funding-statement>The research was prepared with the financial support of the Ministry of Digital Development, Communications and Mass Media of the Russian Federation, grant agreement No. 071-03-2025-005, "Applied scientific research in the field of creating services and applications in promising communication networks" (reg. No. of applied scientific research: 1024032900317-4).</funding-statement></funding-group></article-meta></front><back><ref-list><title>References</title><ref id="cit1"><label>1</label><citation-alternatives><mixed-citation xml:lang="ru">Глушанков Е.И., Коровин К.О., Бойко И.А., Борисов М.Г. Современное состояние и перспективы развития адаптивных антенных комплексов в радиотехнических системах // Вестник СПбГУТ. 2024. Т. 2. № 1. С. 9. EDN:AKVWWB</mixed-citation><mixed-citation xml:lang="en">Glushankov E., Korovin K., Boyko I., Borisov M. The Current State and Prospects for the Development of Adaptive Antenna Complexes in Radio Engineering Systems. Herald of SPbSUT. 2024;2(1):9. (in Russ.) EDN:AKVWWB</mixed-citation></citation-alternatives></ref><ref id="cit2"><label>2</label><citation-alternatives><mixed-citation xml:lang="ru">Григорьев В.А., Щесняк С.С., Гулюшин В.Л., Распаев Ю.А., Хворов И.А. Адаптивные антенные решетки. Ч. 1. СПб.: Университет ИТМО, 2016. С. 55.</mixed-citation><mixed-citation xml:lang="en">Grigoriev V.A., Shchesnyak S.S., Gulyushin V.L., Raspaev Yu.A., Khvorov I.A., Shchesnyak A.S. Adaptive Antenna Arrays. Part 1. St. Petersburg: ITMO-University Publ.; 2016. p. 55. (in Russ.)</mixed-citation></citation-alternatives></ref><ref id="cit3"><label>3</label><citation-alternatives><mixed-citation xml:lang="ru">Глушанков Е.И., Кирик Д.И., Коровин К.О., Царик И.В., Бойко И.А., Казьмин О.Ю. Реализация алгоритма адаптивного диаграммообразования на ПЛИС // Моделирование, оптимизация и информационные технологии. 2023. Т. 11. № 1(40). С. 19–20. DOI:10.26102/2310–6018/2023.40.1.025. EDN:JMTNCV</mixed-citation><mixed-citation xml:lang="en">Glushankov E.I., Kirik D.I., Korovin K.O., Tsarik I.V., Boyko I.A., Kazmin O.Yu. Implementation of the adaptive beamforming algorithm on FPGA. Modeling, Optimization and Information Technology. 2023;11(1):19–20. (in Russ.) DOI:10.26102/2310-6018/2023.40.1.025. EDN:JMTNCV</mixed-citation></citation-alternatives></ref><ref id="cit4"><label>4</label><citation-alternatives><mixed-citation xml:lang="ru">Щедрин А.А., Бойко И.А. Использование фильтра Калмана с ограничениями в целях уменьшения чувствительности приемной адаптивной фазированной антенной решетки к углу прихода // Вестник СПбГУТ. 2024. Т. 2. № 4. С. 4. EDN:ENPYXH</mixed-citation><mixed-citation xml:lang="en">Shchedrin A., Boyko I. Using a Kalman Filter With Constraints to Reduce the Sensitivity of the Receiving Active Phased Array Antenna to the Angle. Herald of SPbSUT. 2024;2(4):4. (in Russ.) EDN:ENPYXH</mixed-citation></citation-alternatives></ref><ref id="cit5"><label>5</label><citation-alternatives><mixed-citation xml:lang="ru">Щедрин А.А., Бойко И.А., Глушанков Е.И. Исследование Калмановских алгоритмов фильтрации в целях адаптивного диаграммообразования // Научно-техническая конференция Санкт-Петербургского НТО РЭС им. А.С. Попова, посвященная Дню радио. 2024. № 1(79). С. 3–5. EDN:NHEOCZ</mixed-citation><mixed-citation xml:lang="en">Shchedrin A.A., Glushankov E.I., Boyko I.A. Researching Kalman filtering algorithms for adaptive generation of radiation pattern. Proceedings of the Scientific and Technical Conference of the St. Petersburg Scientific and Technical Association of Radio Electronics named after A.S. Popov, Dedicated to the Radio Day. 2024;1(79):3–5. (in Russ.) EDN:NHEOCZ</mixed-citation></citation-alternatives></ref><ref id="cit6"><label>6</label><citation-alternatives><mixed-citation xml:lang="ru">Shubber Z.A., Jamel T.M., Nahar A.K. Beamforming Array Antenna Technique Based on Partial Update Adaptive Algorithms // International Journal of Electrical and Computer Engineering Systems. 2023. Vol. 14. Iss. 8. PP. 821–831. DOI:10.32985/ijeces.14.8.1</mixed-citation><mixed-citation xml:lang="en">Shubber Z.A., Jamel T.M., Nahar A.K. Beamforming Array Antenna Technique Based on Partial Update Adaptive Algorithms. International Journal of Electrical and Computer Engineering Systems. 2023;14(8):821–831. DOI:10.32985/ijeces.14.8.1</mixed-citation></citation-alternatives></ref><ref id="cit7"><label>7</label><citation-alternatives><mixed-citation xml:lang="ru">Fu X.-Z, Liu Z., Hu S.-L., Liu Z.-K. Variable step-size LMS adaptive algorithm and its application in time delay estimation for low SNR // Journal of Central South University (Science and Technology). 2012. Vol. 43. Iss. 3. PP. 1010–1019.</mixed-citation><mixed-citation xml:lang="en">Fu X.-Z, Liu Z., Hu S.-L., Liu Z.-K. Variable step-size LMS adaptive algorithm and its application in time delay estimation for low SNR. Journal of Central South University (Science and Technology). 2012;43(3):1010–1019.</mixed-citation></citation-alternatives></ref><ref id="cit8"><label>8</label><citation-alternatives><mixed-citation xml:lang="ru">Bhotto M.Z.A., Bajić I.V. Constant Modulus Blind Adaptive Beamforming Based on Unscented Kalman Filtering // IEEE Signal Processing Letters. 2015. Vol. 22. Iss. 4. PP. 474–478. DOI:10.1109/LSP.2014.2362932</mixed-citation><mixed-citation xml:lang="en">Bhotto M.Z.A., Bajić I.V. Constant Modulus Blind Adaptive Beamforming Based on Unscented Kalman Filtering. IEEE Signal Processing Letters. 2015;22(4):474–478. DOI:10.1109/LSP.2014.2362932</mixed-citation></citation-alternatives></ref><ref id="cit9"><label>9</label><citation-alternatives><mixed-citation xml:lang="ru">Omgond P., Singh H. Constrained Kalman filter based interference suppression in phased arrays // Proceedings of the International Microwave and RF Conference (IMaRC, Bangalore, India, 15–17 December 2014). IEEE, 2014. PP. 286–289. DOI:10.1109/IMaRC.2014.7039029</mixed-citation><mixed-citation xml:lang="en">Omgond P., Singh H. Constrained Kalman filter based interference suppression in phased arrays. Proceedings of the International Microwave and RF Conference, IMaRC, 15–17 December 2014, Bangalore, India. IEEE; 2014. p.286–289. DOI:10.1109/IMaRC.2014.7039029</mixed-citation></citation-alternatives></ref><ref id="cit10"><label>10</label><citation-alternatives><mixed-citation xml:lang="ru">Рекомендация МСЭ-R P.681-11. Данные о распространении радиоволн, необходимые для проектирования систем сухопутной подвижной спутниковой службы. 2019.</mixed-citation><mixed-citation xml:lang="en">Rec. ITU-R P.681-11. Propagation data required for the design systems in the land mobile-satellite service. 2019.</mixed-citation></citation-alternatives></ref></ref-list><fn-group><fn fn-type="conflict"><p>The authors declare that there are no conflicts of interest present.</p></fn></fn-group></back></article>
