Abstract
<jats:p>У даній роботі досліджено доцільність використання просторових трансформерних механізмів у задачі нейромережевої класифікації сільськогосподарських угідь на основі мультичасових супутникових даних Sentinel-1 та Sentinel-2. Запропоновано вдосконалення існуючої інформаційної технології шляхом поєднання часової уваги для адаптивної агрегації багаточасових спостережень із просторовим трансформерним модулем, призначеним для моделювання глобальних просторових залежностей у картах ознак. Існуюча інформаційна технологія передбачає використання нейронної мережі з архітектурою U-Net з енкодером EfficientNetV2-L, попередньо навченої на датасеті ImageNet-21k, із застосуванням механізмів уваги, що агрегують часові ознаки у процесі обробки багатоспектральних і радарних знімків. У роботі розглянуто декілька варіантів інтеграції часової та просторової уваги: послідовні схеми (із розміщенням трансформера до або після механізму часової агрегації) та паралельні схеми з різними способами об’єднання ознак (конкатенація з 1 × 1 проєкцією, шлюзоване адитивне злиття та зважене сумування). Експериментальні дослідження проведено на вибірці, що охоплює понад 90 тис. земельних ділянок у регіоні Берлін-Бранденбург (Німеччина), із поділом на орні та неорні землі, що забезпечує репрезентативність отриманих результатів. Отримані результати свідчать, що використання просторового трансформера не завжди призводить до підвищення точності класифікації. Найкращий показник досягнуто у варіанті з включенням трансформера перед механізмом часової уваги, тоді як інші схеми інтеграції демонструють зниження якості. Це вказує на необхідність доцільного та контекстно обґрунтованого використання трансформерних механізмів у задачах класифікації сільськогосподарських угідь, де домінують локальні текстурні та спектральні ознаки.</jats:p>