Duálna pamäť LSTM s neurónovou sieťou s dvojitou pozornosťou pre časopriestorovú predpoveď

Kontakt:joanna.jia@wecistanche.com/ WhatsApp: 008618081934791

Abstraktné

Časopriestorová predikcia je náročná z dôvodu neefektívnej extrakcie reprezentácií a nedostatku bohatých kontextových závislostí. Navrhuje sa nový prístup pre časopriestorovú predikciu pomocou duáluPamäťLSTM s neurónovou sieťou s dvojitou pozornosťou (DMANet). Navrhuje sa nová jednotka LSTM s duálnou pamäťou (DMLSTM) na extrahovanie reprezentácií využitím diferenciačných operácií medzi po sebe idúcimi obrázkami a prijatím duálnehoPamäťprechodový mechanizmus. Na plné využitie historických reprezentácií je navrhnutý mechanizmus dvojitej pozornosti na zachytenie dlhodobých časopriestorových závislostí výpočtom korelácií medzi aktuálne skrytými reprezentáciami a historickými skrytými reprezentáciami z časových a priestorových dimenzií. Potom je dvojitá pozornosť vložená do jednotky DMLSTM, aby sa vytvorila sieť DMANet, ktorá umožňuje modelu s väčšou schopnosťou modelovania pre krátkodobú dynamiku a dlhodobé kontextové reprezentácie. V tomto článku je navrhnutý súbor údajov mapy zdanlivého odporu (AR Map). Metóda B-spline interpolácie sa používa na vylepšenie súboru údajov AR Map a vytvára zrejmú spojitú deriváciu trendovej krivky odporu v časovej dimenzii. Experimentálne výsledky ukazujú, že vyvinutá metóda má vynikajúcu predikčnú výkonnosť porovnaním s niektorými najmodernejšími metódami.

Kľúčové slová: časopriestorová predpoveď; dvojakýPamäťLSTM; dvojitá pozornosť; historické reprezentácie

1. Úvod

Časopriestorová predikcia sa učí reprezentácie bez dozoru z neoznačených video údajov a používa ich na vykonanie predikčnej úlohy, čo je typická úloha počítačového videnia. V súčasnosti bola časopriestorová predikcia úspešne aplikovaná na niektoré úlohy, ako je predikcia budúcej polohy objektov [1,2], detekcia anomálií [3] a autonómne riadenie [4]. Modely založené na hlbokom učení prekonali tradičné prístupy, pretože sa naučili adekvátne reprezentácie z vysokorozmerných údajov. Metódy hlbokého učenia sa perfektne hodia do úlohy časopriestorovej predikcie, ktorá by mohla extrahovať časopriestorové korelácie z video údajov spôsobom pod vlastným dohľadom. Časopriestorová predikcia je však stále náročná úloha kvôli problému neefektívnej extrakcie reprezentácií a nedostatku dlhodobých závislostí. Napríklad konvolučný LSTM (ConvLSTM) [5] bol vyvinutý na ďalšie extrahovanie časových reprezentácií, ale ignoruje priestorové reprezentácie. Niektoré metódy [6,7] dosiahli presné výsledky predikcie, ale spôsobujú stratu reprezentácie. Metóda kontradiktórnosti bola aplikovaná v predikčných úlohách [8,9]. Sú však [8,9] výrazne závislé od nestabilného tréningového procesu.

1 Škola komunikačného a informačného inžinierstva, Shanghai University, Shanghai 200444, Čína

2 Kľúčové laboratórium pokročilého zobrazovania a systémových aplikácií, Ministerstvo školstva, Šanghaj 200072, Čína

Románový duálPamäťLSTM s neurónovou sieťou s dvojitou pozornosťou (DMANet) bola navrhnutá pre časopriestorovú predikciu v tomto článku na vyriešenie uvedených problémov. Pre DMANet bola vyvinutá jednotka s duálnou pamäťou LSTM (DMLSTM) založená na ConvLSTM [5] na vykonávanie časopriestorovej predikcie. Môže sa použiť na získanie reprezentácií pohybu vhodným odlíšením susedných skrytých stavov alebo nespracovaných obrázkov. Okrem toho má duálne pamäťové štruktúry na ukladanie priestorových informácií a časových informácií. Mechanizmus dvojitej pozornosti je navrhnutý a vložený do jednotky DMLSTM na extrahovanie dlhodobých závislostí funkcií z časových a priestorových rozmerov, čo umožňuje vyvinutému modelu zachytiť dlhšiu komplexnú dynamiku videa. V porovnaní s vyššie uvedenými metódami časopriestorovej predikcie sú hlavné prínosy tohto článku nasledovné. Po prvé, nová jednotka DMLSTM bola navrhnutá na vykonávanie reprezentácií extraktov, ktoré možno použiť na časopriestorovú predikciu využitím diferenciačných operácií medzi po sebe idúcimi obrázkami a prijatím dvojitéhoPamäťprechodový mechanizmus. Po druhé, je vyvinutý mechanizmus dvojitej pozornosti na získanie dlhodobých rámcových interakcií. Dlhodobé rámcové interakcie sú zachytené výpočtom korelácie medzi aktuálne skrytými reprezentáciami a historickými skrytými reprezentáciami z časovej a priestorovej dimenzie. Napokon dôležitým príspevkom je, že DMANet spája obe výhody. Takýto architektonický dizajn umožňuje modelu s väčšou schopnosťou modelovania pre krátkodobú dynamiku a dlhodobé kontextové reprezentácie. Navrhovaná metóda je hodnotená na niektorých náročných súboroch údajov s rôznymi metódami. V porovnaní s niektorými najmodernejšími metódami dosahuje vynikajúci výkon. Experimentálne výsledky ukazujú, že navrhovaná metóda má vynikajúcu časopriestorovú predikčnú výkonnosť.

cistanche benefityvPamäť

Zvyšok tohto článku je usporiadaný nasledovne. Súvisiace práce sú uvedené v časti 2. DuálPamäťLSTM s mechanizmom dvojitej pozornosti je opísaný v časti 3. Experimentálne výsledky a analýzy sú diskutované v časti 4 a po nich nasledujú závery v časti 5.

2. Literatúra

Počas posledného desaťročia bolo navrhnutých mnoho metód na časopriestorovú predikciu. Rekurentná neurónová sieť (RNN) [10] s dlhodobým krátkodobýmPamäť(LSTM) [11] sa čoraz viac používa na predikčné úlohy kvôli jeho schopnostiam učiť sa reprezentácie video sekvencie. V posledných rokoch bol rámec LSTM založený na modeli sekvencie k sekvencii [12] prispôsobený predikcii videa. Presnosť predikcie je však obmedzená vzhľadom na skutočnosť, že tieto rámcové metódy [12] zachytávajú iba časové variácie. Aby bolo možné ďalej extrahovať obrazové reprezentácie, ConvLSTM [5] nahrádza plne prepojené operácie konvolučnými operáciami v opakujúcich sa prechodoch stavov. Navrhuje sa rámec založený na hlbokom učení [13] na rekonštrukciu chýbajúcich údajov na uľahčenie analýzy pomocou časopriestorových radov. Zvýši to však dodatočné výpočtové náklady a zníži efektivitu predikcie. V [14] je predstavená bijektívna hradlová rekurentná jednotka, ktorá v niektorých prípadoch využíva rekurentné automatické kódovače na predpovedanie nasledujúceho rámca. Pre časopriestorovú predikciu je navrhnutá metóda s viacerými výstupmi a viacerými indexmi kontrolovaného učenia [15] s LSTM [11], ktorá dokáže modelovať dlhodobú dynamiku. V snahe o zmiernenie miznutia gradientu, konvolučný LSTM rozšírený o [6,7] zavádza cikcak pamäťový tok a gradientovú diaľničnú jednotku (GHU). Na zlepšenie schopnosti predpovedania sa použila aktualizovaná metóda založená na hlbokom učení. Verzia ASAP nazývaná "ASAP deep system" je navrhnutá v [16]. Algoritmy optického deformovania toku a syntézy pixelov RGB [17] sa využívajú na vykonávanie časopriestorovej predikcie. Pre úlohy predikcie v [18] je navrhnutá sieť pamäte v pamäti (MIM). Jeho rozdiel od vyššie uvedených rekurentných modelov je v tom, že MIM [18] sa aplikuje na rozdiel v pamäťových prechodoch na transformáciu časovo premenného polynómu na konštantu, čo umožňuje predvídateľnosť deterministickej zložky. Tieto metódy [14–18] sú však stále náročné na vykonanie dlhodobej predikcie, pretože nadmerné prechody hradlov by spôsobili stratu reprezentácií.

výhody cistanche deserticolavPamäť

Okrem rekurentných modelov sa na časopriestorovú predikciu používajú aj iné modely. Retrospekčná sieť je navrhnutá v [19], ktorá zavádza retrospekčnú stratu, aby posunula retrospekčné snímky tak, aby boli konzistentné s pozorovanými snímkami. Na zvládnutie nerovnováhy v údajoch je v [20] vyvinutý algoritmus čistenia okolia. Náhodný lesný algoritmus extrahuje optimálne vlastnosti na vykonanie úlohy predikcie. Na extrakciu nelineárnych dynamických vlastností v [21] je použitý variačný autokóder. Tento model analyzuje korelácie medzi premennými a vzťahy medzi historickými vzorkami a súčasnými vzorkami. Modul so širokou pozornosťou a modul s hlbokým zložením sú použité v [22] na extrakciu globálnych kľúčových funkcií a miestnych kľúčových funkcií. Tieto metódy [19–22] však do určitej miery závisia od lokálnych reprezentácií, ktoré nedokážu dosiahnuť vynikajúci výkon pri predikčných úlohách. Umelá neurónová sieť [23] bola navrhnutá na modelovanie jedinečných vlastností časopriestorových dát a odvodzuje výkonnejšiu schopnosť modelovania časopriestorových dát. Časopriestorový predikčný systém [24] bol vyvinutý s cieľom zamerať sa na priestorové modelovanie a rekonštrukciu kompletného časopriestorového signálu. Táto metóda ukazuje efektívnosť modelovania koherentných časopriestorových polí. Zmiešaná neurónová sieť bola navrhnutá na modelovanie dynamického vzoru a učenie sa reprezentácií vzhľadu na základe daných video snímok v [25]. 3D CNN sa používa v RNN v [26], čo rozširuje reprezentácie v časovej dimenzii a robíPamäťjednotkový obchod lepšie dlhodobé reprezentácie. Konvolučné operácie [24–26] však zodpovedajú za závislosti medzi snímkami na krátke vzdialenosti v dôsledku ich obmedzených receptívnych polí a nedostatku explicitných možností modelovania medzi snímkami. Ďalším prístupom k časopriestorovej predikcii sú generatívne kontradiktórne siete [8]. Metóda podmieneného variačného autokódera bola navrhnutá v [9] vytváraním budúcich ľudských trajektórií podmienených predchádzajúcimi pozorovaniami a budúcimi činnosťami robotov. Predikčné metódy [8,9] sa zameriavajú na generovanie menej rozmazaných snímok, ale ich výkonnosť výrazne závisí od nestabilného tréningového procesu.

Mechanizmus sebapozorovania je navrhnutý v [27], ktorý možno použiť na zachytenie závislostí na veľké vzdialenosti a ukázal sa ako účinný pri agregácii významných znakov medzi všetkými priestorovými polohami v úlohách počítačového videnia [28–30]. V [28] je navrhnutý dvojitý blok pozornosti, ktorý spája vlastnosti celého priestoru do kompaktného súboru a následne adaptívne vyberá a prideľuje prvky každému miestu. Aby sa kontextové informácie využili efektívnejšie, krížová sieť [29] zaviedla modul krížovej pozornosti na získanie kontextových informácií o všetkých pixeloch, čo je užitočné pri problémoch s vizuálnym porozumením. Okrem toho, na rozdiel od viacrozmerných metód fúzie funkcií, sa navrhuje sieť s dvojitou pozornosťou [30], ktorá adaptívne kombinuje lokálne vlastnosti s globálnymi závislosťami. Nemožno ich však použiť na riešenie predikčných úloh kvôli nedostatku časopriestorových závislostí.

Stručne povedané, predchádzajúce predikčné modely prinášajú rôzne nevýhody. Na rozdiel od predchádzajúcej práce navrhujeme nový variant ConvLSTM [5] na ukladanie stavových reprezentácií a rozšírenie mechanizmu pozornosti v úlohe časopriestorovej predikcie. Táto architektúra zachytáva bohaté kontextové vzťahy pre lepšiu reprezentáciu funkcií s kompaktnosťou v rámci triedy.

V tabuľke 1 sú uvedené skratky použité v príspevku s definíciou pojmu.

3. Neurónová sieť DMA

Vývojový diagram DMANet je znázornený na obrázku 1. Reprezentácie sú extrahované z DMANet vzhľadom na vstupné rámce. Reprezentácie označujú výsledky predikcie a môžu sa použiť na predpovedanie ďalších reprezentácií.

V tejto časti budú uvedené podrobnosti o DMANet. Po prvé, nová jednotka DMLSTM je predstavená v časti 3.1. Potom je v sekcii 3.2 navrhnutý mechanizmus dvojitej pozornosti, ktorý umožňuje modelu využívať predchádzajúce relevantné reprezentácie. Nakoniec sa agregujú, aby vytvorili DMANet pre časopriestorovú predikciu, ktorá je podrobne popísaná v časti 3.3.

3.1.Duálna pamäť LSTM

Je osvetlený PredRNN plus plus [7], ktorý pridáva viac nelineárnych vrstiev na zvýšenie hĺbky siete a posilnenie schopnosti modelovania priestorových korelácií a časovej dynamiky. Problém šírenia gradientu je však s narastajúcou hĺbkou siete čoraz ťažší, aj keď ho GHU [7] v obmedzenej miere zmierňuje. Niektoré práce [6,7,14] nefungujú dobre pri extrakcii reprezentácií časopriestorových sekvencií cez nadmerné prechody hradlov, pretože môžu nevyhnutne spôsobiť stratu reprezentácií. Preto môžu byť priestorové závislosti dlhého dosahu zachytené vrstvenými konvolučnými vrstvami. Efektívnosť schopnosti modelovania časopriestorovej dynamiky je však obmedzená z dôvodu zložitého prechodu z lavoru na vrstvu.

Nová opakujúca sa jednotka s názvom DMLSTM je vyvinutá na vykonávanie časopriestorovej predikcie, aby sa prekonali vyššie uvedené obmedzenia, ako je znázornené na obrázku 2. Po prvé, je pridaná ďalšia pamäťová jednotka založená na ConvLSTM[5]; táto jednotka sa používa na ukladanie priestorových stavov, čo jednotke umožňuje naučiť sa viac časopriestorových reprezentácií. Nový prechodový mechanizmus je navrhnutý odstránením redundantných hradlových štruktúr, ako sú vstupné brány. Rôzne nelineárne štruktúry by stratili výkonné interné reprezentácie v predikcii na úrovni pixelov. Na druhej strane, na zachytenie reprezentácií pohybujúcich sa objektov boli efektívne aplikované operácie na rozlíšenie zobrazení. Preto sa rozlišovanie môže použiť na predikčné úlohy na doplnenie detailov reprezentácie pohyblivých objektov. V jednotke DMLSTM je diferenciačná operácia vyvinutá na získanie reprezentácií pohybu diferencovaním susedných skrytých stavov alebo nespracovaných obrázkov, vďaka čomu má jednotka výkonnejšiu schopnosť modelovania časopriestorovej dynamiky.

3.2. Mechanizmus dvojitej pozornosti

Časopriestorová predikcia môže predpovedať budúce snímky pozorovaním predchádzajúcich zobrazení. Predikčný model by sa však mal viac zamerať na historické reprezentácie, ktoré súvisia s predpovedaným obsahom. Mechanizmus pozornosti [27] dokáže zachytiť dlhodobé závislosti medzi lokálnymi a globálnymi reprezentáciami v niektorých praktických úlohách [32,33]. Časopriestorová predikcia je navyše náročná kvôli komplexnej dynamike a zmenám vzhľadu, ktoré si vyžadujú závislosti od časových aj priestorových domén. Navrhuje sa nový variant mechanizmu pozornosti s názvom mechanizmus dvojitej pozornosti. Táto architektúra zachytáva dlhodobú časopriestorovú interakciu z časových a priestorových dimenzií a následne sa získané reprezentácie agregujú pre budúcu predikciu.

cistanche na predajv pamäti

Modul dvojitej pozornosti je znázornený na obrázku 3 vrátane súčasných skrytých stavov Ht ∈ RH × W × C a historických {H1 . . . Ht−1} ∈ Rn × H × W × C, kde H a W sú priestorové veľkosti, C je počet kanálov a n označuje počet skrytých zobrazení, ktoré sú zreťazené pozdĺž časovej dimenzie, resp.

4. Závery

V tomto článku bol navrhnutý DMANet pre časopriestorovú predikciu. Jednotka DML-STM sa používa na efektívne extrahovanie reprezentácií využívaním rozlišovacích operácií medzi po sebe idúcimi obrázkami a prijatím mechanizmu duálneho prechodu pamäte. Mechanizmus duálnej pozornosti je navrhnutý tak, aby zachytával dlhodobé časopriestorové závislosti výpočtom korelácií medzi aktuálne skrytými reprezentáciami a historickými skrytými reprezentáciami z časových a priestorových dimenzií. DMANet kombinuje výhody a takýto architektonický dizajn umožňuje modelu s väčšou schopnosťou modelovania pre krátkodobú dynamiku a dlhodobé kontextové reprezentácie. Experimentálne výsledky ukazujú, že naša metóda má vynikajúci výkon v časopriestorovej predikcii.

kde kúpiť cistanche na pamiatku

Časopriestorová predikcia je sľubnou cestou pre samoobslužné učenie bohatých časopriestorových korelácií. Pre budúcu prácu budeme skúmať, ako oddeliť pohybujúce sa objekty od pozadia a venovať väčšiu pozornosť pohybujúcim sa objektom., Pokúsime sa tiež vybudovať systém zdanlivého odporu na ochranu čínskych jaskýň pred vodou.

Referencie

1. Yao, Y.; Atkins, E.; Johnson-Roberson, M.; Vasudevan, R.; Du, X. Bitrap: Predikcia obojsmernej trajektórie chodca s multimodálnym odhadom cieľa. Robot IEEE. Autom. Lett. 2021, 2, 1463–1470. [CrossRef]

2. Pieseň, Z.; Sui, H.; Li, H. Hierarchická metóda detekcie objektov vo veľkom meradle satelitných snímok optického diaľkového snímania pomocou detekcie význačnosti a CNN. Int. J. Remote Sens. 2021, 42, 2827–2847. [CrossRef]

3. Li, Y.; Cai, Y.; Li, J.; Lang, S.; Zhang, X. Sieťovanie priestorovo-časovej jednoty na detekciu anomálií videa. IEEE Access 2019, 1, 172425–172432. [CrossRef]

4. Yurtsever, E.; Lambert, J.; Carballo, A.; Takeda, K. Prieskum autonómneho riadenia: Bežné postupy a vznikajúce technológie. IEEE Access 2020, 8, 58443–58469. [CrossRef]

5. Shi, X.; Chen, Z.; Wang, H.; Yeung, DY Convolutional LSTM network: Prístup strojového učenia pre zrážkový nowcasting. In Proceedings of the 29th Conference on Neural Information Processing Systems, Montreal, QC, Canada, 7. – 12. June 2015; s. 802–810.

6. Wang, Y.; Li, M.; Wang, J.; Gao, Z.; Yu, P. PredRNN: Rekurentné neurónové siete pre prediktívne učenie pomocou časopriestorových LSTM. In Proceedings of the 31st Conference on Neural Information Processing Systems, Long Beach, BC, Kanada, 4. – 9. decembra 2017; s. 879–888.

7. Wang, Y.; Gao, Z.; Long, M.; Wang, J.; Yu, P. PredRNN plus plus: Smerom k riešeniu hlbokej dilemy v časopriestorovom prediktívnom učení. In Proceedings of the 35th International Conference on Machine Learning, Stockholm, Sweden, 10-15 April 2019; s. 5123–5132.

8. Goodfellow, IJ; Pouget-Abadie, J.; Mirza, M.; Xu, B.; Warde-Farley, D. Generatívne adversariálne siete. In Proceedings of the 28th Conference on Neural Information Processing Systems, Montreal, QC, Canada, 8. – 13. december 2014; s. 2672–2680.

9. Ivanovič, B.; Karen, L.; Edward, S.; Pavone, M. Multimodálne hlboké generatívne modely pre predikciu trajektórie: podmienený variačný autoenkódovací prístup. Robot IEEE. Autom. Lett. 2021, 2, 295–302. [CrossRef]

10. Rumelhart, D.; Hinton, G.; Williams, R. Učenie reprezentácií spätným šírením chýb. Príroda 1986, 1, 533–536. [CrossRef]

11. Hochreiter, S.; Schmidhuber, J. Dlhodobá krátkodobá pamäť. Neurónový počítač. 1997, 8, 1735–1780. [CrossRef]

12. Sutskever, I.; Vinyals, O.; Le, Q. Sekvenčné učenie s neurónovými sieťami. In Proceedings of the Advances in Neural Information Processing Systems, Montreal, QC, Kanada, 8. – 13. decembra 2014; s. 3104–3112.

13. Das, M.; Ghosh, S. Prognostický súbor založený na hlbokom učení na predpovedanie chýbajúcich údajov pre analýzu diaľkového snímania. IEEE J. Sel. Hore. Appl. Earth Observ. Remote Sens. 2017, 12, 5228–5236. [CrossRef]

14. Oliu, M.; Selva, J.; Escalera, S. Skladané rekurentné neurónové siete pre budúcu predikciu videa. In Zborník z 15. európskej konferencie o počítačovom videní, Mníchov, Nemecko, 8. – 14. decembra 2018; s. 716–731.

15. Seng, D.; Zhang, Q.; Zhang, X.; Chen, G.; Chen, X. Časopriestorová predikcia kvality ovzdušia na základe neurónovej siete LSTM. Alex. Ing. J. 2021, 60, 2021–2032. [CrossRef]

16. Abed, A.; Ramin, Q.; Abed, A. Automatizovaná predpoveď slnečných erupcií zo snímok SDO pomocou hlbokého učenia. Adv. Space Res. 2021, 67, 2544–2557. [CrossRef]

17. Li, S.; Fang, J.; Xu, H.; Xue, J. Predikcia snímok videa pomocou hlbokej siete s viacerými vetvami. IEEE Trans. Circuits Syst. Video Technol. 2020, 4, 1–12. [CrossRef]

18. Wang, Y.; Zhang, J.; Zhu, H.; Long, M.; Wang, J.; Yu, P. Pamäť v pamäti: Prediktívna neurónová sieť na učenie sa nestacionárnosti vyššieho rádu z časopriestorovej dynamiky. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Long Beach, BC, Canada, 16-20 June 2020; s. 9146–9154.

19. Chen, X.; Xu, C; Yang, X.; Yang, X.; Tao, D. Dlhodobá predikcia videa prostredníctvom kritiky a retrospekcie. IEEE Trans. Obrazový proces. 2020, 29, 7090–7103. [CrossRef]

20. Neda, E.; Reza, F. AptaNet ako prístup hlbokého učenia pre predikciu interakcie aptamér-proteín. Sci. Re. 2021, 11, 6074–6093.

21. Shen, B.; Ge, Z. Vážený nelineárny dynamický systém pre hĺbkovú extrakciu nelineárnych dynamických latentných premenných a priemyselné aplikácie. IEEE Trans. Ind. Inform. 2021, 5, 3090–3098. [CrossRef]

22. Zhou, J.; Dai, H.; Wang, H.; Wang, T. Wide-attention and deep-composited model for traffic flow forecast in traffic cyber-physical systems. IEEE Trans. Ind. Inform. 2021, 17, 3431–3440. [CrossRef]

23. Patil, K.; Deo, M. Predpoveď povrchovej teploty mora na úrovni panvy s umelými neurónovými sieťami. J. Atmos. oceán. Technol. 2018, 7, 1441–1455. [CrossRef]

24. Amato, F.; Guinard, F.; Robert, S.; Kanevski, M. Nový rámec pre časopriestorovú predikciu environmentálnych údajov pomocou hlbokého učenia. Sci. Rep. 2020, 10, 22243–22254. [CrossRef]

25. Yan, J.; Qin, G.; Zhao, R.; Liang, Y.; Xu, Q. Mixpred: Video predikcia mimo optického toku. IEEE Access 2019, 1, 185654–185665. [CrossRef]

26. Wang, Y.; Jiang, L.; Yang, M.; Li, L.; Long, M.; Li, F. Eidetic 3D LSTM: Model pre predikciu videa a ďalšie. In Proceedings of the International Conference on Learning Representations, New Orleans, LA, USA, 6. – 9. May 2019; s. 1–14.

27. Vaswani, A.; Shazier, N.; Parmar, N.; Uszkoreit, J.; Jones, L. Pozornosť je všetko, čo potrebujete. In Proceedings of the 31st Conference on Neural Information Processing Systems, Long Beach, BC, Kanada, 4. – 9. decembra 2017; s. 5998–6008.

28. Chen, Y.; Kalantidis, Y.; Li, J.; Feng, J. Siete A2: Siete dvojitej pozornosti. In Proceedings of the 32nd Conference on Neural Information Processing Systems, Montreal, QC, Canada, 2. – 8. december 2018; s. 352–361.

29. Huang, Z.; Wang, X.; Wei, Y.; Huang, L.; Shi, H. Ccnet: Krížová pozornosť pre sémantickú segmentáciu. IEEE Trans. Pattern Anal. Mach. Intell. 2020, 1, 1–11. [CrossRef]

30. Fu, J.; Liu, J.; Tian, ​​H.; Li, Y. Sieť dvojitej pozornosti pre segmentáciu scény. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Long Beach, BC, Canada, 16. – 20 June 2019; s. 3146–3154.

31. Wang, Z.; Bovik, A.; Sheikh, H. Hodnotenie kvality obrazu: Od viditeľnosti chyby po štrukturálnu podobnosť. IEEE Trans. Obrazový proces. 2004, 4, 600-612. [CrossRef]

32. Liu, Q.; Lu, S.; Lan, L. Yolov3 detektor pozornosti tváre s vysokou presnosťou a účinnosťou. Comp. Syst. Sci. Ing. 2021, 37, 283–295.

33. Li, X.; Xu, F.; Xin, L. Hlboká fúzia sémantických segmentačných sietí s duálnou pozornosťou veľkých satelitných snímok diaľkového snímania. Int. J. Remote Sens. 2021, 42, 3583–3610. [CrossRef]

34. Srivastava, N.; Mansimov, E.; Salakhutdinov, R. Učenie video reprezentácií pomocou LSTM bez dozoru. In Zborník z 32. medzinárodnej konferencie o strojovom učení, Lille, Francúzsko, 6. – 11. júna 2015; s. 843–852.

35. Geiger, A.; Lenz, P.; Stiller, C.; Urtasun, R. Vision meets robotics: The KITTI dataset. Int. J. Robot. Res. 2013, 32, 1231–1237. [CrossRef]

36. Dolár, P.; Wojek, C.; Schiele, B.; Perona, P. Detekcia chodcov: benchmark. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Miami, FL, USA, 20-25 June 2009; s. 304–311.

37. Liu, J.; Jin, B.; Yang, J.; Xu, L. Predikcia teploty povrchu mora pomocou kubickej B-spline interpolácie a mechanizmu časopriestorovej pozornosti. Remote Sens. Lett. 2021, 12, 12478–12487. [CrossRef]