Dual Memory LSTM mit Dual Attention Neural Network für räumlich-zeitliche Vorhersage

Kontakt:joanna.jia@wecistanche.com/ WhatsApp: 008618081934791

Abstrakt

Die raumzeitliche Vorhersage ist eine Herausforderung, da das Extrahieren von Repräsentationen ineffizient ist und keine reichen Kontextabhängigkeiten vorhanden sind. Ein neuartiger Ansatz wird für die raumzeitliche Vorhersage unter Verwendung eines Duals vorgeschlagenErinnerungLSTM mit Dual Attention Neural Network (DMANet). Eine neue duale Speicher-LSTM-Einheit (DMLSTM) wird vorgeschlagen, um die Darstellungen zu extrahieren, indem Differenzierungsoperationen zwischen den aufeinanderfolgenden Bildern genutzt und ein Dual angenommen werdenErinnerungÜbergangsmechanismus. Um historische Repräsentationen voll auszunutzen, ist ein doppelter Aufmerksamkeitsmechanismus entworfen, um langfristige räumlich-zeitliche Abhängigkeiten zu erfassen, indem die Korrelationen zwischen den gegenwärtig verborgenen Repräsentationen und den historischen verborgenen Repräsentationen aus zeitlichen bzw. räumlichen Dimensionen berechnet werden. Dann wird die doppelte Aufmerksamkeit in die DMLSTM-Einheit eingebettet, um ein DMANet zu konstruieren, das dem Modell eine größere Modellierungsleistung für kurzfristige Dynamiken und langfristige kontextbezogene Darstellungen ermöglicht. In diesem Dokument wird ein Datensatz mit einer scheinbaren Widerstandskarte (AR Map) vorgeschlagen. Das B-Spline-Interpolationsverfahren wird verwendet, um den AR-Map-Datensatz zu verbessern, und macht eine offensichtliche Trendkurve des spezifischen Widerstands zu einer kontinuierlichen Ableitung in der Zeitdimension. Die experimentellen Ergebnisse zeigen, dass die entwickelte Methode im Vergleich zu einigen Methoden nach dem Stand der Technik eine hervorragende Vorhersageleistung aufweist.

Schlüsselwörter: raumzeitliche Vorhersage; DualErinnerungLSTM; doppelte Aufmerksamkeit; historische Darstellungen

1. Einleitung

Bei der räumlich-zeitlichen Vorhersage lernt man Darstellungen auf unüberwachte Weise aus unbeschrifteten Videodaten und verwendet sie, um eine Vorhersageaufgabe auszuführen, die eine typische Computer-Vision-Aufgabe ist. Derzeit wurde die raumzeitliche Vorhersage erfolgreich auf einige Aufgaben angewendet, wie z. B. die zukünftige Vorhersage von Objektstandorten [1,2], Anomalieerkennung [3] und autonomes Fahren [4]. Auf Deep Learning basierende Modelle machen einen Sprung über die traditionellen Ansätze, weil sie angemessene Darstellungen aus hochdimensionalen Daten gelernt haben. Deep-Learning-Methoden passen perfekt in die raumzeitliche Vorhersageaufgabe, die selbstüberwacht raumzeitliche Korrelationen aus Videodaten extrahieren könnte. Die raumzeitliche Vorhersage ist jedoch aufgrund des Problems der ineffizienten Extraktion von Repräsentationen und des Fehlens langfristiger Abhängigkeiten immer noch eine herausfordernde Aufgabe. Zum Beispiel wurde Convolutional LSTM (ConvLSTM) [5] entwickelt, um zeitliche Repräsentationen weiter zu extrahieren, aber es ignoriert räumliche Repräsentationen. Einige Methoden [6,7] haben genaue Vorhersageergebnisse erzielt, aber sie verursachen Repräsentationsverluste. Die Methode des Kontradiktors wurde in Vorhersageaufgaben angewendet [8,9]. Sie [8,9] sind jedoch maßgeblich vom instabilen Trainingsprozess abhängig.

1 School of Communication and Information Engineering, Universität Shanghai, Shanghai 200444, China

2 Key Laboratory of Advanced Display and System Application, Bildungsministerium, Shanghai 200072, China

Ein neuartiges DualErinnerungLSTM mit Dual Attention Neural Network (DMANet) wurde in diesem Artikel für die raumzeitliche Vorhersage vorgeschlagen, um die genannten Probleme zu lösen. Für DMANet wurde eine Dual Memory LSTM (DMLSTM)-Einheit entwickelt, die auf ConvLSTM [5] basiert, um raumzeitliche Vorhersagen durchzuführen. Es kann angewendet werden, um Bewegungsdarstellungen zu erhalten, indem benachbarte verborgene Zustände oder Rohbilder angemessen unterschieden werden. Außerdem hat es duale Speicherstrukturen, um räumliche Informationen und zeitliche Informationen zu speichern. Ein doppelter Aufmerksamkeitsmechanismus wird vorgeschlagen und in die DMLSTM-Einheit eingebettet, um langfristige Merkmalsabhängigkeiten aus zeitlichen bzw. räumlichen Dimensionen zu extrahieren, was es dem entwickelten Modell ermöglicht, längere komplexe Videodynamiken zu erfassen. Verglichen mit den obigen raumzeitlichen Vorhersagemethoden sind die Hauptbeiträge dieses Papiers wie folgt. Erstens wurde eine neuartige DMLSTM-Einheit vorgeschlagen, um Extraktdarstellungen durchzuführen, die für die raumzeitliche Vorhersage angewendet werden können, indem Differenzierungsoperationen zwischen den aufeinanderfolgenden Bildern genutzt und ein Dual angenommen werdenErinnerungÜbergangsmechanismus. Zweitens wird ein doppelter Aufmerksamkeitsmechanismus entwickelt, um die langfristigen Frame-Interaktionen zu erhalten. Die langfristigen Frame-Wechselwirkungen werden erfasst, indem die Korrelation zwischen den aktuell verborgenen Repräsentationen und den historischen verborgenen Repräsentationen aus den zeitlichen bzw. räumlichen Dimensionen berechnet wird. Ein wichtiger Beitrag schließlich ist, dass das DMANet beide Vorteile vereint. Ein solches architektonisches Design ermöglicht dem Modell eine größere Modellierungsleistung für kurzfristige Dynamiken und langfristige kontextbezogene Darstellungen. Die vorgeschlagene Methode wird an einigen anspruchsvollen Datensätzen mit unterschiedlichen Methoden evaluiert. Es erreicht im Vergleich zu einigen hochmodernen Methoden eine hervorragende Leistung. Die experimentellen Ergebnisse zeigen, dass das vorgeschlagene Verfahren eine hervorragende raumzeitliche Vorhersageleistung aufweist.

Cistanche-VorteileinErinnerung

Der Rest dieses Artikels ist wie folgt organisiert. Verwandte Arbeiten werden in Abschnitt 2 besprochen. Das DualErinnerungLSTM mit doppeltem Aufmerksamkeitsmechanismus wird in Abschnitt 3 beschrieben. Experimentelle Ergebnisse und Analysen werden in Abschnitt 4 diskutiert, gefolgt von Schlussfolgerungen in Abschnitt 5.

2. Literaturübersicht

In den letzten zehn Jahren wurden viele Methoden zur raumzeitlichen Vorhersage vorgeschlagen. Recurrent Neural Network (RNN) [10] mit der langen KurzzeitErinnerung(LSTM) [11] wird aufgrund seiner Fähigkeit, Repräsentationen einer Videosequenz zu lernen, zunehmend auf Vorhersageaufgaben angewendet. In den letzten Jahren wurde das LSTM-Framework basierend auf einem Sequenz-zu-Sequenz-Modell [12] an die Videovorhersage angepasst. Dennoch ist die Genauigkeit der Vorhersage begrenzt, da diese Rahmenmethoden [12] nur zeitliche Variationen erfassen. Um Videodarstellungen weiter zu extrahieren, ersetzt ConvLSTM [5] vollständig verbundene Operationen durch Faltungsoperationen in wiederkehrenden Zustandsübergängen. Ein Deep-Learning-basiertes Framework [13] wird vorgeschlagen, um die fehlenden Daten zu rekonstruieren, um die Analyse mit raumzeitlichen Reihen zu erleichtern. Dies wird jedoch die zusätzlichen Rechenkosten erhöhen und die Vorhersageeffizienz verringern. Die bijektive gated recurrent unit wird in [14] eingeführt, die rekurrente Auto-Encoder ausnutzt, um in einigen Fällen den nächsten Frame vorherzusagen. Eine Multi-Output- und Multi-Index-Methode des überwachten Lernens [15] mit LSTM [11] wird für die raumzeitliche Vorhersage vorgeschlagen, die die Langzeitdynamik modellieren kann. Um das Verschwinden des Gradienten zu verringern, führt das um [6,7] erweiterte Convolutional LSTM einen Zickzack-Speicherfluss und eine Gradientenautobahneinheit (GHU) ein. Zur Verbesserung der Vorhersagefähigkeit wurde eine aktualisierte, auf Deep Learning basierende Methode verwendet. Eine Version von ASAP namens "ASAP Deep System" wird in [16] vorgeschlagen. Optical Flow Warping und RGB-Pixel-Synthesealgorithmen [17] wurden ausgenutzt, um eine raumzeitliche Vorhersage durchzuführen. Für die Vorhersageaufgaben wird in [18] ein Memory-in-Memory-Netzwerk (MIM) vorgeschlagen. Sein Unterschied zu den oben erwähnten wiederkehrenden Modellen besteht darin, dass MIM [18] auf Unterschiede in Speicherübergängen anwendet, um das zeitvariable Polynom in eine Konstante umzuwandeln, wodurch die deterministische Komponente vorhersagbar wird. Diese Methoden [14–18] sind jedoch immer noch eine Herausforderung, um eine Langzeitvorhersage durchzuführen, da übermäßige Gate-Übergänge den Verlust von Repräsentationen verursachen würden.

Cistanche Deserticola VorteileinErinnerung

Neben den rekurrenten Modellen werden auch andere Modelle zur raumzeitlichen Vorhersage eingesetzt. Ein Retrospektivnetzwerk wird in [19] vorgeschlagen, das einen Retrospektivverlust einführt, um die Retrospektivframes dazu zu bringen, mit den beobachteten Frames konsistent zu sein. Um das Ungleichgewicht in den Daten zu handhaben, wird in [20] ein Nachbarschaftsreinigungsalgorithmus entwickelt. Ein Random-Forest-Algorithmus extrahiert die optimalen Merkmale, um die Vorhersageaufgabe auszuführen. In [21] wird ein Variations-Autoencoder verwendet, um nichtlineare dynamische Merkmale zu extrahieren. Dieses Modell analysiert die Korrelationen zwischen Variablen und die Beziehungen zwischen historischen Proben und aktuellen Proben. Ein Wide-Attention-Modul und das Deep-Composite-Modul werden in [22] verwendet, um globale Schlüsselmerkmale und lokale Schlüsselmerkmale zu extrahieren. Diese Methoden [19–22] hängen jedoch bis zu einem gewissen Grad von lokalen Repräsentationen ab, die bei Vorhersageaufgaben keine hervorragende Leistung erbringen können. Ein künstliches neuronales Netzwerk [23] wurde vorgeschlagen, um die einzigartigen Eigenschaften raumzeitlicher Daten zu modellieren und eine leistungsfähigere Modellierungsfähigkeit für raumzeitliche Daten abzuleiten. Ein räumlich-zeitliches Vorhersagesystem [24] wurde entwickelt, um sich auf die räumliche Modellierung und Rekonstruktion des vollständigen räumlich-zeitlichen Signals zu konzentrieren. Dieses Verfahren zeigt die Effektivität der Modellierung kohärenter räumlich-zeitlicher Felder. Das gemischte neuronale Netzwerk wurde in [25] vorgeschlagen, um das dynamische Muster zu modellieren und Erscheinungsdarstellungen basierend auf gegebenen Videobildern zu lernen. Ein 3D-CNN wird in RNN in [26] verwendet, das Darstellungen in der zeitlichen Dimension erweitert und dieErinnerungUnit Store bessere langfristige Darstellungen. Faltungsoperationen [24–26] berücksichtigen jedoch kurzreichweitige Intraframe-Abhängigkeiten aufgrund ihrer begrenzten Empfangsfelder und des Mangels an expliziten Interframe-Modellierungsfunktionen. Generative Adversarial Networks [8] sind ein weiterer Ansatz zur raumzeitlichen Vorhersage. Ein bedingtes Variations-Autoencoder-Verfahren wurde in [9] vorgeschlagen, indem zukünftige menschliche Trajektorien erzeugt werden, die auf früheren Beobachtungen und zukünftigen Roboteraktionen beruhen. Die Vorhersagemethoden [8,9] zielen darauf ab, weniger unscharfe Frames zu erzeugen, aber ihre Leistung hängt maßgeblich von dem instabilen Trainingsprozess ab.

In [27] wird ein Selbstaufmerksamkeitsmechanismus vorgeschlagen, der angewendet werden kann, um weitreichende Abhängigkeiten zu erfassen, und der sich als effektiv erwiesen hat, um hervorstechende Merkmale zwischen allen räumlichen Positionen in Computervisionsaufgaben zu aggregieren [28–30]. In [28] wird ein Doppelaufmerksamkeitsblock vorgeschlagen, der die Merkmale des gesamten Raums zu einem kompakten Satz kombiniert und dann Merkmale adaptiv auswählt und jedem Ort zuordnet. Um die Kontextinformationen effektiver auszunutzen, hat ein Crisscross-Netzwerk [29] ein Crisscross-Aufmerksamkeitsmodul eingeführt, um die Kontextinformationen aller Pixel zu erhalten, was bei visuellen Verständnisproblemen hilfreich ist. Darüber hinaus wird im Gegensatz zu den Multi-Scale-Feature-Fusion-Verfahren ein Dual-Attention-Network [30] vorgeschlagen, um lokale Features mit globalen Abhängigkeiten adaptiv zu kombinieren. Sie können jedoch aufgrund fehlender raumzeitlicher Abhängigkeiten nicht zur Bewältigung von Vorhersageaufgaben verwendet werden.

Zusammenfassend ergeben frühere Vorhersagemodelle unterschiedliche Nachteile. Anders als in früheren Arbeiten entwerfen wir eine neuartige Variante von ConvLSTM [5], um Zustandsrepräsentationen zu speichern und den Aufmerksamkeitsmechanismus in der Aufgabe der raumzeitlichen Vorhersage zu erweitern. Diese Architektur erfasst reichhaltige Kontextbeziehungen für bessere Merkmalsdarstellungen mit klasseninterner Kompaktheit.

Tabelle 1 zeigt die in der Arbeit verwendeten Akronyme mit einer Definition des Konzepts.

3. Neurales DMA-Netzwerk

Ein Flussdiagramm von DMANet ist in Fig. 1 gezeigt. Die Darstellungen werden aus DMANet extrahiert, wenn die Eingaberahmen gegeben sind. Die Darstellungen geben Vorhersageergebnisse an und können verwendet werden, um die nächsten Darstellungen vorherzusagen.

In diesem Abschnitt werden die Einzelheiten des DMANet angegeben. Zunächst wird in Abschnitt 3.1 eine neuartige DMLSTM-Einheit eingeführt. Anschließend wird in Abschnitt 3.2 ein dualer Aufmerksamkeitsmechanismus vorgeschlagen, der es dem Modell ermöglicht, von den vorherigen relevanten Repräsentationen zu profitieren. Schließlich werden sie zusammengeführt, um DMANet für die raumzeitliche Vorhersage aufzubauen, das in Abschnitt 3.3 detailliert beschrieben wird.

3.1.Dual Memory LSTM

Es wird durch PredRNN plus plus [7] aufgeklärt, das mehr nichtlineare Schichten hinzufügt, um die Netzwerktiefe zu erhöhen und die Modellierungsfähigkeit für räumliche Korrelationen und zeitliche Dynamik zu stärken. Allerdings wird das Problem der Gradientenausbreitung mit zunehmender Netztiefe immer schwieriger, auch wenn GHU [7] es bedingt entschärft. Einige Arbeiten[6,7,14] funktionieren nicht gut beim Extrahieren der Darstellungen von raumzeitlichen Sequenzen über übermäßige Gatterübergänge hinweg, da dies unausweichlich zum Verlust von Darstellungen führen kann. Daher können weiträumige räumliche Abhängigkeiten durch gestapelte Faltungsschichten erfasst werden. Allerdings ist die Effektivität der Modellierungsfähigkeit für raumzeitliche Dynamik aufgrund des komplexen Schicht-zu-Schicht-Übergangs begrenzt.

Eine neue rekurrente Einheit namens DMLSTM wird entwickelt, um eine raumzeitliche Vorhersage durchzuführen, um die oben genannten Einschränkungen zu überwinden, wie in Abbildung 2 gezeigt. Zunächst wird eine zusätzliche Speichereinheit basierend auf ConvLSTM[5] hinzugefügt; Diese Einheit wird verwendet, um räumliche Zustände zu speichern, wodurch die Einheit mehr raumzeitliche Darstellungen lernen kann. Der neuartige Übergangsmechanismus wird entworfen, indem redundante Gatterstrukturen, wie etwa Eingangsgatter, verworfen werden. Die verschiedenen nichtlinearen Strukturen würden die leistungsfähigen internen Darstellungen bei der Vorhersage auf Pixelebene verlieren. Andererseits wurden die Darstellungsdifferenzierungsoperationen effektiv angewendet, um die Darstellungen sich bewegender Objekte zu erfassen. Daher kann die Differenzierung für Vorhersageaufgaben verwendet werden, um die Darstellungsdetails sich bewegender Objekte zu ergänzen. In der DMLSTM-Einheit wird die Differenzierungsoperation entwickelt, um Bewegungsdarstellungen durch Differenzieren benachbarter verborgener Zustände oder Rohbilder zu erhalten, wodurch die Einheit eine leistungsfähigere Modellierungsfähigkeit für räumlich-zeitliche Dynamik hat.

3.2. Dualer Aufmerksamkeitsmechanismus

Die raumzeitliche Vorhersage kann zukünftige Frames vorhersagen, indem vorherige Darstellungen beobachtet werden. Das Vorhersagemodell sollte sich jedoch stärker auf historische Darstellungen konzentrieren, die mit den vorhergesagten Inhalten in Zusammenhang stehen. Der Aufmerksamkeitsmechanismus [27] kann bei einigen praktischen Aufgaben weitreichende Abhängigkeiten zwischen lokalen und globalen Repräsentationen erfassen [32,33]. Darüber hinaus ist die raumzeitliche Vorhersage aufgrund der komplexen Dynamik und Erscheinungsänderungen herausfordernd, die Abhängigkeiten sowohl von zeitlichen als auch von räumlichen Domänen erfordern. Es wird eine neue Variante des Aufmerksamkeitsmechanismus vorgeschlagen, die als dualer Aufmerksamkeitsmechanismus bezeichnet wird. Diese Architektur erfasst langfristige räumlich-zeitliche Wechselwirkungen aus zeitlichen bzw. räumlichen Dimensionen, und dann werden die erhaltenen Darstellungen für zukünftige Vorhersagen aggregiert.

Zistanche zu verkaufenin Erinnerung

Das duale Aufmerksamkeitsmodul ist in Abbildung 3 dargestellt, einschließlich der aktuellen Zeitstempel-Hidden-Zustände Ht ∈ RH × W × C und der historischen {H1 . . . Ht−1} ∈ Rn × H × W × C, wobei H und W räumliche Größen sind, C die Anzahl der Kanäle ist und n die Anzahl der versteckten Repräsentationen bezeichnet, die entlang der zeitlichen Dimension verkettet sind

4. Schlussfolgerung

In diesem Artikel wurde ein DMANet für die raumzeitliche Vorhersage vorgeschlagen. Eine DML-STM-Einheit wird verwendet, um die Darstellungen effizient zu extrahieren, indem Differenzierungsoperationen zwischen den aufeinanderfolgenden Bildern genutzt und ein dualer Speicherübergangsmechanismus übernommen wird. Ein dualer Aufmerksamkeitsmechanismus soll langfristige raumzeitliche Abhängigkeiten erfassen, indem die Korrelationen zwischen den derzeit verborgenen Repräsentationen und den historischen verborgenen Repräsentationen aus zeitlichen bzw. räumlichen Dimensionen berechnet werden. Das DMANet kombiniert beide Vorteile, und ein solches Architekturdesign ermöglicht dem Modell eine größere Modellierungsleistung für kurzfristige Dynamiken und langfristige kontextbezogene Darstellungen. Die experimentellen Ergebnisse zeigen, dass unsere Methode eine hervorragende Leistung bei der raumzeitlichen Vorhersage hat.

wo kann man cistanche im speicher kaufen

Die raumzeitliche Vorhersage ist ein vielversprechender Weg für das selbstüberwachte Lernen umfassender raumzeitlicher Korrelationen. Für zukünftige Arbeiten werden wir untersuchen, wie sich bewegende Objekte vom Hintergrund trennen und mehr Aufmerksamkeit auf sich bewegende Objekte lenken können. Wir werden auch versuchen, ein Nowcasting-System für den scheinbaren Widerstand zu bauen, um chinesische Grotten vor Wasser zu schützen.

Verweise

1. Yao, Y.; Atkins, E.; Johnson-Roberson, M.; Vasudevan, R.; Du, X. Bitrap: Bidirektionale Fußgängertrajektorienvorhersage mit multimodaler Zielschätzung. IEEE-Roboter. Autom. Lette. 2021, 2, 1463–1470. [Querverweis]

2. Lied, Z.; Sui, H.; Li, H. Eine hierarchische Objekterkennungsmethode in großflächigen optischen Fernerkundungssatellitenbildern unter Verwendung von Hervorhebungserkennung und CNN. Int. J. Remote Sens. 2021, 42, 2827–2847. [Querverweis]

3. Li, Y.; Cai, Y.; Li, J.; Lang, S.; Zhang, X. Räumlich-zeitliche Einheitsnetzwerke zur Erkennung von Videoanomalien. IEEE Access 2019, 1, 172425–172432. [Querverweis]

4. Yurtsever, E.; Lambert, J.; Carballo, A.; Takeda, K. Eine Umfrage zum autonomen Fahren: Gemeinsame Praktiken und neue Technologien. IEEE Access 2020, 8, 58443–58469. [Querverweis]

5. Shi, X.; Chen, Z.; Wang, H.; Yeung, DY Faltungs-LSTM-Netzwerk: Ein maschineller Lernansatz für Niederschlags-Nowcasting. In Proceedings of the 29th Conference on Neural Information Processing Systems, Montreal, QC, Kanada, 7.–12. Juni 2015; S. 802–810.

6. Wang, Y.; Li, M.; Wang, J.; Gao, Z.; Yu, P. PredRNN: Rekurrente neuronale Netze für prädiktives Lernen mit räumlich-zeitlichen LSTMs. In Proceedings of the 31st Conference on Neural Information Processing Systems, Long Beach, BC, Kanada, 4.–9. Dezember 2017; S. 879–888.

7. Wang, Y.; Gao, Z.; Lang, M.; Wang, J.; Yu, P. PredRNN plus plus : Auf dem Weg zu einer Auflösung des tief in der Zeit liegenden Dilemmas beim raumzeitlichen Vorhersagelernen. In Proceedings of the 35th International Conference on Machine Learning, Stockholm, Schweden, 10.–15. April 2019; S. 5123–5132.

8. Goodfellow, IJ; Pouget-Abadie, J.; Mirza, M.; Xu, B.; Warde-Farley, D. Generative gegnerische Netzwerke. In Proceedings of the 28th Conference on Neural Information Processing Systems, Montreal, QC, Kanada, 8.–13. Dezember 2014; S. 2672–2680.

9. Ivanovic, B.; Karen, L.; Eduard, S.; Pavone, M. Multimodale tiefe generative Modelle zur Trajektorienvorhersage: Ein bedingter Variations-Autoencoder-Ansatz. IEEE-Roboter. Autom. Lette. 2021, 2, 295–302. [Querverweis]

10. Rumelhart, D.; Hinton, G.; Williams, R. Lernen von Darstellungen durch Rückwärtspropagieren von Fehlern. Natur 1986, 1, 533–536. [Querverweis]

11. Hochreiter, S.; Schmidhuber, J. Langes Kurzzeitgedächtnis. Neuronale Berechnung. 1997, 8, 1735–1780. [Querverweis]

12. Suzkever, I.; Vinyals, O.; Le, Q. Sequenz-zu-Sequenz-Lernen mit neuronalen Netzen. In Proceedings of the Advances in Neural Information Processing Systems, Montreal, QC, Kanada, 8.–13. Dezember 2014; S. 3104–3112.

13. Das, M.; Ghosh, S. Ein Deep-Learning-basiertes Prognoseensemble zur Vorhersage fehlender Daten für Fernerkundungsanalysen. IEEE J. Sel. Oben. Appl. Erdbeobachtung Remote Sens. 2017, 12, 5228–5236. [Querverweis]

14. Oliu, M.; Selva, J.; Escalera, S. Gefaltete rekurrente neuronale Netze für zukünftige Videovorhersagen. In Proceedings of the 15th European Conference on Computer Vision, München, Deutschland, 8.–14. Dezember 2018; S. 716–731.

15. Seng, D.; Zhang, Q.; Zhang, X.; Chen, G.; Chen, X. Räumlich-zeitliche Vorhersage der Luftqualität basierend auf einem neuronalen LSTM-Netzwerk. Alex. Eng. J. 2021, 60, 2021–2032. [Querverweis]

16. Abed, A.; Ramin, Q.; Abed, A. Die automatisierte Vorhersage von Sonneneruptionen aus SDO-Bildern mithilfe von Deep Learning. Erw. Leerzeichenauflösung 2021, 67, 2544–2557. [Querverweis]

17. Li, S.; Fang, J.; Xu, H.; Xue, J. Video-Frame-Vorhersage durch ein tiefes Maskennetzwerk mit mehreren Zweigen. IEEE-Trans. Schaltungen Syst. Video-Techn. 2020, 4, 1–12. [Querverweis]

18. Wang, Y.; Zhang, J.; Zhu, H.; Lang, M.; Wang, J.; Yu, P. Gedächtnis im Gedächtnis: Ein prädiktives neuronales Netzwerk zum Lernen von Nichtstationarität höherer Ordnung aus raumzeitlicher Dynamik. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Long Beach, BC, Kanada, 16.–20. Juni 2020; S. 9146–9154.

19. Chen, X.; Xu, C.; Yang, X.; Yang, X.; Tao, D. Langzeit-Videovorhersage durch Kritik und Rückschau. IEEE-Trans. Bildprozess. 2020, 29, 7090–7103. [Querverweis]

20. Neda, E.; Reza, F. AptaNet als Deep-Learning-Ansatz zur Vorhersage von Aptamer-Protein-Interaktionen. Wissenschaft. Betreff. 2021, 11, 6074–6093.

21. Shen, B.; Ge, Z. Gewichtetes nichtlineares dynamisches System zur Tiefenextraktion nichtlinearer dynamischer latenter Variablen und industrielle Anwendung. IEEE-Trans. Ind. informieren. 2021, 5, 3090–3098. [Querverweis]

22. Zhou, J.; Dai, H.; Wang, H.; Wang, T. Wide-Attention- und Deep-Composite-Modell für die Verkehrsflussvorhersage in cyber-physischen Transportsystemen. IEEE-Trans. Ind. informieren. 2021, 17, 3431–3440. [Querverweis]

23. Patil, K.; Deo, M. Vorhersage der Meeresoberflächentemperatur im Beckenmaßstab mit künstlichen neuronalen Netzen. J.Atmos. Ozean. Technologie 2018, 7, 1441–1455. [Querverweis]

24. Amato, F.; Guinard, F.; Robert, S.; Kanevski, M. Ein neuartiger Rahmen für die räumlich-zeitliche Vorhersage von Umweltdaten mithilfe von Deep Learning. Wissenschaft. Rep. 2020, 10, 22243–22254. [Querverweis]

25. Yan, J.; Qin, G.; Zhao, R.; Liang, Y.; Xu, Q. Mixpred: Videovorhersage jenseits des optischen Flusses. IEEE Access 2019, 1, 185654–185665. [Querverweis]

26. Wang, Y.; Jiang, L.; Yang, M.; Kleine.; Lang, M.; Li, F. Eidetic 3D LSTM: Ein Modell für die Videovorhersage und darüber hinaus. In Proceedings of the International Conference on Learning Representations, New Orleans, LA, USA, 6.–9. Mai 2019; S. 1–14.

27. Vaswani, A.; Shazier, N.; Parmar, N.; Uszkoreit, J.; Jones, L. Aufmerksamkeit ist alles, was Sie brauchen. In Proceedings of the 31st Conference on Neural Information Processing Systems, Long Beach, BC, Kanada, 4.–9. Dezember 2017; S. 5998–6008.

28. Chen, Y.; Kalantidis, Y.; Li, J.; Feng, J. A2 Netze: Doppelte Aufmerksamkeitsnetzwerke. In Proceedings of the 32nd Conference on Neural Information Processing Systems, Montreal, QC, Kanada, 2.–8. Dezember 2018; S. 352–361.

29. Huang, Z.; Wang, X.; Wei, Y.; Huang, L.; Shi, H. Ccnet: Kreuzweise Aufmerksamkeit für semantische Segmentierung. IEEE-Trans. Muster Anal. Mach. Intelligenz 2020, 1, 1–11. [Querverweis]

30. Fu, J.; Liu, J.; Tian, ​​H.; Li, Y. Dual-Aufmerksamkeitsnetzwerk zur Szenensegmentierung. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Long Beach, BC, Kanada, 16.–20. Juni 2019; S. 3146–3154.

31. Wang, Z.; Bovik, A.; Sheikh, H. Bewertung der Bildqualität: Von der Fehlersichtbarkeit zur strukturellen Ähnlichkeit. IEEE-Trans. Bildprozess. 2004, 4, 600–612. [Querverweis]

32. Liu, Q.; Lu, S.; Lan, L. Yolov3 Aufmerksamkeitsgesichtsdetektor mit hoher Genauigkeit und Effizienz. Komp. Syst. Wissenschaft. Eng. 2021, 37, 283–295.

33. Li, X.; Xu, F.; Xin, L. Semantische Segmentierungsnetzwerke mit doppelter Aufmerksamkeit und tiefer Fusion von großformatigen Satelliten-Fernerkundungsbildern. Int. J. Remote Sens. 2021, 42, 3583–3610. [Querverweis]

34. Srivastava, N.; Mansimow, E.; Salakhutdinov, R. Unüberwachtes Lernen von Videodarstellungen mit LSTMs. In Proceedings of the 32nd International Conference on Machine Learning, Lille, Frankreich, 6.–11. Juni 2015; S. 843–852.

35. Geiger, A.; Lenz, P.; Stiller, C.; Urtasun, R. Vision trifft Robotik: Der KITTI-Datensatz. Int. J. Roboter. Auflösung 2013, 32, 1231–1237. [Querverweis]

36. Dollar, P.; Wojek, C.; Schiele, B.; Perona, P. Fußgängererkennung: Ein Maßstab. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Miami, FL, USA, 20.–25. Juni 2009; S. 304–311.

37. Liu, J.; Jin, B.; Yang, J.; Xu, L. Vorhersage der Meeresoberflächentemperatur unter Verwendung von kubischer B-Spline-Interpolation und raumzeitlichem Aufmerksamkeitsmechanismus. Remote Sens. Lett. 2021, 12, 12478–12487. [Querverweis]