Enhancing urban air quality predictions with Temporal Fusion Transformers: a methodological evaluation

La contaminación atmosférica plantea importantes amenazas para la salud pública y el medio ambiente, por lo que es necesario aplicar estrategias eficaces de vigilancia y previsión. Esta tesis se centra en el uso de Temporal Fusion Transformers (TFT) para predecir los niveles de contaminación atmosférica. El escenario específico de este estudio es Bari, una ciudad italiana que se enfrenta a graves problemas de contaminación debido a las actividades industriales y a la congestión del tráfico. Al ser un importante puerto y centro industrial, Bari tiene importantes problemas de calidad del aire, con contaminantes como las partículas en suspensión (PM10), el dióxido de nitrógeno (NO2) y el ozono troposférico (O3) que superan con frecuencia los niveles de seguridad. El objetivo principal de esta Tesis de Fin de Máster es comparar la eficacia del modelo TFT con otros modelos de predicción de series temporales, como ARIMA, ETS, LSTM y DeepAR, para predecir las concentraciones de contaminantes.
La investigación evalúa el rendimiento, la precisión y la complejidad computacional de estos modelos para identificar el enfoque más adecuado para las aplicaciones del mundo real. Los resultados indican que el modelo Temporal Fusion Transformer (TFT) proporciona predicciones precisas y fiables, superando a los modelos estadísticos tradicionales y a otros enfoques de aprendizaje profundo. Sin embargo, el alto coste computacional y la complejidad asociada con TFT son inconvenientes notables, por lo que es menos práctico para escenarios con recursos limitados. Los modelos LSTM y DeepAR, aunque menos precisos que TFT, ofrecen un equilibrio entre rendimiento y eficiencia computacional. El estudio destaca el potencial de los TFT en la monitorización medioambiental y la planificación urbana, al tiempo que reconoce la necesidad de seguir investigando para optimizar su eficiencia y reducir costes. Los trabajos futuros deberían centrarse ampliar el conjunto de datos para disponer de un histórico de mayor tamaño, explorar características adicionales y mejorar la solidez del modelo para que las técnicas avanzadas de previsión sean más accesibles y prácticas para un uso generalizado.
ABSTRACT
Air pollution poses significant threats to public health and the environment, necessitating effective monitoring and forecasting strategies. This thesis focuses on using Temporal Fusion Transformers (TFT) to forecast air pollution levels. The specific scenario for this study is Bari, an italian city which is facing severe pollution challenges due to industrial activities and traffic congestion. As a major port and industrial hub, Bari has significant air quality issues, with pollutants such as particulate matter (PM10), nitrogen dioxide (NO2), and ground-level ozone (O3) frequently exceeding safe levels. The primary objective is to benchmark the effectiveness of the TFT model against other time series forecasting models, including ARIMA, ETS, LSTM, and DeepAR, in predicting pollutant concentrations.
The research evaluates these models’ performance, accuracy, and computational complexity to identify the most suitable approach for real-world applications. The f indings indicate that the Temporal Fusion Transformer (TFT) model consistently delivers accurate and reliable predictions, outperforming traditional statistical models and other deep learning approaches. However, the high computational cost and complexity associated with TFT are notable drawbacks, making it less practical for scenarios with limited resources. LSTM and DeepAR models, while less accurate than TFT, offer a balance between performance and computational efficiency. The study highlights the potential of TFT in environmental monitoring and urban planning, while also acknowledging the need for further research to optimize its efficiency and reduce costs. Future work should focus on extending the dataset duration, exploring additional features, and improving model robustness to make advanced forecasting techniques more accessible and practical for widespread use.

​La contaminación atmosférica plantea importantes amenazas para la salud pública y el medio ambiente, por lo que es necesario aplicar estrategias eficaces de vigilancia y previsión. Esta tesis se centra en el uso de Temporal Fusion Transformers (TFT) para predecir los niveles de contaminación atmosférica. El escenario específico de este estudio es Bari, una ciudad italiana que se enfrenta a graves problemas de contaminación debido a las actividades industriales y a la congestión del tráfico. Al ser un importante puerto y centro industrial, Bari tiene importantes problemas de calidad del aire, con contaminantes como las partículas en suspensión (PM10), el dióxido de nitrógeno (NO2) y el ozono troposférico (O3) que superan con frecuencia los niveles de seguridad. El objetivo principal de esta Tesis de Fin de Máster es comparar la eficacia del modelo TFT con otros modelos de predicción de series temporales, como ARIMA, ETS, LSTM y DeepAR, para predecir las concentraciones de contaminantes.
La investigación evalúa el rendimiento, la precisión y la complejidad computacional de estos modelos para identificar el enfoque más adecuado para las aplicaciones del mundo real. Los resultados indican que el modelo Temporal Fusion Transformer (TFT) proporciona predicciones precisas y fiables, superando a los modelos estadísticos tradicionales y a otros enfoques de aprendizaje profundo. Sin embargo, el alto coste computacional y la complejidad asociada con TFT son inconvenientes notables, por lo que es menos práctico para escenarios con recursos limitados. Los modelos LSTM y DeepAR, aunque menos precisos que TFT, ofrecen un equilibrio entre rendimiento y eficiencia computacional. El estudio destaca el potencial de los TFT en la monitorización medioambiental y la planificación urbana, al tiempo que reconoce la necesidad de seguir investigando para optimizar su eficiencia y reducir costes. Los trabajos futuros deberían centrarse ampliar el conjunto de datos para disponer de un histórico de mayor tamaño, explorar características adicionales y mejorar la solidez del modelo para que las técnicas avanzadas de previsión sean más accesibles y prácticas para un uso generalizado.
ABSTRACT
Air pollution poses significant threats to public health and the environment, necessitating effective monitoring and forecasting strategies. This thesis focuses on using Temporal Fusion Transformers (TFT) to forecast air pollution levels. The specific scenario for this study is Bari, an italian city which is facing severe pollution challenges due to industrial activities and traffic congestion. As a major port and industrial hub, Bari has significant air quality issues, with pollutants such as particulate matter (PM10), nitrogen dioxide (NO2), and ground-level ozone (O3) frequently exceeding safe levels. The primary objective is to benchmark the effectiveness of the TFT model against other time series forecasting models, including ARIMA, ETS, LSTM, and DeepAR, in predicting pollutant concentrations.
The research evaluates these models’ performance, accuracy, and computational complexity to identify the most suitable approach for real-world applications. The f indings indicate that the Temporal Fusion Transformer (TFT) model consistently delivers accurate and reliable predictions, outperforming traditional statistical models and other deep learning approaches. However, the high computational cost and complexity associated with TFT are notable drawbacks, making it less practical for scenarios with limited resources. LSTM and DeepAR models, while less accurate than TFT, offer a balance between performance and computational efficiency. The study highlights the potential of TFT in environmental monitoring and urban planning, while also acknowledging the need for further research to optimize its efficiency and reduce costs. Future work should focus on extending the dataset duration, exploring additional features, and improving model robustness to make advanced forecasting techniques more accessible and practical for widespread use. Read More