Thesis: Multi-agent Deep Rainforcement Learning for Efficient Multi-Timescale Bidding of a Hybrid Power Plant in Day-Ahead and Real-Time Markets
datacite.subject.fos | Engineering and technology::Electrical engineering, Electronic engineering, Information engineering | |
datacite.subject.fos | Natural sciences::Computer and information sciences::Computer sciences | |
dc.contributor.department | Departamento de Ingeniería Eléctrica | |
dc.contributor.guia | Gil Sagas, Esteban Manuel | |
dc.coverage.spatial | Campus Casa Central Valparaíso | |
dc.creator | Ochoa Abett de la Torre, Tomás Felipe | |
dc.date.accessioned | 2025-01-21T17:41:38Z | |
dc.date.available | 2025-01-21T17:41:38Z | |
dc.date.issued | 2022 | |
dc.description.abstract | La licitación efectiva en múltiples productos eléctricos bajo incertidumbre permite una participación más rentable para plantas híbridas con recursos variables y sistemas de almacenamiento, apoyando la descarbonización. Este estudio aborda la licitación eficiente de una planta fotovoltaica con sistema de almacenamiento (PV-ESS) en mercados eléctricos multi-escalas temporales, ofreciendo energía y servicios auxiliares (AS). El sistema de gestión energética (EMS) maximiza las ganancias mediante licitaciones en los mercados de día siguiente y tiempo real, asegurando la entrega adecuada de los productos adjudicados. Dado que el problema es un programa estocástico multi-etapa, se presenta un marco novedoso de aprendizaje por refuerzo profundo multiagente (MADRL). Dos agentes basados en redes neuronales multivista recurrentes (MVANNs) mapean observaciones a acciones, utilizando información del mercado, generación solar, energía almacenada y tiempo. Con el supuesto de tomador de precios y simulación basada en datos históricos, se ajustan simultáneamente los pesos de las MVANNs con una función de recompensa acumulativa. Se compara el MADRL con métodos robustos y estocásticos de dos etapas. Los resultados, con resolución de un minuto para un año de operación, muestran mayores ganancias, ingresos menos variables y mejor provisión de productos, con menores desequilibrios energéticos. | es |
dc.description.abstract | Effective bidding on multiple electricity products under uncertainty enables more profitable participation for hybrid plants with variable resources and storage systems, supporting decarbonization. This study addresses efficient bidding of a photovoltaic plant with an energy storage system (PV-ESS) in multi-timescale electricity markets, providing energy and ancillary services (AS). The energy management system (EMS) maximizes profits by bidding in day-ahead and real-time markets while ensuring adequate delivery of awarded products. Given that the problem is a multi-stage stochastic program, a novel multi-agent deep reinforcement learning (MADRL) framework is presented. Two agents based on multi-view recurrent neural networks (MVANNs) map observations to actions using information from the market, solar generation, stored energy, and time. Under the price-taker assumption and simulation based on historical data, the MVANNs’ weights are simultaneously adjusted with a cumulative reward function. The MADRL is compared against two-stage robust and stochastic methods. Results, at one-minute resolution for one year of operation, show higher profits, less variable incomes, and better provision of awarded products, with smaller energy imbalances. | en_US |
dc.description.degree | Magíster en Ciencias de la Ingeniería Eléctrica | |
dc.description.sponsorship | UTFSM-PI-LIR-2020/59 | |
dc.description.sponsorship | UTFSM-PIIC-005/2021 | |
dc.description.sponsorship | Fondecyt Regular 1210625 | |
dc.description.sponsorship | Proyecto Basal FB0008 (AC3E) | |
dc.driver | info:eu-repo/semantics/masterThesis | |
dc.format.extent | 51 páginas | |
dc.identifier.doi | 10.71959/gdcn-hy43 | |
dc.identifier.uri | https://cris.usm.cl/handle/123456789/2311 | |
dc.identifier.uri | https://doi.org/10.71959/gdcn-hy43 | |
dc.language.iso | en | |
dc.publisher | Universidad Técnica Federico Santa María | |
dc.rights | Attribution-NonCommercial 4.0 International | en |
dc.rights.uri | http://creativecommons.org/licenses/by-nc/4.0/ | |
dc.subject | licitación eléctrica | |
dc.subject | energía renovable | |
dc.subject | aprendizaje por refuerzo | |
dc.subject | sistemas híbridos | |
dc.subject | mercado eléctrico | |
dc.subject | electricity bidding | |
dc.subject | renewable energy | |
dc.subject | reinforcement learning | |
dc.subject | hybrid systems | |
dc.subject | electricity market | |
dc.subject.ods | 7 Energía asequible y no contaminante | |
dc.subject.ods | 9 Industria, innovación e infraestructura | |
dc.subject.ods | 12 Producción y consumo responsables | |
dc.subject.ods | 13 Acción por el clima | |
dc.title | Multi-agent Deep Rainforcement Learning for Efficient Multi-Timescale Bidding of a Hybrid Power Plant in Day-Ahead and Real-Time Markets | |
dspace.entity.type | Tesis |