Casos prácticos y noticias de MathWorks

Uso de IA para reducir las emisiones de diésel

Deep Reinforcement Learning reduce las emociones de NOx a casi cero


Colabore con nosotros para alcanzar el éxito

Reciba asesoría experta de MathWorks Consulting con soluciones personalizadas que le ayudarán a alcanzar sus objetivos.


Los óxidos de nitrógeno, un subproducto de la quema de combustibles fósiles, se encuentran entre los contaminantes más regulados y nocivos para la salud humana. Los productos químicos, denominados colectivamente “NOx”, componen el smog marrón que, a pesar de los controles más estrictos de calidad del aire, todavía se cierne sobre el horizonte de algunas ciudades.

En los motores diésel de equipos industriales, los catalizadores de reducción catalítica selectiva (SCR) se han utilizado principalmente en el rango de potencia de 56 kW o superior en respuesta a niveles de NOx de las regulaciones Tier 4 Final de la EPA que se han aplicado desde 2014. Las regulaciones son más estrictas y se requerirán niveles más altos de reducción de NOx, lo que dará como resultado sistemas más complejos y avanzados que requerirán más tiempo de desarrollo que nunca. Por lo tanto, será necesario lograr mayor eficiencia. Los ingenieros de Yanmar América, una empresa de equipos agrícolas, sistemas de energía y motores industriales, son pioneros en el uso de Deep Reinforcement Learning para perfeccionar la técnica.

“Necesitamos una reducción adicional del 90% para cumplir con los nuevos estándares para motores de más de 56 kW, y asi lograr emisiones de NOx del tubo de escape de nuestros motores SCR casi nulas”, dice Martin Muinos, ingeniero de investigación y desarrollo de Yanmar America.

California Air Resources Board establece estándares para limitar los contaminantes de motores diésel todoterreno. Las nuevas normas Tier 5 propuestas, que se implementarán gradualmente durante la próxima década, requieren que los fabricantes reduzcan las emisiones de NOx en un 90% en algunas categorías de potencia.

Motor 4TN107FTT de Yanmar, con SCR montado en la parte superior.

Motor 4TN107FTT de Yanmar con tecnología SCR. (Imagen cortesía de Yanmar América)

Hace unos años, los ingenieros de Yanmar America comenzaron a desarrollar soluciones para satisfacer este requisito en nuevos motores. Los motores ya estaban equipados con SCR, que minimizan las emisiones de NOx a través de una reacción química entre amoníaco y NOx. El amoníaco se introduce en el escape antes del catalizador SCR a través de un inyector de fluido de escape diésel (DEF). DEF es una solución de urea y agua, que se descompone en amoníaco en los gases de escape calientes. Con la ayuda de un catalizador, el amoníaco descompone el NO.x en gas nitrógeno, un componente natural de la atmósfera.

Pero parte de NOx aún atraviesa este proceso de depuración y, además, el amoníaco, en sí mismo un contaminante nocivo, puede liberarse a la atmósfera. Este inconveniente se denomina deslizamiento de amoníaco. “Deseamos tener la mayor cantidad posible de amoníaco almacenado en el SCR para aumentar capacidad de conversión de NOx”, dice Muinos. “Esto presenta desafíos porque el almacenamiento de amoníaco depende de la temperatura”. Por ejemplo, aumentos rápidos en la temperatura de los gases de escape pueden provocar un escape de amoníaco.

Diagrama de un cilindro conectado a un tubo de mezcla y un inyector en la parte superior. La caja cilíndrica alberga el sistema SCR y el catalizador de deslizamiento de amoníaco (ASC), que se encuentra a la salida del catalizador SCR.

Diagrama que representa el proceso de minimización de emisiones de NOx utilizando SCR. (Imagen cortesía de Yanmar América)

El tamaño del SCR es otro factor limitante. “El rendimiento del SCR depende en gran medida del tamaño, lo que significa que no tienen espacio infinito para inyecciones de amoníaco”, afirma Shota Nomura, ingeniero de pruebas de Yanmar America. 

Del banco de pruebas a la simulación

Por lo general, el desarrollo de SCR implica un largo proceso de calibración para garantizar la reducción adecuada de NOx, que puede totalizar más de 240 horas de trabajo para el proyecto de calibración de SCR. “Hay 20 o más mapas de calibración que describen los controles del SCR, y necesitamos datos para calibrar esos mapas”, explica Muinos. “Para recopilar estos datos, es necesario ejecutar un banco de pruebas del motor durante varias semanas, calibrar los mapas y luego validar el rendimiento”.

“Simulink es un entorno asilado para el desarrollo de controles”.

"No hay una forma autónoma de calibrar el sistema", dice Nomura. “Dado que SCR ajusta varios mapas que se afectan entre sí, el rendimiento se ve afectado por el ajuste. Para ajustarlo teniendo en cuenta el equilibrio óptimo según los resultados de la prueba, fue necesario una gran cantidad de trabajo de ajuste manual.

Para reducir el tiempo y los costes de las pruebas físicas, el equipo de Yanmar utilizó un modelo-in-the-loop, con Simulink® y un software de simulación de catalizador separado, para modelar el SCR. “Si no tuviéramos Simulink, tendríamos que proponer un cambio en nuestros controles, enviarlo a nuestro proveedor de unidad de control del motor (ECU), pedir que desarrollen la lógica de control y el software para el controlador, y luego probarlo en un banco de pruebas real”, dice Muinos. “Pero Simulink es como un entorno asilado para el desarrollo de controles”.

Con el entorno asilado, el equipo se dio cuenta rápidamente de que sus métodos actuales de control de SCR no serían suficientes para cumplir con el estándar emergente de Nivel 5, que tiene como objetivo reducir drásticamente las emisiones de NOx a casi cero.

Gráfico lineal que muestra el progreso del entrenamiento del modelo DRL usando Reinforcement Learning con recompensas por episodio en el eje vertical y número de episodio en el eje horizontal, mostrando una mejora a medida que aumenta el número de episodios.

Monitor de entrenamiento de Reinforcement Learning disponible en Reinforcement Learning Toolbox. Representa el gráfico de progreso durante el entrenamiento de un modelo DRL que Yanmar utilizó para este proyecto. (Imagen cortesía de Yanmar América)

Nomura se preguntó si la IA, específicamente Deep Reinforcement Learning, podría ayudar. "Pero soy ingeniero mecánico", dice Nomura. “No tengo muchos conocimientos de IA”. 

Dado que el equipo ya estaba utilizando MATLAB® y Simulink, Nomura exploró recursos en línea de MathWorks y utilizó MathWorks Consulting Services para investigar si Deep Reinforcement Learning podría ayudar a determinar la mejor tasa de dosificación de DEF para SCR. 

Reinforcement Learning es un tipo de IA que aprende absorbiendo información del entorno para producir un resultado deseado, aprendiendo por prueba y error. El agente de Reinforcement Learning es “recompensado” cuando produce un resultado deseado. 

“Con Reinforcement Learning, vamos a utilizar IA para encontrar los mejores perfiles de dosificación o almacenamiento de amoníaco para los ciclos de prueba de emisiones”, dice Muinos. “Luego estudiaremos los resultados y desarrollaremos controles para identificar esos perfiles”. 

“Antes, no teníamos forma de determinar el rendimiento máximo”, dice Nomura.

Con Reinforcement Learning Toolbox™ y Deep Learning Toolbox™, los consultores de MathWorks ayudaron a Nomura a elegir el algoritmo de Reinforcement Learning más adecuado para el proyecto de Yanmar. 

“Después de trabajar con el equipo y analizar las ventajas y desventajas del enfoque sugerido por Yanmar, comprendimos que el algoritmo de red Q profunda (DQN) ayudaría a desarrollar un buen agente de Reinforcement Learning”, afirma Mohammad Muquit, consultor técnico principal de MathWorks.

Gráfico que muestra el rendimiento de SCR antes y después de la mejora a través de Reinforcement Learning, con una línea amarilla que muestra el sistema predeterminado y una línea azul que indica el rendimiento logrado mediante el uso del Reinforcement Learning. El eje horizontal es el tiempo.

Simulink scope, que muestra la cantidad de emisiones de NOx mientras se simula con el valor predeterminado del sistema de Yanmar (línea amarilla) frente al modelo DRL desarrollado en este proyecto (línea azul). (Imagen cortesía de Yanmar América)

Aprendizaje a partir de la experiencia

Equipado con el algoritmo de DQN, el equipo de Yanmar comenzó a “enseñar” al agente de Deep Reinforcement Learning (DRL) para encontrar el perfil de dosificación de amoníaco óptimo para el rendimiento del SCR.

Con el resultado del modelo, el equipo pudo ver cómo los valores de calibración sugeridos por el agente coincidían con sus valores de calibración de los motores existentes. Las visualizaciones de Reinforcement Learning Toolbox ayudaron a comprender los resultados del modelo. 

“Sin experiencia en IA, no esperaba poder completar un proyecto de Reinforcement Learning… pero MathWorks Consulting Services me ayudó a ajustar los parámetros necesarios y aprender cómo funciona Reinforcement Learning”.

"Estamos comparando los resultados del agente de Reinforcement Learning con nuestros resultados de calibración y tratando de entender por qué son diferentes", dice Muinos. “Una vez que tengamos una buena comprensión de por qué el agente de Reinforcement Learning está produciendo mejores resultados de emisión, podremos entender qué controles implementar. “Nos da un mejor punto de partida para la calibración”. 

Después de ejecutar la simulación, que dura alrededor de 30 minutos, el agente proporcionó un perfil de dosificación óptimo, que resultó en una mejora del 60% en las reducciones de emisiones de NOx, según Nomura. 

El agente redujo a la mitad el tiempo de calibración, disminuyendo el total de horas del proyecto en un 30%. “Solo tomó seis meses; no esperábamos un plazo de desarrollo tan corto”, afirma Nomura. “Esto superó con creces mis expectativas”.

El ahorro de tiempo y la reducción de las pruebas físicas también resultaron en una reducción de costes del 41% en comparación con el proceso de calibración manual normal.

"Sin experiencia en IA, no esperaba poder completar un proyecto de Reinforcement Learning", dice Nomura. “Pero MathWorks Consulting Services me ayudó a manejar los parámetros necesarios y aprender cómo funciona Reinforcement Learning”.

En este momento, la herramienta SCR calibrada por IA proporciona a los ingenieros de Yanmar un mejor punto de partida para la calibración al desarrollar los SCR de sus motores. El siguiente paso es el prototipado rápido de control. El equipo de Yanmar adquirió recientemente el hardware para poner a prueba los resultados del modelado. El equipo planea automatizar aún más este proceso. Actualmente, el agente DRL busca valores óptimos, pero los humanos aún necesitan incorporar esos valores en las ECU. En proyectos futuros, los ingenieros de Yanmar esperan utilizar IA para generar automáticamente valores de calibración iniciales para ECU, evitando los ajustes manuales. 

MATLAB y Simulink fueron fundamentales para este proyecto, y el equipo planea seguir utilizándolos y otras toolboxes relacionadas para el desarrollo futuro. “No habríamos llegado tan lejos sin MATLAB o Simulink”, afirma Muinos. “Son algunas de las mejores herramientas que he utilizado para el desarrollo de controles”.


Colabore con nosotros para alcanzar el éxito

Reciba asesoría experta de MathWorks Consulting con soluciones personalizadas que le ayudarán a alcanzar sus objetivos.


Más casos prácticos

Navegación de panel

CONDUCCIÓN AUTÓNOMA / ROBÓTICA

Aplicación de técnicas de robótica comprobadas en procesos de desarrollo de automóviles

Renault avanza en la creación de prototipos de SAAC con ROS Toolbox y Simulink

Navegación de panel

IA / SISTEMAS DE CONTROL

Diseño de equipos eléctricos más inteligentes con IA integrada

La combinación del diseño basado en modelos con IA en sistemas eléctricos mejora las operaciones industriales

Navegación de panel

SISTEMAS DE INGENIERÍA

Dyson impulsa el desarrollo de nuevos productos con simulación en nivel de sistema

Diseño basado en modelos utilizado para desarrollar un producto de primera generación