Los ingenieros del MIT están en una misión de búsqueda de fallas | Noticias del MIT

Desde la prevención de colisiones de vehículos hasta los sistemas de programación de vuelos y las redes de suministro de energía, muchos de los servicios de los que dependemos están administrados por computadoras. A medida que estos sistemas autónomos crecen en complejidad y ubicuidad, también podrían crecer las formas en que fallan.

Ahora, los ingenieros del MIT han desarrollado un enfoque que se puede combinar con cualquier sistema autónomo, para identificar rápidamente una variedad de fallas potenciales en ese sistema antes de implementarlos en el mundo real. Es más, el enfoque puede encontrar soluciones a las fallas y sugerir reparaciones para evitar averías del sistema.

El equipo ha demostrado que el enfoque puede solucionar fallas en una variedad de sistemas autónomos simulados, incluida una red eléctrica grande y pequeña, un sistema para evitar colisiones de aviones, un equipo de drones de rescate y un manipulador robótico. En cada uno de los sistemas, el nuevo enfoque, en forma de algoritmo de muestreo automatizado, identifica rápidamente una variedad de fallas probables, así como reparaciones para evitarlas.

El nuevo algoritmo adopta un rumbo diferente al de otras búsquedas automatizadas, que están diseñadas para detectar las fallas más graves en un sistema. Estos enfoques, dice el equipo, podrían pasar por alto vulnerabilidades más sutiles aunque significativas que el nuevo algoritmo puede detectar.

"En realidad, estos sistemas más complejos podrían sufrir toda una serie de problemas", afirma Charles Dawson, estudiante de posgrado en el Departamento de Aeronáutica y Astronáutica del MIT. “Queremos poder confiar en estos sistemas para conducirnos, volar un avión o gestionar una red eléctrica. Es realmente importante conocer sus límites y en qué casos es probable que fracasen”.

Dawson y Chuchu Fan, profesor asistente de aeronáutica y astronáutica del MIT, presentan su trabajo esta semana en la Conferencia sobre Aprendizaje Robótico.

Sensibilidad ante los adversarios

En 2021, un importante colapso del sistema en Texas hizo pensar a Fan y Dawson. En febrero de ese año, tormentas invernales azotaron el estado, provocando temperaturas inesperadamente gélidas que provocaron fallas en la red eléctrica. La crisis dejó a más de 4,5 millones de hogares y empresas sin electricidad durante varios días. El colapso de todo el sistema provocó la peor crisis energética en la historia de Texas.

"Ese fue un error bastante importante que me hizo preguntarme si podríamos haberlo predicho de antemano", dice Dawson. "¿Podríamos utilizar nuestro conocimiento de la física de la red eléctrica para comprender dónde podrían estar sus puntos débiles y luego apuntar a actualizaciones y correcciones de software para fortalecer esas vulnerabilidades antes de que suceda algo catastrófico?"

El trabajo de Dawson y Fan se centra en los sistemas robóticos y en encontrar formas de hacerlos más resistentes en su entorno. Impulsados ​​en parte por la crisis energética de Texas, se propusieron ampliar su alcance para detectar y solucionar fallas en otros sistemas autónomos más complejos y de gran escala. Para lograrlo, se dieron cuenta de que tendrían que cambiar el enfoque convencional para encontrar fallas.

Los diseñadores suelen probar la seguridad de los sistemas autónomos identificando sus fallas más probables y graves. Comienzan con una simulación por computadora del sistema que representa su física subyacente y todas las variables que podrían afectar el comportamiento del sistema. Luego ejecutan la simulación con un tipo de algoritmo que lleva a cabo una “optimización adversa”, un enfoque que optimiza automáticamente para el peor de los casos realizando pequeños cambios en el sistema, una y otra vez, hasta que puede limitarse a aquellos cambios que están asociados con las fallas más graves.

"Al condensar todos estos cambios en el fallo más grave o probable, se pierde mucha complejidad de los comportamientos que se podían observar", señala Dawson. "En cambio, queríamos priorizar la identificación de una diversidad de fallas".

Para ello, el equipo adoptó un enfoque más "sensible". Desarrollaron un algoritmo que genera automáticamente cambios aleatorios dentro de un sistema y evalúa la sensibilidad o falla potencial del sistema en respuesta a esos cambios. Cuanto más sensible es un sistema a un determinado cambio, es más probable que ese cambio esté asociado con una posible falla.

El enfoque permite al equipo solucionar una gama más amplia de posibles fallos. Mediante este método, el algoritmo también permite a los investigadores identificar soluciones retrocediendo a través de la cadena de cambios que llevaron a una falla particular.

"Reconocemos que existe realmente una dualidad en el problema", dice Fan. “Hay dos caras de la moneda. Si puede predecir una falla, debería poder predecir qué hacer para evitarla. Nuestro método ahora está cerrando ese círculo”.

Fallos ocultos

El equipo probó el nuevo enfoque en una variedad de sistemas autónomos simulados, incluida una red eléctrica grande y pequeña. En esos casos, los investigadores combinaron su algoritmo con una simulación de redes eléctricas generalizadas a escala regional. Demostraron que, mientras que los enfoques convencionales se centraban en una sola línea eléctrica como la más vulnerable a fallar, el algoritmo del equipo encontró que, si se combina con una falla de una segunda línea, podría ocurrir un apagón completo.

"Nuestro método puede descubrir correlaciones ocultas en el sistema", dice Dawson. "Debido a que estamos haciendo un mejor trabajo al explorar el espacio de las fallas, podemos encontrar todo tipo de fallas, que a veces incluyen fallas incluso más graves que las que los métodos existentes pueden encontrar".

Los investigadores mostraron resultados igualmente diversos en otros sistemas autónomos, incluida una simulación para evitar colisiones de aviones y coordinar drones de rescate. Para ver si sus predicciones de fracaso en la simulación se confirmarían en la realidad, también demostraron el enfoque en un manipulador robótico: un brazo robótico diseñado para empujar y recoger objetos.

El equipo primero ejecutó su algoritmo en una simulación de un robot al que se le ordenó empujar una botella fuera del camino sin derribarla. Cuando ejecutaron el mismo escenario en el laboratorio con el robot real, descubrieron que fallaba en la forma predicha por el algoritmo: por ejemplo, derribándolo o no alcanzando la botella. Cuando aplicaron la solución sugerida por el algoritmo, el robot empujó con éxito la botella.

"Esto demuestra que, en realidad, este sistema falla cuando predecimos que lo hará, y tiene éxito cuando esperamos que lo haga", afirma Dawson.

En principio, el enfoque del equipo podría encontrar y solucionar fallas en cualquier sistema autónomo siempre que incluya una simulación precisa de su comportamiento. Dawson imagina que algún día este enfoque podría convertirse en una aplicación que los diseñadores e ingenieros puedan descargar y aplicar para ajustar y reforzar sus propios sistemas antes de probarlos en el mundo real.

"A medida que aumentamos la dependencia de estos sistemas automatizados de toma de decisiones, creo que el sabor de los fracasos cambiará", afirma Dawson. “En lugar de fallas mecánicas dentro de un sistema, veremos más fallas impulsadas por la interacción de la toma de decisiones automatizada y el mundo físico. Estamos tratando de dar cuenta de ese cambio identificando diferentes tipos de fallas y abordándolas ahora”.

Esta investigación cuenta con el apoyo, en parte, de la NASA, la Fundación Nacional de Ciencias y la Oficina de Investigación Científica de la Fuerza Aérea de EE. UU.