Safeworld busca garantizar la seguridad de los robots impulsados por IA generativa
La tendencia dominante en el mundo de los robots está girando hacia el uso de modelos de inteligencia artificial generativa para controlar sus acciones. Sin embargo, este enfoque plantea un desafío importante: la arquitectura de estos sistemas no es tan predecible como los algoritmos tradicionales. ¿Cómo se puede asegurar que un robot humanoide recién creado sea seguro? Esta pregunta ha sido abordada durante casi toda la carrera del doctor Ding Zhao, director del Laboratorio de IA Segura de la Universidad Carnegie Mellon.
Con su experiencia acumulada, Zhao decidió fundar Safeworld junto a Kyle Wong, ejecutivo experimentado en startups, y Simo Rachidi, ingeniero especializado en machine learning. La empresa tiene como objetivo resolver los problemas de seguridad asociados a los robots impulsados por IA generativa. «El reto de seguridad que estamos enfrentando combina dos aspectos: primero, las evaluaciones probabilísticas avanzadas de IA generativa, es decir, cómo se puede evaluar el riesgo de un sistema probabilístico», explica Zhao. «Y segundo, la confianza, que también es crucial para poder desplegar un robot de forma segura.».
Safeworld ha salido oficialmente de su fase de secreto con una ronda inicial de más de 12 millones de dólares, liderada por Shine Capital y a16z Speedrun, además de inversiones de Box Group, el fondo de inversión de la Universidad Carnegie Mellon, Innovation Endeavors y SV Angel. El objetivo de la compañía es ofrecer soluciones de simulación avanzadas para validar la seguridad de robots antes de su puesta en marcha en entornos reales.
Uno de los escenarios más comunes que aborda Safeworld es el caso de un rincón ciego en una fábrica. «¿Cuál debe ser la velocidad o la distancia de frenado necesaria para evitar que el robot choque contra un humano?» pregunta Wong. «Si una persona lleva cajas, ¿el robot será capaz de detectarla?» Para responder estas preguntas, Safeworld crea una réplica digital del área en motores de simulación como Genesis o MuJoCo. En esta versión virtual, se introduce el robot bajo prueba, ejecutando su software real, y se ejecutan miles de escenarios donde modelos humanos interactúan con el robot.
Según Zhao, este proceso es más complicado de lo que parece porque los humanos son impredecibles. «Caerse y tropezarse es un ejemplo común de lo que probamos en simulación», dice Wong. «De lo contrario, tendríamos que hacerlo nosotros mismos, algo difícil de repetir constantemente.» La complejidad de simular comportamientos humanos impredecibles hace que la validación de seguridad sea especialmente crítica.
Aunque Safeworld comparte ciertas similitudes con las herramientas internas utilizadas por fabricantes de robots, los fundadores creen que la verdadera ventaja de su plataforma radica en la necesidad de terceros para validar el trabajo de los desarrolladores. «Mucha gente subestima cuán difíciles pueden ser algunas de estas situaciones extremas», señala Zhao. «No nos preocupan los robots en un entorno controlado o en una demostración, sino aquellos que se despliegan a gran escala con personas que nunca han operado un robot anteriormente.»
Vishal Dugar, CTO de Gritt Robotics, desarrolla la inteligencia artificial que guía robots que ayudan en la instalación de paneles fotovoltaicos en granjas solares industriales, con planes de expandirse a tareas más complejas de construcción. Su empresa colabora con Safeworld para mejorar sus simulaciones de seguridad. «La dificultad de nuestros sistemas es que es muy difícil probar formalmente su funcionamiento mediante pruebas matemáticas», comenta Dugar, destacando la importancia de la simulación para validar el comportamiento seguro de los robots en condiciones reales.
Para Dugar, la colaboración entre empresas como Safeworld y Gritt Robotics representa una nueva era en la industria robótica, donde la seguridad no solo es una prioridad técnica, sino también una necesidad económica. «Si queremos que los robots sean adoptados ampliamente, debemos demostrar que son confiables en entornos dinámicos y complejos», afirma. Esta visión está dando forma a un ecosistema donde la innovación tecnológica y la seguridad se convierten en pilares fundamentales del desarrollo robótico.
La empresa Safeworld no solo busca ofrecer soluciones técnicas, sino también establecer estándares de confianza en la industria. Al permitir la validación independiente de los sistemas robóticos, espera acelerar la adopción de robots en sectores críticos como la manufactura, la salud y la construcción. Con una base sólida de capital y experiencia técnica, Safeworld tiene el potencial de convertirse en un referente en la seguridad de la IA generativa aplicada a la robótica.
En un contexto donde la automatización está transformando industrias enteras, Safeworld representa una solución clave para superar las barreras de confianza que aún limitan la expansión de los robots autónomos. Su enfoque innovador en simulación y evaluación probabilística podría marcar un hito en la evolución de la robótica segura, sentando las bases para un futuro donde los humanos y los robots coexistan de manera armónica y segura.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch