Un robotaxi de Waymo alerta a la policía por un arma: ¿Dónde queda la privacidad en los autos autónomos?
En una incidencia que ha generado gran controversia, Waymo, la empresa de Google dedicada a los vehículos autónomos, alertó a las autoridades tras detectar una arma durante un trayecto en uno de sus robotaxis. Dos adolescentes fueron arrestados después de que el sistema de inteligencia artificial del vehículo identificara una «arma de fuego» y activara una notificación automática hacia las fuerzas del orden.
El incidente, ocurrido a finales de septiembre, pone en evidencia las limitaciones de la privacidad en el entorno de los vehículos autónomos. Aunque estos vehículos prometen mayor seguridad y eficiencia, también plantean preguntas críticas sobre qué datos se recopilan, cómo se utilizan y hasta qué punto los pasajeros pueden esperar privacidad mientras viajan dentro de ellos.
Waymo, que opera una flota de vehículos equipados con múltiples cámaras tanto internas como externas, ya ha estado involucrado en debates sobre vigilancia y privacidad. En ocasiones anteriores, organismos de seguridad han solicitado permisos judiciales para acceder a imágenes capturadas por sus vehículos. Por ejemplo, en 2023, la policía de Los Ángeles obtuvo imágenes de un accidente registrado por un robotaxi de Waymo.
Durante las protestas contra la agencia ICE en Los Ángeles, cinco vehículos Waymo fueron dañados e incendiados, generando preocupación sobre si los autos podían estar grabando a manifestantes que podrían ser identificados posteriormente. Estas preocupaciones han sido reforzadas por el uso de tecnologías similares como las redes de lectura de matrículas automatizadas de Flock, que han sido criticadas por permitir el rastreo masivo de vehículos y el aumento de la vigilancia gubernamental.
A diferencia de los sistemas fijos de Flock, los vehículos Waymo se desplazan por las ciudades, llevando consigo cámaras tanto en su interior como en su exterior. Esta movilidad, combinada con su capacidad de monitoreo constante, amplía aún más el espectro de posibles implicaciones legales y éticas.
La última situación con los jóvenes arrestados eleva aún más el nivel de preocupación. En este caso, no fue la policía quien buscaba imágenes captadas por los vehículos; fue Waymo quien detectó una posible amenaza y actuó por sí mismo. La empresa no reveló cómo determina su sistema de IA si algo es un arma, cuán seguro debe estar para emitir una alerta ni qué rol juegan los humanos entre la detección automática y la llamada a la policía.
Este tipo de decisiones automatizadas, sin intervención humana directa, plantea nuevas cuestiones sobre la responsabilidad y el control. Mientras un conductor humano podría evaluar situaciones complejas antes de llamar a emergencias, un vehículo autónomo actúa según algoritmos preestablecidos, lo cual puede tener consecuencias imprevistas o injustas.
Bob Somers, exingeniero de Zoox, una empresa especializada en vehículos autónomos, y asesor técnico de la organización SAVE-US, expresó preocupación ante la falta de transparencia en los procesos de Waymo. «Esto no es solo un problema técnico, sino ético y legal», señaló, destacando la necesidad de establecer marcos claros sobre cómo deben operar estas tecnologías en el entorno público.
La industria de los vehículos autónomos sigue avanzando rápidamente, pero el caso de Waymo recuerda que la tecnología debe ir acompañada de regulaciones que protejan los derechos civiles. Sin una mayor transparencia y control, los autos sin conductor podrían convertirse en herramientas de vigilancia más que en simples medios de transporte.
Este incidente resalta la urgencia de definir claramente qué información se considera sensible, cómo se maneja y qué responsabilidades tienen las empresas tecnológicas en la protección de la privacidad de los ciudadanos.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge