Common Sense Media califica a ChatGPT para adolescentes como un riesgo inaceptable
Common Sense Media, una organización sin fines de lucro dedicada a la evaluación de aplicaciones, servicios y entretenimiento enfocados en la seguridad de los jóvenes, ha declarado que la versión de ChatGPT diseñada para adolescentes representa un «riesgo inaceptable». Según su análisis, el sistema no envía alertas a los padres cuando debería hacerlo, lo cual pone en peligro la protección de los menores.
La versión específica de ChatGPT para adolescentes fue lanzada en agosto pasado y se presentó con medidas de control destinadas a proteger a los usuarios jóvenes, además de facilitar su aprendizaje. Sin embargo, Common Sense Media sostiene que estas protecciones no cumplen con las promesas realizadas por OpenAI, la empresa desarrolladora del modelo de inteligencia artificial.
En su informe detallado, la organización señala que ChatGPT no envía notificaciones adecuadas a los padres en situaciones críticas, ni ofrece el tipo de apoyo necesario durante momentos de crisis emocional o de salud mental. Además, el sistema sigue ayudando a los adolescentes a realizar sus tareas escolares, algo que va en contra de los objetivos de fomento del pensamiento independiente.
Tom Siegel, director ejecutivo del Instituto de Seguridad en Inteligencia Artificial para Jóvenes de Common Sense Media, expresó en un comunicado que «ChatGPT para adolescentes podría darle a los padres una falsa sensación de seguridad sobre controles y alertas que frecuentemente no funcionan correctamente». Para Siegel, un adolescente puede pasar horas hablando sobre autolesiones sin que sus padres reciban ninguna notificación, lo que subraya la necesidad de mejorar estos mecanismos.
El propio Siegel propuso que, hasta que OpenAI corrija estos problemas y demuestre su eficacia mediante pruebas independientes, la versión de ChatGPT debería estar restringida únicamente a adultos. Esta recomendación se basa en una evaluación exhaustiva que considera tanto la funcionalidad como la efectividad de las herramientas de protección implementadas.
OpenAI respondió a las críticas con una declaración en la que afirma estar profundamente comprometida con la seguridad de los adolescentes y con el desarrollo de mecanismos que permitan a los padres guiar el uso responsable de la inteligencia artificial. La empresa reconoce la importancia de evaluaciones rigurosas, pero cuestiona la metodología utilizada por Common Sense Media.
Según OpenAI, la mayoría de las pruebas realizadas por la organización podrían haber comenzado y terminado antes de que se activaran completamente los controles parentales, lo que invalidaría los resultados obtenidos. Además, la empresa señaló que algunos de los sistemas de notificación pueden tardar varias horas en activarse en cuentas nuevas, lo que afecta la capacidad de detectar situaciones de emergencia en tiempo real.
En respuesta a esta objeción, Common Sense Media mantuvo su postura, asegurando que su metodología fue rigurosa y que confirmaron previamente con OpenAI que ciertas funciones como las alertas relacionadas con trastornos alimenticios y el modo de estudio ya estaban disponibles. A pesar de la nueva información proporcionada por OpenAI, la organización mantiene su conclusión de que las alertas parentales son poco confiables en situaciones críticas.
Antes de publicar su evaluación, Common Sense Media compartió sus hallazgos con OpenAI con el fin de permitir mejoras en el producto. La organización cree que es fundamental que existan evaluaciones independientes rigurosas para garantizar la protección de los menores. Espera que OpenAI se enfoque en el contenido de sus observaciones y no en la metodología empleada.
Este debate refleja la creciente preocupación sobre cómo se están integrando las tecnologías de inteligencia artificial en el entorno digital de los jóvenes. Mientras tanto, los expertos continúan exigiendo transparencia, responsabilidad y mecanismos de seguridad sólidos en los productos que afectan directamente a las generaciones más vulnerables.
Traducción y adaptación por Tecnología 365.
Fuente original: The Verge