OpenAI y Meta han anunciado actualizaciones en el funcionamiento de sus chatbots de IA para proteger mejor a los adolescentes y usuarios que presenten signos de angustia emocional o mental. OpenAI, la empresa detrás de ChatGPT, anunció que los padres pronto podrán vincular sus propias cuentas al perfil de su hijo adolescente. Esto les permitirá desactivar funciones específicas y recibir alertas cuando el sistema detecte que su hijo pueda estar experimentando angustia emocional aguda.
La compañía también enfatizó que, independientemente de la edad del usuario, las conversaciones más sensibles serán redirigidas a modelos de IA más avanzados diseñados para brindar respuestas de mayor calidad y más apropiadas.
Estas medidas llegan poco después de que los padres de un joven californiano de 16 años, AR, presentaran una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que ChatGPT influyó en el suicidio de su hijo. Si bien los expertos advierten que estos casos no pueden atribuirse simplemente a la tecnología en sí, las empresas afirman que las nuevas medidas de seguridad buscan crear un entorno digital más seguro, especialmente para los usuarios más jóvenes.
