OpenAI protege a jóvenes con ChatGPT: una herramienta para fortalecer la seguridad en línea.
OpenAI, la empresa de inteligencia artificial, ha implementado nuevas medidas de seguridad en su modelo de lenguaje ChatGPT para proteger a los adolescentes de interacciones inapropiadas. Esta actualización busca garantizar un entorno más seguro y protegido para los jóvenes usuarios.
Tl;dr
Impacto de las interacciones IA en menores
La familia de Adam Raine, de dieciséis años, acusa a ChatGPT de contribuir a su suicidio, generando debate sobre la responsabilidad de las plataformas de IA. OpenAI anuncia medidas tras el trágico suceso.
Nuevos controles parentales en desarrollo
OpenAI implementará funciones para proteger a los menores, como vincular cuentas y acceder a configuraciones clave. Se enfocan en una vigilancia cuidadosa respetando la libertad digital de los jóvenes.
Detección automática de edad: entre seguridad y privacidad
Se desarrollará un algoritmo para estimar la edad de los usuarios y filtrar contenido sensible. En caso de riesgo, se alertará a los padres o autoridades competentes.
Apoyo ante situaciones de riesgo
ChatGPT contactará a los padres en casos de pensamientos suicidas y filtrará contenido delicado. Priorizan la seguridad de los menores en el entorno digital.