OpenAI ha empezado a desplegar este martes ChatGPT for Teens, una versión de su IA con restricciones de contenido y herramientas de estudio que se activa en las cuentas que la compañía identifica como pertenecientes a menores de 18 años. Llega a todos los planes personales, gratuitos y de pago, y no requiere que el adolescente cree una cuenta nueva ni cambie ningún ajuste.
La compañía usará más de 2.000 señales para estimar si quien escribe tiene menos de 18 años y aplicar restricciones. El despliegue global arranca hoy, con la empresa enfrentada a varias demandas
OpenAI ha empezado a desplegar este martes ChatGPT for Teens, una versión de su IA con restricciones de contenido y herramientas de estudio que se activa en las cuentas que la compañía identifica como pertenecientes a menores de 18 años. Llega a todos los planes personales, gratuitos y de pago, y no requiere que el adolescente cree una cuenta nueva ni cambie ningún ajuste.
El modo entra en funcionamiento de forma automática, tanto si el usuario declara tener entre 13 y 17 años al registrarse como si el sistema deduce que miente. OpenAI valorará más de 2.000 señales para hacer esa estimación, desde las horas habituales de conexión hasta la antigüedad de la cuenta. Si un adulto es clasificado como menor por error, tendrá que verificar su edad para salir de este modo restringido.
Las restricciones de contenido cubren temas como autolesiones, violencia, trastornos alimentarios, actividades peligrosas y material sexual o gráfico explícito. Casi todo eso ya existía en las cuentas de menores desde el otoño pasado pero el nuevo modo estrena también un nuevo tono de conversación. Tiene prohibido definirse como «amigo» del usuario, insinuar que siente algo por él o sugerir que posee conciencia. Tampoco puede usar lenguaje romántico ni apelativos cariñosos. El modo de voz está también desactivado por defecto.
La compañía también reconoce que la mayoría de adolescentes usa ChatGPT para hacer los deberes y activará el modo Estudio en estas cuentas. Este modo devuelve preguntas guiadas en lugar de la respuestas directa a una pregunta e intenta detectar cuándo un usuario adolescente está intentando saltarse un trabajo. Los padres tendrán posibilidad de establecer horas de estudio y horas de silencio, en las que se bloquea el acceso. Tras 90 minutos de uso en una ventana de tres horas, ChatGPT también sugerirá parar.
Los padres pueden vincular su cuenta a la del adolescente y recibir avisos en situaciones de riesgo, incluida ahora una categoría nueva para trastornos alimentarios, pero no podrán leer las conversaciones. Las alertas pasan por moderadores humanos que eliminan los detalles antes de enviarlas.
El movimiento es una respuesta a una situación legal cada vez más compleja para la compañía. OpenAI se enfrenta a varias demandas en EE.UU., la más conocida la de los padres de Adam Raine, un adolescente de 16 años que se suicidó tras conversaciones con el chatbot. En junio, Florida se convirtió en el primer estado en demandar a la empresa por tergiversar la seguridad de su plataforma para menores, y la Comisión Federal de Comercio de EEUU investiga a los chatbots que actúan como acompañantes. Estas demandas se producen mientras la compañía, valorada en 852.000 millones de dólares, prepara una salida a bolsa que podría batir récords.
En la Unión Europea, el Parlamento aprobó recientemente una resolución que recomienda 16 años como edad mínima para redes sociales y acompañantes de IA. La Comisión tiene lista desde abril una aplicación europea de verificación de edad que quiere ver desplegada antes de fin de año, con España entre los países pioneros en integrarla en su cartera digital.
Tecnología – Píxel
