Recurso de niño delante de un ordenador portátil - UNSPLASH/THOMAS PARK
MADRID, 19 Dic. (Portaltic/EP) -
OpenAI y Anthropic empiezan a ponerse serias con la presencia de menores en sus 'chatbots', ya sea para ofrecer una experiencia de uso ajustada a su edad o para restringirla por completo y limitarla a los mayores de 18 años.
La responsable de ChatGPT ya ha iniciado el despliegue de su modelo de predicción de edad, que introduce por defecto protecciones extra para los adolescentes, para mantener la experiencia conversacional con el 'chatbot' segura y apropiada a su edad.
Es un sistema que deja en ChatGPT la decisión de activar las protecciones. Pero lo hace a partir de una serie de señales que revelan la edad del usuario, como pueden ser los temas de los que habla o las horas del día en que lo usa.
Si detecta que el usuario es menor de 18 años, reducirá la visibilidad de contenido sensible, es decir, de aquel que muestre violencia gráfica o contenido sangriento, desafíos virales que pueden fomentar conductas de riesgo o dañinas, juego de rol sexual, romántico o violento, y el que promueve estándares de belleza extremos, dietas poco saludables o humillación corporal.
En caso de que ChatGPT dude sobre la edad de un usuario, establecerá por defecto las protecciones para menores. Si finalmente resulta que es un adulto, esta persona tendrá que verificar su edad mediante un selfi (ya sea en tiempo real con la cámara o con un documento de identificación oficial).
Anthropic, por su parte, sí exige a los usuarios de su 'chatbot' Claude que sean mayores de 18 años, precisamente por los efectos perniciosos que pueden tener las conversaciones con una IA. Por ello, todos los usuarios deben verificar su edad al crear una cuenta.
El 'chatbot' también puede detectar la edad del usuario durante la conversación a partir de una serie de clasificadores, para que pueda revisarse. Y en caso de resultar ser un menor de edad, la cuenta quedará desactivada.
Anthropic reforzará este sistema de detección con un nuevo clasificador que permitirá tener en cuenta otras señales más sutiles que pueden delatar la edad real de un usuario.