El aspecto más importante de la nueva función ChatGPT para adolescentes probablemente será también el que más moleste a los jóvenes. Si les piden que haga su tarea, el chatbot debe reconocerlo y, en su lugar, orientar al estudiante para que resuelva las preguntas por sí mismo, en lugar de producir un ensayo listo para pegar.

Puede parecer un ajuste menor respecto a la fórmula habitual de ChatGPT, pero ataca uno de los problemas más importantes al permitir a los estudiantes un acceso fácil a chatbots de IA. Aunque las capacidades de ChatGPT como tutor, asistente de investigación y explicador paciente suponen un aporte potencial a la aprendizaje, que termine la tarea del estudiante mientras revisa TikTok es algo que todos deberíamos querer evitar.

ChatGPT para Adolescentes es una de las formas en que OpenAI intenta apartarse de ese escenario desalentador. La experiencia está pensada para usuarios de entre 13 y 17 años y se aplica automáticamente cuando alguien indica esa franja de edad o cuando los sistemas de OpenAI estiman que el usuario tiene menos de 18 años.

El “Recordatorio de Tarea Responsable” podría traer ciertos aspectos positivos a la idea de que los adolescentes usen ChatGPT, no solo formas de limitar el daño. La función supuestamente reconoce cuando un adolescente quiere que la IA haga la tarea y lo redirige hacia Modo de Estudio.

Preguntas en lugar de respuestas

Ha existido siempre una tensión ligeramente absurda entre IA y educación. Queremos que los estudiantes tengan acceso a tecnología que pueda explicar casi cualquier cosa cuando lo pidan, pero preferiblemente sin permitir que esa tecnología haga todo el aprendizaje por ellos. Dar a un adolescente acceso a ChatGPT y suponer que siempre lo utilizarán éticamente para aprender es una idea absurda. Incluso con las mejores intenciones, la IA tiende a ser excesivamente útil y a socavar el tipo de aprendizaje que proporciona la investigación y el esfuerzo reales.

OpenAI aborda la solución desde una perspectiva de ingeniería. ChatGPT para Adolescentes combina el Modo de Estudio y sus conversaciones centradas en el aprendizaje, cuestionarios y, ahora, recordatorios de tareas. Los adolescentes y los padres también pueden establecer Horas de Estudio, haciendo que el Modo de Estudio sea la configuración predeterminada durante esos momentos.

Como el Modo de Estudio se basa en guiar preguntas y en emular a docentes, debería al menos reducir la incidencia de que los chicos dependan de ChatGPT para hacer el trabajo por ellos. OpenAI afirma que el sistema se desarrolló con la colaboración de docentes y científicos para fomentar una participación activa.

Como muestra un ejemplo visual reciente, una imagen asociada a la iniciativa subraya el enfoque educativo más que trivializar la tarea. Aunque prohibir ChatGPT por completo puede parecer más sencillo, hay una razón por la cual muchos educadores prefieren soluciones como ChatGPT para Adolescentes. Un adolescente atascado con un problema de álgebra a las 10:30 de la noche, o que no cuenta con los recursos para contratar un tutor, puede al menos pedir ayuda para entender el problema, y con el Modo de Estudio, eso implica algo más que obtener la respuesta.

“No todos los estudiantes tienen a alguien en casa que pueda ayudar cuando se quedan atascados o tienen preguntas con su tarea. Con las barreras adecuadas, la IA puede ayudar a llenar ese vacío”, dijo Racquel Gibson, profesora de matemáticas de secundaria en Miami, en un comunicado. “Herramientas como el Recordatorio de Tarea Responsable pueden guiar a los estudiantes paso a paso, ayudándolos a entender sus errores, a ganar confianza y a seguir aprendiendo, no simplemente a entregar una respuesta. Ese tipo de apoyo individualizado puede marcar una diferencia significativa para los estudiantes que quieren tener éxito pero no siempre saben cómo avanzar”.

Existe una salvedad importante. Las salvaguardas solo importan si realmente funcionan cuando un adolescente determinado las pone a prueba. La estimación de la edad que ocurre en segundo plano debe permitir determinar si un usuario es menor de 18 años, empleando señales como la edad de la cuenta, los patrones de uso, los temas discutidos y las horas del día en que se utiliza ChatGPT. OpenAI ha reconocido que no es un sistema perfecto, pero continúa trabajando para mejorar estas salvaguardas.

Seguridad para adolescentes

ChatGPT para Adolescentes también incluye salvaguardas reforzadas para identificar y evitar conversaciones sobre temas como autolesiones y otras formas de violencia, trastornos alimentarios y contenido sexual. Estas salvaguardas son, con razón, tan o más importantes que las que evitan que los jóvenes usen la IA para hacer la tarea.

No obstante, las preocupaciones sobre desinformación, adicción a los chatbots y un deterioro general del pensamiento causado por las IA conversacionales siguen ocupando la mente de muchos padres.

Pero al menos los Recordatorios de Tarea Responsable son un gesto en la dirección correcta, reconociendo que la IA no tiene que maximizar la cantidad de trabajo que realiza en tu nombre para ser útil. Para un adolescente que intenta aprender, hacer un poco menos puede, a veces, ser la función más sofisticada.

Si OpenAI puede hacer que ese comportamiento sea confiable, los jóvenes pueden quejarse de que ChatGPT ya no coopera tanto justo cuando se aproxima una tarea. Pero ser menos susceptible de ayudar podría, en el largo plazo, hacer que ChatGPT sea más útil.