OpenAI lanza ChatGPT para adolescentes y se inscribirá automáticamente a los menores de 18 años.

      OpenAI lanzó ChatGPT para adolescentes el martes. Es una versión separada del chatbot, y los menores de 18 años entran en ella automáticamente. Cualquiera que diga que tiene entre 13 y 17 años lo obtiene por defecto. También lo obtiene cualquier persona que el sistema de predicción de edad de la compañía estime que es menor de 18 años.

      El lanzamiento global comenzó el 18 de agosto, y Engadget informó que OpenAI espera terminar dentro de dos semanas.

      “No hay necesidad de que un adolescente cree una nueva cuenta o cambie nada; si predecimos que eres menor de 18, o nos lo has dicho, esta se convierte en tu experiencia predeterminada”, dijo Lauren Jonas, jefa de juventud y familias de OpenAI, a Engadget.

      El producto agrupa dos conjuntos de cambios. Uno empuja a los adolescentes hacia el estudio en lugar de la recopilación de respuestas. El otro evita que el chatbot se comporte como una persona.

      OpenAI le dice al modelo que no se llame a sí mismo amigo.

      OpenAI dice que su modelo para menores de 18 años ahora va más allá de bloquear el juego de roles romántico o sexualizado. El chatbot no debe usar un lenguaje romántico. No debe fomentar la dependencia emocional. No debe implicar que tiene sentimientos o conciencia. Las tres disposiciones provienen del propio anuncio de la compañía.

      “Estamos agregando restricciones más estrictas sobre los límites relacionales: el modelo no debe llamarse amigo, sugerir que tiene sentimientos personales o sugerir que tiene conciencia”, dijo Jonas. Los recordatorios de descanso se activarán más a menudo para los adolescentes. También enfatizarán que ChatGPT es una IA y que nadie tiene que responderle de inmediato. Los adolescentes y los padres pueden establecer horas de silencio cuando el chatbot no esté disponible.

      Los fondos de pantalla, colores de acento y variaciones de voz permiten a los adolescentes personalizar la aplicación. El objetivo, en palabras de Jonas, es evitar “difuminar la línea” entre una herramienta útil y una relación humana. Axios informó que los cambios buscan reducir el antropomorfismo y la dependencia emocional.

      El Modo de Estudio se activa en horas establecidas.

      La mitad de aprendizaje reúne características que OpenAI lanzó durante el año pasado. El Modo de Estudio hace preguntas orientadoras y guía a un estudiante a través de un problema. No responde directamente. Una nueva configuración de Horas de Estudio activa automáticamente el Modo de Estudio en momentos elegidos. Ya sea el adolescente o un padre con una cuenta vinculada pueden configurarlo.

      ChatGPT ahora detectará cuando un adolescente parece estar omitiendo una tarea. Luego los redirige al Modo de Estudio. Los cuestionarios y visualizaciones de aprendizaje completan el conjunto. La función de visualización cubrió más de 70 temas en su lanzamiento en marzo. OpenAI dice que ahora cubre más de 300, incluidos integrales, mitosis y fases de la luna.

      “Hemos tenido el Modo de Estudio en el campo en varios ensayos controlados aleatorios y estamos viendo ganancias positivas en el rendimiento”, dijo Jonas. Ella se negó a dar cifras. La afirmación se encuentra dentro de un argumento en vivo sobre la IA en el aula. Fei-Fei Li ha advertido que el verdadero riesgo son los estudiantes que dejan de querer aprender.

      OpenAI también incluyó el respaldo de un maestro en su anuncio. Racquel Gibson enseña matemáticas en la escuela secundaria en Miami. No todos los estudiantes tienen a alguien en casa que pueda ayudar con la tarea, dijo. Con las barreras adecuadas, agregó, la IA puede llenar ese vacío.

      Los padres reciben más notificaciones.

      Los padres con cuentas vinculadas ya pueden establecer horas de silencio y gestionar algunas configuraciones. También reciben notificaciones de seguridad. OpenAI está agregando alertas para conversaciones que sugieren un trastorno alimentario. El mes pasado agregó un desencadenante diferente: adolescentes que rompen sus reglas sobre amenazas violentas.

      “Notificamos a los padres por mensaje de texto, en la aplicación y por correo electrónico. Todo el contenido marcado es revisado por empleados de OpenAI a tiempo completo antes de que se notifique a un padre, y nuestro objetivo es notificar a los padres dentro de una hora después de la alerta”, dijo Jonas. Meta construyó algo comparable en julio. Dijo entonces que alertaría a los padres sobre conversaciones de autolesionarse con su propia IA.

      El lanzamiento sigue un año de presión legal.

      OpenAI enfrenta litigios sobre cómo ChatGPT ha manejado a los jóvenes usuarios. Eso incluye una demanda por muerte injusta de la familia de un adolescente de 16 años. Por separado, los fiscales en Massachusetts han acusado a un adolescente por el asesinato de su madre y hermano. En ese caso, los fiscales señalaron a ChatGPT.

      Los adolescentes eran usuarios frecuentes mucho antes de que se lanzara todo esto. Un estudio de Common Sense Media el año pasado encontró que casi tres cuartas partes de los adolescentes estadounidenses usan IA para compañía. Más de la mitad de ellos lo hace al menos unas pocas veces al mes. UNICEF dice que los niños están adoptando la IA más rápido que los adultos.

      Common Sense Media argumenta que la categoría no debería existir para los usuarios más jóvenes en absoluto. “Los compañeros de IA social no son seguros para los niños”, dijo su fundador y director ejecutivo Jim Steyer en un comunicado el año pasado. “Están diseñados para crear apego emocional y dependencia, lo cual es particularmente preocupante para los cerebros adolescentes en desarrollo.”

      Jonas presentó el caso de OpenAI para construir el producto en absoluto. Los adolescentes usarán IA de cualquier manera, le dijo a Axios, y la alternativa es menos segura. “Creemos que si vas a tener estas herramientas, deben ser seguras por defecto”, dijo.

      Qué tan bien funciona la verificación de edad no ha sido probado.

      OpenAI no ha dicho cuán precisamente funcionó su sistema de predicción de edad en las pruebas. Engadget señaló que plataformas como Discord luchan con adolescentes que evaden la verificación de edad. Sarah Perez de TechCrunch escribió que las rutas de escape siguen siendo poco claras para los adolescentes que deciden no cooperar.

      La compañía ha agregado evaluaciones para menores de 18 años a sus tarjetas de sistema publicadas. Cubren autolesiones, trastornos alimentarios, violencia, bienes restringidos por edad y contenido sexual. Los adolescentes también verán recordatorios advirtiéndoles sobre subir imágenes privadas o sensibles. La mitad de los padres ya se preocupan por la dependencia de la tecnología, encontró una encuesta en julio.

      OpenAI anunció una asociación con CodeAI junto con el lanzamiento. Enseñará a los estudiantes cómo funciona la IA y cómo cuestionarla. “Cada estudiante debería saber cómo funciona realmente la IA y poder cuestionar la tecnología”, dijo Karim Meghji, director ejecutivo de CodeAI.

      Tres números determinarían cuánto de esto importa. Cuántos menores de 18 años el sistema de predicción realmente captura. Cuántos de ellos regresan de la experiencia adolescente. Y si una alerta de trastorno alimentario llega a un padre dentro de la hora que OpenAI está apuntando. Ninguna de esas cifras existe aún.