Meta permitirá a los padres ver los chats de los niños con la IA e intervenir antes de que los riesgos se descontrolen.
Meta ha estado en problemas por la seguridad de los adolescentes y la IA durante un tiempo. Después de una investigación del Wall Street Journal, una demanda perdida en Nuevo México y una investigación de la FTC, la compañía finalmente está implementando algunas herramientas significativas de supervisión parental.
Hoy, Meta está introduciendo una nueva pestaña de Insights en su centro de supervisión en tres de sus plataformas más populares: Instagram, Facebook y Messenger. Aunque el nombre no lo deja claro de inmediato, la función ofrece a los padres una ventana a lo que sus adolescentes están discutiendo realmente con la IA de Meta en todas estas aplicaciones.
Meta
¿Qué pueden ver realmente los padres?
Si bien los padres no obtendrán una transcripción palabra por palabra de la conversación de sus hijos con la IA de Meta, la nueva pestaña de Insights proporciona resúmenes semanales de temas. Cubre categorías amplias como Escuela, Entretenimiento, Estilo de vida, Viajes, Escritura y Salud, cada una con sus propias subcategorías.
Salud y Bienestar, por ejemplo, abarca temas como fitness, salud física y salud mental. La esperanza aquí es que las categorías proporcionen suficiente contexto para que los padres identifiquen un patrón preocupante entre los temas sin tener que leer todos los mensajes.
Más allá de la visibilidad de los temas, los padres también pueden decidir qué personajes de IA puede acceder su hijo, e incluso cerrar completamente los chats de personajes mientras mantienen disponible al asistente de IA para casos de uso generales, como hacer tareas, resolver consultas cotidianas, etc.
Meta
Meta también está desarrollando alertas dedicadas para temas sensibles, que, creo, es la forma más efectiva de notificar a los padres sobre cualquier conversación preocupante. Si la conversación de IA de un adolescente trata sobre autolesionarse, o peor, se desvía hacia el suicidio, los padres serán informados directamente.
¿A quién está disponible esto?
Por ahora, la pestaña de Insights está disponible en Estados Unidos, Reino Unido, Australia, Brasil y Canadá. Se espera un lanzamiento global en unas pocas semanas. Además de esta nueva adición, Meta también ha colaborado con el Centro de Investigación sobre Ciberacoso para desarrollar iniciadores de conversación.
Estos incluyen sugerencias que pueden ayudar a los padres a abrir discusiones no críticas sobre la IA con sus adolescentes. Es importante destacar que el movimiento de la compañía se produce bajo una presión legal y regulatoria significativa, no por un noble instinto, y es la diferencia que importa.
Si el sistema de alertas de temas sensibles funciona bien, podría establecer un estándar industrial sobre cómo las plataformas de IA o redes sociales manejan a los jóvenes usuarios vulnerables.
Otros artículos
Meta permitirá a los padres ver los chats de los niños con la IA e intervenir antes de que los riesgos se descontrolen.
Meta está proporcionando a los padres resúmenes semanales de los temas de las conversaciones de sus adolescentes con la IA de Meta en Facebook, Messenger e Instagram.
