Meta alertará a los padres sobre las conversaciones de autolesionismo de los adolescentes con IA.
Meta comenzará a informar a los padres cuando un adolescente hable sobre suicidio o autolesiones con su chatbot de IA de Meta. La empresa anunció el cambio en una publicación de blog el jueves.
Las alertas se envían a los padres que utilizan herramientas de supervisión de Instagram. Ya están activas en EE. UU., Reino Unido, Australia y Canadá, informó TechCrunch. Alcanzarán al resto del mundo a finales de año.
Cómo funcionan las alertas
Meta dice que construyó un sistema de IA dedicado para esto. Detecta conversaciones donde un adolescente hace una referencia clara a hacerse daño. Una persona revisa cada conversación marcada antes de que se envíe una alerta. Si la intención no está clara, Meta dice que errará del lado de la precaución y aún notificará al padre.
La alerta no incluirá el mensaje exacto, informó CNET. En cambio, los padres recibirán una notificación más consejos escritos por expertos sobre cómo abordar el tema. Se basa en herramientas anteriores. Estas incluyen alertas de términos de búsqueda en Instagram y una función que muestra los temas que un adolescente cubre con Meta AI.
Servicios de emergencia y configuraciones más estrictas
Meta también está construyendo una forma de alertar a los servicios de emergencia. Se activaría cuando una conversación sugiera que alguien, adulto o adolescente, está en riesgo inminente. Meta ya hace esto para publicaciones en Facebook e Instagram, y realizó más de 19,000 tales referencias el año pasado.
Su configuración más estricta de "Contenido Limitado" ahora también cubre Meta AI. Con ella activada, el chatbot rechaza una gama más amplia de solicitudes. Meta AI ya está entrenada para evitar conversaciones sexuales, románticas o relacionadas con el alcohol con adolescentes.
Elogiada y dudada
Meta dice que se basó en más de 75 clínicos. Larry Magid de la organización sin fines de lucro ConnectSafely respaldó el enfoque como un equilibrio entre la privacidad de los adolescentes y la conciencia parental.
Otros eran cautelosos. El cambio es “un paso en la dirección correcta, pero… debe ser recibido con escepticismo”, dijo el abogado de Fairplay, Brendan Bouffard, a Mashable. Tales alertas corren el riesgo de convertirse en “palabrería”, agregó el experto clínico Dr. John Ackerman, a menos que sean fáciles de usar y conduzcan a acciones reales.
La presión es tanto legal como ética. Meta perdió dos juicios sobre seguridad infantil y adicción a las redes sociales este año y está apelando ambos. OpenAI ha añadido sus propias protecciones para adolescentes, desde una función de “Contacto de Confianza” hasta recordatorios de ruptura.
Un reconocimiento más amplio de la seguridad
El movimiento llega en una semana ocupada para la seguridad de la IA. Un estudio de la Junta de Supervisión de Meta se publicó el mismo día. Encontró que los modelos importantes de Meta, Anthropic y OpenAI a menudo se negaban a criticar a líderes restrictivos más que a los permisivos, informó la Associated Press. Los ejemplos iban desde China hasta Arabia Saudita. Eso corre el riesgo de “extender el largo brazo de los gobiernos restrictivos a través de las fronteras”, dijo el informe.
Google, mientras tanto, rechazó un informe de Common Sense Media que calificaba su búsqueda de IA como un “riesgo inaceptable” para los niños, informó Digital Trends. Google dijo que las pruebas utilizaron búsquedas artificiales que no podía reproducir.
Todo esto se suma a una ola más amplia de escrutinio. Canadá ha endurecido las reglas para chatbots y menores, y Ofcom está investigando TikTok. Australia ha implementado límites en las redes sociales para adolescentes, y China ha intensificado la represión de los compañeros de IA.
Este es un tema sensible. Si tú o alguien que conoces está pasando por dificultades, hay ayuda disponible. En EE. UU., llama o envía un mensaje de texto al 988. En otros lugares, puedes encontrar una línea de ayuda local en findahelpline.com.
Otros artículos
Conoce al filósofo de DeepMind que reflexiona sobre la ética de la IA
Un artículo extenso de The Guardian perfila a Iason Gabriel, el filósofo de DeepMind que ha pasado casi una década reflexionando sobre la ética de la IA dentro de Google.
Este dron giratorio se oculta a simple vista utilizando una ilusión visual.
Ingenieros del noroeste construyeron un dron giratorio que explota el desenfoque de movimiento, haciéndolo aproximadamente diez veces menos visible que los drones convencionales.
DeepMind lanza un programa de bioseguridad de IA
Google DeepMind e Isomorphic Labs lanzaron un programa de bioseguridad de IA para ayudar a los gobiernos a prevenir, detectar y responder a amenazas biológicas.
a16z lidera una ronda de semillas de $20M en la startup de agentes de IA Runta
a16z ha liderado una ronda de semillas de $20M en Runta, que está reconstruyendo la infraestructura de agentes de IA para que las empresas puedan ejecutar agentes de manera segura con entornos controlados y límites.
Un plan de la FCC podría acabar con los teléfonos desechables anónimos en EE. UU.
Un nuevo plan de conocimiento del cliente de la FCC requeriría verificaciones de identificación para comprar un teléfono, poniendo fin a los teléfonos desechables anónimos. Los grupos de privacidad lo califican de erróneo.
Nuevo robot aspirador barre de una manera nueva.
Parece que nuestros suelos pronto estarán más limpios que la conciencia de un funcionario antes de las elecciones. La marca TROUVER ha decidido agitar la situación y está trayendo a Rusia tres nuevos robots asesinos de suciedad. En realidad, estos chicos ya han estado navegando por los espacios del mercado mundial bajo la marca MOVA. Ahora ha llegado nuestro turno.
Meta alertará a los padres sobre las conversaciones de autolesionismo de los adolescentes con IA.
Meta alertará a los padres si un adolescente habla sobre suicidio o autolesiones con Meta AI, en medio de un creciente escrutinio sobre cómo los chatbots de IA tratan a los jóvenes usuarios.