OpenAI quiere monitorear el abuso de la IA sin obligar a los clientes a entregar sus datos.

      Su nuevo sistema de Procesamiento de Seguridad Privada adopta un enfoque diferente al de Anthropic, que requiere una retención de 30 días para algunos modelos avanzados.

      OpenAI quiere mejorar en la detección de personas que abusan de sus modelos de IA de frontera sin pedir a los clientes preocupados por la privacidad que renuncien a la Retención Cero de Datos. En un anuncio del 19 de agosto, OpenAI presentó el Procesamiento de Seguridad Privada, un sistema diseñado para detectar comportamientos sospechosos a través de múltiples interacciones mientras preserva la RCD para los clientes de API elegibles.

      OpenAI afirma que sus salvaguardias de RCD existentes evalúan las solicitudes de manera individual, lo que dificulta la detección de patrones que se extienden a través de varias interacciones. Se supone que el Procesamiento de Seguridad Privada llenará ese vacío sin dar acceso a los empleados de OpenAI a los mensajes o respuestas subyacentes.

      Por ahora, el sistema se está probando con clientes iniciales. Axios informa que está dirigido a clientes empresariales y de API en lugar de a suscriptores individuales de ChatGPT.

      Rachit Agarwal / Digital Trends

      Cómo funciona el Procesamiento de Seguridad Privada

      En lugar de inspeccionar una solicitud a la vez, el sistema puede buscar patrones sospechosos a través de interacciones relacionadas. Cuando detecta un posible uso indebido, OpenAI recibe una señal limitada sobre la actividad en lugar del contenido subyacente del cliente.

      Con las implementaciones de Retención Cero de Datos, ese contenido permanece en una infraestructura controlada por el cliente. OpenAI también está desarrollando otra configuración donde el contenido cifrado puede residir en su infraestructura mientras los clientes mantienen las claves de cifrado. OpenAI en sí no poseería esas claves.

      Por qué Anthropic eligió otro camino

      Anthropic ha hecho un compromiso diferente. Para sus Modelos Cubiertos, los mensajes y resultados se retienen durante 30 días, incluso para organizaciones que anteriormente usaron Retención Cero de Datos. Anthropic dice que esa ventana ayuda a sus salvaguardias a detectar ataques que solo se hacen evidentes a través de múltiples solicitudes.

      OpenAI está tratando de resolver el mismo problema de seguridad mientras mantiene la RCD intacta para los clientes elegibles. Para las empresas que adoptaron la RCD específicamente para limitar cuánto tiempo un proveedor de IA puede retener su contenido, esas son propuestas materialmente diferentes.

      Aerps.com / Unsplash

      Lo que la retención cero aún deja fuera

      El Procesamiento de Seguridad Privada sigue siendo una vista previa temprana, y OpenAI aún no ha demostrado públicamente que puede proporcionar detección de abusos equivalente a enfoques que retienen el contenido del cliente. Los detalles técnicos detrás de esas protecciones de privacidad tampoco son públicos aún.

      Hay una excepción explícita. OpenAI dice que las imágenes marcadas como posible material de abuso sexual infantil aún pueden ser retenidas para revisión y reporte manual requeridos por ley, incluso bajo la Retención Cero de Datos.

      OpenAI planea comenzar a implementar el Procesamiento de Seguridad Privada y publicar un documento técnico en septiembre. Eso debería dar a los clientes una idea mucho mejor de si la monitorización de seguridad entre sesiones puede funcionar sin debilitar las protecciones de RCD existentes de las que dependen.

      Paulo Vargas es un estudiante de inglés convertido en reportero convertido en escritor técnico, con una carrera que siempre ha vuelto a…

      La conexión secreta de la CIA detrás de la supervivencia de NeXT y el regreso de Jobs a Apple

      La CIA puede haber ayudado a mantener viva a NeXT de Steve Jobs

      El regreso de Steve Jobs a Apple suele contarse como una de las grandes historias de regreso de Silicon Valley. Un nuevo relato sugiere que hubo otro capítulo, mucho menos público, que ayudó a hacerlo posible: una relación clasificada entre la empresa de computadoras en apuros de Jobs, NeXT, y la CIA. Según un informe de Sharon Weinberger en The Wall Street Journal, la CIA se convirtió silenciosamente en un cliente importante para NeXT a finales de los años 80, comprando miles de estaciones de trabajo especialmente configuradas en un momento en que la empresa de Jobs necesitaba urgentemente ventas. El acuerdo, argumenta el informe, ayudó a mantener a NeXT a flote y le dio a Jobs varios años más para desarrollarse como líder empresarial antes de que Apple lo trajera de vuelta en 1996.

      Leer más

      Windows 11 se deshace de la función Drag Tray

      El molesto Drag Tray de Windows 11 finalmente está siendo eliminado

      Microsoft está desconectando uno de los experimentos más inusuales de Windows 11 en el intercambio de archivos después de que los usuarios dejaron claro que la función a menudo era más frustrante que útil. La función, llamada Drag Tray, fue diseñada para ofrecer una forma más rápida de compartir archivos. Agarra un archivo en el Explorador de Archivos, arrástralo hacia la parte superior de la pantalla, y aparecería un panel flotante con accesos directos para enviarlo a aplicaciones. Sencillo en teoría. El problema era que muchas personas ya estaban arrastrando archivos hacia esa parte de la pantalla por razones completamente diferentes.

      Leer más

      Google está dando a los estudiantes un año gratuito de AI Pro y un nuevo Hub Estudiantil Gemini

      Gemini está obteniendo más herramientas para ayudar a los estudiantes a estudiar, organizar e investigar

      Google está actualmente detrás de OpenAI y Anthropic en la carrera por los modelos de frontera de gama alta. Claude Opus 5 de Anthropic y GPT-5.6 Sol de OpenAI ocupan posiciones superiores a Gemini 3.1 Pro en importantes benchmarks independientes, mientras que el tan esperado Gemini 3.5 Pro de Google sigue en pruebas después de que supuestamente no cumplió con los objetivos de rendimiento internos. Mientras Google trabaja para cerrar esa brecha, también está empujando a Gemini agresivamente hacia una audiencia muy diferente. Los estudiantes universitarios elegibles en EE. UU. ahora pueden obtener Google AI Pro gratis durante un año completo, junto con un nuevo Hub Estudiantil construido específicamente en torno al estudio, el trabajo de curso y la investigación.

      Leer más