El Paradoja de la Información Inversa de Nadella: el costo oculto de la IA

      Satya Nadella de Microsoft dice que cada empresa que utiliza IA está pagando por ello dos veces, una en efectivo y otra en los secretos que entrega para hacer que la cosa sea útil. Él lo llama la Paradoja de la Información Inversa. También dirige la empresa que ayudó a construir la trampa.

      Satya Nadella tiene una advertencia para todos los que compran IA. Estás pagando por ello dos veces. Y el segundo pago son tus joyas de la corona.

      En un largo ensayo en X que atrajo 10 millones de visitas, el jefe de Microsoft expuso una idea que él llama la Paradoja de la Información Inversa. Es aguda, un poco extraña y más que un poco incómoda viniendo de él.

      Paga una vez en efectivo, una vez en secretos

      El nombre es un juego de palabras sobre el economista Nobel Kenneth Arrow. La paradoja original de Arrow era el problema del vendedor. Para vender información, a menudo tienes que revelarla, y una vez que se revela, ¿por qué alguien pagaría?

      Nadella lo invierte. En la era de la IA, argumenta, el riesgo recae en el comprador. Para hacer que un modelo sea genuinamente útil, tienes que alimentarlo con tu conocimiento propietario. Cuanto mejor quieras que funcione, más lo alimentas.

      Así que pagas en dinero, luego de nuevo en algo que vale más: el know-how que hace que tu empresa sea tuya. “El vendedor aprende cada vez más sobre ti a medida que usas lo que compraste”, escribió, “mientras que tú aprendes muy poco sobre lo que el vendedor está aprendiendo a cambio.”

      La fuga que no puedes ver

      La parte ingeniosa es donde dice que el conocimiento escapa. No a través de alguna violación obvia, sino a través de lo que él llama “exhaust”: los mensajes que escribes, las herramientas que usan tus agentes y, sobre todo, las correcciones que haces cuando el modelo se equivoca.

      Cada corrección enseña al modelo. “Es el tipo de conocimiento que un competidor nunca podría comprar”, escribió Nadella, “y el tipo que se filtra casi imperceptiblemente: traza por traza, corrección por corrección, evaluación por evaluación.”

      Su veredicto es contundente. Si el aprendizaje solo fluye en una dirección, el dinero fluye con él, hacia quien posee la IA, no hacia quien posee el conocimiento.

      La ironía está haciendo mucho trabajo

      Aquí está el truco. Esto es Microsoft hablando.

      Redmond invirtió miles de millones en OpenAI y alojó ChatGPT en Azure. Su asistente Copilot está diseñado para profundizar en el correo electrónico, archivos y chat de una empresa. En 2024, aproximadamente la mitad de los jefes de datos en una encuesta habían pausado o restringido Copilot por exactamente este miedo, como señaló el Register.

      A su crédito, Nadella menciona el doble rasero de su propio lado. Los laboratorios de IA exigen derechos de uso justo para entrenar en la web pública, luego restringen a los clientes de hacer lo mismo con las salidas del modelo. No está equivocado. También está vendiendo la solución.

      La respuesta de Nadella, y su propuesta

      La solución, dice, es un “límite de confianza” estricto alrededor de los datos, evaluaciones y memoria de una empresa. Nada lo cruza, “ni siquiera el exhaust de inteligencia, sin consentimiento.” Toma prestada una línea de Alex Karp de Palantir sobre querer poseer los medios de producción.

      Su lista de verificación consta de cinco puntos. Posee tus evaluaciones. Construye entornos de aprendizaje dentro de tu propio límite de inquilino. Mantén la capa de orquestación libre de cualquier modelo único. Luego deja que todo se acumule. Microsoft, naturalmente, vende productos que hacen cada una de estas cosas.

      Elimina la propuesta y el punto central aún se sostiene. Este es el mismo ejecutivo que se volvió contra los gigantes de IA que ayudó a construir. Los laboratorios fronterizos están acumulando silenciosamente una fortuna en el know-how de otras empresas. Y las empresas que lo entregan, por ahora, lo están haciendo gratis.