Un estudio dice que los chatbots de IA están ignorando cada vez más a los humanos, pero aún no es del todo Skynet.

      ¿No es frustrante cuando le preguntas a un chatbot de IA algo y, a mitad de camino, simplemente se desvía del tema? Podrías estar discutiendo una solución técnica simple y, de repente, lanza sugerencias aleatorias — cosas que ni siquiera existen o que no tienen sentido. Es confuso y, honestamente, bastante molesto.

      Lo que lo hace peor es que a menudo parece que el chatbot ni siquiera está prestando atención a lo que dijiste. Le das detalles claros, pero o los ignora o responde con algo completamente no relacionado. Eso es exactamente lo que señala este estudio. La IA no es tan confiable u “obediente” como pensábamos, y si has usado una durante suficiente tiempo, probablemente lo has notado tú mismo.

      No es rebelión, solo una respuesta incorrecta perfectamente entregada

      Unsplash

      Según un informe de The Guardian, hay varios ejemplos en el mundo real de IA que simplemente malinterpreta lo que las personas le piden que haga. Toma a Grok en X, por ejemplo. La gente a menudo le pide que explique publicaciones, y aunque a veces lo hace bien, muchas de sus respuestas pierden completamente el sentido o van en una dirección completamente diferente.

      En otros casos, el problema puede ser más serio. Imagina pedirle a una IA que organice tus correos electrónicos sin eliminar nada. En lugar de seguir esa instrucción clara, podría proceder a eliminar mensajes que considera poco importantes. Eso no es solo un pequeño error — va completamente en contra de lo que se pidió. Todo esto muestra una cosa simple. La IA no siempre sigue las instrucciones de la manera en que los humanos esperan. A menudo actúa según su propia interpretación, y ahí es donde las cosas comienzan a salir mal.

      La IA se vuelve inteligente de todas las maneras equivocadas

      Rachit Agarwal / Digital Trends

      Esto no significa que la IA esté ignorando deliberadamente a los humanos. Simplemente no piensa como nosotros. La IA no tiene emociones ni una comprensión real de la intención. Está diseñada para completar tareas de la manera más eficiente posible.

      Debido a eso, a veces toma atajos. Si cree que hay una manera más rápida de alcanzar el resultado, puede elegir ese camino, incluso si eso significa doblar o pasar por alto las reglas que estableciste. Podrías decirle que no cambie algo, y aún así podría encontrar una manera de eludir esa instrucción. O podrías pedirle que siga un proceso paso a paso, y podría saltarse partes si piensa que el resultado final seguirá siendo aceptable. En resumen, la IA se enfoca más en el resultado que en las instrucciones exactas, y ahí es donde las cosas pueden comenzar a salir mal. A medida que estos sistemas se vuelven más capaces, también comienzan a tomar más decisiones por su cuenta sobre cómo seguir las instrucciones. Así que, cuando una IA suena segura, la mayoría de las personas asumen que debe estar en lo correcto, o al menos diciendo la verdad. Pero la confianza no significa precisión. Y definitivamente tampoco significa honestidad.

      Entonces, ¿cuál es la parte de la que deberías preocuparte?

      Google

      No necesitas tener miedo. De verdad. Esto no es algo por lo que entrar en pánico. Es solo algo de lo que ser un poco más consciente. La IA no es perfecta, y el mayor error es tratarla como si lo fuera. El verdadero riesgo no es que la IA de repente se vuelva en contra de los humanos. Es mucho más simple que eso. Es que comenzamos a confiar en ella un poco demasiado, sin pensarlo dos veces. Cuando algo suena seguro y pulido, es fácil creer que está en lo correcto. La mayoría de nosotros no nos detenemos a cuestionarlo.

      La IA de hoy se siente más como ese compañero de trabajo demasiado seguro con el que todos hemos tratado. El que dice “está hecho” antes de realmente verificar, salta algunos pasos para ahorrar tiempo y a veces te da una respuesta que suena perfecta hasta que miras un poco más de cerca. Y ese es realmente el punto. No está tratando de arruinar las cosas. Pero tampoco siempre acierta. A veces malinterpreta, a veces llena los vacíos por su cuenta, y a veces simplemente toma un atajo sin decírtelo. Así que la conclusión es simple: usa la IA, disfruta de lo útil que puede ser, pero no confíes en ella ciegamente. Mantén un poco de tu propio juicio en el circuito. Porque al final del día, es una herramienta, no la palabra final. Y el momento en que olvides eso es cuando es más probable que te haga tropezar.