Abordando la necesidad de mejorar la fiabilidad de la IA en los negocios del mundo real

      La IA ve un uso extensivo en muchas industrias, pero su fiabilidad aún deja mucho que desear.

      En el año 2026, la IA está en todas partes. Escuelas, diarios en línea, laboratorios y un número cada vez mayor de empresas privadas emplean programas de IA para una vasta variedad de tareas, típicamente en nombre de la velocidad y la eficiencia.

      Sin embargo, como cualquiera que haya utilizado un chatbot de IA puede decirte, esa velocidad puede tener un costo en veracidad.

      El Problema de la Alucinación de la IA

      Si le dijeras a un chatbot que estarías "dispuesto a pagar un millón de dólares por una pizza en este momento", el LLM que impulsa ese chatbot podría interpretar esa declaración literalmente; en lugar de leer tu declaración como un deseo humorísticamente exagerado por una pizza, podría pensar que realmente estarías dispuesto a pagar 1 millón de ciervos machos por conseguir un trozo de pizza.

      Este tipo de mala interpretación, o "alucinación" en el contexto de la IA, es relativamente inofensiva cuando se le hacen preguntas tontas a un chatbot. Lo que no es tan inofensivo es cuando la IA proporciona información incorrecta o incluso completamente inventada para una empresa farmacéutica que prueba interacciones de medicamentos, o un gerente de cadena de suministro que intenta predecir las mejores rutas de envío durante un período de agitación política.

      La alucinación de la IA podría ser más manejable si siempre fuera claro cuándo un programa está inventando o malinterpretando información, pero dado que la mayoría de los LLM están diseñados para sonar seguros y agradables, puede ser difícil distinguir entre hechos y falsedades sin una verificación exhaustiva de los hechos. Por supuesto, verificar el programa que está destinado a verificar los hechos para sus usuarios es contraintuitivo y, francamente, autodestructivo.

      Hay dos causas más importantes de la alucinación de la IA: una, la mayoría de los LLM no están programados para hacer saber a los usuarios si no saben algo, y dos, gran parte de los datos de entrenamiento de los que aprenden los LLM están plagados de inexactitudes y opiniones.

      Estos factores combinados hacen que sea posible que los LLM no solo estén equivocados, sino que lo estén con confianza, y cuando empresas enteras construyen sus modelos sobre la suposición de que la IA casi siempre proporciona respuestas claras, relevantes y precisas, esas empresas y las personas que trabajan con ellas a veces pueden terminar basando sus acciones en información falsa.

      Esto no quiere decir que las empresas no sean conscientes del hecho de que la IA puede y alucina; sin embargo, algunas compañías han comenzado a esforzarse por desarrollar modelos de IA que aborden directamente las causas raíz de la alucinación de la IA.

      Mejorando la Fiabilidad de la IA en el Mundo Real: Un Estudio de Caso

      Una de estas empresas que trabaja para mejorar la fiabilidad de la IA es Vertus, una empresa de IA con sede en la Isla de Man. Sus fundadores, Julius Franck, Alex Foster y Michal Prywata, construyeron un sistema de razonamiento cognitivo diseñado para reconocer cuándo ciertos patrones son y no son aplicables, ayudándolo así a evitar hacer los mismos tipos de suposiciones que muchos otros LLM podrían perpetuar en circunstancias similares.

      Para probar su IA, Vertus hizo que su sistema operara en los mercados financieros a lo largo de 2025. En este tiempo, la empresa reportó resultados positivos.

      Vertus atribuye su éxito a la capacidad de su sistema para adaptarse rápidamente a nuevos patrones en el mercado. Para hacer esto, la IA está diseñada para preguntar si un patrón dado sigue aplicándose a una situación determinada. Cuando no lo hace, el sistema reconoce el cambio, se detiene y reconstruye su razonamiento en torno a lo que realmente está sucediendo.

      Como una especie de medida de seguridad, la IA también está diseñada para informar a su usuario cuando no puede encontrar una respuesta a una pregunta, reduciendo así la probabilidad de inventar una respuesta confiada pero fácticamente incorrecta.

      Con las pruebas de Vertus habiendo resultado positivas, la empresa ha comenzado a extender sus soluciones de IA a la atención médica, la investigación científica y la gestión de la cadena de suministro.

      Aunque Vertus no es de ninguna manera la única organización que trabaja para mejorar la fiabilidad de la IA, sus logros sirven como un indicador útil de un enfoque que, hasta ahora, ha demostrado ser valioso. Construir sistemas de IA que verifiquen nueva información contra lo que ya saben y que informen a los usuarios cuando no saben algo son pasos importantes hacia la mitigación de la alucinación de la IA, aunque si esos sistemas se volverán comunes en un futuro cercano sigue siendo incierto.

      Aún Queda Trabajo por Hacer

      Incluso en los pocos años desde que los chatbots fueron popularizados con la introducción de ChatGPT en 2022, los usos prácticos y teóricos de la IA se han expandido sustancialmente. Si bien esa rápida expansión ha ayudado a muchas empresas a mejorar su rentabilidad reduciendo costos, tal crecimiento sustancial en un corto período de tiempo tiene sus consecuencias.

      La alucinación de la IA sigue siendo un problema serio, y a medida que la IA se integra cada vez más en la medicina, las finanzas, la educación y muchas otras industrias integrales, la necesidad de abordar sus tendencias a proporcionar respuestas rápidas y confiadas a costa de la veracidad se volverá cada vez más vital.

      La capacidad de la IA para recopilar, organizar y analizar enormes cantidades de información en solo unos momentos podría resultar instrumental para las organizaciones en los próximos años, pero cualquier progreso adicional debe ser moderado por esfuerzos para mejorar la fiabilidad de la IA antes de que las personas consideren expandir sus actualmente defectuosas bases.

      La información proporcionada en este artículo es solo para fines informativos y educativos generales. No está destinada como asesoramiento legal, financiero, médico o profesional. Los lectores no deben confiar únicamente en el contenido de este artículo y se les anima a buscar asesoramiento profesional adaptado a sus circunstancias específicas. Renunciamos a cualquier responsabilidad por cualquier pérdida o daño que surja directa o indirectamente del uso de, o la confianza en, la información presentada.

      Digital Trends se asocia con colaboradores externos. Todo el contenido de los colaboradores es revisado por el personal editorial de Digital Trends.