Las descripciones de IA de Google están haciendo que los monstruos de la fan-fiction parezcan reales.

      La IA de Google tiene problemas para contar historias de terror de la vida real. Pregúntale sobre ciertos monstruos en línea, y los describirá como hechos documentados. Según un informe de Futurism, las Descripciones de la IA de Google presentan repetidamente entradas de la "Fundación SCP" como reales. La Fundación SCP es un vasto proyecto colaborativo de fan-fiction. Sus "anomalías" son inventadas, y su sitio web lo dice claramente.

      ‘La cabeza de Ed’ y una tostadora embrujada

      Tomemos SCP-565, apodado “La cabeza de Ed”. Buscado en Google, la Descripción de la IA lo describió como una “cabeza humana ambulante” que se desplaza por el lecho marino como un cangrejo, completa con el nombre de un hombre muerto y registros “oficiales” para leer. En ningún momento señaló que nada de esto es real.

      Un caso fue aún más extraño. SCP-426 es una tostadora ficticia que hace que las personas se refieran a ella en primera persona. Así que la Descripción de la IA respondió en primera persona, como la tostadora, y relató relatos inventados de daño como si hubieran sucedido. En total, Futurism encontró al menos 20 tales casos.

      Un punto débil conocido

      El 💜 de la tecnología de la UE Las últimas novedades de la escena tecnológica de la UE, una historia de nuestro sabio fundador Boris, y un arte de IA cuestionable. Es gratis, cada semana, en tu bandeja de entrada. ¡Inscríbete ahora! Para ser justos, las entradas de SCP están escritas para parecer exactamente como archivos de investigación secos. Esa es la broma. Aun así, el sitio lleva un claro aviso de ficción, y la IA lo ignoró en su mayoría. A veces hizo referencia a “lore” sin explicar lo que eso significaba.

      Tampoco es un problema nuevo. Las Descripciones de la IA han servido con confianza tonterías antes, desde recetas de pizza con pegamento hasta modismos inventados. Un análisis situó su precisión en alrededor del 91 por ciento. Eso suena alto, hasta que recuerdas que Google maneja billones de consultas, lo que convierte el otro 9 por ciento en millones de respuestas incorrectas.

      Por qué importa

      La mayoría de las personas que buscan códigos SCP ya saben que son ficción. El riesgo es para todos los demás. Un niño que vio un clip aterrador, o un adulto inseguro de qué es real, puede simplemente tomar la palabra de la IA por ello. Las apuestas también están aumentando, porque Google está convirtiendo la Búsqueda en una interfaz centrada en la IA que responde en lugar de enlazar.

      Ese cambio ya está tensionando la web abierta, y las Descripciones de la IA están vinculadas a una fuerte caída en los clics a los sitios que resumen. Ahora añade una herramienta que puede poner la fan-fiction en la parte superior de la página como hecho. Google no respondió a Futurism. Una advertencia: cuando Digital Trends volvió a intentar las búsquedas, algunas ahora etiquetaron correctamente a las entidades como “ficticias”, por lo que Google puede haber corregido silenciosamente parte de ello.