La inteligencia artificial está falsificando avistamientos de aves raras y perjudicando la ciencia.

      Un pájaro raro apareció en el centro de Brasil, o al menos eso parecía. Una foto en la plataforma de vida silvestre iNaturalist mostraba un tordo de alas rojas. Esa especie norteamericana nunca había aparecido en esa parte de Brasil. Habría sido un notable primer avistamiento.

      No era real. El pájaro en la foto original era un oriole de epaulet, una especie local común. El fotógrafo había pedido a una herramienta de IA que hiciera que la imagen “se viera mejor”. El software, de manera útil, añadió características de un pájaro diferente.

      El problema con ‘verse mejor’

      Ese caso está en el corazón de una advertencia de los investigadores, publicada como un comentario en Nature Ecology & Evolution. Ellos dicen que la IA generativa está comenzando a contaminar los registros de ciencia ciudadana. Esos avistamientos obtenidos de manera colectiva informan a los científicos sobre dónde viven las especies y cómo se mueven.

      Hay dos formas en que sucede. La más rara son falsificaciones completas, imágenes generadas desde cero y presentadas como reales. La más común es más sutil. Un observador de aves pide a la IA que elimine una rama o agudice una toma borrosa. El modelo luego reconstruye el pájaro, borrando las marcas de campo que lo identifican.

      Los investigadores dicen que ya han encontrado varios cientos de imágenes sospechosas, distribuidas entre la Biblioteca Macaulay, iNaturalist y WikiAves de Brasil. El número verdadero es desconocido, porque muchas pasan desapercibidas.

      Por qué importan los registros

      Estas plataformas no son solo galerías de aficionados. iNaturalist por sí solo alberga más de 610 millones de imágenes. Los científicos las utilizan para rastrear cómo la vida silvestre responde a un clima en calentamiento.

      “Las personas comunes están publicando información que un científico probablemente nunca podría obtener a gran escala”, dijo Tony Iwane de iNaturalist, coautor del artículo. Llamó a la red “casi como un sensor de lo que está sucediendo en la Tierra en tiempo real”. Su advertencia: la información necesita ser precisa.

      Alimentar con datos incorrectos lleva a inferencias erróneas. Un solo avistamiento inventado por IA puede sugerir que una especie ha cambiado su rango cuando no lo ha hecho. También hay un segundo costo. Las imágenes manipuladas utilizadas para entrenar herramientas de identificación de IA pueden degradarlas silenciosamente.

      La basura se encuentra con la naturaleza

      Las falsificaciones completas suelen ser fáciles de detectar. “Nadie se está creyendo un avistamiento de tucán en Siberia”, dijo el Dr. Alexander Lees al The Guardian. El ecólogo de la Universidad Metropolitana de Manchester lideró el artículo y dice que las ediciones silenciosas son el verdadero peligro.

      Lees lo expresó sin rodeos: una gran parte de las fotos de vida silvestre que ahora ve en Facebook son simplemente generadas por IA. Es la misma basura de IA que inunda el resto de la web. Aquí, sin embargo, corrompe un registro científico, no un feed. Las mismas herramientas que recrean un gol que nunca fue filmado pueden conjurar un pájaro que nunca estuvo allí.

      Respondiendo

      Las plataformas están comenzando a responder. iNaturalist ahora permite a los usuarios marcar imágenes de dos maneras. Una bandera de completamente generada por IA oculta la imagen. Una bandera de sobre-manipulada la baja a una categoría “casual”, por lo que nunca llega a las bases de datos de investigación.

      Hasta ahora, solo alrededor de 1,400 de sus 610 millones de imágenes llevan una bandera de IA. Aproximadamente 600 están marcadas como completamente generadas. Eso es tranquilizador o una señal de cuánto se está escapando, dependiendo de cómo se interprete. La detección es difícil, como ha encontrado Meta con su propio detector de imágenes de IA.

      Los investigadores quieren herramientas más fuertes: verificaciones de autenticación de imágenes y verificación de metadatos. Sobre todo, quieren educación, para que los observadores de aves aprendan que “mejorar” una foto puede romper la ciencia. La lección más amplia es familiar desde cada rincón de internet que la IA ha tocado. Una vez que las falsificaciones son lo suficientemente buenas, la confianza se convierte en el recurso escaso.