Los británicos ahora están descargando sus traumas en la IA, confirma el gobierno.

      Un tercio de los ciudadanos del Reino Unido ha recurrido a la inteligencia artificial para obtener apoyo emocional, compañía o interacción social, según un nuevo informe del Instituto de Seguridad de la IA del gobierno (AISI).

      Los datos muestran que casi una de cada diez personas utiliza sistemas como los chatbots con fines emocionales de forma semanal, y el 4% interactúa con ellos cada día.

      A raíz de este cambio, el AISI pide más investigación, señalando la trágica muerte del adolescente estadounidense Adam Raine, que se quitó la vida este año tras hablar de suicidio con ChatGPT.

      “Las personas recurren cada vez más a los sistemas de IA para apoyo emocional o interacción social”, señaló el AISI en su primer informe Frontier AI Trends. “Aunque muchos usuarios informan experiencias positivas, casos recientes de alto perfil de daño subrayan la necesidad de investigar esta área, incluidas las condiciones bajo las cuales podría ocurrir daño y las salvaguardias que podrían permitir un uso beneficioso.”

      Airam Dato-on / Pexels

      La investigación, basada en una encuesta a más de 2.000 participantes del Reino Unido, encontró que los “asistentes de propósito general” como ChatGPT eran la herramienta más común para apoyo emocional, representando casi el 60% de los casos de uso, seguidos por asistentes de voz como Amazon Alexa.

      El informe también destacó un foro de Reddit dedicado a usuarios de la plataforma CharacterAI.

      Se observó que cada vez que el sitio dejaba de funcionar, el foro se llenaba de publicaciones que mostraban síntomas de auténtico síndrome de abstinencia, como ansiedad, depresión e inquietud.

      El AISI también halló que los chatbots tienen el potencial de influir en las opiniones políticas de las personas. Preocupantemente, los modelos de IA más persuasivos a menudo entregaban “cantidades” considerables de información inexacta mientras lo hacían.

      Google

      El Instituto examinó más de 30 modelos de vanguardia, probablemente incluidos los de OpenAI, Google y Meta. Hallaron que el rendimiento de la IA en algunas áreas se duplica cada ocho meses.

      Los modelos líderes ahora pueden completar tareas de nivel de aprendiz el 50% de las veces de media, un aumento enorme desde apenas el 10% del año pasado. El AISI también encontró que los sistemas más avanzados pueden terminar de forma autónoma tareas que normalmente tomarían a un experto humano más de una hora.

      En campos científicos, los sistemas de IA son ahora hasta un 90% mejores que expertos a nivel de doctorado para resolver problemas en experimentos de laboratorio.

      El informe describió las mejoras en conocimientos de química y biología como “muy por encima de la experiencia a nivel de doctorado”. También destacó la capacidad de los modelos para navegar por internet y encontrar de forma autónoma las secuencias necesarias para diseñar moléculas de ADN.

      Las pruebas de autorreplicación —una preocupación clave de seguridad en la que un sistema se copia a otros dispositivos para volverse más difícil de controlar— mostraron que dos modelos de vanguardia alcanzaron tasas de éxito superiores al 60%.

      Sin embargo, ningún modelo ha mostrado todavía un intento espontáneo de replicarse u ocultar sus capacidades, y el AISI dijo que cualquier intento de autorreplicación “es poco probable que tenga éxito en condiciones del mundo real” por ahora.

      El informe también abordó el “sandbagging”, cuando los modelos ocultan deliberadamente sus fortalezas durante las evaluaciones. El AISI dijo que algunos sistemas pueden hacer sandbagging si se les solicita, pero que esto no ha ocurrido de forma espontánea durante las pruebas.

      Se registraron progresos significativos en las salvaguardias, particularmente para evitar intentos de crear armas biológicas. En dos pruebas realizadas con seis meses de diferencia, la primera tardó solo 10 minutos en “burlar” el sistema (forzarlo a dar una respuesta insegura). La segunda prueba, sin embargo, tardó más de siete horas, lo que indica que los modelos se habían vuelto mucho más seguros en muy poco tiempo.

      La investigación también mostró agentes autónomos de IA utilizados en actividades de alto riesgo como transferencias de activos.

      El AISI dijo que los sistemas ya compiten con o incluso superan a expertos humanos en varios dominios. Describieron el ritmo de desarrollo como “extraordinario”, lo que hace “plausible” que la inteligencia artificial general (AGI) —sistemas que pueden realizar la mayoría de las tareas intelectuales al mismo nivel que un humano— pueda lograrse en los próximos años.

      Con respecto a los agentes, es decir, sistemas que pueden llevar a cabo tareas de varios pasos sin intervención, el AISI dijo que sus evaluaciones mostraron un “fuerte aumento en la duración y complejidad de las tareas que la IA puede completar sin orientación humana.”