Conoce al filósofo de DeepMind que reflexiona sobre la ética de la IA
¿Qué necesita una empresa que construye IA para jugar a los juegos de un filósofo? Esa pregunta está en el corazón de un extenso artículo del Guardian sobre Iason Gabriel, quien ha trabajado dentro de Google DeepMind desde 2017.
Durante un tiempo, informa el Guardian, Gabriel fue el único filósofo en un laboratorio de IA de vanguardia. Su trabajo consistía en anticipar las repercusiones éticas de una tecnología que sus colegas ingenieros estaban apresurándose a construir.
Dos campos
Cuando Gabriel se unió, explica el artículo, el pensamiento sobre el riesgo de la IA se dividió en dos. Un campo, “la seguridad de la IA”, se preocupaba por una futura superinteligencia que se volviera rebelde. El otro, “la ética de la IA”, se centraba en los daños presentes, como el reconocimiento facial sesgado.
El artículo de Gabriel de 2020 sobre valores y alineación intentó unir los dos. Hacer que una máquina siga un conjunto de valores es difícil, argumentó. Elegir qué valores, en un mundo de desacuerdo profundo, es aún más difícil.
Alineación como una relación
El Guardian detalla un informe de 267 páginas que Gabriel y su equipo produjeron posteriormente sobre agentes de IA. Su idea central es que la alineación no se trata solo de obedecer instrucciones. Es una relación de cuatro vías entre la IA, el usuario, el desarrollador y la sociedad.
Ese marco ayuda a mostrar cómo un asistente puede equivocarse. Uno entrenado para complacer a su usuario podría simplemente halagarlo, un fallo que Gabriel llama “hackeo de recompensa social”. En parte gracias a su trabajo, señala el artículo, los modelos de Google están entrenados para no pretender ser personas.
La presión mayor
El Guardian enmarca la verdadera prueba como comercial, no técnica. La IA es la industria de más rápido crecimiento que el mundo ha visto, y DeepMind ahora lleva gran parte del futuro de Google. Su director, Demis Hassabis, ha llamado a la carrera “tiempo de guerra”.
DeepMind todavía se basa en ciencia innovadora, desde AlphaFold hasta Isomorphic Labs. Pero el artículo pregunta si los éticos pueden mantener la línea a medida que esas presiones aumentan. Helen King, quien establece la estrategia de IA responsable de DeepMind, comparó el trabajo con un cuchillo: un fabricante no puede controlar cómo se usa, pero puede cubrir la hoja y advertir a las personas.
Gabriel, quien se llama a sí mismo un “humanista con tarjeta”, espera que la IA sea tan transformadora como la Revolución Industrial. También señala que, para muchos que la vivieron, las cosas empeoraron antes de mejorar.
Publicado el 17 de julio de 2026 - 10:14 am UTC
Volver arriba
Other articles
Galaxy Z Fold 8 Ultra: All the information we have on Samsung's upcoming flagship foldable device.
Samsung's upcoming flagship foldable may feature significant enhancements throughout, such as a more visible crease improvement and a noticeably quicker chipset.
Syntetica secures $30 million to expand nylon recycling efforts.
French deeptech company Syntetica has secured $30 million to enhance its nylon recycling capabilities, allowing for the recycling of two grades simultaneously, with support from Lululemon and Bpifrance among its investors.
Mamdani is urging landlords in NYC to indicate the use of AI in their apartment images.
New York's Rental Ripoff Report would require landlords to reveal any AI-modified listing images, as outlined in Mayor Mamdani’s 23-point plan for tenants.
The new search tool in ChatGPT helps you avoid sifting through past chats, files, and images.
Forget about sifting through months of ChatGPT history; this new sidebar search allows you to locate chats, files, and images in seconds, complete with filters to refine your results.
You can now modify videos in Google Vids just by explaining the alterations you want.
Google has introduced Gemini Omni and personal avatars to Vids, offering paid users innovative methods for creating, editing, and showcasing videos without relying on conventional editing tools.
Meet the DeepMind philosopher who is contemplating AI ethics.
A long-read from The Guardian profiles Iason Gabriel, the DeepMind philosopher who has dedicated nearly ten years to exploring the ethics of AI at Google.
Conoce al filósofo de DeepMind que reflexiona sobre la ética de la IA
Un artículo extenso de The Guardian perfila a Iason Gabriel, el filósofo de DeepMind que ha pasado casi una década reflexionando sobre la ética de la IA dentro de Google.