La IA ve el mundo de forma radicalmente distinta a los humanos, según DeepMind
Un nuevo estudio de Google DeepMind revela que los sistemas de inteligencia artificial organizan la información visual de maneras fundamentalmente diferentes a como lo hacemos las personas, lo que plantea desafíos importantes para su fiabilidad.
Google DeepMind publicó un estudio que demuestra que las redes neuronales convolucionales (modelos de IA especializados en procesar imágenes) organizan y categorizan el mundo visual de manera fundamentalmente distinta a los humanos, agrupando objetos por patrones visuales en lugar de por categorías intuitivas, lo que puede provocar fallos impredecibles.
Los sistemas de inteligencia artificial que reconocen imágenes pueden identificar objetos con gran precisión, pero un nuevo estudio de Google DeepMind demuestra que la forma en que organizan mentalmente el mundo visual es radicalmente distinta a la humana. Según informó el blog oficial de DeepMind, esta diferencia fundamental podría explicar por qué estos modelos cometen errores inesperados incluso cuando su rendimiento general parece excelente.
El equipo de investigación analizó cómo las redes neuronales convolucionales (CNN, un tipo de modelo de IA especializado en procesar imágenes) agrupan y clasifican objetos en comparación con cómo lo hacen las personas. Descubrieron que, mientras los humanos tendemos a organizar las cosas por categorías intuitivas —animales, vehículos, herramientas—, los sistemas de IA crean jerarquías completamente diferentes basadas en patrones visuales que para nosotros no tienen sentido evidente.
Esta divergencia tiene consecuencias prácticas importantes. Un modelo que organiza el mundo visual de forma distinta puede funcionar bien en condiciones controladas de laboratorio, pero fallar de maneras impredecibles cuando se enfrenta a situaciones del mundo real. Por ejemplo, podría confundir objetos que para un humano son claramente diferentes, simplemente porque comparten ciertos patrones visuales que el sistema considera más relevantes que la función o categoría del objeto.
Los investigadores de DeepMind argumentan que comprender estas diferencias es esencial para construir sistemas de IA más robustos y fiables. Si sabemos en qué aspectos la visión artificial se aparta de la percepción humana, podemos diseñar modelos que corrijan esas desviaciones o, al menos, anticipar dónde es más probable que cometan errores. El estudio forma parte de un esfuerzo más amplio por hacer que la IA no solo funcione bien en métricas de rendimiento, sino que también razone sobre el mundo de formas más alineadas con cómo pensamos las personas.
