Inteligencia Artificial: ¿Una caja negra?

Cuando estamos entrando en el tramo final del año 2025, comprobamos cómo los avances de la Inteligencia Artificial siguen sorprendiéndonos y cómo cada vez aparecen más y más utilidades y servicios basados en ella.

En la cúspide del desarrollo de esta tecnología destacan varios modelos como el recientemente estrenado ChatGPT 5 de Sam Altman (OpenAI); Gemini y el editor y generador de imágenes Nano Banana de Sundar Pichai (Google), Grock de Elon Musk (X), Llama de Zuckerberg (Meta), Copilot de Satya Nadella (Microsoft), o Claude de Dario Amodei (Anthropic).

La IA, hoy por hoy, hace cosas increíbles que hace pocos años hubieran parecido imposibles. Sin embargo, nadie sabe cómo lo hace. Ni tan siquiera sus propios creadores. Esa falta de transparencia en cómo los algoritmos toman decisiones afecta a la confianza y ética en su uso.

En nuestra historia hay muchos ejemplos de tecnologías o inventos que de alguna forma logramos poner en marcha y usarlos, mucho antes de comprender definitivamente la naturaleza de los procesos subyacentes que tenían lugar para hacerlos funcionar. Dos ejemplos: la pólvora y el cemento romano.

La pólvora fue inventada en China durante el siglo IX, y fue usada para hacer fuegos artificiales y como arma, gracias a que los alquimistas chinos experimentaron con nitrato de potasio, azufre y carbón, sin saber por qué la mezcla explotaba. No fue hasta el siglo XVII, con el desarrollo de la química moderna, que se comprendió el proceso de oxidación rápida que causa la explosión.

Los romanos desarrollaron el cemento conocido como puzolánico. Con él fueron capaces de construir estructuras como el Panteón o los acueductos, entre otros. El material, hecho con ceniza volcánica, cal y agua, era duradero e increíblemente fuerte, incluso podía fraguar bajo el agua. Aunque sabían cómo hacerlo, desconocían los procesos químicos que lo hacían posible: la hidratación de los silicatos de la ceniza reaccionaba con el hidróxido de calcio para formar una estructura cristalina que unía las rocas.

En el caso de la Inteligencia Artificial, esperemos que ocurra lo mismo más pronto que tarde. Es más que posible que quien nos explique cómo la inteligencia artificial avanzada genera una respuesta, no sea esa IA que nos está respondiendo ni, por supuesto, nosotros. Será con toda probabilidad una IA diferente, desarrollada ex profeso para traducirnos las cada vez más sofisticadas respuestas arrojadas por los algoritmos.

Ese hito marcaría un punto de inflexión. Resolvería muchas de las restricciones legales que actualmente se le impone al uso de la IA, como el Reglamento Europeo de Inteligencia Artificial que exige explicaciones claras: establece obligaciones de transparencia y responsabilidades para los sistemas de IA que operan en los Estados miembros de la Unión Europea, en especial para los que suponen un alto riesgo para los derechos fundamentales. La explicabilidad de la IA también lograría exponer los distintos sesgos ocultos o prejuicios, uno de los principales problemas que presenta esta tecnología. Todo ello permitiría un ciclo de mejora continua, con reentrenamientos basados en conjuntos de datos rectificados. Sería un avance considerable. El usuario ya no desconfiaría porque las respuestas no serían consideradas arbitrarias o misteriosas. Pensemos en un caso concreto: un sistema de IA destinado a ser utilizados por una autoridad judicial en la investigación e interpretación de hechos o en la resolución alternativa de litigios. Se trata de uno de los sistemas catalogados como de riesgo alto por el reglamento europeo de inteligencia artificial, que permite su uso bajo estrictas condiciones. En este caso, una completa transparencia facilitaría de forma extraordinaria la implantación y despliegue de sistemas como este y similares.

Confiemos en que estos avances lleguen rápido. Y, quien sabe, igual es posible que ello aporte un granito de arena para la comprensión del funcionamiento de nuestro cerebro, cuya estructura basada en redes neuronales fue la base e inspiración para el desarrollo de la IA, una tecnología que ha eclosionado y que lo está transformando todo.

Temática: Innovación y Tecnología

Autor: Felipe González de Mesa Ponte 

Felipe González de Mesa Ponte es Director de Tecnología en Cajasiete. Inició su carrera en el Área de Informática del Ayuntamiento de Santa Cruz de Tenerife. Posteriormente trabajó en Accenture cinco años y en 1999 se incorporó a Cajasiete. A lo largo de estos años ha continuado su formación en diversas especialidades entre las que destaca la Gestión y Dirección de Empresas, Big Data, Inteligencia de Negocio, Banca Digital y Fintech. 

LinkedIn

Leer más...