Los desafíos de la trazabilidad en la era de las Black Boxes

• Páginas: 179-193
• Fecha: 01 Abril 2026
• Fecha de publicación: 01 Abril 2026
• Autor: Mariana Soria Galvarro Gaillard
• Materia: Derecho de las Nuevas Tecnologías

179

Mariana Soria Galvarro Gaillard

Los desafíos de la trazabilidad en la

era de las black boxes

The Challenges of Traceability in the Era of Black Boxes

▸Mariana Soria Galvarro Gaillard

Católica Global School of Law • Lisboa, Portugal

https://orcid.org/0009-0009-2960-3052 • marianagaillard@gmail.com

Revista de Derecho de la UCB – UCB Law Review, Vol. 10 Nº 18, abril 2026, pp. 179-193

ISSN 2523-1510 (en línea), ISSN 2521-8808 (impresa).

DOI: https://doi.org/10.35319/lawreview.202618139

Recibido: 31 de octubre de 2025 • Aceptado: 16 de abril de 2026

Resumen

El presente artículo realiza una revisión crítica al AI Act, cen-

trando el análisis en la estructura funcional que éste establece, a

través de la cual, asigna roles y responsabilidades diferenciadas

a los distintos actores de la cadena de valor de los sistemas de in-

teligencia articial. Principalmente, examina la distribución de

obligaciones a lo largo del ciclo de vida de dichos sistemas, con

especial atención a los contextos de opacidad algorítmica en los

sistemas de tipo Black Box, en los que los procesos decisionales

internos resultan inaccesibles o complejos de reconstruir inclu-

so para sus propios desarrolladores. Se plantea si el AI Act puede

garantizar una atribución efectiva de responsabilidades frente al

avance tecnológico y la proliferación de contenido sintético, dado

que la trazabilidad técnica se torna progresivamente más dicul-

tosa. La tesis central sostiene que una posible solución consiste en

robustecer el entramado probatorio e incorporar la gura del Log-

ger, lo que permitiría conservar evidencia del proceso decisional y

prevenir que las obligaciones establecidas en el AI Act se reduzcan

a una categoría formal e inecaz. Sin embargo, concluye en que

la implementación práctica enfrenta un desafío sustancial; pues,