Riesgo de Delegar el Razonamiento: Ruptura de la Confianza Cero y Vulnerabilidades de Soberanía Digital en Ecosistemas Corporativos de IA
Risk of Delegating Reasoning: The Breakdown of Zero Trust and Digital Sovereignty Vulnerabilities in Corporate AI Ecosystems
DOI:
https://doi.org/10.65011/prismaods.v5.i5.350Palabras clave:
inteligencia artificial agéntica, Zero Trust, soberanía digital, gobernanza de la inteligencia artificial, ciberseguridad corporativaResumen
La incorporación de inteligencia artificial agéntica en entornos corporativos modifica la relación entre automatización, autoridad y control, al permitir que determinados sistemas interpreten contextos, planifiquen, seleccionen herramientas y ejecuten acciones con grados crecientes de autonomía. Este estudio analiza cómo la delegación del razonamiento y de la capacidad de acción tensiona los mecanismos de verificación y autorización asociados con Zero Trust y qué vulnerabilidades de soberanía digital pueden derivarse de esta transformación. Se realizó una revisión documental estructurada, no experimental y descriptivo-analítica, guiada por PRISMA 2020, sobre publicaciones comprendidas entre 2020 y agosto de 2026. El corpus estuvo integrado por 20 trabajos científicos revisados por pares, complementados con documentación técnica del NIST, y se examinó mediante análisis temático deductivo e inductivo. Los resultados muestran que la IA agéntica no invalida los principios de Zero Trust, pero amplía su objeto de control desde la identidad y el acceso hacia la legitimidad de la acción autónoma. De la síntesis emergen cuatro categorías: brecha identidad–acción, mínima agencia, confianza decisional y soberanía decisional. Asimismo, se observa que la propiedad de los datos no garantiza por sí solo control sobre las capacidades tecnológicas y operativas que los convierten en decisiones. Se concluye que la gobernanza de IA corporativa requiere articular identidad, autoridad, agencia y soberanía, preservando mecanismos de observación, limitación, reversibilidad y recuperación del control frente a sistemas autónomos.
Descargas
Referencias
Adam, M., Diebel, C., Goutier, M., & Benlian, A. (2024). Navigating autonomy and control in human-AI delegation: User responses to technology- versus user-invoked task allocation. Decision Support Systems, 180, 114193. https://doi.org/10.1016/j.dss.2024.114193
Castillo Serracín, J. R., & Gómez, J. (2026). Determinantes de seguridad y brecha de control en la era agéntica: Hacia un marco operativo de Zero Agency validado por expertos. Revista Científica de Salud y Desarrollo Humano, 7(2), 961–976. https://doi.org/10.61368/r.s.d.h.v7i2.1047
Castillo Serracín, J. R., Aranda, O., Farnum Castro, F., & Gómez Solís, J. M. (2026). Digital frontiers: Cybersecurity, sovereignty, and the new paradigms of geopolitical power. Revista Iberoamericana de educación, 10(2), 238–251. https://doi.org/10.31876/rie.v10i2.372
Debenedetti, E., Zhang, J., Balunović, M., Beurer-Kellner, L., Fischer, M., & Tramèr, F. (2024). AgentDojo: A dynamic environment to evaluate prompt injection attacks and defenses for LLM agents. Advances in Neural Information Processing Systems, 37, 82895–82920. https://doi.org/10.52202/079017-2636
Fratini, S., Hine, E., Novelli, C., Roberts, H., & Floridi, L. (2024). Digital sovereignty: A descriptive analysis and a critical evaluation of existing models. Digital Society, 3, Article 59. https://doi.org/10.1007/s44206-024-00146-7
Grohmann, R., & Costa Barbosa, A. (2026). Sovereignty-as-a-service: How Big Tech companies co-opt and redefine digital sovereignty. Media, Culture & Society, 48(2), 416–424. https://doi.org/10.1177/01634437251395003
He, Y., Zhu, H., Li, Y., Shao, S., Yao, H., Liu, Z., & Qin, Z. (2026). AttriGuard: Defeating indirect prompt injection in LLM agents via causal attribution of tool invocations. In 35th USENIX Security Symposium (USENIX Security 26). USENIX Association. https://www.usenix.org/conference/usenixsecurity26/presentation/he-yu
Issa, H., Petani, F. J., & Glavas, D. (2026). Agentic loafing: An AI decision delegation risk. Risk Analysis, 46(8), e70306. https://doi.org/10.1111/risa.70306
Köbis, N., Rahwan, Z., Rilla, R., Supriyatno, B. I., Bersch, C., Ajaj, T., Bonnefon, J.-F., & Rahwan, I. (2025). Delegation to artificial intelligence can increase dishonest behaviour. Nature, 646, 126–134. https://doi.org/10.1038/s41586-025-09505-x
Kshetri, N. (2025). Transforming cybersecurity with agentic AI to combat emerging cyber threats. Telecommunications Policy, 49(6), 102976. https://doi.org/10.1016/j.telpol.2025.102976
Liu, F., Zhang, Y., Luo, J., Dai, J., Chen, T., Yuan, L., Yu, Z., Shi, Y., Li, K., Zhou, C., Chen, H., & Yang, M. (2025). Make agent defeat agent: Automatic detection of taint-style vulnerabilities in LLM-based agents. In 34th USENIX Security Symposium (USENIX Security 25) (pp. 3767–3786). USENIX Association. https://www.usenix.org/conference/usenixsecurity25/presentation/liu-fengyu
Liu, Y., Jia, Y., Geng, R., Jia, J., & Gong, N. Z. (2024). Formalizing and benchmarking prompt injection attacks and defenses. In Proceedings of the 33rd USENIX Security Symposium (pp. 1831–1847). USENIX Association. https://www.usenix.org/conference/usenixsecurity24/presentation/liu-yupei
Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan, S. E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu, M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S., … Moher, D. (2021). The PRISMA 2020 statement: An updated guideline for reporting systematic reviews. BMJ, 372, n71. https://doi.org/10.1136/bmj.n71
Peykani, P., Ghanidel, S., Javadi-Sisi, I., Snasel, V., & Mirjalili, S. (2026). A holistic review of agentic AI frameworks, applications, and research trajectories. Archives of Computational Methods in Engineering. Advance online publication. https://doi.org/10.1007/s11831-026-10675-8
Riggs, J., Hamin, M., Perry, N., Edelman, B., & Cihon, P. (2026). Summary analysis of responses to the request for information regarding security considerations for AI agents (NIST Trustworthy and Responsible AI 800-5). National Institute of Standards and Technology. https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai
Roberts, H. (2024). Digital sovereignty and artificial intelligence: A normative approach. Ethics and Information Technology, 26, Article 70. https://doi.org/10.1007/s10676-024-09810-5
Rose, S., Borchert, O., Mitchell, S., & Connelly, S. (2020). Zero trust architecture (NIST Special Publication 800-207). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.SP.800-207
Stelmaszak, M., Joshi, M., & Constantiou, I. (2026). Artificial intelligence as an organizing capability arising from human-algorithm relations. Journal of Management Studies, 63(2), 335–365. https://doi.org/10.1111/joms.70003
Tang, Y., Liu, Y., Lan, J., Yan, Z., & Gelenbe, E. (2026). Security of LLM-based agents regarding attacks, defenses, and applications: A comprehensive survey. Information Fusion, 127, 103941. https://doi.org/10.1016/j.inffus.2025.103941
Tsamados, A., Floridi, L., & Taddeo, M. (2025). Human control of AI systems: From supervision to teaming. AI and Ethics, 5(2), 1535–1548. https://doi.org/10.1007/s43681-024-00489-4
van Drunen, M. Z. (2025). Safeguarding media freedom from infrastructural reliance on AI companies: The role of EU law. Telecommunications Policy, 49(7), 102990. https://doi.org/10.1016/j.telpol.2025.102990
Wang, L., Ma, C., Feng, X., Zhang, Z., Yang, H., Zhang, J., Chen, Z., Tang, J., Chen, X., Lin, Y., Zhao, W. X., Wei, Z., & Wen, J. (2024). A survey on large language model based autonomous agents. Frontiers of Computer Science, 18, 186345. https://doi.org/10.1007/s11704-024-40231-1
Xu, L., Tian, H., Zhang, Y., & Yu, F. (2026). Shifting accountability to artificial intelligence: Delegating challenging decisions to AI for responsibility avoidance. Journal of Business Research, 215, 116313. https://doi.org/10.1016/j.jbusres.2026.116313
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Juan Rigoberto Castillo Serracín, Carlos Bruce, Iris Mariela González Aparicio , Maricella Corpas Ford, Mauricio Rapón (Autor/a)
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Todo el contenido de Prisma ODS se publica bajo la Licencia Creative Commons Atribución 4.0 Internacional (CC BY 4.0).
Los autores conservan los derechos de autor y otorgan a la revista el derecho de primera publicación.
Se permite la libre copia, distribución, adaptación y reutilización del contenido para cualquier fin legal,
siempre que se otorgue la atribución adecuada a los autores y a la fuente original.
Más información en: https://creativecommons.org/licenses/by/4.0/
