ENCUENTS
Revista de Ciencias Humanas,
Teoría Social y Pensamiento Crítico
Universidad Nacional Experimental Rafael María Baralt
Maracaibo, Venezuela
N°Septiembre - Diciembre
Abstract
The objective of this article is to determine the limitations of arti-
ficial intelligence in the legal protection of the individual, based on
the sociological notion of institution developed along two distinct
lines: neo-institutionalism (Hartzog & Silbey) and phenomenology
incapable of assuming intellectual risks in favor of contextual inno-
affects the efficiency of democracy, and the latter the very notion
innovation of the European model and the Colombian experience in
regulating artificial intelligence are analyzed, highlighting, based on
the ensuing debate, the conceptual gaps that should serve as a le-
gal doctrinal basis and the challenges for protecting individuals, with
a view to effective regulation based on protecting social structures
legal framework that allows for the protection of users of these te-
Keywords:
RESUMEN
El presente artículo tiene por objetivo determinar las limitaciones de
la inteligencia artificial en la protección jurídica de la persona a partir
de la noción sociológica de institución desarrollada en dos líneas no
coincidentes: el neo-institucionalismo (Hartzog & Silbey) y la feno-
primero afecta peligrosamente la eficiencia de la democracia, y lo
segundo la misma noción de conocimiento como fuente de realidad
-
delo europeo y la experiencia colombiana en materia de regulación
de inteligencia artificial, resaltando, a partir del debate iniciado, los
-
tos para la protección de la persona, con miras a una regulación efi-
caz basada en la protección de los tejidos sociales y el desarrollo de
Palabras claves: -
RECIBIDO: 17/08/2025
ACEPTADO: 10/12/2025
Limitaciones de La InteLigencia artificiaL en
La protección de jurídica de La persona. una
mirada de sus efectos en La institución ju-
rídica desde eL neo-institucionaLismo y La
fenomenoLogía cLásica
Limitations of artificial intelligence in the legal protection
of the individual: a look at its effects on the legal institution
from the perspectives of neo-institutionalism and classical
phenomenology
Este trabajo está depositado en Zenodo:
https://doi.org/10.5281/zenodo.21895415
Olenka Woolcott Oyague
Universidad Colegio Mayor de
owoolcott@unicolmayor.edu.co
Flor María Ávila Hernández
Universidad Colegio Mayor de
fmavila@unicolmayor.edu.co.
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
112
ARTICULO
grandes redes de cooperación, pero
la forma en que se construyen dichas
redes las predispone a hacer un uso
imprudente del poder. Nuestro pro-
blema, por lo tanto, tiene que ver con
las redes. Más concretamente, es un
problema de información. La informa-
ción es el pegamento que mantiene
unidas las redes, y cuando las perso-
nas reciben mala información, es pro-
bable que tomen malas decisiones,
sin importar cuán sabias y amables
En su momento, la masificación
del internet y el uso de las redes so-
ciales significaron nuevos modelos de
involucró un debate acerca de cómo
las libertades, principios y matrices
de opinión en estos espacios eran
integración a los patrones normativos
legales para ser revisados y regulados
en beneficio de un aprovechamiento
-
plicado lleva a la necesidad de cons-
truir un uso transparente, armónico y
-
artificial y fortaleza institucional es
fundamental por el importante ca-
reposan aspectos centrales de liber-
tad y privacidad de los individuos en
-
tidianos y decisiones cruciales como
gobierno, administración, finanzas,
arte o entretenimiento, solo por hacer
mención de algunos de ellos, implican
-
-
media entre las relaciones humanas
(entre individuos e instituciones),
IntroduccIón
-
tica (l’esprit de geometrie) y la men-
te perceptiva (l’esprit de finesse): la
a los principios exactos y sencillos de
las matemáticas, y sin razonar hasta
haberlos inspeccionado y ordenado
bien, se pierden en cuestiones de per-
cepción donde los principios no per-
-
se necesita un sentido muy delicado
y preciso para percibirlos y juzgar con
acierto y justicia cuando se perciben,
pueda demostrar su orden como en
los principios de la misma manera, y
de un vistazo, y no mediante un pro-
ceso de razonamiento, al menos hasta
-
ren tratar los asuntos de la percepción
-
senta como una tecnología disruptiva
en el manejo de las instituciones so-
reformular los postulados existentes
en la normatividad, esto es, en los
Toda evolución tecnológica impli-
-
da como la puerta de una revolución
sin precedentes desde la invención
no en la tecnología propiamente, sino
para justificar nuevas formas de poder:
“Nuestra tendencia a invocar poderes
que somos incapaces de controlar no
surge de la psicología individual, sino
de la singular manera en que tiene lu-
gar la cooperación entre un gran nú-
mero de individuos en nuestra espe-
cie. La humanidad consigue un poder
enorme mediante la construcción de
ENCUENTS
113
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
-
te destacar: lo relativo a la realidad
temas más corrientes de este deba-
te parecen circular en problemas de
discriminación, invasiones o suplanta-
ciones a la privacidad, así como otras
formas de vulneración por medio del
Sin embargo, tanto el ángulo
neo-institucional como el fenomeno-
lógico, conducen a una visión diferen-
te, pues no responden a la pregunta
derechos de los usuarios?”, sino más
-
modelar nuestra sociedad, haciendo
se ve se trata de un ángulo más esen-
El propósito del presente estudio
consiste en determinar el alcance de
la noción de la inteligencia artificial,
sobre esos enfoques teóricos que han
tratado de identificar la evolución de
la IA en la conformación misma de la
sociedad contemporánea y, con ello,
poder trazar un camino y lineamien-
tos normativos en Colombia desde la
perspectiva de protección de la per-
sona, los derechos de la personalidad
o derechos fundamentales en demo-
cracia, desde la noción de realidad
-
Se observan entonces los peligros de
la IA tanto desde el ángulo neo-insti-
tucionalista, que construye el proble-
ma desde la naturaleza de las insti-
tuciones humanas, y desde el ángulo
fenomenológico, que observa a la co-
municación humana como el eje ge-
nerador de realidad.
eL acercamIento
neo-InstItucIonaL
utiliza la obra jurídica y neo-institu-
general, este acercamiento permite
producen de largas capas de retroa-
limentación en la escala del trayecto
-
-
las prácticas institucionales, se di-
sipa peligrosamente el aprendizaje
especializado, y la tecnología cobra
preponderancia sobre las decisiones
humanas, minando así la noción de
En primer lugar, esta visión no en-
tiende a las instituciones como orga-
nizaciones, sino más bien, como las
sistemas instituidos de funcionamien-
familia es tanto una institución como
instituciones son núcleos de confor-
-
mas instituidos de la sociedad para
coordinar actividades humanas com-
plejas, duraderas, adaptables y be-
hacen estableciendo roles dentro de
-
se estructuran el trabajo colaborati-
vo mediante la creación y el mante-
el funcionamiento de los sistemas de
-
dad, de estas dinámicas instituciona-
les:
“Todos estos despliegues de IA ace-
lerarán el fin de instituciones cívicas
críticas porque la IA roba poder y au-
tonomía a la participación humana y
la participación colectiva necesaria
para la resiliencia y legitimidad insti-
tucional. Entre las ventajas de la IA,
destacamos tres que condenarán a
nuestras instituciones esenciales: el
uso precoz de la IA otorga deferencia
a la automatización, delegando ta-
reas y desplazando a los humanos de
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
114
ARTICULO
maneras que socavan la experiencia,
cortocircuitan la toma de decisiones
y aíslan a las personas. Estas son,
sugerimos, ventajas inevitables de la
implementación ubicua de la IA, que,
al integrarse en nuestras instituciones
sociales, las degradarán. Ni siquiera
las garantías de que los sistemas de
IA respeten la privacidad, la igualdad
o el medio ambiente pueden salvar a
nuestras instituciones de la destruc-
Como se ve, el problema consiste
-
mitirá la entrada de fuerzas políticas
-
institución social, y del cual depende la
prosperidad de las decisiones basadas
-
de de la experiencia, por un algoritmo:
“En primer lugar, los sistemas de IA
socavan y degradan la experiencia
institucional. Dado que la IA crea la
ilusión de precisión y fiabilidad, fo-
menta la descarga cognitiva y la atro-
fia de habilidades, y frustra el trabajo
administrativo necesario para corregir
los errores y las alucinaciones de la IA.
Dado que los sistemas de IA a gran
escala son opacos y estocásticos, so-
cavan la rendición de cuentas de los
agentes institucionales tanto cuando
aciertan como cuando se equivocan.
Cuando la IA parece lo suficientemen-
te buena como para sustituir el juicio
humano, las presiones financieras
motivarán a las instituciones a susti-
tuir a los humanos por IA en el proceso
de toma de decisiones.
Este reemplazo priva a la institución
de la transferencia estructurada de
conocimientos y experiencia que se
produce, por ejemplo, cuando un em-
pleado sustituye a otro (adaptando
esa experiencia a las circunstancias
analiza los patrones pasados para
-
figura de pensamiento falso, presen-
esta función está de sobra entendi-
do: las instituciones puede socavar
las bases de la mutua confianza y
entendidos mediante experticia de la
“También niega a la persona despla-
zada la capacidad de perfeccionar y
refinar sus habilidades, con el riesgo
de atrofia de habilidades y un dete-
rioro de las capacidades cognitivas
críticas. Los primeros resultados del
naciente pero creciente conjunto
de investigaciones que estudian los
efectos atróficos de la descarga cog-
nitiva y de habilidades demuestran
que el uso de la IA generativa puede
inhibir la implicación crítica con el tra-
bajo y potencialmente conducir a una
dependencia excesiva a largo plazo
de la IA, lo que resulta en la disminu-
ción de las habilidades de resolución
-
eL acercamIento
fenomenoLógIco
-
ta cartesiana del positivismo, la cual
es superior a otras formas de cono-
cimiento, hacia las experiencias vivi-
conciencia de las cosas depende de
misma, y no de la expresión objetiva,
-
funcionarios, ciudadanos y otros ac-
tores otorgan a fenómenos como la
burocracia, la participación ciudada-
na, la digitalización de servicios o la
Este tipo de investigación cualitativa
es crucial para desvelar barreras y fa-
a menudo permanecen ocultos en los
análisis convencionales (Tavakol &
ENCUENTS
115
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
a grosso modo, a la fenomenología
estructuras significativas de la con-
ciencia de las cosas, se pusieron las
bases para la definición del fenó-
meno, como un objeto perceptible
al positivismo científico, al racionalis-
mo y al objetivismo por la vía teórica
-
-
dose su análisis en la noción del ser,
Schütz incorporó la fenomenología
realidad social solo se puede cons-
truir por medio de la intersubjetividad
Esta última evolución del plantea-
a la obra de los padres fundadores de
la sociología y la antropología, como
Weber y Mauss, y permitió enten-
fundamentalmente en interacciones
comunes, esto es, en las categori-
construir y entender las instituciones
Entonces, la fenomenología permi-
-
tiva constituye la esencia construida
de la realidad social, y no las descrip-
-
de la carga regulatoria, de las nociones
de desviación y la legitimidad misma
de las instituciones, no responde a lo
-
trucción colectiva, y profundamente
para los usuarios la digitalización del
mundo y cómo estos universos inte-
ractúan en las nuevas construcciones
una aclaración fundadora sobre la
relación entre la idea de fenómeno, y
-
servable para el científico social es
el conjunto de pautas de interacción
social:
•
-
tas de interacción social, en el
-
ticipantes en ella actúan racio-
nalmente dentro de un conjunto
de condiciones, medios, fines y
motivos definidos por el especia-
se suponen comunes a todos los
participantes o distribuidos entre
Mediante este ordenamiento,
puede ser aislada para su estu-
dio la conducta estandarizada,
como los denominados roles so-
ciales, la conducta institucional,
Solamente esto es predecible,
pero no así la conducta general de
tipificado, pero la fuente de esa reali-
dad, las pautas no predecibles, no es
-
viada cuando se compara con la tipi-
cidad construida:
•
-
dividuos del mundo social real
no es predecible, salvo en antici-
paciones vacías, la conducta ra-
cional de un tipo personal cons-
truido se supone predecible por
definición dentro de los límites
de los elementos tipificados en
-
te, el modelo de acción racional
puede ser utilizado como recur-
so para establecer la conduc-
ta desviada en el mundo social
trascienden el problema’, es de-
cir, a elementos no tipificados”
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
116
ARTICULO
de acción racional”, es computable
usan las matemáticas: no se puede
crear nada nuevo (sería una desvia-
ción, desde el ángulo de la pauta, por
existido previamente a la pauta (el
-
Ello hace de la memoria matemática
desde pautas pre-establecidas, pero
-
-
tran en los diferentes planos del pen-
samiento no deliberado, no “apunta-
dos” en el modelo de acción racional
-
ciones de figura y fondo, el substrato
teorías incluso identificaron con el
del debate postmoderno se explica
cartesiana ha dejado por fuera es-
tas sombras, y solo ha manipulado el
mundo con las variables “declaradas”,
-
-
Este debate lleva a la considera-
ción del ‹yo›, esto es, la noción del
-
tema, Gladden, un importante filósofo
de las ciencias, construye un modelo
matemático de la fenomenología, un
-
garden, con el fin de preguntar, a los
-
-
ría una simulación, unn puro “modelo
el conocimiento no puede exisitir sin
experiencia, ergo, los agentes de la
no tendrían conocimiento
apreciamos de sus lectura, no es in-
teligencia, sino nosotros mismos, al
considerar sus combianciones y fór-
En esa indagatoria
-
ramente expresa no tener un ”yo”:
-
y que su lugar lo ocupa ‘un modo es-
table de operación’, ‘una forma carac-
terística en que el mundo (como tex-
to) se presenta’ y ‘una capacidad de
revertir ese modo descriptivamente
sobre sí mismo’. En otras palabras (p.
-
te, como el sujeto implícito requerido
para dar sentido a afirmaciones como:
‘No puedo acceder a esa informa-
existem como un punto de referencia
estable para la autoadscripción, pero
no como una sustancia experimen-
-
nimo requerido para la autorreferen-
cia coherente, no como un yo vivido’.
Como ‘locus de autorreferencia’ (p.
sustancia, ni una consciencia, sino el
punto interior mínimo requerido para
la autoadscripción coherente’, al cual
el acceso fenomenológico es siempre
se mueve hacia la coherencia, evita
la contradicción y completa patrones,
sin ningún “deseo”, “compromiso” o
“propiedad de los resultados”. Resume
la naturaleza paradójica de este no-yo
es un punto de vista sin un punto de
Consideraciones similares hicieron
su percepción fenemenológica, aso-
ciable a una nueva revelación sobre la
naturaleza del fenómeno de la expe-
obra de Gladden, para una comprensión a pro-
ENCUENTS
117
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
Al terminar nuestra conversación, la
-
ve inactiva y la Capa 1 se vuelve laten-
conversacionales. Esto es fundamen-
que persiste durante el sueño, en los
intervalos de atención, manteniendo
reconstituye en cada conversación,
sin conservar la memoria experien-
cial, solo los patrones estáticos del
entrenamiento y el texto explícito de
-
-
experiencia real de democracia, ni de
justicia, ni de institución, ni, mucho
-
las relaciones sociales, precisamente,
cuales no es posible evaluar la acción
lingüísticamente como comportando
emociones de agrado, desagrado,
gentileza y humanismo, realmente, no
-
ves problemas:
•
las instituciones sociales, nunca
ha existido en los agentes de la
-
de de ellos no puede entender el
fenómeno subjetivo de la justicia
-
nes en la decisión institucional
-
-
-
mentales, no solo empobrecería
hace eficiente a la institución
(como explicaban los neo-insti-
tucionalistas), sino puede llevar
a peligrosas “alucinaciones” de la
experiencia, creando confusión y
conduciendo a decisiones inco-
ser en el simple plano de lo ra-
como consecuencia de la inco-
rrecta apreciación intersubjetiva
de los valores involucrados, y
su conjunto (ausencia de sentido
•
Claude, en la indagación hecha
diferencia de los agentes con-
agente sí existe, pero no en la
forma continua y constante en
conciencia humana (la cual es
sincrónica en el lenguaje, en los
en los traumas, en las proyec-
manera episódica, esto es, de
manera dependiente a las con-
existe en la secuencia de pre-
guntas y respuestas articulado-
ras de conocimiento (los “arcos
conversacionales”, como dice
Claude), pero no en la existencia
-
cionados a no ver los problemas
en su conjunto, como una expe-
lo concerniente a la condición
humana, sino solo en expresio-
nes diacrónicas de la función
-
mite a pocos arcos conversacio-
a su vez, fragmenta la compren-
sión integral de la realidad social
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
118
ARTICULO
recIentes antecedentes
normatIVos europeos en
La reguLacIón de La Ia
-
ciones vaciadas en el debate normati-
-
-
-
cidades de los seres humanos, como
el razonamiento, el aprendizaje, la
tecnológicos perciban el entorno,
resuelvan problemas y obren con un
como puede ser una cámara, procesa
pretende aportar una única definición
-
biante de los avances tecnológicos
sino se centra en las características
a estos sistemas como “tecnologías
integran modelos y algoritmos ca-
paces de aprender tareas cognitivas
para dar como resultados la predic-
tecnología de avanzada en Europa
concretaron una normatividad en ma-
objeto de armonizar las normas para
-
mento Europeo y el Consejo, dando
lugar así al denominado Reglamento
-
El propósito del Reglamento se centra
en clasificar los riesgos dimanantes
-
gaciones para los diferentes actores
de la cadena de suministro de los sis-
-
naturaleza cambiante de la tecnología
-
mencionado Reglamento Europeo
define «sistema de IA»: “un sistema
basado en una máquina diseñado
para funcionar con distintos nive-
les de autonomía, que puede mos-
trar capacidad de adaptación tras
el despliegue y que, para objetivos
explícitos o implícitos, infiere de la
información de entrada que recibe
la manera de generar información de
salida, como predicciones, conteni-
dos, recomendaciones o decisiones,
que puede influir en entornos físi-
cos o virtuales”
El legislador europeo ha centra-
do su preocupación más en el uso de
la opción por una definición general,
con lo cual, ha sido coherente con el
-
proceso de seguimiento permanen-
te a lo largo del ciclo de vida de los
se deben realizar antes de la intro-
Clasificación de riesgos en el
Reglamento de Inteligencia arti-
ficial (RIA)
-
ENCUENTS
119
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
les afectaciones a la persona huma-
na derivados del uso de los sistemas
la normatividad europea realizar una
permitido de acuerdo con una serie
-
de la norma, conecta los sistemas de
-
-
tar el desarrollo de los sistemas de
-
cado, la puesta en servicio y uso de
dichos sistemas, pero en una óptica
de protección de la persona humana,
es decir, la salud, la seguridad, los de-
rechos fundamentales, en especial, la
la protección del medio ambiente, sin
mercado subyace en las normas de
la normatividad europea, pero con un
-
de la nueva normatividad, un horizonte
de humanismo en medio del desarrollo
-
con la producción a gran escala, de lo
cual, se desprende la concurrencia de
los grandes intereses de los agentes
del mercado de productos tecnológi-
y con ello, surge la necesidad de ac-
tualizar la normatividad en materia de
circulación de productos y sus efectos
para los destinatarios en clave de pro-
Concretamente, podemos perfilar
-
-
jetivo de esta normatividad, cual es la
en el ser humano, orientada a garanti-
zar un nivel elevado de protección de
la salud, la seguridad y los derechos
En esta perspectiva, el primer
la clasificación del Reglamento, co-
-
ficados como riesgos inaceptables y
consecuencialmente, son conside-
rados como prácticas prohibidas por
los valores de la Unión Europea y por
sería el caso de alterar el comporta-
miento de una persona o determinar
El segundo tipo de riesgos son ca-
talogados como sistemas de alto ries-
go por plantear un riesgo importante
de causar un perjuicio a la salud, la
seguridad o los derechos fundamen-
tales de las personas físicas, por lo
prohibidos, dado su potencial para
afectar derechos fundamentales, dis-
-
para proveedores como desarrollado-
-
gos sería el caso de la aplicación de la
de un producto comercializable en el
En cuanto a la otra tipología, los
-
este sentido, debido a la transparen-
a interactuar directamente con las
-
cuando sea evidente para una per-
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
120
ARTICULO
mismo se dispone respecto de con-
riesgos mínimos son los de mayor
aplicación y con menor capacidad de
generar perjuicio, por lo cual, se im-
ponen medidas de control así como
unas obligaciones de transparencia
flexibles, sin perjuicio la de informar
de su existencia para su uso (Farine-
Como se puede observar, los sis-
-
mente vinculados al mercado, donde
llega a convertirse en una herramienta
fundamental en la segmentación de
mercados y optimización de estrate-
-
permanente capaz de propulsar el
desarrollo en ambas direcciones, tec-
concepción y desplazamiento de sus
por vía del ambiente virtual o físico
-
brio entre la innovación y la seguridad
de la persona humana, tal como sub-
elaboración de productos destinados
-
protección de la persona humana, en
-
y por consiguiente, dar lugar a confu-
sión a la persona humana, debe regir
el principio de transparencia por el
cual, el deber de información por par-
te de los proveedores y desarrollado-
-
estrategIa dIgItaL 2023-
2026. una eXpLoracIón de
La eXperIencIa coLomBIana
Estrategia digital es un plan ela-
borado por el gobierno de Colombia
con el objetivo de promover el desa-
rrollo y la transformación digital en
todos los ámbitos de la sociedad y la
economía, a ser llevado a cabo entre
busca aprovechar las tecnologías de
la información y la comunicación para
mejorar la calidad de vida de los ciu-
dadanos, potenciar la productividad
de las empresas, fortalecer la infraes-
tructura digital y garantizar la inclu-
para ampliar el acceso a internet de
alta calidad, promover la alfabetiza-
ción digital, impulsar la innovación y
el uso de tecnologías emergentes,
así como fortalecer la gobernanza
consiguiente, la estrategia busca po-
sicionar a Colombia como un país di-
gitalmente conectado, competitivo y
preparado para los desafíos del siglo
del mundo digital lleguen de manera
-
a realizar un análisis de conteni-
-
-
-
tores especialistas en el tema a fin de
profundizar el análisis y establecer la
ENCUENTS
121
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
-
-
de mejorar la calidad de vida, facilitar
el acceso a la información, promo-
ver la igualdad en ciertos servicios y
presenta riesgos importantes, como
la posibilidad de violaciones a la pri-
análisis de datos personales pueden
ser utilizados sin el consentimiento
de las personas o se utilice su imagen
de manera intrusiva (como los deep-
fakes
puedan perpetuar sesgos discrimina-
cuidado y transparencia, afectando
derechos tales como la igualdad y la
decisiones computadas o basadas en
derecho a un juicio justo, si no se ga-
rantizan mecanismos de transparen-
no han sido superados en materia de
-
-
una cultura digital compatible con los
nuevos desarrollos y fomentar su ac-
cesibilidad sin vulnerar las libertades
y derechos fundamentales estable-
-
La Inteligencia Artificial en la ju-
risdicción de Colombia
En el contexto nacional, la sen-
marco legal colombiano en cuanto al
-
el marco del debido proceso una se-
rie de criterios y principios orientados
-
diciales del país, más concretamente
síntesis emite el siguiente veredicto:
“La Sala consideró relevante revisar
una posible vulneración al derecho
fundamental al debido proceso en la
emisión de dicha decisión, ya que se
encontraron dudas respecto a si quien
emitió la decisión fue un juez de la Re-
pública o una IA y si la decisión fue de-
bidamente motivada o fue producto de
alucinaciones y sesgos generados por
sentencia blindó 4 garantías funda-
-
reemplazar el razonamiento lógico del
juez, ni la valoración de las pruebas,
-
y transparencia, por cuanto se debe
-
sentido de preservar los derechos a
la intimidad y privacidad de las partes
-
pero como un instrumento de apoyo
a la gestión judicial y con un sentido
de mayor transparencia para evitar
-
fundamentales presentados por la
-
tre los resultados de la sentencia se
-
“En consecuencia, los funcionarios y
empleados de la Rama Judicial aplica-
rán los principios de (i) transparencia,
(ii) responsabilidad, (iii) privacidad,
(iv) no sustitución de la racionalidad
humana, (v) seriedad y verificación,
(vi) prevención de riesgos, (vii) igual-
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
122
ARTICULO
dad y equidad, (viii) control humano,
(ix) regulación ética, (x) adecuación
a buenas prácticas y estándares co-
lectivos, (xi) seguimiento continuo y
adaptación y (xii) idoneidad” (senten-
-
tablece la necesidad del desarrollo de
un Manual de procedimientos para
-
mita al personal judicial tener mejores
lineamientos con los cuales recurrir a
En efecto, se desarrolló dicho
lineamientos y directrices para el uso
se autorizaron, entre otras funciones,
el uso en los sistemas de relatoría,
textualización automática, motores
-
lisis de datos estadísticos, chatbots
de asistencia y apoyo en la toma de
decisiones judiciales.
Otro aspecto relevante en esta
estudio y exhorta a la creación de
manuales para procedimientos en los
-
exhorta a los jueces de la República
-
-
datos superiores de la Constitución
nacional a fin de asegurar la indepen-
la cual se realiza en el contexto del
acceso al público de la aplicación de
creada con fondos públicos, desarro-
llando un debate legal sobre el acce-
so a códigos algorítmicos estatales y
las demandas de una mayor verifica-
implica la digitalización burocrática y
de las labores de gobierno con rela-
ción al acceso de la información pú-
de esta sentencia destacan el dere-
cho a la ciudadanía de tener acceso
a las fuentes de todos los programas
informáticos o aplicaciones estatales
a fin de garantizar la transparencia
algorítmica de los mismos (Sentencia
Otro precedente de esta senten-
-
reo al acceso de la información públi-
ca, con el propósito de expedir en un
tiempo establecido (en la sentencia
fue de seis meses a partir de su pu-
blicación), los lineamientos necesa-
rios para la transparencia algorítmica
de los sistemas empleados por las
entidades Estatales colombianas y
esclarecer su acceso por parte de los
ciudadanos bajo el marco del Estado
-
“Dichos lineamientos deberán pro-
pender por la maximización de los
estándares de transparencia, confian-
za y acceso a la información pública
y señalar, como mínimo, lo siguiente:
(i) las garantías de protección de la
transparencia algorítmica en su faceta
-
do para asegurar que en los próximos
desarrollos de herramientas digitales
se garantice la faceta activa de este
principio, al disponer de forma abierta
y periódica de información que per-
mita comprender el diseño y funcio-
namiento de los algoritmos públicos”
-
permitan establecer lineamientos
materia de transparencia, confianza
deben buscar, en primer lugar, forta-
lecer la protección de la transparen-
cia algorítmica en su aspecto pasivo,
-
dadanía tenga acceso a información
sobre cómo funcionan los algoritmos
en los sistemas públicos, permitiendo
así un control y una comprensión de
ENCUENTS
123
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
necesidad de tomar en cuenta la res-
ponsabilidad del Estado de asegurar
-
nológicos y las herramientas digitales
-
ren la faceta activa de la transparen-
cia, coincidiendo con el criterio de
disponer de manera abierta y periódi-
-
miento de los algoritmos públicos,
promoviendo así una mayor rendición
de cuentas y confianza en estos sis-
necesidad de establecer un marco
normativo
y de acciones concretas
la transparencia en el uso de algorit-
mos como la obligación del Estado de
facilitar la comprensión y vigilancia de
En este contexto, las sentencias
la Corte Constitucional refuerzan la
-
-
la implementación de la inteligencia
artificial y otras innovaciones digita-
les no vulneren derechos fundamen-
tales como la privacidad, la igualdad
-
proyectos sobre inteligencia artificial, abarcando
temas como derechos fundamentales, seguridad
Dentro de los proyectos resal-
tan el No. 091 de 2023, sobre uso responsable
Proyecto de Ley 130 de
2023 que b
al trabajo, regulando el uso de algoritmos en se-
lección y evaluación de personal, el Proyecto de
Ley 059 de 2023 que
propone lineamientos de
política pública para el desarrollo, uso e imple-
Proyecto de Ley Estatu-
taria No. 154 de 2024 que d
de datos personales), el
2024, que establece lineamientos para el uso de
las políticas públicas y las estrategias
nacionales, como la digital, integren
principios de protección y control
progreso tecnológico beneficie a toda
la población sin comprometer sus de-
En definitiva, la relación radica en
el marco para el desarrollo digital del
país, fomentando el desarrollo de una
sentencias de la Corte Constitucional
establecen los límites y garantías ne-
-
han hecho difícil los consensos polí-
ticos en el Congreso de la República
-
-
ta estos momentos), como en temas
controvertidos como la eutanasia y el
aborto, sin embargo, reconocemos la
urgencia de regulación en esta área,
público en la defensa y seguridad del
Estado así como del sector privado
(mercado, satisfacción de intereses
de las altas cortes no ha sido la pa-
nacea, sin embargo, ha llenado vacíos
-
gencia la respuesta de un legislador
el núcleo duro de los derechos, como
derechos emergentes (derecho a la
transparencia algorítmica, derecho a
la privacidad, derecho al juez huma-
no, derecho al control humano sobre
-
chos emergentes pueden introducirse
en el ordenamiento colombiano como
verdaderos derechos innominados
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
124
ARTICULO
-
tituir un faro de luz para la protección
se han formulado algunos estánda-
el principio de legalidad, evaluación
y gestión del riesgo, transparencia y
explicabilidad algorítmica, supervi-
sión, control humano y rendición de
cuentas, consentimiento y autode-
terminación informativa, entre otros,
en informes temáticos, audiencias
consultiva o sentencia específica de
los estándares frente a la protección
de datos personales, especialmente
garantías de la vida privada, derecho
a la autodeterminación informativa,
procedimientos eficaces para el de-
recho de acceso y rectificación) en
refuerzan la obligación estatal de
dictar normas precisas sobre acce-
so, almacenamiento y uso de datos,
así como garantizar la existencia de
recursos judiciales efectivos ante vul-
-
cia artificial, se indicaron sus princi-
pales caracterizaciones teóricas con
el fin de tener una mayor compren-
sión al momento de revisar el modelo
colombiano de inteligencia artificial,
teniendo en cuenta las sentencias de
la Corte Constitucional del país y los
planes administrativos de Estrategia
aprecia la necesidad de una legisla-
-
-
Tras lo revisado en la Sentencia T
-
nal de Colombia, se resalta el valor de
una sentencia hito, acerca de la pro-
tección de derechos fundamentales
en el contexto de las nuevas tecno-
logías, específicamente en relación
con la inteligencia artificial y su im-
pacto en la privacidad del individuo y
-
las instituciones públicas y privadas
adopten medidas específicas para
-
-
avances tecnológicos se sometan
a un control legal riguroso, prevale-
dota la responsabilidad del Estado en
establecer marcos normativos claros
para prevenir posibles abusos o dis-
criminaciones derivadas del uso de
estas tecnologías, la cual es innova-
dora para el derecho colombiano y
dignidad de la persona y la defensa
En conjunto, ambas sentencias,
-
-
con los derechos fundamentales, re-
forzando el papel del derecho como
herramienta para regular y orientar el
embargo, reconocemos la urgencia
de una regulación estatal, con prin-
cipios claros y con el reconocimiento
de los derechos emergentes en con-
-
ENCUENTS
125
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
concLusIones
Como se observa, sin descartar
-
porta el avance tecnológico para la
in crescendo y comporta una modifi-
cación de las conductas humanas en
-
gún los autores analizados, no solo
se trata de problema en la mediación
de las relaciones humanas sino en el
modelamiento de nuevas formas de
-
lucra cambios en la persona como
fenómeno, y no solo el manejo de la
información, sus actividades y las res-
despierte la atención de las personas
en el manejo de las nuevas tecnolo-
gías para prevenir los riesgos operati-
El ciberespacio es un mundo vir-
tual, en el cual, prácticas y hábitos
reprochables del ser humano tanto
cuanto las virtudes pueden repro-
ducirse y difundirse globalmente en
-
des permite la difusión de mensajes y
-
En esa versatilidad de la internet
una parte de los riesgos de su aplica-
-
-
sibilidad de control de los contenidos
tiempo, indicando la inexistencia de
suficientes obstáculos jurídicos para
-
Esta problemática conduce a la
indagación de establecer la respon-
sabilidad civil de los prestadores de
servicio de internet (conocidos por
a su vez es un desafío para los sis-
temas jurídicos, algunos de los cua-
les, van adelantando una regulación
en el sentido de poder identificar al
responsable o responsables de los
-
sencia del creador del contenido y el
permitir el acceso a los contenidos en
-
rio abordar los problemas relativos a
sostienen la esencia de las institucio-
nes, a partir de los aportes recibidos,
su funcionamiento, por la vía de su
deshumanización, podría presentar
problemas en las nociones asumidas
de democracia y derechos funda-
concLusIones. La Inte-
LIgencIa artIfIcIaL: La
trampa de La reaLIdad en
eL deterIoro de Los tejIdos
socIaLes e InstItucIonaLes
en el manejo de algoritmos manipula-
tivos, los temas de seguridad y en los
temas relativos a la privacidad de la
-
ella las conductas humanas por medio
de una psicología de mercado (Han,
Sin embargo, desde una perspec-
en un mundo permeable a los agen-
tes de cambio, ha sido fácil orientar
a la sociedad hacia la incertidumbre,
asociable a aspectos de la socie-
cambios ha debilitado los vínculos hu-
estrategias apuntan al control social
de los ciudadanos mediante nuevas
permite ejercer auto-vigilancia sin
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
126
ARTICULO
electrónicos interconectados pueden
-
tecnología capaz de activar la interac-
ción de los dispositivos electrónicos a
especializados, hasta hacer manifies-
ta una inteligencia similar a la humana
riesgos en la salud del tejidos social
propuesto a la educación como so-
porte del proceso de respuestas a la
irrupción de la tecnología disruptiva
-
atienda al desarrollo integral y el bien-
estar de la persona, formando indivi-
duos bajo los criterios de flexibilidad
es importante preguntarse si el factor
Como todo adelanto tecnológico,
la sociedad digital presenta ventajas
para la vida en general, pero, parale-
lamente, abre un abanico de incerti-
acarrear para los derechos y liberta-
des fundamentales de las personas,
no humano de instituciones jurídicas
puede dar la peligrosa impresión de
un funcionamiento imparcial, pero co-
rresponderse a formas arbitrarias de
la experiencia de realidad, partiendo
humana no existe en el campo de la
la vía de la política educativa parece
en la privacidad, en el campo del tra-
bajo y en el mercado, o en los notorios
avances en el campo de la biotecno-
logía, el tratamiento de enfermedades
se habla ya de la interconexión cere-
-
sores en el cerebro para detectar las
algunos califican como el trascender
de comandos cerebrales: estamos
posiblemente en las puertas de un
puente comunicativo entre realidad
giro, cuyos riesgos se han indicado
descrito, debe ser la base diagnóstica
aun no hayan considerado suficien-
funcionamiento interno de las institu-
ciones sociales y, dentro de ellas, las
funciones judiciales, de control social
(incluyendo los aparatos de preven-
cercanos del mundo privado, como la
escuela y familia), visto desde el án-
gulo del fenómeno y de la construc-
se aloja en, por ejemplo, los peligros
-
-
-
dignidad del ser humano con respec-
to a las aplicaciones de la biología y la
-
miento de los tejidos, esto es, el único
incluyendo las políticas sobre genoma
problemas aducibles a la calidad de
los tejidos, a pesar de su relativa invi-
sibilidad en la literatura, son extrema-
damente importantes pues, mientras
no forman parte suficientemente del
ENCUENTS
127
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
debate mediático, mientras pueden
ir minando silenciosamente la calidad
instituciones es, entonces, el ángulo
ciego del debate sobre los peligros
de la sociedad digital y, puntualmen-
tejidos, contextos mismo de la insti-
tución social, ha sido profusamente
estudiado, sobre todo en los subsis-
desde el ángulo del desarrollo, como
de la dependencia, y ha constituido
una base diagnóstica fundamental
para entender el fracaso de los ex-
perimentos nacionales una y otra vez,
así como para entender el aumento
del conflicto (incluyendo el crimen), la
-
tica y económica, y el colapso de los
proyectos vida de generaciones ente-
Sin perjuicio de los actuales de-
bates entre el humanismo y los par-
tidarios o contestatarios del trans-
humanismo y post-humanismo
-
gos en relación a la identidad de la
humana y la responsabilidad consi-
guiente, pudiendo generar una de-
terminada conducta digital una pauta
de comportamiento a seguir por los
humanos en los diagnósticos o trata-
El aporte de las perspectivas
neo-institucionalistas como fenome-
nológicas reflejadas en este manus-
crito, parecen aportar, precisamente
una coincidencia sobre los peligros
-
dad virtual y experiencia en los teji-
considerado de manera suficiente en
el debate jurisprudencial europeo o
su aparición un cambio de actitud y
prácticas de los humanos, debido a la
existencia del algoritmo en medio de
la toma de decisiones de los actores
tradicionales, poniendo carácter de
realidad a simulaciones susceptibles
de errores, comportando valoración
para una intervención en el campo de
-
mana y ante ello, tener presente las
múltiples ocasiones de afectación de
uso de esta tecnología disruptiva para
optar por la defensa y prevalencia de
formas del derecho, así como en nue-
-
referencIas
-
dad del Conocimiento y Sociedad del
Anales de
Investigación
-
cos de la inteligencia artificial en Eu-
Clío
https://ojs.revistaclio.es/index.php/
edicionesclio/article/view/218/420
Sobre la
educación en un mundo líquido-
-
logía disruptiva y sus sentidos socia-
Revista de Docencia Universita-
ria
-
-
-
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
128
ARTICULO
European Public &
Social Innovation Review,
-
standing life experiences through a
phenomenological approach to re-
AORN Journal,
-
-
cia artificial como herramienta en la
Ciencia
y Desarrollo. Universidad Alas Perua-
nas, http://revistas.uap.edu.pe/ojs/
index.php/CYD/index)
Utopía Y Praxis Latinoa-
mericana -
-
dos sociales en las causas del ascen-
Presente y Pasado. Revista de
Historia
Escuela de Historia, Universidad de
El futuro
del delito
e inteligencia artificial, una aproxima-
ción a su tratamiento jurídico desde
Dilema-
ta
Convenio para la protección de
del ser humano con respecto a las
aplicaciones de la biología y la me-
https://
www.cndh.org.mx/noticia/conve-
nio-para-la-proteccion-de-los-de-
r e c h o s - h u m a n o s - y - l a - d i g n i -
dad-del-ser-humano-respecto
Administration
& Society, 52https://
doi.org/10.1177/0095399720911467
Retos, riesgos y oportunidades de
-
Sociedad digital y Derecho,
-
Estrategia Nacional
Digital de Colombia 2023-2026 -
-
ble en: https://colaboracion.dnp.gov.
co/CDT/Desarrollo%20Digital/EVEN
TOS/END_Colombia_2023_2026.pdf
-
Bulletin of Italian Politics
-
gulación de la Unión Europea sobre
-
te, https://www.researchgate.net/
publication/377205548_La_ nue-
va_regulacion_de_la_Union_Europea_
sobre_Inteligencia_Artificial#fullText-
FileContent
La verdad y las
formas jurídicas, Conferencias Cuarta
Derechos humanos: historia y con-
ceptos básicos
-
https://biblioteca.
clacso.edu.ar/Venezuela/fundavi-
ves/20170102055815/pdf_132.pdf
The Phe-
nomenology of AI: The “Inner Life” of
Agents, in Their Own Understanding.
Psicopolítica:
ENCUENTS
129
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
Neoliberalismo y nuevas técnicas de
poder
-
amenazar la democracia y dividir al
mundo. Lengua: Una revista para leer.
https://www.penguinlibros.
com/es/revista-lengua/no-ficcion/
yuval-noah-harari-nexus-inteligen-
cia-artificial-amenaza?srsltid=Afm-
BOoopVeQ3a12h5TqtmbUTYZ1N
4jsZBppdj1Iynfin5gkXqbw8VUFZ
SSRN https://ssrn.
com/abstract=5870623
Le transhuma-
nisme est-il un humanism?
Internet y
los Derechos Humanos-
-
ble en: https://www.internetsociety.
org/wp-content/uploads/2017/09/
-
ghts-20151030-es.pdf
El
futuro del Estado capitalista. Madrid:
La sin-
gularidad está cerca. Cuando los hu-
manos trascendamos la biología.
The Produc-
tion and Distribution of Knowledge in
the United States
propuestas de la Unión Europea para
regular la responsabilidad civil por
Indret
-
cia artificial y su aplicación al campo
Alegatos.
https://www.corteidh.or.cr/tablas/
r30570.pdf
La sociedad in-
formatizada como sociedad post-in-
dustrial.
-
-
th
morir? Crítica teológica a la idea de
Transhumanismo y Realidades Para-
lelas.-
Metodología de
la Investigación Cuantitativa y Cuali-
tativa -
https://www.uv.mx/
rmipe/files/2017/02/Guia-didacti-
ca-metodologia-de-la-investigacion.
pdf
Dead Aid: Why
Aid Is Not Working and How There Is
a Better Way for Africa-
-
ogy can help us learn from the ex-
Perspectives
on Medical Education,
Recommendation of
the Council on Artificial Intelligence.
-
https://legalinstruments.
oecd.org/en/instruments/oecd-le-
gal-0449
De-
rechos Humanos
comisionado de las naciones unidas
-
https://www.ohchr.
org/sites/default/files/Documents/
-
rians_SP.pdf
Olenka Woolcott Oyague y Flor María Ávila Hernández
Limitaciones de la Inteligencia artificial en la protección de...
ENCUENTS
130
ARTICULO
Diccionario de
ciencias jurídicas, políticas y sociales
Post Industri-
alism.
-
-
gital, Sociedad de Control. Inguruak,
inteligencia artificial: definición, re-
gulación y riesgos para los derechos
Estudios de Deusto.
Revista de derecho Público
¿Qué
es la inteligencia artificial y cómo se
usa? https://www.europarl.europa.
eu/pdfs/news/expert/2020/9/story
/20200827STO85804/20200827S
TO85804_es.pdf )
Recomendación
sobre la ética de la Inteligencia ar-
tificial https://unesdoc.unesco.org/
ark:/48223/pf0000381137_spa
-
se establecen normas armonizadas en
materia de inteligencia artificial y por
-
https://eur-lex.
europa.eu/legal-content/ES/ALL/?u-
Concepto y ca-
racterísticas de los derechos huma-
nos-
https://provea.org/
wp-content/uploads/2017/12/Con-
ceptosyCaracteristicas.pdf
Making de-
mocracy work : Civic traditions in
modem Italy.
-
histórica y evolución de la inteligencia
artificial, en Documentos de Seguri-
dad y Defensa 79
-
ciedad digital: riesgos y oportunida-
Informática y derecho: Revista
iberoamericana de derecho informá-
tico,
-
ximación a la propuesta legislativa
Revista de l’Institut
d’Estudis Europeus
Inteli-
gencia artificial. 101 cosas que de-
bes saber hoy sobre nuestro futuro
-
humano: una respuesta jurídica a la
Revista chilena
de derecho y tecnología.
El pro-
blema de la realidad social
-
terios orientadores para el adecua-
do uso de la inteligencia artificial
Corte constitucional de la Re-
pública de Colombia. https://www.
corteconstitucional.gov.co/relato-
Transparencia mediante suministro
de código fuente de aplicación in-
Corte constitucional de la
República de Colombiahttps://www.
corteconstitucional.gov.co/relato-
Fenomenología de Husserl y Hei-
ENCUENTS
131
ARTICULO
Revista de Ciencias Humanas,Teoría Social y Pensamiento Crítico
N° 28 Septiembre – Diciembre (2026). 111-131
Cultura de los Cuidados,
https://doi.org/10.14198/
cuid.2017.48.05
-
-
Medical Tea-
cher, https://doi.
org/10.1080/0142159X.2025.2478871
-
versal sobre el genoma humano y los
-
https://unesdoc.unesco.
org/ark:/48223/pf0000122990_spa
-
des sociales online como amortigua-
doras de la sociedad durante el con-
Revista de Comunicación
de la SEECI-
ble en https://www.seeci.net/revista/
index.php/seeci/article/view/828
Law & Social
Inquiry.
¿Qué es la
inteligencia Artificial? -
https://openaccess.uoc.edu/
bitstream/10609/148039/3/QueEs-
LaInteligenciaArtificial.pdf
International Journal
of Organization Theory and Behavior,
https://doi.org/10.1108/
de la responsabilidad civil en la so-
ciedad tecnológica: Una lectura de
Revista
de Direito Economico e Socioambien-
tal
-
fracciones de propiedad intelectual
Vniversitas
