Corre el año 1975, el brillante historiador, filosofo, sociólogo y psicólogo francés Paul Michel Foucault, publica una investigación trascendente para esos tiempos y vigente medio siglo después, “Vigilar y Castigar: nacimiento de la prisión”, es una obra fundamental en el estudio de las instituciones punitivas y el control social. Examina cómo la sociedad moderna transformó sus métodos de castigo, pasando de un sistema basado en el sufrimiento físico hacia uno enfocado en la vigilancia y la disciplina.
El irrefrenable deseo al Control Social
Si bien de antiguo y en todas las culturas, existió formas de disciplinar a los pueblos, Foucault analiza el desarrollo de nuevas formas de control social y disciplina en instituciones como las escuelas, fábricas y cuarteles. Expone la idea del “panóptico”, un modelo de vigilancia ideado por Jeremy Bentham, donde un vigilante central puede observar a todos los individuos sin que estos sepan si están siendo observados. El panóptico se convierte en una metáfora de cómo las instituciones modernas controlan el comportamiento de las personas mediante la vigilancia constante.
Finalmente, Foucault explora cómo la prisión se convierte en el principal método de castigo, bajo la premisa de reformar al delincuente. En lugar de redimir, la prisión sirve para controlar y disciplinar a los individuos, creando una “sociedad carcelaria” en la que todos los aspectos de la vida están sometidos a la vigilancia y el control.
“Vigilar y castigar” es una crítica profunda a las estructuras de poder que regulan el comportamiento humano en la sociedad moderna. Foucault argumenta que el poder no solo opera a través de la represión física, sino mediante el control y la disciplina que se internalizan en los individuos. De esta forma, los sistemas de vigilancia y disciplina han pasado a formar parte de la vida cotidiana, condicionando las acciones de las personas.
Una de las ideas clave es el concepto de “poder disciplinario”, que implica el control sutil de los cuerpos y las mentes. Este poder disciplinario es menos evidente que la violencia física, pero igual de eficaz para mantener el orden y la conformidad social. Al instituir una vigilancia constante, las instituciones modernas transforman a los individuos en sujetos dóciles y productivos.
Según Foucault, el sistema punitivo moderno se ha enfocado en reformar y disciplinar al individuo, pero en realidad, este “fin” es un pretexto para establecer un sistema de control más efectivo.
En lugar de simplemente castigar una infracción, el objetivo es transformar al individuo en un miembro productivo y dócil de la sociedad. De hecho, Foucault sostiene que la prisión y otras formas de disciplina no eliminan el crimen ni rehabilitan a los delincuentes; solo crean una categoría de individuos sujetos a una vigilancia y control constantes.
Nos invita a cuestionar si el sistema penal moderno realmente busca justicia o si es, más bien, un mecanismo para consolidar el poder y mantener el orden social.
En última instancia, plantea que la justicia penal no se preocupa tanto por la “rehabilitación” como por la preservación de las estructuras de poder, restringiendo así las libertades individuales de formas sutiles pero efectivas.
En la actualidad este tipo de controles sociales se han profundizado, producto de que la sociedad avanza hacia un mundo nuevo regido por tecnologías que parece no tener limites en su evolución, nos referiremos a la llamada Inteligencia Artificial, y en análisis de condutas que a todos los seres humanos nos somete los algoritmos y la bigdata.
Yuval Noah Harari, el Filósofo e historiador, autor de obras como Sapiens, Homo Deus y 21 lecciones para el siglo XXI, ha expresado en múltiples ocasiones su preocupación por cómo la biotecnología y la inteligencia artificial (IA) podrían transformar profundamente a la humanidad, poniendo en riesgo tanto la libertad individual como la democracia. Sus ideas destacan dos áreas principales de inquietud: el control del ser humano a través de la tecnología y los posibles impactos éticos y sociales de estas innovaciones.
Control a través de la biotecnología y la IA
Harari señala que la biotecnología y la IA están dando a gobiernos y corporaciones una capacidad sin precedentes para monitorizar, manipular y controlar a los seres humanos. A medida que las herramientas de IA y los avances en biotecnología se combinan, estas tecnologías pueden analizar y modificar el comportamiento humano de maneras imposibles hace tan solo unas décadas.
Una de sus advertencias más serias es el desarrollo de tecnologías que permitan la “vigilancia bajo la piel”. Harari explica que, al combinar sensores biométricos, IA y grandes volúmenes de datos, las instituciones podrían monitorear no solo las actividades de las personas, sino también sus emociones, reacciones y decisiones. Esto plantea un escenario en el que la privacidad humana queda en riesgo y en el que los gobiernos y las corporaciones podrían manipular a las personas al conocer sus emociones e impulsos en tiempo real.
Erosión de la libertad individual
Harari sostiene que este nivel de vigilancia podría erosionar la libertad humana de formas nunca antes vistas. En su opinión, los avances en biotecnología e IA permiten que los sistemas de poder identifiquen y predigan el comportamiento humano con una precisión asombrosa, haciendo a las personas vulnerables a la manipulación. Los algoritmos, dice Harari, pueden conocer a las personas mejor que ellas mismas y manipularlas en función de sus deseos, miedos y preferencias.
Como consecuencia, el control a través de estas tecnologías podría hacer que la libertad de elección sea una ilusión: si los algoritmos deciden qué opciones son visibles o atractivas, el libre albedrío humano se ve reducido.
El impacto en la democracia
Harari también advierte que la combinación de IA y biotecnología podría socavar los valores democráticos. En un sistema donde unos pocos tienen el poder de usar tecnologías avanzadas para monitorear y manipular a millones, la democracia podría verse reemplazada por un “tecnototalitarismo”. Este término sugiere que las tecnologías de vigilancia avanzada podrían ser utilizadas por gobiernos autoritarios para imponer un control absoluto sobre la sociedad, eliminando cualquier forma de oposición.
En este sentido, insiste en la importancia de crear regulaciones éticas y legales a nivel global para limitar el uso de estas tecnologías y proteger las libertades individuales.
Reflexión final
No solo Harari plantea una advertencia a la humanidad sobre los riesgos de la biotecnología y la IA, sino también grandes personalidades y presidentes de Estados reconocen la peligrosidad del avance de estas herramientas que no parece tener limites, si no se regulan, estas tecnologías podrían llevar a una sociedad en la que los seres humanos pierdan su libertad y autonomía. Su visión es, en última instancia, una invitación a reflexionar sobre los impactos éticos y sociales de las innovaciones tecnológicas, y a considerar seriamente la necesidad de un control ético que proteja a la humanidad del potencial de manipulación y control masivo.
La imagen resume el control social y el posible fin de la autonomía humana en la era de la IA y la biotecnología. La escena ilustra la vigilancia y manipulación en un entorno futurista, mostrando los efectos de la tecnología en la libertad individual.
Yuval Noah Harari
Themis IA
Fortaleciendo el control de convencionalidad: https://themisia.corteidh.or.cr
