Rodrigo de Echeandía*
El mundo enfrenta una transformación tecnológica que ya está modificando el trabajo, condiciona las democracias y puede alterar el equilibrio de poder entre las naciones. Sin regulación efectiva, la inteligencia artificial puede convertirse en una amenaza para los Derechos Humanos y la propia supervivencia de nuestra especie.
Hay una pregunta que la humanidad ya no puede postergar ¿quién controla a quienes están construyendo sistemas capaces de influir sobre nuestras decisiones, intervenir en infraestructuras críticas y ejecutar tareas cada vez más complejas sin supervisión humana?
La inteligencia artificial (IA) dejó de ser una promesa de ciencia ficción. Ya interviene en la economía, la comunicación, la seguridad, la política y el mundo del trabajo. Sus beneficios potenciales son enormes. Puede contribuir a mejorar la medicina, acelerar investigaciones científicas, optimizar procesos productivos y ampliar el acceso al conocimiento. Pero también concentra poder, multiplica las capacidades de vigilancia y abre riesgos que las instituciones políticas todavía no están preparadas para enfrentar.
El problema no es la tecnología en sí misma. Es la ausencia de límites democráticos frente a un desarrollo impulsado, en gran medida, por una competencia entre grandes corporaciones y potencias mundiales que buscan dominar el mercado y obtener ventajas económicas, militares y geopolíticas. En este escenario, la regulación no puede quedar subordinada a los intereses de quienes desarrollan y comercializan estos sistemas.
Existe un temor no infundado, a que la máquina se vuelva contra el ser humano y que según dichos del CEO de Antropic, la inteligencia artificial en este rumbo está a escasos años de convertirse en el verdugo de la especie humana.
La posibilidad de que sistemas futuros escapen al control humano constituye una preocupación analizada por especialistas, aunque no existe certeza aún, por lo menos hay semiplena prueba, de que ese escenario vaya a producirse en breve. No hace falta, imaginar una rebelión de máquinas para advertir la gravedad del problema.
El International AI Safety Report 2025, elaborado por un panel internacional de expertos, examina riesgos vinculados con el uso malicioso de la IA, los errores de funcionamiento, los ataques informáticos, la manipulación de personas y la eventual pérdida de control sobre sistemas avanzados. El informe también advierte que las capacidades de estas tecnologías evolucionan con rapidez y que todavía existen importantes incertidumbres sobre sus consecuencias.
El riesgo más inmediato es que sistemas cada vez más autónomos sean incorporados a actividades críticas sin mecanismos suficientes de supervisión, responsabilidad y corrección. Una decisión equivocada puede perjudicar a una persona; una falla en una infraestructura estratégica puede afectar a millones.
Cuando se trata de sistemas militares, centrales energéticas, redes financieras o mecanismos de defensa nacional, ¡no puede existir margen de error! La responsabilidad de la dirigencia política mundial sobre este tipo de situaciones es imperiosa; especialmente porque detrás de este tipo de decisiones, están en juego vidas. Cuando nos referimos a responsabilidad política, es inevitable analizar la responsabilidad civil y penal, a la hora de definir, quién responde cuando un algoritmo provoca un daño, lesión o muerte, que nadie puede prevenir, explicar, anticipar o detener a tiempo.
A la hora de analizar el tema desde las implicancias y consecuencias, en el mundo del trabajo, quién se queda con los beneficios del progreso, como se transforman o se crean nuevos empleos y los posibles daños que se generan durante la transición y la imparable concentración de la riqueza a nivel mundial, nos encontramos con otro gran y angustioso interrogante.
La transformación del empleo es otra de las grandes disputas de nuestro tiempo. La IA puede aumentar la productividad, crear nuevas actividades y reducir tareas rutinarias. Pero también puede desplazar trabajadores, degradar condiciones laborales y debilitar el poder de negociación de quienes dependen de un salario.
La Organización Internacional del Trabajo (OIT), en su estudio “IA Generativa y Empleo 2025”, estima que uno de cada cuatro trabajadores del mundo se desempeña en una ocupación con algún grado de exposición a la IA generativa. El organismo señala que, en la mayoría de los casos, es más probable una transformación de los empleos que su desaparición completa. Esto no significa que debamos subestimar sus consecuencias. La transformación sin participación de los trabajadores y sin el compromiso de los Estados, está siendo desigual; mientras algunas empresas multiplican sus ganancias, sectores enteros comienzan a sufrir despidos, pérdida de ingresos y mayor precariedad.
El interrogante central no es solamente cuántos puestos de trabajo desaparecerán, sino quién se apropiará de la riqueza adicional que produzca esta revolución tecnológica. Si el aumento de productividad queda concentrado en un puñado de corporaciones, la IA va a profundizar la desigualdad y debilitar la participación de los trabajadores en la distribución de la riqueza. Si, en cambio, este proceso se acompaña de políticas públicas y regulación, formación profesional, negociación colectiva y protección social, puede contribuir a mejorar las condiciones de vida.
La tecnología no determina por sí sola el resultado. Lo determinan las relaciones de poder, las decisiones políticas y las reglas que la sociedad establece. Por eso, la transición tecnológica debe discutirse con los sindicatos, los trabajadores, las universidades y los sectores productivos. No puede resolverse exclusivamente bajo las reglas del “mercado” y las grandes mayorías, siguen siendo un actor preponderante en la economía; motivo por el cual se hace imperioso no olvidar aquella máxima de que “La economía no es libre, o la regula el Estado en beneficio de los trabajadores, o la regula el Mercado en su propio beneficio”.
La inteligencia artificial también está modificando el campo de la seguridad y la defensa. Puede facilitar la detección de amenazas, pero también acelerar ciberataques, identificar vulnerabilidades en infraestructuras críticas y potenciar operaciones de espionaje ilegal y desinformación.
El informe de seguridad internacional sobre IA de 2025 identifica avances en las capacidades de los sistemas para realizar tareas vinculadas con ataques informáticos. Esto plantea desafíos tanto para los organismos de inteligencia como para los gobiernos responsables de proteger a sus ciudadanos. El peligro se multiplica cuando estas herramientas se integran en sistemas militares o de vigilancia sin controles adecuados. Una evaluación automatizada equivocada, una intrusión informática, “ciber patrullaje” o una cadena de decisiones que se ejecuta a gran velocidad pueden desencadenar violaciones a DDHH con consecuencias difíciles de revertir.
La competencia entre Estados Unidos, China y otras potencias por el dominio de estas tecnologías agrega una dimensión geopolítica. Estamos ante una disputa por el control de las capacidades estratégicas, que deja de lado, cualquier intención de posible neutralidad.
La defensa nacional no puede depender ciegamente de sistemas opacos ni de proveedores privados que concentran conocimientos, infraestructura y datos esenciales. Los Estados necesitan capacidad técnica propia, auditorías independientes y reglas claras sobre el uso de la IA en inteligencia, defensa y seguridad pública.
Otro de los riesgos más delicados, es la capacidad de la IA para intervenir en la formación de la opinión pública, manipulándola a riesgo de poner bajo amenaza los sistemas democráticos.
Las redes sociales ya permiten segmentar audiencias, identificar preferencias y orientar mensajes según los intereses de cada usuario. La inteligencia artificial amplía estas posibilidades, puede producir miles de mensajes personalizados, imitar voces, fabricar videos falsos y sostener conversaciones automatizadas que aparentan expresar un respaldo ciudadano inexistente.
La UNESCO y el Programa de las Naciones Unidas para el Desarrollo (PNUD) advirtieron, en un documento publicado en 2025 sobre IA, libertad de expresión y elecciones, que estas tecnologías plantean desafíos para la integridad de los procesos electorales, entre ellos la desinformación, los contenidos manipulados y las amenazas a la privacidad. El peligro no consiste únicamente en difundir una mentira. También consiste en construir un entorno informativo diseñado para explotar miedos, reforzar prejuicios, polarizar a la sociedad y condicionar decisiones individuales. Cuando millones de personas reciben mensajes diferentes, ajustados a sus vulnerabilidades, resulta más difícil reconocer una operación coordinada de manipulación.
La situación adquiere una gravedad todavía mayor cuando se considera el voto electrónico. Es necesario distinguir entre la manipulación de la opinión pública y la alteración técnica de los resultados electorales. Según una reciente denuncia en redes y reconocido por la propia empresa, el Estado Argentino, ha contratado para sus próximas elecciones nacionales, el sistema “Election 360” del grupo Smartmatic, que si bien se promociona como un sistema con altos estándares de seguridad, tiene elevadas posibilidades de manipulación en los resultados, ya que posibilita al administrador (en este caso la Dirección Nacional Electoral) puedo modificar registros “manualmente” o mediante scripts, que operados por agentes de IA podrían modificar en tiempo real los resultados según la orden del administrador; salteándose las reglas de la interfaz del software y violando la Constitución Nacional y ley del voto secreto
Un sistema informático de votación vulnerable, sin auditorías independientes ni mecanismos verificables de recuento, podría ser objeto de intrusiones o alteraciones. La IA podría facilitar ciertas tareas de ataque. Precisamente por esto, la seguridad electoral no puede descansar en la confianza ciega sobre una plataforma. Debe apoyarse en procedimientos verificables, controles independientes, trazabilidad y mecanismos que permitan comprobar que cada voto fue registrado, contado y procesado correctamente. La voluntad popular no puede quedar encerrada en una “caja negra” tecnológica. Regular la IA es defender la libertad
La Organización para la Cooperación y el Desarrollo Económicos (OCDE), en su informe “Governing with Artificial Intelligence”, advierte sobre riesgos asociados con la falta de transparencia, los errores algorítmicos, la vigilancia invasiva y la concentración del poder tecnológico. Son problemas que afectan tanto a la gestión pública como a la confianza de los ciudadanos en las instituciones.
Frente a este panorama, la respuesta no puede ser prohibir indiscriminadamente la innovación, pero mucho menos, aceptar que todo avance tecnológico sea legítimo por el solo hecho de ser posible.
Hace falta una regulación democrática, nacional e internacional, que establezca responsabilidades jurídicas, controles independientes, protección de datos personales y límites estrictos para los usos de alto riesgo. Los sistemas que intervengan en elecciones, infraestructuras críticas o decisiones militares requieren garantías reforzadas y supervisión humana efectiva.
También es necesario exigir transparencia a las plataformas digitales, impedir el uso abusivo de datos personales y garantizar que los ciudadanos puedan conocer cuándo interactúan con contenidos generados artificialmente. Las empresas deben responder por los daños que ocasionen sus sistemas, en lugar de trasladar todos los costos a la sociedad, poniendo el riesgo una larga lista de derechos.
El desafío es político antes que tecnológico. ¿Permitiremos que unos pocos “empresarios tecnócratas” que manipulan Estados, decidan unilateralmente cómo se transforma la vida humana? ¿O construiremos instituciones democráticas, capaces de orientar la innovación hacia el interés colectivo?
La inteligencia artificial puede ser una herramienta extraordinaria para el progreso. Pero, sin reglas, también puede convertirse en un instrumento de dominación económica, vigilancia social y erosión democrática. El verdadero peligro no es que las máquinas se parezcan demasiado a los seres humanos. Es que los seres humanos renuncien a decidir sobre su propio destino.
Regular la inteligencia artificial no significa frenar el futuro. Significa impedir que el futuro quede en manos de quienes pretenden estar por encima o al margen de la ley y los Estados, eliminando las democracias y administrando los países por gerentes, que solo responden a los intereses de los poderosos sin respetar éticas y humanidades.
Porque el progreso tecnológico, para merecer ese nombre, debe estar al servicio de la humanidad y no convertir a la humanidad en un recurso al servicio de la tecnología.
*Rodrigo de Echeandía, abogado, especializado en Negociación Colectiva y Empleo Público, psicólogo social, miembro del Consejo Editorial de Tesis 11.
Fuentes:
International AI Safety Report (2025): evaluación internacional de riesgos asociados con sistemas avanzados de IA, usos maliciosos, ciberseguridad y pérdida de control.
Organización Internacional del Trabajo (OIT), “IA Generativa y Empleo” exposición de las ocupaciones a la IA generativa y posibles transformaciones del empleo.
UNESCO y PNUD (2025) “Artificial Intelligence, Freedom of Expression and Elections” Safeguarding Democratic Processes.
OCDE (2025) “Gobernar con Inteligencia Artificial” Situación actual y perspectivas de futuro en las funciones gubernamentales esenciales.
