Ante el uso cada vez más extendido de las tecnologías de inteligencia artificial, se hizo necesario establecer normativas claras que lo regulen, ya que, sin una supervisión y control adecuados, esta tecnología podría afectar derechos de la ciudadanía y generar distintos daños. Por un lado, tiene la potencialidad perpetuar sesgos, invadir la privacidad, afectar la propiedad intelectual y causar otro tipo de daños. Por otro lado, como ya se ha comprobado es aprovechada para fines maliciosos de los más variados.

La regulación de la inteligencia artificial se ha vuelto una necesidad urgente para garantizar el desarrollo y uso ético. La transparencia en la utilización de sus datos, es un derecho de la ciudadanía, así como explicabilidad de procesos de toma de decisiones que utilicen IA. En efecto, la recolección de información con la que se entrenan los modelos debe razonable, consentida y no debe orientarse a fines ilícitos.

El compromiso de las organizaciones debe orientarse a cumplir con regulaciones que permitan a los usuarios acceder, modificar y eliminar sus datos cuando así lo requieran, y garantizar que los modelos y su información están protegidos con las medidas más actuales y eficientes de ciberseguridad. La regulación no debe ser un obstáculo para el desarrollo tecnológico, sino una orientación para garantizar su seguridad. Está claro que los ciudadanos deben exigir normativas que prioricen la seguridad, la privacidad y el respeto por sus derechos humanos.

Para comprender un poco más la cuestión es importante reflexionar sobre algunas cuestiones:

¿Cuáles son las preocupaciones actuales sobre el uso de la IA?

El uso masivo de la inteligencia artificial puso en evidencia algunos riesgos que se asocian a su uso que pueden resumirse en:

  • Sesgos: los algoritmos de IA pueden perpetuar y en ciertas ocasiones ampliar los sesgos existentes socialmente, ya que “aprenden” sobre estos de los datos con los que son entrenados. Esto ya ha resultado en decisiones discriminatorias e inequitativas en áreas como la contratación laboral, procesos jurídicos penales, entre otros.
  • Propiedad intelectual: la creación y generación de contenido mediante el uso de estos algoritmos facilitó el plagio y difusión no autorizada de obras sujetas a derecho de autor y propiedad intelectual. En este punto también uno de los interrogantes es quién será considerado a nivel legislativo el autor de las creaciones.
  • Privacidad: la gran cantidad de datos que procesa, muchas veces de carácter personal y hasta sensible, plantea riesgos significativos para la privacidad
  • Uso malicioso por cibercriminales: los cibercriminales ya utilizan la IA para mejorar sus ataques. Esto incluye el uso para crear software malicioso con características más sofisticadas y también para ataques de phishing, o el uso de deepfakes cada vez más convincentes.
  • Desplazamiento laboral: la automatización impulsada por la IA eventualmente puede traer aparejado el desplazamiento laboral en ciertos sectores, especialmente aquellos caracterizados por acciones repetitivas y de rutina. Esta circunstancia plantea desafíos para los trabajadores, quienes deberán adaptarse rápidamente a las circunstancias, muchas veces cambiando de rumbo.
  • Distorsión de la realidad: La IA puede generar contenido falso, como noticias y deepfakes, que pueden utilizarse para distorsionar la realidad y afectar la percepción y opinión pública.

Tendencias de legislación a nivel internacional

En la actualidad, la legislación sobre inteligencia artificial a nivel internacional se encuentra en un proceso de evolución en el que de a poco se van viendo los primeros avances.

En la materia podemos destacar el trabajo realizado por la Unión Europea, que ya cuenta con una Ley de Inteligencia Artificial (AI Act), que es quizás la regulación más avanzada y completa. Entró en vigor en agosto del 2024 y pretende proveer lineamientos para garantizar que la IA desarrollada y utilizada sea segura, ética y respete los derechos fundamentales de la ciudadanía. Esta norma aborda el tema mediante una clasificación de la IA según sus riesgos, estableciendo categorías que determinarán el grado de regulación de cada modelo desarrollado. Además, establece principios referidos a la transparencia de los algoritmos y la necesidad de que estos sean supervisados por humanos, todo esto con foco en la protección de los derechos de la ciudadanía.

Además de la AI Act, El Consejo de Europa ha avanzado sobre lo que podría considerarse el primer tratado internacional jurídicamente vinculante sobre IA y que es un tratado abierto a la firma también para países no europeos.

En Estados Unidos, la regulación se ha abordado en principio a través de la Orden Ejecutiva del presidente Biden, del año 2023 (no vinculante) y se encuentra en desarrollo el BluePrint de una ley Federal de IA.

Muchos países de distintas partes del mundo se encuentran tratativas de leyes sobre IA, entre los que se puede destacar Australia, cuya próxima legislación será una de las completas.

¿De quién dependen las regulaciones? ¿Las empresas de tecnología tienen algún rol? ¿O todo depende de gobiernos?

Las regulaciones de la inteligencia artificial dependen principalmente de los gobiernos, en tanto tienen las capacidades legislativas y de hecho una obligación, pero está claro que las empresas de tecnología también juegan un papel crucial.

Los gobiernos son los principales responsables de crear y hacer cumplir las regulaciones de IA y las empresas de tecnología también tienen un rol significativo como autorregularse mediante política internas, innovar en forma ética y responsable y colaborar con el gobierno planteando las necesidades de la industria.

¿Cuál es la situación de LATAM sobre la regulación de la IA?

A nivel LATAM, la mayoría de los países cuentan al menos con decretos, salvo el caso de Perú que cuenta con una ley. Recientemente, el Parlamento Latinoamericano y Caribeño ha propuesto una Ley Modelo que quizás inspire legislaciones a nivel interno.

Perú en 2023, promulgó la Ley 31814, que promueve el uso de la IA para el desarrollo económico y social del país estableciendo principios el desarrollo y uso de la IA desde un punto de vista de seguridad y ética.

En el caso de Brasil introdujo un proyecto de ley para establecer un marco legal que garantice la transparencia, privacidad y seguridad en el uso de la IA, proyecto que fue tratado desde 2021 y que el pasado diciembre del 2024 ya obtuvo media sanción por parte del senado.

En México, desde la Coordinación de la Estrategia Digital Nacional, se puso en marcha en 2018 una iniciativa para elaborar una estrategia nacional de IA, pero que ha perdido impulso, según valora un informe de 2024 de la UNESCO. 

Por su parte, la Argentina cuenta con varios proyectos de ley aunque aún no ha logrado avances significativos.

En Colombia se ha emitido una Política Nacional de IA que comparte los mismos principios que son tendencia en LATAM.

En Chile, un país a la vanguardia de la regulación en tecnología, se ha avanzado en la regulación de la IA con un proyecto de ley y se han visto acciones en el Foro de Altas Autoridades en IA, convocado por el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación Chileno y que invitó a más de 20 países, donde se firmó la Declaración de Santiago Para promover una Inteligencia Artificial ética en América Latina y el Caribe". 

Conclusión

En conclusión, la regulación de la inteligencia artificial es fundamental y necesaria para lograr un equilibrio entre el desarrollo tecnológico y la protección de los derechos fundamentales de la ciudadanía. Sin normativas claras y eficientes, los riesgos asociados a la inteligencia artificial seguirán manifestándose y creciendo, lo cual amplía el panorama de ataque para los cibercriminales.

Las organizaciones y empresas deben comprometerse a tratar los datos de manera ética y transparente, asegurando buenas infraestructuras de ciberseguridad y permitiendo a los ciudadanos decidir sobre su información.

A nivel internacional, los países seguirán emitiendo regulaciones que buscan un desarrollo seguro, ético y equitativo de la IA. Es así que debemos destacar que garantizar un uso responsable de la tecnología es un derecho irrenunciable y una necesidad urgente para el presente y futuro inmediato.