Regulación de IA en Colombia: de la ficción a la realidad

A continuación, exploramos la situación actual de la regulación, las iniciativas gubernamentales y del Congreso, además la perspectiva de expertos en la materia y las implicaciones para el futuro del país y las empresas.

Cabe destacar que, según el Índice Latinoamericano de Inteligencia Artificial, ILIA publicado en febrero de 2024, Colombia es el sexto país de Latinoamérica en el ranking de adopción de la IA, con una puntuación de 47,6%. En la cima se encuentran Chile con un 72,6%, Brasil con 65,3%, Uruguay con un 54,9%, Argentina con el 54,7% y México con un 48,5%.

Conpes de IA

Uno de los documentos más importantes en el panorama de la regulación de la IA en Colombia es el Conpes de IA, recientemente publicado por el Departamento Nacional de Planeación. Este documento establece las líneas de acción y el diagnóstico sobre el estado de la IA en el país.

Según Diego Bassante, Líder de Asuntos Regulatorios y Gubernamentales para IBM América Latina, aunque el Conpes, aún está recibiendo comentarios, sí aborda los temas que deben ser tratados, además toma en cuenta otros análisis como el Índice Latam de IA y plantea algunas líneas de acción, entre ellas fortalecer la IA en el tejido empresarial.

Para Lorenzo Villegas Carrasquilla, socio en la firma de abogados CMS Rodríguez-Azuero, el Conpes de IA es un esfuerzo significativo por parte del gobierno colombiano para establecer una visión a largo plazo para el desarrollo y la adopción de la IA en el país.

Este documento no solo busca establecer un marco regulatorio, sino también fomentar la colaboración entre el gobierno, la academia y el sector privado para impulsar el desarrollo de la IA en diferentes sectores. La creación de centros especializados en IA, como parte de esta política, es un paso crucial para fomentar la investigación, la innovación y la formación de talento humano en este campo.

Proyectos de ley en curso

En el Congreso de la República de Colombia, actualmente están activos alrededor de siete proyectos de ley relacionados con la regulación de la Inteligencia Artificial, y se espera que se presenten aún más durante esta legislatura. Entre ellos se destacan:

1. Sobre IA y derecho al trabajo: se centra en proteger la estabilidad laboral y el derecho al trabajo en el contexto de los avances tecnológicos. Su objetivo es garantizar que la implementación de la IA en el ámbito laboral no perjudique los derechos de los trabajadores, promoviendo una coexistencia armoniosa entre tecnología y empleo.
2. Sobre la modificación del código penal: busca modificar un artículo del código penal para establecer un agravante en el delito de falsedad personal cuando se utiliza IA para la suplantación de identidad. La iniciativa responde a las preocupaciones sobre el uso indebido de tecnologías avanzadas para cometer fraudes y otros delitos.
3. Para establecer lineamientos de política pública en IA: propuesto por un miembro del Partido Liberal, este proyecto tiene como objetivo desarrollar un marco de políticas públicas para el uso, desarrollo e implementación de la IA en Colombia. La intención es asegurar que el país se posicione como un líder en la adopción responsable y ética de esta tecnología.
4. Sobre estándares de protección de derechos humanos en IA: también impulsado por el Partido Liberal, este proyecto busca establecer estándares para la protección de los derechos humanos en el contexto del desarrollo tecnológico. Pretende crear un entorno legal seguro que favorezca la innovación sin comprometer los derechos fundamentales de las personas.
5. Sobre uso responsable de la IA: se enfoca en definir un marco para el uso responsable de la IA en Colombia, abarcando aspectos como la seguridad, la transparencia, la equidad y la ética en el desarrollo y aplicación de esta tecnología.

Sin embargo, Villegas-Carrasquilla explica que uno de los principales desafíos, es que estos proyectos son similares entre sí y a menudo carecen de un enfoque sectorial específico. Además, tienen otro problema común y es la falta de diferenciación entre las diversas aplicaciones de la IA.

Según Villegas-Carrasquilla, «una regulación efectiva debe reconocer esta diversidad, pues la regulación debe adaptarse a las características de cada aplicación». Este enfoque es crucial para evitar la sobre regulación y asegurarse de que las leyes sean aplicables y útiles en el contexto colombiano.

El ejecutivo de IBM concuerda con Villegas – Carrasquilla en que hay que evitar la sobre regulación y para lograrlo, una buena ley debe cumplir tres principios básicos:

1. Regular el riesgo y no la tecnología, muchas veces cuando aparece una tecnología nueva hay intentos por regular la tecnología misma, un enfoque centrado en el riesgo es crucial para evitar el error de sobre regular y obstaculizar el progreso.
2. Los creadores e implementadores deben ser sujetos responsables porque la IA involucra una cadena de valor con desarrolladores, implementadores, agregadores, usuario final y cada uno de estos actores tiene una responsabilidad.
3. Promover una innovación abierta, porque así la IA puede ser más segura, y más responsable al tener más mentes trabajando sobre el código. “Tenemos nuestros modelos en código abierto porque sabemos que cuando hay una comunidad trabajando en tecnología se logra un equilibrio entre competencia, innovación y seguridad”, destacó Bassante.

El papel de la ética y la gobernanza en la IA

La ética y la gobernanza son componentes fundamentales en cualquier discusión sobre la regulación de la IA. Christoph Lütge, director del Instituto de Ética en Inteligencia Artificial de la Technische Universität München, destacó en la Cumbre Nacional de Inteligencia Artificial de Colombia la necesidad de aplicar principios éticos a la IA.

«Se hace necesario aplicar los principios de transparencia, ética y seguridad a la Inteligencia Artificial. En la actualidad existen aproximaciones de modelos de gobernanza, así es como la Unión Europea tiene un reglamento de IA que tiene disposiciones específicas para la IA Generativa. Sin embargo, tiene vacíos, y allí es donde se hace necesario avanzar», comentó Lütge.

IBM también ha trabajado en la incorporación de principios éticos en sus productos y servicios de IA. Un ejemplo de esto es Watsonx.governance, una herramienta que permite transparencia y auditorías internas para evitar sesgos o problemas regulatorios.

«La transparencia y equidad en la IA se traduce en productos», afirmó Bassante, enfatizando que los principios éticos no deben quedarse en lo teórico, sino que deben ser implementados en soluciones prácticas que puedan ser utilizadas por las organizaciones.

Perspectivas del sector privado

La opinión del sector privado sobre la regulación de la IA varía. Felipe Hernández Anzola, cofundador de DataUp.ai, es escéptico sobre la utilidad de la regulación, argumentando que «a veces esto es contraproducente porque muchas empresas se empiezan a ajustar a la regulación y finalmente esta puede cambiar».

“Los modelos de IA se entrenan con los datos que se le proporcionen, la regulación está asociada a entregar información éticamente correcta no sesgada, sin embargo, para desarrollos como el nuestro que se enfoca en la incorporación de IA a la cadena de suministro esto no aplica, porque usamos los datos transaccionales de las empresas y estos son datos que si o si son los mismos, por ejemplo cifras de ventas o de compras”, explicó Hernández.

Añadió, que hoy el desafío más grande es la resistencia al cambio y ver la IA como un beneficio a nivel estratégico. Aclaró, que espera una la regulación que entienda lo que están haciendo las empresas con la inteligencia artificial en Colombia y las las leyes se generen leyes a partir de allí. En sus palabras, algunas de las propuestas legislativas se asemejan a las de otros países y no se ajustan a lo local.

Por otro lado, Ivaldo Pereira, Gerente General de TOTVS Andina y TOTVS México, destacó la importancia de la adopción responsable de la IA en las empresas.

“Los proyectos de ley que regulan el uso de la IA existen para establecer el uso responsable de esta tecnología, buscando principios éticos y legales, que garanticen la seguridad, transparencia, igualdad y equidad para sus usuarios, así como el derecho laboral frente a la inteligencia artificial”, dijo Pereira.

Agregó, que estas medidas no impactan en la adopción, siempre y cuando las empresas busquen socios tecnológicos serios y comprometidos, que ya cumplan y garanticen estos principios, dando seguridad a las compañías.

Sobre el papel que juegan las empresas de tecnología en la regulación de la IA en Colombia, Pereira aclaró que es muy importante porque son responsables de garantizar que sus soluciones tecnológicas cumplan con las leyes y regulaciones existentes. Paralelamente, la iniciativa privada también tiene la responsabilidad de contribuir con las discusiones sobre la ética y la seguridad de la IA.

“Las empresas pueden actuar como socios del Gobierno y de otras industrias, proporcionando información técnica y colaborando en la creación de regulaciones que fomenten la innovación, al tiempo que protegen los derechos de los consumidores. Esta colaboración puede ayudar a moldear un entorno regulatorio que promueva el crecimiento sostenible de la IA en el país”, dijo el ejecutivo.

Retos y oportunidades en la adopción de la IA

Actualmente en Colombia el sector financiero es uno de los más avanzados en la implementación de la IA, utilizando la tecnología para elaborar análisis de riesgo crediticio, automatizar la atención al cliente y combatir el fraude en los procesos digitales. Sin embargo, las pequeñas y medianas empresas aún enfrentan desafíos significativos, principalmente debido a la falta de mano de obra cualificada y la necesidad de invertir en infraestructura tecnológica.

A pesar de estos desafíos, las oportunidades que ofrece la IA son enormes. «La IA tiene una capacidad de análisis de grandes volúmenes de datos, lo que genera una ventaja competitiva si se utiliza para predecir tendencias, personalizar ofertas, apoyar la innovación de productos y servicios», afirmó Pereira. La inteligencia artificial también tiene el potencial de impulsar la eficiencia y la productividad, permitiendo a las empresas hacer más con menos recursos.

La Cumbre Nacional de Inteligencia Artificial

A inicios de agosto y durante más de ocho horas, cerca de 400 asistentes, entre miembros de empresas tecnológicas, académicos, funcionarios gubernamentales, líderes y expertos nacionales e internacionales, debatieron sobre la hoja de ruta del país frente al uso y apropiación de la Inteligencia Artificial en Cartagena.

Este encuentro permitió conocer de primera mano las oportunidades del país para avanzar en educación, innovación y gobernanza, para crear una política pública que fortalezca el uso de esta tecnología responsable y éticamente. Además, fue la oportunidad para generar conceptos para un documento base que el Ministerio TIC consolidará, con el objetivo de avanzar en la construcción de una política pública real que brinde mayores insumos en el uso y funcionamiento de la IA.

“Me llena de alegría seguir evidenciando el potencial que tenemos como país para ser líderes en tecnología. La presencia hoy de cientos de colombianos que aman y trabajan en el mundo digital en esta Cumbre Nacional de IA demuestra que vamos por el camino que es. Hoy nos llevamos muy buenas ideas y elementos esenciales para consolidar nuestra posición frente a esta tecnología. Vamos a unir todas estos, puntos de vista y conclusiones para construir posiciones que se enfoquen el mejoramiento de la calidad de vida, de manera responsable, con todas las oportunidades que nos entrega hoy la Inteligencia Artificial”, resaltó el ministro TIC.

La jornada incluyó paneles temáticos en sobre Ecosistemas Habilitadores de Inteligencia Artificial, Educación para la IA, Transformación a través de la Conectividad y Gobernanza en IA.