La regulación de la Inteligencia Artificial es un tema de Ciberseguridad, porque es algo que se hace con computadoras y puede afectar la vida de las personas.
Analicemos algunas de las razones por las cuales se intenta regular la IA y veamos si tienen que ver con la propia IA o con otros factores de los que habría que ocuparse.
Privacidad y vigilancia masiva
La IA puede ser utilizada para la vigilancia masiva, invadiendo la privacidad de los individuos. En China, por ejemplo, el gobierno emplea sistemas de reconocimiento facial para monitorear a la población. Esta tecnología avanzada, aunque útil para encontrar delincuentes o personas extraviadas, también se usa para la vigilancia de grupos minoritarios de la sociedad. Este no es un problema inherente a la IA, sino de cómo se utiliza.
Sesgo y discriminación
Los algoritmos de IA pueden amplificar los sesgos presentes en los datos utilizados para su entrenamiento. Uno de los ejemplos más conocidos fue el de un prototipo de un sistema de reclutamiento de Amazon desarrollado con IA, que discriminaba a las personas de género femenino porque había sido entrenado con currículums que en su mayoría pertenecían a personas de género masculino. El problema no radica en la IA, sino en el conjunto de datos desequilibrado que se tomó para entrenar al modelo.
Transparencia
Muchos algoritmos de IA funcionan como “cajas negras”, dificultando entender cómo se toman las decisiones. El software COMPAS del sistema de justicia penal de EE.UU. es un ejemplo de esto. Funciona como una caja negra y ha sido criticado por su sesgo racial que, independientemente de los datos de entrada, siempre da como resultado un mayor porcentaje de reincidencia delictiva para las personas de raza afroamericana. El problema aquí no es la IA en sí, sino la falta de documentación y pruebas adecuadas del algoritmo.
Manipulación de la información
La IA puede ser utilizada para manipular la información y condicionar las decisiones de las personas. Algoritmos de redes sociales como Facebook y Twitter facilitan la difusión de desinformación, creando “burbujas de filtros”. Algunos de los ejemplos más documentados fueron producidos por la compartición de datos de Facebook con la empresa Cambridge Analytica, que influenciaron las elecciones de Estados Unidos en 2016 y el referéndum sobre el Brexit en el Reino Unido. Este no es un problema de la IA, sino de cómo se la utiliza.
IA subrepticias
Algo que nunca será alcanzado por las regulaciones es lo que no se sabe públicamente que existe. Existen IA que operan de manera subrepticia sin el consentimiento de las personas. Un ejemplo es “Pegasus”, un programa de espionaje basado en IA que accede a teléfonos celulares para espiar a individuos. El caso más famoso del uso de Pegasus fue el espionaje de los teléfonos de Jeff Bezos, el fundador de Amazon.
¿Qué proponen las iniciativas regulatorias y por qué no funcionan?
- Regulación y políticas: los intentos de regulación suelen llegar tarde. Las tecnologías avanzan más rápido de lo de lo requiere la actualización de una política regulatoria.
- Auditorías y supervisión independiente: hay pocas personas capaces de auditar estas tecnologías adecuadamente, y las auditorías son medidas reactivas que no se ajustan a los tiempos del mercado
- Tecnologías de contramedida: este enfoque crea un ciclo interminable de contramedidas sobre contramedidas que nunca finaliza en una solución definitiva.
¿Qué hacer?
En lugar de intentar regular de la manera actual, se puede tomar como modelo de acción el que se siguió cuando comenzaron las preocupaciones sobre el desarrollo de la Ingeniería Genética a principios de los años 70 del siglo pasado. En ese entonces, comunidades académicas y sociales interesadas en los posibles efectos negativos de la Ingeniería Genética, convocaron a los líderes de los proyectos más avanzados para comprender y diseñar medidas de control y mitigación de estos efectos. El resultado de esta iniciativa no fue perfecto, pero permitió llegar a algunos consensos de manera adecuadamente informada. Este enfoque de control informado podría ser más efectivo para abordar los potenciales problemas de la IA sobre las personas.
La regulación de la IA en América Latina
Algunos países de la región comenzaron a desarrollar y discutir regulaciones y políticas para regular la IA:
- Brasil: en 2021, el Senado brasileño aprobó un proyecto de ley que establece principios y directrices para el desarrollo y la aplicación de la IA. Este proyecto aboga por el respeto a los derechos humanos, la no discriminación, la transparencia y la rendición de cuentas en el uso de la IA. Además, la denominada Estrategia Brasileña de Inteligencia Artificial, tiene como objetivo fomentar la investigación, el desarrollo y la aplicación de la IA en diversas áreas económicas y sociales.
- Argentina: cuenta con una Estrategia Nacional de Inteligencia Artificial que tiene como objetivo promover el desarrollo y uso responsable de la IA, garantizando que se alinee con los derechos humanos y las normas éticas.
- Chile: cuenta con Estrategia Nacional de Inteligencia Artificial, lanzada en 2021, centrada en promover la innovación y el desarrollo tecnológico en IA, así como en asegurar que su implementación sea ética y beneficiosa para la sociedad.
- México: cuenta con una Estrategia Nacional de Inteligencia Artificial que forma parte del Plan Nacional de Desarrollo y busca fomentar la creación y uso ético de la IA en diversos sectores, incluyendo la administración pública, la salud y la educación.
- Colombia: en 2021 lanzó su Política Nacional de Transformación Digital e Inteligencia Artificial, que establece principios y directrices para el uso ético y responsable de la IA. Esta política se centra en promover la innovación y la competitividad, así como en garantizar la protección de los derechos humanos y la privacidad.
- Uruguay: desarrolló su Estrategia Nacional de Inteligencia Artificial que tiene como objetivo fomentar la investigación y el desarrollo de la IA, así como asegurar su uso ético y responsable en diversos sectores.
¿La regulación de la IA impactará el mercado de IT?
La implementación de regulaciones de Inteligencia Artificial en América Latina tendrá efectos en el mercado de IT tanto positivos como negativos.
Impactos positivos
- Incremento en la inversión y desarrollo de IA: las regulaciones claras y bien definidas pueden proporcionar un marco seguro y predecible para las empresas que deseen invertir en IA. Esto podría llevar a un aumento en la inversión y el desarrollo de tecnologías de IA en la región, ya que las empresas locales y extranjeras podrían estar más dispuestas a invertir en un entorno regulatorio estable.
- Fomento de la capacitación y desarrollo de habilidades: para cumplir con las regulaciones, las empresas necesitarán personal capacitado en el uso y desarrollo de IA de manera ética y responsable. Esto podría impulsar la demanda de programas de capacitación y educación en IA, creando oportunidades para instituciones educativas y profesionales del sector IT.
- Protección de los derechos de los usuarios: las regulaciones pueden ayudar a proteger los derechos de los usuarios, asegurando que las tecnologías de IA se desarrollen y utilicen de manera transparente, justa y responsable. Esto podría aumentar la confianza de los consumidores en las tecnologías de IA, fomentando una mayor adopción y uso de estas tecnologías en diversos sectores.
- Fomento de la colaboración público-privada: las regulaciones pueden promover la colaboración entre el sector público y el privado en el desarrollo y la implementación de tecnologías de IA. Esto podría incluir la creación de consorcios, asociaciones y proyectos conjuntos que impulsen la innovación y el desarrollo tecnológico en la región.
- Creación de nuevos mercados y oportunidades: las regulaciones pueden abrir nuevos mercados y oportunidades para empresas especializadas en cumplimiento normativo, auditorías de IA, y desarrollo de tecnologías que garanticen la privacidad y la seguridad. Esto podría llevar a la creación de nuevas empresas y servicios dentro del ecosistema de IT.
- Alineación con estándares internacionales: al adoptar regulaciones de IA, los países de América Latina pueden alinearse con estándares y mejores prácticas internacionales. Esto puede facilitar la integración de sus mercados de IT en la economía global, permitiendo a las empresas locales competir en un contexto internacional.
Impactos negativos
- Aumento de costos de cumplimiento: la implementación de regulaciones puede aumentar los costos para las empresas de IT, ya que tendrán que asegurarse de que sus productos y servicios cumplan con las nuevas normativas. Esto puede incluir inversiones en infraestructura, capacitación de personal, auditorías y cumplimiento de estándares éticos y de privacidad.
- Riesgo de sobrerregulación: existe el riesgo de que las regulaciones excesivamente restrictivas puedan limitar la innovación y el desarrollo tecnológico. Si las regulaciones son demasiado rígidas o complejas de implementar, podrían desincentivar a las empresas de IT a invertir y desarrollar nuevas tecnologías en la región.
