{"id":178968,"date":"2024-11-21T13:08:59","date_gmt":"2024-11-21T16:08:59","guid":{"rendered":"https:\/\/nuevoitsitio1.wpenginepowered.com\/ar\/sin-categoria\/imputado-por-usar-inteligencia-artificial-adulterando-fotos\/"},"modified":"2025-11-21T16:00:34","modified_gmt":"2025-11-21T19:00:34","slug":"imputado-por-usar-inteligencia-artificial-adulterando-fotos","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/columna-de-opinion\/imputado-por-usar-inteligencia-artificial-adulterando-fotos\/","title":{"rendered":"Imputado por usar inteligencia artificial adulterando fotos"},"content":{"rendered":"

Por Mat\u00edas Nahon.<\/em><\/strong><\/p>\n

Cada vez son m\u00e1s frecuentes las denuncias por manipulaci\u00f3n de fotos con Inteligencia Artificial (IA<\/a>) con menores<\/strong>\u00a0o bien en colegios, entre compa\u00f1eros (como fue el caso de un chico de 18 a\u00f1os en C\u00f3rdoba que fue imputado por hacerlo con sus compa\u00f1eras y compartirlas en sitios pornogr\u00e1ficos).\u00a0Este ser\u00eda el primer caso conocido de una imputaci\u00f3n de este tipo frente al vac\u00edo legal existente frente al mal uso de las IA.<\/strong><\/p>\n

Ante este vac\u00edo legal que vengo se\u00f1alando, el fiscal sugiri\u00f3 la imputaci\u00f3n de lesiones graves por violencia de g\u00e9nero. A pesar de eso el fiscal Tagle reconoci\u00f3 que \u201cla ley penal debe necesariamente actualizarse generando nuevos tipos penales espec\u00edficos contra la IA\u201d. Al chico imputado se le allan\u00f3 la casa donde se le secuestraron la computadora y el celular para hacer las pericias para comprobar los hechos. Finalmente, la clave para dar con el responsable fue la IP (direcci\u00f3n de internet asignada a un usuario) para su identificaci\u00f3n.<\/p>\n

Aqu\u00ed es importante analizar el encuadre legal de este caso que ampl\u00eda el concepto de lesiones frente a la actuaci\u00f3n de estas conductas, que tienen la intenci\u00f3n de da\u00f1ar la imagen y prestigio de las personas causando un da\u00f1o ps\u00edquico.<\/p>\n

\"width=\"
En la ciudad de Victoria, un grupo de estudiantes fue denunciado por manipular fotos de sus compa\u00f1eras con IA y venderlas en sitios web. La justicia est\u00e1 llevando a cabo allanamientos y peritajes para determinar la magnitud del delito.<\/figcaption><\/figure>\n

El marco legal frente a las nuevas tecnolog\u00edas<\/span><\/h2>\n

Este caso llama la atenci\u00f3n por la imputaci\u00f3n de un delito con lesiones graves en las que enmarc\u00f3 el fiscal,\u00a0pero el acoso digital utilizando IA en la manipulaci\u00f3n de im\u00e1genes y voz ya est\u00e1 sucediendo hace meses, por m\u00e1s que no se den a conocer masivamente. <\/strong>Adem\u00e1s, el caso tom\u00f3 notoriedad por las im\u00e1genes sexuales, pero la alteraci\u00f3n por IA con la intenci\u00f3n de destruir el prestigio de personas, marcas o empresas ya est\u00e1 en marcha hace tiempo, por eso la urgencia de una legislaci\u00f3n acorde que ponga l\u00edmites claros a estas conductas.<\/p>\n

Es clave impulsar activamente una regulaci\u00f3n clara y transparente de la IA que no impida la fuerza de su capacidad innovadora, pero que contenga sus riesgos. Para eso podemos basarnos en las normas ya existentes en el mundo, como la SB1047 de California y en el reglamento de la UE 2024\/1689 formulado este a\u00f1o, m\u00e1s concretamente el 23 de junio. La subsecretar\u00eda de Tecnolog\u00edas de la informaci\u00f3n de Argentina tambi\u00e9n emiti\u00f3 un conjunto de recomendaciones en 2023 que deber\u00eda actualizarse y hacerse m\u00e1s exhaustivo, ya que constituye una excelente base para comenzar.<\/p>\n

Solamente hay que estar atentos a los nuevos desarrollos y regulaciones a nivel mundial que se\u00f1alan el camino. No son necesarias teor\u00edas paranoicas o ingenuas respecto a las dificultades que nos trae esta nueva realidad, s\u00f3lo hay que ponerle cabeza y trabajo para avanzar en un desarrollo tecnol\u00f3gico que brinde mejores herramientas de mayor productividad, y al mismo tiempo garanticen los derechos.<\/p>\n

Por otro lado, en Argentina existe un nuevo c\u00f3digo penal que a\u00fan no est\u00e1 vigente que propone de tres a seis a\u00f1os de prisi\u00f3n por la alteraci\u00f3n digital de im\u00e1genes sexuales con agravantes que incluyan violencia de g\u00e9nero o menores. El proyecto que incluye a la IA en las tipificaciones del C\u00f3digo Penal ser\u00e1 elevado al Congreso de la Naci\u00f3n pr\u00f3ximamente.\u00a0Esperemos que se pueda debatir, y que ponga eje en el debate mayor de regulaci\u00f3n en el mal uso de la IA.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Por Matías Nahon. Cada vez son más frecuentes las denuncias por manipulación de fotos con Inteligencia Artificial (IA) con menores o bien en colegios, entre compañeros (como fue el caso de un chico de 18 años en Córdoba que fue imputado por hacerlo con sus compañeras y compartirlas en sitios pornográficos). Este sería el primer caso conocido de una imputación de este tipo frente al vacío legal existente frente al mal uso de las IA. Ante este vacío legal que vengo señalando, el fiscal sugirió la imputación de lesiones graves por violencia de género. A pesar de eso el fiscal Tagle reconoció que “la ley penal debe necesariamente actualizarse generando nuevos tipos penales específicos contra la IA”. Al chico imputado se le allanó la casa donde se le secuestraron la computadora y el celular para hacer las pericias para comprobar los hechos. Finalmente, la clave para dar con el responsable fue la IP (dirección de internet asignada a un usuario) para su identificación. Aquí es importante analizar el encuadre legal de este caso que amplía el concepto de lesiones frente a la actuación de estas conductas, que tienen la intención de dañar la imagen y prestigio de las personas causando un daño psíquico. El marco legal frente a las nuevas tecnologías Este caso llama la atención por la imputación de un delito con lesiones graves en las que enmarcó el fiscal, pero el acoso digital utilizando IA en la manipulación de imágenes y voz ya está sucediendo hace meses, por más que no se den a conocer masivamente. Además, el caso tomó notoriedad por las imágenes sexuales, pero la alteración por IA con la intención de destruir el prestigio de personas, marcas o empresas ya está en marcha hace tiempo, por eso la urgencia de una legislación acorde que ponga límites claros a estas conductas. Es clave impulsar activamente una regulación clara y transparente de la IA que no impida la fuerza de su capacidad innovadora, pero que contenga sus riesgos. Para eso podemos basarnos en las normas ya existentes en el mundo, como la SB1047 de California y en el reglamento de la UE 2024\/1689 formulado este año, más concretamente el 23 de junio. La subsecretaría de Tecnologías de la información de Argentina también emitió un conjunto de recomendaciones en 2023 que debería actualizarse y hacerse más exhaustivo, ya que constituye una excelente base para comenzar. Solamente hay que estar atentos a los nuevos desarrollos y regulaciones a nivel mundial que señalan el camino. No son necesarias teorías paranoicas o ingenuas respecto a las dificultades que nos trae esta nueva realidad, sólo hay que ponerle cabeza y trabajo para avanzar en un desarrollo tecnológico que brinde mejores herramientas de mayor productividad, y al mismo tiempo garanticen los derechos. Por otro lado, en Argentina existe un nuevo código penal que aún no está vigente que propone de tres a seis años de prisión por la alteración digital de imágenes sexuales con agravantes que incluyan violencia de género o menores. El proyecto que incluye a la IA en las tipificaciones del Código Penal será elevado al Congreso de la Nación próximamente. Esperemos que se pueda debatir, y que ponga eje en el debate mayor de regulación en el mal uso de la IA.<\/p>\n","protected":false},"author":229,"featured_media":178970,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[50],"tags":[237],"class_list":["post-178968","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-rinconisv"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/178968","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=178968"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/178968\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/178970"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=178968"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=178968"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=178968"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}