{"id":176927,"date":"2024-06-28T19:37:44","date_gmt":"2024-06-28T17:37:44","guid":{"rendered":"https:\/\/nuevoitsitio1.wpenginepowered.com\/ar\/sin-categoria\/prevenir-sesgos-en-modelos-de-lenguaje-empoderando-la-diversidad-en-la-era-digital\/"},"modified":"2025-11-21T16:01:11","modified_gmt":"2025-11-21T19:01:11","slug":"prevenir-sesgos-en-modelos-de-lenguaje-empoderando-la-diversidad-en-la-era-digital","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/inteligencia-artificial\/prevenir-sesgos-en-modelos-de-lenguaje-empoderando-la-diversidad-en-la-era-digital\/","title":{"rendered":"Prevenir sesgos en modelos de lenguaje: empoderando la diversidad en la era digital"},"content":{"rendered":"

Los Modelos de Lenguaje de Gran Escala (LLM por sus siglas en ingl\u00e9s) como ChatGPT, est\u00e1n transformando la forma en que nos comunicamos y obtenemos informaci\u00f3n; sin embargo, estos avances tecnol\u00f3gicos enfrentan desaf\u00edos significativos en la prevenci\u00f3n de sesgos, particularmente de aquellos que afectan al colectivo LGTBIQ+ y otros grupos o diversidades<\/strong>.<\/p>\n

El estudio The AI Index Report 2024 de la Universidad de Stanford revela que en los datos utilizados para entrenar LLM predominan sesgos de g\u00e9nero y raciales. As\u00ed tambi\u00e9n, lo han manifestado las alertas del \u00faltimo informe de la UNESCO, en marzo de este a\u00f1o, sobre estereotipos de g\u00e9nero regresivos. Esta realidad, puede llevar a perpetuarlos, y a su vez excluir la gran variedad de voces.<\/p>\n

\u201cUn informe de McKinsey & Company se\u00f1ala que las organizaciones que cuentan con equipos diversos, inclusivos, y equitativos son m\u00e1s eficientes, productivos, innovadores y creativos\u201d<\/em>, explica Jorge Lukowski, director global de Marketing y Comunicaci\u00f3n de NEORIS. Miembro de Forbes Council, de la Asociaci\u00f3n Espa\u00f1ola de MKT y de REDI LGTBIQ+<\/strong>.<\/p>\n

\"width=\"
Jorge Lukowski, director global de Marketing y Comunicaci\u00f3n de NEORIS.<\/figcaption><\/figure>\n

En este contexto, una preocupaci\u00f3n que surge en la comunidad es c\u00f3mo extender ese compromiso asumido en el mundo real de justicia social y derechos humanos, al \u00e1mbito de la virtualidad en general y, espec\u00edficamente, en el desarrollo de tecnolog\u00edas avanzadas como los LLM para que arrojen resultados que contemplen a todas las diversidades para ser representativos de la sociedad de manera plena.<\/p>\n

Y es que, para lograr este objetivo, es vital considerar varios aspectos clave. Desde una perspectiva econ\u00f3mica, el mercado laboral actual de la inform\u00e1tica en general y en el de estos sistemas en particular, no es lo suficientemente amplio para satisfacer todas las necesidades tecnol\u00f3gicas. Fomentar la diversidad, ayuda a cubrir esta brecha al atraer a m\u00e1s personas de distintos or\u00edgenes, adem\u00e1s de que promueve la generaci\u00f3n de soluciones m\u00e1s ingeniosas y efectivas para abordar los desaf\u00edos m\u00e1s cr\u00edticos de la sociedad<\/strong>.<\/p>\n

\u201cEn t\u00e9rminos de justicia y equidad, los potenciales prejuicios en los conjuntos de datos pueden llevar a resultados problem\u00e1ticos si no se abordan adecuadamente\u201d<\/em>, reflexiona Lukowski.<\/p>\n

\"width=\"
Equipos diversos e inclusivos en el sector tecnol\u00f3gico, claves para la innovaci\u00f3n y la productividad.<\/figcaption><\/figure>\n

Seg\u00fan el especialista, es crucial que los modelos sean auditados y revisados constantemente para identificar y mitigar sesgos, los cuales, generalmente, tienen que ver con la asociaci\u00f3n de ciertos roles profesionales o emociones a g\u00e9neros espec\u00edficos. Esta predisposici\u00f3n tambi\u00e9n se puede extrapolar a otros aspectos de identidad, tales como la orientaci\u00f3n sexual y la identidad de g\u00e9nero.<\/p>\n

Cuando las \u201calucinaciones\u201d de las IA no son inclusivas en su totalidad<\/span><\/h2>\n

Las “alucinaciones” en los LLM representan un grave problema, ya que estos sistemas generan respuestas que, aunque sint\u00e1ctica y sem\u00e1nticamente son correctas, est\u00e1n desconectadas de la realidad.<\/p>\n

Uno de los casos recientes m\u00e1s relevantes fue el de Google, que paus\u00f3 la creaci\u00f3n de im\u00e1genes de personas con IA, luego de que los usuarios descubrieran que, cuando en el prompt \u2013texto que le da una orden a la herramienta \u2013 se le ped\u00eda crear una imagen del papa arrojaba dos resultados, un hombre negro y una mujer india<\/strong>. Para este gigante tecnol\u00f3gico, el lanzamiento de Gemini ha supuesto posibles problemas legales y sociales porque esta tecnolog\u00eda no se us\u00f3 correctamente.<\/p>\n

\"width=\"
La inclusi\u00f3n de datos diversos en el entrenamiento de LLM es esencial para garantizar representaciones equitativas.<\/figcaption><\/figure>\n

Otro ejemplo es cuando los modelos generan incorrectamente citas y afirmaciones sobre cuestiones LGTBIQ+. Por ejemplo, un modelo podr\u00eda afirmar err\u00f3neamente que una figura p\u00fablica, conocida por su apoyo a los derechos LGTBIQ+, ha hecho declaraciones negativas sobre la comunidad, debido a la falta de datos diversos y precisos en su entrenamiento.<\/p>\n

En otro caso, podr\u00eda compartir citas falsas sobre la orientaci\u00f3n sexual, bas\u00e1ndose en estereotipos que est\u00e1n presentes en los datos.<\/p>\n

Y es que, a estas alucinaciones, se le est\u00e1 poniendo especial atenci\u00f3n, dado que es muy f\u00e1cil crear contenido falso con fines pol\u00edticos y maliciosos como, por ejemplo, noticias falsas acerca de situaciones que no son reales o fotograf\u00edas modificadas para tergiversar la historia. El miedo est\u00e1 en que el futuro de Internet est\u00e9 repleto de verdades sin fundamento.<\/p>\n

\u201cEn el esfuerzo de las empresas tecnol\u00f3gicas por promover la igualdad en sus productos, es esencial encontrar un equilibrio entre ser precisos e inclusivos. Las organizaciones deben ser cuidadosas al programar modelos de IA para tener en cuenta ambas variables sin cometer imprecisiones y sesgos\u201d<\/em>, asegura Lukowski.<\/p>\n

\"width=\"
El AI Index Report 2024 de Stanford destaca la prevalencia de sesgos de g\u00e9nero y raciales en los datos utilizados para entrenar LLM.<\/figcaption><\/figure>\n

Para garantizar una tecnolog\u00eda inclusiva, el especialista insiste en que es esencial implementar acciones concretas, tales como el uso de diferentes fuentes en el entrenamiento de los LLM, para asegurar una representaci\u00f3n justa de todas las identidades.<\/p>\n

Porque sin una representaci\u00f3n diversa en los datos de entrenamiento, existe la posibilidad de perpetuar las desigualdades existentes fallando en reflejar c\u00f3mo es una verdadera sociedad. \u201cLa lucha por la justicia algor\u00edtmica es, en esencia, una extensi\u00f3n de la lucha por los derechos humanos. Necesitamos asegurarnos de que la tecnolog\u00eda que construimos sea equitativa, de modo que sirva a todos y no excluya a nadie\u201d<\/em>, sostiene.<\/p>\n

Otro curso de acci\u00f3n vital es formar a los desarrolladores en este tipo de pr\u00e1cticas, para lo cual existen varias herramientas y recursos disponibles que pueden ayudar a las empresas y sus talentos a identificar prejuicios en sus modelos de lenguaje.<\/p>\n

Para finalizar, Lukowski alienta a las organizaciones y a los profesionales del sector tecnol\u00f3gico a unirse a este esfuerzo por una IA m\u00e1s inclusiva, porque al avanzar en esta direcci\u00f3n, se construye un mundo digital m\u00e1s equitativo, que empodera a toda la sociedad por igual y es capaz de reflejar y respetar las diferencias en todas sus formas.<\/p>\n","protected":false},"excerpt":{"rendered":"

Los Modelos de Lenguaje de Gran Escala (LLM por sus siglas en inglés) como ChatGPT, están transformando la forma en que nos comunicamos y obtenemos información; sin embargo, estos avances tecnológicos enfrentan desafíos significativos en la prevención de sesgos, particularmente de aquellos que afectan al colectivo LGTBIQ+ y otros grupos o diversidades. El estudio The AI Index Report 2024 de la Universidad de Stanford revela que en los datos utilizados para entrenar LLM predominan sesgos de género y raciales. Así también, lo han manifestado las alertas del último informe de la UNESCO, en marzo de este año, sobre estereotipos de género regresivos. Esta realidad, puede llevar a perpetuarlos, y a su vez excluir la gran variedad de voces. “Un informe de McKinsey & Company señala que las organizaciones que cuentan con equipos diversos, inclusivos, y equitativos son más eficientes, productivos, innovadores y creativos”, explica Jorge Lukowski, director global de Marketing y Comunicación de NEORIS. Miembro de Forbes Council, de la Asociación Española de MKT y de REDI LGTBIQ+. En este contexto, una preocupación que surge en la comunidad es cómo extender ese compromiso asumido en el mundo real de justicia social y derechos humanos, al ámbito de la virtualidad en general y, específicamente, en el desarrollo de tecnologías avanzadas como los LLM para que arrojen resultados que contemplen a todas las diversidades para ser representativos de la sociedad de manera plena. Y es que, para lograr este objetivo, es vital considerar varios aspectos clave. Desde una perspectiva económica, el mercado laboral actual de la informática en general y en el de estos sistemas en particular, no es lo suficientemente amplio para satisfacer todas las necesidades tecnológicas. Fomentar la diversidad, ayuda a cubrir esta brecha al atraer a más personas de distintos orígenes, además de que promueve la generación de soluciones más ingeniosas y efectivas para abordar los desafíos más críticos de la sociedad. “En términos de justicia y equidad, los potenciales prejuicios en los conjuntos de datos pueden llevar a resultados problemáticos si no se abordan adecuadamente”, reflexiona Lukowski. Según el especialista, es crucial que los modelos sean auditados y revisados constantemente para identificar y mitigar sesgos, los cuales, generalmente, tienen que ver con la asociación de ciertos roles profesionales o emociones a géneros específicos. Esta predisposición también se puede extrapolar a otros aspectos de identidad, tales como la orientación sexual y la identidad de género. Cuando las “alucinaciones” de las IA no son inclusivas en su totalidad Las “alucinaciones” en los LLM representan un grave problema, ya que estos sistemas generan respuestas que, aunque sintáctica y semánticamente son correctas, están desconectadas de la realidad. Uno de los casos recientes más relevantes fue el de Google, que pausó la creación de imágenes de personas con IA, luego de que los usuarios descubrieran que, cuando en el prompt –texto que le da una orden a la herramienta – se le pedía crear una imagen del papa arrojaba dos resultados, un hombre negro y una mujer india. Para este gigante tecnológico, el lanzamiento de Gemini ha supuesto posibles problemas legales y sociales porque esta tecnología no se usó correctamente. Otro ejemplo es cuando los modelos generan incorrectamente citas y afirmaciones sobre cuestiones LGTBIQ+. Por ejemplo, un modelo podría afirmar erróneamente que una figura pública, conocida por su apoyo a los derechos LGTBIQ+, ha hecho declaraciones negativas sobre la comunidad, debido a la falta de datos diversos y precisos en su entrenamiento. En otro caso, podría compartir citas falsas sobre la orientación sexual, basándose en estereotipos que están presentes en los datos. Y es que, a estas alucinaciones, se le está poniendo especial atención, dado que es muy fácil crear contenido falso con fines políticos y maliciosos como, por ejemplo, noticias falsas acerca de situaciones que no son reales o fotografías modificadas para tergiversar la historia. El miedo está en que el futuro de Internet esté repleto de verdades sin fundamento. “En el esfuerzo de las empresas tecnológicas por promover la igualdad en sus productos, es esencial encontrar un equilibrio entre ser precisos e inclusivos. Las organizaciones deben ser cuidadosas al programar modelos de IA para tener en cuenta ambas variables sin cometer imprecisiones y sesgos”, asegura Lukowski. Para garantizar una tecnología inclusiva, el especialista insiste en que es esencial implementar acciones concretas, tales como el uso de diferentes fuentes en el entrenamiento de los LLM, para asegurar una representación justa de todas las identidades. Porque sin una representación diversa en los datos de entrenamiento, existe la posibilidad de perpetuar las desigualdades existentes fallando en reflejar cómo es una verdadera sociedad. “La lucha por la justicia algorítmica es, en esencia, una extensión de la lucha por los derechos humanos. Necesitamos asegurarnos de que la tecnología que construimos sea equitativa, de modo que sirva a todos y no excluya a nadie”, sostiene. Otro curso de acción vital es formar a los desarrolladores en este tipo de prácticas, para lo cual existen varias herramientas y recursos disponibles que pueden ayudar a las empresas y sus talentos a identificar prejuicios en sus modelos de lenguaje. Para finalizar, Lukowski alienta a las organizaciones y a los profesionales del sector tecnológico a unirse a este esfuerzo por una IA más inclusiva, porque al avanzar en esta dirección, se construye un mundo digital más equitativo, que empodera a toda la sociedad por igual y es capaz de reflejar y respetar las diferencias en todas sus formas.<\/p>\n","protected":false},"author":229,"featured_media":176934,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[65],"tags":[88],"class_list":["post-176927","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","tag-neoris"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/176927","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=176927"}],"version-history":[{"count":0,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/176927\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/176934"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=176927"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=176927"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=176927"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}