{"id":189693,"date":"2026-09-17T12:57:30","date_gmt":"2026-09-17T15:57:30","guid":{"rendered":"https:\/\/www.itsitio.com\/ar\/?p=189693"},"modified":"2026-09-17T12:57:30","modified_gmt":"2026-09-17T15:57:30","slug":"inteligencia-artificial-el-problema-de-una-carrera-es-que-nadie-quiere-frenar-primero","status":"publish","type":"post","link":"https:\/\/www.itsitio.com\/ar\/columna-de-opinion\/inteligencia-artificial-el-problema-de-una-carrera-es-que-nadie-quiere-frenar-primero\/","title":{"rendered":"Inteligencia artificial: el problema de una carrera es que nadie quiere frenar primero"},"content":{"rendered":"

Por Jessica Quaglia, Gerente General en Am\u00e9rica Virtual<\/strong><\/em><\/p>\n

En 1882 empez\u00f3 a funcionar en Nueva York una de las primeras centrales el\u00e9ctricas comerciales.
\nLa electricidad lleg\u00f3 a las casas antes que muchas de las normas y protecciones que hoy hacen que podamos enchufar un secador de pelo sin preguntarnos seriamente si vamos a sobrevivir al peinado.
\nLas reglas fueron llegando despu\u00e9s.<\/strong>
\nEn parte, porque empezaron a aparecer las consecuencias. Incendios, instalaciones inseguras, accidentes. Fuimos entendiendo los riesgos y construyendo protecciones alrededor de ellos.
\nPrimero usamos la tecnolog\u00eda. Despu\u00e9s aprendimos a hacerla m\u00e1s segura.<\/p>\n

Pens\u00e9 en esto leyendo la discusi\u00f3n que se est\u00e1 dando estos d\u00edas alrededor de la inteligencia artificial.<\/p>\n

El investigador de IA Jacob Coxon, que trabaj\u00f3 en OpenAI y luego en Anthropic, una de las compa\u00f1\u00edas que desarrolla los modelos de IA m\u00e1s avanzados, renunci\u00f3. Su argumento es bastante inquietante: quienes est\u00e1n desarrollando los modelos m\u00e1s avanzados conocen los riesgos, pero est\u00e1n atrapados en una carrera por llegar primero.<\/strong><\/p>\n

Evan Hubinger, investigador de seguridad y alineamiento de IA que contin\u00faa trabajando en Anthropic, fue todav\u00eda m\u00e1s lejos: ubic\u00f3 su estimaci\u00f3n personal de la probabilidad de que la IA provoque la extinci\u00f3n humana en la pr\u00f3xima d\u00e9cada por encima del 10%.<\/p>\n

No tengo elementos para saber si ese n\u00famero es correcto.<\/p>\n

Y tampoco tenemos hoy evidencia para afirmar que la IA vaya a terminar con la humanidad. De hecho, hay especialistas que cuestionan fuertemente las predicciones m\u00e1s apocal\u00edpticas.<\/p>\n

Pero tampoco me parece razonable escuchar a personas que trabajan directamente en estos sistemas advertir sobre riesgos de esta magnitud y responder simplemente que est\u00e1n exagerando.<\/p>\n

Sam Altman, CEO de OpenAI \u2014la compa\u00f1\u00eda detr\u00e1s de ChatGPT\u2014 dijo estos d\u00edas algo que resume bastante bien la incomodidad: \u201cel mundo tiene raz\u00f3n en tener miedo\u201d.<\/strong><\/p>\n

Quiz\u00e1s entonces la discusi\u00f3n no sea si tenemos o no que tener miedo, sino qu\u00e9 hacemos con \u00e9l.<\/p>\n

Porque una cosa es el miedo que te hace levantar el pie para tomar mejor una curva. Otra es el que hace que ni siquiera te subas al auto.<\/p>\n

Y mientras discutimos eso, la carrera sigue.<\/strong><\/p>\n

El International AI Safety Report 2026 le puso un nombre bastante preciso a parte del problema: \u201cevidence dilemma\u201d.<\/p>\n

\"Jessica
Jessica Quaglia, Gerente General en Am\u00e9rica Virtual, referente en liderazgo, transformaci\u00f3n tecnol\u00f3gica e inteligencia artificial, y speaker<\/figcaption><\/figure>\n

Las capacidades de la IA avanzan r\u00e1pido, mientras que la evidencia sobre algunos de sus riesgos tarda m\u00e1s en aparecer y no siempre es f\u00e1cil de evaluar.<\/strong><\/p>\n

Si esperamos a tener evidencia concluyente para construir protecciones, quiz\u00e1s cuando llegue estemos intentando regular una tecnolog\u00eda que ya qued\u00f3 varias versiones atr\u00e1s.<\/p>\n

Pero tampoco parece muy sensato tratar cada escenario posible como una certeza y frenar todo hasta nuevo aviso.<\/p>\n

Ah\u00ed es donde la comparaci\u00f3n con la electricidad empieza a quedarme corta.<\/p>\n

La electricidad tambi\u00e9n avanz\u00f3 antes que su regulaci\u00f3n, pero lo hizo a otra velocidad. Para llevarla a una ciudad hab\u00eda que construir centrales, tender cables, conectar edificios. Hubo tiempo para descubrir \u2014muchas veces de la peor manera\u2014 qu\u00e9 pod\u00eda salir mal y construir est\u00e1ndares y protecciones.<\/p>\n

Con la IA estamos haciendo muchas de esas cosas al mismo tiempo:<\/strong> usamos la tecnolog\u00eda, descubrimos nuevas capacidades, intentamos entender sus riesgos y dise\u00f1amos protecciones mientras la siguiente generaci\u00f3n ya est\u00e1 en desarrollo.<\/p>\n

Y encima hay una carrera.<\/p>\n

Porque incluso si una compa\u00f1\u00eda llega a la conclusi\u00f3n de que ser\u00eda prudente desacelerar, aparece inmediatamente una pregunta bastante inc\u00f3moda:<\/p>\n

\u00bfQu\u00e9 pasa si yo freno y el otro no?<\/strong><\/p>\n

Si bajo la velocidad mientras mi competidor sigue acelerando, quiz\u00e1s \u00e9l llegue primero.<\/p>\n

Y si todos pensamos as\u00ed, nadie quiere ser el primero en levantar el pie.<\/p>\n

Por eso cada vez me interesa menos la discusi\u00f3n reducida a optimistas contra apocal\u00edpticos.<\/p>\n

Hay otra conversaci\u00f3n, bastante menos cinematogr\u00e1fica, que necesitamos tener mientras tanto.<\/p>\n

\u00bfQu\u00e9 tiene que pasar para que dejemos de discutir los riesgos de la IA como hip\u00f3tesis y empecemos a construir protecciones como infraestructura?<\/strong><\/p>\n

Tenemos que aprender a convivir con una tecnolog\u00eda que ya est\u00e1 ac\u00e1 y que puede generar oportunidades enormes.<\/p>\n

Pero avanzar no necesariamente significa acelerar sin mirar.<\/p>\n

Con la electricidad pudimos aprender de muchos errores.<\/p>\n

No s\u00e9 si deber\u00edamos dar por sentado que con todas las tecnolog\u00edas vamos a tener siempre ese lujo.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

El avance de la IA abre una discusi\u00f3n urgente: c\u00f3mo construir protecciones mientras empresas y pa\u00edses compiten por llegar primero.<\/p>\n","protected":false},"author":229,"featured_media":189696,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"set","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[50],"tags":[1280,165],"class_list":["post-189693","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-columna-de-opinion","tag-america-virtual","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189693","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/users\/229"}],"replies":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/comments?post=189693"}],"version-history":[{"count":1,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189693\/revisions"}],"predecessor-version":[{"id":189710,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/posts\/189693\/revisions\/189710"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media\/189696"}],"wp:attachment":[{"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/media?parent=189693"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/categories?post=189693"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.itsitio.com\/ar\/wp-json\/wp\/v2\/tags?post=189693"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}