{"id":5316,"date":"2025-09-22T20:33:27","date_gmt":"2025-09-22T18:33:27","guid":{"rendered":"https:\/\/implementi.ai\/en\/2025\/09\/22\/global-call-urges-action-on-ai-policy-gaps\/"},"modified":"2025-09-22T20:33:27","modified_gmt":"2025-09-22T18:33:27","slug":"llamamiento-mundial-para-colmar-las-lagunas-de-la-politica-de-ai","status":"publish","type":"post","link":"https:\/\/implementi.ai\/es\/2025\/09\/22\/global-call-urges-action-on-ai-policy-gaps\/","title":{"rendered":"Llamamiento mundial para colmar las lagunas en las pol\u00edticas de IA"},"content":{"rendered":"
\n

Las deliberaciones sobre el uso incontrolado de la inteligencia artificial (IA) han dominado durante mucho tiempo el discurso tecnol\u00f3gico y, ahora, cientos de l\u00edderes y organizaciones mundiales han dado un paso decisivo para gestionar este dilema. El lunes, m\u00e1s de 200 ex jefes de Estado, diplom\u00e1ticos, premios Nobel, especialistas en IA e investigadores, entre otros, unieron sus filas para proponer un acuerdo internacional sobre las \u201cl\u00edneas rojas\u201d que la IA no deber\u00eda cruzar nunca. Entre las limitaciones sugeridas est\u00e1 la prohibici\u00f3n de que la IA se haga pasar por seres humanos o se replique a s\u00ed misma.<\/p>\n

Junto con m\u00e1s de 70 organizaciones dedicadas a la IA, estas luminarias han respaldado la iniciativa Global Call for AI Red Lines. La iniciativa insta a los gobiernos de todo el mundo a establecer una aceptaci\u00f3n de estas \u2018l\u00edneas rojas\u2019 para la IA antes de finales de 2026. Entre los firmantes de alto perfil se encuentran Geoffrey Hinton, inform\u00e1tico brit\u00e1nico-canadiense; Wojciech Zaremba, cofundador de OpenAI; Jason Clinton, CISO de Anthropic; e Ian Goodfellow, investigador cient\u00edfico de Google DeepMind.<\/p>\n

Seg\u00fan Charbel-Rapha\u00ebl Segerie, director ejecutivo del Centro Franc\u00e9s para la Seguridad de la IA (CeSIA), el objetivo de esta iniciativa es abordar los riesgos asociados a la IA de forma proactiva, en lugar de responder \u00fanicamente despu\u00e9s de un incidente significativo. Subray\u00f3 la necesidad de llegar a un acuerdo, afirmando: \u201cSi las naciones a\u00fan no pueden ponerse de acuerdo sobre lo que quieren hacer con la IA, al menos deben ponerse de acuerdo sobre lo que la IA no debe hacer nunca\u201d.\u201d<\/p>\n

Esta iniciativa llega en v\u00edsperas de la 80\u00aa semana de alto nivel de la Asamblea General de las Naciones Unidas en Nueva York. La iniciativa fue encabezada por CeSIA, la Future Society y el Centro de Inteligencia Artificial Humanamente Compatible de la Universidad de Berkeley. Durante la asamblea, la Premio Nobel de la Paz Maria Ressa hizo referencia a la iniciativa en su discurso de apertura, abogando por la responsabilidad global para frenar la impunidad de las grandes tecnol\u00f3gicas.<\/p>\n

Aunque ya existen \u201cl\u00edneas rojas\u201d regionales para el uso de la IA, como la Ley de IA de la Uni\u00f3n Europea y un acuerdo entre EE.UU. y China para que las armas nucleares permanezcan bajo control humano, sigue faltando un consenso mundial. Niki Iliadis, director de gobernanza mundial de la IA en The Future Society, sostiene que, en \u00faltima instancia, se necesita una instituci\u00f3n mundial independiente con autoridad ejecutiva para establecer, supervisar y mantener estas l\u00edneas rojas. \u201cLa responsabilidad tiene que ser algo m\u00e1s que un compromiso voluntario\u201d, a\u00f1adi\u00f3.<\/p>\n

Pero la llamada a la cautela no significa ahogar la innovaci\u00f3n o el crecimiento econ\u00f3mico, como sostienen algunos esc\u00e9pticos. Stuart Russell, catedr\u00e1tico de Inform\u00e1tica de la Universidad de Berkeley y uno de los principales investigadores en IA, estableci\u00f3 un paralelismo entre la industria emergente de la IA y los primeros d\u00edas de la energ\u00eda nuclear. En su opini\u00f3n, \u201cpueden cumplir las normas no construyendo inteligencia artificial hasta que sepan c\u00f3mo hacerla segura, del mismo modo que los promotores de la energ\u00eda nuclear no construyeron centrales nucleares hasta que tuvieron alguna idea de c\u00f3mo evitar que explotaran\u201d.<\/p>\n

Seg\u00fan Russell, podemos aprovechar el poder de la IA para el desarrollo econ\u00f3mico sin dar rienda suelta a una inteligencia general avanzada (AGI) que no podemos controlar. \u201cEsta supuesta dicotom\u00eda, si quieres un diagn\u00f3stico m\u00e9dico entonces tienes que aceptar la AGI destructora del mundo - simplemente creo que es una tonter\u00eda\u201d, dijo.<\/p>\n

En una era perturbada y potenciada por la IA, el Llamamiento Mundial a las L\u00edneas Rojas de la IA pretende trazar un equilibrio entre el vasto potencial de la tecnolog\u00eda y los riesgos inherentes, haciendo un llamamiento a un consenso internacional que rija el uso prudente de la IA. Sin embargo, este llamamiento inicial no es m\u00e1s que el primer paso hacia una gobernanza mundial de la IA. Queda por ver c\u00f3mo responder\u00e1n los gobernantes a este llamamiento.<\/p>\n

Art\u00edculo original<\/a><\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Deliberations over the unchecked use of artificial intelligence (AI) have long dominated tech-discourse, and now, hundreds of global leaders and organizations have taken a critical step towards managing this dilemma. On Monday, more than 200 former heads of state, diplomats, Nobel laureates, AI specialists, researchers, and more joined ranks to propose an international agreement on \u201cred lines\u201d that AI should […]<\/p>\n","protected":false},"author":1,"featured_media":5317,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[26],"tags":[],"class_list":["post-5316","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-automation"],"featured_image_src":"https:\/\/implementi.ai\/wp-content\/uploads\/2025\/09\/5316-1024x683.png","blog_images":{"medium":"https:\/\/implementi.ai\/wp-content\/uploads\/2025\/09\/5316-300x200.png","large":"https:\/\/implementi.ai\/wp-content\/uploads\/2025\/09\/5316-1024x683.png"},"ams_acf":[],"jetpack_featured_media_url":"https:\/\/implementi.ai\/wp-content\/uploads\/2025\/09\/5316.png","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/posts\/5316","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/comments?post=5316"}],"version-history":[{"count":0,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/posts\/5316\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/media\/5317"}],"wp:attachment":[{"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/media?parent=5316"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/categories?post=5316"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/implementi.ai\/es\/wp-json\/wp\/v2\/tags?post=5316"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}