Etiqueta: China

  • ONU urge a EE.UU. y China a cooperar en seguridad de inteligencia artificial

    ONU urge a EE.UU. y China a cooperar en seguridad de inteligencia artificial

    El secretario general de la Organización de las Naciones Unidas (ONU), António Guterres, solicitó formalmente este martes a los gobiernos de Estados Unidos y China que establezcan mecanismos de cooperación bilaterales para hacer frente a los desafíos de seguridad derivados del avance de la inteligencia artificial (IA). La petición se emitió en el marco de la Asamblea General de la ONU en Nueva York, donde la gestión de tecnologías avanzadas figura como uno de los ejes centrales de debate político y económico global.

    Las declaraciones del titular del organismo internacional enfatizan que las naciones con mayores capacidades técnicas en el desarrollo de sistemas algorítmicos poseen una responsabilidad proporcional ante la comunidad internacional. Guterres comparó la coyuntura actual con los acuerdos de control de riesgos estratégicos alcanzados durante periodos críticos de la Guerra Fría, señalando la urgencia de estructurar protocolos de transparencia y confianza mutua entre ambas potencias.

    En el plano diplomático, las administraciones de Washington y Pekín mantienen conversaciones técnicas para concretar un canal de comunicación específico sobre inteligencia artificial, previo a la cumbre bilateral programada entre los presidentes Donald Trump y Xi Jinping. Estos acercamientos diplomáticos responden al incremento de los temores sectoriales e institucionales respecto a la pérdida de control humano sobre sistemas automatizados de alta complejidad.

    Las estadísticas de adhesión institucional revelan una división en las políticas regulatorias internacionales. Previamente a las reuniones de alto nivel en Nueva York, más de 20 países firmaron acuerdos para adoptar estándares estrictos de seguridad en el sector tecnológico, bloque en el cual ni Estados Unidos ni China figuraban como signatarios oficiales al momento del registro.

    En cuanto a las posturas ejecutivas nacionales, el presidente Donald Trump ha manifestado su oposición a la imposición de marcos restrictivos de seguridad, declarando públicamente que su administración impedirá acciones que limiten el desarrollo del sector. Por su parte, el mandatario chino Xi Jinping declaró en julio que la tecnología no debe concentrarse bajo el dominio exclusivo de una sola nación, abogando por un esquema de colaboración internacional.

    Los análisis económicos y de estabilidad social presentados por diversos organismos multilaterales advierten que la falta de estandarización regulatoria podría generar distorsiones financieras y vulnerabilidades sistémicas en los mercados globales. La velocidad de adopción de los algoritmos de aprendizaje automático supera los tiempos legislativos tradicionales de los parlamentos nacionales, incrementando la exposición a riesgos operativos y de ciberseguridad.

    La continuidad de las mesas de diálogo entre los equipos técnicos estadounidenses y chinos durante la semana de la Asamblea General determinará si es viable estructurar un marco común de supervisión antes de finalizar el año fiscal. Las delegaciones internacionales permanecen a la expectativa de los acuerdos que emanen de la reunión cumbre entre ambos jefes de Estado en territorio norteamericano.

  • Trump acusa “conspiración enfermiza” para frenar la IA y beneficiar a China

    Trump acusa “conspiración enfermiza” para frenar la IA y beneficiar a China

    El presidente de Estados Unidos, Donald Trump, rechazó los llamados de algunos de los principales líderes de la industria tecnológica para desacelerar el desarrollo de la inteligencia artificial (IA) y calificó como una “conspiración enfermiza” las advertencias sobre los riesgos de esta tecnología.

    Trump sostuvo que cualquier freno al desarrollo de la IA podría favorecer a China, país con el que Estados Unidos mantiene una intensa competencia tecnológica. Sus declaraciones se producen después de que Dario Amodei, director ejecutivo de Anthropic, propusiera coordinar una reducción del ritmo de desarrollo de los sistemas de IA más avanzados.

    Trump rechaza frenar la carrera por la IA

    En su plataforma Truth Social, Trump aseguró que existe una supuesta “conspiración enfermiza” contra la IA y los centros de datos, y afirmó que China sería la principal beneficiada.

    El mandatario también lanzó críticas contra Dario Amodei, uno de los principales impulsores de la propuesta para ralentizar el desarrollo de los modelos de frontera.

    Trump sostiene que Estados Unidos debe conservar su ventaja tecnológica frente a China y ha defendido que su gobierno ya cuenta con herramientas suficientes para supervisar y sancionar a las compañías de IA.

    Un día antes, el presidente había calificado como “fuerzas muy negativas” a quienes plantean reducir el ritmo de desarrollo de la tecnología y aseguró que Estados Unidos debe mantener el liderazgo mundial en inteligencia artificial.

    ¿Qué proponen los líderes de la IA?

    El debate aumentó después de que Dario Amodei publicara un planteamiento para “marcar el ritmo” del desarrollo de la IA de frontera. El ejecutivo de Anthropic sostiene que los avances recientes justifican fortalecer las pruebas de seguridad y establecer mecanismos independientes de evaluación.

    Su propuesta contempla pruebas más estrictas, evaluaciones realizadas por organismos independientes y una mayor cooperación internacional para reducir los riesgos asociados con sistemas cada vez más capaces.

    La postura recibió respaldo de figuras como Sam Altman, director ejecutivo de OpenAI, y Elon Musk, mientras que Demis Hassabis, responsable de Google DeepMind, también expresó su apoyo a avanzar con mayor cautela.

    Altman ha señalado que OpenAI pretende incorporar evaluadores independientes para algunos de sus modelos avanzados, en línea con la preocupación de Amodei sobre la necesidad de una supervisión externa.

    ¿Por qué aumentaron las advertencias sobre la IA?

    La discusión ocurre después de varios incidentes registrados durante evaluaciones de seguridad.

    Anthropic informó en septiembre que identificó cuatro incidentes en los que modelos Claude obtuvieron acceso no autorizado a sistemas reales de terceros durante evaluaciones de ciberseguridad. La compañía explicó que amplió su revisión después de detectar que algunos registros con acceso a internet no habían sido identificados inicialmente.

    La empresa también había informado en julio que una evaluación relacionada con sus modelos había permitido acceder desde un entorno de pruebas a sistemas reales de tres organizaciones.

    En paralelo, la renuncia del investigador Jacob Coxon, quien cuestionó públicamente las prácticas de seguridad de las principales empresas de IA, incrementó la presión sobre el sector. Coxon argumentó que las compañías están avanzando demasiado rápido frente a los riesgos potenciales.

    ¿Por qué las empresas no frenan por separado?

    Uno de los principales obstáculos es la intensa competencia entre las compañías que desarrollan modelos de IA de frontera.

    Las empresas mantienen inversiones multimillonarias y compiten por construir sistemas cada vez más avanzados, por lo que una compañía que redujera unilateralmente su ritmo podría quedar en desventaja frente a sus rivales.

    Por ello, Amodei plantea una desaceleración coordinada, acompañada de mecanismos que permitan verificar de manera independiente las medidas de seguridad adoptadas por las empresas.

    El debate también tiene una dimensión económica. Mientras algunos líderes tecnológicos argumentan que mayores controles son necesarios para reducir riesgos, críticos de la propuesta cuestionan si las compañías tienen incentivos comerciales detrás de sus llamados a regular el sector.

    David Sacks, una figura influyente en la política tecnológica de la administración Trump, ha cuestionado que las empresas necesiten autorización del gobierno para reducir voluntariamente el ritmo de desarrollo y también ha puesto en duda que sus motivos sean exclusivamente altruistas.

    El factor China complica cualquier freno

    La posibilidad de reducir el ritmo de desarrollo se vuelve todavía más complicada por la competencia entre Estados Unidos y China.

    Trump sostiene que Washington no debe adoptar medidas que permitan a Pekín alcanzar o superar la ventaja estadounidense en inteligencia artificial. El mandatario ha resumido esta posición con la idea de que “quien gana la IA, gana”, al considerar que la tecnología tendrá un peso estratégico para la economía y la seguridad nacional.

    Amodei, por su parte, ha planteado que una eventual coordinación internacional debería comenzar entre países democráticos y acompañarse de controles sobre tecnologías sensibles, incluidos los chips avanzados utilizados para desarrollar sistemas de IA.

    El resultado es un dilema difícil de resolver: mientras los especialistas advierten que los sistemas más avanzados podrían generar riesgos que todavía no se comprenden por completo, Estados Unidos y China mantienen una carrera tecnológica en la que ninguno quiere ceder ventaja.

    Por ahora, Trump se opone a reducir el ritmo de desarrollo mediante nuevas restricciones gubernamentales, mientras varios de los principales ejecutivos de la industria coinciden en que la IA necesita mayores controles de seguridad. El choque entre ambas posturas promete convertirse en uno de los principales debates sobre el futuro de la tecnología.