Creadores de Chat GPT y Claude piden cooperación mundial para evitar riesgos de la IA ante la ONU

Los desarrolladores de dos de las compañías más poderosas en el desarrollo de Inteligencia Artificial, Sam Altman, de Open AI (Chat GPT), y Dario Amodei, de Anthropic (Claude), llevaron el debate del riesgo de la IA a la Organización de las Naciones Unidas (ONU).

El pasado miércoles, en el marco de la Asamblea de la ONU y ante el Consejo de Seguridad de este organismo, aunque en discursos separados, los líderes tecnológicos coincidieron en que la industria de la IA requiere de normas y cooperación internacional para que la seguridad mundial no se ponga en vilo.

"La IA podría representar un riesgo para la humanidad en su conjunto", si no se toman las medidas necesarias, advirtió Amodei.

Por su parte, Sam Altman invitó a crear normas internacionales para “medir capacidades, evaluar riesgos, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa” sobre esta tecnología, dejando de lado las competencias entre países.

“Ha habido ocasiones en las que países que compiten y que no siempre se agradan entre sí, aun así se unen por intereses compartidos y por el bien colectivo frente a una nueva tecnología poderosa (...) Creemos que este debe ser uno de esos momentos”, añadió Altman, quien acudió de manera presencial con los mandatarios mundiales.

Por otra parte, Amodei, quien hizo intervino por videoconferencia, propuso crear acuerdos globales específicos, entre ellos, prohibir el uso de la IA para fabricar armas biológicas; desarrollar sistemas de evaluación y verificación que permitan a los países comprobar el cumplimiento de los compromisos mutuos; y hacer normas globales para hacer pruebas de la IA.

"Considero que este es el problema de seguridad mundial más importante al que se enfrenta el mundo hoy en día (...) Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza globales que se nos presentan simultáneamente”, afirmó Amodei.

-                        

Ahora puedes decir en voz alta "Alexa, reproduce Radio BI" y también escucharnos en Spotify.

Síguenos en Facebook, Instagram, WhatsApp, X, TikTok y YouTube. Mantente informado en tiempo real.