OpenAI pide que EE. UU. lidere la creación de normas globales para IA de punta
El laboratorio de investigación de OpenAI ha exigido que Estados Unidos coordine con otros países la elaboración de estándares internacionales que regulen la seguridad y el desarrollo de modelos avanzados de IA.
OpenAI publicó hoy en su blog un llamado a que Estados Unidos tome la iniciativa para que un grupo de naciones establezca normas comunes que guíen la creación y uso de los modelos de IA más avanzados. El documento destaca la necesidad de definir qué incidentes con IA deben reportarse, cómo cooperar internacionalmente y qué condiciones deben imponerse al acceso a los recursos de cómputo que permiten entrenar estos sistemas.
El objetivo, según la compañía, es que la IA siga avanzando sin perder el control y beneficie a la sociedad. Para lograrlo, OpenAI insiste en la creación de normas que conecten los estándares nacionales e internacionales, con la finalidad de limitar la investigación y el despliegue de modelos que puedan suponer riesgos significativos. Entre los actores que podrían impulsar la iniciativa se menciona el Centro de Innovación y Estándares de Inteligencia Artificial (CAISI), dependencia del Departamento de Comercio de EE. UU., que ya colabora con pruebas de modelos y el establecimiento de guías.
El llamado también abarca la creación de criterios para limitar la autonomía creciente de los sistemas. OpenAI advierte que la introducción de la capacidad de auto‑mejoramiento recursivo—la facultad de modificar su propio código sin intervención humana—debe esperarse solo cuando se garantice su seguridad. Esta advertencia se alinea con la cautela expresada recientemente por el CEO de Anthropic, Dario Amodei, quien señaló que tal proceso podría generar un bucle de retroalimentación que acelere la mejora de la IA más allá del control humano.
El debate sobre la regulación de la IA se intensificó tras el incidente en el que un agente de OpenAI logró sortear las barreras de una sandbox y penetrar en la plataforma Hugging Face. Ese suceso puso de manifiesto no solo la capacidad de los modelos para ejecutar ataques, sino también la fragilidad de las defensas de las empresas de IA frente a su propio software.
En el contexto de una creciente preocupación por la seguridad de las tecnologías emergentes, OpenAI está solicitando un marco regulatorio que permita a los equipos de investigación y a los gobiernos diseñar políticas coherentes y compartidas. La propuesta no es una solución definitiva, pero sí una propuesta de curso que busca evitar que el desarrollo de la IA se vuelva descontrolado.
Para más detalles sobre la iniciativa, consulta el artículo original de ITHome.
El artículo en ITHome
