Logo Revista de Seguridad

Sam Altman, CEO de ChatGPT ha comparecido ante un comité sobre privacidad y tecnología del Senado de EEUU

Como parte de su primera audiencia con el Senado ayer, el CEO de Open AI, Sam Altman, propuso que la IA debe ser regulada.

Sin miedo a reconocer los riesgos, pero convencido de los beneficios de la inteligencia artificial, Sam Altman ha comparecido ante un comité sobre privacidad y tecnología del Senado de EEUU para poner voz a la necesidad de regular este sector.

“Creemos que los beneficios de las herramientas que hemos implementado hasta ahora superan ampliamente los riesgos, pero garantizar su seguridad es vital para nuestro trabajo”, expuso Altman.

Además, imploró en la necesidad de regulación: “Creemos que la intervención reguladora de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más potentes”. Llegó a plantear que “el gobierno de EE.UU. debería considerar una combinación de requisitos de licencia o registro para el desarrollo y lanzamiento de modelos de IA por encima de un umbral crucial de capacidades, junto con incentivos para el pleno cumplimiento de estos requisitos”.

Teme que la IA, incluida la IA generativa, tenga el potencial de incluso afectar los resultados de las elecciones estadounidenses mediante la manipulación de puntos de vista.
Se propusieron 3 acciones clave:
1. Formación de una agencia gubernamental autónoma encargada de otorgar licencias a grandes modelos de IA. Facultarlo para revocar esa licencia para las empresas cuyos modelos no cumplan con los estándares gubernamentales.
2. Crear estándares de seguridad para los modelos de IA, incluidas las evaluaciones de sus capacidades peligrosas. Por ejemplo, los modelos tendrían que pasar ciertas pruebas de seguridad, como si podrían “autorreplicarse” y “filtrarse a la naturaleza”, es decir, volverse deshonestos y actuar por su cuenta.
3. Invocar auditorías independientes, por expertos independientes, del desempeño de los modelos en diversas métricas.

NOTICIAS

Últimas actualizaciones en el ámbito de la Seguridad

Buscar en el portal