Según un informe reciente del Instituto Aspen, el rápido avance de la tecnología de IA generativa en materia de ciberseguridad requiere una regulación gubernamental, ya que su explotación por entidades maliciosas se vuelve cada vez más frecuente. Si bien el informe reconoce que la IA generativa es una “maravilla tecnológica”, destaca la urgencia de que se tomen medidas regulatorias, dada la creciente frecuencia y gravedad de los ciberataques. El informe enfatiza la responsabilidad de los reguladores y los organismos del sector de garantizar que los beneficios de la IA generativa no se vean eclipsados ​​por su potencial de uso indebido.

Según el informe, las medidas que adopten hoy los gobiernos, las empresas y las organizaciones determinarán si los atacantes o los defensores obtendrán mayores beneficios de esta tecnología emergente. Sin embargo, las respuestas globales a la seguridad de la IA generativa difieren significativamente. Naciones como Estados Unidos, el Reino Unido y Japón han adoptado enfoques regulatorios diversos, al igual que organismos internacionales como las Naciones Unidas y la Unión Europea.

La ONU ha priorizado la seguridad, la rendición de cuentas y la transparencia a través de varios subgrupos, mientras que la Unión Europea ha sido proactiva en la protección de la privacidad y en la resolución de las preocupaciones de seguridad relacionadas con la IA generativa. La inactividad legislativa en los EE. UU. no ha impedido la acción ejecutiva, y la administración Biden emitió una orden ejecutiva que proporciona orientación sobre la evaluación de las capacidades de la IA, en particular aquellas con posibles efectos nocivos. Además, agencias como la Agencia de Seguridad de Infraestructura y Ciberseguridad de los EE. UU. (CISA) han colaborado con los reguladores del Reino Unido para proporcionar orientación.

Por el contrario, Japón ha adoptado un enfoque menos intervencionista, centrándose en canales de divulgación y circuitos de retroalimentación de los desarrolladores en lugar de regulaciones estrictas o evaluaciones de riesgos, según el Instituto Aspen.

El informe subraya la urgencia de que los gobiernos adopten medidas para regular la IA generativa, y señala que las violaciones de seguridad erosionan la confianza pública y que las capacidades de la IA evolucionan rápidamente, con el riesgo de que se produzcan usos indebidos que aumentan día a día. Si no se abordan estas cuestiones con prontitud, se corre el riesgo de perder oportunidades de debates proactivos sobre el uso ético de la IA generativa en la detección de amenazas y las ciberdefensas autónomas.