El rápido avance de la inteligencia artificial (IA) está demostrando ser un tema complejo para los gobiernos de todo el mundo. Actualmente, los organismos internacionales están tomando medidas para regular las herramientas de IA y garantizar que se utilicen de forma ética y segura. Hay muchas cuestiones clave que los reguladores deben abordar, ya que los riesgos potenciales asociados con dicha tecnología son altos según los críticos. Sin embargo, también se ha reconocido el potencial de la IA para mejorar varias industrias y mejorar la calidad de vida de las personas, lo que ha dado lugar a una carrera por regular la tecnología.
Debido a las amplias aplicaciones de la IA en la vida profesional y personal del público, los gobiernos están consultando a diversos organismos reguladores y algunos están creando organismos dedicados a regular y supervisar el uso y el desarrollo de la IA.
Australia
El gobierno de Australia está buscando aportes sobre la regulación de la IA a través de consultas con el Consejo Nacional de Ciencia y Tecnología, el principal consejo asesor científico del país. Actualmente, están considerando los próximos pasos a seguir en materia de regulación.
Gran Bretaña
Gran Bretaña, desde principios de la década de 2000, ha estado tratando de impulsar una cultura empresarial para atraer inversión extranjera y un rápido crecimiento de la economía del estado, siendo considerada una de las naciones más favorables a los negocios.
Debido al impacto potencial de la IA, el gobierno británico ha encargado a varios reguladores estatales que elaboren nuevas directrices que regulen el uso de la IA. En lugar de crear un organismo nuevo, planean dividir la responsabilidad de regular la IA entre los reguladores existentes en materia de derechos humanos, salud y seguridad y competencia.
La Autoridad de Conducta Financiera (FCA) está consultando al Instituto Alan Turing (el instituto nacional de ciencia de datos e inteligencia artificial) y otras instituciones jurídicas y académicas. Su objetivo es comprender mejor la tecnología antes de implementar cualquier regulación vinculante sobre su gran industria de servicios financieros.
La Autoridad de Competencia y Mercados (CMA) está examinando el impacto sobre los consumidores, las empresas y la economía. Una vez evaluados los resultados de su investigación, la CMA determinará si se requieren nuevos controles.
China
En julio de 2023, China emitió medidas temporales para gestionar la IA generativa, definida en el artículo 2 de las Medidas de IA generativa como tecnología de IA que proporciona “servicios para generar texto, imágenes, audio, vídeo y otros contenidos al público en la República Popular China”. Estas medidas exigen que los proveedores de servicios realicen evaluaciones de seguridad y lleven a cabo procedimientos de presentación de algoritmos.
La Administración del Ciberespacio de China publicó en abril de 2023 un borrador de medidas que afectarían a los servicios de inteligencia artificial generativa. El borrador establece que las empresas, antes de lanzar ofertas al público, deben presentar evaluaciones de seguridad a las autoridades.
Las medidas temporales que se publicaron en julio, en comparación con el borrador de abril, relajaron las obligaciones de los proveedores de servicios de IA generativa. Esto tenía como objetivo ayudar a fomentar el desarrollo y la innovación, manteniendo al mismo tiempo la seguridad.
Las medidas temporales también incluyen las repercusiones en caso de incumplimiento. El incumplimiento de las disposiciones daría lugar a que los proveedores fueran "castigados por las autoridades competentes pertinentes", lo que podría dar lugar a posibles investigaciones por responsabilidad penal. Sin embargo, la disposición que permitía multas por incumplimiento ha sido eliminada y, en su lugar, las empresas recibirían órdenes para corregir las infracciones.
Las medidas entraron en vigor a mediados de agosto de 2023 y los proveedores de servicios sujetos a las nuevas normas deben cooperar con los reguladores estatales que tienen el poder de supervisar e inspeccionar los modelos de IA. Los proveedores de servicios deben explicar a los reguladores la fuente, la escala y el tipo de datos de entrenamiento, las reglas de etiquetado y los mecanismos algorítmicos utilizados. Debido a la naturaleza de los datos a los que tienen acceso, los reguladores están obligados a no revelar ni proporcionar ilegalmente información confidencial a terceros.
El gobierno enfatizó que las medidas no se aplican a “asociaciones industriales, empresas, instituciones educativas y de investigación científica, instituciones culturales públicas e instituciones profesionales relevantes que desarrollan y aplican tecnología de inteligencia artificial generativa, pero no brindan servicios de inteligencia artificial generativa al público nacional”. Las entidades que utilizan IA generativa para el desarrollo de productos para empresas, herramientas de seguridad, investigación científica, etc., están potencialmente exentas de las Medidas de IA Generativa.
Unión Europea (UE)
La UE ha redactado la Ley de Inteligencia Artificial de la UE, que según afirma será la primera ley integral sobre inteligencia artificial del mundo. Esta ley forma parte de su estrategia digital para fortalecer las capacidades de la UE en nuevas tecnologías digitales con el fin de abrir nuevas oportunidades para las empresas y los consumidores, respetando al mismo tiempo sus derechos y valores básicos.
La prioridad del Parlamento Europeo en la creación de la Ley es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. La principal convicción del Parlamento es que los sistemas deberían ser supervisados por personas en lugar de por la automatización como una forma de prevenir resultados potencialmente dañinos. También quieren establecer una definición uniforme de IA que pueda aplicarse a futuros sistemas de IA.
Existen diferentes niveles de riesgo asociados a la IA, la Ley establecería obligaciones para los proveedores de servicios y los usuarios dependiendo del riesgo de la IA.
Los sistemas de inteligencia artificial (IA) de riesgo inaceptable se consideran una amenaza para las personas y serán prohibidos por la UE, lo que incluye la manipulación cognitiva conductual de personas o grupos vulnerables específicos, la puntuación social y los sistemas de identificación biométrica en tiempo real y a distancia. Pueden aplicarse ciertas excepciones; sin embargo, se requeriría la aprobación judicial para su uso.
Los sistemas de alto riesgo son sistemas que afectarían negativamente a la seguridad o los derechos fundamentales de las personas. Se clasifican en dos categorías: en primer lugar, los sistemas de IA que se utilizan en productos que se incluyen en sus legislaciones de seguridad, como los juguetes, la aviación, los automóviles, los dispositivos médicos y los ascensores. En segundo lugar, los sistemas de IA que se incluyen en ocho áreas específicas:
- Identificación biométrica y categorización de personas físicas
- Gestión y operación de infraestructuras críticas
- Educación y formación profesional
- Empleo, gestión de trabajadores y acceso al autoempleo
- Acceso y disfrute de servicios y beneficios públicos y privados esenciales
- Cumplimiento de la ley
- Gestión de migraciones, asilo y control de fronteras
- Asistencia en la interpretación jurídica y aplicación de la ley.
Los sistemas de alto riesgo se evaluarán antes de lanzarse al mercado y durante todo su ciclo de vida para mitigar el riesgo.
Los sistemas de riesgo limitado deben cumplir con requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones informadas. Los usuarios deben ser conscientes cuando interactúan con la IA, esto incluye sistemas que generan o manipulan imágenes, contenido de audio o video, un ejemplo de esto serían los deepfakes, que han ido aumentando en popularidad en los últimos años.
Los sistemas de IA generativa tendrían que cumplir con requisitos de transparencia mediante la divulgación de que el contenido generado fue generado por IA, los diseñadores tendrían que evitar que los sistemas de IA generen contenido ilegal y publicar resúmenes de los datos de derechos de autor utilizados para entrenar el sistema.
La UE pretende llegar a un acuerdo sobre su posición sobre la IA a finales de 2023.
Francia
Como parte de la UE, Francia estaría sujeta a sus regulaciones una vez promulgadas, sin embargo, la CNIL, el organismo de control de la privacidad en Francia, está investigando quejas sobre los sistemas de IA por presuntas violaciones de las normas de privacidad.
La Asamblea Nacional aprobó el uso de IA para la vigilancia durante los Juegos Olímpicos de París 2024.
Naciones del G7
El Grupo de los Siete acordó mantener debates sobre la regulación de los sistemas de IA como parte del “Proceso de IA de Hiroshima” e informar sus resultados a fines de 2023.
Al igual que la UE, les gustaría adoptar un sistema que base los sistemas en el riesgo.
Israel
Israel publicó un borrador de política de IA en octubre de 2022 y está recopilando comentarios antes de tomar una decisión final. Según su director de planificación nacional de IA en la Autoridad de Innovación de Israel, el país ha estado trabajando en las regulaciones durante casi dos años.
Japan
Se espera que Japón promulgue una legislación a finales de 2023 que probablemente sea más flexible que la prevista por la UE. El organismo de control de la privacidad ya ha advertido a los proveedores de servicios de inteligencia artificial que no recopilen datos sensibles sin el permiso del usuario y que minimicen la recopilación de dichos datos.
Naciones Unidas (ONU)
En julio de 2023, el Consejo de Seguridad de las Naciones Unidas celebró su primer debate formal sobre la inteligencia artificial, en el que se abordaron tanto las aplicaciones militares como las no militares que podrían tener “graves consecuencias para la paz y la seguridad mundiales”.
El Secretario General de las Naciones Unidas ha anunciado planes para comenzar a trabajar a fines de 2023 en un órgano asesor sobre IA para revisar los acuerdos de gobernanza de la IA y ofrecer ideas y recomendaciones.
UAE
Los Emiratos Árabes Unidos publicaron su Estrategia Nacional de Inteligencia Artificial 2031 a principios de 2019. La estrategia tiene como objetivo mejorar los servicios al cliente, evaluar el desempeño del gobierno y aumentar los niveles de vida, así como aprovechar la IA para su uso en el transporte, el turismo, la salud y la educación.
El objetivo de los Emiratos Árabes Unidos es posicionarse como líder mundial en inteligencia artificial para 2031 y desarrollar un sistema integrado que utilice la IA en áreas vitales en los Emiratos Árabes Unidos. Los objetivos de los Emiratos Árabes Unidos reafirman su posición como centro mundial de la IA, lo que aumenta la ventaja competitiva del sector en los Emiratos Árabes Unidos y el CCG en su conjunto.
Este estilo de enfoque permite al país atraer talentos, liderar capacidades de investigación y proporcionar datos que pueden ayudar aún más en la gobernanza y el control efectivos de los sistemas de IA.
Los Emiratos Árabes Unidos tienen un ministro dedicado al crecimiento del sector de la inteligencia artificial. La directiva de la Oficina de Aplicaciones de Inteligencia Artificial, Economía Digital y Trabajo Remoto es intensificar la investigación y los esfuerzos para promover la adopción de tecnologías futuristas en los modelos de trabajo del gobierno. Lanzaron una guía integral sobre la utilización de aplicaciones de IA generativa para promover aún más el uso de la IA en la nación. La guía ha sido elogiada por ser pionera y fomenta la adopción de dichas tecnologías en varios sectores. La guía estimó que el mercado de la IA generativa generó casi 90 mil millones de dólares en 2022 y predijo que el sector crecería a una tasa anual promedio del 36.2% entre 2022 y 2027.
Como resultado del aumento previsto de la demanda de sistemas de IA, el gobierno de los EAU se ha comprometido a reforzar su posición mediante el diseño de estrategias proactivas, trabajando en un marco legislativo y regulatorio para limitar los aspectos negativos de la IA, pero mantenerse al día con los avances y las tendencias. Para promover esta iniciativa, el DIFC, en coordinación con la Oficina de Inteligencia Artificial de los EAU, ha introducido una Licencia de IA y Codificación que permite al titular trabajar dentro del Centro de Innovación del DIFC, el mayor centro de innovación y FinTech de la región, que representa el 60% de las empresas FinTech del CCG. El objetivo de esta licencia es fomentar la inversión en IA, atraer empresas de IA y codificadores a los EAU, otro incentivo para tener la licencia es que los empleados de las empresas que la tienen pueden ser elegibles para obtener la Visa Dorada de los EAU. Sin embargo, no se requiere una licencia para trabajar y desarrollar IA en los EAU.
En los Emiratos Árabes Unidos, actualmente no existen leyes específicas que regulen la IA o que aborden las cuestiones éticas o legales que surgen de su uso, como la responsabilidad, la privacidad, la discriminación y el sesgo de los datos. Sin embargo, las regulaciones existentes, como las relacionadas con la responsabilidad del producto (al igual que sucedería con cualquier otro producto que funcione mal o sea defectuoso) y la protección de datos, se aplican indirectamente a la IA. Sin embargo, las directrices no vinculantes para proporcionar orientación sobre el desarrollo y el uso ético de la IA pueden utilizarse para formar la base de futuras leyes en relación con la IA.
USA
En Estados Unidos se han llevado a cabo varios procesos judiciales relacionados con los derechos de propiedad intelectual de obras creadas por IA sin intervención humana. El 21 de agosto de 2023, la jueza de distrito de Washington DC, Beryl Howell, confirmó el rechazo de la Oficina de Derechos de Autor a una solicitud presentada por un científico informático en nombre de su sistema de IA. Sin embargo, a principios de este año, la Oficina de Derechos de Autor de Estados Unidos concedió un registro de derechos de autor limitado a una novela gráfica asistida por IA. La Oficina de Derechos de Autor dejó claro, tras la aprobación del cómic, que no registraría obras creadas únicamente por IA, por lo que el texto recibiría protección de derechos de autor, pero las imágenes generadas por IA no. El motivo de esta decisión se debió a que los usuarios del sistema de IA generativa no eran "autores" debido a que la tecnología utilizada generaba imágenes de forma impredecible.
La Comisión Federal de Comercio (FTC) ha abierto una investigación sobre OpenAI, la empresa detrás de ChatGPT, por acusaciones de que ha infringido las leyes de protección al consumidor al poner en riesgo los datos personales. Estas acusaciones han sido investigadas en varios países, entre ellos Francia, Italia y España.
La Oficina de Tecnología de la FTC se centra en las preocupaciones sobre la competencia de la IA generativa, y el senador Michael Bennet se dirige a las empresas tecnológicas para instarlas a etiquetar el contenido generado por IA para los usuarios. Esto es para limitar la difusión de información errónea y materiales dañinos. Además, el senador Bennet presentó un proyecto de ley para crear un grupo de trabajo que examine las políticas sobre IA en los EE. UU.
Estados Unidos también ha invertido mucho en tecnología basada en inteligencia artificial que tiene como objetivo mejorar el uso de esta tecnología en aplicaciones militares. El Departamento de Defensa (DOD) ha publicado varias estrategias centradas en la IA, pero no cuenta con una guía completa específica para las adquisiciones de IA por parte del DOD. La Oficina de Responsabilidad Gubernamental (GAO) ha declarado que la estrategia del DOD podría ser más completa. Además, el DOD no ha publicado ninguna guía que defina claramente las funciones y responsabilidades de los componentes que participan en actividades de IA.