El presidente de los Estados Unidos, Joe Biden, emitió una orden ejecutiva para regular el desarrollo de inteligencia artificial que pretende cimentar las bases de un programa de ciberseguridad avanzada para desarrollar herramientas para encontrar y corregir vulnerabilidades en software crítico.
30/10/2023 (Ciudad de México). El presidente de Estados Unidos, Joe Biden, emitió una orden ejecutiva para regular el desarrollo de inteligencia artificial (IA) que prende aprovechar sus potencialidades y mitigar posibles riesgos. Mediante un comunicado, se difundió que la orden ejecutiva busca lograr el compromiso con 15 empresas líderes en innovación de IA para “conducir un desarrollo seguro y confiable de la tecnología más importante de nuestro tiempo”.
En la arquitectura de esta normativa participaron algunas de las empresas más importantes en el sector, como Meta, OpenAI y Google, entre otras.
La orden exigirá que las empresas deben notificar y compartir los resultados de todas las pruebas de seguridad al gobierno estadounidense cuando desarrollen cualquier modelo que suponga un grave riesgo para la seguridad económica, la salud pública o la seguridad pública del país norteamericano.
Asimismo, se establece que el Instituto Nacional de Normas y Tecnología (NIST por sus siglas en inglés) establecerá lineamientos para las pruebas de “equipos rojos” de las empresas, que son los encargados de buscar vulnerabilidades en los sistemas de IA, para garantizar la seguridad antes de su publicación. En tanto, el Departamento de Seguridad Nacional aplicará esas normas a los sectores críticos de la infraestructura y establecerá una Junta de Seguridad sobre IA.
Con esto, el gobierno estadounidense pretende cimentar las bases de un programa de ciberseguridad avanzada para desarrollar herramientas de IA para encontrar y corregir vulnerabilidades en software crítico.
También se aseguró que para la elaboración de este decreto se realizaron amplias consultas sobre los marcos de gobernanza de la IA en los últimos meses, en colaboración con Australia, Brasil, Canadá y Chile; la Unión Europea, Francia, Alemania, India, Israel, Italia, Japón, Kenia, México, Países Bajos, Nueva Zelanda, Nigeria, Filipinas, Singapur, Corea del Sur, los Emiratos Árabes Unidos y el Reino Unido.
En esta orden, también se establece la necesidad de evaluar cómo se recopilan y utiliza la información disponible comercialmente, incluidos datos sobre información personal comprados a terceros.
Además, el decreto ordena apoyar a personas trabajadores por medio de un informe del impacto de la IA en el mercado laboral, así como promover la innovación y competencia, especialmente en áreas como el cambio climático.
El futuro de la IA
Este decreto es la primera acción por parte del gobierno estadounidense en torno a la inteligencia artificial ante un vacío de regulación en esta materia.
En esta semana también se realizará la primera cumbre mundial sobre IA en Reino Unido, donde están invitados 27 países, entre ellos Estados Unidos, China, India y miembros de la Unión Europea como Alemania, Francia y España, además de empresas tecnológicas como OpenAI, Google Deepmind, Anthropic, Meta, Microsoft y Nvidia.
Al respecto, la organización defensora de los derechos humanos Amnistía Internacional ha hecho un llamado para que no se ignoren los graves perjuicios para los derechos humanos que causa la tecnología de la información.
La directora del Laboratorio de Rendición de Cuentas sobre el Uso de Algoritmos de Amnistía Internacional, Damini Satija, señaló: “La Cumbre Mundial de Seguridad de la IA de Reino Unido debe dar buen ejemplo en la carrera global para regular la inteligencia artificial, y no estar dominada por discursos especulativos sobre las amenazas existenciales de estas tecnologías, en perjuicio de quienes hoy sufren las peores consecuencias de los sistemas de IA en materia de derechos humanos”.
A través de este comunicado, la organización señaló que la agenda de trabajo de esta cumbre sobre inteligencia artificial favorece intereses del sector tecnológico, y alertó de esta situación dado que el uso de tales tecnologías tiende a perjudicar a los grupos históricamente marginados.
También advierte que los estados implementan sistemas de IA como soluciones técnicas a problemas sociales, pero que en la práctica suelen ser medidas de reducción de costos que agravan políticas punitivas para la población.
Asimismo, hicieron un llamado para que los compromisos en la cumbre no se centren en discursos alarmistas sobre la IA, sino que abonen a una normativa que garantice que las medidas adoptadas para regular esta tecnología se centren en los derechos humanos y las voces de las comunidades marginadas.
