El Gobierno del presidente de Estados Unidos, Joe Biden, anunció el jueves que las principales empresas de inteligencia artificial (IA) se encuentran entre las más de 200 entidades que se unen a un nuevo consorcio en el país para apoyar el desarrollo y despliegue seguros de la IA generativa.

La Secretaria de Comercio, Gina Raimondo, anunció el Consorcio del Instituto de Seguridad de la IA de Estados Unidos (AISIC, por sus siglas en inglés), que incluye a OpenAI, Google de Alphabet, Anthropic y Microsoft, junto con Facebook de Meta Platforms, Apple, Amazon, Nvidia, Palantir, Intel, JPMorgan Chase y Bank of America.

“El gobierno de Estados Unidos tiene un importante papel que desempeñar en el establecimiento de las normas y el desarrollo de las herramientas que necesitamos para mitigar los riesgos y aprovechar el inmenso potencial de la inteligencia artificial”, dijo Raimondo en un comunicado.

El consorcio, en el que también participan BP, Cisco Systems, IBM , Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa e importantes instituciones académicas y agencias gubernamentales, se albergará bajo el nombre de U.S. AI Safety Institute (USAISI).

El grupo se encargará de trabajar en las acciones prioritarias descritas en la orden ejecutiva sobre IA del presidente Biden de octubre, “incluido el desarrollo de directrices para las simulaciones de ataques, las evaluaciones de capacidad, la gestión de riesgos, la seguridad y la protección, y la marca de agua de los contenidos sintéticos”.

Te recomendamos: Meta utilizará fotos de Instagram para entrenar sus aplicaciones de IA

Gobierno de Biden pide hacer pruebas de seguridad de IA

Las principales empresas de IA se comprometieron el año pasado a poner marcas de agua a los contenidos generados por IA para hacer más segura la tecnología. La simulación de ataques fue utilizada durante años en el sector de la ciberseguridad para identificar nuevos riesgos, bajo la denominación “equipo rojo”, una referencia a la designación del enemigo en los simulacros estadounidenses durante la Guerra Fría.

La orden de Biden ordenaba a los organismos que establecieran normas para esas pruebas y abordaran los riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad relacionados.

En diciembre, el Departamento de Comercio declaró que estaba dando el primer paso hacia la redacción de normas y orientaciones clave para el despliegue y las pruebas seguras de la IA.

El consorcio representa el mayor conjunto de equipos de pruebas y evaluación y se centrará en sentar las bases de una “nueva ciencia de la medición en materia de seguridad de la IA”, según el Departamento de Comercio.

La IA generativa -que puede crear textos, fotos y videos en respuesta a instrucciones abiertas- suscitó tanto entusiasmo como temores de que pueda dejar obsoletos algunos puestos de trabajo, alterar las elecciones y superar potencialmente a los humanos con efectos catastróficos.

Mientras el gobierno de Biden busca salvaguardias, los esfuerzos del Congreso por aprobar leyes sobre IA se han estancado a pesar de las numerosas propuestas de foros de alto nivel y legislativas.

Con información de Reuters

¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias

 

Siguientes artículos

Meta-Comisión Europea
Meta utilizará fotos de Instagram para entrenar sus aplicaciones de IA
Por

En contacto con los accionistas, Zuckerberg dejó en claro que utilizará imágenes publicadas en Facebook e Instagram para...