Así como un martillo en las manos correctas puede ayudar a construir una casa y en las manos equivocadas puede atentar contra la vida de una persona, la inteligencia artificial tiene tanto un poder positivo como negativo para todo el mundo. En las manos equivocadas esta tecnología puede servir para generar sesgos y discriminación, manipulación y desinformación, violación de la privacidad, ciberataques sofisticados, desplazamiento laboral, entre otros propósitos que conllevarían un riesgo global.
A medida que las grandes compañías tecnológicas como Microsoft, Google o Amazon intensifican su ritmo en la carrera por la inteligencia artificial, también crece el interés por comprender los riesgos asociados a esta tecnología y abordarlos de forma responsable. De hecho, el 21 de julio el presidente de Estados Unidos, Joe Biden, logró que siete empresas que participan en la carrera por la IA se comprometieran al desarrollo responsable, ya que es un tema prioritario para el mundo.
“Me complace anunciar que estas siete empresas han aceptado compromisos voluntarios para la innovación responsable. Estos compromisos, que las empresas implementarán de inmediato, subrayan tres principios fundamentales: seguridad, protección y confianza (…) Las redes sociales nos han mostrado el daño que la tecnología poderosa puede causar sin las medidas de seguridad adecuadas”, destacó en esa ocasión el presidente estadounidense en un tema que ameritó una conferencia de prensa en su agenda.
Lee más:
Ante errores, la Casa Blanca pide delimitar el poder de inteligencia del FBI
Una de las compañías que se reunieron con Biden fue Amazon, que en abril entró de lleno a la carrera por la inteligencia artificial con el lanzamiento de Bedrock, un conjunto de herramientas de IA generativa desarrolladas por terceros. Para hablar de las preocupaciones entorno a la tecnología que está agitando al mundo, Forbes México conversó en exclusiva con la líder de Inteligencia Artificial Responsable de AWS, Diya Wynn.
“La realidad es que, con cualquier cosa, sea inteligencia artificial y otra herramienta, existe la posibilidad de que las personas te dañen o la usen para que sepas algo que no es bueno. Al igual que pudo comprar un martillo para construir una casa, también lo puedo comprar para golpear a alguien en la cabeza. Lo que quiero decir es que (con esta tecnología) hay un potencial enorme para lo bueno y lo malo, y nosotros queremos asegurarnos de que estamos construyendo para lo bueno, por eso es importante la regulación”, admitió Wynn.
La directiva de AWS reconoció que el uso irresponsable de la inteligencia artificial generativa podría exacerbar el sesgo informativo o de inclusión, y eso sería especialmente dañino para comunidades subrepresentadas o marginadas. “No queremos continuar perpetuando daños para ellos. También existe el riesgo de deep fakes y la proliferación de la desinformación, algo perjudicial para nuestras democracias. Todos esos son ejemplos de las razones por las que es importante contar con una regulación”, apuntó Wynn.
Más del tema:
Así es como la IA gana espacio en la conversación empresarial y e incide en sus resultados
Diya Wynn lidera el equipo de AWS que supervisa que el desarrollo de la inteligencia artificial generativa sea responsable. “Ya hemos visto algunos ejemplos en los que existe el riesgo de no tener una regulación de IA, una regulación es absolutamente importante para poder tener el beneficio de usar la tecnología de manera que no perjudique a las personas y a la sociedad, y somos un firme defensor de la regulación, pero de la regulación inteligente que nos permitirá innovar y proporcionar barreras de seguridad necesarias”.
Por ejemplo, ella se encarga de que las acciones de AWS se apeguen a la visión de la compañía: centrar la tecnología en las personas, capacitar al talento necesario para el desarrollo de inteligencia artificial responsable, respetar las mejoras prácticas del sector y un último eje en esta visión general es capacitar a los clientes de la compañía “para que puedan tomar lo que es la teoría de la IA responsable y ponerlo en práctica ayudándoles realmente con herramientas y recursos, e incluso la orientación de expertos.
“Tenemos un enfoque centrado en las personas y tenemos a las personas adecuadas como parte del proceso; hacemos el trabajo que es necesario para invertir en la próxima generación de líderes diversos, tecnólogos correctos y diversos. Y eso se parece a nuestra inversión en educación de IA mientras hablamos de democratizar la IA en general y poner la IA en manos de todos, pero también significa que estamos enfocados y comprometidos a poner la educación en IA y la IA responsable en manos de todos”, abundó Diya.
Te recomendamos:
Esta startup de IA de salud quiere mantener a los médicos al día en la ciencia
Cada vez más sectores de la economía son tocados y potenciados por el uso de inteligencia artificial. Muchos de esos sectores manejan datos sensibles de los usuarios como la banca o salud. Wynn considera que esta es una razón más para una IA responsable. “Hay cosas que debemos tener en cuenta como garantizar la privacidad de nuestra gente y sus datos, asegurarnos de tener todas las voces de nuestros clientes involucradas para que no haya un impacto dañino y proporcionar un mayor acceso a la tecnología y los recursos”.
“En África están proporcionando servicios bancarios y financieros a la población subbancarizada con IA. Ese es un gran ejemplo de alguien que usa la tecnología para el bien. Debemos asegurarnos de que no estamos siendo dañinos”, comentó Wynn durante la charla con Forbes México.
Diya Wynn cerró con una reflexión sobre el impacto de la inteligencia artificial en nuestra vida diaria, de ahí la importancia de que ésta sea responsable y regulada.
“La IA está transformando absolutamente la forma en que trabajamos, en que hacemos negocios, en cómo nos relacionamos con el mundo y esto es solo el principio. Me emociona porque creo que hay un gran potencial para el bien, ¿verdad? Hay un gran potencial para casos de uso impactantes, para abordar cosas que no habíamos podido abordar antes y si hacemos las cosas correctas con el enfoque centrado en las personas para garantizar que estamos educando y brindando acceso a otros creo que habrá más ventajas que riesgos”, aseguró.
¿Ya nos tienes en Facebook? Danos like y recibe la mejor información
