Los procesos de análisis avanzados de datos se están convirtiendo en determinantes de la competitividad de las empresas. Cada vez más, las compañías desean modelar el comportamiento de sus clientes, actuales y potenciales, a través de diseñar algoritmos predictivos tales que ayuden a la toma de decisiones. Ahora, estos procesos de diseño y desarrollo de algoritmos deben tener ciertos controles. Por su parte, estos controles deben ser realizados desde la perspectiva de la empresa como de la sociedad en su conjunto.

Ya es bastante claro que, si no se controlan, los algoritmos de IA integrados en las tecnologías sociales y digitales pueden codificar sesgos sociales, acelerar la propagación de rumores y desinformación (fake news), amplificar las cámaras de eco de la opinión pública, secuestrar nuestra atención e incluso perjudicar nuestro bienestar mental.

En este marco, es fundamental que las empresas puedan transparentar a la sociedad una serie de preguntas: ¿Es el algoritmo adecuadamente transparente para los usuarios finales? ¿Es probable que se use de una manera socialmente aceptable? ¿Podría producir efectos psicológicos indeseables o explotar inadvertidamente las fragilidades humanas naturales? ¿Se está utilizando el algoritmo con un propósito engañoso? ¿Hay evidencia de sesgo interno o incompetencia en su diseño? ¿Informa adecuadamente cómo llega a sus recomendaciones e indica su nivel de confianza?

Por lo tanto, los stakeholders de las empresas, inversores, accionistas, clientes, proveedores, deben tomar conciencia que las empresas tienen que mostrar cómo diseñaron e implementaron esos algoritmos, dado que corren el riesgo de destruir valor en el momento que se constate algo tipo de sesgo o comportamiento socialmente rechazable.

Para ello es importante contar con equipos multidisciplinarios que puedan explicar y controlar estos algoritmos. Los perfiles deben ir desde los propios científicos de datos, pero también referentes de tecnología, y estudiosos de las ciencias sociales –sociólogos, antropólogos, economistas, etc.- que permitan comprender y contrastar la realidad que existe dentro del algoritmo y la realidad existente en la sociedad.

 

Contacto:

Correo: [email protected]

Twitter: @diego_vallarino

LinkedIn: diegovallarinonavarro

Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.

 

Siguientes artículos

Publicidad en mundo data, pedirás más anuncios
Por

Cada día, la comunicación que recibimos será más asertiva. De este modo, la publicidad dejará de ser publicidad para con...