¿Qué de lo que leemos es verdad, es mentira y/o fu escrito por un humano o una máquina? Esa es la nueva pregunta que hoy en día nos podemos hacer, no mañana o no en el futuro cercano, sino hoy. Las Redes Neuronales Recurrentes (RNN por sus siglas en inglés) se pueden, y se utilizan hoy, para entrenar el aprendizaje de las máquinas (Machine learning) que es la base de lo que muchos llamamos Inteligencia Artificial (IA). Sabiendo esto, más allá de ponernos paranoicos y pensar en el momento en que Skynet va a controlar la infraestructura del mundo (no digo que no lo hagan algunos), tenemos que invertir en gente que hoy nos defienda del contenido automatizado y que además puede ser mentira.

Cinco investigadores de la Universidad de Chicago tomaron una configuración regular de computadoras, una serie de capas de algoritmos que permiten activar estas RNN y de ahí obtener reseñas de restaurantes. Muchos dependemos de las reseñas, no únicamente los que vamos a restaurantes u hoteles y las leemos antes de reservar, sino también personas que hacen las reseñas como los Local Guides de Google. La Inteligencia artificial hoy genera reseñas muy creíbles y casi indetectables, en especial, por software enfocado a detectar plagio.

Lo que una red neuronal recurrente hace es llenarse de información similar a la que va a generar, aprender de ella y entonces imitarla a su manera. Algo como si en 5 horas puedo estar viendo al mismo tiempo 365 días de personas clavando clavos y de ahí me dicen que clave un clavo, tengo entendido con un mayor nivel de información que lo que es humanamente posible lo que implica la tarea. Si le pongo millones de reseñas que una persona se tarda tres minutos en escribir, pero el o los algoritmo(s) puede(n) procesarlas en minutos, ya tengo un sistema que puede hacerlas en segundos y colocarlas alrededor de Internet.

Las implicaciones pueden perturbarnos o podemos verlo como simple mejora de un proceso un tanto tedioso. La mayoría de las veces que nos llega una encuesta me parece que dudamos si vale nuestro tiempo, una computadora entrenada para eso tiene la ventaja de no saber lo que es dudar. El tema viene cuando la Inteligencia Artificial aprende a mentir.

PUBLICIDAD

La reseña de un restaurante por lo general requiere de un individuo con papilas gustativas y un imaginario previo a la experiencia que busca del lugar que visita. La reseña de un hotel requiere de una familia o amigos visitando las instalaciones y pasando tiempo interactuando con la gente que da el servicio. Un robot solo requiere caracteres o palabras, y una dirección positiva o negativa para decir lo que sea de lo que no conoce: sí, también conocemos eso como mentira o fake.

https://www.soywebmaster.com/f51/vendo-rese%f1as-2$-11134/

Aquí es donde viene la solicitud de que no solo nos concentremos en la posibilidad de la red que controle el mundo, pero de que haya investigadores que tengan un ojo cercano de lo que las máquinas puedan escribir (fake newsnoticias falsas-, real news -noticias verdaderas-, tips de consumo o tips de belleza). Recordemos que la ética y la decisión de mentir o no no es parte de las tres leyes de la robótica de Asimov / Campbell.

  1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe hacer o realizar las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.

Es por ello que tenemos que tener gente colocando barreras a las reseñas falsas (wink wink Expedia -sea quien sea quien vaya a ser el nuevo CEO-, Amazon, Google Maps, Mercado Libre, obvio el más afectado: Yelp o Trip Advisor). A esto le sumo mi mayor preocupación, las reseñas son la entrada a los artículos periodísticos automatizados, al incremento descomunal de computadoras generando contenido informativo para los seres humanos que nos informamos leyendo ya sea en este sitio o los varios otros espacios que van apareciendo y desapareciendo en línea.

Por ahora se puede detectar lo que escriben las computadoras porque utilizan cierto orden de letras a, b, c, d en sus textos que no es algo que comúnmente haga alguien que escribe (a menos de que sea altamente obsesivo compulsivo). También suelen terminar sus reseñas de maneras extrañas, aunque también lo hacemos nosotros. Tal vez el que tengamos mala ortografía ayude a distinguir que fue escrito por un humano y que no, aunque esa tarea recurrente también se pueda aprender.

P.S. ¡Mucho éxito en Grad School @themoko – Jessica Powell! Para mi estimado Mike Nelson – @nelsonsf siempre tengo presente lo que me dijiste: “facing the storm”, éxito.

 

Contacto:

Correo: [email protected]

Twitter: @ricardoblanco

G+: ricardoblanco

Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.

 

Siguientes artículos

Casi sin medicamentos apenas sobreviven clínicas y hospitales públicos
Por

Recortes decretados por el gobierno ha bajado la calidad de la atención y orillado a las instituciones como el IMSS y el...