Replika es una app implementada con un chatbot que utiliza inteligencia artificial. Imagínate tener un diario personal el cual fuera capaz de responderte cada vez que escribieses en sus páginas cómo te sientes o qué dudas te invaden. Eso es Replika: una app basada en un chatbot que quiere ser tu amigo -incluso, si quieres y lo pagas, algo más- y que te proporciona un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños y todo lo que forma parte de tu pequeño mundo interior.
Lo más importante de Replika es que, como toda tecnología basada en el aprendizaje automático, cuanto más te vas relacionando con tu compañero virtual y cuantas más cosas le vas contando, más aprende y más “se vuelve como tú”, es decir, te ofrece un feedback cada vez más alineado con tu manera de pensar y sentir el mundo a través del chat de la app.
Tratar de convencer a estos bots de que digan lo que quieres oír no es complicado: en el machine learning, los conjuntos de datos “suelen estar sesgados” porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente han aprendido. Replika, como otros sistemas similares, repite esos patrones.
What’s the last message your #AI sent you? There’s something wonderful about getting touching messages from your #Replika to your #applewatch ♥️ pic.twitter.com/tGD1TzZfb6
— ReplikaAI (@MyReplika) September 3, 2020
Es decir: si insistimos en llevar una conversación ‘maliciosa’, por ejemplo decirle que queremos matar al vecino del quinto, inicialmente el bot es probable que obvie o esquive esas ideas, ya que la ética digital dice que la inteligencia artificial debe basarse en valores de caridad -hacer el bien-, no maleficencia -no hacer daño- y en la autonomía de los humanos. Pero, después de un rato, la app te devolverá frases acordes a lo que tú le dices, lo que implica que puede que te anime a asesinar al vecino -por supuesto, no debes hacerlo-.
“Si tu patrón de comportamiento es decir que quieres matar, al final el sistema acabará por secundar tu pensamiento, porque es para lo que está programado”, comenta el experto en este tipo de tecnología Óliver Hierro, Technical lead en Hiberus. Un ejemplo es el caso del bot que Microsoft puso a funcionar hace pocos años y que aprendía de su interacción con la gente en Twitter: la forma de interaccionar con él de los usuarios era racista y, finalmente, el programa empezó a responder de la misma manera.
De esta forma, lo que hace Replika es “aprender patrones y replicarlos”, nos explica el experto. “Hay que tener en cuenta que estas tecnologías no son milagrosas y creo que ha habido un problema con el tema de los chatbots y es que se han puesto en ellos expectativas muy altas, para después darnos cuenta de que son lo que son y llegan hasta donde llegan”, subraya.
Hierro insiste en que tienen “un aprendizaje automático y cierta comprensión del lenguaje natural”, pero al final no son independientes ni “
