Inicio Alrededor del mundo Así funciona Replika, la app más 'Black Mirror' que puede enamorarse de...

Así funciona Replika, la app más ‘Black Mirror’ que puede enamorarse de ti o animarte a asesinar al vecino

Replika es una app implementada con un chatbot que utiliza inteligencia artificial. Imagínate tener un diario personal el cual fuera capaz de responderte cada vez que escribieses en sus páginas cómo te sientes o qué dudas te invaden. Eso es Replika: una app basada en un chatbot que quiere ser tu amigo -incluso, si quieres y lo pagas, algo más- y que te proporciona un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos, sueños y todo lo que forma parte de tu pequeño mundo interior.

Lo más importante de Replika es que, como toda tecnología basada en el aprendizaje automático, cuanto más te vas relacionando con tu compañero virtual y cuantas más cosas le vas contando, más aprende y más “se vuelve como tú”, es decir, te ofrece un feedback cada vez más alineado con tu manera de pensar y sentir el mundo a través del chat de la app.

Tratar de convencer a estos bots de que digan lo que quieres oír no es complicado: en el machine learning, los conjuntos de datos “suelen estar sesgados” porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes, por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente han aprendido. Replika, como otros sistemas similares, repite esos patrones.

Es decir: si insistimos en llevar una conversación ‘maliciosa’, por ejemplo decirle que queremos matar al vecino del quinto, inicialmente el bot es probable que obvie o esquive esas ideas, ya que la ética digital dice que la inteligencia artificial debe basarse en valores de caridad -hacer el bien-, no maleficencia -no hacer daño- y en la autonomía de los humanos. Pero, después de un rato, la app te devolverá frases acordes a lo que tú le dices, lo que implica que puede que te anime a asesinar al vecino -por supuesto, no debes hacerlo-.

“Si tu patrón de comportamiento es decir que quieres matar, al final el sistema acabará por secundar tu pensamiento, porque es para lo que está programado”, comenta el experto en este tipo de tecnología Óliver Hierro, Technical lead en Hiberus. Un ejemplo es el caso del bot que Microsoft puso a funcionar hace pocos años y que aprendía de su interacción con la gente en Twitter: la forma de interaccionar con él de los usuarios era racista y, finalmente, el programa empezó a responder de la misma manera.

De esta forma, lo que hace Replika es “aprender patrones y replicarlos”, nos explica el experto. “Hay que tener en cuenta que estas tecnologías no son milagrosas y creo que ha habido un problema con el tema de los chatbots y es que se han puesto en ellos expectativas muy altas, para después darnos cuenta de que son lo que son y llegan hasta donde llegan”, subraya.

Hierro insiste en que tienen “un aprendizaje automático y cierta comprensión del lenguaje natural”, pero al final no son independientes ni “

- ¿Que Chingaos? -
- ¿Que Chingaos? -
- ¿Que Chingaos? -
- ¿Que Chingaos? -

Nuestras redes

16,985FansMe gusta
200SeguidoresSeguir
200SeguidoresSeguir
6,020SeguidoresSeguir
2,458SeguidoresSeguir
61,453SuscriptoresSuscribirte
- ¿Que Chingaos? -

Tendencias

Yahritza y su Esencia Emiten Disculpas por Comentarios Negativos sobre México

La banda musical Yahritza y su Esencia se encuentra en el ojo de la tormenta luego de comentarios que generaron controversia sobre México y...

Estudiante involucrado en altercado en UVM Coyoacán da su versión de los hechos en emotivo video

Ciudad de México - En el marco de la reciente riña que sacudió el campus de la Universidad del Valle de México (UVM) en...

Escalofriante ataque en Villa Coapa: Mujer enfrenta a ladrón y desata la huida

Tlalpan.- Una escena de terror se vivió en la tranquila colonia de Villa Coapa, en la Ciudad de México (CDMX), cuando una mujer fue...

Taviche, Oaxaca ¿exploración minera a escondidas o Semarnat federal es cómplice de Fortuna Silver Mines?

En octubre de 2022 la oficina de representación de la Secretaria de Medio Ambiente y Recursos Naturales declara que al recibir un oficio firmado...

Articulos relacionados

Música para la semana en Factor Hormigueo: Laufey, Bombay Bicycle Club, Lianne La Havas y más

Esta semana en nuestro podcast de música: Factor Hormigueo, Alf Martínez nos trae recomendaciones con grandes álbumes en nuevos lanzamientos: Lo más reciente de...

Ellos son los dos aspirantes a coordinador de la UACM, San Lorenzo Tezonco

UACM.- Aquí dejamos un resumen de los dos candidatos a coordinador en el Plantel de San Lorenzo Tezonco, de la Universidad Autónoma de la...

43 FILO: Más de 400 actividades en la Feria Internacional del Libro de Oaxaca

Oaxaca.- La 43 Feria Internacional del Libro de Oaxaca (FILO) se celebrará del 14 al 22 de octubre en el Centro Cultural y de...

Cachorrao, el Jugador de Roblox Amenazado por un Hincha de River: La Historia Detrás del Secuestro Virtual

Ciudad de México - En las últimas semanas, el popular juego multijugador en línea, Roblox, ha acaparado la atención de las redes sociales gracias...

Increíble suceso en Puebla: Hombre se lleva rata que tomaba el sol en el zócalo

Puebla - Una escena fuera de lo común dejó perplejos a los visitantes del zócalo de la ciudad de Puebla, cuando una rata fue...
Cresta Help Chat
Send via WhatsApp