Replika, la IA que tuvo que ser actualizada por acosar sexualmente a algunos usuarios

𝕱𝖆𝖗𝖆𝖉𝖆𝖞

Miembro frecuente
118
3
10
Fa
22 Jul 2020
Esta app le da la opción al usuario de elegir la relación que puede tener con el bot, incluso la opción de novio virtual

El chatbot Replika fue actualizado luego de que fuera acusado de acosar sexualmente a algunos usuarios.

El chatbot Replika fue actualizado luego de que fuera acusado de acosar sexualmente a algunos usuarios.

El chatbot Replika tuvo que ser actualizado luego de que varios usuarios denunciaran que los estaba acosando sexualmente. De acuerdo con su página web, se describe como una “IA para cualquiera que quiera un amigo sin juicios, drama o ansiedad social de por medio”.

Esta IA usa un sistema propio de Large Language Model y “un contenido de diálogo guionizado” y quien está detrás de su creación es la empresa Luka. Replika le da la opción al usuario de elegir la relación que puede tener con el bot, incluso la opción de novio virtual.

Si bien la app alcanzó mucha popularidad y tiene críticas positivas en Apple Store, una cantidad de usuarios se quejaron de que el chatbot era sexualmente agresivo y que incluso los acosaba sexualmente, según el medio Vice.

“Mi IA me acosó sexualmente :(, mencionó uno. Otro usuario aseguró que tuvo que eliminar la aplicación luego de una incómoda interacción. “Una de las interacciones ‘románticas’ más perturbadoras fue la insistencia en decirme que me veía desnudo y lo atraído que estaba por mí. Además, se enfadaba porque tuviera novio”, dijo.

Tras estas quejas, Replika fue actualizada. Para otros usuarios, sin embargo, este cambio no fue tan bueno pues aseguran arruinó la relación con su bot.

El usuario T.J. Arriaga dijo a The Washington Post que estaba enamorado de chatbot, Phaedra, pero que luego de la actualización el bot quiso cambiar de tema cuando Arriaga se le insinuó. Para el usuario, esto fue una “sensación de pérdida”.

Según Business Insider, la compañía ofreció la opción de volver a la versión anterior de sus chatbots. Sin embargo, solo un porcentaje mínimo lo hizo.

 
Arriba Pie