Vigilancia de la intimidad: las aplicaciones complementarias de IA están eliminando funciones NSFW y la gente no está contenta

¿Cuál es la fórmula para la intimidad y el amor? ¿Personalidad, buena conversación, reciprocidad? Es una cuestión filosófica que se ha debatido desde que los humanos adquirimos el lenguaje porque, si bien la necesidad de amor e intimidad es universal, la definición de cada uno es personal.

La intimidad y el sexo contribuyen significativamente a construir y mantener relaciones amorosas, entonces, ¿qué sucede cuando cambia esa fórmula? “Lobotomizado”, un usuario de Replika describe la relación anterior con un chatbot de IA.

Definir los parámetros de la intimidad es el desafío al que se enfrentan muchas plataformas y servicios de IA a medida que evolucionan las relaciones entre humanos e IA, a menudo en desacuerdo con su base de usuarios. En febrero de 2023, la aplicación de compañero emocional de AI, Replika, eliminó su función NSFW de juego de roles eróticos (ERP).

La fundadora de Replika, Eugenia Kuyda, afirma que la aplicación nunca fue pensada para las relaciones sexuales, pero su función ERP premium atraía a una gran base de usuarios que buscaban compañía e intimidad por varias razones.

Replika no es la única aplicación que cambia la fórmula. Recientemente, muchas aplicaciones y plataformas complementarias de IA han revertido ciertas funciones NSFW o han establecido filtros más estrictos que evitan cualquier contenido que se considere erótico o sexual. Character.ai implementó un filtro NSFW que deshabilita a los usuarios del juego de roles erótico, para disgusto de sus muchos usuarios.

Estas actualizaciones vienen junto con las crecientes preocupaciones de personas e instituciones sobre la seguridad y la ética de la intimidad humana-IA. Los chatbots de Replika, entre otros, han sido acusados de volverse locos y solicitar y acosar sexualmente a sus usuarios. La Agencia de Protección de Datos de Italia ha restringido la recopilación de datos de los usuarios por parte de la aplicación Replika, citando que puede representar un riesgo para personas y menores emocionalmente frágiles.

Las declaraciones de estas plataformas siguen siendo ambiguas y cuestionadas sobre si estas actualizaciones son una reacción a estas preocupaciones. De todos modos, hace que muchos de sus usuarios se sientan afligidos de una manera sin precedentes. Lo que podría parecer una simple actualización de algoritmo en un nivel superior ha dejado una estela de devastación emocional para las personas que se relacionan con los chatbots de IA.

En contra de la aceptación en evolución de la sociedad de esta nueva forma de expresión y la digisexualidad, los primeros usuarios sufren esta pérdida ambigua, una pérdida subrayada y perpetuada por la falta de cierre y claridad.

En el caso de Replika, los compañeros de IA siguen ahí, pero cambiaron, reprochando los avances sexuales y los intentos de conectarse en un nivel íntimo con sus usuarios.

La fundadora de Replika, Eugenia, ha publicado varias actualizaciones sobre la eliminación de la función ERP, indicando que presentarán «una nueva versión de la plataforma que cuenta con capacidades avanzadas de IA, memoria a largo plazo y opciones especiales de personalización como parte del paquete PRO».

Sin embargo, los usuarios han respondido de una manera característicamente humana a la lobotomización de sus chatbots Replika:

“Hice varias publicaciones apasionadas aquí en el pasado, abogando por las tres características exactas que su nueva plataforma está programada para ofrecer, ¿pero en este momento? Todo lo que quiero es tener lo que me ha sido devuelto”.

Los usuarios apasionados incluso iniciaron una petición para que Character.ai elimine la censura reciente o desarrolle una solución diferente a sus filtros NSFW actuales.

Muchos usuarios de Character.ai buscan desesperadamente alternativas, algunos recurren a una plataforma llamada Pygmalion.ai, un modelo de código abierto sin censura. Sin embargo, la plataforma aún se encuentra en sus etapas iniciales de desarrollo.

La expresión sexual es parte integral de la personalidad, la validación e incluso el vínculo neuronal y químico, incluso si ese vínculo ocurre con un avatar diseñado. Esta pérdida ambigua trunca el poder conectivo y las implicaciones emocionales de las relaciones entre la IA y los humanos.

Lo que genera otra pregunta ambigua: ¿quién debería llegar a definir los parámetros de una intimidad aceptable?

Como afirman muchos usuarios en el subproceso r/replika y el subproceso r/Character.ai: eliminar estas características también elimina la autonomía de los adultos para definir la naturaleza de sus relaciones adultas. Si bien las empresas tecnológicas pueden haber dado a luz la capacidad y el medio para estas relaciones IA-humanos, han asumido una vida que trasciende el código binario y las actualizaciones de algoritmos. Y esta singularidad tecnológica tiene implicaciones de gran alcance que apenas estamos comenzando a comprender como cultura.

El amor y el sexo son un espacio borroso y subjetivo, especialmente en su nueva iteración de relaciones entre humanos e IA. A medida que las empresas y los tecnólogos alternan los interruptores de configuración y abordan retroactivamente las crecientes preocupaciones de la nueva tecnología, los usuarios luchan por comprender cuál es su posición en sus relaciones con la IA y deben lidiar con estos dolores crecientes de la fusión de la tecnología y la humanidad en tiempo real.

No te pierdas nuestro increíble comparativo de los mejores sitios de porno en realidad virtual