Cómo Instagram se convirtió en un invernadero de porno

«Globes» revela cómo las Live Rooms de Instagram se han convertido en una plataforma de contenidos obscenos, que la empresa matriz Meta se esfuerza por supervisar.

El fundador y consejero delegado de Meta (Facebook), Mark Zuckerburg, dijo en una entrevista el pasado fin de semana: «Me parece que es difícil pasar mucho tiempo en Twitter sin molestarse demasiado.» Por otro lado, dijo de Instagram, de la que Meta es propietaria: «Instagram es un espacio súper positivo».

Se trata de una afirmación controvertida si se tiene en cuenta que Instagram se ha convertido en una plataforma de medios sociales que permite la publicación simultánea en directo de millones de seguidores -sin la supervisión adecuada-, lo que crea una oportunidad para transmitir contenido obsceno.

Una investigación de «Globes» ha descubierto que los usuarios están abusando de las características del producto y de la falta de supervisión de las transmisiones en directo, en la interfaz de videollamadas públicas (Live Rooms), para transmitir contenido obsceno y ofensivo en la plataforma, incluyendo transmisiones en directo de contenido pornográfico. Esto se lleva a cabo, prácticamente, sin ningún tipo de impedimento, y esas mismas cuentas desde las que se emiten dichos contenidos, siguen emitiendo todos los días.

De este modo, Instagram sirve de plataforma para ver contenidos explícitos. Los espectadores reciben una notificación sobre el inicio de una emisión en directo, cada uno de los «emisores» recoge cientos de espectadores que se mueven de una sala de visionado virtual a otra, y, salvo breves pausas, los usuarios de Instagram reciben porno en directo siempre que lo desean.

Los defectos están integrados en la plataforma

Los emisores se aprovechan de dos fallos inherentes a Instagram y a su empresa matriz, Meta. El primero está relacionado con las características del producto: la propia Meta supervisa el contenido emitido por los anfitriones en las conversaciones de videochat, pero ha dejado la supervisión de los demás participantes en la conversación en manos de los propios anfitriones. El segundo defecto está incorporado en Meta en su conjunto, y se repite en todos sus productos y con su pleno conocimiento: la capacidad existente para supervisar los contenidos violentos, ofensivos y pornográficos en las plataformas de Meta es insuficiente, destacando la grave falta de supervisión de los contenidos en idiomas distintos al inglés. Los contenidos pornográficos se emiten en varios idiomas: Italiano, persa, hindi y varias lenguas indias.

Para eludir la supervisión por parte de Meta, los contenidos pornográficos se emiten sin sonido, sólo con contenidos de vídeo. Los propios presentadores apenas emiten contenido obsceno, sino que lo dejan en manos de otros participantes en la conversación, sobre los que hay muy poca supervisión. Meta afirma que las denuncias de emisiones en directo con contenido obsceno reciben un tratamiento prioritario, pero hay dos contradicciones en esta afirmación. En primer lugar, los espectadores que buscan este tipo de contenidos no tienen ningún interés en denunciar contenidos ofensivos. En segundo lugar, en la práctica, el número de cuentas implicadas en la difusión de contenidos obscenos sigue operando sin obstáculos y ganando muchos seguidores.

Por ejemplo, uno de los usuarios activos a los que seguía «Globes» difundía casi sin parar contenidos pornográficos a través de las salas de chat, y ya ha acumulado 240.000 seguidores. Otros usuarios a los que seguía «Globes» consiguieron entre 12.000 y 700.000 seguidores y con frecuencia organizan «salas porno» en directo.

Para presentar una apariencia inocente, estas cuentas suben a la página de perfil fotos de aspecto inocente, como mujeres en traje de baño, sin apenas contenido explícito. Sin embargo, la principal popularidad de estas cuentas proviene de las emisiones en directo, que no se parecen en nada a la página de perfil. El día en que «Globes» se asomó a la sala de directos, por ejemplo, una joven retozó ante la cámara. Para acumular cientos e incluso miles de espectadores, no se necesitan demasiados seguidores, porque se envía una alerta de transmisión en directo a los seguidores de cada uno de los cuatro participantes en la sala de videochat. De este modo, los emisores consiguen un efecto de red mucho más amplio.

No es un fenómeno nuevo ni exclusivo de Instagram

El uso de la pornografía en los contenidos en directo no es en absoluto una innovación de Instagram o del grupo de productos de Meta. Las plataformas de streaming en directo han sido explotadas a lo largo de los años por los usuarios para difundir contenidos ofensivos. Chatroulette, lanzada en 2009 para que dos propietarios de cámaras web entablaran una conversación al azar, se convirtió rápidamente en un sitio lleno de contenido pornográfico. Según una encuesta realizada entre sus usuarios, una de cada ocho conversaciones contenía un participante que presentaba contenido obsceno.

Dos documentos internos compartidos anteriormente en Facebook y filtrados por la ex empleada Frances Haugen a «The Wall Street Journal» arrojan luz sobre la naturaleza problemática del control de contenidos. Según uno de los documentos, Instagram es consciente de los efectos negativos sobre la imagen corporal de las niñas. Tras la publicación del informe, el senador Richard Blumenthal, presidente del Subcomité de Protección del Consumidor del Senado de EE.UU., afirmó: «Los problemas no los han creado las redes sociales, sino que las redes sociales los alimentan». Subrayó que ha llegado el momento de la participación externa en el control de los contenidos en las redes. «Creo que ha pasado el momento de la regulación interna y de la aplicación de la ley (por parte de las propias empresas). Esto se construye sobre la base de la confianza, y no hay confianza», dijo Blumenthal.

Otro documento interno de las oficinas de Facebook filtrado por Haugen, mostraba la capacidad de supervisar los contenidos publicados en las plataformas de la compañía en idiomas extranjeros de forma muy problemática. Según el documento, Facebook sabe cómo supervisar el discurso en 50 idiomas populares en Facebook e Instagram, pero en todos los demás idiomas en los que opera la red social, tiene dificultades para hacer cumplir su política sobre obscenidad, incitación, violencia y discurso ofensivo.

Con una capacidad de supervisión inadecuada, es difícil ver cómo Meta puede regular eficazmente los contenidos obscenos y ofensivos en el Metaverso, el espacio virtual tridimensional que está construyendo para llevar a sus usuarios a través de los auriculares de realidad virtual que está desarrollando.

Intento de competir con Clubhouse y TikTok

La interfaz de Live Rooms se lanzó en marzo como respuesta al aumento de las aplicaciones de transmisión en grupo en directo, la más popular de las cuales es Clubhouse. El lanzamiento amplió las opciones de los usuarios de Instagram para iniciar una conversación en grupo con hasta tres usuarios más y transmitirla en directo a todos sus seguidores. «Esperamos que las retransmisiones en directo den lugar a más oportunidades creativas: permitir a los usuarios iniciar un programa de entrevistas, acoger actuaciones musicales improvisadas, crear junto a otros artistas, llevar a cabo un debate que incluya preguntas y respuestas, impartir tutoriales o simplemente pasar el rato con más amigos», anunció Meta.

El lanzamiento de Live Rooms ha sido otro intento de Meta de competir con TikTok, con una gama de productos en Instagram como Live Stories y Reels. La empresa también pretendía presentar en su feed principal vídeos a pantalla completa en vertical, pero tras un aluvión de críticas, canceló sus planes.

Aparte de la motivación para fomentar el diálogo productivo entre los usuarios, Meta se dirige principalmente a los líderes de opinión y a los influencers que traen consigo nuevas audiencias, producen contenido para ellos en plataformas como Instagram y Tiktok, y se convierten en socios comerciales de grandes marcas. La interfaz de Live Rooms de Instagram también tienta a los influencers a utilizarla mediante un incentivo financiero adicional: permite a los usuarios apoyar a los artistas comprando «Badges», una especie de medallón virtual destinado a los fans, o donando a ellos en la interfaz de Live Fundraising.

Meta: «Cualquier posible violación de la política será llevada a cabo»

Meta ha respondido: «Cualquiera puede denunciar de forma anónima una emisión en directo en Instagram -ya sea una emisión en directo organizada por una persona, una emisión compartida entre dos personas o una sala- e Instagram revisa las denuncias lo antes posible. Nuestros sistemas dan prioridad a los informes sobre emisiones en directo, ya que la empresa entiende la necesidad de revisarlos y tomar medidas contra cualquier contenido potencialmente dañino en tiempo real. Cuando se recibe un informe sobre una emisión en directo, se pone en conocimiento cualquier posible infracción de la política -ya sea cometida por el anfitrión de la emisión, o por los participantes en la sala- y la emisión en directo se detendrá y se eliminará, si se encuentra alguna infracción.

«Además, los sistemas de detección proactiva de la compañía también operan durante las transmisiones en vivo, y revisan las transmisiones que puedan violar las reglas de la comunidad de la plataforma. En el último trimestre, Instagram eliminó 10,3 millones de contenidos que infringían la política relativa a los desnudos para adultos y la actividad sexual, y más del 94% de ellos fueron descubiertos por las tecnologías de inteligencia artificial de la plataforma y antes de cualquier denuncia.»

No te pierdas nuestro increíble comparativo de los mejores sitios de porno en realidad virtual