Si bien podría decirse que el arte de la IA es la próxima frontera creativa, ¿qué papel juegan las convenciones humanas del consentimiento?
Mantener la calma en la era digital
Dondequiera que haya herramientas, la gente hará pornografía. Y cuando la gente hace pornografía, algunos la llevan demasiado lejos. El acceso generalizado a herramientas de generación de arte de IA como DALL-E, Midjourney y Stable Diffusion ha abierto oportunidades y temores por igual.
Los beneficios potenciales prometen una carga de trabajo más ligera y un mejor acceso a las artes para cualquier persona con conexión a Internet. Sin embargo, hay preocupaciones en todos los rincones.
Los trabajadores temen verse empujados a colas implacables de desempleo. Los consumidores se preocupan por el volumen de datos que se alimentan a algoritmos opacos y la posibilidad de que se produzcan nuevas formas de conducta sexual inapropiada. ¿Y los legisladores? Todavía están luchando con las cajas de botín de los videojuegos. La legislatura no está preparada para la IA.
Por otra parte, ¿alguno de nosotros está realmente preparado para la IA?
La IA es diferente
La generación de arte con IA es diferente de cualquier otro medio artístico. El aprendizaje automático aplica algoritmos matemáticos finamente ajustados para desarrollar los procedimientos de generación artística. La IA «aprende» probando bibliotecas de arte, recibiendo comentarios humanos y generando imágenes.
El proceso es similar a cómo aprendemos arte. Se nos dan herramientas y conocimientos. Nos inspiramos en el trabajo existente y escuchamos los comentarios. Luego, practicamos nuestras técnicas para perfeccionarlas.
La diferencia radica en la capacidad de la máquina para procesar un volumen increíble de datos, con menos intuición que un ser humano. El año pasado, traté de convencer a Midjourney para que me diera un retrato de un perro. El resultado fue innumerables imágenes que eran más detalladas que cualquier cosa que pueda dibujar. Excepto que todos tenían demasiados ojos, o ojos en lugares francamente inquietantes.
La IA tiene un potencial magnífico, pero su falta de razonamiento moral la hace propensa a sufrir abusos. Necesita una supervisión estricta por parte de sus desarrolladores. De lo contrario, puede producir sin querer contenido sexual infantil o facsímiles no autorizados de personas reales. Esta última posibilidad es bastante preocupante en el plano de la desinformación, pero puede utilizarse fácilmente para crear material de chantaje sexual hiperrealista.
Los riesgos de daño con la IA (tanto predecibles como desconocidos) son demasiado altos como para simplemente liberar el aprendizaje automático sin previsión. La necesidad de moderación y restricciones al aprendizaje automático es evidente.
A la gente le preocupa que la suplantación de identidad «deepfake» haga que la extorsión sexual sea más fácil que nunca. Uno de los mayores temores de la IA tiene que ver con los niños. Una máquina insensible puede fusionar personas reales y cuerpos ficticios para crear nuevo material de abuso sexual infantil.
En otros lugares, los artistas se enfrentan a la realidad de que la IA se entrena utilizando miles de millones de horas de su trabajo antes de reemplazarlos por completo. La primera gran demanda colectiva presentada en nombre de los artistas afectados ya está en marcha. El informe se centra en las experiencias de los principales artistas visuales, pero los creadores de contenido sexual sin duda sienten que las fauces de la obsolescencia se cierran sobre ellos.
Todo lo que se necesita es un sistema de aprendizaje automático altamente competente sin restricciones de contenido para adultos.
Estos no son los temores de una máquina apocalíptica al estilo SkyNet. Son las realidades de la codicia y la inmoralidad humanas respaldadas por nuevas herramientas.
Todo con moderación
Ninguna empresa de inteligencia artificial quiere ser recordada por instigar un desastre sociocultural. Los equipos detrás de la generación de arte con IA están respondiendo a la presión social y legal.
Stability AI filtró la biblioteca de aprendizaje de contenido sexual de Stable Diffusion y debilitó su capacidad para replicar individuos debido a preocupaciones sobre pornografía deepfake con personas reales. Midjourney prohíbe a los usuarios que solicitan repetidamente el uso de términos prohibidos. Esto se ha utilizado de manera controvertida con fines políticos.
Las comunidades artísticas de IA son la segunda línea de moderación y hacen cumplir sus propios tipos de reducción de daños. Subreddits como /r/sdnsfw y /r/AdultDiffusion están dedicados a eludir las reglas de idoneidad, pero aún presentan dos reglas fundamentales:
No se permiten imágenes deepfake de personas reales.
No hay contenido que presente a personas menores de edad.
Estas reglas pueden ser de autoconservación para mantener a raya el destino del proyecto de Difusión Inestable sin restricciones. Pueden provenir de un lugar de genuina integridad y cuidado. La respuesta probablemente esté en algún punto intermedio.
A pesar de estos esfuerzos, la moderación interna no es suficiente. Las empresas de IA están interesadas en la expansión y rara vez imponen restricciones que perjudiquen sus resultados. Las comunidades en línea y los sitios de redes sociales pueden moderarse a sí mismos, pero no pueden evitar que la IA genere versiones de usuarios con poca ropa sin consentimiento.
La IA se está convirtiendo en una realidad para todos los que tienen una conexión a Internet. Es la oportunidad de todos y el problema de todos. La moderación y la regulación son importantes para apoyar a los consumidores, los trabajadores sexuales, los artistas y los niños por igual.
Tampoco está ahí para detener un fantástico apocalipsis de robots. Es necesario para proteger a las personas de extensiones de las cualidades muy humanas de la codicia, la deshonestidad y la criminalidad.
No te pierdas nuestro increíble comparativo de los mejores sitios de porno en realidad virtual
