El Arte se Defiende: Nightshade, la Herramienta que Podría Transformar la Industria de la Inteligencia Artificial

Nightshade aparece como una alternativa de lucha contra la inteligencia artificial (IA). Esta herramienta, recientemente disponible para su uso libre, ayuda a lxs artistas a proteger sus obras con la introducción de píxeles que, si son intervenidos por una IA, destruyen la obra.

Las intervenciones en el arte sin permiso de el o la creadora original son más comunes de lo que parecen. De hecho, empresas de inteligencia artificial utilizan el trabajo de lxs artistas para entrenar sus plataformas, sin pedir la aprobación de la o el autor para hacerlo.

Contenido relacionado: Polémica por el Uso de Inteligencia Artificial: ¿Qué Dicen los Ilustradores y Artistas Acerca de las Creaciones Hechas con IA?

Al respecto, se presentó una investigación en la conferencia de seguridad informática Usenix. Resulta que OpenAI, Meta, Google y Stability AI se enfrentan a una serie de demandas de artistas que afirman que su material está protegido por derechos de autor, y que su información personal fue eliminada sin consentimiento ni compensación.

El cambio que pretende Nightshade para con la inteligencia artificial y el arte

Ben Zhao, profesor de la Universidad de Chicago, dirigió el equipo que creó Nightshade. También desarrolló Glaze, otra herramienta que tiene el mismo fin que la primera. Pero, en este caso, manipula modelos de aprendizaje automático para interpretar la imagen como algo diferente de lo que realmente muestra.

La intención es integrar Nightshade en Glaze y que lxs artistas puedan elegir si quieren utilizar la herramienta de ‘envenenamiento’ de datos o no. Además, buscan que Nightshade sea de código abierto, lo que permitiría a otrxs jugar con él y crear sus propias versiones. De hecho, mientras más lo hagan, más poderosa se vuelve la herramienta.

Contenido relacionado: Dilemas e Implicancias de la Inteligencia Artificial: ¿Hasta Dónde Podemos Llegar con el Deepfake?

“Los conjuntos de datos para grandes modelos de IA pueden consistir en miles de millones de imágenes, por lo que cuantas más imágenes envenenadas se puedan incorporar al modelo, más daño causará la técnica”, explicaron desde MIT Technology Review. Los modelos de IA generativa están entrenados con grandes cantidades de datos (en este caso, imágenes extraídas de Internet): Nightshade se mete con esas imágenes.

Queridxs artistas: su trabajo está a salvo

Lxs artistas que quieran subir su trabajo (pero no quieran que las empresas de inteligencia artificial eliminen sus imágenes) pueden subirlas a Glaze y optar por enmascararlas con un estilo artístico diferente al suyo. También pueden utilizar Nightshade y que las muestras envenenadas queden en manos de desarrolladores de IA y provoquen un mal funcionamiento.

Expertxs opinan

Zhao admite que las personas podrían abusar del envenenamiento de datos con fines maliciosos. No obstante, se necesitarían miles de muestras para infligir un daño real a modelos más grandes, debido al entrenamiento que poseen. “Todavía no hemos visto ataques de envenenamiento en modelos modernos [de aprendizaje automático] en la naturaleza, pero podría ser sólo una cuestión de tiempo”, dijo Vitaly Shmatikov, profesor de la Universidad de Cornell que estudia la seguridad de los modelos de IA.

Contenido relacionado: Los Verdaderos Riesgos de la Inteligencia Artificial: Imágenes Falsas que se Tornan Virales

Por otra parte, Gautam Kamath, profesor asistente de la Universidad de Waterloo que investiga la privacidad de los datos y la solidez de los modelos de IA, dijo que el trabajo es “fantástico”. En paralelo, Junfeng Yang, profesor de informática en la Universidad de Columbia, cree que esto podría generar que las empresas de inteligencia artificial respeten más los derechos de los artistas, por ejemplo, pagando regalías.

Eva Toorenent, una ilustradora y artista que ha utilizado Glaze, espera que Nightshade cambie el status quo: “Esto hará que [las empresas de IA] se lo piensen dos veces, porque tienen la posibilidad de destruir todo su modelo al aceptar nuestro trabajo sin nuestro consentimiento”.

Más contenido de El Planteo:

• Mango y Marihuana: Por Qué Son la Combinación Perfecta
• Cómo Hacer MDMA
• Popper: ¿Qué Es, Cómo se Usa y Cuáles Son sus Riesgos?