Junta de supervisión de Meta reclama a la empresa ‘reglas claras’ sobre pornografía generada por IA​

​

Forbes México.
Junta de supervisión de Meta reclama a la empresa ‘reglas claras’ sobre pornografía generada por IA

La Junta de Supervisión de Meta dijo el jueves que las reglas de la compañía “no eran lo suficientemente claras” al prohibir representaciones sexualmente explícitas de personas reales generadas por IA y pidió cambios para evitar que dichas imágenes circulen en sus plataformas.

La junta, que está financiada por el gigante de las redes sociales, pero opera de forma independiente, emitió su fallo después de revisar dos falsificaciones pornográficas de mujeres famosas creadas con inteligencia artificial y publicadas en Facebook e Instagram de Meta.

Meta dijo que revisaría las recomendaciones de la junta y proporcionaría una actualización sobre cualquier cambio adoptado.

En su informe, la junta identificó a las dos mujeres únicamente como figuras públicas femeninas de la India y los Estados Unidos, alegando preocupaciones de privacidad.

La junta encontró que ambas imágenes violaban la regla de Meta que prohíbe el “Photoshop sexualizado despectivo”, que la compañía clasifica como una forma de intimidación y acoso, y dijo que Meta debería haberlas eliminado rápidamente.

En el caso de la mujer india, Meta no revisó un informe de usuario sobre la imagen dentro de las 48 horas, lo que provocó que el ticket se cerrara automáticamente sin que se tomara ninguna medida.

El usuario apeló, pero la compañía nuevamente se negó a actuar y sólo cambió de postura después de que la junta tomó el caso, dijo.

Te puede interesar: Fuertes caídas de Tesla y Alphabet impactan en el rendimiento de otras tecnológicas

Junta de supervisión de Meta reclama a la empresa ‘reglas claras’ sobre pornografía generada por IA

En el caso de la celebridad estadounidense, los sistemas de Meta eliminaron automáticamente la imagen.

“Las restricciones a este contenido son legítimas”, afirmó la junta. “Dada la gravedad de los daños, eliminar el contenido es la única forma eficaz de proteger a las personas afectadas”.

La junta recomendó que Meta actualice su norma para aclarar su alcance, diciendo, por ejemplo, que el uso de la palabra “Photoshop” es “demasiado limitado” y que la prohibición debería cubrir una amplia gama de técnicas de edición, incluida la IA generativa.

La junta también criticó a Meta por negarse a agregar la imagen de la mujer india a una base de datos que permite eliminaciones automáticas como la que ocurrió en el caso de la mujer estadounidense.

Según el informe, Meta dijo a la junta que depende de la cobertura de los medios para determinar cuándo agregar imágenes a la base de datos, una práctica que la junta calificó de “preocupante”.

“Muchas víctimas de imágenes íntimas deepfake no están a la vista del público y se ven obligadas a aceptar la difusión de sus representaciones no consentidas o a buscar y denunciar cada caso”, dijo la junta.

Con información de Reuters.

Poco texto y gran información en nuestro X, ¡síguenos!  

Junta de supervisión de Meta reclama a la empresa ‘reglas claras’ sobre pornografía generada por IA
Forbes Staff

  IA, facebook Meta, junta de supervision, pornografia por IA  Leer más