El auge de las publicaciones generadas por IA en Facebook: no dejes que el spam te engañe.

¿Cómo se crean?

Crear spam en redes sociales es fácil—todo lo que se necesita es práctica y Stable Diffusion. La plataforma de Stability.ai ha ganado popularidad gracias a su increíble tecnología, que permite a los usuarios crear imágenes tan realistas que resulta difícil distinguirlas de fotos reales.

Por supuesto, muchas otras herramientas como DALL-E o Playground AI pueden utilizarse para generar imágenes. Independientemente de la herramienta, el objetivo es el mismo: crear imágenes tan realistas que el ojo humano no pueda diferenciarlas de fotografías reales.

Los problemas con la IA generativa

• Deepfakes y desinformación: Las imágenes y videos falsos pueden utilizarse para estafar a las personas, difundir desinformación y manipular los algoritmos de las redes sociales.
• Derechos de autor y propiedad intelectual: El auge del arte generado por IA plantea preguntas sobre los derechos de autor. ¿Puede considerarse a una IA como la autora de sus creaciones? ¿Cómo protegemos los derechos de los artistas cuyos trabajos son utilizados para entrenar estos modelos?

¿De qué tipo de publicaciones estamos hablando?

¿Las has visto? Esa pareja de ancianos que viste esta mañana en Facebook podría en realidad ser una estafa generada por IA diseñada para recolectar comentarios. Mientras algunos dicen que son principalmente los "boomers" quienes caen en estas estafas, cualquiera puede ser engañado.

Nuestro equipo investigó más a fondo para encontrar los mejores ejemplos de estas manipulaciones. Comenzamos nuestra búsqueda en Reddit, donde los usuarios señalan y critican estas falsificaciones.

Aquí algunos ejemplos principales:

Compartido en r/BoomersBeingFools

Compartido en r/facebook

También revisamos Twitter (X):

Crédito de la imagen: @venturetwins

Estos son solo algunos ejemplos, pero hay muchos más allá afuera. Debemos estar vigilantes y examinar con más detenimiento lo que vemos en línea para evitar caer en estafas.

Las secuelas: la teoría del internet muerto

Según este artículo, la "Teoría del Internet Muerto" es una teoría conspirativa que sugiere que internet está compuesto en gran parte por actividad de bots y contenido generado automáticamente, manipulado por algoritmos para controlar a la población y reducir la interacción humana orgánica. Algunos creen que estos bots fueron creados intencionalmente para manipular algoritmos y aumentar los resultados de búsqueda con fines comerciales o políticos.

Si bien la mayoría de la gente no suscribe a esta teoría, algunos usuarios de internet temen que pueda volverse realidad, a medida que la IA y los bots se vuelven más frecuentes cada día.

Redditores discutiendo sobre el aumento de bots en línea.

Cómo identificar imágenes generadas por IA: 5 consejos para 2024

1. Dedos, dedos de los pies o dientes extra

Una de las maneras más fáciles de identificar imágenes generadas por IA es contar las partes del cuerpo. Muchas imágenes generadas por IA presentan dedos, dientes o dedos de los pies adicionales.

2. Texturas borrosas o similares a la pintura

Arrugas que parecen de plastilina, líneas afiladas o texturas borrosas son con frecuencia señales claras de contenido generado por IA.

3. Texto deformado

A la IA le cuesta con las letras. Si el texto aparece deformado, borroso o sin sentido, es muy probable que la imagen haya sido generada por IA.

4. Fondos borrosos

Esto es especialmente común en sitios como This Person Does Not Exist. La persona en la imagen puede verse bien, pero el fondo frecuentemente aparece borroso o vago, carente de detalles específicos.

5. Mira los detalles

A simple vista, una imagen generada por IA puede parecer normal. Pero al observar más de cerca, los accesorios, adornos o fondos pueden parecer distorsionados o antinaturales. Si algo parece extraño, probablemente estés viendo una imagen generada por IA.

¿Te preocupa estar tratando con una imagen falsa?

Identifica imágenes falsas con lenso.ai

Lenso es una herramienta de búsqueda inversa de imágenes potenciada por IA que puede identificar imágenes idénticas y similares en segundos, ayudando a detectar contenido generado por IA.

Cómo funciona:

Rostros

Si subes una imagen de un rostro a lenso.ai y te devuelve imágenes vagamente similares de personas diferentes, todas ellas generadas por IA, es probable que la imagen original también haya sido generada por IA.

¿Sospechas que es IA? Pruébalo:

1. Descarga una imagen de thispersondoesnotexist.com, un sitio web lleno de imágenes generadas por IA.
2. Visita lenso.ai y sube la imagen en la página principal.
3. Los resultados deberían mostrar muchos rostros similares, todos generados por IA.

Ejemplos de otros rostros generados por IA.

*Disponible en regiones seleccionadas.

Ropa, edificios y más

La mayoría de las imágenes generadas por IA devuelven resultados de otras fuentes generadas por IA. Para probarlo, simplemente sube una imagen creada por IA y verifica las fuentes. A menudo, los resultados indicarán que la imagen que subiste también fue generada por IA.

Recuerda: Estos consejos no siempre funcionarán, así que confía en tu instinto, usa el sentido común o consulta foros en línea si no estás seguro de si una imagen ha sido generada por IA.