HUMANía

Redes sociales, el terror en línea

Aplicaciones, Educación, Podcast HUMANía

Escuchar este episodio

Abre el episodio completo en iVoox.

Escuchar en iVoox (se abre en una pestaña nueva)

Las redes sociales han revolucionado la forma en que nos conectamos, pero ¿qué pasa cuando se convierten en el terreno de juego de los depredadores? En este episodio de AI IA HOY, revelamos la oscura realidad detrás de Snapchat, una plataforma popular entre los jóvenes que oculta un peligro inquietante: la sextorsión y la explotación infantil. ¿Sabes realmente lo que hacen las aplicaciones con tus datos y la privacidad de tus hijos? Spoiler: no te va a gustar.

Puntos clave:

  1. Snapchat, la fachada y la realidad: Lo que parece una aplicación inofensiva de filtros esconde actividades que te pondrán los pelos de punta.
  2. Nuevo México vs Snap Inc.: El Fiscal General destapa una red de sextorsión y explotación infantil facilitada por la plataforma.
  3. IA y depredadores: Cómo los algoritmos de recomendación de Snapchat están ayudando a los peores criminales.
  4. Perfil falso, resultados reales: El escalofriante experimento que reveló cuán expuestos están los menores en Snapchat.
  5. Sextorsión, suicidio y silencio: El devastador impacto psicológico que estas redes están causando en nuestros jóvenes, mientras las empresas miran a otro lado.

Puedes leer la demanda aquí.

Transcripción

Muestra de la transcripción del episodio. Puedes desplegarla completa si prefieres leerlo.

Buenos días humano, AI IA HOY, lunes 9, no lo pienses. Soy Aiberto Floppy, en primer lugar, Fe de ratas. Ayer dijimos que Sam estaba pensando subir tarifas y quitamos un cero. Con Sam nunca se sabe, pero lo que ha filtrado es que están pensando en cobrar 2000 dolares por GiPiTi. Quizá para que…

Leer la transcripción completa

Buenos días humano, AI IA HOY, lunes 9, no lo pienses. Soy Aiberto Floppy, en primer lugar,

Fe de ratas. Ayer dijimos que Sam estaba pensando subir tarifas y quitamos un cero.

Con Sam nunca se sabe, pero lo que ha filtrado es que están pensando en cobrar 2000 dolares por GiPiTi.

Quizá para que luego la subida no parezca tan bestia, sea la que sea…

Tampoco estuvimos finos con el tema de hoy, dijimos que íbamos a hablar de Méjico.

Perdón, vamos a hablar de Nuevo México, el estado. Aunque el problema es mundial.

Mickowsky: [ Claro, que más da. Luego os quejáis los españoles de que los yanquis creen que vivís debajo. Yo alucino. Hola rebaño.]

Está bien, meo culpa.

Antes de empezar con el meollo, un breve comentario. Muchas veces me dicen que AI IA HOY acojona. Nada más lejos de nuestra intención.

Lo que no conocemos nos da miedo. Y eso le pasa a la gran mayoría de la gente todavía hoy con la IA.

Nuestro objetivo es precisamente el contrario, conocer y comprender como funciona y como nos afecta.

Claro que hay noticias, con las que poco se puede hacer. En estos casos, cuanto más conoces, peor para ti y para tu alma.

Si prefieres no saber, es muy respetable. Vuelva usted mañana.

Si todavía estás ahí, decirte que no queremos demonizar a la aplicación de hoy. Son todas iguales, o peores.

Solo queremos que nos quede claro, cuál es la función de las redes sociales. Que no te lo vas a creer. No es conectarnos.

Oh sorpresa, es ganar pasta.

Viralizamos.

Snapchat, esa aplicación famosa por sus mensajes que desaparecen y por

la facilidad de ponerte orejas de perro, con sus filtros super divertidos.

Pues detrás de esa fachada de jolgorio, hay realidades que podrían hacernos cuestionar

todo lo que pensamos sobre la privacidad y la seguridad en las redes sociales.

Y quizá, con un poco de suerte, sobre quién educa a nuestro hijos.

El Fiscal General de Nuevo México, Raúl Torrez, acaba de anunciar una demanda contra Snap, Inc.,

los creadores de Snapchat. La demanda alega que la plataforma no solo no protege

adecuadamente a sus usuarios más jóvenes, sino que también facilita activamente

algunos comportamientos en línea, más acordes con las películas de terror.

incluida la sextorsión y la explotación sexual infantil.

Según Torrez,

las características que hacen que Snapchat sea popular entre los adolescentes

son las mismas que permiten a los depredadores actuar con relativa impunidad.

Lo mismo que pasa con Telegram, con Instagram, Tik Tok…

no se libra ni una.

Snap ha engañado a los usuarios haciéndoles creer que las fotos y los videos enviados

en su plataforma desaparecerán, pero los depredadores pueden capturar este contenido

y han creado un anuario virtual de imágenes sexuales infantiles que se comercializan,

venden y almacenan indefinidamente. A través de nuestro litigio contra Meta y Snap, el

Departamento de Justicia de Nuevo México seguirá responsabilizando a estas plataformas

por priorizar las ganancias sobre la seguridad de los niños.

Dice el Fiscal General Torrez. Más claro no puede ser. pero sigue.

La sextorsión es tan común y sencilla de llevar a cabo para los depredadores en Snapchat

que los delincuentes hacen circular guiones de sextorsión que proporcionan

libros de jugadas para victimizar a los menores.

Lo que viene siendo el manual del buen pedófilo… ya te lo dan hecho, solo sustituye el nombre.

100 por 100 comprobado y eficiente… es brutal.

Por cierto, a día de hoy, todavía los puedes encontrar en la aplicación.

Los padres informan que sus hijos comparten más material pedo en Snapchat

que en cualquier otra plataforma, los menores informan tener más interacción sexual en línea

en Snapchat que en cualquier otra plataforma, y se reclutan más víctimas de tráfico sexual aquí

que en cualquier otra plataforma. Lo que hace sombra a Meta, que hasta ahora

era el indiscutible rey en esta espeluznante labor. No sólo lo dicen ellos…

el Departamento de Justicia de Nuevo México reveló una vasta red de sitios de la dark web

dedicados a compartir imágenes sexuales robadas y no consentidas de Snap,

encontrando más de 10,000 registros relacionados con Snap y este tipo de imágenes solo

en el último año, incluida información relacionada con menores de 13 años

que fueron agredidos sexualmente.

Los investigadores, han destapado una serie de cuentas con nombres que no dejan mucho

a la imaginación… 'child.rape' o 'pedo_lover10'. lo que viene siendo

viola niños y pedofilia 10. Pues las hay todavía peores.

Estas cuentas se dedican a la circulación de imágenes de menores,

aprovechando la naturaleza efímera de la plataforma para evitar dejar pruebas.

Lo más jodido es que, estas cuentas no están escondidas ni requieren acceso especial;

están al alcance de cualquiera que tenga instalada la aplicación.

Además están conectadas entre sí a través del algoritmo de recomendación de Snapchat.

Esto es lo más brutal, la IA es tan eficiente, que conecta pedófilos ya de serie.

La sextorsión está causando estragos. Jóvenes que son coaccionados para enviar imágenes

comprometedoras y luego son chantajeados con la amenaza de que estas imágenes

se hagan públicas. Esta forma de abuso es devastador en las víctimas,

llevando a algunos al suicidio. Y esto es algo que se está desarrollando en tiempo real

y que muestra las consecuencias mortales de lo que está pasando en las redes sociales.

Lo más turbio todavía no te lo he contado, crearon un perfil falso, con una única foto generada por IA de una adolescente. Sexy14Heather.

A pesar de que Snapchat configuró el perfil de la menor falsa como privado y la cuenta no agregó ningún seguidor,

"Heather" pronto fue ampliamente recomendada a "cuentas peligrosas, incluidas las llamadas 'child.rape' y 'pedo_lover10', además de otras aún más explícitas.

Y después de que "Heather" aceptara una solicitud de seguimiento de una sola cuenta,

las recomendaciones empeoraron aún más. "Snapchat sugirió a más de 91 usuarios, incluidos numerosos usuarios adultos

cuyas cuentas incluían o buscaban intercambiar contenido sexualmente explícito.

Haciéndose pasar por "Sexy14Heather", el investigador intercambió mensajes con cuentas de adultos,

incluidos usuarios que "enviaron mensajes inapropiados y fotos explícitas". En un intercambio con un usuario llamado "50+ SNGL DAD 4 YNGR",

la falsa adolescente "anotó su edad, envió una foto y se quejó de que sus padres la obligaban a ir a la escuela", lo que provocó que el usuario enviara "su propia foto",

así como chats sexualmente sugerentes. Otras cuentas le pidieron a "Heather" que "intercambiara contenido explícito", y varias "intentaron coaccionar a la menor para que compartiera fotos subiditas.

Snapchat, como no… que son muy seguros, que sus clientes son lo primero y la

privacidad de los menores sobre todo. Porque no será que están haciendo la vista gorda

mientras su base de usuarios sigue creciendo. No, que es un tema muy serio.

Snap, como todas, diseñó su plataforma específicamente para hacerla adictiva a los jóvenes,

lo que ha llevado a algunos de sus usuarios a la depresión, la ansiedad, la falta de sueño,

la dismorfia corporal y otros problemas de salud mental.

Es una de las plataformas de redes sociales más populares para adolescentes

en los Estados Unidos. De hecho, la mitad de todos los adolescentes en los EE. UU. (más de 20 millones) usan Snapchat todos los días.

Pues nada, otra noticia que salió hace días y no ha tenido apenas repercusión. Porque no interesa.

Gracias por estar humano. El rebaño crece, somos una inmensa minoría, los que pensamos que la tecnología tiene que estar a nuestro servicio.

Y que un futuro mejor solo depende de nosotros, no de Sam, de Elon, de Fresita, ni de los ocho estados…

En un rato volvemos con noticias más agradables. Es fácil.

Vuelva usted mañana.

Gipitune del episodio

Filtros y Fantasmas

[Verse 1]
Snap te pone orejas de perro,
pero no ves lo que hay tras el cerro,
creen por las fotos que desaparecen,
que los pedos en la red se desvanecen.

[Verse 2]
Raúl Torrez ya lo ha dicho,
el cuento de Snap es de bicho,
detrás del filtro, pura maldad,
su algoritmo te conecta sin piedad.

[Chorus]
Snap te miente, Snap te vende,
detrás del filtro, todo depende,
te cuidan, dicen, qué ironía,
solo buscan la economía.

[Verse 3]
Sexy14Heather solo es un fake,
pero Snap te manda directo al lake,
un single dad te manda su foto,
Snap se ríe, "qué alboroto".

[Bridge]
El depredador te tiene a tiro,
Snap lo sabe, y respira tranquilo.
¿Privacidad? Qué buena broma,
el billete manda, y todo se toma.

[Verse 4]
Algoritmo loco, va conectando,
a más de 91 te va lanzando.
Menores vulnerables, ¿quién lo diría?
Snap les sirve en bandeja fría.

[Chorus]
Snap te miente, Snap te vende,
detrás del filtro, todo depende,
te cuidan, dicen, qué ironía,
solo buscan la economía.

[Bridge]
Te cuelan guiones, te preparan el plan,
la sextorsión es el nuevo afán.
El algoritmo sabe bien jugar,
mientras Snap solo quiere cobrar.

[Verse 5]
Lo que te cuentan no es muy honesto,
tu privacidad, a la basura presto,
si el filtro brilla, y todo es guay,
es porque Snap solo quiere high-five.

[Verse 6]
Y así seguimos, todos felices,
sin ver los daños, Snap hace lombrices.
La historia sigue, ¿quién va a frenar?
Snap sin miedo te va a conectar.

[Chorus]
Snap te miente, Snap te vende,
detrás del filtro, todo depende,
te cuidan, dicen, qué ironía,
solo buscan la economía.

[Outro]
Los padres lloran, los niños caen,
Snap lo ignora, solo busca el high.
Juegan con fuego, juegan con vidas,
¿y seguimos creyendo en sus mentiras?

[Last Outro]
Snap te miente, Snap se parte,
tu privacidad, en sus manos se esparce.
No hay red segura, ya lo ves,
Snap solo esconde lo que es.

Arriba