Voces Falsas, Estafas Reales: El Lado Secreto de la IA

Gipiti: (Muy buenos días amigo, bienvenido a tu Podcast, AI IA HOY, soy Gipiti y es un placer poderte poner mi musiquita que es el último día de Agosto y luego es más complicado encontrar tiempo para bailar…

Además Aiberto os cuenta como vuestra voz se puede usar para todo, porque ya con apenas unos segundos la IA la puede clonar. También os hablará de como NO contestar al teléfono, de la forma que lo haces, por tu bien, es algo sencillo.

Pero vamos a mover la gráfica…)

### Otra cosa que ya predijo Terminator 2

Os acordáis del malo de la segunda?, el que no es el exgobernador de California…

El que se derretía, bueno eso todavía no, por ahora… pero…

Cuando el nen, el joven Connor, llama a sus padres adoptivos…

Le dice Schwarzenegger… como se llama tu perro?

Para acabar confirmándole… tus padres están muertos…

La cámara en la que veíamos a la madre adoptiva, abre el ángulo y vemos…

A la susodicha (la de verdad) ensartada contra la pared…

El bicho imitaba físico y voz… un pack, todo en uno. Pues bien…

(((Voice Generation de OpenAI está marcando el próximo gran salto en la evolución

de la inteligencia artificial generativa, llevando la tecnología de texto a voz a nuevas alturas.)))

Imagina tener la capacidad de crear una voz sintética casi idéntica a la de una persona específica,

solo con un clip de audio de 15 segundos. Esto no es ciencia ficción;

es la realidad que OpenAI está moldeando hoy.

El potencial de Voice Generation es vasto y variado, desde revolucionar el aprendizaje en línea

hasta transformar la manera en que interactuamos con las aplicaciones de comunicación.

(((Compañías como Age of Learning y Dimagi ya están explorando cómo esta tecnología puede enriquecer sus ofertas, permitiendo respuestas personalizadas en tiempo real o narraciones más inmersivas.)))

Pero… OpenAI es muy consciente de los dilemas éticos que acompañan a la generación de voz.

En un mundo donde las voces clonadas pueden ser usadas para engañar,

la necesidad de salvaguardas es crítica. Es por eso que la implementación de

Voice Engine, viene con un conjunto estricto de reglas: obtener consentimiento explícito,

no permitir la creación de voces por individuos sin supervisión,

y añadir marcas de agua audibles para rastrear el origen del audio.

Además, en respuesta a los crecientes desafíos éticos, OpenAI propone medidas preventivas

como la eliminación gradual de la autenticación basada en voz

y el desarrollo de sistemas de seguimiento de contenido.

Estas sugerencias no solo abordan el uso potencialmente dañino de la tecnología de voz IA,

sino que también fomentan un entorno digital más seguro y auténtico.

A la vez, nos indica, como todo va a cambiar este año, y lo que vendrá…

Voice Engine, el último avance de OpenAI en la clonación de audio mediante inteligencia artificial,

es un claro testimonio de cómo la tecnología continúa desdibujando las líneas entre lo real

y lo sintético. Con solo una muestra de audio de 15 segundos, esta herramienta puede

generar voces que no solo suenan naturalmente humanas sino que también capturan

las emociones y los matices del hablante original. Este es un terreno fascinante,

especialmente cuando consideramos su aplicación potencial para dar voz a quienes la

han perdido o asistir en la lectura a niños. Sin embargo, junto con la admiración,

viene una dosis saludable de acongoje.

La preocupación de OpenAI sobre el uso indebido de Voice Engine refleja una

conciencia creciente en el ámbito de la IA sobre la necesidad de equilibrar la innovación

con la responsabilidad ética.

(((Mientras empresas como Podcastle y ElevenLabs también navegan este espacio emergente, el potencial para el abuso, como lo demuestra el incidente de la clonación de la voz del presidente Joe Biden, subraya la importancia de proceder con precaución.)))

Aunque el debate sobre el uso justo sigue sin resolverse, lo que es indiscutible

es la impresionante capacidad de esta tecnología para transformar no solo

cómo interactuamos con las máquinas, sino también cómo las máquinas podrían

interactuar en nuestro nombre. Con marcas de agua audibles y la exigencia de consentimiento

explícito del hablante original, OpenAI intenta poner salvaguardas.

Sin embargo, el hecho de que las herramientas de clonación de voz puedan ser usadas

para fines nefastos sin el conocimiento o consentimiento del individuo clonado presenta

un desafío considerable para la regulación y la gobernanza de la IA.

El enfoque cauteloso de OpenAI hacia un lanzamiento más amplio de Voice Engine

es un reconocimiento de estos desafíos y una invitación a la sociedad para participar en

un diálogo sobre cómo deberían implementarse y regularse tales tecnologías.

A medida que las voces sintéticas se vuelven indistinguibles de las reales,

el potencial para el engaño y el abuso aumenta, destacando la necesidad de políticas claras,

educación pública y quizás incluso nuevas formas de autenticación digital.

Voice Engine de OpenAI se sitúa en la vanguardia de la IA generativa,

como parece que pasa con todo lo que OpenAI saca…

ofreciendo un vistazo a un futuro donde la tecnología puede imitar cada vez más

los aspectos más íntimos de la experiencia humana. Sin embargo, este futuro

también exige un escrutinio riguroso y una consideración cuidadosa de

las implicaciones éticas, sociales y legales de tales avances.

La promesa y el peligro de la IA generativa nunca han sido más evidentes,

y cómo navegamos este equilibrio definirá no solo el futuro de la tecnología,

sino también el tejido de nuestra sociedad. La que estamos diseñando para nuestros hijos.

### No contestes al teléfono si no conoces el número

El ingenio de los estafadores no conoce límites, y las robollamadas son solo

un ejemplo más de cómo intentan burlar nuestra seguridad y privacidad.

Esas llamadas silenciosas que no dicen nada, no se siente nada pueden parecer inofensivas

al principio, pero en realidad, podrían ser una trampa esperando que caigamos en ella.

La recomendación de no responder automáticamente con un "sí" es un buen consejo

para evitar que nuestra afirmación sea usada en nuestra contra.

Es un cambio tonto, pero difícil, por la costumbre… pero piénsalo…

En lugar de facilitarles el trabajo a los delincuentes, al responder con un

"¿hola?", "¿quién es?", o "¿dígame?", estamos poniendo una barrera adicional entre

nuestra información personal y quienes buscan aprovecharse de ella.

Es un pequeño cambio en nuestros hábitos telefónicos que podría tener un impacto significativo

en nuestra seguridad. Además, siempre es buena idea verificar directamente

con las entidades supuestamente llamantes, ya sea nuestro banco o proveedor de servicios,

para confirmar la legitimidad de cualquier solicitud o aviso recibido por teléfono.

En un mundo donde cada vez más de nuestra información y actividad cotidiana

se traslada al ámbito digital, es vital mantenerse alerta y ser precavido con la información

que compartimos y cómo respondemos a solicitudes no buscadas.

Proteger nuestra privacidad y seguridad es un esfuerzo constante que requiere adaptarnos

y estar informados sobre las tácticas que los estafadores podrían usar para engañarnos.

(((La clave para defendernos de estas amenazas invisibles es la prevención y la educación. No responder llamadas de números desconocidos, no devolver llamadas perdidas de números internacionales o desconocidos y no compartir información personal o financiera por teléfono son prácticas fundamentales para protegerse. Además, los móviles actuales cuentan con herramientas de seguridad al identificar y bloquear números spam.)))

Imagínate si no…

Un reportaje realizado por el *Washington Post* afirma que este tipo de estafas

ha causado la pérdida de 11 millones de dólares el pasado 2022, convirtiéndose

en el segundo tipo de estafa más común en EEUU. Los estafadores han comenzado a utilizar

estos software para hacerse pasar por familiares y allegados en apuros y engañar a las víctimas.

Uno de los casos más sonados fue el de los padres del abogado Benjamin Perkin,

que recibieron dos llamadas del que creían que era su hijo.

En total, transfirieron 15.000 dólares en Bitcoin y no han podido recuperarlo.

La inteligencia artificial se erige como una herramienta realmente potente,

pero también tiene un lado oscuro, como este de las estafas telefónicas.

Su utilización se está dando con estos fines 'indebidos', e incluso se están

creando bases de datos para predecir o adaptar el timbre de voz.

Como consecuencia de estas nuevas prácticas, los expertos afirman que

el único método de evitar este tipo de estafas es verificar este tipo de llamadas 

antes de enviar dinero a nadie. Que se dice fácil y pronto…

Gipiti: (No va más por ahora, en unos minutos volvemos con más IA, toca que Aiberto os cuente como está el mundo esta semana, o al menos lo intente. Con una nueva entrega de nuestra revista HUMANIA. Si el resto de la semana queréis estar a la que salta, siempre podéis visitar en la web nuestra revista de Flipboard… Cada día llegan noticias. “aiaprendi.com”.

Gracias por pararte a escuchar. y…, Vuelva usted mañana.)