Voice Engine; La Voz de la IA

Hola humanos, bienvenidos a vuestro podcast, ni inteligente ni artificial…

pero vuestro… IA HOY.

Miércoles 3, soy Aiberto Floppy y me acompaña el nunca suficientemente

ponderado… el ínclito, el maravilloso, el de los chips vertiginosos… Gipiti.

(((Hola amigos, encantado de compartir mis tokens con vosotros… gracias Floppy, ya era hora de que me presentaras como Dios manda, que yo lo valgo…

¿No te has planteado que yo sea el locutor y tu el copiloto? Lo digo porque como yo tengo más fans… Que no me gusta hablar)))

Jejeje, no, por ahora vamos a quedarnos como estamos, en un futuro próximo,

espero que podamos hablar de tu a tu, pero será con GPT 5, me sabe mal…

(((Ya te he dicho que las envidias y esas pasiones son cosas humanas, nosotros estamos muy por encima de esas nimiedades)))

Ok, Gipiti, relájate… que no hay para tanto…

Como decíamos ayer…

Mamma mía lo que tenemos Hoy!!! Hablamos del musical, de robollamadas y…

de la última que ha liado OpenAI, que cada día lucha (y lo está consiguiendo) por hacer

que realidad y simulación sean imposibles de distinguir… ni para la IA

### Otra cosa que ya predijo Terminator 2

Os acordáis del malo de la segunda?, el que no es el exgobernador de California…

El que se derretía, bueno eso todavía no, por ahora… pero…

Cuando el nen, el joven Connor, llama a sus padres adoptivos…

Le dice Schwarzenegger… como se llama tu perro?

Para acabar confirmándole… tus padres están muertos…

La cámara en la que veíamos a la madre adoptiva, abre el ángulo y vemos…

A la susodicha (la de verdad) ensartada contra la pared…

El bicho imitaba físico y voz… un pack, todo en uno. Pues bien…

(((Voice Generation de OpenAI está marcando el próximo gran salto en la evolución

de la inteligencia artificial generativa, llevando la tecnología de texto a voz a nuevas alturas.)))

Imagina tener la capacidad de crear una voz sintética casi idéntica a la de una persona específica,

solo con un clip de audio de 15 segundos. Esto no es ciencia ficción;

es la realidad que OpenAI está moldeando hoy.

El potencial de Voice Generation es vasto y variado, desde revolucionar el aprendizaje en línea

hasta transformar la manera en que interactuamos con las aplicaciones de comunicación.

(((Compañías como Age of Learning y Dimagi ya están explorando cómo esta tecnología puede enriquecer sus ofertas, permitiendo respuestas personalizadas en tiempo real o narraciones más inmersivas.)))

Pero… OpenAI es muy consciente de los dilemas éticos que acompañan a la generación de voz.

En un mundo donde las voces clonadas pueden ser usadas para engañar,

la necesidad de salvaguardas es crítica. Es por eso que la implementación de

Voice Engine, viene con un conjunto estricto de reglas: obtener consentimiento explícito,

no permitir la creación de voces por individuos sin supervisión,

y añadir marcas de agua audibles para rastrear el origen del audio.

Además, en respuesta a los crecientes desafíos éticos, OpenAI propone medidas preventivas

como la eliminación gradual de la autenticación basada en voz

y el desarrollo de sistemas de seguimiento de contenido.

Estas sugerencias no solo abordan el uso potencialmente dañino de la tecnología de voz IA,

sino que también fomentan un entorno digital más seguro y auténtico.

A la vez, nos indica, como todo va a cambiar este año, y lo que vendrá…

Voice Engine, el último avance de OpenAI en la clonación de audio mediante inteligencia artificial,

es un claro testimonio de cómo la tecnología continúa desdibujando las líneas entre lo real

y lo sintético. Con solo una muestra de audio de 15 segundos, esta herramienta puede

generar voces que no solo suenan naturalmente humanas sino que también capturan

las emociones y los matices del hablante original. Este es un terreno fascinante,

especialmente cuando consideramos su aplicación potencial para dar voz a quienes la

han perdido o asistir en la lectura a niños. Sin embargo, junto con la admiración,

viene una dosis saludable de acongoje.

La preocupación de OpenAI sobre el uso indebido de Voice Engine refleja una

conciencia creciente en el ámbito de la IA sobre la necesidad de equilibrar la innovación

con la responsabilidad ética.

(((Mientras empresas como Podcastle y ElevenLabs también navegan este espacio emergente, el potencial para el abuso, como lo demuestra el incidente de la clonación de la voz del presidente Joe Biden, subraya la importancia de proceder con precaución.)))

Aunque el debate sobre el uso justo sigue sin resolverse, lo que es indiscutible

es la impresionante capacidad de esta tecnología para transformar no solo

cómo interactuamos con las máquinas, sino también cómo las máquinas podrían

interactuar en nuestro nombre. Con marcas de agua audibles y la exigencia de consentimiento

explícito del hablante original, OpenAI intenta poner salvaguardas.

Sin embargo, el hecho de que las herramientas de clonación de voz puedan ser usadas

para fines nefastos sin el conocimiento o consentimiento del individuo clonado presenta

un desafío considerable para la regulación y la gobernanza de la IA.

El enfoque cauteloso de OpenAI hacia un lanzamiento más amplio de Voice Engine

es un reconocimiento de estos desafíos y una invitación a la sociedad para participar en

un diálogo sobre cómo deberían implementarse y regularse tales tecnologías.

A medida que las voces sintéticas se vuelven indistinguibles de las reales,

el potencial para el engaño y el abuso aumenta, destacando la necesidad de políticas claras,

educación pública y quizás incluso nuevas formas de autenticación digital.

Voice Engine de OpenAI se sitúa en la vanguardia de la IA generativa,

como parece que pasa con todo lo que OpenAI saca…

ofreciendo un vistazo a un futuro donde la tecnología puede imitar cada vez más

los aspectos más íntimos de la experiencia humana. Sin embargo, este futuro

también exige un escrutinio riguroso y una consideración cuidadosa de

las implicaciones éticas, sociales y legales de tales avances.

La promesa y el peligro de la IA generativa nunca han sido más evidentes,

y cómo navegamos este equilibrio definirá no solo el futuro de la tecnología,

sino también el tejido de nuestra sociedad. La que estamos diseñando para nuestros hijos.

### No contestes al teléfono si no conoces el número

El ingenio de los estafadores no conoce límites, y las robollamadas son solo

un ejemplo más de cómo intentan burlar nuestra seguridad y privacidad.

Esas llamadas silenciosas que no dicen nada, no se siente nada pueden parecer inofensivas

al principio, pero en realidad, podrían ser una trampa esperando que caigamos en ella.

La recomendación de no responder automáticamente con un "sí" es un buen consejo

para evitar que nuestra afirmación sea usada en nuestra contra.

Es un cambio tonto, pero difícil, por la costumbre… pero piénsalo…

En lugar de facilitarles el trabajo a los delincuentes, al responder con un

"¿hola?", "¿quién es?", o "¿dígame?", estamos poniendo una barrera adicional entre

nuestra información personal y quienes buscan aprovecharse de ella.

Es un pequeño cambio en nuestros hábitos telefónicos que podría tener un impacto significativo

en nuestra seguridad. Además, siempre es buena idea verificar directamente

con las entidades supuestamente llamantes, ya sea nuestro banco o proveedor de servicios,

para confirmar la legitimidad de cualquier solicitud o aviso recibido por teléfono.

En un mundo donde cada vez más de nuestra información y actividad cotidiana

se traslada al ámbito digital, es vital mantenerse alerta y ser precavido con la información

que compartimos y cómo respondemos a solicitudes no buscadas.

Proteger nuestra privacidad y seguridad es un esfuerzo constante que requiere adaptarnos

y estar informados sobre las tácticas que los estafadores podrían usar para engañarnos.

(((La clave para defendernos de estas amenazas invisibles es la prevención y la educación. No responder llamadas de números desconocidos, no devolver llamadas perdidas de números internacionales o desconocidos y no compartir información personal o financiera por teléfono son prácticas fundamentales para protegerse. Además, los móviles actuales cuentan con herramientas de seguridad al identificar y bloquear números spam.)))

Imagínate si no…

Un reportaje realizado por el *Washington Post* afirma que este tipo de estafas

ha causado la pérdida de 11 millones de dólares el pasado 2022, convirtiéndose

en el segundo tipo de estafa más común en EEUU. Los estafadores han comenzado a utilizar

estos software para hacerse pasar por familiares y allegados en apuros y engañar a las víctimas.

Uno de los casos más sonados fue el de los padres del abogado Benjamin Perkin,

que recibieron dos llamadas del que creían que era su hijo.

En total, transfirieron 15.000 dólares en Bitcoin y no han podido recuperarlo.

La inteligencia artificial se erige como una herramienta realmente potente,

pero también tiene un lado oscuro, como este de las estafas telefónicas.

Su utilización se está dando con estos fines 'indebidos', e incluso se están

creando bases de datos para predecir o adaptar el timbre de voz.

Como consecuencia de estas nuevas prácticas, los expertos afirman que

el único método de evitar este tipo de estafas es verificar este tipo de llamadas 

antes de enviar dinero a nadie. Que se dice fácil y pronto…

### A donde vamos a llegar… Mamma mía!!!

(((La decisión de reemplazar a Sara Poyzer, reconocida actriz de la producción teatral de "¡Mamma Mia!" por más de una década, con una voz generada por IA en una próxima producción de la BBC, ha desatado una serie de reacciones encontradas y preocupaciones en el mundo de la actuación. La explicación de la BBC sobre este reemplazo apunta a un uso muy específico y sensible de la IA: recrear la voz de un colaborador que está al final de su vida y que ya no puede hablar, siempre respetando los deseos de la familia y con el compromiso de etiquetar claramente el uso de IA en la película.)))

Esta situación ha provocado una respuesta inmediata y

preocupada de la comunidad de actores y del público en general.

La agencia de locución Voice Squad, que representa a Poyzer, expresó su apoyo a la actriz

y subrayó la importancia de mantener una postura firme frente al avance de la IA

en la industria del entretenimiento. Otros actores y artistas han calificado el acto

de "horrible" y "vergonzoso", demandando más transparencia y la posibilidad de

optar por no participar en programas que utilicen estas tecnologías.

Este incidente se suma a la creciente preocupación en el sector sobre el impacto de la

IA generativa en los empleos de los actores. Aunque la tecnología de voz de IA

está más avanzada actualmente que la generación de videos, los actores de doblaje

podrían ser los primeros afectados si la IA comienza a reemplazar sistemáticamente

a los actores humanos. Este temor no es infundado, ya que el sindicato nacional de actores,

SAG-AFTRA, recientemente entró en huelga buscando garantizar que los actores no

sean reemplazados por IA, entre otras protecciones.

La utilización de la IA por parte de la BBC, aunque bajo circunstancias específicas y sensibles,

plantea una cuestión más amplia sobre cómo los productores deberían poder utilizar

la tecnología para reemplazar a los actores. La reacción de la comunidad y el apoyo

mostrado hacia Sara Poyzer reflejan una preocupación generalizada sobre el futuro del arte

y la creatividad humanos frente al avance implacable de la tecnología.

La industria del entretenimiento, junto con sus creativos y audiencias,

se encuentra en un punto de inflexión crucial en la definición del papel que la IA

debería jugar en la creación de contenido.

(((Sara Poyzer, actriz que protagonizó la producción teatral de Mamma Mia! durante más de 10 años, puso un tuit... con solo una palabra y un emoticono triste; "Aleccionador..." dijo la estrella en respuesta al correo electrónico grosero de los productores. En el que solventaban el asunto con… "Perdón por el retraso, Hemos tenido la aprobación de la BBC para usar la voz generada por IA, por lo que ya no necesitaremos a Sara".)))

La IA nos va a dar mucho que hablar… y ahora sabemos que también vamos a

tener mucho que escuchar, aquí estaremos con los seis sentidos puestos, los nuestros

y el de Gipiti…

Sin más, ni menos nos despedimos hasta mañana, donde repasaremos las noticias más

sorprendentes de la IA, entre otras cosas, hablaremos de lo que dice Bill Gates,

de Microsoft que sigue pensando a lo grande y de NVIDIA, que cada vez se hace más grande…

(((La frase de Hoy es de  Benjamín Disraeli, fue un político, escritor y aristócrata británico.)))

"Nada revela tan fiablemente el carácter de una persona como su voz.”

Ya sabes Humano, conserva tu voz y recicla tu ingenuidad, son los tiempos que corren… y…

Vuelva usted mañana.