En la conferencia anual re:Mars de este año, Amazon reveló quizás la tecnología más aterradora que he escuchado: una habilidad de Alexa que puede imitar las voces de otras personas.

A primera vista, eso no parece tan malo, ¿verdad? El nerd que hay en mí ya está pensando en cómo podría sentirme como Tony Stark o Luke Skywalker con mi propio altavoz personal de Alexa de Paul Bettany o Anthony Daniels (las voces de JARVIS de MCU y C3-P0 de Star Wars respectivamente).

Pero en lugar de seguir la ruta de la celebridad, el vicepresidente senior de Alexa de Amazon, Rohit Prasad, presentó la idea junto con un clip de un niño interpretado por Alexa usando la voz de su abuelo recientemente fallecido. Según Engadget (se abre en una nueva pestaña), un portavoz de Amazon explicó que este clip podría recrearse usando «tan solo un minuto de audio» de la persona que Alexa está suplantando.

La escena probablemente tenía la intención de inspirar sentimientos conmovedores cuando ves cómo la tecnología de Amazon ayuda a un niño a lidiar con su dolor, pero podría haber sido una escena de Black Mirror. De hecho, el episodio Be Right Back tiene una premisa muy parecida a esta.

Be Right Back sigue a Ash de Domhnall Gleeson, quien muere en un accidente automovilístico y, después de descubrir que está embarazada, Martha de Hayley Atwell debe probar una nueva tecnología que le permite comunicarse con una inteligencia artificial que se hace pasar por Ash. Es aterrador y ciertamente no pretende servir como una vista previa de nada bueno.

Be Right Back fue una advertencia, no una invitación (Crédito de la imagen: Netflix)

En su explicación de la herramienta Alexa, Rohit Prasad dijo que si bien no eliminará el dolor de la pérdida, «definitivamente puede hacer que los recuerdos perduren» y podría ayudar a aliviar cualquier angustia.

Es un sentimiento con el que ciertamente me identifico; El duelo es una emoción difícil de manejar, especialmente a una edad tan temprana como la del niño en el video compartido por Amazon. Pero desdibujar las líneas entre la vida y la muerte no parece la forma más saludable de lidiar con la pérdida.

Según el comentario de Prasad, está claro que Amazon ve esto como una evolución de recordar a los seres queridos usando fotos y videos antiguos grabados antes de morir, pero no es lo mismo. Se tomó una foto o video con su consentimiento y representa algo que la persona realmente hizo antes de morir; esta característica impulsada por IA no reproduce una grabación de un libro leído, usa su voz para crear una memoria fabricada.

Si alguien quiere que su voz viva a través de Alexa después de morir y luego alimentarlos, estoy seguro de que les encantará esta función. Personalmente, me gustaría que me dejaran descansar en paz.

Un altavoz inteligente Alexa junto a un bonsái

Prefiero mucho más la voz actual de Alexa (Crédito de la imagen: Amazon)

Más que un simple muerto viviente digital

Además de los usos de pesadilla anteriores, esta función de copia también podría allanar el camino para nuevas estafas. Si bien muchos de nosotros sabemos cómo ignorar y colgar las voces robóticas al otro lado de la línea, es posible que estemos más inclinados a escuchar las súplicas de dinero de nuestra abuela o nuestro hijo.

Junto con las herramientas sofisticadas de falsificación profunda de videos, es posible que eventualmente nos resulte imposible creer cualquier video que veamos; todo podría haber sido construido a partir de sonidos falsos e imágenes realistas.

Amazon no será la única empresa que desarrolle herramientas de voz de IA como este espíritu. Sospechamos que Apple, Google y todos los demás fabricantes de asistentes de voz buscan hacerlos más realistas y personales. Pero estas elegantes características de imitación son realmente una caja de Pandora, algo que debe abrirse con cuidado.

Con ese fin, parece que Amazon es consciente de la necesidad de precaución. No ha establecido un cronograma de cuándo se lanzará la función en los dispositivos Alexa existentes, y ni siquiera ha confirmado si estará disponible para el público.

Pero ahora que su inmortalidad de audio ha sido revelada al mundo, probablemente sea solo cuestión de tiempo antes de que Alexa obtenga la capacidad de hablar como los muertos.

Udostępnij to