Na tegorocznej dorocznej konferencji re:Mars Amazon ujawnił prawdopodobnie najstraszniejszą technologię, jaką kiedykolwiek słyszałem: umiejętność Alexa, która może naśladować głosy innych ludzi.
Na pierwszy rzut oka nie wydaje się to takie złe, prawda? Nerd we mnie już myśli o tym, jak mógłbym poczuć się jak Tony Stark lub Luke Skywalker z moim osobistym głośnikiem Alexa od Paula Bettany'ego lub Anthony'ego Danielsa (głosy JARVISA z MCU i C3-P0 odpowiednio z Gwiezdnych wojen).
Ale zamiast iść drogą celebrytów, Alexa SVP Rohit Prasad z Amazon przedstawił ten pomysł wraz z klipem chłopca granego przez Alexę, używającego głosu jego niedawno zmarłego dziadka. Według Engadget (otwiera się w nowej karcie), rzecznik Amazon wyjaśnił, że ten klip można odtworzyć przy użyciu „zaledwie jednej minuty dźwięku” osoby, pod którą Alexa się podszywa.
Ta scena prawdopodobnie miała na celu wywołanie przejmujących uczuć, gdy patrzysz, jak technologia Amazon pomaga dziecku poradzić sobie z żalem, ale mogła to być scena z Czarnego lustra. W rzeczywistości odcinek Be Right Back ma bardzo podobne założenie.
Be Right Back podąża za Ashem granym przez Domhnalla Gleesona, która ginie w wypadku samochodowym, a po dowiedzeniu się, że jest w ciąży, Martha grana przez Hayley Atwell musi przetestować nową technologię, która pozwala jej komunikować się ze sztuczną inteligencją podszywającą się pod Asha. To przerażające iz pewnością nie ma służyć jako zapowiedź czegoś dobrego.
W swoim wyjaśnieniu narzędzia Alexa, Rohit Prasad powiedział, że chociaż nie usunie ono bólu po stracie, „zdecydowanie może sprawić, że wspomnienia pozostaną” i może pomóc złagodzić złamane serce.
To uczucie, z którym z pewnością się identyfikuję; Smutek to trudna emocja do zniesienia, zwłaszcza w wieku tak młodym jak chłopiec na filmie udostępnionym przez Amazon. Ale zacieranie granic między życiem a śmiercią nie wydaje się najzdrowszym sposobem radzenia sobie ze stratą.
Z komentarza Prasada jasno wynika, że Amazon postrzega to jako ewolucję zapamiętywania bliskich za pomocą starych zdjęć i filmów zrobionych przed śmiercią, ale to nie to samo. Zdjęcie lub film zostały zrobione za Twoją zgodą i przedstawiają coś, co dana osoba faktycznie zrobiła przed śmiercią; Ta funkcja oparta na sztucznej inteligencji nie odtwarza nagrania przeczytanej książki, ale używa twojego głosu do stworzenia wyprodukowanej pamięci.
Jeśli ktoś chce, aby jego głos przeżył Alexę po śmierci, a następnie nakarmieniu go, jestem pewien, że pokocha tę funkcję. Osobiście chciałbym, żeby dali mi spokój.
Coś więcej niż tylko cyfrowe żywe trupy
Oprócz koszmarnych zastosowań opisanych powyżej, ta funkcja kopiowania może również utorować drogę nowym oszustwom. Podczas gdy wielu z nas wie, jak ignorować głosy robotów po drugiej stronie linii i rozłączać się, możemy być bardziej skłonni do słuchania próśb naszej babci lub syna o pieniądze.
W połączeniu z wyrafinowanymi narzędziami do głębokiego fałszowania wideo, możemy w końcu nie być w stanie uwierzyć w żadne wideo, które oglądamy; wszystko można było zbudować z fałszywych dźwięków i realistycznych obrazów.
Amazon nie będzie jedyną firmą opracowującą narzędzia głosowe AI w tym duchu. Podejrzewamy, że Apple, Google i każdy inny producent asystentów głosowych chce uczynić je bardziej realistycznymi i osobistymi. Ale te fantazyjne sztuczki to tak naprawdę puszka Pandory, coś, co należy ostrożnie otwierać.
W tym celu wydaje się, że Amazon zdaje sobie sprawę z konieczności zachowania ostrożności. Nie określił harmonogramu, kiedy funkcja zostanie wdrożona na istniejących urządzeniach Alexa, a nawet nie potwierdził, czy będzie dostępna publicznie.
Ale teraz, gdy jej dźwiękowa nieśmiertelność została ujawniona światu, to prawdopodobnie tylko kwestia czasu, zanim Alexa uzyska zdolność mówienia jak umarli.