Amazon Alexa wprowadza nową technologię, która może naśladować głosy, w tym zmarłych

„Zamiast głosu Alexy czytającego książkę, to głos babci dziecka” – wyjaśnił podekscytowany Rohit Prasad, starszy wiceprezes i główny naukowiec sztucznej inteligencji Alexy podczas przemówienia w Las Vegas. (Założyciel Amazon, Jeff Bezos, jest właścicielem Washington Post.)

Demo było pierwszym przebłyskiem najnowszej funkcji Alexy, która pozwoliła asystentowi głosowemu – choć wciąż w fazie rozwoju – replikować głosy ludzi z krótkich klipów audio. Prasad powiedział, że celem jest zbudowanie większego zaufania wśród użytkowników poprzez natchnienie sztucznej inteligencji „ludzkimi atrybutami empatii i afektu”.

Nowa funkcja może „zrobić [loved ones’] Wspomnienia pozostają” – powiedział Prasad. Eksperci twierdzą, że choć perspektywa usłyszenia głosu zmarłego krewnego może być niepokojąca, budzi też wiele obaw związanych z bezpieczeństwem i etyką.

„Nie sądzę, aby nasz świat był gotowy na łatwą w użyciu technologię klonowania głosu” – powiedziała The Washington Post Rachel Tobac, dyrektor generalna SocialProof Security z siedzibą w San Francisco. Dodała, że ​​taka technologia może zostać wykorzystana do manipulowania opinią publiczną za pomocą fałszywych klipów audio lub wideo.

„Jeśli cyberprzestępca może łatwo i wiarygodnie odtworzyć głos innej osoby za pomocą małej próbki, może wykorzystać tę próbkę do podszywania się pod inne osoby” – dodał Tobac, ekspert ds. cyberbezpieczeństwa. „Ten zły aktor może następnie oszukać innych, by uwierzyli, że są tym, za kogo się podszywają, co może prowadzić do oszustw, utraty danych, przejęcia konta i nie tylko”.

Wtedy istnieje ryzyko zatarcia granic między ludźmi a mechaniką, mówi Tama Leaver, profesor studiów internetowych na Curtin University w Australii.

„Nie pamiętasz, jak rozmawiałeś z głębinami Amazonii… i jego usługi gromadzenia danych niezależnie od tego, czy przemawia głosem twojej babci, dziadka, czy też zagubionej ukochanej osoby”.

„W pewnym sensie jest to jak odcinek „Czarnego lustra” — powiedział Leaver, odnosząc się do niego seria science-fiction, która przewiduje przyszłość o tematyce technologicznej.

Inżynier Google, który wierzy, że sztuczna inteligencja firmy ożyła

Nowa funkcja Alexy rodzi również pytania dotyczące zgody, dodał Leaver – zwłaszcza dla osób, które nigdy nie wyobrażały sobie, że ich głos zostanie sparaliżowany przez osobistego robota asystenta po śmierci.

„Istnieje naprawdę śliska tendencja do wykorzystywania danych zmarłych osób w sposób, który z jednej strony jest po prostu przerażający, ale z drugiej strony jest to głęboko nieetyczne, ponieważ nigdy nie rozważali wykorzystania tych wskazówek w ten sposób” – powiedział Leaver.

Po niedawnej stracie dziadka, Leaver powiedział, że odczuwa „pokusę”, by usłyszeć głos ukochanej osoby. Ale możliwość otwiera powódź implikacji, których społeczeństwo może nie być skłonne zaakceptować, powiedział – na przykład Kto jest właścicielem praw do krótkich fragmentów, które ludzie zostawiają na falach World Wide Web?

„Jeśli dziadek wysłał mi 100 wiadomości, czy powinienem mieć prawo umieścić je w systemie? A jeśli to zrobię, kto to jest właścicielem? Czy w takim razie Amazon jest właścicielem tego nagrania?”, zapytał. „Czy zrzekłem się praw do głosu mojego dziadka?”

Prasad nie podał takich szczegółów podczas środowego przemówienia. Twierdził jednak, że umiejętność naśladowania głosów była wynikiem „bez wątpienia życia w złotej erze sztucznej inteligencji, gdzie nasze marzenia i science fiction stają się rzeczywistością”.

Ten model sztucznej inteligencji próbuje odtworzyć umysł Ruth Bader Ginsburg

Jeśli demo Amazona stanie się prawdziwą funkcją, powiedział Leaver, być może ludzie powinni zacząć myśleć o tym, jak ich głosy i podobieństwo można wykorzystać, gdy umrą.

„Czy muszę wziąć pod uwagę w testamencie, że muszę powiedzieć:„ Mój głos i moja historia w mediach społecznościowych są własnością moich dzieci i mogą wybrać, czy chcą to ożywić na czacie ze mną? — zastanawiał się Leaver.

„Teraz to dziwne powiedzieć. Ale jest to prawdopodobnie pytanie, na które powinniśmy mieć odpowiedź, zanim Alexa zacznie jutro mówić tak jak ja” – dodał.