Włamał się do swojego konta bankowego zabezpieczonego biometrią głosową. Wykorzystał głos generowany przez AI. Bank w UK.

Łatwe klonowanie głosu na podstawie krótkiego nagrania głosu ofiary stało się w zasadzie standardem w ramach ostatniej rewolucji / nowinek (niepotrzebne skreślić) AI. Pisaliśmy o tym tutaj:

• deep fake audio jest już w zasięgu ręki każdego. Uruchomili serwis, gdzie można uploadować próbkę głosu i generować dowolną wypowiedzianą nim frazę
• VALL-E – Microsoft zaprezentował projekt, który wypowie Twoim głosem cokolwiek. Mając zaledwie kilkusekundowe nagranie Twojego głosu.

Badacz bezpieczeństwa postanowił zrobić mały eksperyment:

W środę zadzwoniłem na automatyczną linię obsługi mojego banku. Na początek bank poprosił mnie o powiedzenie własnymi słowami, dlaczego dzwonię. Zamiast mówić głośno, odtworzyłem z laptopa plik dźwiękowy: „Sprawdź moje saldo” – powiedział mój głos. Ale to nie był tak naprawdę mój głos. Był to syntetyczny klon, który stworzyłem przy użyciu łatwo dostępnej technologii sztucznej inteligencji [tłumaczenie DeepL, z naszą niewielką korektą]

On Wednesday, I phoned my bank’s automated service line. To start, the bank asked me to say in my own words why I was calling. Rather than speak out loud, I clicked a file on my nearby laptop to play a sound clip: “check my balance,” my voice said. But this wasn’t actually my voice. It was a synthetic clone I had made using readily available artificial intelligence technology.

Dalej, badacz podał swoją datę urodzenia i na koniec wypowiedział sklonowanym swoim głosem frazę: „My voice is my password”.

Werble, pełna napięcia muzyka…:

“Thank you,” the bank said. I was in.

Całą akcję możecie zobaczyć na filmiku z logowania:

Badacz do testów użył wspominanego przez nas wcześniej narzędzia Elevenlabs, gdzie wystarczy zuploadować nagranie swojego głosu i po chwili… system wypowiada naszym głosem cokolwiek co wpiszemy na klawiaturze.

Badacz dla uczciwości dodał, że eksperyment na początek kończył się niepowodzeniem. Jednak po lekkiej optymalizacji – np. wprowadzeniu większej, bazowej próbki oryginalnego głosu do Elevenlabs – wszystko się udało.

Rzecznik banku skomentował sprawę w ten sposób:

A Lloyds Bank spokesperson said in a statement that “Voice ID is an optional security measure, however we are confident that it provides higher levels of security than traditional knowledge-based authentication methods, and that our layered approach to security and fraud prevention continues to provide the right level of protection for customers’ accounts, while still making them easy to access when needed.”

~Michał Sajdak