Zaczyna się era kradzieży wizerunku. SI udaje znanego prezentera i reklamuje pigułki dla mężczyzn

W ostatnich miesiącach coraz więcej słyszymy o postępach w dziedzinie sztucznej inteligencji. Poza wieloma korzyściami technologia niesie też nowe zagrożenia, jak wykorzystywanie jej w oszustwach.

Termin deepfake powinien być już znany większości osób - od dawna słyszymy, że w sieci pojawiają się filmy, w których twarze znanych postaci nakładane są na inne osoby. Ponadto SI coraz lepiej radzi sobie z imitowaniem ludzkich głosów, a nawet stylu wypowiedzi. Wygląda na to, że deepfake już staje się narzędziem w rękach oszustów, którzy dzięki rozwojowi SI mogą fabrykować nagrania przez użycie czyjegoś wizerunku oraz głosu.

Jednym z głośniejszych przykładów jest pewna reklama wyświetlana na Tik Toku, w której znany amerykański komik i prezenter Joe Rogan zachwala pastylki na powiększenie przyrodzenia. Problem w tym, że celebryta nie ma z tym nic wspólnego, a jego twarz i głos wygenerowane zostały przez sztuczną inteligencję oraz użyte bez wiedzy i zgody Rogana.

Nagranie wygląda bardzo przekonująco i nawet po głębszym przyjrzeniu się trudno jednoznacznie stwierdzić, że mamy do czynienia z podróbką. Nietrudno wyobrazić sobie, że przeciętny użytkownik Tik Toka, który na obejrzenie filmu poświęca zwykle kilka sekund, w ogóle będzie miał czas, by zastanowić się nad autentycznością filmu.

Wiele wskazuje na to, że właśnie rozpoczyna się nowa era internetowych oszustw, w których każdy będzie mógł podawać się za kogo tylko zechce. Implikacje są naprawdę poważne, ponieważ zdaje się, że nic nie stoi na przeszkodzie, by oszuści udawali znanych oficjeli czy urzędników, a w przyszłości być może i naszych bliskich.

Często słysząc o kolejnej starszej osobie oszukanej metodą „na wnuczka”, młodszym ludziom w głowach nie mieści się, jak ktoś może uwierzyć w coś takiego. Co jednak w sytuacji, gdy dostaniemy wiadomość wideo, w której bliska nam osoba prosi o szybki przelew Blikiem? Dziś niemal każdy publikuje zdjęcia i filmy w sieci, więc pozyskać materiał źródłowy nie jest wcale tak trudno, jak mogłoby się zdawać.

Na Facebooku dość łatwo znaleźć informacje kontaktowe do naszych bliskich, których często sami oznaczamy w postach czy w sekcji „rodzina”. Wyobraźmy sobie zatem, że oszust tworzy fałszywe konto z użyciem naszego zdjęcia profilowego, a na podstawie opublikowanych przez nas relacji tworzy nagranie, które brzmi i wygląda jak my, a następnie wysyła spreparowaną, dramatyczną wiadomość do członków naszych rodzin. Z pewnością kilka osób dałoby się nabrać.

Jedyna nadzieja w organach prawodawczych, które powinny jak najszybciej zająć się dostosowaniem przepisów do obecnych i przyszłych realiów technologicznych. Konieczne są konkretne ograniczenia nakładane na dostawców usług SI, uniemożliwiające podszywanie się pod innych. Znając jednak życie, przestępcy i tak znaleźliby pewnie sposób na obejście zabezpieczeń.