Kim jesteś?

Kilka tygodni temu w internecie znalazły się nagie zdjęcia Taylor Swift, najbardziej bodaj popularnej piosenkarki na świecie. Wygenerowane sztucznie przez zaawansowane algorytmy, rozlały się po wszystkich mediach społecznościowych. Niewiele można było z tym zrobić, a dramat polegał nie tylko na tym, że wulgarne materiały uderzyły w młodą dziewczynę. Te zdjęcia były nieprawdziwe. Taylor Swift nigdy nie pozowała do zdjęć pornograficznych. Technologia, jaką dysponujemy, pozwala stworzyć realistyczny obraz, realistyczny film z dowolną osobą w roli głównej. Zobaczymy ją na własne oczy, usłyszymy brzmienie jej głosu, a jednak wszystko to będzie fałsz.

Każdy lubi czasami udawać kogoś, kim nie jest. Internet jest idealnym do tego miejscem. Od lat dawał kolejne narzędzia do coraz skuteczniejszego udawania. A co, jeśli to udawanie w końcu doprowadzi do tragedii? Co, gdyby z ekranu komputera prezydent Rosji powiedział, że jutro rozpoczyna wojnę przeciwko NATO? To wcale nie jest nieprawdopodobna sytuacja. Ale czy to byłby prawdziwy przekaz? Dzisiaj w domowym komputerze można taki materiał spreparować. Sam wypróbowałem narzędzia, dzięki którym wideo, w którym mówię po polsku, zostaje zamienione na wideo, w którym mówię po hiszpańsku. Nie znam hiszpańskiego, ale widzę siebie, słyszę mój własny głos, widzę, jak do hiszpańskich – nieznanych mi słów – poruszają się moje usta. To tylko zabawa, ale na zabawie nie musi się skończyć.

W połowie stycznia szef działu finansowego międzynarodowej firmy, która ma oddział w Hongkongu, dostał służbowe polecenie przelania ponad 25 milionów dolarów na podane w korespondencji konto. Pewnie by to zignorował, pewnie zgłosił, gdyby nie fakt, że e-mail przyszedł od jego przełożonego. Aby potwierdzić, czy na pewno nie doszło do pomyłki albo włamania, dyrektor finansowy poprosił o wideospotkanie ze swoim szefem. W wideokonferencji, oprócz samego przełożonego, uczestniczyło kilka osób. Wszyscy oni, jak się później okazało, byli nieprawdziwi. Hakerzy ściągnęli z internetu wszelkie możliwe zdjęcia i materiały wideo i na ich podstawie stworzyli cyfrowy, realistyczny awatar. Dyrektor finansowy rozmawiał z człowiekiem, któremu odpowiedni program w czasie rzeczywistym nakładał twarz, mimikę i głos innego człowieka. Pieniądze zostały przelane, ślad po przestępcach zaginął. To nie był pierwszy przypadek wykorzystania technologii deepfake (głębokiego oszustwa), polegającej na klonowaniu głosu i obrazu. Co będzie następne? Nie wiem, ale: „Kim (NAPRAWDĘ) jesteś?” będzie musiało być zadawane coraz częściej.