Deepfake

Deepfake to obraz, nagranie wideo lub głos wygenerowany albo zmieniony przez sztuczną inteligencję tak, aby udawał prawdziwą osobę. Może przedstawiać wypowiedź lub działanie, które nigdy nie miały miejsca.

Jak powstaje deepfake

Model analizuje próbki twarzy, ruchu lub mowy, a następnie tworzy nowy materiał albo podmienia fragment istniejącego. Sam realizm nie przesądza o oszustwie - deepfake może służyć rozrywce, reklamie lub szkoleniu. Problem zaczyna się, gdy odbiorca nie zna pochodzenia treści i uznaje ją za autentyczną.

Klon głosu jako osobny przypadek

Klon głosu to syntetyczna imitacja mowy konkretnej osoby, przygotowana na podstawie próbek jej głosu. W opisanym przez nas oszustwie wymierzonym w bank Fideuram instytucja przelała łącznie 95 mln euro po fałszywej wiadomości WhatsApp i rozmowie z głosem rzekomego prawnika. Bank odzyskał 53 mln euro. Imitacja głosu była elementem spójnej historii, która miała uwiarygodnić polecenie finansowe.

Jak ograniczyć ryzyko w firmie

• Potwierdzaj polecenia płatnicze innym kanałem, używając numeru z firmowej książki kontaktów, a nie z otrzymanej wiadomości.
• Wprowadź drugi poziom akceptacji przelewów i zmian numerów rachunków.
• Ustal hasło lub procedurę awaryjnej weryfikacji. Sam znajomy głos nie może potwierdzać tożsamości.
• Szkol pracowników na scenariuszach łączących e-mail, komunikator i telefon. Deepfake często wspiera szerszą próbę podszycia się.

Oznaczanie treści wygenerowanych przez AI

Materiały syntetyczne powinny mieć czytelną etykietę, a tam, gdzie to możliwe, również techniczny znak wodny. AI Act przewiduje obowiązki przejrzystości związane z oznaczaniem treści generowanych przez AI. Oznaczenie pomaga ustalić pochodzenie materiału, ale nie zastępuje weryfikacji. Techniczne znaczniki można usunąć, a brak etykiety nie dowodzi, że nagranie jest prawdziwe.

Zobacz też: znak wodny, oznaczanie profili AI na Instagramie oraz oznaczenia muzyki tworzonej z pomocą AI.