Deepfake – cyfrowe kłamstwo, które może kosztować firmę miliony

Sztuczna inteligencja zmienia sposób pracy firm, ale niesie też nowe ryzyka. Jednym z najpoważniejszych jest deepfake – zmanipulowane przez AI nagrania audio lub wideo, które mogą do złudzenia przypominać prawdziwą osobę i wprowadzać odbiorców w błąd. Takie treści coraz częściej są wykorzystywane w oszustwach uderzających w finanse, reputację i bezpieczeństwo organizacji.

Deepfake może mieć formę „sklonowanego” głosu, sfałszowanego wideo prezesa lub nagrania z pozornym poleceniem przelewu. Co ważne – zagrożenie nie dotyczy już tylko materiałów publikowanych w sieci. Przestępcy potrafią wykorzystywać deepfake także w czasie rzeczywistym, np. w trakcie wideokonferencji, podszywając się pod członków zarządu i wydając wiarygodnie brzmiące dyspozycje.

W artykule adw. Bartosz Grube oraz r.pr. Mateusz Buczkowski zwracają uwagę, że wiele firm wciąż opiera się na procedurach, które nie są przygotowane na tego typu incydenty. Dlatego kluczowe stają się: edukacja pracowników, weryfikacja kanałów komunikacji oraz dopracowanie wewnętrznych zasad autoryzacji.

Omówiony został także kierunek zmian regulacyjnych w UE – w tym AI Act, który przewiduje obowiązki informacyjne dotyczące treści generowanych lub manipulowanych przez AI, z określonymi wyjątkami (m.in. dla działań na podstawie prawa oraz twórczości artystycznej).

Deepfake to nie tylko film czy nagranie, które możemy obejrzeć czy wysłuchać. To również zmiana wirtualnej rzeczywistości w czasie rzeczywistym.

Zachęcamy do zapoznania się z całym artykułem.