Zjawisko deepfake w opinii publicznej najczęściej ma wydźwięk negatywny, często bowiem ukierunkowane jest na nieuprawnione wykorzystanie wizerunku. Niemniej jednak narzędzia do kreowania tego typu treści mogą być wykorzystane również w sposób legalny i niejednokrotnie stanowią cenne narzędzie wspierające prace twórców. Celem niniejszej wypowiedzi jest więc zobrazowanie, jak wykorzystane techniki uczenia maszynowego mogą legalnie wspierać produkcje filmowe, muzyczne oraz inne formy kultury. Artykuł porusza również problematykę wprowadzania treści opartych na AI do obrotu i zasady prawidłowego ich oznaczania na gruncie AI ACT.

Treść zmanipulowana

Efekty wszechobecnego postępu technologicznego widoczne są niemalże w każdej dziedzinie życia, coraz częściej pojawiają się również w świecie kultury i sztuki. Rozwój technologii oferuje twórcom możliwość skorzystania z szerokiego wachlarza narzędzi opartych na sztucznej inteligencji. Treści typu „deepfake” zagościły na stałe nie tylko w sferze klasycznie rozumianego wizerunku, ale coraz częściej możemy zaobserwować ich wykorzystanie również w innych dziedzinach, w tym m.in. w sektorze kreatywnym.

Przejrzystość systemów AI

„Deepfake” oznacza obraz, treść dźwiękową bądź treść wideo wygenerowaną lub zmanipulowaną przez AI, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, a w odbiorze mogą zostać niesłusznie uznane za autentyczne lub prawdziwe. Zgodnie z AI ACT każdy podmiot stosujący system AI, który generuje obrazy, treści audio lub wideo stanowiące treści deepfake lub który takimi treściami manipuluje, jest zobowiązany m.in. do ujawnienia, że treść jest wynikiem działania sztucznej inteligencji. Dodatkowo ingerencja AI musi być łatwo wykrywalna, a każdy użytkownik, który wchodzi w interakcję z systemem sztucznej inteligencji, musi być o tym informowany. Regulacja dotycząca zapewnienia przejrzystości treści generowanych przez sztuczną inteligencję, w tym przepisy art. 50 ust. 4 AI ACT, zacznie obowiązywać 2 sierpnia 2026 r.

W celu doprecyzowania obowiązków ciążących na dostawcach systemów AI oraz podmiotach, które je wdrażają bądź z nich korzystają, Komisja Europejska prowadzi prace nad drugą wersją Kodeksu w sprawie zachowania przejrzystości treści generowanych przez sztuczną inteligencję (dalej „Kodeks”). Sekcja druga Kodeksu poświęcona jest kwestii oznaczania deepfake’ów i zawiera m.in. wymogi w zakresie prawidłowego oznaczania treści generowanych przy użyciu AI. Przyjęto generalną zasadę, że wszędzie tam, gdzie to możliwe, ujawnienie powinno zawsze towarzyszyć treści. Wszelkie treści multimodalne zawierające deepfake powinny być konsekwentnie ujawniane za pomocą ikony lub etykiety, zapewniając, że ujawnienie to jest wyraźnie dostrzegalne dla osoby fizycznej bez konieczności podejmowania przez nią dalszych działań.

Wolność twórcza

Pojawia się jednak pytanie, czy wprowadzone ograniczenia nie ingerują zbyt mocno w jedno z podstawowych praw człowieka, jakim jest wolność twórczości. Wyartykułowane zarówno w Konstytucji RP, jak również w Karcie praw podstawowych Unii Europejskiej, wskazuje m.in. na konieczność zagwarantowania swobody twórczej i wolności sztuki, zarówno w perspektywie kreowania i korzystania z dóbr kultury, jak również prowadzenia badań naukowych. Co ważne, ograniczenie tego prawa może nastąpić wyłącznie, gdy jest to konieczne i uzasadnione celem interesu ogólnego bądź potrzebom ochrony praw i wolności innych osób.

Zobowiązanie twórcy do oznaczenia z jakich źródeł korzysta podczas kreowania dzieła, niewątpliwie może zostać uznane za tego typu ograniczenie. Niemniej jednak, zgodnie z AI ACT, jest ono niezbędne dla zapewnienia jednolitych ram prawnych w zakresie rozwoju, wprowadzania do obrotu i wykorzystania AI, jak również ochrony praw i wolności innych osób. W celu realizacji wolności twórczej w AI ACT przewidziano pewne wyłączenia w zakresie zapewnienia przejrzystości systemów AI. W przypadku gdy treści typu deepfake stanowią część dzieła lub programu mającego wyraźnie charakter twórczy, satyryczny, artystyczny, fikcyjny lub analogiczny, zachowanie przejrzystości ogranicza się do ujawniania informacji o istnieniu takich wygenerowanych lub zmanipulowanych treści. Co więcej, musi nastąpić to w sposób, który nie utrudnia wyświetlania utworu lub korzystania z niego, w tym jego normalnego wykorzystania i użytkowania, przy jednoczesnym zachowaniu użyteczności i jakości utworu.

Doprecyzowując przedmiotową regulację, w Kodeksie wskazano, że obowiązki te stosuje się proporcjonalnie, a oznaczenia nie mogą obniżać wartości artystycznej bądź kreatywnej dzieła ani utrudniać jego odbioru. Komisja Europejska wskazuje, że treść zmanipulowana przez AI musi być jasno określona i rozpoznawalna dla użytkowników końcowych oraz zapewniona najpóźniej w momencie pierwszego kontaktu z nią. Co ważne, sposób ujawnienia ingerencji AI powinien być dostosowany do rodzaju treści, która została wykreowana (odpowiednio dla specyfiki treści wideo w czasie rzeczywistym i nierzeczywistym, treści multimodalnych, obrazów i dźwięków).

W stosownych przypadkach oznaczenie w samej treści deepfake’a można uzupełnić napisami końcowymi, kontekstowymi lub kreatywnymi metodami ujawniania informacji oraz zastrzeżeniami wyświetlanymi po zakończeniu oglądania. Informacja może zostać umieszczona w miejscu, które nie jest inwazyjne, ale skuteczne (tj. jasne i rozpoznawalne). Ujawnianie informacji powinno być jasne, dostępne i zrozumiałe dla wszystkich odbiorców. Tam, gdzie to możliwe, metody ujawniania informacji mające zastosowanie do treści typu deepfake udostępnianych cyfrowo powinny pozostawać dołączone do treści lub towarzyszyć jej podczas udostępniania bądź rozpowszechniania. Kluczowe pozostaje w tym wypadku zachowanie równowagi pomiędzy transparentnością a swobodą twórczości, respektujące zarówno prawa przysługujące twórcom, jak i zapewniające bezpieczeństwo osób trzecich będących odbiorcami treści.

Przykłady wykorzystania deepfake’ów

Dzięki zaawansowanym technikom uczenia maszynowego deepfake umożliwia tak realistyczne odwzorowanie cech osoby bądź dzieła, że powstaje treść łudząco zbliżona do rzeczywistości. Tego typu narzędzia są wykorzystywane w sektorze kreatywnym już od wielu lat, czego najlepszym przykładem jest branża filmowa. Używane są zarówno do kreowania efektów specjalnych, jak i rekonstrukcji wizerunku aktorów – na przykład ich cyfrowego odmładzania albo odtwarzania wizerunku postaci po śmierci. To zabieg, który zastosowano m.in. w filmach z serii „Gwiezdne wojny” (np. „Zemsta Sithów”, „Rogue One”, gdzie „zagrał” nieżyjący od 1994 r. aktor Peter Cushing).

Znane są również zabiegi polegające na nagrywaniu scen przez dublerów bądź kaskaderów (następnie cyfrowo „wymienianych” na głównych aktorów) czy na tworzeniu cyfrowych bliźniaków danej postaci, występujących w tym samym czasie.

Deepfaki nieobce pozostają również branży muzycznej. Narzędzia AI najczęściej wykorzystywane są w tym zakresie do odwzorowania realistycznych głosów artystów oraz generowania utworów imitujących ich styl. Możliwe jest to dzięki „sklonowaniu” cech charakterystycznych wokalu muzyka na podstawie próbek nagrań. W sieci regularnie pojawiają się nagrania, w których sztuczna inteligencja odtwarza głosy takich artystów, jak Freddie Mercury, Celine Dion, Drake, Taylor Swift czy The Weeknd, sprawiając łudzące wrażenie, że artyści wykonują utwory – co w rzeczywistości nigdy nie miało miejsca.

AI pozwala również odtwarzać głosy zmarłych wykonawców, tworzyć wirtualne duety między artystami z różnych epok albo poprawiać i modyfikować partie wokalne bez konieczności ponownego nagrywania materiału. Często wykorzystywana jest również podczas koncertów czy innowacyjnych projektów muzycznych (w tym m.in. kreacje wirtualnych artystów czy syntetycznie generowanych głosów na zamówienie).

Dzięki technologii typu deepfake możliwe stało się również „ożywianie” historycznych postaci i dzieł malarskich, co pozwala odbiorcom wejść w bardziej interaktywny kontakt ze sztuką. Przykładem są kampanie, w których obrazy zaczynają mówić, poruszać się lub reagować na widza, tworząc wrażenie bezpośredniego spotkania z artystą albo bohaterem dzieła. W Polsce duże zainteresowanie wzbudziła akcja „Poruszamy sztukę”, wykorzystująca AI do animowania znanych obrazów. Technologia została wykorzystana również przy projekcie „The Next Rembrandt”, w którym algorytmy przeanalizowały setki prac Rembrandta van Rijna, aby stworzyć całkowicie nowy obraz w jego charakterystycznym stylu. Dzięki wykorzystaniu narzędzi AI słuchacze OFF Radia Kraków mieli możliwość wysłuchania „wywiadu” z nieżyjącą już laureatką Literackiej Nagrody Nobla – Wisławą Szymborską.

Takie realizacje pokazują, że AI nie służy już wyłącznie do odtwarzania rzeczywistości, ale staje się narzędziem współtworzenia sztuki. Jednocześnie pojawiają się pytania o granicę między inspiracją a kopiowaniem stylu artysty, pośmiertnym wykorzystaniem wizerunku twórców oraz o to, czy dzieła stworzone przy pomocy algorytmów można uznać za pełnoprawną twórczość artystyczną.

Nowe możliwości

Technologie deepfake i narzędzia oparte na sztucznej inteligencji otwierają przed branżą kreatywną szereg nowych możliwości – pozwalają twórcom eksperymentować z formą, szybciej realizować skomplikowane projekty i obniżać koszty produkcji filmów, muzyki czy kampanii artystycznych. Dzięki AI możliwe staje się tworzenie realistycznych efektów wizualnych, animowanie dzieł sztuki czy generowanie nowych form ekspresji, które jeszcze kilka lat temu były trudne do wykonania lub wymagały znacznych nakładów finansowych.

Racjonalne wykorzystanie narzędzi opartych na sztucznej inteligencji może zapewnić szerszą dostępność kultury i sztuki, wspierać jej rozwój, jak również kreować nowe formy jej eksploatacji – często angażujące odbiorcę w interaktywny sposób. Również dla artystów i producentów AI staje się narzędziem wspierającym kreatywność – niekoniecznie zastępującym człowieka, lecz rozszerzającym jego możliwości twórcze. Wizja przyszłości branży kreatywnej wspieranej przez sztuczną inteligencję staje się więc coraz bardziej realna. Warto jednak pamiętać, że działania te nie mogą w pełni zastąpić wkładu twórczego człowieka, ale mogą stanowić doskonałe narzędzie rozwijające jego kreatywność oraz pozwalające na bardziej efektywne zrealizowanie artystycznej wizji. Niezbędne pozostaje również w tym zakresie dochowanie należytej staranności w prawidłowym oznaczaniu treści AI, co pozwoli na zabezpieczenie dóbr osób trzecich.

autorka: Wiktoria Burek, aplikant radcowski, Kancelaria Brightspot Legal Katarzyna Orzeł, Maciej Jojczyk sp.k.