Deepfake’i – prowadzą do poważnych szkód na poziomie społecznym

Deepfake’i mogą prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowane mogą zostać treści tekstowe, graficzne, audio i video, np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny – wskazano w analizie Think Tanku Parlamentu Europejskiego.

Think Tank Parlamentu Europejskiego opublikował na swojej stronie internetowej raport poświęcony technologii deepfake, czyli generowanym przy użyciu technik sztucznej inteligencji grafikom, tekstom, nagraniom audio i wideo, które są łudząco realistyczne. Treści te powstają często bez wiedzy osób, które ukazują i sugerują, że powiedziały lub zrobiły coś, co w rzeczywistości nie miało miejsca. Jak podkreślili autorzy raportu, technologia ta może być wykorzystywana do celów zarówno pozytywnych, jak i negatywnych. Wśród tych pierwszych wskazano m.in. usprawnienie produkcji, nieskrępowaną ekspresję artystyczną, satyrę, poprawę interakcji człowiek-maszyna oraz zastosowania badawcze.

Deepfake’i mogą mieć również złośliwy, oszukańczy, a nawet destrukcyjny charakter na poziomie indywidualnym, organizacyjnym i społecznym. Potencjalne zagrożenia można podzielić na trzy kategorie: psychologiczne, finansowe i społeczne.

Po pierwsze, z uwagi na to, że deepfake’i są kierowane do indywidualnych osób, wywołują w grupie odbiorców bezpośrednie konsekwencje psychologiczne. Po drugie, nie ulega wątpliwości, że deepfake’i mogą być tworzone i rozpowszechniane z zamiarem wywołania szkód finansowych. Po trzecie zaś, istnieją poważne obawy co do nadrzędnych, społecznych konsekwencji zastosowania tej technologii – napisali eksperci. Dodali, że wpływ pojedynczego deepfake’a nie ogranicza się do jednej kategorii ryzyka, ale ma charakter kaskadowy i obejmuje wiele poziomów.

Celem deepfake’ów są indywidualne osoby, więc ich oddziaływanie zaczyna się na poziomie jednostki. Mogą też zaszkodzić określonej grupie lub organizacji. Poza tym skumulowany efekt deepfake’a może prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowany może zostać np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny.

W analizie wskazano, że przepisy prawne regulujące kwestię deepfake’ów obejmują złożoną sieć norm konstytucyjnych, a także twarde i miękkie regulacje zarówno na poziomie UE, jak i państw członkowskich. Wśród najważniejszych regulacji na poziomie europejskim wymieniono ogólne rozporządzenie o ochronie danych, ramy UE dotyczące sztucznej inteligencji, prawo autorskie, dyrektywę o handlu elektronicznym, ustawę o usługach cyfrowych, dyrektywę o audiowizualnych usługach medialnych, kodeks postępowania w zakresie zwalczania dezinformacji oraz Europejski plan działania na rzecz demokracji.

Parlament Europejski konsekwentnie angażuje się w ochronę demokratycznych wyborów przed manipulacjami oraz w walkę z niepożądanymi konsekwencjami wykorzystywania sztucznej inteligencji. W rezolucji z 2017 r. Parlament wezwał Komisję Europejską do przyjęcia twardych regulacji mających na celu radzenie sobie z fake newsami, takich jak nowelizacja dyrektywy o handlu elektronicznym. W przyjętej w maju 2018 r. rezolucji ws. pluralizmu mediów i wolności mediów w UE zawarto dodatkowe propozycje niezwiązane bezpośrednio z deepfake’ami, ale bardzo istotne w dyskusji o nich – czytamy w raporcie Think Tanku Parlamentu Europejskiego. Chodziło m.in. o pełną przejrzystość korzystania z algorytmów, sztucznej inteligencji, zautomatyzowane podejmowanie decyzji dotyczących blokowania, filtrowania i usuwania treści internetowych, a także umożliwienie użytkownikom zgłaszania potencjalnej dezinformacji.

Eksperci zwrócili uwagę, że konkretne wzmianki o deepfake’ach można znaleźć w różnych stanowiskach Parlamentu, m.in. w rezolucji z lutego 2019 r. wzywającej Komisję do wprowadzenia wymogu oznakowania dla producentów materiałów typu deepfake.

Propozycja ta znalazła się w wielu dokumentach. W rezolucji z 2020 r. ws. praw własności intelektualnej w dziedzinie rozwoju technologii sztucznej inteligencji Parlament podkreślił potrzebę zwiększenia świadomości i umiejętności korzystania z mediów w celu zwalczania możliwości manipulacji przez deepfake’i. Najbardziej wszechstronnym i najnowszym dokumentem dotyczącym dyskusji nt. deepfake’ów jest rezolucja z 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym – zaznaczyli autorzy dokumentu. 

Wspomnieli także, że oprócz wspomnianych propozycji niniejszy dokument zawiera różne zalecenia perspektywiczne. Obejmują one zwiększanie świadomości ryzyka deepfake’ów i poprawę umiejętności cyfrowych. Parlament wezwał również Komisję do wprowadzenia odpowiednich ram prawnych regulujących tworzenie, produkcję lub dystrybucję deepfake’ów dla negatywnych celów, zwiększenie przejrzystości treści wyświetlanych użytkownikom platform internetowych, zapewniając im w ten sposób większą swobodę podejmowania decyzji, czy i jakie informacje chcą otrzymywać – podsumowali.

Poprzez: PAP MediaRoom / EuroPAP News