Prawo nie nadąża, organy ściągania bywają bezradne, a ofiar przybywa w zatrważającym tempie. Dziś przemocy na tle seksualnym może dopuścić się każdy i to bez wchodzenia w kontakt fizyczny z ofiarą – wystarczy prosta aplikacja do manipulowania obrazem.
To było szokujące zobaczyć swoją twarz patrzącą prosto w kamerę – jakby próbowała złapać ze mną kontakt wzrokowy – mówi Taylor Klein, bohaterka filmu dokumentalnego Obce ciało z tegorocznej edycji American Film Festivalu. Gdy nagle zaczęła dostawać podejrzanie dużo wiadomości na Instagramie od obcych facetów, początkowo nie miała pojęcia, o co chodzi. Treść tych DM-ów była różna. Od Ale z ciebie seksowna młoda dama, przez Mam 22 lata, jestem szczupły, dobrze zbudowany i też mieszkam w Plainfield, po Jesteś obrzydliwa. Pisali, bo znaleźli film ze mną na stronach porno.
Taylor Klein, dwudziestokilkuletnia studentka jednej z amerykańskich uczelni technicznych, dowiaduje się, że padła ofiarą cyberprzemocy seksualnej, gdy znajomy podrzuca jej link do popularnego serwisu z treściami dla dorosłych. Okazuje się, że ktoś wmontował jej twarz w miejsce twarzy aktorki. Efekt jest przerażająco realistyczny, pewnie tylko wprawne oko, opatrzone z tego typu zmanipulowanym contentem, jest w stanie stwierdzić od razu, że to fotomontaż. W tytule filmu pada jej nazwisko. Taylor Klein brana od tyłu. W opisie – prywatne informacje. Gdzie mieszka, gdzie studiuje. Podły doxing, który gwarantuje, że linkiem wymienią się znajomi dziewczyny z uczelni; że może wideo zobaczą jej sąsiedzi. Sophie Compton i Reuben Hamlyn, autorzy Obcego ciała, towarzyszą Taylor w jej prywatnym śledztwie i żmudnej walce o sprawiedliwość. Zanim jednak dziewczyna odkryje, kim jest sprawca, znajdzie inne kobiety, nadużyte w podobny sposób. Jest ich mnóstwo. Bo już mniej szokuje fakt, że paru pajaców z 4chana skrzyknęło się, by zemścić się na dziewczynie, która zdradziła, albo koleżance, która nie chciała się przyjaźnić. Bardziej wstrząsa skala pornozemsty.
Ty też możesz zagrać w pornosie
Na 35 najpopularniejszych stronach hostujących wyłącznie pornograficzne deepfake’i lub po prostu w internetowych agregatach porno, gdzie można znaleźć zmanipulowane filmy, zamieszczono już prawie 250 tysięcy takich przekłamanych nagrań wideo. To wynik z niespełna siedmiu lat, bo niespełna siedem lat temu pojawiły się pierwsze w ten sposób generowane treści. Z tego prawie połowa, 113 tysięcy, została opublikowana w pierwszych dziewięciu miesiącach 2023 roku. To pokazuje, w jakim tempie rośnie liczba produkowanych deepfake’ów porno i jak niekonsensualna pornografia powszednieje jako narzędzie przemocy wobec kobiet. Te liczby regularnie przytaczają zagraniczne media, chociażby rzetelnie śledzący rozwój technologii magazyn Wired. A dane pochodzą z raportu niezależnej badaczki, która konsekwentnie pozostaje anonimowa – ze strachu przed hejtem za prowadzanie badań obnażających kolejny poziom mizoginii manosfery. Tej samej mizoginii, którą widać w przechwałkach użytkowników forów internetowych o udanych misjach odwetowych na niewiernych byłych partnerkach, niewdzięcznych obiektach romantycznych zainteresowań albo na wrednych koleżankach z pracy.
To z kolei dane z raportu firmy Sensity, producenta technologii wykrywających zmanipulowane treści foto i wideo: 96 procent wszystkich zamieszczonych w internecie deepfake’ów to deepfake’i pornograficzne, a w 99 procent z nich nielegalnie wykorzystano wizerunek kobiet. Spreparowane rozbierane zdjęcia albo filmy porno stały się łatwo dostępną, bardzo skuteczną metodą pornozemsty – procederu, który wraz z rozwojem i umasowieniem sztucznej inteligencji nabiera zupełnie nowego wymiaru. Bo żeby kiedyś opublikować sekstaśmę z czyimś udziałem, trzeba ją było najpierw nagrać. Żeby wrzucić do internetu czyjeś nagie zdjęcia, trzeba je było najpierw zrobić albo zdobyć. Rozbierane fotografie często pochodziły z konsensualnego sextingu, prywatne filmy też wielokrotnie powstawały za zgodą obu zaangażowanych stron – to ich publikacja była bezprawna. Sektaśmy trafiały do publicznego obiegu, by upokorzyć, nastraszyć, zniszczyć reputację, ośmieszyć. Motywacje były różne, co zwyrol, to intencja. A czasy zwyrolom sprzyjają. Siedem lat temu, żeby stworzyć deepfake’a, trzeba było mieć dostęp do zaawansowanego oprogramowania, bardzo konkretne umiejętności i przynajmniej sto zdjęć osoby, której wizerunku chcieliśmy nadużyć, żeby efekt był wiarygodny. Obecnie prostą w obsłudze aplikację do tworzenia fikcyjnych treści foto i wideo można sobie ściągnąć ze sklepów Apple albo Google lub skorzystać z płatnego narzędzia online do generowania deepfake’ów. Wystarczy już tylko jedno zdjęcie potencjalnej ofiary; może być zwykła profilówka z FB. Każdy może stać się bohaterem lub bohaterką filmu pornograficznego, jeśli jego twarz zostanie w takim film wmontowana. Jeżeli prowadzimy otwarty profil w mediach społecznościowych, nasze treści nie są chronione. Pytanie, jaką teraz przyjmiemy strategię. Czy popadniemy w lęki i przestaniemy cokolwiek publikować? Czy założymy, że jeśli nie prowadzimy kontrowersyjnej działalności, to jesteśmy w miarę bezpieczni? – komentuje Magdalena Bigaj, autorka książki Wychowanie przy ekranie, propagatorka idei higieny cyfrowej i założycielka Instytutu Cyfrowego Obywatelstwa, prowadzącego edukację w zakresie etycznego tworzenia i odpowiedzialnego użytkowania nowych technologii.
Wolne sądy, szybki internet
Czy prawo nadąża za rewolucją technologiczną? Dlaczego wciąż brakuje precyzyjnie formułowanych przepisów, które pozwoliłyby organom ścigania skutecznie rozliczać sprawców cyberprzemocy seksualnej? To złożony problem. Adam Dodge, amerykański i prawnik i aktywista mocno zaangażowany w walkę z nadużyciami i dyskryminacją płciową w przestrzeni online, wskazuje w dokumencie Obce ciało na niską świadomość osób związanych z wymiarem sprawiedliwości. Mało kto wie, czym są pornograficzne deepfake’i i dlaczego należy traktować je poważnie. Proces legislacyjny jest wolniejszy niż postęp technologiczny – również dlatego, że skutecznie spowalniają go naciski mocarnych korporacji z branży big tech, gdy planowane regulacje zagrażają ich zyskom. A na przemoc jest akurat spory popyt, to się ogląda, na tym się zarabia. W 2022 roku firmy technologiczne działające w Europie wydały na lobbowanie milion euro. W tym samym roku w Stanach Zjednoczonych wielka piątka – Apple, Meta, Amazon, Google i Microsoft – poświęciła na działania z zakresu lobbingu prawie 70 mln dolarów.
Wiele aspektów związanych z ochroną użytkowników nowych technologii jest już uregulowana prawnie. Nawet grooming, czyli uwodzenie w sieci, jest uwzględniony w kodeksie karnym – w artykule 200a, który został wprowadzony w 2009 roku – mówi Magdalena Bigaj. Już od 14 lat mamy przepis, na mocy którego możemy chronić dzieci, tyle że jest on nieprecyzyjny, bo mówi, że grooming jest karalny, ale wtedy, kiedy doprowadzi do obcowania fizycznego. A przecież istnieje coś takiego jak molestowanie online. Otrzymywanie niechcianych treści pornograficznych, o charakterze erotycznym albo seksualizujących – to też jest coś, co może straumatyzować, zwłaszcza osoby niepełnoletnie. Istnieją przepisy prawa, które big tech może już teraz zastosować, żeby chronić swoich użytkowników. Tylko że to się wiąże z kosztami. Skuteczna ochrona dzieci przed przemocą oznaczałaby na przykład skuteczną weryfikację wieku oraz blokowanie patostreamingu. A blokowanie patostreamerów o milionowych zasięgach oznacza ogromne straty finansowe dla biznesu.
Z OnlyFans do więzienia
Prawnik i aktywista Adam Dodge w Obcym ciele wyjaśnia też, że choć wciąż nie istnieją przepisy federalne dotyczące deepfake’ów, w wybranych częściach Stanów Zjednoczonych można korzystać z nowelizacji prawa stanowego. W Anglii i Walii zaktualizowano w tym roku tzw. Online Safety Bill, ustawę o bezpieczeństwie w przestrzeni cyfrowej. W nowej wersji jasno sformułowanym przepisem zabroniono udostępniania pornograficznych deepfake’ów – osobie, która to robi, grozi kara do sześciu miesięcy pozbawienia wolności. Usunięto również zapis o tym, że trzeba bezwzględnie dowieść, że oprawca działał z zamiarem skrzywdzenia ofiary, który mocno utrudniał sprawne wydawanie wyroków.
Duża w tym zasługa intensywnej aktywistycznej działalności Georgii Harrison, gwiazdy brytyjskiej telewizji reality, która sama padła ofiarą pornozemsty. Mężczyzna, którego znała z jednego z programów, niby przypadkiem (domowy monitoring) nagrał, jak uprawiają seks, potem mimo obietnic nie wykasował nagrania, a wreszcie opublikował je na swoim oficjalnym, zweryfikowanym koncie w OnlyFans. Mistrz zbrodni dostał 21 miesięcy więzienia, a po ogłoszeniu wyroku o 56 procent wzrosła liczba osób dzwoniących na linię pomocową dla ofiar pornozemsty, które poczuły się ośmielone werdyktem sądu zwiastującym zmianę i w prawie, i w społecznej recepcji ofiar i sprawców przemocy seksualnej. Georgia Harrison znała swojego oprawcę. Taylor Klein, bohaterka dokumentu Obce ciało nie ma pojęcia, kto wmontował jej w twarz w film porno. Ten, kto mi to zrobił, najpewniej zawsze używał VPN. Jeśli był na tyle sprytny i ani razu nie zalogował się niechcący z własnego adresu IP, być może nigdy nie dowiem się, kim jest. Chciałabym opowiedzieć wam historię, jak to odkryłam jego tożsamość, pociągnęłam go do odpowiedzialności, a gdy stanął przed sądem, zyskałam pewność, że już nigdy więcej czegoś takiego nie zrobi. Czasem jednak rzeczywistość tak nie wygląda. Czasem zło wygrywa – mówi w pewnym momencie, zrezygnowana bezskutecznymi poszukiwaniami sprawcy na własną rękę i sfrustrowana bezradnością policji.
Wirtualne jest realne
Taylor Klein obawia się wychodzić z domu, nie ma pewności, że nie zagraża jej również przemoc fizyczna, rozważa przerwanie studiów, boi się, że nigdy nie znajdzie pracy, jeśli potencjalni pracodawcy zobaczą ją w filmie porno. Doświadcza wszystkiego, z czym mierzą się ofiary konwencjonalnie zadanej przemocy, choć w tym filmie to przecież nawet nie jest ona. Żeby skutecznie walczyć z cyberprzemocą seksualną, trzeba jeszcze jednej gruntownej zmiany w myśleniu. Musimy odzwyczaić się od podziału na realne i wirtualne i porzucić to naiwne przekonanie, że to co dzieje się online, boli mniej, bo jest rzekomo mniej prawdziwe. Konsekwencje naruszenia, do którego dochodzi w świecie cyfrowym, są kolosalne. Nie są wirtualne, nie są mniej ważne. Przemoc fizyczna będzie zawsze bolesna fizycznie, ale przemoc psychiczna z użyciem takiego sterydu, jakim jest internet, może doprowadzić nawet do samobójczej śmierci osoby, która padła ofiarą pornograficznego deepfake’u – podkreśla Magdalena Bigaj i dodaje: Zapominamy, że ofiary tego typu deepfake’ów to nie tylko osoby, których to bezpośrednio dotyczy, których wizerunek został zmanipulowany. Ofiarami są również widzowie. Patotreści niszczą tkankę społeczną, bo oswajają ludzi z przemocą i uprzedmiotowieniem kobiet. Ludzki mózg nie chce przeżywać stresu, ucieka od nieprzyjemnych doświadczeń, zaczyna przywykać do pewnych bodźców. Potocznie nazywamy to znieczulicą. Im więcej przemocy widzisz, tym mniej ona cię porusza.
Pornozemsta, dzięki nowym technologiom, nigdy nie była tak prosta jak teraz, a wśród postulatów ekspertów od etycznego cyberrozwoju, pojawia się również taka sugestia, że dobrą metodą walki z falą niekonsensualnej pornografii byłoby utrudnienie dostępu zarówno do narzędzi, które pozwalają szybko tworzyć realistyczne deepfake’i, jak i do stron hostujących zmanipulowane treści porno. Tak, te ostatnie są regularnie zamykane, ale w miejsce każdego zbanowanego serwisu, ekspresowo powstają trzy kolejne. I wszystkie można znaleźć bez większego wysiłku. Wyskakują w topce wyników w wyszukiwarkach Google i Microsoftu. Jasne, można pochować strony i ocenzurować producentów apek do tworzenia deepfake’ów. Tyle, że to walka ze skutkiem, a nie przyczyną. Tutaj trzeba konkretnych działań na wielu poziomach. Od zmian w prawie – potrzeba i precyzyjnych przepisów, które pozwolą skutecznie namierzać i rozliczać sprawców przemocy, ale też systemowych regulacji, które nałożą odpowiedzialność na często działający na granicy etyki, nadużywający luk w prawie big tech. Po zmianę kulturową – w świecie, który nie szanuje bezpieczeństwa kobiet, a zagrożenie przemocą seksualną jest tak nieodłącznym elementem życia kobiety, że przestaje oburzać, należy pokazywać, jak media, popkultura, internet, język normalizują i usprawiedliwiają przemoc seksualną kobiet. I przypominać o zasadzie nietykalności cielesnej. Ta zasada powinna obowiązywać również online.