PAP: Dzieci poniżej 13. roku życia w UE nie będą mogły korzystać z serwisów społecznościowych, a własne konto na takich platformach będzie można założyć dopiero po ukończeniu 15 lat – zakładają przedstawione w czwartek przez Komisję Europejską przepisy EU Kids Act. Czy taka regulacja może być skuteczna?
Tomasz Turba z Politechniki Opolskiej, ekspert ds. cyberbezpieczeństwa oraz specjalista w dziedzinie sztucznej inteligencji: Regulacje są potrzebne, ale sposób ich wdrażania jest dziś oderwany od realiów technologicznych. Możemy zapisać w ustawie dowolny próg wieku, ale nie ma narzędzia, które pozwoliłoby nam z pełną pewnością zweryfikować, kto siedzi po drugiej stronie ekranu – i to bez naruszania prywatności użytkowników.
PAP: Czyli problem zaczyna się na poziomie weryfikacji?
T.T.: Gdybyśmy chcieli zrobić to skutecznie, musielibyśmy wejść bardzo głęboko w dane biometryczne – analizować twarz, głos, zachowanie. Wyobraźmy sobie, że dziecko próbuje się zalogować, a system każe mu wykonać określone ruchy głową, powiedzieć zdanie, reagować na polecenia sztucznej inteligencji. Za każdym razem musiałoby być to coś innego, by przeciwdziałać próbom oszustwa – deepfake. To brzmi jak scenariusz science fiction, ale tylko takie podejście dawałoby względną pewność.
Tyle, że to oznaczałoby w praktyce powszechną inwigilację. Mielibyśmy do czynienia z systemem, który nie tylko potwierdza wiek, ale też rejestruje wizerunek, głos i sposób zachowania. Te dane gdzieś muszą być przechowywane, przetwarzane i analizowane. Pojawia się pytanie: kto ma do nich dostęp, jak długo są przechowywane i czy nie będą wykorzystywane do innych celów. Nie jest to tylko kwestia technologii, ale fundamentalna kwestia wolności i prywatności.
PAP: A nawet wtedy nie mielibyśmy gwarancji skuteczności?
T.T.: Nie mielibyśmy. Bo rozwój technologii działa dziś w bardzo nierówny sposób. Systemy tworzenia deepfake’ów rozwijają się błyskawicznie, a systemy ich wykrywania – znacznie wolniej. W praktyce oznacza to, że osoba, która chce oszukać system, często ma lepsze narzędzia niż ten system.
PAP: Zawsze tak było, że przestępcy, dziś cyberprzestępcy, są o krok przed zabezpieczeniami.
T.T.: Bardzo często tak właśnie jest. I co więcej – nie zawsze trzeba stosować zaawansowane metody. Czasami wystarczy coś banalnego: dziecko podaje telefon rodzicowi i prosi o odblokowanie dostępu. Rodzic chce mieć chwilę spokoju, więc się zgadza. I cały system przestaje mieć znaczenie.
PAP: W Polsce rozważane jest wykorzystanie mObywatela jako narzędzia weryfikacji wieku. Jak pan to ocenia
T.T.: Rozwiązanie to może mieć sens techniczny, ale niesie za sobą konsekwencje, o których rzadko się mówi. Nawet jeśli platformy nie dostaną naszych danych wprost, to otrzymają coś równie cennego – wiarygodne dane o strukturze wiekowej użytkowników. A to oznacza jeszcze bardziej precyzyjne profilowanie.
PAP: I większy wpływ na użytkowników?
T.T.: Algorytmy będą wiedziały, kim jesteśmy, co lubimy, czym się interesujemy – z jeszcze większą dokładnością. A skoro wiedzą, to mogą jeszcze lepiej dopasowywać treści – zarówno te neutralne, jak i te potencjalnie szkodliwe. I tu pojawia się problem, bo te same mechanizmy mogą być wykorzystywane przez przestępców.
PAP: Jak wygląda to w praktyce?
T.T.: W praktyce oznacza to, że treści najbardziej angażujące – a więc często najbardziej kontrowersyjne, emocjonalne czy wręcz niebezpieczne – są promowane przez algorytmy. Przykładem są fałszywe reklamy inwestycyjne czy phishing, które potrafią być bardzo precyzyjnie targetowane. Użytkownik widzi treść dopasowaną do jego wieku, zainteresowań i sytuacji życiowej, co zwiększa skuteczność oszustwa.
Głośno jest dzisiaj o tym, że tego typu treści generują istotną część – ok. 20 proc. – przychodów platform, takich jak np. FB, bo były po prostu opłacane jako reklamy. Mówimy więc o gigantycznych pieniądzach. To pokazuje konflikt interesów – platforma zarabia na ruchu i reklamach, więc nie zawsze ma motywację, by natychmiast eliminować wszystkie ryzykowne treści.
PAP: I z tego właśnie powodu nawet najlepsze regulacje mogą przegrać z modelem biznesowym...
T.T.: Niestety tak. Cały cyfrowy świat opiera się dziś na uwadze użytkownika. Im więcej kliknięć, emocji, kontrowersji – tym większy zysk. W takim systemie bezpieczeństwo schodzi na drugi plan.
PAP: Wspomniał pan o technicznych sposobach omijania zabezpieczeń. Na czym one polegają?
T.T.: Jest ich wiele – od prostych metod, jak VPN, po zaawansowane. Można klonować odciski palców i potem drukować je w 3D (robiliśmy takie eksperymenty, żeby odblokowywać smartfony), można oszukiwać systemy rozpoznawania twarzy zdjęciem, nagraniem, a nawet gumową maską. Czasem wystarczy odpowiednio ustawić światło – lekkie prześwietlenie obrazu powoduje, że system nie rozpoznaje szczegółów i uznaje twarz za autentyczną.
Można też generować deepfake’i w czasie rzeczywistym – podmienić twarz i głos na inną osobę. To nie są już eksperymenty – to rzeczy, które się realnie dzieją i są dostępne coraz szerzej.
PAP: A co z egzekwowaniem prawa wobec globalnych platform?
T.T.: To jedno z największych wyzwań. Państwo narodowe ma ograniczoną siłę wobec globalnej korporacji, która działa ponad granicami i często ma infrastrukturę poza danym krajem. Można nakładać kary, ale ich egzekwowanie jest trudne i długotrwałe, o ile w ogóle wykonalne.
W praktyce skuteczność takich działań zależy od współpracy międzynarodowej – umów między państwami, presji regulacyjnej na poziomie całych regionów, jak właśnie Unia Europejska. Bez tego platformy mogą po prostu kalkulować, czy opłaca się zmieniać model działania.
PAP: W Stanach Zjednoczonych zapadł już wyrok przeciwko firmie Meta w sprawie ochrony dzieci. Czy to może coś zmienić w naszej rzeczywistości?
T.T.: To, to dopiero początek drogi, ale takie wyroki mają znaczenie symboliczne i mogą wywołać efekt domina. Pokazują, że platformy mogą być pociągane do odpowiedzialności. Poza tym, proszę zwrócić uwagę, że proces toczył się w kraju, gdzie Meta ma swoją główną siedzibę, skąd pochodzi i dotyczył czegoś poważniejszego, niż niebezpieczne treści – chodziło o to, że pedofile na FB poznawali dzieci, czarowali je, doprowadzali do spotkania, a potem je porywali. Cały aparat ścigania stanu Meksyk się zaangażował, aby położyć temu kres.
PAP: Gdzie dziś widzi pan największe zagrożenia dla dzieci?
T.T.: W działaniach przestępców, pedofili, którzy działają bardzo metodycznie. Potrafią przez tygodnie budować relację z dzieckiem – rozmawiać z nim, zdobywać zaufanie, poznawać jego emocje, problemy, zainteresowania. Często podszywają się pod rówieśników.
W pewnym momencie ta relacja przechodzi na wyższy poziom – pojawiają się propozycje spotkania, przesyłania zdjęć czy rozmów poza platformą. To proces, który jest zaplanowany i prowadzony krok po kroku. I właśnie dlatego jest tak niebezpieczny.
Jakiś czas temu udało się zlikwidować na polskim Facebooku grupę podszywającej się pod grupę dla dziewcząt w wieku 13-18 lat, która w rzeczywistości była wykorzystywana przez dorosłych mężczyzn do nawiązywania kontaktu z nieletnimi. Grupa przyciągała młode użytkowniczki m.in. nazwą sugerującą rówieśnicze środowisko oraz obietnicami atrakcji czy przynależności do „zamkniętej społeczności”.
W praktyce dochodziło tam do prób manipulacji, zdobywania zaufania i inicjowania niebezpiecznych relacji. Ostatecznie została usunięta, jednak nie w wyniku szybkiej reakcji systemowej, lecz po licznych zgłoszeniach użytkowników i nagłośnieniu sprawy. Pokazuje to skalę problemu oraz fakt, że tego typu zagrożenia często funkcjonują przez dłuższy czas, zanim zostaną wykryte.
PAP: Platformy społecznościowe chętnie współpracują w ściganiu takich przestępstw?
T.T.: Współpraca z organami ścigania w zakresie bezpieczeństwa wciąż pozostawia wiele do życzenia. Formalnie istnieją procedury umożliwiające zgłaszanie nielegalnych treści czy działalności przestępczej, jednak w praktyce są one czasochłonne i wieloetapowe. Wymagają przygotowania oficjalnych wniosków, ich autoryzacji oraz przejścia przez rozbudowane ścieżki administracyjne, co oznacza, że reakcja może trwać dni, a nawet tygodnie. W tym czasie szkodliwe treści nadal funkcjonują, a użytkownicy są narażeni na niebezpieczeństwo.
Dodatkowym problemem jest skala działania platform – ogromna liczba treści sprawia, że pierwszą linią reakcji są algorytmy, które nie zawsze prawidłowo identyfikują zagrożenia. Dopiero wielokrotne zgłoszenia lub jednoznaczne dowody uruchamiają reakcję człowieka. Niestety, ten system działa bardziej reaktywnie niż prewencyjnie.
PAP: Jak można by było go przebudować?
T.T.: Kluczowe byłoby wprowadzenie szybkich ścieżek reagowania dla spraw dotyczących dzieci, bezpośrednich kanałów komunikacji pomiędzy platformami a wyspecjalizowanymi jednostkami policji oraz większej transparentności działań platform. Dobrze byłoby też podnieść kompetencje policjantów, bo tych, którzy się znają na rzeczy, fachowców z Centralnego Biura Zwalczania Cyberprzestępczości, jest – jak na skalę problemu – o wiele za mało.
Równie istotne jest inwestowanie w zespoły moderacyjne oraz narzędzia pozwalające szybciej identyfikować ryzykowne zachowania, a nie tylko pojedyncze treści. Bez takich zmian walka z przestępczością wobec dzieci w sieci będzie zawsze spóźniona względem realnych zagrożeń.
PAP: Co, pana zdaniem, powinno być priorytetem?
T.T.: Edukacja. I to realna, praktyczna edukacja. Coraz częściej mówi się o wprowadzeniu do szkół przedmiotu związanego z cyberbezpieczeństwie – i to jest dobry kierunek, pod warunkiem że będzie on prowadzony w sposób praktyczny oraz, co równie ważne, atrakcyjny dla młodych ludzi.
Dzieci powinny uczyć się, dlaczego nie należy udostępniać swoich danych, jak działają manipulacje, czym jest phishing, jak rozpoznać próbę oszustwa. To nie może być teoria – to muszą być konkretne przykłady z życia.
PAP: Wracamy do podstaw – zamiast zakazów i algorytmów edukacja?
T.T.: Technologia nie zastąpi wychowania. Jeżeli nie zbudujemy świadomości, to żadne zabezpieczenia nie będą wystarczające. Najlepszym systemem ochrony jest człowiek, który rozumie zagrożenia. Moim zdaniem opowiadanie o wprowadzaniu odgórnych zakazów, barier wiekowych i tego typu sprawach to działanie „pod publiczkę”, które z dobrem dzieci nie ma za wiele wspólnego.
Rozmawiała Mira Suchodolska (PAP)
Napisz komentarz
Komentarze