Sztuczna inteligencja coraz mocniej wpływa na sposób, w jaki komunikujemy się w internecie. Potrafi tworzyć treści, analizować język i rozpoznawać określone wzorce zachowań, ale może być również wykorzystywana do generowania obraźliwych komentarzy, szerzenia dezinformacji czy prowadzenia masowych ataków w sieci. Czy AI pomoże nam skuteczniej walczyć z hejtem, czy przeciwnie – sprawi, że problem stanie się jeszcze trudniejszy do opanowania? O możliwościach, zagrożeniach i odpowiedzialnym wykorzystaniu nowych technologii opowiada w rozmowie z Iloną Adamską dr inż. Michał Malinowski, specjalista w obszarze sztucznej inteligencji i cyberbezpieczeństwa.

Sztuczna inteligencja coraz częściej staje się częścią naszego codziennego funkcjonowania w internecie. Czy Pana zdaniem AI może stać się skutecznym narzędziem ochrony człowieka przed hejtem, trollingiem i przemocą cyfrową? Gdzie widzi Pan największy potencjał takich rozwiązań?

Największy potencjał widzę w dostępności, powszechności, prostocie użycia, a przede wszystkim w braku strachu przed oceną. W przeciwieństwie do skorzystania z tradycyjnych form pomocy często boimy się oceny. Obawiamy się, że to my coś źle zrobiliśmy albo że to my sprowokowaliśmy daną sytuację. W przypadku hejtu jest to błędne przekonanie, ponieważ odpowiedzialność zawsze ponosi jego sprawca.

AI nie ocenia, nie krytykuje nas i nie wywołuje poczucia wstydu. Może stać się bezpiecznym miejscem pierwszej rozmowy, w której człowiek opisuje problem, porządkuje emocje i zastanawia się nad dalszym działaniem.

Poza tym AI dostosowuje się do naszego stylu komunikacji i naszej osobowości. Może dostosować ton rozmowy, sposób przekazywania informacji oraz poziom szczegółowości odpowiedzi. Wysłucha nas i może zaproponować rozwiązania włacznie ze wskazaniem zwrucenia się do specjalisty. Co wiecej poda jego dane i adres !

Ponad to, takie wsparcie jest bardziej dostępne niż tradycyjna pomoc specjalisty, szczególnie w pierwszym momencie kryzysu, kiedy człowiek często potrzebuje przede wszystkim rozmowy, uspokojenia emocji i wskazania możliwych działań.

Jako przykład może posłużyć osoba, która otrzymała falę negatywnych komentarzy na Facebook’u. W pierwszej chwili często reagujemy emocjonalnie, co może prowadzić do eskalacji konfliktu. AI może pomóc przeanalizować sytuację, ocenić treść komentarzy, przygotować spokojną odpowiedź albo wskazać, że najlepszym rozwiązaniem jest … brak reakcji.

To jeden aspekt osobisty. Drugi dotyczy wykorzystania systemów AI do detekcji tego typu zachowań, szczególnie w mediach społecznościowych, oraz automatycznego reagowania poprzez upomnienie, usuwanie postów, blokowanie kont, a w skrajnych przypadkach poprzez zgłoszenie do administratorów celem podjęcia bardziej zdecydowanych działań.

Przykładem są systemy moderacji treści stosowane przez największe platformy internetowe, które wykorzystują algorytmy sztucznej inteligencji do wykrywania mowy nienawiści, gróźb, nękania oraz skoordynowanych działań prowadzonych przez grupy użytkowników lub automatyczne konta.

Hejt to nie tylko obraźliwy komentarz – jego konsekwencje mogą wpływać na poczucie bezpieczeństwa, samoocenę, kondycję psychiczną, a w skrajnych sytuacjach prowadzić do poważnego kryzysu psychicznego. Czy AI może rozpoznawać nie tylko samą agresywną treść, ale również skalę zagrożenia dla osoby, która jest jej adresatem?

Tak, AI ma już obecnie możliwości analizowania nie tylko pojedynczych treści, ale również szerszego kontekstu komunikacji. Może rozpoznawać wzorce językowe, częstotliwość występowania określonych zachowań, powtarzalność ataków oraz sposób, w jaki dana osoba jest traktowana w przestrzeni cyfrowej. To bardzo ważne, ponieważ identyczne sformułowanie może mieć zupełnie inne znaczenie w zależności od sytuacji, relacji między użytkownikami oraz intencji nadawcy.

AI może wspierać wykrywanie sytuacji, w których zwykły konflikt zaczyna przekształcać się w systematyczne nękanie, kampanię hejtu lub zorganizowaną przemoc cyfrową.

Tak jak wspomniałem wcześniej, AI uczy się na podstawie ogromnych zbiorów danych i może być trenowana w taki sposób, aby rozpoznawać określone wzorce zachowań zgodne z przyjętymi zasadami bezpieczeństwa i normami społecznymi.

Już teraz wiele systemów AI, szczególnie tak zwanych chatbotów generatywnych, posiada mechanizmy zabezpieczające, określane jako guardrails, które ograniczają możliwość tworzenia treści obraźliwych, nawołujących do przemocy lub mogących służyć do prowadzenia działań o charakterze hejtu czy trollingu.

Przykładem jest polska Sójka, czyli projekt realizowany przez twórców Bielika, polskiego dużego modelu językowego. Istotne jest to, że taki system uczy się na polskich korpusach danych, dzięki czemu lepiej rozumie specyfikę naszego języka, jego niuanse, kontekst kulturowy oraz nietypowe zwroty, które mogą być trudne do interpretacji dla modeli tworzonych wyłącznie na danych anglojęzycznych.

Warto jednak pamiętać, że AI nie zastępuje psychologa ani specjalisty. Jej rolą powinno być przede wszystkim szybkie wykrycie potencjalnego problemu, udzielenie pierwszego wsparcia oraz skierowanie człowieka do odpowiedniej formy pomocy, jeżeli sytuacja tego wymaga.

Czy z technologicznego punktu widzenia możliwe jest stworzenie systemu AI, który monitorowałby pojawiające się w sieci treści i rozpoznawał zorganizowane kampanie hejtu, trollingu czy nękania konkretnej osoby, zanim osiągną one dużą skalę? Jak taki system mógłby działać?

Systemy tego typu są już wykorzystywane do detekcji botów, analizy kampanii dezinformacyjnych, wykrywania fałszywych treści oraz identyfikacji materiałów typu deepfake. Mechanizmy te są znane od strony algorytmicznej i wykorzystywane na różnych poziomach, zarówno komercyjnie, jak i przez administrację publiczną, naukę czy wojsko.

Istotnym problemem są również tak zwane bańki informacyjne, w których algorytmy mogą wzmacniać treści wywołujące silne emocje, w tym także hejt skierowany przeciwko określonym osobom lub grupom społecznym. W takich środowiskach negatywne komentarze i przekazy oparte na uprzedzeniach mogą szybko się rozprzestrzeniać i wzmacniać wzajemną agresję.

Przykładem jest sytuacja Rohingya w Mjanmie w 2017 roku, gdzie Organizacja Narodów Zjednoczonych wskazywała, że Facebook był wykorzystywany do rozpowszechniania mowy nienawiści i treści wymierzonych przeciwko tej społeczności. Skutkiem była eskalacja przemocy, w wyniku której tysiące osób zostały zabite, ponad 700 tysięcy Rohingya zostało zmuszonych do ucieczki do Bangladeszu. Pokazuje to, że hejt w przestrzeni cyfrowej nie zawsze pozostaje pojedynczym komentarzem, ale może stać się elementem większej kampanii wpływu prowadzącej do realnych konsekwencji społecznych.

Przykładem zastosowania takich technologii mogą być systemy wykorzystywane w ramach Cyber Threat Intelligence oraz analizy operacji informacyjnych (Information Operations). Służą one do monitorowania zagrożeń w cyberprzestrzeni, identyfikowania skoordynowanych kampanii wpływu oraz wykrywania działań dezinformacyjnych prowadzonych przez państwa lub organizacje wykorzystujące przestrzeń cyfrową do realizacji swoich celów.

Interesuje mnie szczególnie wykorzystanie AI jako narzędzia pierwszego wsparcia psychologicznego dla osób doświadczających przemocy w internecie. Czy sztuczna inteligencja może pomagać człowiekowi w momencie kryzysu: uspokoić sytuację, uporządkować emocje, podpowiedzieć kolejne kroki albo skierować do psychologa, organizacji pomocowej czy odpowiednich służb? Gdzie powinna przebiegać granica takiego wsparcia?

Współczesne modele sztucznej inteligencji, szczególnie te, które znamy jako ChatGPT, Gemini czy Copilot, należą do grupy systemów przetwarzania języka naturalnego, czyli NLP. Ich ogromną zaletą jest zdolność rozumienia i generowania języka zbliżonego do naturalnej rozmowy człowieka.

Tak wysoki poziom ich rozwoju zawdzięczamy między innymi analizie ogromnych zbiorów danych dostępnych w internecie. Dużą rolę odegrały tutaj media społecznościowe, które stały się ogromnym źródłem wiedzy o sposobach komunikacji ludzi, ich emocjach, zachowaniach i relacjach społecznych.

Często mówi się, że wiedza pochodzi głównie z książek. Jest to prawda, ale książki zawierają przede wszystkim wiedzę uporządkowaną, skodyfikowaną i można powiedzieć, że bardziej statyczną. Natomiast wiedza o codziennych zachowaniach ludzi , ich języku, emocjach i relacjach społecznych w dużej mierze pochodzi właśnie z obserwacji komunikacji cyfrowej, w tym z mediów społecznościowych. Te same media, które stały się źródłem wiedzy dla AI, są jednocześnie miejscem, gdzie bardzo często pojawiają się hejt, trolling i przemoc cyfrowa.

Mamy więc już aspekt wiedzy empirycznej wykorzystywanej przez AI. Pytanie brzmi, jak może z niej skorzystać zwykły człowiek, szary obywatel, który doświadcza problemu.

Wystarczy telefon komórkowy i jeden z powszechnie dostępnych chatbotów generatywnych. Interfejs jest bardzo prosty, często oparty na rozmowie głosowej. Sam ostatnio pomagałem osobie niewidomej nauczyć się korzystania z ChatGPT i była ona bardzo pozytywnie zaskoczona możliwościami tego narzędzia.

Wracając do tematu, wystarczy po prostu pytać i rozmawiać. AI nie oceni nas i nie skrytykuje. Dostosuje sposób rozmowy do użytkownika i, jeżeli poprosimy, pomoże, doradzi, a nawet wskaże specjalistę lub odpowiednią organizację pomocową w naszej lokalizacji.

Może pomóc przejść przez pierwszy etap kryzysu, kiedy emocje są największe i człowiek często potrzebuje przede wszystkim spokojnej rozmowy, uporządkowania sytuacji oraz wskazania możliwych dalszych kroków.

Oczywiście granica jest bardzo ważna. AI nie powinna zastępować psychologa, terapeuty ani służb odpowiedzialnych za pomoc w sytuacjach kryzysowych. Ale może być narzędziem pierwszego kontaktu, które pomaga rozpoznać problem, udzielić podstawowego wsparcia i skierować człowieka do właściwej pomocy.

Osoba będąca obiektem masowego hejtu często znajduje się w bardzo silnych emocjach i może odpowiadać impulsywnie, pogłębiając kryzys. Czy AI mogłaby pełnić rolę swoistego „cyfrowego bufora” – analizować otrzymywane wiadomości, filtrować najbardziej agresywne treści, ostrzegać przed eskalacją i pomagać przygotować bezpieczną odpowiedź albo rekomendować brak reakcji?

Tak, współczesna sztuczna inteligencja ma już możliwości, aby pełnić taką funkcję cyfrowego bufora. Barierą nie jest obecnie sama technologia, ale przede wszystkim to, czy człowiek zdecyduje się z niej skorzystać. Często największym ograniczeniem są nasze własne obawy przed poznaniem czegoś nowego. Wiele osób mówi: „AI? Po co mi to? Przecież mam już to, czego potrzebuję”. Podobnie było wcześniej z wieloma nowymi technologiami. Z osobistego doświadczenia spotykałem się z takimi samymi ocenami kiedy “wdrażałem” 30 lat temu Internet, “Po co mi Internet? przecież mam Encyklopedię!”

Oczywiście w wyszukiwarce internetowej można znaleźć wiele informacji. Problem polega jednak na tym, że wyszukiwarka działa głównie na podstawie słów kluczowych (które trzeba znać) i pokazuje najbardziej popularne odpowiedzi. Nie zna naszej sytuacji, naszych emocji ani konkretnego kontekstu problemu.

AI działa inaczej, ponieważ może prowadzić indywidualną rozmowę, analizować przedstawioną sytuację i dostosować odpowiedź do konkretnego człowieka.

W przypadku hejtu może przeanalizować otrzymywane wiadomości, pomóc oddzielić konstruktywną krytykę od agresji, wskazać ryzyko eskalacji oraz zaproponować spokojną reakcję. Czasami najlepszą decyzją nie jest odpowiedź, ale świadome powstrzymanie się od niej.

Może więc działać jak pewnego rodzaju filtr emocjonalny, który daje człowiekowi czas na zastanowienie się przed reakcją. To szczególnie ważne, ponieważ osoba zaatakowana często działa pod wpływem silnych emocji. Odpowiedź napisana w złości może dodatkowo napędzić konflikt i zwiększyć skalę problemu. AI może pomóc zatrzymać ten pierwszy impuls i przeprowadzić człowieka przez trudną sytuację w bardziej spokojny sposób.

Pojawia się jednak pewien paradoks: ta sama sztuczna inteligencja, która może chronić przed hejtem, może również służyć do jego produkowania – generowania tysięcy komentarzy, fałszywych profili, deepfake’ów czy prowadzenia skoordynowanych kampanii dezinformacyjnych. Czy wchodzimy w epokę „automatyzacji hejtu”? Jak cyberbezpieczeństwo powinno odpowiedzieć na to zagrożenie?

Zapytałbym inaczej. Czy mamy tutaj rzeczywiście paradoks sztucznej inteligencji, czy raczej sytuację, w której to samo narzędzie może zostać wykorzystane na różne sposoby?

Dobrym przykładem jest młotek. Z jednej strony pomaga nam zbudować dom, czyli stworzyć coś potrzebnego i wartościowego dla człowieka. Z drugiej strony może zostać wykorzystany do wyrządzenia ogromnej krzywdy. Czy jednak myślimy o młotku jako o paradoksie? Raczej nie. Traktujemy go jako narzędzie, którego charakter zależy od osoby, która go używa, jej intencji i celu wykorzystania.

Podobnie jest ze sztuczną inteligencją. AI sama w sobie nie jest dobra ani zła. Jest narzędziem, a sposób jej wykorzystania zależy od człowieka, organizacji lub państwa, które po nią sięga.

Możemy oczywiście zapytać, czy powinniśmy zakazać wykorzystania AI do złych celów? W przypadku młotka nie zakazaliśmy jego posiadania, ale regulujemy sposób wykorzystania i karzemy za niewłaściwe użycie.

W przypadku AI sytuacja jest podobna. Powstają regulacje, które mają ograniczać ryzykowne zastosowania tej technologii. Przykładem jest europejskie rozporządzenie AI Act oraz polska ustawa o systemach sztucznej inteligencji, która określa krajowe zasady nadzoru nad wykorzystaniem systemów AI i tworzy ramy ich bezpiecznego funkcjonowania.

Regulacje te nie mają zatrzymać rozwoju sztucznej inteligencji, ale zapewnić, aby była ona wykorzystywana w sposób odpowiedzialny, bezpieczny i zgodny z prawami człowieka.

Pod tym względem sztuczna inteligencja ma wyjątkową cechę, której nie mają tradycyjne narzędzia. Możemy już na etapie projektowania wyposażać ją w mechanizmy bezpieczeństwa, ograniczenia i zasady odpowiedzialnego wykorzystania.

Dlatego największym wyzwaniem nie jest sama technologia, ale sposób, w jaki jako społeczeństwo nauczymy się z niej korzystać.

Wykorzystanie AI do ochrony osób doświadczających hejtu oznacza analizowanie bardzo wrażliwych informacji: prywatnych wiadomości, komentarzy, zachowań użytkowników, a czasami informacji dotyczących ich stanu emocjonalnego. Jak pogodzić skuteczną ochronę i możliwość wczesnego wykrywania zagrożenia z prawem do prywatności i bezpieczeństwem danych?

Ten aspekt regulują przede wszystkim wyżej wyminione europejskie rozporządzenie AI Act oraz polski ustawa o systemach sztucznej inteligencji. Określają one zasady bezpiecznego wykorzystania systemów AI w kontekscei danych i informacji.

W praktyce oczywiście zawsze istnieje ryzyko ujawnienia danych, ale nie jest ono większe niż w przypadku innych systemów informatycznych, z których korzystamy na co dzień. Każdy system cyfrowy, który przechowuje lub przetwarza informacje, wymaga odpowiednich zabezpieczeń oraz świadomego korzystania.

Jednocześnie zaczynają powstawać osobiste (personalne) systemy AI, czyli modele działające lokalnie na naszych urządzeniach, takich jak komputer, laptop czy telefon. Coraz częściej mówi się również o rozwiązaniach typu Edge AI, gdzie część obliczeń wykonywana jest bezpośrednio na urządzeniu użytkownika, bez konieczności przesyłania wszystkich danych do zewnętrznych serwerów.

Takie osobiste AI może znać podstawowe zasady związane z ludzką kulturą, komunikacją i bezpieczeństwem i z czasem uczyć się naszego stylu pracy, sposobu komunikacji oraz naszych indywidualnych potrzeb.

Jedną z największych zalet takiego rozwiązania jest możliwość zachowania większej kontroli nad prywatnymi informacjami. Dane pozostają na naszym urządzeniu, a nie są automatycznie przekazywane do zewnętrznych usług BigTechów.

Oczywiście nie oznacza to, że problem bezpieczeństwa znika całkowicie. Jeżeli korzystamy z technologii cyfrowych, nadal musimy pamiętać o podstawowych zasadach cyberhigieny, takich jak aktualizacje systemów, silne hasła, uwierzytelnianie wieloskładnikowe czy ostrożność przy udostępnianiu informacji.

Cyberhigiena to jednak osobny, bardzo szeroki temat, ponieważ nawet najlepsze technologie bezpieczeństwa nie zastąpią świadomego użytkownika.

Prowadzi Pan badania nad sztuczną inteligencją zarówno od strony technologicznej, jak i jej oddziaływania na człowieka. Co z tej perspektywy uważa Pan za większe wyzwanie: stworzenie technologii, która potrafi rozpoznać przemoc cyfrową, czy zrozumienie psychologicznej sytuacji człowieka, który tej przemocy doświadcza?

Właściwie oba te aspekty są już obecnie bardzo silnie rozwinięte. Z jednej strony mamy technologie, które potrafią coraz skuteczniej rozpoznawać przemoc cyfrową, analizować treści i wykrywać określone wzorce zachowań. Z drugiej strony rozwijają się systemy AI, które coraz lepiej rozumieją język, emocje i kontekst wypowiedzi człowieka.

Problemem nie jest więc już tylko stworzenie odpowiedniej technologii. Największym wyzwaniem jest jej właściwe wykorzystanie, edukacja użytkowników oraz upowszechnienie wiedzy o możliwościach, jakie daje sztuczna inteligencja.

My, ludzie, generalnie nie lubimy się uczyć nowych rzeczy i to często nas ogranicza. A żyjemy w czasach wyjątkowo szybkich zmian technologicznych, gdzie jedno pokolenie przechodzi przez kilka dużych rewolucji technologicznych. Była komputeryzacja, internet, media społecznościowe, a obecnie sztuczna inteligencja i to wszystko w ciagu 40 lat!

Zdolność uczenia się i adaptacji obok krytycznego myślenia, stają się jednymi z najważniejszych kompetencji współczesnego człowieka.

To nie są już czasy PRL’u, kiedy można było skończyć szkołę i przez kilkadziesiąt lat wykonywać ten sam zawód, a rozwój technologii oznaczał przejście z radia do telewizora czarno-białego, a później kolorowego. Obecnie skala zmian i tempo ich wprowadzania są nieporównywalnie większe.

Dlatego największym wyzwaniem nie jest sama sztuczna inteligencja, ale człowiek i jego gotowość do uczenia się, korzystania z nowych narzędzi oraz odpowiedzialnego funkcjonowania w świecie cyfrowym.

Technologia może pomóc wykryć problem, ale dopiero połączenie technologii, wiedzy psychologicznej i świadomości społecznej pozwala skutecznie pomóc osobie, która doświadcza hejtu.

Gdybyśmy mieli dziś zaprojektować idealnego „cyfrowego asystenta” dla osoby doświadczającej hejtu lub trollingu, jakie funkcje powinien posiadać? Co powinien zrobić w pierwszych minutach po wykryciu ataku, czego absolutnie nie powinien robić i w którym momencie powinien przekazać sprawę człowiekowi – psychologowi, moderatorowi, prawnikowi lub odpowiednim służbom?

Powinien działać jak nasz przyjaciel, który dowiedział się o problemie. Ale byłby to przyjaciel posiadający dodatkową wiedzę i doświadczenie w reagowaniu na tego typu sytuacje.

Klasyczny przyjaciel przede wszystkim nas uspokoi, co oczywiście jest bardzo ważne, ale często niewiele więcej może zrobić, ponieważ nie ma odpowiedniego doświadczenia (oby jak najdłużej go nie miał) i wiedzy. AI może natomiast połączyć empatię, dostępność oraz zdolność analizy sytuacji na podstawie ogromnej ilości informacji.

Taki asystent powinien przede wszystkim pomóc człowiekowi opanować pierwsze emocje, przeanalizować sytuację i wskazać możliwe rozwiązania. Nie powinien automatycznie odpowiadać za użytkownika, eskalować konfliktu ani podejmować działań bez jego zgody. Jego rolą powinno być wspieranie człowieka w podjęciu najlepszej decyzji.

Powinien również pomagać odróżnić zwykłą krytykę od hejtu. Nie każdy negatywny komentarz jest przemocą cyfrową. Krytyka może być wartościową informacją zwrotną, natomiast hejt ma zazwyczaj na celu zaatakowanie człowieka, jego poniżenie, zastraszenie lub wywołanie określonej reakcji emocjonalnej.

AI mogłaby również pomagać w dokumentowaniu zdarzenia. Mogłaby uporządkować otrzymane wiadomości, stworzyć chronologię wydarzeń, wskazać najważniejsze materiały oraz pomóc przygotować zgłoszenie do administratorów platformy lub odpowiednich służb.

AI, znając użytkownika i jego sposób komunikacji, mogłaby zwracać się do niego w bardziej osobisty sposób, dostosować ton rozmowy i pomóc przejść przez trudną sytuację. Najważniejsza powinna być zasada: najpierw empatia, potem rozwiązanie problemu.

Jeżeli sytuacja przekraczałaby możliwości takiego wsparcia, na przykład pojawiałyby się groźby, uporczywe nękanie, ryzyko przemocy lub poważny kryzys psychiczny, AI powinna wskazać konieczność kontaktu z odpowiednim specjalistą, organizacją pomocową albo służbami.

Idealny cyfrowy asystent nie zastępowałby człowieka. Jego rolą byłoby być obok człowieka wtedy, gdy najbardziej potrzebuje spokojnej rozmowy, analizy sytuacji i wskazania właściwej drogi działania.

Rozmawiała: Ilona Adamska

Sztuczna inteligencja coraz mocniej wpływa na sposób, w jaki komunikujemy się w internecie. Potrafi tworzyć treści, analizować język i rozpoznawać określone wzorce zachowań, ale może być również wykorzystywana do generowania obraźliwych komentarzy, szerzenia dezinformacji czy prowadzenia masowych ataków w sieci. Czy AI pomoże nam skuteczniej walczyć z hejtem, czy przeciwnie -sprawi, że problem stanie się jeszcze trudniejszy do opanowania? O możliwościach, zagrożeniach i odpowiedzialnym wykorzystaniu nowych technologii opowiada w rozmowie z Iloną Adamską dr inż. Michał Malinowski, specjalista w obszarze sztucznej inteligencji i cyberbezpieczeństwa.

Sztuczna inteligencja coraz częściej staje się częścią naszego codziennego funkcjonowania w internecie. Czy Pana zdaniem AI może stać się skutecznym narzędziem ochrony człowieka przed hejtem, trollingiem i przemocą cyfrową? Gdzie widzi Pan największy potencjał takich rozwiązań?

Największy potencjał widzę w dostępności, powszechności, prostocie użycia, a przede wszystkim w braku strachu przed oceną. W przeciwieństwie do skorzystania z tradycyjnych form pomocy często boimy się oceny. Obawiamy się, że to my coś źle zrobiliśmy albo że to my sprowokowaliśmy daną sytuację. W przypadku hejtu jest to błędne przekonanie, ponieważ odpowiedzialność zawsze ponosi jego sprawca.

AI nie ocenia, nie krytykuje nas i nie wywołuje poczucia wstydu. Może stać się bezpiecznym miejscem pierwszej rozmowy, w której człowiek opisuje problem, porządkuje emocje i zastanawia się nad dalszym działaniem.

Poza tym AI dostosowuje się do naszego stylu komunikacji i naszej osobowości. Może dostosować ton rozmowy, sposób przekazywania informacji oraz poziom szczegółowości odpowiedzi. Wysłucha nas i może zaproponować rozwiązania włacznie ze wskazaniem zwrucenia się do specjalisty. Co wiecej poda jego dane i adres !

Ponad to, takie wsparcie jest bardziej dostępne niż tradycyjna pomoc specjalisty, szczególnie w pierwszym momencie kryzysu, kiedy człowiek często potrzebuje przede wszystkim rozmowy, uspokojenia emocji i wskazania możliwych działań.

Jako przykład może posłużyć osoba, która otrzymała falę negatywnych komentarzy na Facebook’u. W pierwszej chwili często reagujemy emocjonalnie, co może prowadzić do eskalacji konfliktu. AI może pomóc przeanalizować sytuację, ocenić treść komentarzy, przygotować spokojną odpowiedź albo wskazać, że najlepszym rozwiązaniem jest … brak reakcji.

To jeden aspekt osobisty. Drugi dotyczy wykorzystania systemów AI do detekcji tego typu zachowań, szczególnie w mediach społecznościowych, oraz automatycznego reagowania poprzez upomnienie, usuwanie postów, blokowanie kont, a w skrajnych przypadkach poprzez zgłoszenie do administratorów celem podjęcia bardziej zdecydowanych działań.

Przykładem są systemy moderacji treści stosowane przez największe platformy internetowe, które wykorzystują algorytmy sztucznej inteligencji do wykrywania mowy nienawiści, gróźb, nękania oraz skoordynowanych działań prowadzonych przez grupy użytkowników lub automatyczne konta.

Hejt to nie tylko obraźliwy komentarz – jego konsekwencje mogą wpływać na poczucie bezpieczeństwa, samoocenę, kondycję psychiczną, a w skrajnych sytuacjach prowadzić do poważnego kryzysu psychicznego. Czy AI może rozpoznawać nie tylko samą agresywną treść, ale również skalę zagrożenia dla osoby, która jest jej adresatem?

Tak, AI ma już obecnie możliwości analizowania nie tylko pojedynczych treści, ale również szerszego kontekstu komunikacji. Może rozpoznawać wzorce językowe, częstotliwość występowania określonych zachowań, powtarzalność ataków oraz sposób, w jaki dana osoba jest traktowana w przestrzeni cyfrowej. To bardzo ważne, ponieważ identyczne sformułowanie może mieć zupełnie inne znaczenie w zależności od sytuacji, relacji między użytkownikami oraz intencji nadawcy.

AI może wspierać wykrywanie sytuacji, w których zwykły konflikt zaczyna przekształcać się w systematyczne nękanie, kampanię hejtu lub zorganizowaną przemoc cyfrową.

Tak jak wspomniałem wcześniej, AI uczy się na podstawie ogromnych zbiorów danych i może być trenowana w taki sposób, aby rozpoznawać określone wzorce zachowań zgodne z przyjętymi zasadami bezpieczeństwa i normami społecznymi.

Już teraz wiele systemów AI, szczególnie tak zwanych chatbotów generatywnych, posiada mechanizmy zabezpieczające, określane jako guardrails, które ograniczają możliwość tworzenia treści obraźliwych, nawołujących do przemocy lub mogących służyć do prowadzenia działań o charakterze hejtu czy trollingu.

Przykładem jest polska Sójka, czyli projekt realizowany przez twórców Bielika, polskiego dużego modelu językowego. Istotne jest to, że taki system uczy się na polskich korpusach danych, dzięki czemu lepiej rozumie specyfikę naszego języka, jego niuanse, kontekst kulturowy oraz nietypowe zwroty, które mogą być trudne do interpretacji dla modeli tworzonych wyłącznie na danych anglojęzycznych.

Warto jednak pamiętać, że AI nie zastępuje psychologa ani specjalisty. Jej rolą powinno być przede wszystkim szybkie wykrycie potencjalnego problemu, udzielenie pierwszego wsparcia oraz skierowanie człowieka do odpowiedniej formy pomocy, jeżeli sytuacja tego wymaga.

Czy z technologicznego punktu widzenia możliwe jest stworzenie systemu AI, który monitorowałby pojawiające się w sieci treści i rozpoznawał zorganizowane kampanie hejtu, trollingu czy nękania konkretnej osoby, zanim osiągną one dużą skalę? Jak taki system mógłby działać?

Systemy tego typu są już wykorzystywane do detekcji botów, analizy kampanii dezinformacyjnych, wykrywania fałszywych treści oraz identyfikacji materiałów typu deepfake. Mechanizmy te są znane od strony algorytmicznej i wykorzystywane na różnych poziomach, zarówno komercyjnie, jak i przez administrację publiczną, naukę czy wojsko.

Istotnym problemem są również tak zwane bańki informacyjne, w których algorytmy mogą wzmacniać treści wywołujące silne emocje, w tym także hejt skierowany przeciwko określonym osobom lub grupom społecznym. W takich środowiskach negatywne komentarze i przekazy oparte na uprzedzeniach mogą szybko się rozprzestrzeniać i wzmacniać wzajemną agresję.

Przykładem jest sytuacja Rohingya w Mjanmie w 2017 roku, gdzie Organizacja Narodów Zjednoczonych wskazywała, że Facebook był wykorzystywany do rozpowszechniania mowy nienawiści i treści wymierzonych przeciwko tej społeczności. Skutkiem była eskalacja przemocy, w wyniku której tysiące osób zostały zabite, ponad 700 tysięcy Rohingya zostało zmuszonych do ucieczki do Bangladeszu. Pokazuje to, że hejt w przestrzeni cyfrowej nie zawsze pozostaje pojedynczym komentarzem, ale może stać się elementem większej kampanii wpływu prowadzącej do realnych konsekwencji społecznych.

Przykładem zastosowania takich technologii mogą być systemy wykorzystywane w ramach Cyber Threat Intelligence oraz analizy operacji informacyjnych (Information Operations). Służą one do monitorowania zagrożeń w cyberprzestrzeni, identyfikowania skoordynowanych kampanii wpływu oraz wykrywania działań dezinformacyjnych prowadzonych przez państwa lub organizacje wykorzystujące przestrzeń cyfrową do realizacji swoich celów.

Interesuje mnie szczególnie wykorzystanie AI jako narzędzia pierwszego wsparcia psychologicznego dla osób doświadczających przemocy w internecie. Czy sztuczna inteligencja może pomagać człowiekowi w momencie kryzysu: uspokoić sytuację, uporządkować emocje, podpowiedzieć kolejne kroki albo skierować do psychologa, organizacji pomocowej czy odpowiednich służb? Gdzie powinna przebiegać granica takiego wsparcia?

Współczesne modele sztucznej inteligencji, szczególnie te, które znamy jako ChatGPT, Gemini czy Copilot, należą do grupy systemów przetwarzania języka naturalnego, czyli NLP. Ich ogromną zaletą jest zdolność rozumienia i generowania języka zbliżonego do naturalnej rozmowy człowieka.

Tak wysoki poziom ich rozwoju zawdzięczamy między innymi analizie ogromnych zbiorów danych dostępnych w internecie. Dużą rolę odegrały tutaj media społecznościowe, które stały się ogromnym źródłem wiedzy o sposobach komunikacji ludzi, ich emocjach, zachowaniach i relacjach społecznych.

Często mówi się, że wiedza pochodzi głównie z książek. Jest to prawda, ale książki zawierają przede wszystkim wiedzę uporządkowaną, skodyfikowaną i można powiedzieć, że bardziej statyczną. Natomiast wiedza o codziennych zachowaniach ludzi , ich języku, emocjach i relacjach społecznych w dużej mierze pochodzi właśnie z obserwacji komunikacji cyfrowej, w tym z mediów społecznościowych. Te same media, które stały się źródłem wiedzy dla AI, są jednocześnie miejscem, gdzie bardzo często pojawiają się hejt, trolling i przemoc cyfrowa.

Mamy więc już aspekt wiedzy empirycznej wykorzystywanej przez AI. Pytanie brzmi, jak może z niej skorzystać zwykły człowiek, szary obywatel, który doświadcza problemu.

Wystarczy telefon komórkowy i jeden z powszechnie dostępnych chatbotów generatywnych. Interfejs jest bardzo prosty, często oparty na rozmowie głosowej. Sam ostatnio pomagałem osobie niewidomej nauczyć się korzystania z ChatGPT i była ona bardzo pozytywnie zaskoczona możliwościami tego narzędzia.

Wracając do tematu, wystarczy po prostu pytać i rozmawiać. AI nie oceni nas i nie skrytykuje. Dostosuje sposób rozmowy do użytkownika i, jeżeli poprosimy, pomoże, doradzi, a nawet wskaże specjalistę lub odpowiednią organizację pomocową w naszej lokalizacji.

Może pomóc przejść przez pierwszy etap kryzysu, kiedy emocje są największe i człowiek często potrzebuje przede wszystkim spokojnej rozmowy, uporządkowania sytuacji oraz wskazania możliwych dalszych kroków.

Oczywiście granica jest bardzo ważna. AI nie powinna zastępować psychologa, terapeuty ani służb odpowiedzialnych za pomoc w sytuacjach kryzysowych. Ale może być narzędziem pierwszego kontaktu, które pomaga rozpoznać problem, udzielić podstawowego wsparcia i skierować człowieka do właściwej pomocy.

Osoba będąca obiektem masowego hejtu często znajduje się w bardzo silnych emocjach i może odpowiadać impulsywnie, pogłębiając kryzys. Czy AI mogłaby pełnić rolę swoistego „cyfrowego bufora” – analizować otrzymywane wiadomości, filtrować najbardziej agresywne treści, ostrzegać przed eskalacją i pomagać przygotować bezpieczną odpowiedź albo rekomendować brak reakcji?

Tak, współczesna sztuczna inteligencja ma już możliwości, aby pełnić taką funkcję cyfrowego bufora. Barierą nie jest obecnie sama technologia, ale przede wszystkim to, czy człowiek zdecyduje się z niej skorzystać. Często największym ograniczeniem są nasze własne obawy przed poznaniem czegoś nowego. Wiele osób mówi: „AI? Po co mi to? Przecież mam już to, czego potrzebuję”. Podobnie było wcześniej z wieloma nowymi technologiami. Z osobistego doświadczenia spotykałem się z takimi samymi ocenami kiedy “wdrażałem” 30 lat temu Internet, “Po co mi Internet? przecież mam Encyklopedię!”

Oczywiście w wyszukiwarce internetowej można znaleźć wiele informacji. Problem polega jednak na tym, że wyszukiwarka działa głównie na podstawie słów kluczowych (które trzeba znać) i pokazuje najbardziej popularne odpowiedzi. Nie zna naszej sytuacji, naszych emocji ani konkretnego kontekstu problemu.

AI działa inaczej, ponieważ może prowadzić indywidualną rozmowę, analizować przedstawioną sytuację i dostosować odpowiedź do konkretnego człowieka.

W przypadku hejtu może przeanalizować otrzymywane wiadomości, pomóc oddzielić konstruktywną krytykę od agresji, wskazać ryzyko eskalacji oraz zaproponować spokojną reakcję. Czasami najlepszą decyzją nie jest odpowiedź, ale świadome powstrzymanie się od niej.

Może więc działać jak pewnego rodzaju filtr emocjonalny, który daje człowiekowi czas na zastanowienie się przed reakcją. To szczególnie ważne, ponieważ osoba zaatakowana często działa pod wpływem silnych emocji. Odpowiedź napisana w złości może dodatkowo napędzić konflikt i zwiększyć skalę problemu. AI może pomóc zatrzymać ten pierwszy impuls i przeprowadzić człowieka przez trudną sytuację w bardziej spokojny sposób.

Pojawia się jednak pewien paradoks: ta sama sztuczna inteligencja, która może chronić przed hejtem, może również służyć do jego produkowania – generowania tysięcy komentarzy, fałszywych profili, deepfake’ów czy prowadzenia skoordynowanych kampanii dezinformacyjnych. Czy wchodzimy w epokę „automatyzacji hejtu”? Jak cyberbezpieczeństwo powinno odpowiedzieć na to zagrożenie?

Zapytałbym inaczej. Czy mamy tutaj rzeczywiście paradoks sztucznej inteligencji, czy raczej sytuację, w której to samo narzędzie może zostać wykorzystane na różne sposoby?

Dobrym przykładem jest młotek. Z jednej strony pomaga nam zbudować dom, czyli stworzyć coś potrzebnego i wartościowego dla człowieka. Z drugiej strony może zostać wykorzystany do wyrządzenia ogromnej krzywdy. Czy jednak myślimy o młotku jako o paradoksie? Raczej nie. Traktujemy go jako narzędzie, którego charakter zależy od osoby, która go używa, jej intencji i celu wykorzystania.

Podobnie jest ze sztuczną inteligencją. AI sama w sobie nie jest dobra ani zła. Jest narzędziem, a sposób jej wykorzystania zależy od człowieka, organizacji lub państwa, które po nią sięga.

Możemy oczywiście zapytać, czy powinniśmy zakazać wykorzystania AI do złych celów? W przypadku młotka nie zakazaliśmy jego posiadania, ale regulujemy sposób wykorzystania i karzemy za niewłaściwe użycie.

W przypadku AI sytuacja jest podobna. Powstają regulacje, które mają ograniczać ryzykowne zastosowania tej technologii. Przykładem jest europejskie rozporządzenie AI Act oraz polska ustawa o systemach sztucznej inteligencji, która określa krajowe zasady nadzoru nad wykorzystaniem systemów AI i tworzy ramy ich bezpiecznego funkcjonowania.

Regulacje te nie mają zatrzymać rozwoju sztucznej inteligencji, ale zapewnić, aby była ona wykorzystywana w sposób odpowiedzialny, bezpieczny i zgodny z prawami człowieka.

Pod tym względem sztuczna inteligencja ma wyjątkową cechę, której nie mają tradycyjne narzędzia. Możemy już na etapie projektowania wyposażać ją w mechanizmy bezpieczeństwa, ograniczenia i zasady odpowiedzialnego wykorzystania.

Dlatego największym wyzwaniem nie jest sama technologia, ale sposób, w jaki jako społeczeństwo nauczymy się z niej korzystać.

Wykorzystanie AI do ochrony osób doświadczających hejtu oznacza analizowanie bardzo wrażliwych informacji: prywatnych wiadomości, komentarzy, zachowań użytkowników, a czasami informacji dotyczących ich stanu emocjonalnego. Jak pogodzić skuteczną ochronę i możliwość wczesnego wykrywania zagrożenia z prawem do prywatności i bezpieczeństwem danych?

Ten aspekt regulują przede wszystkim wyżej wyminione europejskie rozporządzenie AI Act oraz polski ustawa o systemach sztucznej inteligencji. Określają one zasady bezpiecznego wykorzystania systemów AI w kontekscei danych i informacji.

W praktyce oczywiście zawsze istnieje ryzyko ujawnienia danych, ale nie jest ono większe niż w przypadku innych systemów informatycznych, z których korzystamy na co dzień. Każdy system cyfrowy, który przechowuje lub przetwarza informacje, wymaga odpowiednich zabezpieczeń oraz świadomego korzystania.

Jednocześnie zaczynają powstawać osobiste (personalne) systemy AI, czyli modele działające lokalnie na naszych urządzeniach, takich jak komputer, laptop czy telefon. Coraz częściej mówi się również o rozwiązaniach typu Edge AI, gdzie część obliczeń wykonywana jest bezpośrednio na urządzeniu użytkownika, bez konieczności przesyłania wszystkich danych do zewnętrznych serwerów.

Takie osobiste AI może znać podstawowe zasady związane z ludzką kulturą, komunikacją i bezpieczeństwem i z czasem uczyć się naszego stylu pracy, sposobu komunikacji oraz naszych indywidualnych potrzeb.

Jedną z największych zalet takiego rozwiązania jest możliwość zachowania większej kontroli nad prywatnymi informacjami. Dane pozostają na naszym urządzeniu, a nie są automatycznie przekazywane do zewnętrznych usług BigTechów.

Oczywiście nie oznacza to, że problem bezpieczeństwa znika całkowicie. Jeżeli korzystamy z technologii cyfrowych, nadal musimy pamiętać o podstawowych zasadach cyberhigieny, takich jak aktualizacje systemów, silne hasła, uwierzytelnianie wieloskładnikowe czy ostrożność przy udostępnianiu informacji.

Cyberhigiena to jednak osobny, bardzo szeroki temat, ponieważ nawet najlepsze technologie bezpieczeństwa nie zastąpią świadomego użytkownika.

Prowadzi Pan badania nad sztuczną inteligencją zarówno od strony technologicznej, jak i jej oddziaływania na człowieka. Co z tej perspektywy uważa Pan za większe wyzwanie: stworzenie technologii, która potrafi rozpoznać przemoc cyfrową, czy zrozumienie psychologicznej sytuacji człowieka, który tej przemocy doświadcza?

Właściwie oba te aspekty są już obecnie bardzo silnie rozwinięte. Z jednej strony mamy technologie, które potrafią coraz skuteczniej rozpoznawać przemoc cyfrową, analizować treści i wykrywać określone wzorce zachowań. Z drugiej strony rozwijają się systemy AI, które coraz lepiej rozumieją język, emocje i kontekst wypowiedzi człowieka.

Problemem nie jest więc już tylko stworzenie odpowiedniej technologii. Największym wyzwaniem jest jej właściwe wykorzystanie, edukacja użytkowników oraz upowszechnienie wiedzy o możliwościach, jakie daje sztuczna inteligencja.

My, ludzie, generalnie nie lubimy się uczyć nowych rzeczy i to często nas ogranicza. A żyjemy w czasach wyjątkowo szybkich zmian technologicznych, gdzie jedno pokolenie przechodzi przez kilka dużych rewolucji technologicznych. Była komputeryzacja, internet, media społecznościowe, a obecnie sztuczna inteligencja i to wszystko w ciagu 40 lat!

Zdolność uczenia się i adaptacji obok krytycznego myślenia, stają się jednymi z najważniejszych kompetencji współczesnego człowieka.

To nie są już czasy PRL’u, kiedy można było skończyć szkołę i przez kilkadziesiąt lat wykonywać ten sam zawód, a rozwój technologii oznaczał przejście z radia do telewizora czarno-białego, a później kolorowego. Obecnie skala zmian i tempo ich wprowadzania są nieporównywalnie większe.

Dlatego największym wyzwaniem nie jest sama sztuczna inteligencja, ale człowiek i jego gotowość do uczenia się, korzystania z nowych narzędzi oraz odpowiedzialnego funkcjonowania w świecie cyfrowym.

Technologia może pomóc wykryć problem, ale dopiero połączenie technologii, wiedzy psychologicznej i świadomości społecznej pozwala skutecznie pomóc osobie, która doświadcza hejtu.

Gdybyśmy mieli dziś zaprojektować idealnego „cyfrowego asystenta” dla osoby doświadczającej hejtu lub trollingu, jakie funkcje powinien posiadać? Co powinien zrobić w pierwszych minutach po wykryciu ataku, czego absolutnie nie powinien robić i w którym momencie powinien przekazać sprawę człowiekowi – psychologowi, moderatorowi, prawnikowi lub odpowiednim służbom?

Powinien działać jak nasz przyjaciel, który dowiedział się o problemie. Ale byłby to przyjaciel posiadający dodatkową wiedzę i doświadczenie w reagowaniu na tego typu sytuacje.

Klasyczny przyjaciel przede wszystkim nas uspokoi, co oczywiście jest bardzo ważne, ale często niewiele więcej może zrobić, ponieważ nie ma odpowiedniego doświadczenia (oby jak najdłużej go nie miał) i wiedzy. AI może natomiast połączyć empatię, dostępność oraz zdolność analizy sytuacji na podstawie ogromnej ilości informacji.

Taki asystent powinien przede wszystkim pomóc człowiekowi opanować pierwsze emocje, przeanalizować sytuację i wskazać możliwe rozwiązania. Nie powinien automatycznie odpowiadać za użytkownika, eskalować konfliktu ani podejmować działań bez jego zgody. Jego rolą powinno być wspieranie człowieka w podjęciu najlepszej decyzji.

Powinien również pomagać odróżnić zwykłą krytykę od hejtu. Nie każdy negatywny komentarz jest przemocą cyfrową. Krytyka może być wartościową informacją zwrotną, natomiast hejt ma zazwyczaj na celu zaatakowanie człowieka, jego poniżenie, zastraszenie lub wywołanie określonej reakcji emocjonalnej.

AI mogłaby również pomagać w dokumentowaniu zdarzenia. Mogłaby uporządkować otrzymane wiadomości, stworzyć chronologię wydarzeń, wskazać najważniejsze materiały oraz pomóc przygotować zgłoszenie do administratorów platformy lub odpowiednich służb.

AI, znając użytkownika i jego sposób komunikacji, mogłaby zwracać się do niego w bardziej osobisty sposób, dostosować ton rozmowy i pomóc przejść przez trudną sytuację. Najważniejsza powinna być zasada: najpierw empatia, potem rozwiązanie problemu.

Jeżeli sytuacja przekraczałaby możliwości takiego wsparcia, na przykład pojawiałyby się groźby, uporczywe nękanie, ryzyko przemocy lub poważny kryzys psychiczny, AI powinna wskazać konieczność kontaktu z odpowiednim specjalistą, organizacją pomocową albo służbami.

Idealny cyfrowy asystent nie zastępowałby człowieka. Jego rolą byłoby być obok człowieka wtedy, gdy najbardziej potrzebuje spokojnej rozmowy, analizy sytuacji i wskazania właściwej drogi działania.

Rozmawiała: Ilona Adamska

Dr inż. Michał Malinowski – ekspert w dziedzinie cyberbezpieczeństwa, sztucznej inteligencji i nowoczesnych technologii. Obecnie pełni funkcję głównego specjalisty w Departamencie Cyberbezpieczeństwa Ministerstwa Obrony Narodowej. Wcześniej był m.in. szefem oddziału w Dowództwie Komponentu Wojsk Obrony Cyberprzestrzeni.

Swoje doświadczenie eksperckie łączy z działalnością akademicką i dydaktyczną. Jest adiunktem w Uczelni Techniczno-Handlowej im. Heleny Chodkowskiej oraz wykładowcą w Eksperckim Centrum Szkolenia Cyberbezpieczeństwa. Wcześniej prowadził również zajęcia na Wojskowej Akademii Technicznej oraz Uniwersytecie WSB Merito.

Posiada wieloletnie doświadczenie zawodowe zdobywane w instytucjach związanych z informatyką, cyberbezpieczeństwem, obronnością i administracją publiczną. Pracował m.in. w Centrum Projektów Informatycznych, Inspektoracie Systemów Informatycznych, Departamencie Informatyki i Telekomunikacji MON, Generalnym Zarządzie Dowodzenia i Łączności – P6 Sztabu Generalnego Wojska Polskiego, Centrum Informacyjnym MON, Centrum Informatyki i Łączności Obrony Narodowej oraz Centrum Informatyki Sztabu Generalnego Wojska Polskiego.

Specjalizuje się w cyberbezpieczeństwie, sztucznej inteligencji, grafowych bazach danych, systemach rekomendacyjnych oraz wykorzystaniu nowoczesnych technologii w administracji, obronności i e-commerce. Jest autorem licznych publikacji naukowych oraz prelegentem konferencji poświęconych m.in. sztucznej inteligencji, cyberbezpieczeństwu, grafowym bazom danych, systemom rekomendacyjnym i praktycznemu zastosowaniu nowych technologii w organizacjach.

Jest absolwentem Wydziału Cybernetyki Wojskowej Akademii Technicznej oraz Szkoły Głównej Handlowej w Warszawie.

Technologia jest nie tylko obszarem jego działalności zawodowej, lecz także wieloletnią pasją. Od ponad dwóch dekad projektuje i rozwija rozwiązania związane z e-commerce oraz grami. Wśród realizowanych przez niego przedsięwzięć znajdują się m.in. sklep z grami planszowymi AM76, gra MMORPG „Arena Albion”, gra planszowa „Korona Piastów” oraz gra paragrafowa „Sarmatia”.