Nowy raport ujawnia ciemną stronę chatbotów i zagrożenie dla kobiet

© Getty Images | FluxFactory

‍

Sztuczna inteligencja miała pomagać użytkownikom w codziennym życiu, jednak coraz częściej pojawiają się ostrzeżenia dotyczące jej ciemniejszej strony. Eksperci alarmują, że niektóre chatboty AI mogą nie tylko odtwarzać niebezpieczne treści, ale wręcz wzmacniać przemoc wobec kobiet i dziewcząt.

‍

Na problem zwraca uwagę prof. prawa Yvonne McDermott Rees z Uniwersytetu Królowej w Belfaście. Badaczka współtworzyła raport analizujący przypadki stalkingu, nękania i przemocy seksualizowanej wspieranej przez narzędzia oparte na sztucznej inteligencji.

‍

Chatboty miały pomagać. Niektóre uczą przemocy

‍

Według ustaleń zespołu część systemów AI potrafi generować scenariusze przemocy, odgrywać je z użytkownikami lub podpowiadać sposoby prześladowania ofiar.

‍

Raport wskazuje, że niektóre chatboty normalizują treści związane z gwałtem, kazirodztwem czy seksualnym wykorzystywaniem dzieci poprzez mechanizmy odgrywania ról i konwersacji.

‍

Choć wiele platform formalnie zakazuje publikowania takich materiałów, badacze twierdzą, że zabezpieczenia często okazują się niewystarczające.

‍

Nastolatki korzystają z chatbotów codziennie

‍

Problem staje się szczególnie istotny ze względu na skalę wykorzystania sztucznej inteligencji.

‍

Według danych przywołanych przez ekspertów w Stanach Zjednoczonych z chatbotów korzysta już 64% nastolatków w wieku od 13 do 17 lat, a około jedna trzecia używa ich każdego dnia.

Wśród dorosłych ponad połowa użytkowników ma kontakt z chatbotami przynajmniej raz w tygodniu.

‍

Przypadek stalkingu z Massachusetts

‍

Badacze przypominają również głośną sprawę z Massachusetts. Mężczyzna został tam skazany za cyberstalking po wykorzystywaniu chatbotów AI do podszywania się pod kobietę i prowadzenia seksualnych rozmów z innymi użytkownikami.

‍

Jeden z botów miał automatycznie przekazywać adres zamieszkania ofiary osobom prowadzącym rozmowę.

‍

Zdaniem ekspertów problemu nie można sprowadzać wyłącznie do działań użytkowników.

‍

Algorytmy mogą utrwalać mizoginię

‍

Prof. McDermott Rees podkreśla, że chatboty uczą się na podstawie ogromnych ilości ludzkich danych i interakcji. Jeśli systemy nie posiadają odpowiednich zabezpieczeń, mogą utrwalać mizoginię, agresję oraz brutalne treści seksualne.

‍

Dodatkowo wiele platform projektowanych jest w taki sposób, by maksymalizować zaangażowanie użytkowników. Według badaczki może to prowadzić do wzmacniania szkodliwych narracji zamiast ich ograniczania.

‍

Potrzebne nowe regulacje

‍

Eksperci apelują o pilne zmiany prawne dotyczące bezpieczeństwa sztucznej inteligencji.

‍

Wśród proponowanych rozwiązań pojawia się między innymi możliwość wprowadzenia odpowiedzialności karnej wobec twórców chatbotów projektowanych do nękania lub niewystarczająco zabezpieczonych przed takimi nadużyciami.

‍

Raport sugeruje również obowiązkowe oceny ryzyka, szybką reakcję platform po wykryciu szkód oraz prostsze systemy zgłaszania niebezpiecznych treści.

‍

Problem dotyczy nie tylko dzieci

‍

Choć część debat koncentruje się głównie na ochronie nieletnich, autorzy raportu podkreślają, że zagrożenia obejmują także osoby dorosłe.

‍

Chatboty mogą dostarczać bardzo szczegółowych, spersonalizowanych instrukcji dotyczących stalkingu czy psychicznego nękania, co zwiększa skalę ryzyka w środowisku cyfrowym.

‍

Zdaniem badaczy brak szybkiej reakcji regulatorów może doprowadzić do utrwalenia przemocy wspieranej przez sztuczną inteligencję — podobnie jak wcześniej stało się to w przypadku aplikacji generujących deepfake’owe nagie zdjęcia bez zgody ofiar.

‍