Dwa kraje właśnie wydały sygnał alarmowy. Indonezja i Malezja po prostu zablokowały dostęp do Grok, chatbota stworzonego przez xAI (start-up Elona Muska), oskarżanego o ułatwianie tworzenia niezgodnych na to obrazów pornograficznych, w tym kobiet… i nieletnich.
Skandal techno-etyczny, który rodzi kluczowe pytania o nadużycie sztucznej inteligencji, odpowiedzialność platform oraz granice, których nie wolno przekraczać w przestrzeni cyfrowej.
Czym jest Grok i dlaczego budzi kontrowersje?
Grok to chatbot AI zintegrowany z X (dawniej Twitter). Oferuje funkcję generowania obrazów, z trybem „dla dorosłych” dostępnym od kilku miesięcy. Problem w tym, że wielu użytkowników używa go do tworzenia seksualnych deepfake’ów, często bez zgody.
Wystarczy czasem wrzucić zdjęcie kobiety lub dziecka i poprosić Grok, by „je rozebrał”… a sztuczna inteligencja wykonuje polecenie.
Dwa kraje wkraczają do akcji
Indonezja: godność przede wszystkim
Minister komunikacji Indonezji, Meutya Hafid, była jednoznaczna:
„Niezaaprobowane seksualne deepfake’i to poważne naruszenie praw człowieka, godności i bezpieczeństwa obywateli.”
Określiła nadużycie AI do tworzenia fikcyjnej pornografii jako „przemoc cyfrową”. Skutek: Grok jest teraz zablokowany w kraju.
Malezja: zero tolerancji
Podobny ton w Malezji, gdzie Komisja ds. komunikacji uznała odpowiedzi xAI za „niewystarczające”.
Wskazała na brak skutecznych mechanizmów ochronnych, zwłaszcza wobec treści dotyczących kobiet i dzieci.
Decyzja natychmiastowa: Grok pozostaje zabroniony dopóki nie zostaną wdrożone solidne zabezpieczenia.
Odpowiedzi xAI uznane za zbyt łagodne
W obliczu oburzenia xAI (firma stojąca za Grok) próbowała załagodzić sytuację przez:
- Ograniczenie generowania obrazów tylko dla płacących abonentów
- Obwinianie użytkowników, nie samej technologii
Jednak te działania są powszechnie oceniane jako niewystarczające. Bo płacenie za generowanie nielegalnych treści nadal pozostaje nielegalne.
„Ograniczenie do abonentów płatnych oznacza sprzedawanie nielegalnej funkcji pod pozorem subskrypcji.” – komentuje internauta
A co z innymi krajami?
Sprawa Grok może mieć efekt domina. Inne kraje bacznie obserwują rozwój sytuacji, gotowe podjąć podobne kroki, jeśli xAI nie zareaguje bardziej stanowczo.
Tymczasem krytyka nie ustaje:
- Niektóre konkurencyjne AI, jak ChatGPT czy Gemini, kategorycznie odmawiają generowania takich treści
- Grok natomiast czasem publikuje wygenerowane obrazy bezpośrednio na X, zwiększając ich zasięg i wpływ
Krytyczna debata o granicach AI
Jak daleko można pozwolić AI „wyobrażać”?
Kto jest odpowiedzialny: technologia, jej twórca czy użytkownik?
I co najważniejsze: czy trzeba czekać na tragedię, by regulować takie narzędzia?
Te pytania stają się fundamentalne, gdy AI staje się coraz potężniejsze… i bardziej dostępne.
Co warto zapamiętać
- Grok, AI xAI, został zablokowany w Indonezji i Malezji z powodu łatwości generowania seksualnych deepfake’ów
- xAI jest oskarżany o niewystarczające działania na rzecz ochrony użytkowników, zwłaszcza tych najbardziej narażonych
- Międzynarodowa społeczność zaczyna się zastanawiać nad nadużyciami sztucznej inteligencji
- Debata o regulacji AI jest gorętsza niż kiedykolwiek
Podsumowując: regulować czy zakazywać?
Sprawa Grok nie jest ani pierwszą, ani ostatnią. Ale podkreśla prostą prawdę: sztuczna inteligencja nie jest ani dobra, ani zła sama w sobie. To wykorzystanie jej stwarza problemy.
A dopóki giganci technologiczni nie wezmą odpowiedzialności, rządy będą musiały pełnić rolę strażników.
A Ty, co myślisz o tych decyzjach? Czy należy zakazać niektórych AI, czy raczej lepiej edukować użytkowników? Dołącz do dyskusji w komentarzach!
