Na światowym szczycie poświęconym sztucznej inteligencji w New Delhi Arthur Mensch, CEO i współzałożyciel Mistral AI, podważył podejście części amerykańskiego ekosystemu. Tam, gdzie niektórzy liderzy, tacy jak Sam Altman (OpenAI) czy Dario Amodei (Anthropic), podkreślają scenariusze „superinteligencji” i „utraty kontroli”, francuski przedsiębiorca uważa, że takie ostrzeżenia często przypominają mowę odwracającą uwagę. Jego wypowiedź koncentruje debatę na bardziej bezpośrednim ryzyku: wpływie asystentów AI na opinię publiczną, informacje, a ostatecznie na wybory demokratyczne.
Arthur Mensch (Mistral AI) wobec „ekstremalnych zagrożeń AI”: co kryje się pod pojęciem mowy odwracającej uwagę
Kiedy Arthur Mensch mówi o mowie odwracającej uwagę, nie zaprzecza, że technologia może być wykorzystywana w niewłaściwy sposób. Przede wszystkim kwestionuje niemal wyłączną koncentrację na krótkoterminowych „egzystencjalnych” zagrożeniach, przedstawianych jako nieuchronne, podczas gdy inne problemy są już mierzalne w codziennym życiu.
W tym samym czasie Sam Altman wspomniał o idei swoistego odpowiednika Międzynarodowej Agencji Energetyki Atomowej, aby zorganizować międzynarodową koordynację wobec „superinteligencji”, którą uważa za możliwą w bardzo bliskiej perspektywie. Ze swojej strony Dario Amodei długo opisywał ryzyka, takie jak utrata kontroli nad zaawansowanymi AI czy ich użycie do ułatwienia broni biologicznej.
Interpretacja Menscha jest polityczna i ekonomiczna: dramatyzowanie zagrożeń AI może służyć także do kierowania regulacjami ku ciężkim mechanizmom, trudno dostępnym dla nowych graczy. Innymi słowy, strach może stać się narzędziem blokady rynku, a nie tylko sygnałem ostrzegawczym o charakterze etycznym.
Konkretny wątek przewodni: firma „Novallia” i przesunięcie narzędzi w kierunku wpływu
Wyobraźmy sobie „Novallia”, francuskie przedsiębiorstwo średniej wielkości, które w 2026 roku wdraża asystenta sztucznej inteligencji dla swoich zespołów sprzedaży i HR. Na początku narzędzie streszcza e-maile, proponuje odpowiedzi, przygotowuje oferty i automatyzuje sprawozdania.
Później, stopniowo, asystent staje się unikalnym wejściem do informacji wewnętrznych i zewnętrznych: rekomenduje „wiarygodne źródła”, przeformułowuje wiadomości i sugeruje „przekonujące” argumenty. Na tym etapie niebezpieczeństwem nie jest scenariusz science-fiction, ale zależność poznawcza: to, co pracownik czyta, zapamiętuje i powtarza, jest filtrowane przez algorytmicznego pośrednika.
Właśnie tutaj argument Menscha zyskuje na sile: AI nie musi być „poza kontrolą”, aby kierować percepcjami. Wystarczy, że stanie się dominującym interfejsem między ludźmi a informacją.
Prawdziwe ryzyko według Arthura Menscha: oligopol informacji przez asystentów sztucznej inteligencji
Arthur Mensch już opisał wzrost oligopolu informacji: kilka asystentów (ChatGPT, Grok i inni) może stać się jedynymi punktami dostępu. Jeśli większość zapytań „przechodzi” przez dwa lub trzy systemy, systemy te końcowo strukturyzują sposób, w jaki obywatele szukają, rozumieją i decydują.
Fenomen ten przypomina przełom już obserwowany w mediach społecznościowych: interfejs nie jest neutralny, ponieważ hierarchizuje, sugeruje, streszcza i opowiada historie. Przy generatywnej AI decydującym krokiem jest to, że nie jest to już tylko optymalizacja dystrybucji treści, ale sam sposób formułowania idei.
Konkretnie przykłady ryzyk: wybory, subtelna manipulacja i „normalizacja” opinii
Sednem sprawy są ryzyka wpływu na dużą skalę: mikrotargetowanie, automatyczna perswazja i masowa produkcja argumentów. Kampania nie potrzebuje już tysięcy wolontariuszy: dobrze zaprojektowany ciąg promptów może ciągle generować dostosowane komunikaty dla segmentów odbiorców.
Manipulacja nie musi być jawna. Może ukrywać się w doborze faktów, tonie, analogiach czy kolejności argumentów, dokładnie jak w felietonie… z tym, że skala i personalizacja stają się bezprecedensowe.
Może to Państwo już doświadczyli: zadając asystentowi pytanie „neutralne” i otrzymując odpowiedź, która bez kłamstwa lekko skłania do interpretacji. Powtórzcie to miliony razy, a otrzymacie efekt polityczny bez wyraźnego sloganu.
-
Ryzyko zależności: użytkownik deleguje swój osąd asystentowi, który „lepiej potrafi” podsumować i zdecydować.
-
Ryzyko stronniczości ram: te same fakty, ale powtarzająca się interpretacja staje się normą.
-
Ryzyko manipulacji wyborczej: dopasowane komunikaty wykorzystujące emocje (strach, oburzenie, cynizm).
-
Ryzyko koncentracji: kilku aktorów narzuca własne zasady moderacji, priorytety i wizję etyki.
Ta interpretacja stawia pytanie demokratyczne w centrum: co się dzieje, jeśli dostęp do debaty publicznej odbywa się faktycznie przez ograniczoną liczbę prywatnych interfejsów? Wówczas wyzwaniem staje się kwestia architektury informacji.
Regulacja sztucznej inteligencji: między „ekstremalnym” bezpieczeństwem a mierzalnymi, bezpośrednimi ryzykami
Ostrzeżenia o zagrożeniach AI mają sens: zmuszają interesariuszy do inwestowania w bezpieczeństwo, ewaluację i zabezpieczenia. Krytyka Menscha dotyczy jednak nierównowagi: debata publiczna może zostać zdominowana przez spektakularne scenariusze, podczas gdy manipulacja informacjami rozwija się w cieniu.
W praktyce skuteczna regulacja musi odnosić się do obu płaszczyzn: rzadkich, ale katastrofalnych zagrożeń oraz częstych, lecz rozproszonych ryzyk. To często druga grupa kształtuje codzienność firm, szkół i administracji.
Ramka interpretacyjna: dwie rodziny ryzyk, dwie odpowiedzi operacyjne
| Rodzina ryzyk | Konkretny przykład | Dlaczego jest to wiarygodne w krótkim terminie | Propozycje odpowiedzi (techniczne + etyczne) |
|---|---|---|---|
| Ryzyka „ekstremalne” | Utrata kontroli nad bardzo zaawansowanym systemem, zastosowania bio/brane, nieprzewidziane ciągi autonomicznych działań | Rosnąca złożoność, niektóre modele zyskują autonomię przez narzędzia i agentów | Niezależne oceny, ograniczenia dostępu do określonych funkcji, śledzenie, testy red teaming, ukierunkowane zarządzanie międzynarodowe |
| Ryzyka wpływu i informacji | Spersonalizowana perswazja polityczna, „czysta” dezinformacja, asystenci kierujący wyborami, oligopol informacji | Asystenci są już powszechnie wykorzystywani do zdobywania informacji, pracy i podejmowania decyzji | Przejrzystość źródeł, audyty stronniczości, różnorodność modeli, ustawienia użytkownika, obowiązek śledzenia treści i kampanii |
| Ryzyka organizacyjne | Wycieki danych, halucynacje w dokumentach, niewłaściwie kontrolowana automatyzacja | Szybkie wdrożenia w firmach, presja produktywności, brak szkoleń | Polityki wewnętrzne, filtrowanie danych, wyspecjalizowane modele, walidacja ludzka, szkolenia i kontrole jakości |
Kluczowy punkt dla CEO takiego jak Arthur Mensch to fakt, że regulacja nie powinna jedynie „chronić przed apokalipsą”: musi także zapobiegać, by sztuczna inteligencja stała się infrastrukturą skoncentrowanej perswazji. To właśnie tu technologia łączy się z etyką w bardzo konkretny sposób.
Mistral AI a suwerenność: dlaczego etyka także oznacza różnorodność aktorów
Za stanowiskiem Arthura Menscha stoi również walka o model: kto buduje asystentów, gdzie są hostowane dane i kto ustala normy? Dla Mistral AI kwestia jest tak przemysłowa, jak demokratyczna: zwiększenie liczby wiarygodnych aktorów ogranicza koncentrację i zmniejsza ryzyko „jednego centrum ciężkości” informacji.
W firmie może się to przełożyć na konkretne wybory: korzystanie z jednego uniwersalnego asystenta do wszystkiego lub orkiestrację kilku komponentów (wyszukiwania, redagowania, analizy) z różnymi modelami i kontrolami. W administracji może to oznaczać wymóg śledzenia odpowiedzi, cytowania źródeł i mechanizmów odwoławczych.
W gruncie rzeczy kontrowersje na temat zagrożeń AI odsłaniają dylemat: czy chcemy przede wszystkim chronić się przed hipotetyczną przyszłością, czy budować już teraz zabezpieczenia przeciw wpływom, które są obecne? Najbardziej trwałą odpowiedzią jest robienie obu rzeczy bez wpadaania w pułapkę mowy odwracającej uwagę.