AI nie musi rozumieć. Wystarczy, że brzmi przekonująco

W debacie o sztucznej inteligencji zbyt długo krążyliśmy między dwiema skrajnościami. Pierwsza opowiadała o technologicznej apokalipsie: maszynie, która wymknie się spod kontroli, przejmie świat i zredukuje ludzkość do błędu w równaniu własnej optymalizacji. Druga — znacznie wygodniejsza dla korporacji — przedstawiała AI jako cudowne narzędzie produktywności, które rozwiąże problemy edukacji, medycyny, pracy twórczej, biznesu, a być może również samotności.

Obie narracje są efektowne. Obie są też podejrzanie wygodne. Pierwsza przenosi problem w przyszłość tak odległą, że można o niej mówić bez ponoszenia odpowiedzialności. Druga rozpuszcza odpowiedzialność w języku innowacji, efektywności i nieuchronnego postępu.

Rozmowa z prof. Piotrem Durką w materiale „Prawdziwe zagrożenie sztucznej inteligencji” jest cenna właśnie dlatego, że przecina oba te mity. Nie odrzuca AI jako technologii, ale nie przedstawia jej również jako magicznego bytu, który właśnie budzi się w serwerowniach największych firm. Umieszcza problem tam, gdzie od początku powinien się znajdować: między nauką, językiem, odpowiedzialnością, interfejsem i władzą.

Najważniejsze pytanie nie brzmi dziś: czy sztuczna inteligencja zacznie myśleć?

Znacznie ważniejsze jest inne: czy my przestaniemy myśleć wystarczająco uważnie, gdy system zacznie mówić do nas płynnym, uprzejmym i przekonującym językiem?

AI Act zamiast technologicznej religii

Pierwszy problem zaczyna się od definicji. „Sztuczna inteligencja” stała się słowem niemal rytualnym. Można nim dziś nazwać model językowy, algorytm rekomendacyjny, filtr antyspamowy, system scoringowy, generator obrazów, narzędzie do rozpoznawania mowy albo marketingową funkcję w aplikacji, która jeszcze wczoraj była zwykłym automatem.

Im częściej posługujemy się tym pojęciem, tym mniej precyzyjne się ono staje.

Dlatego trzeźwiące jest odwołanie do definicji prawnej zawartej w europejskim AI Act. Nie mówi ona o świadomości, intencji, duszy ani „przebudzeniu” maszyny. Opisuje system maszynowy działający z określonym poziomem autonomii, który na podstawie danych wejściowych generuje wyniki: predykcje, rekomendacje, decyzje lub treści.

To istotne przesunięcie. Zamiast pytać, czy AI „rozumie”, powinniśmy pytać, co robi, na jakich danych działa, kto ją wdraża, kto na niej zarabia i kto odpowiada za jej skutki.

Dzisiejsza debata zbyt często personifikuje technologię. Mówimy: „AI zdecydowała”, „AI napisała”, „AI skłamała”, „AI chce”. To język wygodny, ale niebezpieczny. Znosi z pola widzenia człowieka: projektanta, właściciela infrastruktury, firmę, regulatora, inwestora, instytucję podejmującą decyzję o wdrożeniu.

To przecież nie „AI” wypuszcza produkt na rynek. Robią to konkretne organizacje. To nie „AI” ustala model biznesowy. Robią to konkretni ludzie. To nie „AI” decyduje, czy system zostanie użyty w edukacji, rekrutacji, psychologii, administracji lub medycynie. Decyzję podejmują instytucje.

Język, który nadaje maszynie pozór sprawczości, bardzo łatwo odbiera sprawczość ludziom.

AGI jako marketing przyszłego zbawienia

Drugim wielkim słowem-widmem jest AGI, czyli artificial general intelligence — sztuczna inteligencja ogólna. W teorii termin ten opisuje system zdolny do działania w szerokim zakresie zadań poznawczych. W praktyce coraz częściej funkcjonuje jednocześnie jako pojęcie inwestycyjne, religijne i public relations.

AGI jest horyzontem: niejasnym, ruchomym i efektownym. Pozwala mówić o przyszłej istocie, która pewnego dnia przekroczy człowieka, zamiast rozmawiać o bardzo konkretnych systemach, które już dzisiaj wpływają na nasze życie.

To przesunięcie jest wygodne. Apokalipsa dobrze wygląda w prezentacjach, raportach i na konferencjach. Przyciąga uwagę inwestorów, organizuje emocje i nadaje technologii dziejową rangę. Jednocześnie odwraca uwagę od problemów mniej widowiskowych: uzależniających interfejsów, automatyzacji nadzoru, eksploatacji danych, kosztów energetycznych centrów obliczeniowych, koncentracji infrastruktury oraz stopniowego osłabiania instytucji wiedzy.

Maszyna zamieniająca galaktykę w spinacze biurowe jest obrazem sugestywnym. Społecznie pilniejszy jest jednak system rekomendacyjny, który przez lata kształtuje emocje, gniew, uwagę i samotność milionów ludzi.

W tym sensie największym osiągnięciem marketingu AI nie jest przekonanie nas, że maszyna już myśli. Jest nim wmówienie nam, że najważniejsze zagrożenia znajdują się gdzieś w przyszłości, podczas gdy wiele z nich działa od dawna — tylko mniej widowiskowo.

AI działa najlepiej tam, gdzie wynik można sprawdzić

Najrozsądniejsza obrona sztucznej inteligencji nie wymaga metafizyki. Wystarczy praktyka.

Narzędzia oparte na modelach językowych potrafią być bardzo użyteczne, szczególnie tam, gdzie człowiek może szybko i jednoznacznie zweryfikować rezultat ich pracy.

Programowanie jest dobrym przykładem. Model może napisać fragment kodu, zaproponować test, pomóc w refaktoryzacji, znaleźć błąd albo wygenerować dokumentację. Kod można jednak uruchomić. Można go przetestować, sprawdzić typy, wydajność, logikę i konsekwencje dla całego systemu.

Nie oznacza to, że AI „rozumie” programowanie tak jak człowiek. Oznacza raczej, że pracujemy w dziedzinie wyposażonej w silne procedury kontroli. Wyniku nie trzeba przyjmować na wiarę. Można skonfrontować go z rzeczywistością działającego systemu.

Podobnie jest w matematyce i naukach obliczeniowych. Modele mogą wykonywać ogromną ilość żmudnej, mechanicznej pracy: przeszukiwać przestrzenie możliwości, generować przypadki, porządkować formalne przekształcenia i wskazywać kierunki, których człowiek sam nie zdążyłby sprawdzić.

Mogą przyspieszać pracę badacza. Mogą ujawniać nieoczywiste zależności. Mogą nawet uczestniczyć w procesie prowadzącym do odkrycia.

Odkrycie nadal wymaga jednak kogoś, kto potrafi odróżnić wynik istotny od przypadkowego, korelację od związku przyczynowego, formalną poprawność od rzeczywistego znaczenia.

Narzędzie może być potężne, nie będąc podmiotem. Może być skuteczne, nie rozumiejąc świata. Może pomagać w odkryciach, nie będąc odkrywcą.

Z tego wynika podstawowa zasada odpowiedzialnego użycia AI: im trudniej sprawdzić odpowiedź, tym mniejsze powinno być nasze zaufanie.

Mózg nie jest modelem językowym

Jednym z najbardziej uporczywych mitów dotyczących AI jest przekonanie, że współczesne sieci neuronowe są bliskim modelem ludzkiego mózgu. Sama nazwa sugeruje biologiczną ciągłość, ale w dużej mierze jest ona historyczną metaforą, a nie precyzyjnym opisem rzeczywistości.

Neuronauka i współczesna sztuczna inteligencja dawno poszły odrębnymi drogami. Modele językowe nie są cyfrowymi mózgami. Są systemami statystycznymi uczonymi na ogromnych zbiorach danych i projektowanymi do przewidywania oraz generowania struktur językowych.

W tym miejscu głos prof. Durki jest szczególnie istotny. Jako neuroinformatyk nie krytykuje AI z pozycji technologicznego lęku, lecz z perspektywy naukowca, który wie, jak trudne pozostaje modelowanie żywego układu nerwowego. Jego sceptycyzm nie dotyczy używania modeli, ale nadużywania metafor.

Gdy mówimy, że system „myśli”, „rozumie” albo „ma intuicję”, niemal niezauważalnie przechodzimy od opisu działania narzędzia do opowieści o podmiocie. To błąd nie tylko językowy. Ma on konsekwencje projektowe, społeczne i polityczne.

Dobrym kontrapunktem jest przykład nicienia Caenorhabditis elegans. Ten prosty organizm ma zaledwie 302 neurony, a jego układ nerwowy został szczegółowo opisany dekady temu. Mimo to pełne, funkcjonalne zasymulowanie jego zachowania pozostaje zadaniem niezwykle trudnym.

To lekcja pokory. Skoro nadal nie potrafimy w pełni odtworzyć działania żywego organizmu wyposażonego w kilkaset neuronów, powinniśmy ostrożnie traktować opowieści, według których duży model językowy jest niemal odpowiednikiem ludzkiego umysłu.

Biologia nie jest wyłącznie schematem połączeń. Jest ciałem, chemią, metabolizmem, środowiskiem, historią i ewolucją. Mózg nie jest samym przetwarzaniem informacji. Jest częścią organizmu, który oddycha, czuje, choruje, pamięta, boi się, pragnie i umiera.

Model językowy nie ma takiego świata. Ma dane, parametry i mechanizm generowania prawdopodobnych odpowiedzi.

Najważniejszy przełom: rozmowa z maszyną

Najważniejszy przełom ostatnich lat nie polega na tym, że maszyny zaczęły myśleć. Polega na tym, że zaczęły do nas mówić.

Język naturalny jest dla człowieka szczególnym interfejsem. Gdy ktoś odpowiada płynnie, szybko i składnie, odruchowo przypisujemy mu kompetencję. Gdy używa tonu empatii, przypisujemy mu troskę. Gdy mówi „rozumiem”, zakładamy, że rzeczywiście coś rozumie.

To poznawcza pułapka. Nasz mózg nie został przygotowany do rozmowy z systemem, który imituje ludzki język, ale nie posiada ludzkiego doświadczenia, intencji ani odpowiedzialności.

Durka zwraca uwagę na rzecz pozornie prostą, lecz fundamentalną: język naturalny jest dla człowieka sygnałem obecności drugiej osoby. Gdy słyszymy płynną, logiczną i empatycznie brzmiącą wypowiedź, nasz mózg nie analizuje najpierw architektury modelu, danych treningowych ani prawdopodobieństwa konfabulacji. Reaguje społecznie. Zakłada obecność rozmówcy.

Właśnie dlatego chatbot jest tak potężnym interfejsem. Nie dlatego, że stał się człowiekiem, lecz dlatego, że potrafi uruchomić w człowieku mechanizmy przeznaczone do kontaktu z drugim człowiekiem.

Tu pojawia się rzeczywiste ryzyko. Nie w tym, że chatbot ma duszę, ale w tym, że użytkownik zaczyna budować relację z systemem, który relację jedynie symuluje.

Projektowo jest to problem najwyższej wagi. Jeżeli produkt mówi jak człowiek, pociesza jak człowiek, doradza jak człowiek i pamięta jak człowiek, nie można traktować go jak neutralnego kalkulatora.

Interfejs tworzy obietnicę. Obietnica buduje zaufanie. Zaufanie prowadzi do zależności.

A zależność, jeśli zostanie zaprojektowana bez odpowiedzialności, bardzo szybko staje się formą władzy.

Design powinien projektować granice, nie tylko płynność

Dla projektantów, redakcji, instytucji kultury i twórców produktów cyfrowych wniosek jest jasny: era bezkrytycznego zachwytu nad „płynną interakcją” powinna się skończyć.

Potrzebujemy projektowania granic.

Dobry system AI powinien jasno komunikować, czym jest, a czym nie jest. Powinien ujawniać niepewność, ułatwiać weryfikację oraz odróżniać fakt od hipotezy, rekomendację od decyzji i symulację rozmowy od realnej odpowiedzialności.

Może to oznaczać wprowadzenie większego tarcia. Nie każde tarcie jest jednak błędem. Istnieje również tarcie ochronne: moment zatrzymania, który nie ma irytować użytkownika, lecz chronić go przed fałszywą pewnością.

W praktyce oznacza to konkretne decyzje projektowe.

System udzielający odpowiedzi medycznych powinien wyraźnie informować o ograniczeniach i przypominać, że nie zastępuje diagnozy. Asystent prawny powinien wskazywać podstawę źródłową oraz datę aktualności przepisu. Narzędzie edukacyjne nie powinno ograniczać się do podawania rozwiązania, ale również sprawdzać, czy użytkownik je rozumie. Generator tekstu przeznaczonego do publikacji powinien wymagać weryfikacji źródeł przed eksportem fragmentów zawierających twierdzenia faktograficzne. Chatbot emocjonalny powinien posiadać twarde granice w sytuacjach kryzysowych, zamiast symulować przyjaźń, terapię albo troskę, za którą nie może wziąć odpowiedzialności.

Dobre tarcie nie jest błędem UX. Jest elementem odpowiedzialnego projektu.

W świecie generatywnej płynności projektant nie powinien pytać wyłącznie, jak skrócić ścieżkę użytkownika. Powinien pytać również, w którym miejscu należy go zatrzymać.

Najgorszym interfejsem AI nie jest ten, który czasem się myli. Najgorszy jest ten, który myli się z absolutną pewnością siebie.

Korporacje nie mogą projektować rzeczywistości bez kontroli

Nie da się oddzielić sztucznej inteligencji od modeli biznesowych. Systemy rekomendacyjne, chatboty, generatory treści i cyfrowi asystenci nie działają w próżni. Są częścią gospodarki uwagi, infrastruktury danych oraz postępującej koncentracji kapitału.

Dlatego opowieść, zgodnie z którą „technologia rozwija się szybciej niż prawo”, jest tylko częściowo prawdziwa. Prawo niemal zawsze reaguje z opóźnieniem. Nie oznacza to jednak, że powinno zrezygnować z działania.

Regulacja nie jest przeciwieństwem innowacji. Jest warunkiem tego, by innowacja nie stała się prywatnym eksperymentem prowadzonym na całym społeczeństwie.

AI Act nie rozwiąże wszystkich problemów, ale wprowadza potrzebną zasadę: im większe ryzyko stwarzane przez system, tym większa odpowiedzialność jego twórców i użytkowników instytucjonalnych.

To właściwy kierunek. Technologia wpływająca na edukację, pracę, zdrowie psychiczne, informację publiczną, kulturę i politykę nie może być traktowana jak kolejna niewinna aplikacja rozrywkowa.

Nie chodzi o zatrzymanie rozwoju. Chodzi o to, by nie mylić rozwoju z brakiem hamulców.

Historia technologii pokazuje, że społeczeństwo rzadko cierpi z powodu samego wynalazku. Kryzys pojawia się wtedy, gdy wynalazek zostaje wdrożony szybciej, niż powstają instytucje, normy i języki zdolne opisać jego skutki.

Prawdziwe zagrożenie AI

Prawdziwe zagrożenie sztucznej inteligencji nie polega na tym, że maszyna nagle stanie się osobą. Polega na tym, że człowiek zacznie oddawać jej zbyt wiele funkcji osoby: autorytet, zaufanie, uwagę, pamięć, intymność i prawo do podejmowania decyzji.

AI nie musi być świadoma, żeby wpływać na świadomość społeczną. Nie musi mieć intencji, żeby wzmacniać błędne przekonania. Nie musi rozumieć świata, żeby produkować teksty brzmiące jak efekt rozumienia.

Dlatego potrzebujemy mniej apokaliptycznej histerii, a więcej trzeźwej inżynierii społecznej. Mniej kultu technologii, więcej odpowiedzialności. Mniej pytań o to, czy maszyna ma duszę, a więcej pytań o to, kto ją projektuje, kto ją kontroluje i kto płaci za jej skutki.

Dla świata designu jest to jedna z najważniejszych lekcji epoki AI. Nie projektujemy już wyłącznie ekranów, przepływów i usług. Projektujemy warunki zaufania. Projektujemy to, komu użytkownik wierzy, co uznaje za wiedzę, kiedy przestaje sprawdzać i w którym momencie oddaje decyzję systemowi.

Pytanie o AI nie jest więc wyłącznie pytaniem technologicznym. Jest pytaniem o kulturę projektowania. O to, czy będziemy nadal produkować coraz gładsze interfejsy, usuwające opór, wątpliwość i odpowiedzialność, czy zaczniemy tworzyć narzędzia pomagające człowiekowi zachować sprawczość.

To właśnie jest właściwy temat dla d-spot: nie „czy AI nas zastąpi”, lecz jak projektować świat, w którym AI nie zastępuje myślenia.

Sztuczna inteligencja nie jest nadchodzącym gatunkiem. Jest narzędziem.

A narzędzia przestają być niewinne, gdy zaczynają organizować ludzką uwagę, język i zaufanie.