AI nie musi rozumieć. Wystarczy, że brzmi przekonująco

W debacie o sztucznej inteligencji zbyt długo krążyliśmy między dwiema skrajnościami. Pierwsza opowiadała o technologicznej apokalipsie: maszynie, która wymknie się spod kontroli, przejmie świat i zredukuje ludzkość do błędu w równaniu własnej optymalizacji. Druga, wygodniejsza dla korporacji, mówiła o cudownym narzędziu produktywności, które rozwiąże problemy edukacji, medycyny, pracy twórczej, biznesu i samotności.

Obie narracje są efektowne. Obie są też podejrzanie wygodne. Pierwsza przenosi problem w przyszłość tak odległą, że można o niej mówić bez odpowiedzialności. Druga rozpuszcza odpowiedzialność w języku innowacji, efektywności i nieuchronnego postępu.

Rozmowa z prof. Piotrem Durką w materiale „Prawdziwe zagrożenie sztucznej inteligencji” jest cenna, bo przecina oba te mity. Nie odrzuca AI jako technologii. Nie sprowadza jej też do magicznego bytu, który właśnie budzi się w serwerowniach wielkich firm. Ustawia problem tam, gdzie powinien być ustawiony od początku: między nauką, językiem, odpowiedzialnością, interfejsem i władzą.

Bo najważniejsze pytanie nie brzmi dziś: czy sztuczna inteligencja zacznie myśleć?

Znacznie ważniejsze jest inne: czy my przestaniemy myśleć wystarczająco uważnie, kiedy system zacznie mówić do nas płynnym, uprzejmym i przekonującym językiem?

AI Act zamiast religii technologicznej

Pierwszy problem zaczyna się od definicji. „Sztuczna inteligencja” stała się dziś słowem niemal rytualnym. Można nim nazwać model językowy, algorytm rekomendacyjny, filtr antyspamowy, system scoringowy, generator obrazów, narzędzie do rozpoznawania mowy albo marketingową funkcję w aplikacji, która jeszcze wczoraj była zwykłym automatem.

Im częściej używamy tego słowa, tym mniej precyzyjne się staje.

Dlatego trzeźwiące jest odwołanie do definicji prawnej zawartej w europejskim AI Act. Nie mówi ona o świadomości, intencji, duszy ani „przebudzeniu” maszyny. Opisuje system maszynowy działający z pewnym poziomem autonomii, który na podstawie danych wejściowych generuje wyniki: predykcje, rekomendacje, decyzje lub treści.

To ważne przesunięcie. Zamiast pytać, czy AI „rozumie”, powinniśmy pytać: co robi, na jakich danych działa, kto ją wdraża, kto na niej zarabia i kto ponosi odpowiedzialność za skutki.

Dzisiejsza debata zbyt często personifikuje technologię. Mówimy: „AI zdecydowała”, „AI napisała”, „AI skłamała”, „AI chce”. To wygodne, ale niebezpieczne. W takim języku znika człowiek: projektant, firma, regulator, inwestor, właściciel infrastruktury.

A przecież to nie „AI” wypuszcza produkt na rynek. Robią to konkretne organizacje. To nie „AI” ustala model biznesowy. Robią to konkretni ludzie. To nie „AI” wybiera, czy wdrożyć system w edukacji, rekrutacji, psychologii, administracji albo medycynie. Decyzję podejmują instytucje.

Język, który nadaje maszynie pozór sprawczości, bardzo łatwo odbiera sprawczość ludziom.

AGI jako marketing przyszłego zbawienia

Drugim wielkim słowem-widmem jest AGI, czyli artificial general intelligence. W teorii oznacza sztuczną inteligencję ogólną. W praktyce coraz częściej działa jak pojęcie inwestycyjne, religijne i PR-owe jednocześnie.

AGI jest horyzontem. Niejasnym, ruchomym, efektownym. Pozwala mówić o przyszłej istocie, która pewnego dnia przekroczy człowieka, zamiast rozmawiać o bardzo konkretnych systemach, które już dziś wpływają na nasze życie.

To przesunięcie jest wygodne. Apokalipsa dobrze wygląda w prezentacjach, raportach i na konferencjach. Dobrze sprzedaje się inwestorom. Dobrze organizuje emocje. Ale odwraca uwagę od problemów mniej widowiskowych: uzależniających interfejsów, automatyzacji nadzoru, eksploatacji danych, energetycznych kosztów centrów obliczeniowych, koncentracji infrastruktury oraz osłabiania instytucji wiedzy.

Maszyna zamieniająca galaktykę w spinacze biurowe jest obrazem sugestywnym. Społecznie pilniejsze jest jednak co innego: system rekomendacyjny, który przez lata kształtuje emocje, gniew, uwagę i samotność milionów ludzi.

W tym sensie największym osiągnięciem marketingu AI nie jest przekonanie nas, że maszyna już myśli. Jest nim przekonanie nas, że najważniejsze zagrożenia znajdują się gdzieś w przyszłości, podczas gdy wiele z nich działa od dawna — tylko mniej teatralnie.

AI działa najlepiej tam, gdzie wynik da się sprawdzić

Najrozsądniejsza obrona AI nie polega na metafizyce, lecz na praktyce. Narzędzia oparte na modelach językowych bywają bardzo użyteczne. Szczególnie tam, gdzie człowiek potrafi szybko i jednoznacznie zweryfikować wynik.

Programowanie jest dobrym przykładem. Model może napisać fragment kodu, zaproponować test, pomóc w refaktoryzacji, znaleźć błąd albo wygenerować dokumentację. Ale kod można uruchomić. Można go przetestować. Można sprawdzić typy, wydajność, logikę i konsekwencje.

To nie znaczy, że AI „rozumie” programowanie tak jak człowiek. Znaczy raczej, że pracujemy w dziedzinie, która ma silne procedury kontroli. Wynik nie musi być przyjęty na wiarę. Można go skonfrontować z rzeczywistością systemu.

Podobnie w matematyce i naukach obliczeniowych. Modele mogą wykonywać ogromną, żmudną, mechaniczną pracę: przeszukiwać przestrzenie możliwości, generować przypadki, porządkować formalne przekształcenia. Mogą przyspieszyć pracę badacza. Mogą wskazać ścieżki, których człowiek sam by nie sprawdził, bo zabrakłoby mu czasu, cierpliwości albo mocy obliczeniowej.

Ale odkrycie nadal wymaga kogoś, kto potrafi odróżnić wynik istotny od przypadkowego. Narzędzie może być potężne, nie będąc podmiotem. Może być skuteczne, nie rozumiejąc świata. Może pomagać w odkryciach, nie będąc odkrywcą.

To podstawowa zasada odpowiedzialnego użycia AI: im trudniej sprawdzić odpowiedź, tym mniejsze powinno być nasze zaufanie.

Mózg nie jest modelem językowym

Jednym z najbardziej uporczywych mitów wokół AI jest przekonanie, że współczesne sieci neuronowe są bliskim modelem ludzkiego mózgu. Sama nazwa „sieć neuronowa” sugeruje biologiczną ciągłość, ale w dużej mierze jest to historyczna metafora, nie opis rzeczywistości.

Neuronauka i współczesna sztuczna inteligencja dawno poszły odrębnymi drogami. Modele językowe nie są cyfrowymi mózgami. Są systemami statystycznymi uczonymi na gigantycznych zbiorach danych, projektowanymi do przewidywania i generowania struktur językowych.

Właśnie w tym miejscu głos prof. Durki jest szczególnie ważny. Jako neuroinformatyk nie krytykuje AI z pozycji technologicznego lęku, lecz z pozycji naukowca, który wie, jak trudne jest modelowanie żywego układu nerwowego. Jego sceptycyzm nie dotyczy samego używania modeli, ale nadużywania metafor.

Kiedy mówimy, że system „myśli”, „rozumie” albo „ma intuicję”, bardzo szybko przechodzimy od opisu działania narzędzia do opowieści o podmiocie. A to jest błąd nie tylko językowy, ale projektowy i społeczny.

Dobrym kontrapunktem jest przykład nicienia C. elegans. To prosty organizm, mający zaledwie 302 neurony. Jego układ nerwowy został szczegółowo opisany dekady temu. A mimo to pełne, funkcjonalne zasymulowanie takiego organizmu w komputerze pozostaje zadaniem niezwykle trudnym.

To lekcja pokory. Jeśli nadal nie potrafimy w pełni odtworzyć żywego działania organizmu o kilkuset neuronach, powinniśmy ostrożnie traktować opowieści, według których duży model językowy jest już niemal odpowiednikiem ludzkiego umysłu.

Biologia nie jest tylko schematem połączeń. Jest ciałem, chemią, metabolizmem, środowiskiem, historią i ewolucją. Mózg nie jest samym przetwarzaniem informacji. Jest częścią żywego organizmu, który oddycha, czuje, choruje, pamięta, boi się, pragnie i umiera.

Model językowy nie ma takiego świata. Ma dane, parametry i mechanizm generowania prawdopodobnych odpowiedzi.

Najgroźniejszy wynalazek to rozmowa z maszyną

Największy przełom ostatnich lat nie polega na tym, że maszyny zaczęły myśleć. Polega na tym, że zaczęły do nas mówić.

Język naturalny jest dla człowieka szczególnym interfejsem. Gdy ktoś odpowiada płynnie, szybko i składnie, odruchowo przypisujemy mu kompetencję. Gdy używa tonu empatii, przypisujemy mu troskę. Gdy mówi „rozumiem”, zakładamy, że rzeczywiście coś rozumie.

To ewolucyjna pułapka. Nasz mózg nie został przygotowany do rozmowy z systemem, który imituje język człowieka, ale nie posiada ludzkiego doświadczenia, intencji ani odpowiedzialności.

Durka zwraca uwagę na rzecz pozornie prostą, ale fundamentalną: język naturalny jest dla człowieka sygnałem obecności drugiej osoby. Gdy słyszymy płynną, logiczną, empatycznie brzmiącą wypowiedź, nasz mózg nie analizuje najpierw architektury modelu, danych treningowych i prawdopodobieństwa konfabulacji. Reaguje społecznie. Zakłada rozmówcę.

I właśnie dlatego chatbot jest tak potężnym interfejsem: nie dlatego, że stał się człowiekiem, lecz dlatego, że potrafi uruchomić w człowieku mechanizmy przeznaczone do kontaktu z innym człowiekiem.

Właśnie tu pojawia się realne ryzyko. Nie w tym, że chatbot ma duszę. W tym, że użytkownik zaczyna budować relację z czymś, co relację jedynie symuluje.

Projektowo to problem najwyższej wagi. Jeśli produkt mówi jak człowiek, pociesza jak człowiek, doradza jak człowiek i pamięta jak człowiek, nie można go traktować jak neutralnego kalkulatora. Interfejs tworzy obietnicę. Obietnica tworzy zaufanie. Zaufanie tworzy zależność.

A zależność, gdy zostaje zaprojektowana bez odpowiedzialności, bardzo szybko staje się formą władzy.

Design powinien projektować granice, nie tylko płynność

Dla projektantów, redakcji, instytucji kultury i twórców produktów cyfrowych wniosek jest prosty: era zachwytu nad „płynną interakcją” powinna się skończyć.

Potrzebujemy projektowania granic.

Dobry system AI powinien jasno pokazywać, czym jest, a czym nie jest. Powinien ujawniać niepewność. Powinien pomagać w weryfikacji. Powinien odróżniać fakt od hipotezy, rekomendację od decyzji, symulację rozmowy od realnej odpowiedzialności.

To może oznaczać więcej tarcia. Ale nie każde tarcie jest złe. Istnieje tarcie ochronne: moment zatrzymania, który nie ma irytować użytkownika, lecz chronić go przed fałszywą pewnością.

W praktyce mogłoby to wyglądać bardzo konkretnie. System udzielający odpowiedzi medycznej powinien wyraźnie oznaczać poziom niepewności i przypominać, że nie zastępuje diagnozy. Asystent prawny powinien pokazywać podstawę źródłową i datę aktualności przepisu. Narzędzie edukacyjne nie powinno tylko podawać gotowego rozwiązania, ale zadawać pytanie sprawdzające rozumienie. Generator tekstu do publikacji powinien wymagać kliknięcia w źródła przed eksportem fragmentów zawierających fakty. Chatbot emocjonalny powinien mieć twarde granice w sytuacjach kryzysowych, zamiast symulować przyjaźń, terapię albo troskę, której nie jest w stanie realnie ponieść.

Dobre tarcie nie jest błędem UX. Jest elementem odpowiedzialności.

W świecie generatywnej płynności projektant nie powinien pytać wyłącznie, jak skrócić ścieżkę użytkownika. Powinien pytać także, gdzie użytkownika zatrzymać.

Najgorszy interfejs AI to nie ten, który czasem się myli. Najgorszy jest ten, który myli się z absolutną pewnością siebie.

Korporacje nie mogą projektować rzeczywistości bez kontroli

Nie da się oddzielić AI od modeli biznesowych. Systemy rekomendacyjne, chatboty, generatory treści i asystenci nie funkcjonują w próżni. Są częścią gospodarki uwagi, infrastruktury danych i koncentracji kapitału.

Dlatego opowieść „technologia rozwija się szybciej niż prawo” jest tylko częściowo prawdziwa. Prawo zawsze reaguje z opóźnieniem, ale to nie znaczy, że ma zrezygnować z działania. Regulacja nie jest wrogiem innowacji. Jest warunkiem tego, by innowacja nie stała się prywatnym eksperymentem prowadzonym na społeczeństwie.

AI Act nie rozwiąże wszystkich problemów, ale wprowadza potrzebną zasadę: im większe ryzyko systemu, tym większa odpowiedzialność jego twórców i użytkowników instytucjonalnych.

To kierunek właściwy. Bo technologia, która wpływa na edukację, pracę, zdrowie psychiczne, informację publiczną, kulturę i politykę, nie może być traktowana jak zwykła aplikacja rozrywkowa.

Nie chodzi o zatrzymanie rozwoju. Chodzi o to, by nie mylić rozwoju z brakiem hamulców.

Historia technologii pokazuje, że społeczeństwo rzadko cierpi z powodu samego wynalazku. Cierpi wtedy, gdy wynalazek zostaje wdrożony szybciej, niż powstają instytucje, normy i języki zdolne opisać jego skutki.

Prawdziwe zagrożenie AI

Prawdziwe zagrożenie sztucznej inteligencji nie polega na tym, że maszyna nagle stanie się osobą. Polega na tym, że człowiek zacznie oddawać jej zbyt wiele funkcji osoby: autorytet, zaufanie, uwagę, pamięć, intymność, decyzję.

AI nie musi być świadoma, żeby wpływać na świadomość społeczną. Nie musi mieć intencji, żeby wzmacniać błędne przekonania. Nie musi rozumieć świata, żeby produkować teksty, które brzmią jak rozumienie.

Dlatego potrzebujemy mniej apokaliptycznej histerii, a więcej trzeźwej inżynierii społecznej. Mniej kultu technologii, więcej odpowiedzialności. Mniej pytań o to, czy maszyna ma duszę, a więcej pytań o to, kto ją projektuje, kto ją kontroluje i kto płaci za jej skutki.

Dla świata designu to jedna z najważniejszych lekcji epoki AI. Nie projektujemy już tylko ekranów, przepływów i usług. Projektujemy warunki zaufania. Projektujemy to, komu użytkownik wierzy, co uznaje za wiedzę, kiedy przestaje sprawdzać i kiedy oddaje decyzję systemowi.

Dlatego pytanie o AI nie jest wyłącznie pytaniem technologicznym. Jest pytaniem o kulturę projektowania. O to, czy będziemy nadal produkować coraz gładsze interfejsy, które usuwają opór, wątpliwość i odpowiedzialność, czy zaczniemy projektować narzędzia, które pomagają człowiekowi zachować sprawczość.

To jest właściwy temat dla d-spot: nie „czy AI nas zastąpi”, lecz jak projektować świat, w którym AI nie zastępuje myślenia.

Bo sztuczna inteligencja nie jest nadchodzącym gatunkiem. Jest narzędziem.

A narzędzia nigdy nie są niewinne, kiedy zaczynają organizować ludzką uwagę, język i zaufanie.