Komputer nie był początkiem. AI nie będzie końcem

Zanim komputer stał się maszyną

Komputer nie pojawił się nagle jako skrzynka z ekranem, klawiaturą i procesorem. Zanim stał się urządzeniem, był funkcją wykonywaną przez człowieka.

Przez stulecia słowem „computer” określano osoby zajmujące się żmudnymi, seryjnymi obliczeniami. Pracowały dla astronomów, administracji, wojska, przemysłu i ośrodków badawczych. Otrzymywały dane, stosowały ustaloną metodę i przekazywały wynik dalej. W XX wieku dużą część tej pracy wykonywały kobiety, często traktowane nie jako badaczki, lecz jako element zaplecza obliczeniowego.

Pierwszy komputer nie był więc maszyną naśladującą samotnego geniusza. Przypominał raczej zmechanizowany urząd: system podziału pracy, w którym złożony problem rozbijano na niewielkie i powtarzalne czynności.

To rozróżnienie pozostaje aktualne. Automatyzacja rzadko zastępuje człowieka jako jednolitą osobę. Najpierw wydziela z jego pracy określone zadania, a następnie próbuje opisać je w sposób wystarczająco jednoznaczny, aby mógł wykonać je inny człowiek, mechanizm albo program.

Zanim pojawia się maszyna, musi zatem pojawić się procedura.

Algorytm oddziela wiedzę od wykonawcy

Algorytm jest technologią starszą od elektroniki. Przepis obliczania, metoda nawigacji, sposób prowadzenia rachunków czy procedura administracyjna mogą istnieć niezależnie od osoby, która je stosuje.

Dobrze opisana procedura przenosi część wiedzy z człowieka do instrukcji. Wykonawca nie musi za każdym razem rozwiązywać problemu od początku. Wystarczy, że prawidłowo przejdzie przez kolejne etapy.

Właśnie w tym sensie algorytm jest jednym z najważniejszych wynalazków organizacyjnych ludzkości. Pozwala powtarzać działanie, kontrolować je, przekazywać innym i skalować. Jednocześnie ogranicza znaczenie indywidualnego doświadczenia: to, co wcześniej wymagało praktycznej wiedzy, może zostać zamienione w zestaw reguł.

Kiedy Alan Turing w 1936 roku opisywał abstrakcyjną maszynę obliczeniową, próbował nadać matematycznie precyzyjny sens pojęciom algorytmu i mechanicznej procedury. Jego model nie był projektem konkretnego urządzenia. Stanowił analizę najprostszych działań, z których można zbudować obliczenie: odczytania symbolu, zastosowania reguły, zapisania wyniku i przejścia do kolejnego kroku. Idea maszyny uniwersalnej pokazywała natomiast, że jedno urządzenie może wykonywać dowolny program, zamiast być budowane od nowa dla każdego zadania.

Uniwersalność komputera nie polega zatem na tym, że potrafi wszystko. Polega na tym, że można wielokrotnie zmieniać jego przeznaczenie.

Ta sama maszyna staje się kalkulatorem, edytorem, instrumentem, systemem księgowym, aparatem fotograficznym albo narzędziem projektowym. Materia pozostaje względnie stała; zmienia się opis czynności, które ma wykonać.

Pamięć zmienia instytucje

Komputer nie rozwijał się wyłącznie jako maszyna licząca. Równie ważne było przekształcenie informacji w materiał nadający się do automatycznego porządkowania.

Karta perforowana wygląda dziś niepozornie: kawałek papieru z układem otworów. Jej znaczenie nie wynikało jednak z pojemności, lecz ze standaryzacji. Dane można było zapisać w formie czytelnej dla maszyny, a następnie sortować, zliczać i zestawiać bez każdorazowego odczytywania dokumentów przez człowieka.

System Hermana Holleritha wykorzystano podczas amerykańskiego spisu powszechnego z 1890 roku. Karty i elektromechaniczne tabulatory przyspieszyły opracowywanie ogromnego zbioru danych demograficznych, choć wprowadzanie informacji nadal wymagało pracy tysięcy ludzi. Od lat trzydziestych do siedemdziesiątych XX wieku karty perforowane stały się jednym z podstawowych nośników przetwarzania danych w administracji i biznesie.

Był to krok od mechanizacji rachunku do mechanizacji pamięci instytucjonalnej.

Informacja zapisana w jednolitym formacie może być wyszukiwana, porównywana i łączona z innymi informacjami. Zaczyna funkcjonować niezależnie od dokumentu, miejsca i osoby, która ją zgromadziła. Wraz z bazami danych instytucje zyskały zdolność pamiętania w skali wcześniej niemożliwej.

Jednocześnie cyfrowa pamięć nigdy nie jest neutralnym magazynem. System zapamiętuje tylko to, dla czego wcześniej przygotowano odpowiednie pole, kategorię i format. To projektant bazy danych rozstrzyga, czy człowiek zostanie opisany jako obywatel, pacjent, klient, pracownik, podejrzany czy użytkownik.

Cyfryzacja nie polega więc jedynie na zapisywaniu rzeczywistości. Najpierw trzeba zdecydować, które jej fragmenty są danymi.

Od tej chwili człowiek coraz częściej istnieje wobec instytucji jako rekord: zestaw numerów, uprawnień, transakcji, terminów i historii zachowań. System może pamiętać niezwykle dużo, ale wyłącznie w granicach świata, który został dla niego sklasyfikowany.

Interfejs uczy nas nie wiedzieć

Pierwsze systemy komputerowe wymagały od użytkownika stosunkowo głębokiej znajomości maszyny. Trzeba było rozumieć sposób wprowadzania danych, składnię poleceń, organizację pamięci i ograniczenia konkretnej architektury.

Z czasem kolejne warstwy oprogramowania zaczęły tę złożoność zasłaniać.

W rozwijanym od 1973 roku komputerze Xerox Alto połączono mysz, graficzny ekran, sieć, pocztę elektroniczną i oprogramowanie pozwalające pracować z oknami oraz dokumentami przypominającymi ich późniejszą postać drukowaną. Nie był to pierwszy eksperyment z grafiką ani urządzeniami wskazującymi, lecz Alto zebrał wiele tych rozwiązań w jednym środowisku, które silnie wpłynęło na późniejsze komputery osobiste.

Interfejs graficzny nie był wyłącznie zmianą estetyczną. Przedefiniował relację człowieka z komputerem.

Dokument stał się kartką. Katalog — teczką. Usuwanie pliku — wyrzuceniem go do kosza. Techniczny proces zastąpiono metaforą zaczerpniętą ze świata fizycznego. Użytkownik nie musiał znać polecenia ani rozumieć struktury systemu. Wystarczyło, że rozpoznawał obiekt i potrafił wykonać na nim intuicyjne działanie.

Było to jedno z największych osiągnięć projektowania interakcji. Miliony ludzi mogły korzystać z komputerów bez wcześniejszego przygotowania technicznego. Ceną tej dostępności stało się jednak stopniowe ukrywanie mechanizmu.

Każda dobrze zaprojektowana warstwa interfejsu pozwala użytkownikowi wiedzieć mniej o tym, co dzieje się pod spodem. Nie musi rozumieć sposobu zapisu pliku, przydzielania pamięci, działania sieci ani fizycznego położenia danych. Widzi skutek, lecz nie musi znać przyczyny.

Nie jest to samo w sobie problemem. Żadna złożona cywilizacja nie mogłaby działać, gdyby każdy człowiek musiał rozumieć wszystkie używane urządzenia. Trudność zaczyna się wtedy, gdy niewidoczność mechanizmu uniemożliwia ocenę jego działania.

Interfejs najpierw oszczędza użytkownikowi wiedzy. Później może odebrać mu możliwość kontroli.

Od osobistej maszyny do cudzej infrastruktury

Komputer osobisty niósł obietnicę decentralizacji. Moc obliczeniowa, wcześniej dostępna przede wszystkim państwom, uniwersytetom i wielkim przedsiębiorstwom, trafiała na biurka oraz do domów.

Wczesne komputery osobiste często wymagały aktywnego udziału użytkownika. Zachęcały do wpisywania kodu, modyfikowania programów, wymieniania podzespołów i rozumienia ograniczeń sprzętu. Ich niedoskonałość miała walor edukacyjny: maszyna nie zdążyła jeszcze całkowicie ukryć swojej technicznej natury.

Sieć rozszerzyła tę autonomię. W październiku 1969 roku przesłano pierwsze dane między dwoma węzłami ARPANET-u, jednego z najważniejszych poprzedników internetu. Pod koniec roku sieć obejmowała cztery ośrodki, a w kolejnych latach rosła jako środowisko komunikacji między różnymi komputerami i instytucjami.

Najważniejsza przestała być pojedyncza maszyna. Liczyło się to, z czym mogła się połączyć.

Sieć ułatwiła publikowanie, współpracę i wymianę wiedzy. Dokument mógł być jednocześnie dostępny dla wielu osób, kopiowany niemal bez kosztu i aktualizowany bez produkowania nowego fizycznego nośnika. Komputer stawał się elementem globalnego obiegu informacji.

Ta decentralizacja stworzyła jednak warunki dla nowej centralizacji.

Z czasem duża część codziennych czynności cyfrowych została przeniesiona do platform zarządzających komunikacją, handlem, wyszukiwaniem, rozrywką i tożsamością. Osobiste urządzenie coraz częściej działa jak terminal infrastruktury należącej do kogoś innego.

Użytkownik ma komputer w kieszeni, ale nie posiada systemu operacyjnego, sieci dystrybucji, magazynu danych ani modeli, które porządkują wyświetlane mu treści. Może korzystać z ogromnych możliwości, pod warunkiem że zaakceptuje reguły stworzone przez właściciela środowiska.

Historia informatyki nie jest prostym marszem od centralizacji do wolności. Każda nowa warstwa rozprasza część możliwości, po czym wokół najważniejszych zasobów powstają nowe centra kontroli.

Polska: wynalazek nie wystarcza

Dominująca historia informatyki prowadzi zwykle przez brytyjskie laboratoria, amerykańskie uniwersytety, IBM, Xerox i Dolinę Krzemową. Tak zbudowana opowieść pomija państwa, w których rozwój komputerów zależał od innych warunków: dostępności podzespołów, polityki przemysłowej, licencji, decyzji administracyjnych i trwałości instytucji.

W 1958 roku uruchomiono XYZ, uznawany za pierwszy działający polski komputer cyfrowy. W kolejnych dekadach powstały między innymi konstrukcje ZAM, produkowane we Wrocławiu komputery Odra oraz minikomputer K-202 rozwijany przez zespół Jacka Karpińskiego.

Historie tych maszyn bywają opowiadane jako dramat wybitnych konstruktorów powstrzymanych przez biurokrację. Ten obraz jest atrakcyjny, ale zbyt łatwo zamienia historię techniki w mit samotnego geniusza.

Komputer nie jest samym projektem urządzenia. Potrzebuje dostawców, produkcji seryjnej, dokumentacji, oprogramowania, serwisu, szkoleń i organizacji gotowych dostosować do niego swoją pracę. Nawet znakomity prototyp pozostaje epizodem, gdy nie powstanie system umożliwiający jego rozwój przez kolejne lata.

Polska historia informatyki pokazuje zatem coś ważniejszego niż obecność lokalnych wynalazców. Przypomina, że innowacyjność nie polega jedynie na zdolności stworzenia oryginalnego rozwiązania. Jest zdolnością całego otoczenia do jego produkowania, utrzymywania i ulepszania po zakończeniu efektownej fazy eksperymentu.

Ta lekcja pozostaje aktualna w epoce sztucznej inteligencji. Sam model nie tworzy jeszcze trwałej technologii. Potrzebuje danych, infrastruktury, energii, dystrybucji, kapitału, kompetencji i instytucji zdolnych ponosić odpowiedzialność za jego działanie.

Model nie jest nowym programem

Sztuczna inteligencja bywa przedstawiana jako następca tradycyjnego oprogramowania. W rzeczywistości model uczenia maszynowego pozostaje jednym z elementów większego systemu.

Wokół niego nadal pracuje klasyczny kod. Zarządza kontami użytkowników, pamięcią, siecią, płatnościami, bazami danych, uprawnieniami, filtrowaniem treści i dostępem do innych narzędzi. Bez tej infrastruktury model byłby kosztowną strukturą matematyczną pozbawioną praktycznego zastosowania.

Zmienia się jednak sposób powstawania części zachowań.

W tradycyjnym programie człowiek opisuje reguły, według których system ma reagować. W uczeniu maszynowym projektuje architekturę, dobiera dane, metodę treningu i kryteria optymalizacji, natomiast zachowanie modelu wyłania się z ogromnej liczby dostosowanych parametrów.

Nie przechodzimy więc po prostu od programu do modelu. Przechodzimy od systemów opartych głównie na jawnych instrukcjach do systemów hybrydowych, w których kod deterministyczny otacza komponent działający probabilistycznie.

To zmiana głębsza niż kolejny etap automatyzacji.

Błąd klasycznego programu można często przypisać konkretnej instrukcji, niewłaściwemu warunkowi albo nieprzewidzianemu stanowi. Błędna odpowiedź modelu nie musi wynikać z usterki. Może być poprawnym rezultatem jego działania: statystycznie prawdopodobną kontynuacją, która przypadkiem nie odpowiada rzeczywistości.

Niepewność nie jest tu awarią systemu. Jest jedną z jego właściwości.

Dlatego model nie powinien być oceniany wyłącznie na podstawie najlepszych rezultatów. Równie ważne są granice jego wiarygodności: jak często się myli, w jakich warunkach traci stabilność, czy potrafimy rozpoznać błąd i co następuje po jego popełnieniu.

Maszyna nie musi myśleć

Debata o sztucznej inteligencji zbyt często zatrzymuje się na pytaniu, czy maszyna naprawdę myśli.

Pytanie jest filozoficznie interesujące, lecz dla gospodarki i instytucji może mieć znaczenie drugorzędne. Model nie musi posiadać świadomości ani rozumieć świata w sposób właściwy człowiekowi, aby wytwarzać rezultaty przypominające produkty pracy poznawczej.

Może sporządzić streszczenie, przetłumaczyć dokument, uporządkować argumenty, napisać fragment programu, przygotować projekt pisma lub wskazać prawdopodobną zależność w danych. Nie przejmuje ludzkiego myślenia jako wewnętrznego doświadczenia. Przejmuje niektóre jego zewnętrzne rezultaty.

To rozróżnienie ma zasadnicze znaczenie.

Instytucje nie zatrudniają człowieka po to, aby posiadał świadomość przy biurku. Płacą za rezultat: analizę, odpowiedź, diagnozę, projekt, kod albo decyzję. Jeżeli system potrafi dostarczyć wystarczająco podobny produkt szybciej i taniej, może zmienić organizację pracy niezależnie od tego, co rzeczywiście „dzieje się” wewnątrz modelu.

Nie oznacza to pełnego zastąpienia człowieka. Rezultat trzeba jeszcze umieścić w kontekście, zweryfikować i przyjąć za niego odpowiedzialność. Problem polega na tym, że automatyzacja tworzenia odpowiedzi postępuje szybciej niż automatyzacja ich rzetelnej oceny.

Wytworzenie przekonującego tekstu staje się tanie. Sprawdzenie, czy jest prawdziwy, może nadal wymagać wiedzy, czasu i dostępu do źródeł.

AI nie usuwa więc kosztu myślenia. Często przesuwa go z tworzenia odpowiedzi na jej kontrolę.

Chmura ma ciężar

Język informatyki konsekwentnie usuwa materię z pola widzenia. Dane „płyną”, usługi pracują „w chmurze”, a modele zdają się istnieć w czystej przestrzeni matematycznej.

Pod tymi metaforami działają fabryki półprzewodników, centra danych, elektrownie, transformatory, systemy chłodzenia i sieci przesyłowe. Każde zapytanie wykonywane przez model jest fizyczną operacją zachodzącą w konkretnym urządzeniu, zasilanym z konkretnego systemu energetycznego.

Według prognoz globalne zużycie prądu przez centra danych może do końca dekady niemal się podwoić. Ośrodki skoncentrowane na AI mają zwiększać zużycie energii znacznie szybciej niż pozostała infrastruktura cyfrowa.

Sztuczna inteligencja jest zatem przemysłem ciężkim wyposażonym w lekki interfejs.

Jej przyszłość zależy nie tylko od lepszych algorytmów. Zależy od produkcji półprzewodników, dostępu do energii i wody, rozbudowy sieci oraz odporności łańcuchów dostaw. Władza nad informatyką coraz wyraźniej pokrywa się z władzą nad jej materialnym zapleczem.

Im łatwiej użytkownikowi wywołać cyfrową usługę, tym mniej widoczne stają się warunki konieczne do jej istnienia.

Programowanie po automatyzacji kodu

Generowanie kodu nie kończy programowania. Zmienia natomiast proporcje między wytwarzaniem instrukcji a projektowaniem całego systemu.

Kod trzeba uruchomić, przetestować, obserwować, zabezpieczać i aktualizować. Musi współpracować z istniejącymi usługami, respektować uprawnienia, prawidłowo przechowywać dane i zachowywać się przewidywalnie podczas awarii.

Automatyzacja może obniżyć koszt tworzenia kolejnego fragmentu oprogramowania, ale nie musi zmniejszyć kosztu jego odpowiedzialnego utrzymania. Łatwość produkcji może wręcz zwiększyć liczbę zależności, podatności i komponentów, których nikt nie rozumie w całości.

Rola programisty przesuwa się więc od autora każdej instrukcji w stronę projektanta granic.

Trzeba określić, gdzie model może działać samodzielnie, kiedy powinien poprosić o zatwierdzenie, do jakich danych wolno mu sięgać i jakie konsekwencje może wywołać jego błąd. Należy rozstrzygnąć, które procesy mogą pozostać probabilistyczne, a które muszą działać według niezmiennych reguł.

Najważniejsze pytanie nie brzmi już: „Czy model potrafi wykonać to zadanie?”.

Brzmi: „Jak zaprojektować system, w którym jego błąd nie zamieni się automatycznie w szkodę?”.

Droga od pytania do odpowiedzi

Każda epoka informatyki usuwała z pola widzenia kolejną część mechanizmu.

Maszyny liczące ukryły rachunek. Bazy danych — pracę pamięci instytucjonalnej. Interfejsy — kod. Sieć — drogę informacji. Chmura — miejsce i materialną skalę infrastruktury.

Sztuczna inteligencja ukrywa coś więcej: drogę prowadzącą od pytania do odpowiedzi.

Nie oznacza to, że maszyna przejęła ludzkie myślenie. Oznacza jednak, że coraz więcej organizacji może otrzymywać użyteczne rezultaty pracy poznawczej bez udziału człowieka w każdym etapie ich wytwarzania.

Właśnie tutaj przebiega obecna granica automatyzacji.

Komputer nie był początkiem tego procesu. Był jego niezwykle skutecznym narzędziem. AI również nie będzie końcem. Jest kolejną warstwą między człowiekiem a systemem, od którego człowiek coraz częściej oczekuje nie tylko wykonania instrukcji, lecz także sformułowania odpowiedzi.

Historia informatyki nie jest archiwum dawnych urządzeń. Jest historią czynności, których stopniowo przestawaliśmy dokonywać osobiście — oraz systemów, od których w zamian zaczynaliśmy zależeć.