W obronie gapienia się w pustą kartkę
Czatboty mają nas we wszystkim wyręczać. A co z nauką na własnych błędach?
Branża cyfrowa robi ostatnio sporo, by przekonać nas, że zasilane sztuczną inteligencją czatboty nie są tylko generatorami żartów.
Od globalnych przedsiębiorstw po niszowych “liderów opinii”, wszyscy wymyślają przykłady zastosowań ChatGPT, Barda czy Bing AI. Jak zwykle nie brakuje idei zupełnie odklejonych — technosolucjonistycznych mrzonek o tym, jak to “SI rozwiąże [tu wstaw globalny problem]” czy proroczych twierdzeń o tym, że “SI zmieni [tu wstaw cokolwiek]”. Do tworzenia słabo uargumentowanych, za to dobrze się klikających analiz ruszyli dyżurni eksperci od wszystkiego, z Hararim na czele. Ale padają też konkrety, przykłady praktycznych zastosowań, pomysły na to, jak czatboty wpiszą się w prozę życia.
Na niedobór inspiracji nie mogą narzekać przede wszystkim takie branże, jak IT, konsulting, akademia, dziennikarstwo. W poszukiwaniu określenia na ten segment populacji, który ma najbardziej skorzystać na rozwoju czatbotów, można sięgnąć po “klasę profesjonalno-menadżerską” czy “kognitariat”. Ja jednak proponuję inne: klasa zabiurkowa. Jeśli twoje główne zajęcie polega na siedzeniu za biurkiem (i robieniu rzeczy), to do niej należysz. A rewolucja SI odmieni twoje życie.
Reklama Googlowego AI jest doskonałym przykładem takiej opowieści. W komentarzach do niej zdają się dominować dwa rodzaje reakcji. Jeden to naiwny technooptymizm: “What a time to be a user. This competition between Google and Microsoft sure will bear fruits, we were in need for it”, “We aren't even realizing how historic this era we live in is”. Kopiuj/wklej z komentarzy do dowolnej reklamy technologicznych innowacji.
Drugi typ reakcji stanowią głosy dostrzegające za fasadą obietnic Google’a dystopijną wizję przyszłości klasy zabiurkowej:
Make AI write emails for you, so that the recipients can use AI to reply, and in the end it’s just Google having a conversation with itself
Human: "I'm on it" AI: writes long useless mail Human: "Blegh, summarize it" AI: "He's on it!"
Isn't this kind of astonishing/terrifying? I'm no technophobe but I think we're pretty much a couple steps from office clerical work being done almost entirely via human review. Imagine 5 years from now when Google/Bing and all these other AI apps hoover up all of this data and get smarter and approved with wide commercial usage. Clerical work is dead, especially if you're just a pencil pusher. It will condense 10+ jobs into one, reviewing the changes and automations of the AI. What's even more concerning is it's ability to get things wrong, we'll be so disconnected from the actual work itself that when it does make a mistake it could be small, or disastrous.
Misternie tkana opowieść zaczyna się pruć, gdy pociągnie się mocniej któryś z jej wątków. A wątki te tworzą społeczne praktyki cyfrowe. Nie będę się tu szerzej rozwodził na temat ich teorii. Zainteresowane osoby zapraszam do tekstu, w którym przybliżam ją na przykładzie tworzenia zrzutów ekranu. W praktyce praktyki społeczne to pewne powtarzalne, powszechnie zrozumiałe sposoby działania (w tym także mówienia czy pisania), w których uczestniczy ciało oraz jego materialne otoczenie. To gotowanie czy jazda na rowerze, ale i tweetowanie czy livestreaming.
W powyższej reklamie Google skupia się na jednym przykładzie cyfrowych praktyk, które SI ma ułatwić, przyspieszyć, usprawnić: mailowaniu. Kłopot w tym, że wydaje się jej do końca nie rozumieć. Tymczasem wprowadzenie do praktyki nowego aktora w postaci SI może wywołać cały szereg dziwnych, negatywnych skutków. Obrazowo opisał je John Herrman (na którego świetny esej trafiłem dzięki substackowi Dave’a Karpfa):
“[…] for those who might interact with people who have these jobs — that is, those who can expect to be on the receiving end of this plentiful new content — these features read a bit differently. Are you excited for your co-workers to become way more verbose, turning every tapped-out “Sounds good” into a three-paragraph letter? Are you glad that the sort of semi customized mass emails you’re used to getting from major brands with marketing departments (or from spammers and phishers) are now within reach for every entity with a Google account. Are you looking forward to wondering if that lovely condolence letter from a long-lost friend was entirely generated by software or if he just smashed the “More Heartfelt” button before sending it?
Groza pustej kartki
Praktyki związane z pisaniem często powracają w materiałach promujących czatboty. Szczególnie mocno odwołują się one do jednego, bardzo specyficznego, związanego z nimi doświadczenia: gapienia się w pustą kartkę.
Wydaje się, że to ważny element wspólnoty doświadczeń przedstawicielek i przedstawicieli klasy zabiurkowej . “Kartka” jest tu oczywiście symbolem: to plik tekstowy, pierwszy slajd prezentacji, nowy mail, edytor kodu. Samo gapienie może z kolei być wywołane licznymi czynnikami, od braku pomysłów, twórczej blokady, przez znudzenie pisaniem ciągle tego samego, po ogólne zmęczenie. Ostatecznie jednak wszyscy lądujemy w tej samej sytuacji, mierząc się z horror vacui.
“How much of your day is spent drafting emails, preparing presentations, or staring at a blank page? AI can help lighten the load” — chwali się Microsoft, reklamując dodanie do pakietu Office zasilanego SI następcy Pana Spinacza. W podobne tony uderza aplikacja do notatek Notion, która również zaimplementowała niedawno SI: “When you’re stuck staring at a blank page, ask Notion AI for ideas — or an entire draft — to get started”. "With AI presentations, you no longer have to stare at a blank presentation slide wondering where to take a pitch, or how you’re going to showcase your data. Your ideas come to life like magic” — to z kolei cytat ze strony startupu beautiful.ai.
Gdy czytam o tych problemach, mam w głowie jedno słowo: REL.
To przez grozę pustej kartki późno zacząłem pracę nad doktoratem, za mało publikuję, zaniedbuję tego susbtacka.
Niewielkie pocieszenie przynosi myśl, że nie ja jeden się z tym męczę. Refleksja nad powszechnością tego problemu stanowi punkt wyjścia Warsztatu pisarskiego badacza Howarda S. Beckera. Jak pisze:
Klasyczne opisy problemów związanych z pisaniem często zawierają taki oto sugestywny obraz: na biurku leży kartka czystego papieru, która aż się prosi, żeby coś na niej napisać, a tymczasem autor siedzi nad nią sparaliżowany lękiem. Każde słowo wydaje mu się niewłaściwe, a nawet groźne.
Wydaje się więc, że Microsoft, Google czy Notion trafnie zdiagnozowali problem, któremu ich narzędzia mogą zaradzić. Znaleźli Święty Graal projektowania produktów: powszechną potrzebę i sposób jej zaspokojenia. Co więcej, to potrzeba paląca, bo dla wielu osób konsekwencje nieradzenia sobie z potworną pustą kartką bywają naprawdę ciężkie. Znów zacytuję Beckera, tym razem piszącego o towarzyszącemu pisaniu tekstów naukowych czy publicystycznych wyzwaniu “precyzyjnego opisu porządku empirycznego”:
Wiemy, że nie możemy opisać wszystkiego. Tak naprawdę jednym z celów nauki i naukowców jest właśnie redukowanie tego, co należy opisać, do możliwych do opanowania proporcji. Ale co można pominąć? Gdzie umieścić to, co uwzględniamy? Być może świat empiryczny jest uporządkowany, ale nie tak prosty, żebyśmy od razu wiedzieli, jakie tematy powinniśmy uwzględnić w pierwszej kolejności. Dlatego ludzie gapią się na czyste kartki i setki razy przepisują pierwsze zdanie. Mają nadzieję, że dzięki tym mistycznym ćwiczeniom nagle wpadną na Jedyny Właściwy Sposób uporządkowania tego wszystkiego.
A co jeśli nie uda ci się znaleźć odpowiedniego sposobu organizacji? (…) Co jeśli (…) uznasz, że każdy sposób porządkowania rzeczywistości okaże się pod jakimś względem niepoprawny, i w ogóle zrezygnujesz z nadawania jej porządku? To jest najgłębsze źródło niepokoju autorów siedzących nad czystą kartką. Co jeśli nie potrafimy – po prostu nie potrafimy – uporządkować tego chaosu? Nie wiem, jak to wygląda u innych, ale u mnie rozpoczynanie pracy nad nowym tekstem wywołuje klasyczne objawy lęku: zawroty głowy, ucisk w żołądku, dreszcze, a nawet zimne poty.
W tym kontekście czatboty to coś więcej niż cyfrowi asystenci, Watsonowie dla naszych wewnętrznych Holmes’ów, rozwiewający chmury jednoosobowych burz mózgów. To lekarstwo, suplement diety zwiększający odporność na twórcze kryzysy.
Przy całym swoim technosceptycyzmie (choć wolę go nazywać realizmem czy pragmatyzmem) nie twierdzę, że tak nie jest! Wsparcie SI z pewnością ułatwi zabiurkowy żywot wielu osobom. Oszczędzi bezsennych nocy, uchroni przed bólem brzucha. To dobrze! Pomagając w postawieniu na pustej kartce pierwszych znaków, SI może przysłużyć się tym, którym niezawinione przecież kłopoty z pisaniem utrudniały zawodowy rozwój czy realizowanie pasji.
Po co się męczyć?
Kłopot zacznie się w momencie, w którym lekarstwo — produkt o określonym zastosowaniu, dozowaniu, efektach ubocznych — zostanie potraktowane jak magiczne panaceum.
Gapienie się w pustą kartkę, zmagania z nią, mają bowiem w niektórych sytuacjach dużą wartość. Czasem celem pisania jest wyłącznie wyprodukowanie tekstów, opakowanie w słowa zestawu danych, informacji. Bywa jednak i tak, że równie ważny jest sam proces pisania, myślenie poprzez pisanie, o którym wspominałem w “manifeście” tego newslettera. Dla SI tekst jest czymś w rodzaju łamigłówki do rozwiązania. Eksperci podkreślają, że czatboty posługują się językiem zupełnie inaczej niż ludzie, że brak im jego zrozumienia.
Some things get better as we make these neural network models, and some don’t. The reason that some don’t, in particular reliability and truthfulness, is because these systems don’t have those models of the world. They’re just looking, basically, at autocomplete. They’re just trying to autocomplete our sentences. And that’s not the depth that we need to actually get to what people call A.G.I., or artificial general intelligence.
— tłumaczył Gary Marcus w podcaście Ezry Kleina.
Dla czatbotów reguły pisania mają charakter algorytmów. Takie ich postrzeganie to pułapka, w którą wpada także wielu ludzi. Ponownie zacytuję Beckera:
(…) studenci, którzy uważali, że reguły pisania mają charakter algorytmów (nie zmyśliłem tego – niektórzy naprawdę tak sądzili), mieli z pisaniem trudności, w odróżnieniu od studentów, którzy traktowali te reguły jako heurystyczne wskazówki.
Nie możemy więc pisać ani nawet redagować, traktując reguły, którymi się kierujemy, jak algorytmy. Skoro tak, to czym się kierujemy? Po prostu własnym słuchem. Co to oznacza? Spoglądając na czystą albo zapisaną kartkę papieru, wybieramy te rozwiązania, które naszym zdaniem „dobrze brzmią” albo „dobrze wyglądają”. Używamy zasad heurystycznych – niektóre z nich są precyzyjne, a inne dosyć rozmyte.
Nie widzę sposobu, w jaki czatboty miałyby nam pomóc nauczyć się tych zasad. Bez nich zaś skazujemy się na ciągłe odtwarzanie tych samych schematów, tyranię nudy i wodolejstwa. Tym niestety grozi choćby beztroskie stosowanie SI w dziennikarstwie. Gdy efektów pracy algorytmów nie podda się ludzkiej kontroli, efekty bywają żałosne. Nie znaczy to, że dla czatbotów nie ma miejsca w redakcjach czy uniwersytetach, gdzie, przynajmniej w teorii, często potrzeba “dobrego pióra” i kreatywności.
Uważam jednak, że jako klasa zabiurkowa powinniśmy zaprzyjaźnić się z pustą kartką, a nie tylko od niej uciekać. Uczyć się, jak sobie z nią radzić, oswajać. Nie po to, by się umartwiać, ale mieć pewność, że drogą na skróty nie omijamy czegoś ważnego.