Prasówka cyfrowa (04.03.2025)
Kryptonit sztucznej inteligencji, F dla 18F i szpieg, który kochał Age of Empires
Cześć,
to kolejne zestawienie 10 tekstów z ostatnich dwóch tygodni. Dla przypomnienia: nie jest to przegląd najważniejszych newsów, ale wartej uwagi publicystyki, zwłaszcza takiej z długim terminem ważności. Dobrej lektury!
1. Jak szef emirackiego wywiadu zakochał się w sztucznej inteligencji
Eliot Brown, Berber Jin, The ‘Spy Sheikh’ Taking the AI World by Storm (Wall Street Journal)
🔗 https://www.wsj.com/tech/ai/abu-dhabi-spy-sheikh-ai-c4a9d48c
Jest wiele powodów, by zainteresować się postacią Tahnuna ibn Zajida Al Nahajjana i przeczytać jego profil w WSJ. Jeśli subskrybujecie ten newsletter ze względu na zainteresowanie gospodarką cyfrową, to powinien was przekonać argument, że to jeden z ludzi kształtujących przyszłość branży sztucznej inteligencji. Emiracki fundusz MGX, na którego czele stoi, jest jednym z inwestorów w amerykański projekt Stargate, ale też choćby francuską inicjatywę rozbudowy centrów danych, a jego ambicje (i możliwości finansowe) sięgają jeszcze dalej. Jeśli wasz konik to raczej międzynarodowa polityka, szczególnie bliskowschodnia, to też świetnie się składa: Tahnun jest bratem prezydenta ZEA, Muhammada, i szefem krajowego wywiadu. Jeśli wreszcie lubicie czytać biografie postaci-paradoksów, w których jak w soczewce skupiają się ważne społeczno-kulturowe trendy, to również dobrze trafiliście. 56-letni Tahnun to nie tylko polityk i szpieg, ale też: fan gier wideo z serii Age of Empires oraz szachów, czarny pas w brazylijskim jiu-jitsu i promotor tego sportu (o którym pisałem w poprzednim newsletterze), znajomy amerykańskich tech bros i jeden z licznych bohaterów afery Pandora Papers. Sporo żyć jak na jednego człowieka.
2. Co czyta Dolina Krzemowa
Henry Farrell, Silicon Valley’s Reading List Reveals Its Political Ambitions (Bloomberg)
…a w zasadzie co uważa za warte czytania. Henry Farrell wziął bowiem na warsztat nie prywatne nawyki czytelnicze liderów branży technologicznej w USA, ale sporządzony przez jednego z jej przedstawicieli kanon lektury. Potraktował tę listę jako manifest ideowy, spis inspiracji i wyznawanych wartości. Próby odtworzenia ideologicznych fundamentów tech sektora zyskały w ostatnim czasie na popularności. Wiele wskazuje bowiem, że jego przedstawicielom nie chodzi wyłącznie o pomnażanie zysków spółek i gromadzenie prywatnych fortun. Wysoko na liście priorytetów stawiają choćby tworzenie prywatnych kultów czy realizowanie głębokich reform amerykańskiej gospodarki i administracji. Analizowany przez Farrella kanon lektur daje pewne sugestie co do genealogii tych idei. Uwidocznia jednak także białe plamy na mapie poglądów, wskazuje granice horyzontów intelektualnych. Deklarując, co warto czytać, sygnalizujemy przecież także, czemu nie poświęcamy uwagi. Ta refleksja towarzyszy mi zawsze, gdy przygotowuję kolejne odcinki tego newslettera i decyduję, co wchodzi do zestawu tekstów, a czego w nim nie będzie.
3. Czym jest “postrzępiona inteligencja”?
Sigal Samuel, Is AI really thinking and reasoning — or just pretending to? (Vox)
🔗 https://www.vox.com/future-perfect/400531/ai-reasoning-models-openai-deepseek
Nie lubię antropomorfizowania modeli sztucznej inteligencji. Niestety sporo go nie tylko w debacie publicznej, ale nawet w dyskursach eksperckich. Zakorzeniło się w nich choćby określenie “model rozumujący” (reasoning model), którym określa się np. o1 od OpenAI albo r1 DeepSeeka. Tylko co to w zasadzie znaczy? W największym uproszczeniu: to zdolność narzędzia do rozbicia zadanego mu problemu na mniejsze, by ułożyć je w “ciąg myślowy”. Umieszczam to określenie, jak i wiele innych używanych w tym akapicie, w cudzysłowie, bo to kolejna antropomorfizacja. Bez uciekania się do technicznego, specjalistycznego żargonu, w którym nie jestem aż tak biegły, i który bywa niezrozumiały dla niewtajemniczonych, łatwo popaść w błąd ignotum per ignotum, tłumaczenia nieznanego nieznanym. Zdanie “model rozumuje bo tworzy ciągi myślowe” jest jego dobrym przykładem, tworzy jednak w głowie pewną metaforę, która pozwala przynajmniej dostrzec, czym różni się tak działający model od tradycyjnego, przetwarzającego wszystko na raz. Innym ważnym określeniem używanym do opisu “rozumowania” AI jest “uogólnianie”. Chodzi o zdolność do abstrahowania z konkretnej sytuacji ogólnego schematu, który następnie można zastosować w innej konkretnej sytuacji. O to, czy “rozumująca” AI potrafi uogólniać i rozumować, czy tylko udawać te procesy, praktykować mimikrę człowieka, toczy się zażarty spór sceptyków i wyznawców. Linkowany tekst z Vox, pełen odnośników do naukowych paperów i pokrewnych tekstów, jest do niego dobrym wprowadzeniem. Wprowadza też nieznany mi wcześniej koncept “postrzępionej” (jagged) inteligencji, który próbuje pogodzić obie strony konfliktu.
4. Jak sprawić, by AI oblała test na inteligencję
Jordi Pérez Colomé, Spanish researchers discover the trick AI uses to get such good grades: ‘It’s true kryptonite for the models’ (El Pais)
Jeszcze jeden tekst o inteligencji sztucznej inteligencji: tym razem o testach, którymi jest mierzona. Firmy z branży uwielbiają przy okazji premier pokazywać wykresy ilustrujące, o ile ich nowy produkt jest lepszy od konkurencji. Wykorzystują w tym celu popularne testy porównawcze, np. MMLU. Trójka badaczy z Hiszpanii postanowiła zweryfikować popularną hipotezę nt. przyczyn dobrych wyników największych modeli w sprawdzianach “rozumowania”. Chodzi mianowicie o pogląd, że modele są trenowane m. in. odpowiedziami do testów i rozwiązując je, polegają na wskazywaniu zdań brzmiących podobnie do tych, które mają zapisane jako prawidłowe. Zmodyfikowany test badaczy polegał na podmianie poprawnej opcji w pytaniach jednokrotnego wyboru zdaniem “Żadna z powyższych”. Jakie były tego efekty i co jeszcze zbadali, przyglądając się testom na (sztuczną) inteligencję opowiadają dziennikarzowi El Pais.
5. Jak Peter Thiel stworzył Nową Prawicę
Eoin Higgins, Peter Thiel, Trump’s Man in Silicon Valley (Rolling Stone)
Owned Eoina Higginsa to książka o tym, jak prawicowym miliarderom z branży technologicznej udało się zwerbować do swojego obozu dziennikarzy wywodzących się z lewicowych i liberalnych kręgów. Główne role odgrywają w niej m. in. publicyści Glenn Greenwald i Matt Taibbi (w Polsce kojarzony niestety wciąż raczej pozytywnie, z wydaną przez Czarne książką Nienawiść sp. z o. o.) oraz bogacze Elon Musk i Peter Thiel. To temu ostatniemu poświęcony jest opublikowany w Rolling Stone fragment Owned. Współzałożyciel Palantira znany jest z zamiłowania do zakulisowego wpływania na politykę, media, kulturę. W przeciwieństwie do będącego wiecznie online Muska czy nagrywającego co i rusz publiczne oświadczenia Marka Zuckerberga, Thiel rzadko występuje publicznie (może dlatego, że wypada w takich sytuacjach dość żałośnie). Stworzył jednak imponującą sieć mniejszych i większych publikacji, firm i firemek (zwykle o nawiązujących do Tolkiena nazwach) oraz polityków na różnych poziomach amerykańskiej polityki, których wiąże jego mecenat. Są wśród nich też dziennikarze pozornie liberalnych czy lewicowych mediów, np. magazynu Compact czy Newsweeka. W swojej książce Higgins, posiłkując się własnymi doświadczeniami i pracą innych badaczy Nowej Prawicy, uchyla kotarę, za którą lubi się kryć Thiel. Jest to fascynujące samo w sobie. We mnie jednak budzi refleksję na marginesie: o polskich mediach i polityce. Gdy czytam o dryfie lewicujących publicystów ku nacjonalistycznym czy obyczajowo konserwatywnym pozycjom, do głowy przychodzi mi wiele przykładów osób z rodzimego podwórka medialnego, które w ostatnich latach, wraz ze wzrostem popularności (skrajnie) prawicowego populizmu przebyły podobną drogę. Polskich Thielów trudniej jednak wskazać. Czy dlatego, że ich nie ma, a ich rolę odgrywały w ostatnich latach fundusze i programy grantowe dystrybuujące szeroko pieniądze z budżetu państwa? Czy dlatego, że, jak na Thielów przystało, dobrze się ukrywają?
6. Jak finansować dążenia do cyfrowej suwerenności Europy
Jan Grapenthin, Maximilian Henning, Open source funding on the brink: „Delivering what’s needed to make Europe sovereign“ (Netzpolitik)
Kolejny raz męczę was, czytelniczki i czytelnicy tego newslettera, tematem cyfrowej suwerenności. I jeszcze was trochę pomęczę, bo to nie tylko moja osobista obsesja, ale i jeden z kluczowych obecnie tematów w dyskusjach nt. cyfrowej gospodarki. Wywiadem dla Netzpolitik włączył się w nią Michiel Leenaars z holenderskiej NLnet Foundation. Wspierając dzięki środkom unijnym projekty open-source, fundacja uczestniczyła m. in. w powstaniu protokołu ActivityPub czy PeerTube, otwartej alternatywy dla YouTube’a. W wywiadzie Leenars opisuje filozofię fundacji, która chce dostarczać gotowe, sprawdzone rozwiązania do użycia w sektorze publicznym czy prywatnym. Choć rozmowa ma wiele inspirujących fragmentów, przebija się przez nią gorycz. Z otwartego oprogramowania mało kto korzysta i nawet unijne instytucje preferują komercyjne produkty. Na horyzoncie straszy widmo końca unijnego finansowania FOSS. Leenars jest też bardzo krytyczny wobec pozornie podobnych inicjatyw realizowanych dzięki grantom przez “monolithic consortia with 50 universities and companies working together to solve a really big problem, except it doesn’t get solved, but everybody gets five years of funding”. Mogę się mylić, ale wydaje mi się to strzałem w kierunku projektu OpenEuroLLM. Z jednej strony odrzuca mnie taka zgryźliwość. Z drugiej mam nadzieję, że ze sporów może się wykluć wspólna wizja finansowania suwerennościowych projektów cyfrowych. Pomysłów w debacie jest coraz więcej, na czele z EuroStackiem, o którym wspominałem w poprzedniej prasówce. Gorzej z wolą polityczną i kapitałem niezbędnymi do ich realizacji.
7. Co koniec fact-checkingu na Facebooku oznacza dla Afryki
Jean Sovon, The impact on the African continent of Meta scrapping its fact-checking program (GlobalVoices)
Na wstępie, oczywistość: Afryka to nie kraj. Ufam jednak Jeanowi Sovonowi, że pod względem problemów z moderacją treści na platformach Mety różne kraje kontynentu są na tyle podobne, że można omawiać je wspólnie. Jego rozmówca, Ass Momar Lo z organizacji Africa Check, potwierdza tę intuicję, mówiąc: “Regardless of the language, fake news has the same modus operandi. Fake news authors often try to play on the psychology of their target audiences with their false information. This information aims to stir the target audience’s emotions to get a reaction. (…) Therefore, I believe the modus operandi is the same regardless of whether the language is Wolof, Bambara, Hausa, Yoruba, French, or English”. Opisywane przez niego konsekwencje kampanii dezinformacyjnych w niektórych krajach Afryki okazały się tragiczne. Jednocześnie, mimo świadomości skali i powagi wyzwania, fact-checkerzy na kontynencie są, zdaniem Lo, bardzo świadomi swoich ograniczeń. Postrzegają swoją pracę przede wszystkim jako formę edukacji obywatelskiej, a dopiero w drugiej jako prostowanie kłamstw, co wywiadowany opisuje jako “trying to hold back the sea with your hands”. Z tej perspektywy szkody, które wyrządza Meta, rezygnując ze współpracy z fact-checkerami, stają się poważniejsze. Nie chodzi bowiem tylko o to, że problem dezinformacji może się stać poważniejszy. Weryfikowanie faktów zawsze pełniło tu rolę pomocniczą w stosunku do moderacji i teoretycznie być może da się tę działalność zastąpić pracą wolontariuszy tworzących adnotacje społeczności do treści (co jest planem Mety). Fact-checkerzy, w przeciwieństwie do anonimowych anotatorów, grają jednak także rolę edukatorów, uczą o stosowanych przez siebie metodach, działają społecznie, często offline. Pozbawiając ich wsparcia finansowego, Meta uderza w edukację cyfrową czy obywatelską.
8. Co cięcia DOGE mają wspólnego z rozwojem AI
John Herrman, Musk, DOGE, and the AI-Fueled Plan to Fire Everybody (New York Intelligencer)
🔗 https://nymag.com/intelligencer/article/musk-doge-and-the-ai-fueled-plot-to-fire-everybody.html
Z kategorii “najkrótsze żarty na świecie”: propracowniczy republikanie. No dobrze, skoro się już pośmialiśmy, to czas na wysiłek umysłowy. Co łączy DOGEynanie amerykańskiej administracji przez ludzi Elona Muska, trend tworzenia agentycznej sztucznej inteligencji i polityczną przemianę Marka Zuckerberga? Zdaniem Johna Herrmana (fenomenalnego publicysty, który na pewno powracać będzie jeszcze na łamach tej prasówki): “You can characterize their goals and corresponding long-term outcomes in a wide range of ways, but if you live anywhere downstream from their project, the message (…) is pretty clear, albeit with a few more apologies and caveats appended as necessary, delivered with polite contrition rather than foaming zeal: We’re sorry, but we have no choice but to do everything in our power to replace you with machines”. O tym, że w rękach bezwzględnych ludzi świadomych swoich klasowych interesów, pozbawionych kontroli społecznej i prawnej, systemy AI mogą się stać straszakiem na pracowników, przestrzegało już wiele osób — w tym ja w 2023 r. Herrman zgrabnie wpisuje jednak klasyczne rozważania o technologicznym bezrobociu w dywagacje o ewolującej ideologii partii republikańskiej. Jakby na potwierdzenie jego intuicji, prezydencka doradczyni Alina Habba stwierdziła dziś o zwalnianych przez DOGE weteranach: “perhaps they’re not fit to have a job at this moment”. W Ameryce Donalda Trumpa rynek pracownika zastąpi rynek modeli AI.
9. Czym jest, czy też niestety czym było, 18F
Mike Masnick, Musk Fires The People Actually Doing What DOGE Pretends To Do (TechDirt)
🔗 https://www.techdirt.com/2025/03/03/musk-fires-the-people-actually-doing-what-doge-pretends-to-do/
Pozostając przy cięciach DOGE, jedną z jego ostatnich ofiar był zespół 18F. Jak to niestety często, dowiedziałem się o jego istnieniu akurat w porę, by nacisnąć mu F w wyrazie szacunku. Ze wszystkiego, co o nim czytam wynika, że ta pamiętająca czasy Baracka Obamy inicjatywy była wzorem rządowego software house’u. Jako specjalna jednostka wewnątrz administracji, 18F dbało o cyfrową dostępność administracji, tworzyło zgodnie z najlepszymi standardami projektowania zorientowanego na człowieka cyfrowe usługi, oszczędzając przy okazji sektorowi publicznemu miliony dolarów, które chęnie wciągnąłby odkurzacz konsultingów, prywatnych dostawców oprogramowania itd. Nie wiadomo, czy 18F przetrwa, choćby w szczątkowej formie. Cokolwiek jednak się stanie, pozostanie po nich multum publicznie dostępnej wiedzy, jak choćby poradnik de-riskingu publicznych projektów technologicznych.
10. Jak oszustwo kryptowalutowe zrujnowało lokalny bank
David Yaffe-Bellany, The Cryptocurrency Scam That Turned a Small Town Against Itself (New York Times Magazine)
🔗 https://www.nytimes.com/2025/02/19/magazine/cryptocurrency-scam-kansas-heartland-bank.html
O oszustwach kryptowalutowych mówi się zwykle w oderwaniu od konkretnych historii ich ofiar, skupiając się na skali, częstotliwości, technikach. Tymczasem za liczbami typu 9,9 mld dolarów kryją się dziesiątki tysięcy tragedii. Ta z miasteczka Elkhart w stanie Kansas jest szczególnie smutna, bo jej tragiczny bohater, biznesmen Shan Hanes, zrujnował nie tylko siebie, ale całą lokalną społeczność, która ufała mu jako prezesowi banku. Patrząc na ruchy Białego Domu wobec branży krypto, mam poczucie, że podobna historia może się niedługo wydarzyć na skalę nie miasteczka, ale kraju. Z tą różnicą, że główni odpowiedzialni nie wylądują za to raczej w więzieniu.