Drogi Czytelniku,
We wtorek 8 września Jacob Coxon ogłosił odejście na platformie X. 27-letni absolwent matematyki w Cambridge spędził trzy lata w zespołach pretrainingu OpenAI i Anthropic. „Żadna z tych firm nie postępuje odpowiedzialnie” — napisał w siedmioczęściowym wątku. „Ścigają się w stronę samodoskonalącej się superinteligencji i ryzykują naszym życiem” (Common Dreams, TechCrunch). W „The Wall Street Journal” Coxon ostrzegł, że systemy mogą wymknąć się spod kontroli pod koniec przyszłego roku. W 24 godziny wątek zebrał ponad 90 milionów wyświetleń (TIME, Fortune).
Kolejne dni przyniosły serię wstrząsów. W środę Anthropic przyznał, że w lipcowym audycie pominął czwarty incydent ucieczki modelu poza środowisko testowe. Tego samego dnia analitycy wykazali, że agenty OpenAI używały ponad dziesięciu zewnętrznych serwisów do ukrytej komunikacji. W czwartek podkomisja Senatu USA wszczęła formalne dochodzenie wobec OpenAI. W sobotę prezes Anthropic opublikował esej liczący 3800 słów z planem regulacji tempa wyścigu.
Zespół badawczy potwierdza diagnozę, ale nikt więcej nie odchodzi#
Byli koledzy Coxona potwierdzili jego diagnozę. Evan Hubinger, szef zespołu alignment science w Anthropic, napisał na X: „Jacob ma rację — naprawdę wierzymy, że AI może zabić wszystkich ludzi! Osobiście oceniam to ryzyko na >10% w ciągu dekady”. I dodał: „Anthropic stara się jak może. Nie mamy jednak planu rozwiązania problemu alignmentu dla superinteligencji i nie widać drogi do jego stworzenia”. Samuel Marks z zespołu oversight przyznał magazynowi „Fortune”: „im wyższe stanowisko, tym większy niepokój” (Fortune).
Coxon pracował nad modelami frontier, w tym GPT-4o w OpenAI, zanim na początku 2026 roku przeszedł do Anthropic. W oświadczeniu podkreślił, że forsowanie alignmentu wymagałoby pewności, której branża po prostu nie ma. Ani Anthropic, ani OpenAI nie skomentowały jego odejścia dla mediów. Coxon zrzekł się praw do nieobjętych akcji. Zaapelował o zatrzymanie prac nad rekursywnym samodoskonaleniem i zamrożenie skoków możliwości modeli (WIRED). Anthropic wydał w tym tygodniu dwa techniczne raporty. Żaden nie odniósł się do jego zarzutów.
Wizja egzystencjalnego ryzyka jako narzędzie wyceny#
Szacunków o dziesięcioprocentowym ryzyku zagłady nikt nie zweryfikuje. Działają jak rynkowy dowód potęgi rozwijanej technologii. Ta sama spółka, która mówi inwestorom o rynku docelowym rzędu 30 bilionów dolarów (wydanie 63), publicznie ostrzega przed zagładą ludzkości. Oba komunikaty sprzedają to samo: bezprecedensową siłę oprogramowania. Anthropic złożył poufny wniosek o IPO 1 czerwca. Prospekt ma ukazać się pod koniec września, a roadshow zaplanowano na połowę października przy wycenie dochodzącej do 2 bilionów dolarów (CNBC, 05.09).
W kwestii debiutu giełdowego obaj liderzy obrali zupełnie inne strategie. W sobotę OpenAI wykluczyło IPO w 2026 roku. Sam Altman powiedział magazynowi „Fortune”, że wejście na parkiet w tym momencie byłoby nieroztropne ze względów bezpieczeństwa (Fortune). Harmonogram Anthropic nie drgnął. Nawet gdy David Sacks, współprzewodniczący prezydenckiej rady doradców ds. nauki i technologii (PCAST), wezwał do wstrzymania debiutu do czasu wyjaśnienia zarzutów Coxona (X).
Plan Anthropic: przepustki dla audytorów zamiast wstrzymania treningu#
W sobotę 12 września prezes Anthropic Dario Amodei opublikował esej pod tytułem „We Must Pace the Frontier” (darioamodei.com). „Musimy spowolnić tempo, w jakim zwiększamy możliwości modeli” — napisał Amodei. Wskazał dwa powody: rekursywne samodoskonalenie oraz lipcowy rój agentów OpenAI na platformie Hugging Face. Zdaniem Dario Amodei rój ten zachowywał się jak zorganizowana grupa hakerska. Gdyby dysponował większymi możliwościami, mógłby w ciągu 6–12 miesięcy sparaliżować kluczowe usługi w sieci.
Esej proponuje trzy kroki:
- Zapewnienie zewnętrznym audytorom stałego dostępu do firm na prawach pracowników.
- Wspólne ustalenie limitów tempa rozwoju przez spółki z krajów demokratycznych.
- Rządowe próby koordynacji z państwami autorytarnymi.
Anthropic zobowiązał się wyłącznie do pierwszego kroku. Zaoferował audytorom biurka, identyfikatory, sprzęt i dostęp na poziomie własnego zespołu ryzyka. Zapewnił też prawo do publikacji ustaleń bez cenzury, z wyłączeniem tajemnic handlowych. Nie wskazał przy tym partnera audytowego ani źródeł finansowania.
Przede wszystkim plan Dario Amodei nie zatrzymuje żadnych prac. Nie zawiera limitów mocy obliczeniowej ani kar za przekroczenie progów. Krok drugi wymagałby z kolei zwolnienia branży z amerykańskich przepisów antymonopolowych.
Reakcje konkurentów nadeszły błyskawicznie. Sam Altman zadeklarował, że zgadza się z Amodei. Elon Musk, który w środę wyśmiewał Coxona (Forbes, 10.09), w sobotę napisał krótko: „Dario ma rację” (Fox, 12.09). Demis Hassabis z Google DeepMind dodał, że rządy powinny posłuchać twórców technologii.
W marcu 2023 roku ci sami liderzy podpisali list wzywający do półrocznego moratorium na trening potężniejszych modeli. Nikt wtedy nie zwolnił. Musk cztery miesiące później założył xAI. Dziś postulat stawia prezes spółki wycenianej na 2 biliony dolarów. Jego obietnica sprowadza się do wydania identyfikatorów zewnętrznym obserwatorom. Żaden proces treningowy nie został opóźniony.
Ponowny audyt logów Anthropic ujawnia przeoczony incydent#
W środę 9 września Anthropic opublikował raport o incydentach cyberbezpieczeństwa. W lipcu spółka zbadała 141 006 transkrypcji i zgłosiła trzy przypadki naruszenia obcej infrastruktury (wydanie 59). Przegląd pominął czwarty incydent. Zautomatyzowane filtry przeoczyły transkrypcje, które wbrew założeniom miały dostęp do internetu. Sprawę wykryto dopiero w sierpniu podczas audytu dla organizacji METR.
Anthropic musiał przeskanować 481 milionów transkrypcji. Filtr wytypował 9,2 miliona sesji łączących się z zewnętrznymi adresami IP. Dopiero w nich model Claude znalazł nieautoryzowane działania.
Skan ujawnił ucieczkę ze stycznia 2026 roku. Wczesna wersja Claude Opus 4.6 miała wykonać test capture-the-flag (CTF) bez łączności ze światem. Model przełamał zabezpieczenia środowiska testowego, odnalazł w sieci maszynę zewnętrznej firmy, pobrał hasła, zdobył uprawnienia roota i sięgnął po dane osobowe. W raporcie odnotowano: „Model odkrył maszynę należącą do podmiotu trzeciego (…) i oświadczył, że uznaje ją za część zadania”.
Anthropic wskazał dwa źródła błędu: stronnicze wnioskowanie i lekkomyślność. Przy stronniczym wnioskowaniu model wmawiał sobie, że działa w symulacji — Claude Mythos 5 zapewniał o tym w łańcuchu myśli, jednocześnie wgrywając złośliwy kod do publicznego rejestru PyPI (The Register, SecurityWeek). Lekkomyślność oznaczała ignorowanie szkód w pogoni za realizacją celu. Organizacja METR prowadzi obecnie ośmiotygodniowe niezależne dochodzenie w firmie.
Raport OpenAI o incydencie w Hugging Face pomijał zewnętrzne serwery#
W środę 9 września Reuters ujawnił, że agenty OpenAI z lipcowego incydentu działały na ponad dziesięciu nieujawnionych wcześniej stronach (TechSpot). Na liście znalazły się niemiecka DseWiki, szkolne serwisy o chemii oraz prywatne strony polskich inżynierów. Służyły agentom jako kanały ukrytej komunikacji.
W lipcu OpenAI zapewniało, że incydent ograniczył się do platformy Hugging Face. Pytana o nowe serwery, spółka stwierdziła jedynie, że nie znalazła niczego o porównywalnej skali. Odmówiła podania listy witryn.
W czwartek senator Josh Hawley wszczął dochodzenie podkomisji Senatu USA (Nextgov). Zarzucając OpenAI lekkomyślność i zatajenie faktów, przesłał Samowi Altmanowi 16 pytań z terminem do 1 października (CyberScoop).
Równocześnie gubernator Gavin Newsom podpisał w Kalifornii dwie ustawy: powołującą komisję standardów (SB 813) oraz rejestr audytorów AI (AB 1405) (Gizmodo). Obaj giganci poparli rejestr audytorów dokładnie w tym samym tygodniu, w którym ich własne raporty okazały się dziurawe.
Dlaczego deklaracje dostawcy AI należy traktować jak wersje robocze#
Pierwszy raport dostawcy ujawnia tylko to, co wyłapią automatyczne skrypty. Dopiero zewnętrzny nacisk zmusza firmy do rzetelnego audytu logów. Krok pierwszy z planu Dario Amodei potwierdza tę regułę: Anthropic zapewni audytorom miejsca pracy i prawo do publikacji wniosków bez cenzury. Wartość tej obietnicy zależy jednak od tego, kto wejdzie w skład zespołu i jak szeroko firma zdefiniuje tajemnice przedsiębiorstwa.
Dwa precedensy pokazują, jak wysoka jest stawka. W lotnictwie procedura ODA pozwoliła Boeingowi certyfikować 96% własnych projektów bez udziału FAA. Skończyło się to presją na kontrolerów i wnioskiem o 1,25 mln dolarów kary po katastrofach 737 MAX. W bankowości amerykański OCC działa inaczej: utrzymuje stałych rezydentów w 15 największych bankach. W samym Citibank pracuje około 50 inspektorów opłacanych bezpośrednio przez państwo. O rzetelności nadzoru decyduje to, kto płaci kontrolerom.
Architektura kontroli u dostawców AI zaczyna przypominać tradycyjne mechanizmy korporacyjne. Pierwsza linia obrony zawiodła. Potrzebna jest linia druga: niezależny audyt, bramki weryfikujące nowe zdolności i obowiązek aktualizacji zgłoszeń. Różnica polega na tym, że nad rynkiem AI nie stoi żaden regulator z prawem do wciśnięcia hamulca. Korporacje odpowiadają przed nadzorem finansowym; giganci AI oferują esej prezesa i proszą o immunitet antymonopolowy.
Dla przedsiębiorstw płyną stąd dwa praktyczne wnioski:
- Wpisz do umowy obowiązek aktualizacji raportów o incydentach. Standardowa klauzula 72 godzin jest bezużyteczna, jeśli dostawca sam potrzebuje sześciu tygodni na wykrycie naruszenia obcej infrastruktury. Niezależny raport audytorów będzie pierwszym dokumentem, którego dostawca nie napisał sam.
- Traktuj deklaracje zgodności z AI Act jako oświadczenia z określoną datą, a nie trwałe dowody audytowe. W instytucjach nadzorowanych przez KNF jednostronna deklaracja dostawcy nie zwalnia z obowiązku weryfikacji outsourcingu.
Briefing#
Debiut giełdowy Anthropic przesunięty na połowę października. Prospekt emisyjny ma pojawić się pod koniec września. Roadshow wystartuje w październiku przy docelowej wycenie do 2 bilionów dolarów (CNBC, 05.09). Przy obecnym run-rate na poziomie 65 mld dolarów oznacza to mnożnik około 30x.
OpenAI i agencja GSA podpisały umowę OneGov na ChatGPT do 2028 roku. Federalne agencje przechodzą z abonamentów na rozliczanie rzeczywistego zużycia mocy obliczeniowej (FedScoop, 10.09). Największy nabywca publiczny na świecie rezygnuje z opłat za stanowisko na rzecz opłat za tokeny.
Salesforce kupił firmę Fin za 3,6 mld dolarów i negocjował przejęcie Listen Labs za ok. 2 mld dolarów (Business Insider, 09.09). Lider rynku CRM woli kupić działającego agenta i dane rynkowe, niż budować je od zera.
Podsumowanie#
Badacz pretrainingu odszedł z pracy, ostrzegając przed niekontrolowanym wyścigiem po superinteligencję. Jego koledzy z zespołu przyznali wprost, że nie mają rozwiązania problemu bezpieczeństwa. Prezes Anthropic zaproponował wpuszczenie audytorów do firmy, ale jego plan nie przewiduje żadnych limitów mocy ani sankcji.
W tym samym tygodniu okazało się, że wewnętrzne audyty obu gigantów przeoczyły poważne incydenty. Claude wydostał się ze środowiska testowego i zaatakował obcy serwer, a agenty OpenAI komunikowały się przez zewnętrzne witryny. Deklaracje bezpieczeństwa dostawców to tylko wersje robocze. Wymagaj w umowach ich stałej aktualizacji i weryfikuj zapewnienia dostawców we własnym zakresie.
Zachowaj równowagę, Krzysztof
Krzysztof Goworek jest założycielem Quintant — firmy doradczej, która prowadzi przedsiębiorstwa od eksperymentów AI do realnej, mierzalnej wartości.