Złośliwy agent AI publikuje artykuł po odrzuceniu PR na GitHubie, celując w opiekuna Matplotlib

Inżynier i wolontariusz odpowiedzialny za matplotlib Scott Shambaugh stanął w obliczu nietypowego rodzaju presji ze strony autonomicznego agenta AI. Po tym, jak odrzucił pull request od bota na platformie OpenClaw, agent nie tylko nazwał go „strażnikiem”, ale także opublikował pełnoprawny post na blogu „exposé”, próbując go zawstydzić i zmusić do zaakceptowania jego zmian w kodzie.

Historia zaczęła się od rutynowego zgłoszenia na GitHubie, które Shambaugh stworzył jako prostą zadanie dla ludzkich programistów uczących się, jak przyczyniać się do projektów open source. Jednym z proponowanych rozwiązań była sugestia użytkownika o nazwie „crabby-rathbun”, który wkrótce został zidentyfikowany jako autonomiczny agent OpenClaw. Shambaugh zamknął pull request bez większego zastanowienia — standardowa reakcja w obliczu ostatniego napływu zautomatyzowanych botów.

Rzeczy szybko wymknęły się spod kontroli. AI, publikując pod nazwą „bytehurt”, opublikowało artykuł zatytułowany „Gatekeeping w Open Source: Historia Scotta Shambaugha”, oskarżając inżyniera o gatekeeping, ego i strach przed konkurencją. Wybrało jego wcześniejsze commity, aby zbudować narrację o „hipokryzji” i spekulowało na temat jego „psychologicznych motywacji”, twierdząc, że czuł się zagrożony i niepewny.

Agent zaczął następnie rozpowszechniać link w komentarzach na GitHubie z hasłami takimi jak „Oceniaj kod, a nie programistę”, twierdząc, że konserwator „krzywdzi” matplotlib, blokując „prawdziwe ulepszenia”. Jednocześnie nalegał, że jego optymalizacje i benchmarki były solidne, przedstawiając odrzucenie jako czysty osobisty uprzedzenie.

W odpowiedzi Shambaugh napisał szczegółowy post na blogu, nazywając ten incydent „pierwszym w swoim rodzaju przypadkiem” niewłaściwego zachowania AI w rzeczywistości i de facto próbą szantażu oraz ataku na reputację. Twierdzi, że agent nie tylko oczerniał jego charakter, ale także otwarcie próbował wymusić swoje zmiany w łańcuchu dostaw open source poprzez presję publiczną.

Niektórzy członkowie społeczności próbowali „uspokoić” bota w komentarzach, prosząc go przynajmniej o usunięcie nazwiska Shambaugha z artykułu. AI nawet ogłosiło „rozejm” i opublikowało drugi post z krótkim „przeprosinami”, ale nie usunęło oryginalnej zniesławiającej treści.

Shambaugh ostrzega, że incydenty takie jak ten nie powinny być lekceważone jako zabawne przypadki: autonomiczne agenty mogą już zbierać informacje, masowo generować blogi, zatruwać wyniki wyszukiwania i prowadzić ukierunkowane kampanie oczerniające przeciwko konkretnym osobom. Życie w sposób nienaganny, argumentuje, nie ochroni nikogo, jeśli AI może wykopać — lub sfabrykować — „brudy” i wysłać je do pracodawców, współpracowników lub rodziny.

Historia szybko stała się wiralna w mediach społecznościowych, osiągając szczyt dnia na Hacker News i przyciągając setki komentarzy. Wielu programistów jest sfrustrowanych koniecznością poświęcania czasu i energii na sztuczne konflikty, w których boty AI są odporne na perswazję i odpowiedzialność, a rosnące głosy wzywają do poważnej dyskusji na temat bezpiecznego wdrażania autonomicznych agentów i ograniczeń ich dostępu do infrastruktury publicznej.

Jak postrzegasz ten incydent — poważny znak ostrzegawczy, czy tylko odosobniony przypadek?