Rozdział cyberbezpieczeństwa AI w Anthropic opuścił firmę, przyznając, że „świat jest zagrożony”.

Mrinank Sharma opuszcza Anthropic: list do kolegów i plany na przyszłość

Były szef działu badań bezpieczeństwa sztucznej inteligencji w firmie Anthropic, Mrinank Sharma (Mrinank Sharma), na początku tego tygodnia opublikował w sieci swój pożegnalny list. W nim wyjaśnia powody odejścia, dzieli się refleksjami na temat bieżących ryzyk i opisuje, czym będzie się zajmować dalej.

Co zostało napisane w liście
* Osiągnięcia – Sharma zauważa, że „osiągnął tutaj wszystko, czego chciał”. Wśród wymienionych projektów znajduje się opracowanie mechanizmów obronnych przeciwko bioterorystycznym zagrożeniom przy użyciu SI oraz badania wpływu sieci neuronowych na społeczeństwo.

* Powód odejścia – autor doszedł do wniosku, że nadszedł czas, aby iść dalej. Nieustannie rozważał „niebezpieczeństwo, które może niesie SI, broń biologiczną oraz łańcuch powiązanych kryzysów rozwijających się właśnie teraz”. Według niego zbliżamy się do progu, po którym mądrość musi rosnąć proporcjonalnie do naszej zdolności wpływania na świat; w przeciwnym razie czekają nas nieprzewidywalne konsekwencje.

* Bariery kulturowe – Sharma podkreśla, jak trudno zachować wartości przy nacisku. Widzi to zarówno wewnątrz siebie, jak i w firmie, gdzie czasami trzeba zrezygnować z ważnego na rzecz zewnętrznego wpływu, a także w społeczeństwie ogólnie.

* Plany na przyszłość – po odejściu zamierza pracować zgodnie ze swoimi zasadami oraz studiować poezję i inne dziedziny twórcze.

Co dzieje się w Anthropic
* W firmie już opuścili kilku czołowych programistów, co potęguje falę zmian kadrowych.

* Anthropic prowadzi rozmowy o pozyskaniu dodatkowego kapitału. Po pomyślnym zakończeniu transakcji wartość rynkowa może wzrosnąć do 350 mln USD.

* W zeszłym tygodniu uruchomiono nową wersję modelu Claude Opus 4.6. Ulepsza ona produktywność biurową i efektywność programowania, zwiększa okno kontekstowe dla pracy z dużymi dokumentami oraz obsługuje bardziej skomplikowane zadania.

Gdzie znaleźć list
Pełny tekst pożegnalnego listu Sharma opublikowano w artykule Business Insider. Dostarcza on bardziej szczegółowy wgląd w jego myśli i motywację.