Anthropic odrzuciła wniosek Pentagonu o bezwarunkowe wojskowe wykorzystanie SI, mimo ostrzeżeń

Krótka treść

* Sytuacja:

Firma Anthropic odmówiła Ministerstwu Obrony Stanów Zjednoczonych (MoD) nieograniczonego dostępu do swoich modeli AI, mimo groźby utraty kontraktu w wysokości 200 mln USD.

* Kontekst:

Podczas spotkania w Białym Domu minister obrony Pete Hegset dał Anthropic czas do końca dnia roboczego piątku na przemyślenie oferty, ale już w czwartek firma ogłosiła odmowę.

* Pozycje stron:

- MoD wymaga pełnego dostępu do technologii AI, aby swobodnie wykorzystywać je w celach wojskowych.
- Inni duzi gracze (OpenAI, Google, xAI Maska) zgodzili się pozwolić Pentagonowi korzystać z ich systemów „dla wszystkich legalnych celów” w niezakodowanych sieciach i pracują nad umowami na zakodowane sieci.

* Reakcja Anthropic:

W oświadczeniu dyrektora generalnego Dario Amodei podkreślono, że firma aktywnie współpracuje ze strukturami wojskowymi i wierzy w egzystencjalne znaczenie AI dla ochrony USA. Jednak nigdy nie sprzeciwiała się konkretnym operacjom wojskowym i uważa, że AI może naruszać wartości demokratyczne tylko w bardzo ograniczonych przypadkach.

Amodei wyróżnił dwie „czerwone linie”:

1) brak masowego nadzoru nad obywatelami USA;
2) zakaz opracowywania śmiertelnej autonomicznej broni (lub jakiejkolwiek broni zdolnej do niszczenia celów bez ludzkiej kontroli).

Firma nie jest jeszcze gotowa na użycie w pełni autonomicznych systemów.

* Potencjalne konsekwencje:

Pentagon już zwrócił się do dużych podwykonawców obronnych z prośbą o ocenę zależności od modelu Claude. Jeśli MoD uzna Anthropic za „ryzyko dla łańcucha dostaw”, może to doprowadzić do klasyfikacji firmy jako zagrożenia dla bezpieczeństwa narodowego, co zazwyczaj dotyczy firm chińskich i rosyjskich.

Pentagon ogłosił gotowość żądać potwierdzenia od wszystkich dostawców i podwykonawców, że nie używają „antropogenicznych” modeli. W przypadku rezygnacji z usług Anthropic firma jest gotowa zapewnić płynne przejście do innego dostawcy bez zakłóceń w operacjach wojskowych.

* Środki legislacyjne:

Pentagon rozważa zastosowanie „Ustawy o produkcji obronnej” z 1950 roku, która pozwala federalnym władzom ingerować w działalność prywatnych firm w celu spełnienia wymagań MoD.

* Kluczowa wiadomość Anthropic:

Groźba ze strony Ministerstwa nie zmienia stanowiska firmy: nie mogą one z czystą sumieniem spełnić żądań o pełnym dostępie. W przypadku rezygnacji z współpracy Anthropic jest gotowe wesprzeć płynne przejście i kontynuować udostępnianie swoich modeli na uzgodnionych warunkach.

Wniosek:

Anthropic pozostała przywiązana do swoich zasad prywatności i ograniczeń w zastosowaniu wojskowym AI, pomimo ryzyka utraty znaczącego kontraktu. Ministerstwo Obrony z drugiej strony dąży do uzyskania pełnego dostępu do zaawansowanych technologii od wszystkich kluczowych dostawców. Opcje rozwiązania obejmują możliwą ingerencję rządu federalnego lub przejście na alternatywnych dostawców.