Amerykański sędzia zauważył w zachowaniu Pentagonu chęć ukarania Anthropic za ich stanowisko.

Pentagon włączył Anthropic do listy „niebezpiecznych” dostawców AI

W niedawnym decyzji Departamentu Obrony Stanów Zjednoczonych (DoD) firma Anthropic, twórca systemów sztucznej inteligencji, znalazła się na liście organizacji stanowiących zagrożenie dla bezpieczeństwa narodowego w łańcuchu dostaw. Według firmy było to próba ukarania jej za publiczne wypowiedzi o ryzyku użycia AI w armii.

Co dokładnie się stało
1. Pentagon przyznał status „zagrożenia”

- Status zwykle stosuje się do firm, których technologie mogą stać się celem penetracji lub sabotażu ze strony przeciwnika.
- Anthropic otrzymała go pod koniec 2023 roku.

2. Firma wystąpiła do sądu

- W federalnym sądzie stanu Kalifornia Anthropic wniosła pozew, twierdząc, że Pete Hegset (główny specjalista ds. dostaw) przekroczył swoje uprawnienia.
- Żąda się tymczasowego zakazu stosowania sankcji do zakończenia postępowania sądowego.

3. Decyzja sędziego okręgowego

- Sędzia Rita Lin obiecała wydać pisemną decyzję w najbliższych dniach po ostatnim posiedzeniu.

Dlaczego Anthropic nie zgodził się
- Firma odmówiła pozwolenia Pentagonowi na użycie jej modeli do masowej obserwacji obywateli USA i tworzenia autonomicznego uzbrojenia, gdzie AI podejmuje decyzje o likwidacji człowieka.
- W wyniku nowego statusu Anthropic szacuje potencjalną stratę w kilku miliardach dolarów (strata biznesu i reputacji).
- Według nich taka miara nigdy nie była stosowana wobec amerykańskich firm; podstawą był mało znany akt o zamówieniach publicznych, mający chronić systemy wojskowe przed zagranicznym sabotażem.

Argumenty prawne
Strona: Anthropic twierdzi, że działania Pentagonu naruszają wolność słowa i Konstytucję USA; firma nie miała możliwości odwołania się od przyznania statusu. Pentagon musi zapobiec ryzyku „wyłącznika awaryjnego” lub ingerencji w AI, które mogą być krytyczne dla operacji wojskowych.

Dodatkowe działania
- Anthropic złożyła kolejny pozew w Waszyngtonie dotyczący decyzji Pentagonu, która mogłaby pozbawić jej udziału w kontraktach rządowych.

W ten sposób konflikt rozwinął się wokół tego, jak rząd ocenia zagrożenia AI i jak daleko mogą pójść sankcje, jeśli firmy wyrażają obawy dotyczące ich użycia w sektorze wojskowym.