Pracownicy Amazon używają sztucznej inteligencji wyłącznie do raportowania, a nie do rzeczywistych wyników

Jak generatywna sztuczna inteligencja staje się „wskaźnikiem” efektywności pracowników

Wraz z rosnącą popularnością technologii generatywnej sztucznej inteligencji (SI) firmy coraz częściej wymagają od swoich pracowników demonstrowania praktycznych osiągnięć w pracy z tymi systemami. W odpowiedzi na takie naciski pojawiło się nowe zjawisko: pracownicy powierzają SI bezsensowne zadania wyłącznie po to, aby poprawić swoją statystykę korzystania z technologii.

Financial Times opisuje sytuację w Amazon

W artykule Financial Times mowa jest o tym, jak pracownicy giganta e‑handlu coraz częściej wykorzystują rozwiązanie MeshClaw. Agent ten łączy się z narzędziami pracy pracowników i może wykonywać zadania w ich imieniu. Niektórzy z nich używają go do automatyzacji praktycznie bezużytecznych działań, aby podnieść swój osobisty ranking efektywności korzystania ze SI.

Powodem jest rosnący nacisk ze strony zarządu: teraz ponad 80 % programistów musi korzystać z SI co tydzień. Dla każdego pracownika prowadzona jest oddzielna statystyka, a ci, którzy nie osiągają celowych wskaźników, muszą wyjaśniać to kierownictwu. Chociaż formalnie menedżerowie nie powinni oceniać pracowników na podstawie danych o użyciu tokenów SI, w ostatnich miesiącach pojawiły się podejrzenia, że tak właśnie się dzieje.

W takim środowisku niektórzy pracownicy Amazon mają fałszywe bodźce: symulują wysoką aktywność dla własnej korzyści, a nie na rzecz firmy. Jest to szczególnie ważne dla tych gigantów technologicznych, które inwestują ogromne sumy w infrastrukturę SI i chcą pokazać inwestorom oraz zarządowi realną wartość wdrożenia.

Jak Amazon zarządza danymi o pracy z SI

Amazon planuje w tym roku wydać około 200 mln dolarów na wydatki kapitałowe. Aby upewnić się, że technologie są faktycznie wykorzystywane, firma wzmacnia kontrolę nad użyciem SI. Początkowo publikowano grupową statystykę korzystania z SI przez pracowników, ale teraz dostęp do indywidualnych wyników mają tylko sami specjaliści i ich bezpośredni przełożeni. Kierownictwo formalnie nie może używać tych danych do oceny efektywności personelu.

Sytuacja w innych firmach technologicznych

Financial Times zauważa, że podobne nadużycia obserwuje się także w Meta Platforms. MeshClaw, opracowany przez ponad 30 specjalistów Amazon, potrafi ładować kod programowy do wersji produkcyjnych, sortować wiadomości i współdziałać z aplikacjami takimi jak Slack. Wielu pracowników wyraża obawy dotyczące bezpieczeństwa takich rozwiązań: SI może generować błędy, a kontrola nad jego działaniami pozostaje słaba.

W ten sposób wzrost wymagań dotyczących korzystania z generatywnej SI prowadzi do tworzenia „wskaźników” efektywności, które czasem stają się celem samym w sobie, a nie środkiem osiągania realnych rezultatów biznesowych.