OpenAI wprowadza bezpieczeństwo do agentów AI, przejmując startup Promptfoo

OpenAI nabywa startup Promptfoo

Firma OpenAI zawarła umowę o zakupie dwurocznego start-upu Promptfoo, który opracowuje narzędzia do testowania bezpieczeństwa sztucznej inteligencji już na etapie jej tworzenia. Według Bloomberg celem transakcji jest zmniejszenie ryzyka dla klientów korzystających z rozwiązań AI oraz przyciągnięcie dużego rynku korporacyjnego.

Kim jest Promptfoo?

- Założony: 2022 r.
- Lokalizacja: San Francisco
- Usługi: otwarty kod do testowania sieci neuronowych, w tym „red team”, gdzie specjaliści symulują ataki na własne modele, wykrywając słabości zanim zostaną odkryte przez przestępców.
- Klienci: około 25 % firm z listy Fortune 500.

Co się zmieni po integracji?

Technologie Promptfoo zostaną wdrożone w korporacyjną platformę OpenAI – Frontier. Dzięki temu Frontier uzyska automatyczne testowanie, monitorowanie zmian i system raportowania kontroli zgodnych z wymogami bezpieczeństwa.

Reakcja inwestorów

Ganes Bell (CEO Insight Partners), który prowadził rundę finansowania Promptfoo w wysokości 18,4 mln dolarów w zeszłym roku, zauważył: „Zakup demonstruje wyraźne zaangażowanie OpenAI w tworzenie korporacyjnej AI, która będzie nie tylko potężna, ale także bezpieczna i niezawodna przy skalowaniu”. Szczegóły finansowe transakcji nie zostały jeszcze ujawnione.

Przyszłość Promptfoo

OpenAI będzie kontynuować rozwój otwartego kodu źródłowego Promptfoo równolegle z jego komercyjną integracją. Niedawno firma zaprezentowała agenta AI, zdolnego do znajdowania i usuwania luk w bazach danych – podobny narzędzie Anthropic PBC.