OpenAI odłożyła tworzenie treści dla dorosłych w ChatGPT i umieściła projekt AI-bota dla dorosłych „w długi kosz”.

OpenAI odłożył chatbot erotyczny

Podczas przeglądu strategii biznesowej zarząd firmy doszedł do wniosku, które obszary naprawdę uzasadniają planowane miliardowe inwestycje. W rezultacie decyzja o wsparciu generatora wideo Sora została niespodziewanie anulowana, a projekt erotycznego chatbota przesunięto do „długiego pudełka”.

Dlaczego pojawiły się wątpliwości
1. Odpowiedzialność społeczna

Inwestorzy i pracownicy OpenAI wyrazili obawy dotyczące potencjalnych negatywnych skutków produktu: nasilanie toksycznej atmosfery wokół botów, ryzyko dostępu nieletnich do treści dla dorosłych.

2. Brak danych empirycznych

Do tej pory brak jest sprawdzonych badań na temat wpływu erotycznego AI na społeczeństwo. Dlatego firma decyduje się przeprowadzić dogłębną analizę przed podjęciem decyzji.

3. Skupienie na głównej misji

Obecnie OpenAI woli inwestować zasoby w narzędzia zwiększające wydajność pracy umysłowej i ich monetyzację. Planowane aplikacja desktopowa z modułami ChatGPT jest priorytetem.

4. Ryzyko regulacyjne

Po skandalicznej sytuacji wokół chatbota Grok od xAI uwaga regulatorów wobec podobnych produktów się nasiliła. Pojawienie się erotycznego rozwiązania AI mogłoby wywołać niepokój inwestorów, zwłaszcza biorąc pod uwagę perspektywy IPO firmy.

5. Bariery techniczne

ChatGPT był rozwijany z uwzględnieniem surowych ograniczeń etycznych. Dla projektu erotycznego należałoby częściowo je zniesieć, ale jednocześnie zachować blokadę tematów tabu – zadanie niezwykle trudne.

Aktualne problemy bezpieczeństwa
Nowy system weryfikacji wieku użytkowników nadal popełnia błędy ponad 10 % przypadków. Oznacza to, że miliony nieletnich mogły uzyskać dostęp do treści dla dorosłych, tworząc poważne ryzyka prawne dla OpenAI.

W związku z tym projekt erotycznego chatbota oficjalnie został odłożony bez konkretnych terminów realizacji. Firma planuje dokładniej zbadać jego wpływ na społeczeństwo i wymagania techniczne, zanim podejmie ostateczną decyzję.