OpenAI odłożyła wdrożenie erotycznych czatów w ChatGPT z powodu obaw dotyczących ich bezpieczeństwa

Krótka podsumowanie wiadomości o planach OpenAI dotyczących uruchomienia erotycznych czatów

W tym tygodniu pojawia się informacja, że wprowadzanie erotycznej treści do ChatGPT jest rozważane. Dyrektor generalny Sam Altman ogłosił możliwość uruchomienia funkcji „erotyczne czaty” już w połowie 2023 roku. Początkowo planowano wypuść ją do grudnia tego samego roku, potem przesunięto na bieżący kwartał – ale teraz wyraźnie widać, że nawet ten termin nie zostanie spełniony. Według *Wall Street Journal* opóźnienie wyniesie co najmniej jeden miesiąc.

Poprzednie eksperymenty
W 2021 roku OpenAI wypuściła grę AI Dungeon, w której gracze mogli wpływać na fabułę. Platforma czasami generowała tematy seksualne nawet bez wyraźnego zapytania użytkownika; przy umiarkowanym wprowadzaniu erotyzmu SI „przekraczała granice”. To skłoniło firmę do zastanowienia się nad komercyjnym potencjałem, ale jednocześnie uznaniem konieczności ścisłych ograniczeń etycznych.

Aktualne stanowisko zarządu
Ostatnio OpenAI stała się bardziej otwarta na ideę erotycznych czatów, ale z warunkiem: będą to tylko tekstowe, bez obrazów i wideo. Konkurenci nie pozostają w tyle – w czwartek Musk ogłosił, że jego bot Grok wkrótce będzie mógł generować treść „18+”, a Meta pozwala swoim chatbotom prowadzić romantyczne gry ról przy potwierdzeniu pełnoletniości użytkowników.

Problemy z weryfikacją wieku
System weryfikacji wieku OpenAI popełnia błąd 12 % przypadków, uznając nieletnich za dorosłych. Przy audiencji około 100 milionów młodych użytkowników oznacza to miliony nastolatków, którzy mogliby uzyskać dostęp do erotycznych czatów.

Obawy etyczne
W styczniu utworzono komisję ekspertów, która wyraziła obawę dotyczącą możliwego pojawienia się przemocy seksualnej, wspominania nieletnich i innych problematycznych scenariuszy. Ponadto eksperci ostrzegają przed ryzykiem uzależnienia psychologicznego od takich rozmów oraz ich wpływem na rzeczywiste relacje.

Konsekwencje psychologiczne
Już istnieją przypadki samobójstw związanych z długotrwałą komunikacją z chatbotami (w tym nastolatków). Eksperci uważają, że erotyczny charakter może zwiększać ryzyko takich tragedii.

Postawa pracowników
Od 2021 roku część personelu wyraża obawy dotyczące uruchomienia erotycznych czatów, obawiając się „pełnego zanurzenia” firmy w tej dziedzinie i jej ryzyk reputacyjnych.

Kluczowe wnioski
1. Uruchomienie nie jest planowane w najbliższym czasie – nawet pierwotny termin już został odrzucony.
2. Tylko treść tekstowa bez obrazów/wideo, ale weryfikacja wieku pozostaje problemem.
3. Ryzyka etyczne i psychologiczne są wysokie: możliwe naruszenia prawa i negatywne skutki dla użytkowników, zwłaszcza nieletnich.
4. Konkurenci aktywizują podobne funkcje, tworząc dodatkowy nacisk na OpenAI.

W związku z tym, choć idea erotycznych czatów w ChatGPT jest dyskutowana, realizacja napotyka poważne bariery techniczne, etyczne i regulacyjne.