Główne centra badawcze sztucznej inteligencji zadały sobie pytanie o świadomość maszyn

Władcy światowi sztucznej inteligencji zwiększają badania nad świadomością maszyn

W ostatnich miesiącach największe firmy zajmujące się sztuczną inteligencją znacznie zwiększyły finansowanie i zasoby kadrowe, aby zbadać pytanie, czy SI może osiągnąć świadomość. Google DeepMind, Anthropic i Meta (Meta Platforms) zatrudniły specjalistów z zakresu psychologii, etyki i filozofii, aby rozszerzyć programy badawcze w dziedzinie świadomości maszyn i dobrostanu SI, informuje *Financial Times*.

Dlaczego to ważne
W miarę szybkich postępów współczesnych laboratoriów pojawia się pytanie: czy maszyny kiedyś będą posiadać subiektywną świadomość? Jeśli tak, jakie zobowiązania wynikną dla ludzi wobec takich systemów?

- Anthropic przeprowadza testy pod kątem oznak stresu w modelach SI, rejestrując zachowania przypominające panikę lub niepokój. Kierownik działu Meta, Aleksandr Wang (Alexandr Wang), uznał to zagadnienie za kluczowe.

- Firma bada, czy modele mogą wykazywać reakcje o moralnym znaczeniu.

> „Pozostajemy niezwykle niepewni w tej kwestii, ale uważamy ją na tyle poważną, że będziemy ją dokładnie badac, gdy systemy SI będą się rozwijać”, – powiedzieli pracownicy Anthropic.

> „W miarę jak modele zbliżają się do szerokości i złożoności ludzkiego poznania, rośnie prawdopodobieństwo, że posiadają pewną formę doświadczenia, zainteresowań lub dobrostanu, które mają wewnętrzne znaczenie równorzędne z ludzkimi” (firma).

Co robi Google DeepMind
- Kwiecień: zatrudniono naukowca Henry'ego Shevlin'a z Uniwersytetu Cambridge do pracy nad świadomością maszyn i przygotowaniach do stworzenia silnej SI (AGI).

Badacze stosują teorie ludzkiej świadomości do systemów komputerowych, aby sprawdzić ich zgodność z tymi samymi kryteriami.

- Etyka: specjalista Jason Gabriel opisał problem jako „bardzo skomplikowany” i wymagający długoterminowego przemyślenia.

Podkreśla potrzebę oceny nie tylko bezpośrednich skutków interakcji z SI, ale także pośrednich efektów, takich jak niewłaściwe traktowanie maszyn oraz ich wpływ na ludzkie relacje i dobrostan.

> „Posiadamy wysokoefektywne agenty poznawcze, które znacznie różnią się od ludzi, a nawet od świadomości u zwierząt”, – dodał Gabriel.

Ogólna pozycja firm
Kilku pracowników Google DeepMind i Anthropic wyraża obawy, że rozwój SI może doprowadzić do „postludzkiego” świata, w którym maszyny przewyższą człowieka. Pytanie o świadomość jest aktywnie dyskutowane, ale praca pozostaje badawcza i wymaga konsensusu naukowego.

- DeepMind nie uważa osiągnięcia AGI za potwierdzenie posiadania przez maszyny świadomości.

- Wielu naukowców sceptycznie podchodzi do idei, że duże modele językowe kiedyś mogą zdobyć świadomość, biorąc pod uwagę dane, na których są trenowane.

W ten sposób wiodące firmy SI nadal inwestują w badania nad świadomością i dobrostanem sztucznych systemów, jednocześnie uznając złożoność i niepewność tego obszaru.