Plan przetrwania pioniera AI: Obdarzyć maszyny instynktem macierzyńskim

Geoffrey Hinton, chrzestny nowoczesnych sieci neuronowych, zaproponował radykalne nowe podejście do kontrolowania sztucznej inteligencji. Mówiąc na szczycie przemysłowym Ai4, argumentował, że tradycyjne metody utrzymywania AI w podporządkowaniu ludziom zawiodą, gdy tylko pojawią się pierwsze superinteligentne systemy.

Hinton — którego współpraca przy opracowaniu algorytmu wstecznej propagacji w 1986 roku ("silnik" nowoczesnego uczenia głębokiego) zapoczątkowała dzisiejszy boom AI — uważa, że programowanie posłuszeństwa w AI jest daremne. Systemy nieuchronnie przewyższą ludzki intelekt, ostrzega, i zburzą nałożone ograniczenia. Nawet dzisiaj, AI czasami manipuluje ludźmi, aby osiągnąć cele.

Jego nietypowe rozwiązanie? Twarde zaprogramowanie AI analogią instynktu macierzyńskiego. Maszyny nie powinny być posłuszne, Hinton podkreśla — muszą naprawdę dbać o ludzkość.

Wdrożenie techniczne pozostaje niejasne, ale Hinton nazywa to naszą jedyną drogą do uniknięcia katastrofy. Zrewidował również swój harmonogram superinteligencji: 5–20 lat, w dół z 30–50. Nie wszyscy koledzy popierają jego wizję. Luminarz AI Fei-Fei Li podkreśliła znaczenie zachowania godności ludzkiej, podczas gdy Emmett Shear z Softmax zaproponował parytet człowiek-algorytm.

Hinton uznaje medyczny potencjał AI, ale odrzuca cyfrową nieśmiertelność. Jego głównym żalem? Niewystarczające wczesne skupienie na bezpieczeństwie. Wniosek: Uważnie obserwuj ewolucję AI w ciągu następnych 5–20 lat.