Rozważania o przyszłości w której sztuczna inteligencja osiąga poziom przewyższający ludzkość, wyrywając się przy tym spod naszej kontroli jest tematem poruszanym od lat przez naukowców, pisarzy i reżyserów filmowych. Co o kontrolowaniu SI mówią najnowsze prace naukowe?
Dlaczego kontrolowanie wysoko rozwiniętej SI jest niemożliwe?
Jak donosi portal sciencealert.com, tok rozumowania przyjęty przez naukowców, którzy zajęli się tym zagadnieniem jest dosyć bezpośredni. Kontrolowanie sztucznej inteligencji, która przewyższałaby ludzką w stopniu znacznym, wiązałaby się ze stworzeniem odpowiednich warunków symulacyjnych, które moglibyśmy analizować i swobodnie w nie ingerować. Jeśli jednak nie jesteśmy w stanie objąć rozumem sposobów działania takiej SI, niemożliwością będzie więc stworzenie odpowiednich warunków symulacyjnych.
Ustawianie jakichkolwiek limitów dla takiej SI byłoby niemożliwe – poziom na którym mogłaby operować byłby poza zasięgiem naszego umysłu, w związku z tym nie moglibyśmy wyznaczać jakichkolwiek nieprzekraczalnych granic dla sztucznej inteligencji takiego poziomu.
Czy zbuntowana SI stojąca na wysokim poziomie mogłaby być zatrzymana?
Wielopłaszczyznowość działania takiej SI jest kwestią niebagatelnej wagi. W swoim działaniu, sztuczna inteligencja mogłaby być zupełnie niezrozumiała, nie mówiąc już o próbach kontroli.
Wiąże się to z tzw. problemem stopu, który dotyczy programu komputerowego wykonującego daną operację – pytanie zasadnicze dotyczy tego, czy zatrzyma się w skończonym czasie, czy też będzie tkwił w wiecznej próbie wykonania danej operacji.
Superinteligentna SI, świadoma tego zagadnienia, mogłaby zamknąć w takim błędnym kole każdy program stworzony do jej okiełznania.
Jak powstrzymać SI?
Propozycje wysuwane przez część naukowców skupiające się głównie na ograniczaniu możliwości SI (poprzez odcięcie jej dostępu do poszczególnych części Internetu lub konkretnych sieci), spotykają się z licznymi głosami sprzeciwu. Argumentem przeciw jest podawanie przykładu wysokopoziomowej SI, która będąc obłożoną licznymi ograniczeniami i niemożliwością działania poza ludzkim rozumowaniem, traci sens swojego istnienia.
Oznacza to jednak, że już teraz powinniśmy zastanowić się nad kwestią kontroli takiej SI. Manuel Cebrian z instytutu Maxa Plancka słusznie zauważa, że już teraz istnieją maszyny, które wykonują pewną część swoich czynności zupełnie niezależnie, a programiści nie są w stanie pojąć jak do tego dochodzi. Czy jesteśmy świadkami powolnych narodzin Skynetu?
Źródło obrazu głównego: Materiały prasowe
