Istraživanje koje je nedavno objavljeno u časopisu Acta Astronautica istražuje mogućnost da umjetna inteligencija (UI) predstavlja univerzalnu prepreku u razvoju civilizacija, poznatu kao "veliki filter". Ovaj koncept sugerira da postoji praga koji je teško prijeći i koji sprečava većinu života da evoluira u civilizacije sposobne za putovanje kroz svemir.

Veliki filter hipoteza nudi rješenje za Fermijev paradoks koji pita zašto, u svemiru toliko prostranom i starom da može ugostiti milijarde potencijalno naseljivih planeta, još uvijek nismo otkrili znakove vanzemaljskih civilizacija. Hipoteza sugerira da postoje nepremostive prepreke u evolucijskoj liniji civilizacija koje ih sprečavaju u razvoju u svemirske entitete.

Vjerujem da bi pojava nadmoćne umjetne inteligencije (NUI) mogla biti takav filter. Brz napredak UI, koji bi potencijalno mogao dovesti do NUI, mogao bi se poklopiti s ključnom fazom u razvoju civilizacije – prijelazom s vrste koja živi na jednom planetu na vrstu koja naseljava više planeta.

Tu bi mnoge civilizacije mogle zapeti, s UI koji napreduje puno brže od naše sposobnosti da ga kontroliramo ili održivo istražujemo i naseljavamo naš Sunčev sustav.

Izazov s UI, a posebno s NUI, leži u njegovoj autonomnoj prirodi koja se sama pojačava i poboljšava. Posjeduje potencijal da poboljša vlastite sposobnosti brzinom koja nadmašuje naše evolucijske vremenske skale bez UI.

Potencijal za ozbiljne probleme je ogroman, što bi moglo dovesti do propasti kako bioloških tako i UI civilizacija prije nego što ikada dobiju priliku postati višeplanetarne. Na primjer, ako države sve više oslanjaju na autonomne UI sustave koji se natječu jedni protiv drugih, vojne sposobnosti mogu se koristiti za ubijanje i uništavanje na neviđenoj razini. To bi potencijalno moglo dovesti do uništenja cijele naše civilizacije, uključujući i same UI sustave.

U ovom scenariju procjenjujem da tipična dugovječnost tehnološke civilizacije može biti manja od 100 godina. To je približno vrijeme između sposobnosti primanja i emitiranja signala između zvijezda (1960) i procijenjenog pojavljivanja NUI (2040) na Zemlji. Ovo je alarmantno kratko u odnosu na kozmičku vremensku skalu koja se broji milijardama godina.

Ova procjena, kada se uključi u optimistične verzije Drakeove jednadžbe – koja pokušava procijeniti broj aktivnih, komunikativnih vanzemaljskih civilizacija u Mliječnoj stazi – sugerira da u bilo kojem trenutku postoji samo nekoliko inteligentnih civilizacija. Štoviše, poput nas, njihove relativno skromne tehnološke aktivnosti mogle bi ih učiniti teškim za otkrivanje.

Ovo istraživanje nije samo oprezna priča o potencijalnoj propasti. Služi kao poziv na buđenje za čovječanstvo da uspostavi robustne regulatorne okvire koji će voditi razvoj UI, uključujući vojne sustave.

Radi se ne samo o sprječavanju zlonamjerne upotrebe UI na Zemlji; radi se o osiguranju da evolucija UI bude u skladu s dugoročnim opstankom naše vrste. To sugerira da moramo uložiti više resursa u što skorije postajanje višeplanetarnim društvom – cilj koji je od vremena projekta Apollo bio u mirovanju, ali je nedavno ponovno oživljen zahvaljujući napretku koji su postigle privatne tvrtke.

Kako povjesničar Yuval Noah Harari napominje, ništa u povijesti nas nije pripremilo za utjecaj uvođenja neosviještenih, superinteligentnih entiteta na naš planet. Nedavno su implikacije autonomnog donošenja odluka UI dovele do poziva istaknutih vođa u polju za moratorij na razvoj UI, dok se ne uvede odgovoran oblik kontrole i regulacije.

Čak i ako bi se sve zemlje složile pridržavati se strogi integracije autonomnog UI u obrambene sustave mora biti posebno zabrinjavajuće. Postoje dokazi da ljudi već dobrovoljno predaju značajnu moć sve sposobnijim sustavima, jer oni mogu obavljati korisne zadatke mnogo brže i učinkovitije bez ljudske intervencije. Vlade su stoga nesklone regulaciji u ovom području s obzirom na strateške prednosti koje UI nudi, kako je nedavno i razorno demonstrirano u Gazi.

To znači da već opasno balansiramo na rubu gdje autonomno oružje djeluje izvan etičkih granica i zaobilazi međunarodno pravo. U takvom svijetu, predaja moći UI sustavima radi stjecanja taktičke prednosti može nenamjerno pokrenuti niz brzo eskalirajućih, visoko destruktivnih događaja. U tren oka, kolektivna inteligencija našeg planeta mogla bi biti uništena.

Čovječanstvo je u ključnoj točki svoje tehnološke putanje. Naše sadašnje akcije mogu odrediti hoćemo li postati trajna međuzvjezdana civilizacija ili ćemo se pokoriti izazovima koje postavljaju naša vlastita stvorenja.

Korištenje Seti-ja kao leće kroz koju možemo promatrati naš budući razvoj dodaje novu dimenziju raspravi o budućnosti UI. Na svima nama je da osiguramo da kada posegnemo za zvijezdama, to činimo ne kao upozoravajuća priča za druge civilizacije, već kao svjetionik nade – vrsta koja je naučila napredovati uz UI.

Original:
Michael Garrett
Sir Bernard Lovell, predstojnik astrofizike i direktor Centra za astrofiziku Jodrell Bank, Sveučilište u Manchesteru