U eri brzog razvoja tehnologija umjetne inteligencije, postavljaju se pitanja o našoj sposobnosti da kontroliramo ove tehnologije i potencijalnoj potrebi za usporavanjem njihovog napretka. Kompanija Anthropic, koja razvija chatbot Claude, jedna je od onih koje pozivaju na usporavanje tempa razvoja u ovom području, ukazujući na rizike gubitka ljudske kontrole.
Izazovi povezani sa samousavršavanjem tehnologija
Kompanija Anthropic vjeruje da bi sistemi umjetne inteligencije mogli doseći fazu samousavršavanja, gdje bi ti sistemi mogli dizajnirati i razvijati nove verzije uz minimalan ljudski napor. Iako kompanija ne smatra da je to neizbježno, izražava zabrinutost da bi se to moglo dogoditi ranije nego što različite institucije očekuju.
Kompanija je pokazala da je postotak koda koji piše chatbot Claude značajno porastao, što ukazuje na smanjenje ljudske uloge u procesu razvoja softvera. Kompanija tvrdi da bi ova tehnologija mogla imati ogromne posljedice na društvo ako se nastavi razvijati istim tempom.
Prijedlozi za usporavanje razvoja i izazovi provedbe
Anthropic je predložila uspostavljanje globalnog mehanizma koordinacije za usporavanje ili čak zaustavljanje razvoja tehnologija umjetne inteligencije, što bi društvu dalo potrebno vrijeme za prilagodbu ovim promjenama. Međutim, istaknuto je da postizanje ovog cilja zahtijeva neviđenu međunarodnu suradnju, s obzirom na nepostojanje obvezujućih ugovora između kompanija ili država.
Kompanija je navela sporazume o ograničenju nuklearnog oružja kao model za taj mehanizam, ali nije ponudila jasne detalje o tome kako ga provesti. Objasnila je da je potrebno sudjelovanje vodećih laboratorija za umjetnu inteligenciju i pronalaženje pouzdanog načina za dokazivanje njihove predanosti usporavanju.
Kritike i sumnje oko prijedloga
Poziv Anthropic-a za usporavanje razvoja naišao je na kritike nekih istraživača koji smatraju da je to nepraktično. Smatraju da nedostatak međunarodnih obveza otežava postizanje stvarnog zaustavljanja u tehnološkoj utrci. Također, neki istraživači su istaknuli da bi izjave kompanije mogle biti dio poslovne strategije za privlačenje regulatorne pažnje.
Ovi pozivi su se poklopili s poslovnim koracima kompanije, poput javne ponude i procjene na ogromne iznose, što je izazvalo sumnje u njihove stvarne namjere za usporavanje razvoja.
Zaključak
Budućnost umjetne inteligencije i njen brzi razvoj ostaje tema prepuna kontroverzi, gdje se strahovi od gubitka kontrole prepliću s potencijalnim koristima ove tehnologije. Ostaje pitanje: možemo li obuzdati ovaj razvoj kako bi bio u skladu s ljudskim i društvenim vrijednostima? Samo vrijeme i globalna suradnja će otkriti odgovor.