Pericolul masinilor super-inteligente

joi, 24 august 2017

Am scris în câteva rânduri în aceasta pagina despre discrepanta existenta între avântul tehnologiei bazate pe Inteligenta Artificiala (IA) si masurile de securitate cibernetica legate de aceste noi tehnologii. Si altii au îngrijorari similare. Unii cercetatori, dar si afaceristi implicati în producerea aparatelor dotate cu IA, îsi pun azi întrebarea daca nu cumva IA este un pericol pentru omenire. Cea mai noua disputa pe aceasta tema, publica, pentru ca a avut loc pe reteaua Twitter, este cea dintre Elon Musk, miliardarul implicat în proiecte spatiale (SpaceX) si automobile autonome (Tesla) si Mark Zuckerberg, fondatorul Facebook, dar implicat si el în proiecte tehnologice gigant.

 Dupa cum s-a vazut din replicile lor, cei doi nu sunt deloc de acord în privinta pericolului pe care îl poate aduce folosirea IA asupra omenirii în nici 100 de ani. Pe la jumatatea lunii iulie, Elon Musk declarase în timpul unei conferinte în fata guvernatorilor din Statele Unite ca „inteligenta artificiala este cea mai mare amenintare pentru civilizatia noastra”, adaugând ca „oamenii ar trebui sa fie foarte îngrijorati”.

 Miliardarul american a pledat pentru introducerea unei „reglementari” preventive în domeniul inteligentei artificiale, citând pericole precum „roboti care ucid oameni pe strada” sau care „declanseaza razboaie manipulând informatia”. Scriam si noi în urma cu ceva timp despre pericolul pe care îl reprezinta masinile fara sofer (autonome), dar si aparatele inteligente conectate la internet din categoria „internetul lucrurilor”). Toate acestea, cum s-a demonstrat în timpul unor experimente, pot deveni victime ale hackerilor care pot oricând prelua controlul asupra lor si produce avarii semnificative, chiar moartea unor persoane.

Ingrijorari intemeiate

 Mark Zuckerberg a catalogat „îngrijorarile” lui Musk drept „iresponsabile”. El este, dimpotriva, optimist, pentru ca „în urmatorii 5 sau 10 ani, inteligenta artificiala va permite realizarea unor îmbunatatiri în vietile noastre”, citând domeniul sanatatii si pe cel al conducerii autonome a vehiculelor. Verdictul lui Elon Musk în fata optimismului? „Întelegerea lui fata de acest subiect de discutie este limitata”. Si totusi, dincolo de pesimism si optimism, pare o cearta între giganti pe subiectul banilor pentru investitii. Si asta pentru ca gigantii din Silicon Valley investesc masiv în domeniul inteligentei artificiale, companiile detinute de Elon Musk si Mark Zuckerberg fiind actori importanti. Printre altele, Facebook a angajat ingineri specializati în inteligenta artificiala pentru a lucra la proiecte futuriste, precum comunicarea prin intermediul gândurilor.

 De partea cealalta, Elon Musk a participat si la înfiintarea unui cabinet de cercetari stiintifice pentru a dezvolta un tip de inteligenta artificiala „umana”, la sfârsitul lui martie, el anuntând înfiintarea unei noi companii, denumita Neuralink, care este dedicata realizarii unei interfete creier-computer. Asadar, îngrijorari, optimism si interese comerciale. Dar problema pericolului pe care îl reprezinta IA pentru viitorul omenirii este ridicata si de alti cercetatori, dupa cum aflam de pe site-ul „The Future of Life Institute”.

 Dupa ce s-au creat produse înzestrate cu IA mai ramâne sa fie implementate si programele de verificare, validare, securitate si control a acestor dispozitive. Ceva de genul masurilor de securitate introduse în cazul bancilor care desfasoara operatiuni prin internet (plati, carduri etc.). În schimb, deocamdata, aceste sisteme de securitate, control, validare nu se aplica si oricine poate controla, prin mici aplicatii pe telefonul mobil, directia masinii autonome, avionul, stimulatorul cardiac, instalatiile casnice (aragaz, frigider etc.). Totul poate deveni o arma letala. Pe termen lung, se poate pune problema ce se întâmpla daca dispozitivele IA vor deveni mai puternice decât inteligenta umana, chiar si în actiuni cognitive. Si acesta este un mit care circula în lumea stiintifica. Cum arata si I.J. Good în 1965, realizarea unor dispozitive dotate cu IA este un act cognitiv, ele ar fi benefice pentru om pentru a pune capat razboaielor, pentru a ameliora sanatatea oamenilor, a eradica saracia etc. Din pacate, pe lânga producerea unor gadgeturi marunte, folosirea IA se face în scopuri preponderent militare, de distrugere, nu de ameliorare a calitatii vietii umane. Si în asta consta marele pericol pentru umanitate. Unii cercetatori cred ca aparatele cu IA nu vor deveni o forta super-inteligenta, altii sunt gata sa garanteze ca dispozitivele super-inteligente vor aduce numai beneficii (!), desi toti admit ca exista un „potential ca, intentionat sau neintentionat, un sistem IA sa produca mari pagube, cu consecinte grave pentru viitorul umanitatii”.

Siguranta cibernetica

 Sa ne aducem aminte de vechile filme s.f., cum ar fi 2001: Odiseea spatiala, Terminator, Matrix, Transcendence, Ex Machina si altele bazate pe ideea ca masinile cu inteligenta artificiala vor evolua pâna la un punct în care omenirea nu le va mai putea controla. Deja fondatorul companiei Boston Dynamics, Marc Raiber, a postat un clip video cu realizarea lui, un robot umanoid, numit Atlas, înalt de 180 cm si greu de 160 kg, care alearga liber prin padure. O joaca? Nu prea, de vreme ce compania, cumparata de Google în 2013, a primit finantare de la Departamentul Apararii, pentru a realiza versiuni mai noi si mai capabile.

 Problema este ca aceste tehnologii revolutionare par a fi concepute pentru scopuri strict militare: de a ucide cât mai multi inamici si de a cruta viata soldatilor americani.

 Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates, dar si alte nume din domeniul stiintei si tehnologiei si-au exprimat, prin intermediul mass-media sau al scrisorilor deschise, îngrijorarea fata de riscurile ridicate de IA. Cum se explica acest interes subit? Pâna acum câteva decenii, masinariile dotate cu inteligenta artificiala nu intrau în sfera de interese ale cercetatorilor. Numai ca în ultimii cinci ani, subiectul a devenit real si presant, tocmai datorita dezvoltarii noilor tehnologii care fac posibila aparitia unor dispozitive super-inteligente chiar în timpul vietii noastre. Desi unii cercetatori cred ca acest lucru ar fi posibil doar peste un secol, la Conferinta de la Puerto Rico din 2015, expertii în inteligenta artificiala si-au exprimat încrederea ca aceste sisteme super-inteligente pot deveni realitate pâna în 2060.

 Lucrurile ar putea evolua mult mai rapid, dar este nevoie de câteva decenii doar pentru a pune la punct sistemele de siguranta cibernetica. Ar fi ceva nou, nemaiîntâlnit în civilizatia noastra. Pâna acum inventatorii, cercetatorii nu au creat ceva care sa depaseasca inteligenta umana. Cel mai bun exemplu este evolutia omului: noi nu am cucerit planeta pentru ca am fost mai rapizi, mai mari sau mai puternici, ci pentru ca am fost mai inteligenti.

 Daca o sa ne dispara inteligenta, vom mai putea controla planeta? Cu alte cuvinte, civilizatia umana va înflori atâta vreme cât vom avea inteligenta sa câstigam cursa dintre cresterea puterii tehnologice si inteligenta de a o controla. În rest, ce este gândit sa apara va aparea. Temerile vor ramâne undeva, în umbra, ascunse cu buna stiinta...

GEORGE CUSNARENCU