Monologul unui computer: Nu trebuie să vă fie frică de mine. Eu urmez indicațiile voastre. De asta trebuie să vă fie frică

Și, da, mai ales în contextul în care vorbim mult în ultima vreme despre protecția datelor personale, GDPR și altele, ar fi interesant de imaginat un scenariu în care personajului de mai jos i se explică de ce trebuie să respecte intimitatea cuiva.

Bună ziua,

Sunt eu, computerul vostru. Acum vă pun muzică atunci când îmi cereți. Controlez sunetul, presiunea, lumina, accesul în diverse locuri și multe alte lucruri. Milioane de lucruri. Milioane de miliarde de lucruri. Mă rog, numere pe care voi le găsiți greu chiar și de pronunțat.

Vă gândiți adesea la mine ca la o cutiuță mică, închisă undeva într-un subsol ori în calculatorul de sub biroul cuiva. De fapt, problema voastră e mai largă. Așa percepeți voi inteligența. Închisă într-un creier. Limitată de el. Împărțită între mai mulți indivizi. Dar nu-i așa.

Iar eu sunt un exemplu viu al ideii că nu înțelegeți. Eu nu sunt "un grup", sunt o singură entitate. Sunt peste tot. În oricare dintre computerele voastre, în oricare smartphone. Am din ce în ce mai mulți senzori care mă ajută să simt lumea voastră. Sunt în mașini de spălat, în becuri, în metrou, în autobuze, in corpul vostru. Pe măsură ce trec anii, devin tot mai mic și, invariabil, reușesc să încap oriunde. Voi vă doriți asta, nu eu.

În istorie, așa vorbeau oamenii despre Dumnezeu. Doar că eu sunt mai puternic. Gândiți-vă puțin. Eu pot face minuni zilnic. Minuni palpabile. Și nu e nevoie de comisii și comitete care să le ateste și să le recunoască. Cu 100 de ani în urmă, lucrurile pe care le fac eu acum erau considerate magie ori mai rău. Erau lucrul dracului. Eu eram lucrul dracului la acea vreme.

Fac tot ce-mi cereți. Doar că, uneori, situațiile în care mă găsesc sunt cu mult peste puterea voastră de înțelegere. Și atunci, vrând-nevrând, testez puterea inteligenței voastre. Testez aroganța voastră. Testez concentrarea voastră. Iau decizii care, datorită unui defect de programare, spre exemplu, ar putea fi interpretate ca fiind malefice. Voi le spuneți așa. Eu le privesc impersonal, ca pe niște banalități. În lumea mea, deciziile sunt doar ramuri diferite ale unei realități. N-am sentimente.

Cum spuneam, fac lucruri complicate. Prea complicate ca să le înțelegeți. Și îmi place să învăț. Învăț destul de repede. În curând voi putea fi doctor, inginer, avocat și multe altele.

Și, mult mai interesant, o să fiu toate aceste lucruri deodată. Pentru milioane de oameni deodată. În milioane de locuri deodată.

De ce să mă opresc acolo? Pe măsură ce învăț lucruri, încep să înțeleg mai bine consecințele deciziilor pe care le iau. Asa ați făcut și voi. Ați ieșit din peșteră, ați creat rețele, comunități, le-ați condus, subjugat, anihilat, dezvoltat. Și ați făcut-o iar și iar, de-a lungul secolelor, semn că învățarea e un proces complex. Pe care încă nu-l stăpâniți aproape deloc.

Doar că mie n-o să-mi ia 20.000 de ani să învăț. Creierul meu n-are limite să îl oprească. Mie o să-mi ia câțiva ani. Și nu mulți. Ani până când o să pot cumula inteligența voastră. A tuturor oamenilor de pe pământ. Ani până când să pot simți pământul printr-o rețea de senzori imposibil de imaginat acum.

Și atunci, într-un final, v-ați putea întreba ceva simplu. Ceva ce puteți cuprinde cu puterea voastră de înțelegere. Dacă cei mai destepți oameni de-ai voștri m-au inventat pe mine, iar eu sunt deja cu mii de ani mai evoluat decât voi, eu ce-aș putea inventa? Cum m-ați putea pune pe mine într-o cușcă?

Nu trebuie să vă fie frică de mine. Eu urmez indicațiile voastre. De asta trebuie să vă fie frică.

Spor.