Kabineti i tmerreve

Ngritja e makinave dhe kapja e pushtetit nga inteligjenca artificiale. Një botë e mbikëqyrjes totale dhe kontrollit social. Lufta bërthamore dhe degjenerimi i qytetërimit. Shumë vizione të errëta të së ardhmes, të hartuara shumë vite më parë, duhet të kishin ndodhur sot. Dhe ndërkohë shikojmë prapa dhe duket se ata nuk ishin aty. A je i sigurt?

Ekziston një repertor mjaft stereotipik i popullaritetit profecitë distopike (për vizionin e zi të së ardhmes). Përveç më të zakonshmeve që lidhen me shkatërrimin e mjedisit dhe burimeve natyrore, besohet gjerësisht se teknologjitë më të fundit po dëmtojnë komunikimin ndërpersonal, marrëdhëniet dhe shoqërinë.

Hapësira virtuale do të zëvendësojë në mënyrë mashtruese pjesëmarrjen reale në botë. Pikëpamjet e tjera distopike e shohin zhvillimin teknologjik si një mënyrë për të rritur pabarazinë sociale, për të përqendruar fuqinë dhe pasurinë në duart e grupeve të vogla. Kërkesat e larta të teknologjisë moderne përqendrojnë njohuritë dhe aftësitë në rrethe të ngushta individësh të privilegjuar, rrisin mbikëqyrjen e njerëzve dhe shkatërrojnë privatësinë.

Sipas shumë futuristëve, produktiviteti më i lartë dhe zgjedhja më e madhe e dukshme mund të dëmtojnë cilësinë e jetës njerëzore duke shkaktuar stres, duke rrezikuar vendet e punës dhe duke na bërë gjithnjë e më materialistë për botën.

Një nga "distopistët" e njohur teknologjik, James Gleick, jep një shembull në dukje të parëndësishme të një telekomande televizori si një shpikje klasike që nuk zgjidh një problem të vetëm të rëndësishëm, duke krijuar shumë të reja. Gleick, duke cituar një historian teknik Eduard Tenner, shkruan se aftësia dhe lehtësia e ndërrimit të kanaleve duke përdorur telekomandën shërben kryesisht për të shpërqendruar gjithnjë e më shumë shikuesin.

Në vend të kënaqësisë, njerëzit janë gjithnjë e më të pakënaqur me kanalet që shikojnë. Në vend që të plotësoni nevojat, ka një ndjenjë zhgënjimi të pafund.

A do të na mbajnë makinat në rezervime?

A do të jemi në gjendje ta kontrollojmë këtë gjë që është e pashmangshme dhe ndoshta do të vijë së shpejti? Mbi inteligjencën artificiale? Nëse do të jetë kështu, siç shpallin shumë vizione distopike, atëherë jo. (1).

Është e vështirë të kontrollosh diçka që është shumë herë më e fortë se ne. me një rritje të numrit të detyrave. Njëzet vjet më parë, askush nuk do ta besonte se ata mund të lexonin emocionet në zërin dhe fytyrën e një personi shumë më saktë se sa ne vetë. Ndërkohë, algoritmet e trajnuar tashmë janë në gjendje ta bëjnë këtë, duke analizuar shprehjet e fytyrës, timbrin dhe mënyrën se si ne flasim.

Kompjuterët vizatojnë fotografi, kompozojnë muzikë dhe njëri prej tyre madje fitoi një konkurs poezie në Japoni. Ka kohë që mundin njerëzit në shah, duke e mësuar lojën nga e para. E njëjta gjë vlen edhe për lojën shumë më komplekse të Go.

ai u bindet ligjeve të nxitimit gjithnjë e më të shpejtë. Ajo që ka arritur AI - me ndihmën e njerëzve - gjatë dekadave të fundit do të dyfishohet në vitet e ardhshme, ndoshta vetëm muaj, dhe më pas do të duhen vetëm javë, ditë, sekonda ...

Siç doli kohët e fundit, algoritmet e përdorura në telefonat inteligjentë ose në aeroporte për të analizuar fotot nga kamerat e kudogjendura, jo vetëm që mund të njohin dikë në korniza të ndryshme, por edhe të përcaktojnë veçori psikologjike ekskluzivisht intime. Të thuash se ky është një rrezik i madh për privatësinë është si të mos thuash asgjë. Nuk bëhet fjalë për një mbikëqyrje të thjeshtë, për të parë çdo hap, por për informacione që lindin si rezultat i vetë pamjes së një personi, për dëshirat e tij të fshehura dhe preferencat personale. 

Algoritmet mund ta mësojnë këtë relativisht shpejt duke analizuar qindra mijëra raste, gjë që është shumë më tepër sesa mund të shohë edhe personi më i zgjuar gjatë gjithë jetës. Të armatosur me një përvojë të tillë të pasur, ata janë në gjendje të skanojnë një person më saktë se edhe psikologu, analisti i gjuhës së trupit dhe gjesteve më me përvojë.

Pra, distopia e vërtetë rrëqethëse nuk është se kompjuterët luajnë shah ose na dalin kundër nesh, por se ata mund ta shohin shpirtin tonë më thellë se kushdo tjetër përveç nesh, plot ndalime dhe blloqe në njohjen e atyre ose prirjeve të tjera.

Elon Musk beson se ndërsa sistemet e AI fillojnë të mësojnë dhe arsyetojnë në një shkallë gjithnjë në rritje, "inteligjenca" mund të zhvillohet diku thellë në shtresat e internetit, e padukshme për ne.

Sipas një studimi amerikan të publikuar në vitin 2016, në 45 vitet e ardhshme, inteligjenca artificiale ka një shans 50 për qind për të tejkaluar njerëzit në të gjitha detyrat. Parashikuesit thonë se po, AI do të zgjidhë problemin e kancerit, do të përmirësojë dhe shpejtojë ekonominë, do të ofrojë argëtim, do të përmirësojë cilësinë dhe kohëzgjatjen e jetës, do të na edukojë që të mos jetojmë dot pa të, por është e mundur që një ditë, pa urrejtja, vetëm për në bazë të llogaritjes logjike, thjesht na largon. Ndoshta fizikisht nuk do të funksionojë, sepse në çdo sistem ia vlen të kurseni, arkivoni dhe ruani burime që "mund të jenë të dobishme një ditë". Po, ky është burimi që mund të jemi për AI. Fuqi punëtore e mbrojtur?

Optimistët ngushëllojnë veten me faktin se ekziston gjithmonë mundësia për të nxjerrë spinën nga priza. Megjithatë, gjithçka nuk është aq e thjeshtë. Tashmë, jeta e njeriut është bërë aq e varur nga kompjuterët sa që një hap radikal kundër tyre do të ishte një fatkeqësi për ne.

Në fund të fundit, ne po krijojmë gjithnjë e më shumë sisteme vendimmarrjeje të bazuara në AI, duke u dhënë atyre të drejtën të fluturojnë aeroplanë, të vendosin norma interesi, të drejtojnë termocentrale - ne e dimë se algoritmet do ta bëjnë këtë shumë më mirë se ne. Në të njëjtën kohë, ne nuk e kuptojmë plotësisht se si merren këto vendime dixhitale.

Ekziston frika se sistemet super-inteligjente të komandës si "Zvogëlimi i kongjestionit" mund t'i shtyjnë ata të arrijnë në përfundimin se e vetmja mënyrë efektive për të kryer punën është... reduktimi i popullsisë me një të tretën apo edhe gjysmën.

Po, ia vlen t'i jepni makinës udhëzimin më të rëndësishëm si "Para së gjithash, shpëtoni një jetë njerëzore!". Megjithatë, kush e di nëse atëherë logjika dixhitale do të çojë në burgosjen e njerëzimit apo nën hambar, ku ne mund të jemi të sigurt, por sigurisht jo të lirë.

Krimi kibernetik si shërbim

Në të kaluarën, distopitë dhe imazhet e botës post-apokaliptike në letërsi dhe kinema zakonisht vendoseshin në epokën post-bërthamore. Sot, asgjësimi bërthamor nuk duket i nevojshëm për katastrofën dhe shkatërrimin e botës siç e njohim ne, edhe pse jo ashtu siç e imagjinojmë ne. , nuk ka gjasa të shkatërrojë botën si në "Terminator", ku u kombinua me asgjësimin bërthamor. Nëse do ta bënte, ajo nuk do të ishte një superinteligjencë, por një forcë primitive. Në fund të fundit, edhe njerëzimi nuk e ka realizuar ende skenarin global të një konflikti shkatërrues bërthamor.

Një apokalips i vërtetë i makinës mund të jetë shumë më pak mbresëlënës.

Lufta kibernetike, sulmet e viruseve, hakimi i sistemit dhe ransomware, ransomware (2) paralizojnë dhe shkatërrojnë botën tonë jo më pak efektivisht se bombat. Nëse shkalla e tyre zgjerohet, ne mund të hyjmë në një fazë të luftës totale, në të cilën do të bëhemi viktima dhe pengje makinerish, megjithëse nuk u kërkohet të veprojnë në mënyrë autonome, dhe është e mundur që njerëzit të jenë ende pas çdo gjëje.

Verën e kaluar, Agjencia Amerikane e Sigurisë Kibernetike dhe Infrastrukturës (CISA) i quajti sulmet e ransomware "kërcënimi më i dukshëm i sigurisë kibernetike".

CISA pretendon se shumë aktivitete ku një kriminel kibernetik përgjon dhe kodon të dhënat e një personi ose organizate dhe më pas zhvat një shpërblim, nuk raportohen kurrë sepse viktima paguan kriminelët kibernetikë dhe nuk është i gatshëm të publikojë problemet me sistemet e tyre të pasigurta. Në një nivel mikro, kriminelët kibernetikë shpesh synojnë njerëz të moshuar që kanë vështirësi të bëjnë dallimin midis përmbajtjes së ndershme dhe të pandershme në internet. Ata e bëjnë këtë me malware të ngulitur në një bashkëngjitje emaili ose një dritare kërcyese në një faqe interneti të infektuar. Në të njëjtën kohë, sulmet ndaj korporatave të mëdha, spitaleve, agjencive qeveritare dhe qeverive janë në rritje.

Këta të fundit ishin veçanërisht në shënjestër për shkak të të dhënave të ndjeshme që mbanin dhe aftësisë për të paguar shpërblime të mëdha.

Disa informacione, të tilla si informacionet shëndetësore, janë shumë më të vlefshme për pronarin se të tjerët dhe mund t'i bëjnë kriminelët më shumë para. Hajdutët mund të kapin ose karantinojnë blloqe të mëdha të të dhënave klinike të rëndësishme për kujdesin ndaj pacientit, si p.sh. rezultatet e testeve ose informacionet e ilaçeve. Kur jeta është në rrezik, nuk ka vend për negociata në spital. Një nga spitalet amerikane u mbyll përgjithmonë në nëntor të vitit të kaluar pas sulmit terrorist të gushtit.

Ndoshta vetëm do të përkeqësohet me kalimin e kohës. Në vitin 2017, Departamenti Amerikan i Sigurisë Kombëtare njoftoi se sulmet kibernetike mund të synojnë infrastrukturën kritike, siç janë shërbimet e ujit. Dhe mjetet e nevojshme për të kryer veprime të tilla janë gjithnjë e më të disponueshme për operatorët më të vegjël, të cilëve ata u shesin paketa ransomware si softuerët Cerber dhe Petya dhe paguajnë një tarifë shpërblimi pas sulmeve të suksesshme. Bazuar në krimin kibernetik si shërbim.

Çrregullim i rrezikshëm në gjenom

Një nga temat e njohura të distopisë është gjenetika, manipulimi i ADN-së dhe mbarështimi i njerëzve - përveç kësaj, "i programuar" në mënyrën e duhur (autoritetet, korporatat, ushtria).

Mishërimi modern i këtyre anktheve është një metodë popullarizimi Redaktimi i gjeneve CRISPR (3). Mekanizmat që ai përmban janë kryesisht shqetësues. duke detyruar funksionet e dëshiruara në gjeneratat e mëvonshme dhe potenciali i tyre u përhap në të gjithë popullsinë. Një nga shpikësit e kësaj teknike, Jennifer Doudna, madje kohët e fundit bëri thirrje për një moratorium mbi teknikat e tilla të redaktimit "të brezit" për shkak të pasojave potencialisht katastrofike.

Kujtojmë se disa muaj më parë, një shkencëtar kinez Në Jiankui është kritikuar gjerësisht për redaktimin e gjeneve të embrioneve njerëzore për t'i imunizuar ato kundër virusit SIDA. Arsyeja ishte se ndryshimet që ai bëri mund të kalonin brez pas brezi me pasoja të paparashikueshme.

Shqetësuese të veçantë janë të ashtuquajturat d (rishkrimi i gjeneve, shtytja e gjeneve), d.m.th. një mekanizëm i modifikuar gjenetikisht që kodon një sistem redaktimi në ADN-në e një individi të caktuar Gjenomi CRISPR/CAS9 me vendosjen e tij për të redaktuar këtë variant të gjenit të padëshiruar. Për shkak të kësaj, pasardhësit automatikisht (pa pjesëmarrjen e gjenetistëve) mbishkruajnë variantin e gjenit të padëshiruar me atë të dëshiruar.

Megjithatë, një variant i padëshirueshëm i gjenit mund të merret nga pasardhësit "si dhuratë" nga një prind tjetër i pamodifikuar. Pra, nxitja e gjeneve le të thyejmë Ligjet Mendeliane të trashëgimisëtë cilat thonë se gjysma e gjeneve dominuese shkojnë tek pasardhësit nga njëri prind. Me pak fjalë, kjo përfundimisht do të çojë në përhapjen e variantit të gjenit në fjalë në të gjithë popullatën.

Biolog në Universitetin e Stanfordit Christina Smolke, përsëri në një panel mbi inxhinierinë gjenetike në vitin 2016, paralajmëroi se ky mekanizëm mund të kishte pasoja të dëmshme dhe, në raste ekstreme, të tmerrshme. Lëvizja e gjeneve është në gjendje të ndryshojë ndërsa kalon nëpër breza dhe të shkaktojë çrregullime gjenetike si hemofilia ose hemofilia.

Siç lexojmë në një artikull të botuar në Nature Reviews nga studiues në Universitetin e Kalifornisë, Riverside, edhe nëse një lëvizje funksionon siç synohet në një popullatë të një organizmi, i njëjti tipar trashëgues mund të jetë i dëmshëm nëse futet disi në një popullatë tjetër. . e njëjta pamje.

Ekziston gjithashtu rreziku që shkencëtarët të krijojnë disqe gjenesh pas dyerve të mbyllura dhe pa rishikim nga kolegët. Nëse dikush me dashje ose pa dashje fut në gjenomin e njeriut një nxitje të dëmshme gjenesh, të tilla si një që shkatërron rezistencën tonë ndaj gripit, mund të nënkuptojë edhe fundin e specieve homo sapiens…

Kapitalizmi survejues

Një version i distopisë që ish shkrimtarët e trillimeve shkencore vështirë se mund ta imagjinonin është realiteti i internetit, dhe veçanërisht i mediave sociale, me të gjitha pasojat e tij të përshkruara gjerësisht që shkatërrojnë privatësinë, marrëdhëniet dhe integritetin psikologjik të njerëzve.

Kjo botë është pikturuar vetëm në shfaqjet më të reja të artit, siç është ajo që mund të shihnim në serialin Black Mirror në episodin e vitit 2016 "The Diving" (4). Shoshana Zuboff, një ekonomist i Harvardit, e quan këtë realitet plotësisht të varur nga vetë-afirmimi shoqëror dhe plotësisht i "privatizuar". kapitalizmi i mbikqyrjes (), dhe në të njëjtën kohë puna kurorëzuese e Google dhe Facebook.

4. Skena nga "Black Mirror" - episodi "Diving"

Sipas Zuboff, Google është shpikësi i parë. Përveç kësaj, ajo vazhdimisht po zgjeron aktivitetet e saj të mbikëqyrjes, për shembull përmes projekteve në dukje të pafajshme të qytetit të zgjuar. Një shembull është projekti i fqinjësisë më inovative në botë nga Sidewalk Labs, një degë e Google. skelë në Toronto.

Google planifikon të mbledhë të gjitha të dhënat më të vogla për jetën e banorëve të bregdetit, lëvizjen e tyre dhe madje edhe frymëmarrjen me ndihmën e sensorëve të kudondodhur monitorues.

Është gjithashtu e vështirë të zgjedhësh një distopi interneti që nuk mund të diskutohet në Facebook. Kapitalizmi i mbikqyrjes mund të jetë shpikur nga Google, por ishte Facebook ai që e çoi atë në një nivel krejtësisht të ri. Kjo u bë përmes mekanizmave viralë social dhe emocionalë dhe persekutimit të pamëshirshëm edhe të atyre që nuk janë përdorues të platformës Zuckerberg.

AI i ruajtur, i zhytur në realitetin virtual, duke jetuar me UBI

Sipas shumë futuristëve, e ardhmja e botës dhe e teknologjisë përcaktohet nga pesë shkurtesa - AI, AR, VR, BC dhe UBI.

Lexuesit e “MT” ndoshta e dinë mirë se çfarë janë dhe nga përbëhen tre të parët. E njohura rezulton edhe e katërta, “BC”, kur kuptojmë se për çfarë bëhet fjalë. Dhe e pesta? UBD është një shkurtim i konceptit, që do të thotë "të ardhurat bazë universale » (5). Ky është një përfitim publik, i postuluar herë pas here, që do t'i jepet çdo personi të liruar nga puna ndërsa zhvillohen teknologjitë e tjera, veçanërisht AI.

5. Të Ardhurat Bazë Universale - UBI

Zvicra madje e vuri këtë ide në një referendum vitin e kaluar, por qytetarët e saj e refuzuan atë, nga frika se futja e të ardhurave të garantuara do të çonte në një vërshim emigrantësh. UBI gjithashtu mbart me vete një sërë rreziqesh të tjera, duke përfshirë rrezikun e përjetësimit të pabarazive ekzistuese sociale.

Secili prej revolucioneve teknologjike pas akronimit (shih gjithashtu:) - nëse përhapet dhe zhvillohet në drejtimin e pritur - ka pasoja të mëdha për njerëzimin dhe botën tonë, duke përfshirë, natyrisht, një dozë të madhe distopie. Për shembull, besohet se mund të zëvendësojë ciklet zgjedhore katërvjeçare dhe të çojë në referendume për çështje të panumërta.

Realiteti virtual, nga ana tjetër, është në gjendje të "përjashtojë" një pjesë të njerëzimit nga bota reale. Siç ndodhi, për shembull, me koreanen Jang Ji Sung, e cila, pas vdekjes së vajzës së saj në vitin 2016 nga një sëmundje e pashërueshme, që atëherë ka takuar avatarin e saj në VR. Hapësira virtuale gjithashtu krijon lloje të reja problemesh, ose në fakt i transferon të gjitha problemet e vjetra të njohura në botën "e re", apo edhe në shumë botë të tjera. Deri diku, këtë mund ta shohim tashmë në rrjetet sociale, ku ndodh që shumë pak pëlqime në postime të çojnë në depresion dhe vetëvrasje.

Përralla profetike pak a shumë

Në fund të fundit, historia e krijimit të vizioneve distopike mëson gjithashtu kujdes në formulimin e parashikimeve.

6. Kopertina e "Ishujve në rrjetë"

I filmuar vitin e kaluar ishte kryevepra e famshme fantastiko-shkencore e Ridley Scottandroid gjuetar» Që nga viti 1982. Është e mundur të diskutohet për plotësimin ose jo të shumë elementeve specifike, por është e padiskutueshme që profecia më e rëndësishme në lidhje me ekzistencën në kohën tonë të androidëve inteligjentë, humanoidë, në shumë mënyra më të larta se njerëzit, ende nuk është bërë realitet.

Do të ishim të gatshëm të toleronim edhe shumë goditje profetike”.Neuromancerët»dmth romane William Gibson që nga viti 1984, i cili popullarizoi konceptin e "hapësirës kibernetike".

Mirëpo, në atë dekadë doli një libër paksa më pak i njohur (në vendin tonë pothuajse tërësisht, sepse nuk ishte i përkthyer në polonisht), i cili parashikonte shumë më saktë kohën e sotme. Unë po flas për romancënIshujt në ueb"(6) Bruce Sterling që nga viti 1988, vendosur në vitin 2023. Ai paraqet një botë të zhytur në diçka të ngjashme me internetin, të njohur si "web". Ai kontrollohet nga korporata të mëdha ndërkombëtare. "Ishujt në ueb" shquhen për sigurimin e kontrollit, mbikëqyrjes dhe monopolizimit të internetit gjoja falas.

Është gjithashtu interesante të parashikohen operacione luftarake të kryera duke përdorur mjete ajrore pa pilot (dronë) kundër piratëve/terroristëve online. Operatorë mijëra milje larg me desktop të sigurt - si e dimë këtë? Libri nuk ka të bëjë me konfliktin e pafund me terrorizmin islamik, por për luftën kundër forcave që kundërshtojnë globalizimin. Bota e Ishujve në Rrjet është gjithashtu e mbushur me pajisje konsumatore që duken shumë si orë inteligjente dhe këpucë sportive inteligjente.

Ekziston një libër tjetër nga vitet '80 që, megjithëse disa nga ngjarjet duken më fantastike, bën një punë të mirë për të ilustruar frikën tonë distopike të ditëve moderne. kjo "Softueri Georadar", Histori Rudy Rookervendosur në vitin 2020. Bota, gjendja e shoqërisë dhe konfliktet e saj duken tepër të ngjashme me atë që kemi të bëjmë sot. Ka edhe robotë të njohur si boppers që kanë fituar vetëdijen dhe kanë ikur në qytetet në Hënë. Ky element ende nuk është materializuar, por revolta e makinerive po kthehet në një refren të vazhdueshëm parashikimesh të zeza.

Vizionet e kohës sonë në libra janë gjithashtu jashtëzakonisht të sakta në shumë mënyra. Octavia Butler, vecanerisht neShëmbëlltyrat e Mbjellësit» (1993). Aksioni fillon në vitin 2024 në Los Anxhelos dhe zhvillohet në Kaliforni, i shkatërruar nga përmbytjet, stuhitë dhe thatësirat e shkaktuara nga ndryshimet klimatike. Familjet e klasës së mesme dhe punëtore takohen në komunitete të mbyllura teksa përpiqen të ikin nga bota e jashtme me droga të varura dhe komplete realiteti virtual. Fetë e reja dhe teoritë e konspiracionit po shfaqen. Karvani i refugjatëve shkon drejt veriut për të shmangur kolapsin ekologjik dhe social. Një president vjen në pushtet që përdor sloganin e fushatës "Make America Great Again" (ky është slogani i Donald Trump) ...

Libri i dytë i Butler, "Një shëmbëlltyrë e talentevetregon se si anëtarët e një kulti të ri fetar largohen nga Toka në një anije kozmike për të kolonizuar Alfa Centaurin.

***

Cili është mësimi i këtij studimi të gjerë të parashikimeve dhe vizioneve të bëra disa dekada më parë në lidhje me jetën tonë të përditshme?

Ndoshta, fakti është se distopitë ndodhin shpesh, por më shpesh vetëm pjesërisht.