Gabinet dels Horrors

Auge de les màquines i presa de poder per la intel·ligència artificial. Un món de vigilància i control social complets. La guerra nuclear i la degeneració de la civilització. Moltes visions fosques del futur, dibuixades fa molts anys, haurien d'haver passat avui. I mentrestant mirem enrere i sembla que no hi eren. Estàs segur?

Hi ha un repertori de populars força estereotipat profecies distòpiques (sobre la visió negra del futur). A més de les més habituals associades a la destrucció del medi natural i dels recursos, es creu àmpliament que les últimes tecnologies estan perjudicant la comunicació interpersonal, les relacions i la societat.

L'espai virtual substituirà enganyosament la participació real al món. Altres visions distòpiques veuen el desenvolupament tecnològic com una forma d'augmentar la desigualtat social, concentrant el poder i la riquesa en mans de grups reduïts. Les altes exigències de la tecnologia moderna concentren els coneixements i les habilitats en cercles estrets d'individus privilegiats, augmenten la vigilància de les persones i destrueixen la privadesa.

Segons molts futuristes, una major productivitat i una major elecció visible poden perjudicar la qualitat de la vida humana, causant estrès, posant en perill els llocs de treball i fent-nos cada cop més materialistes sobre el món.

Un dels famosos "distòpics" tecnològics James Gleick, dóna un exemple aparentment trivial de comandament a distància de TV com un invent clàssic que no resol ni un sol problema significatiu, donant lloc a molts de nous. Gleick, citant un historiador tècnic Edward Tenner, escriu que la possibilitat i la senzillesa de canviar de canal mitjançant el comandament a distància serveix principalment per distreure cada cop més l'espectador.

En lloc de satisfacció, la gent està cada cop més insatisfet amb els canals que veu. En lloc de satisfer les necessitats, hi ha una sensació de decepció sense fi.

Els cotxes ens mantindran a les reserves?

Serem capaços de controlar aquesta cosa que és inevitable i que probablement arribarà aviat? Sobre la intel·ligència artificial? Si ha de ser així, com proclamen moltes visions distòpiques, no. (1).

És difícil controlar quelcom que és moltes vegades més fort que nosaltres. amb un augment del nombre de tasques. Fa vint anys, ningú s'hauria cregut que pogués llegir les emocions en la veu d'una persona i encarar-se amb molta més precisió que nosaltres mateixos. Mentrestant, els algorismes entrenats actualment ja són capaços de fer-ho, analitzant les expressions facials, el timbre i la manera de parlar.

Els ordinadors fan dibuixos, componen música i un d'ells fins i tot va guanyar un concurs de poesia al Japó. Fa temps que vencen a la gent als escacs, aprenent el joc des de zero. El mateix s'aplica al joc molt més complex de Go.

obeeix les lleis de l'acceleració cada cop més ràpida. El que la IA ha aconseguit, amb l'ajuda dels humans, durant les últimes dècades es duplicarà en els propers anys, potser només mesos, i després només trigarà setmanes, dies, segons...

Com va resultar recentment, els algorismes utilitzats als telèfons intel·ligents o als aeroports per analitzar fotografies de càmeres omnipresents no només poden reconèixer algú en diferents fotogrames, sinó que també poden determinar característiques psicològiques exclusivament íntimes. Dir que això és un gran risc de privadesa és com no dir res. No es tracta d'una simple vigilància, observant cada pas, sinó de la informació que sorgeix com a conseqüència de l'aparença mateixa d'una persona, sobre els seus desitjos ocults i preferències personals. 

Els algorismes poden aprendre això amb relativa rapidesa analitzant centenars de milers de casos, que és molt més del que fins i tot la persona més astuta pot veure en tota la vida. Armats amb tanta experiència, són capaços d'escanejar una persona amb més precisió que fins i tot el psicòleg, l'analista de llenguatge corporal i de gestos més experimentat.

Llavors, la veritable distopia esgarrifosa no és que els ordinadors juguin als escacs o que ens vagin en contra, sinó que poden veure la nostra ànima més profundament que ningú que no sigui nosaltres mateixos, plena de prohibicions i bloquejos per reconèixer aquestes o altres inclinacions.

Elon Musk creu que a mesura que els sistemes d'IA comencen a aprendre i raonar a una escala cada cop més gran, la "intel·ligència" pot desenvolupar-se en algun lloc profundament en capes web, imperceptible per a nosaltres.

Segons un estudi nord-americà publicat el 2016, en els propers 45 anys, la intel·ligència artificial té un 50 per cent de possibilitats de superar els humans en totes les tasques. Els pronosticadors diuen que sí, la IA solucionarà el problema del càncer, millorarà i accelerarà l'economia, oferirà entreteniment, millorarà la qualitat i la durada de la vida, ens educarà perquè no puguem viure sense ella, però és possible que un dia, sense l'odi, només perquè basant-nos en un càlcul lògic, només ens elimina. Potser físicament no funcionarà, perquè en cada sistema val la pena desar, arxivar i emmagatzemar recursos que "podrien ser útils algun dia". Sí, aquest és el recurs que podem ser per a la IA. Man de obra protegida?

Els optimistes es consolen amb el fet que sempre hi ha l'oportunitat de treure l'endoll de la presa. Tanmateix, no tot és tan senzill. Ja, la vida humana s'ha tornat tan dependent dels ordinadors que un pas radical contra ells seria un desastre per a nosaltres.

Al cap i a la fi, cada cop creem més sistemes de presa de decisions basats en IA, donant-los el dret de volar avions, establir tipus d'interès, fer funcionar centrals elèctriques; sabem que els algorismes ho faran molt millor que nosaltres. Al mateix temps, no entenem del tot com es prenen aquestes decisions digitals.

Hi ha temors que sistemes de comandament superintel·ligents com "Redueix la congestió" els puguin portar a concloure que l'única manera eficaç de fer la feina és... reduir la població en un terç o fins i tot a la meitat.

Sí, val la pena donar a la màquina la instrucció més important com "En primer lloc, salva una vida humana!". No obstant això, qui sap si aleshores la lògica digital portarà a l'empresonament de la humanitat o sota el graner, on podem estar segurs, però certament no lliures.

La ciberdelinqüència com a servei

Antigament, les distòpies i les imatges del món postapocalíptic de la literatura i el cinema s'acostumaven a situar en l'era postnuclear. Avui dia, l'aniquilació nuclear no sembla necessària per a la catàstrofe i la destrucció del món tal com el coneixem, encara que no com ens imaginem. , és poc probable que destrueixi el món com a "Terminator", on es va combinar amb l'aniquilació nuclear. Si ho fes, no seria una superintel·ligència, sinó una força primitiva. Després de tot, fins i tot la humanitat encara no s'ha adonat de l'escenari global d'un conflicte nuclear devastador.

Un autèntic apocalipsi de màquines pot ser molt menys impressionant.

La guerra cibernètica, els atacs de virus, la pirateria del sistema i el ransomware, el ransomware (2) paralitzen i destrueixen el nostre món de manera no menys efectiva que les bombes. Si la seva escala s'amplia, podem entrar en una fase de guerra total en què ens convertirem en víctimes i ostatges de les màquines, encara que no estan obligats a actuar de manera autònoma, i és possible que la gent encara estigui darrere de tot.

L'estiu passat, l'Agència de seguretat cibernètica i d'infraestructura (CISA) dels Estats Units va nomenar els atacs de ransomware com "l'amenaça de ciberseguretat més visible".

CISA afirma que moltes activitats en què un cibercriminal intercepta i xifra les dades d'una persona o organització i després extorsiona un rescat mai es denuncien perquè la víctima paga als ciberdelinqüents i no està disposada a donar a conèixer els problemes amb els seus sistemes insegurs. A nivell micro, els ciberdelinqüents sovint es dirigeixen a persones grans que tenen problemes per distingir entre contingut honest i deshonest a Internet. Ho fan amb programari maliciós incrustat en un fitxer adjunt de correu electrònic o una finestra emergent en un lloc web infectat. Al mateix temps, augmenten els atacs a grans corporacions, hospitals, agències governamentals i governs.

Aquests últims van ser especialment objectiu a causa de les dades sensibles que tenien i la capacitat de pagar grans rescats.

Algunes dades, com la informació de salut, són molt més valuoses per al propietari que altres i poden guanyar més diners als delinqüents. Els lladres poden interceptar o posar en quarantena grans blocs de dades clíniques importants per a l'atenció al pacient, com ara resultats de proves o informació sobre medicaments. Quan la vida està en joc, a l'hospital no hi ha marge per a la negociació. Un dels hospitals nord-americans va ser tancat definitivament el novembre de l'any passat després de l'atemptat terrorista d'agost.

Probablement només empitjorarà amb el temps. El 2017, el Departament de Seguretat Nacional dels Estats Units va anunciar que els ciberatacs podrien apuntar a infraestructures crítiques com ara els serveis d'aigua. I les eines necessàries per dur a terme aquestes accions estan cada cop més disponibles per als operadors més petits, als quals venen paquets de ransomware com ara el programari Cerber i Petya i cobren una tarifa de rescat després d'atacs reeixits. Basat en el cibercrim com a servei.

Trastorn perillós en el genoma

Un dels temes populars de la distopia és la genètica, la manipulació de l'ADN i la cria de persones, a més, "programat" de la manera correcta (autoritats, corporacions, militars).

L'encarnació moderna d'aquestes angoixes és un mètode de popularització Edició de gens CRISPR (3). Els mecanismes que conté són principalment preocupants. forçant les funcions desitjades en les generacions posteriors i el seu potencial es va estendre a tota la població. Un dels inventors d'aquesta tècnica, Jennifer Doudna, fins i tot va demanar recentment una moratòria d'aquestes tècniques d'edició "de la línia germinal" a causa de conseqüències potencialment desastroses.

Recordem que fa uns mesos, un científic xinès Ell Jiankui ha estat àmpliament criticat per editar els gens d'embrions humans per immunitzar-los contra el virus de la sida. El motiu va ser que els canvis que va fer es podrien transmetre de generació en generació amb conseqüències imprevisibles.

Són especialment preocupants els anomenats d (reescriptura genètica, unitat genètica), és a dir. un mecanisme d'enginyeria genètica que codifica un sistema d'edició en l'ADN d'un individu determinat Genoma CRISPR/CAS9 configurant-lo per editar aquesta variant del gen no desitjat. Per això, els descendents automàticament (sense la participació dels genetistes) sobreescriuen la variant del gen no desitjada amb la desitjada.

Tanmateix, la descendència pot rebre una variant gènica no desitjada "com a regal" d'un altre progenitor no modificat. Així que la unitat genètica trenquem Lleis mendelianes de l'herènciaque diuen que la meitat dels gens dominants van a la descendència d'un progenitor. En resum, això acabarà comportant la propagació de la variant del gen en qüestió a tota la població.

Biòleg de la Universitat de Stanford Christina Smolke, de nou en un panell sobre enginyeria genètica el 2016, va advertir que aquest mecanisme podria tenir conseqüències perjudicials i, en casos extrems, horroroses. La unitat genètica és capaç de mutar a mesura que passa a través de les generacions i provocar trastorns genètics com l'hemofília o l'hemofília.

Tal com llegim en un article publicat a Nature Reviews per investigadors de la Universitat de Califòrnia, Riverside, fins i tot si una unitat funciona com es pretén en una població d'un organisme, el mateix tret hereditari pot ser perjudicial si s'introdueix d'alguna manera en una altra població. . la mateixa mirada.

També hi ha el perill que els científics creïn unitats genètiques a porta tancada i sense revisió per parells. Si algú introdueix intencionadament o sense voler una unitat gènica nociva al genoma humà, com un que destrueix la nostra resistència a la grip, fins i tot podria significar la fi de l'espècie homo sapiens...

Capitalisme de vigilància

Una versió de la distopia que els antics escriptors de ciència-ficció difícilment s'haurien pogut imaginar és la realitat d'Internet, i especialment de les xarxes socials, amb totes les seves ramificacions àmpliament descrites que destrueixen la privadesa, les relacions i la integritat psicològica de les persones.

Aquest món només es pinta en actuacions d'art més noves, com el que vam poder veure a la sèrie Black Mirror a l'episodi del 2016 "The Diving" (4). Shoshana Zuboff, un economista de Harvard, anomena aquesta realitat completament dependent de l'autoafirmació social i completament "desprivatitzada". capitalisme de vigilància (), i al mateix temps el treball de coronació de Google i Facebook.

4. Escena de "Black Mirror" - episodi "Diving"

Segons Zuboff, Google és el primer inventor. A més, està ampliant constantment les seves activitats de vigilància, per exemple mitjançant projectes aparentment innocents de "ciutat intel·ligent". Un exemple és el projecte World's Most Innovative Neighborhood de Sidewalk Labs, una filial de Google. moll a Toronto.

Google té previst recollir totes les dades més petites sobre la vida dels habitants del passeig marítim, el seu moviment i fins i tot la respiració amb l'ajuda de sensors de monitorització omnipresents.

També és difícil escollir una distopia d'Internet que no es pot discutir a Facebook. El capitalisme de vigilància pot haver estat inventat per Google, però va ser Facebook qui el va portar a un nivell completament nou. Això es va fer mitjançant mecanismes virals socials i emocionals i una persecució despietada fins i tot a aquells que no són usuaris de la plataforma Zuckerberg.

IA vigilada, immersa en la realitat virtual, convivint amb UBI

Segons molts futuristes, el futur del món i la tecnologia està designat per cinc abreviatures: AI, AR, VR, BC i UBI.

Els lectors de "MT" probablement saben bé què són i en què consisteixen els tres primers. El familiar també resulta ser el quart, "BC", quan entenem de què es tracta. I el cinquè? UBD és una abreviatura del concepte, que significa "renda bàsica universal » (5). Es tracta d'un benefici públic, postulat de tant en tant, que es donarà a cada persona que es deixi de treballar a mesura que es desenvolupin altres tecnologies, especialment la IA.

5. Renda Bàsica Universal - RUB

Fins i tot, Suïssa va presentar la idea a referèndum l'any passat, però els seus ciutadans la van rebutjar, tement que la introducció d'una renda garantida provoqués una riuada d'immigrants. La UBI també comporta una sèrie d'altres perills, inclòs el risc de perpetuar les desigualtats socials existents.

Cadascuna de les revolucions tecnològiques que hi ha darrere de l'acrònim (vegeu també:) -si s'estén i es desenvolupa en la direcció esperada- té conseqüències enormes per a la humanitat i el nostre món, inclosa, per descomptat, una gran dosi de distòpia. Per exemple, es creu que podria substituir els cicles electorals de quatre anys i donar lloc a referèndums sobre innombrables qüestions.

La realitat virtual, al seu torn, és capaç d'"excloure" part de la humanitat del món real. Com va passar, per exemple, amb la coreana Jang Ji Sung, que després de la mort de la seva filla el 2016 per una malaltia incurable, ha conegut el seu avatar a la realitat virtual. L'espai virtual també crea nous tipus de problemes, o en realitat transfereix tots els vells problemes coneguts al "nou" món, o fins i tot a molts altres mons. Fins a cert punt, això ja ho podem veure a les xarxes socials, on passa que massa pocs likes a les publicacions condueixen a la depressió i al suïcidi.

Contes profètics més o menys

Després de tot, la història de la creació de visions distòpiques també ensenya precaució a l'hora de formular prediccions.

6. Portada de "Islands in the Net"

L'any passat es va filmar la famosa obra mestra de ciència-ficció de Ridley Scottcaçador d'androides» Des de 1982. És possible discutir el compliment o no de molts elements concrets, però és indiscutible que la profecia més important sobre l'existència en el nostre temps d'androides intel·ligents, humanoides, en molts aspectes superiors als humans, encara no s'ha fet realitat.

Estaríem preparats per tolerar molts més cops profètics".Neuromants»és a dir, novel·les William Gibson des de 1984, que va popularitzar el concepte de "ciberespai".

No obstant això, en aquella dècada va aparèixer un llibre una mica menys conegut (quasi del tot al nostre país, perquè no estava traduït al polonès), que va predir l'hora d'avui amb molta més precisió. Estic parlant de romançIlles a la xarxa"(6) Bruce Sterling des de 1988, establert el 2023. Presenta un món immers en quelcom semblant a Internet, conegut com la "web". Està controlat per grans corporacions internacionals. Les "illes a la xarxa" són notables perquè proporcionen control, vigilància i monopolització de la suposadament gratuïta Internet.

També és interessant preveure operacions de combat realitzades amb vehicles aeris no tripulats (drons) contra pirates/terroristes en línia. Operadors a milers de quilòmetres de distància amb ordinadors de sobretaula segurs: com ho sabem? El llibre no tracta del conflicte interminable amb el terrorisme islàmic, sinó de la lluita contra les forces que s'oposen a la globalització. El món de Islands in the Net també està ple de dispositius de consum que s'assemblen molt a rellotges intel·ligents i sabates esportives intel·ligents.

Hi ha un altre llibre dels anys 80 que, tot i que alguns dels esdeveniments semblen més fantàstics, fa una bona feina per il·lustrar les nostres pors distòpiques actuals. Això "Programari de georadar", Història Rudy Rookerestablert el 2020. El món, l'estat de la societat i els seus conflictes semblen increïblement semblants al que ens ocupa avui. També hi ha robots coneguts com a boppers que han adquirit consciència d'ells mateixos i han escapat a les ciutats de la Lluna. Aquest element encara no s'ha materialitzat, però la revolta de les màquines s'està convertint en un constant estribillo de prediccions negres.

Les visions del nostre temps als llibres també són sorprenentment precises en molts aspectes. Octavia Butler, especialment aParàboles del sembrador» (1993). L'acció comença l'any 2024 a Los Angeles i té lloc a Califòrnia, devastada per les inundacions, les tempestes i les sequeres provocades pel canvi climàtic. Les famílies de classe mitjana i treballadora es troben en comunitats tancades mentre intenten escapar del món exterior amb drogues addictives i equips de realitat virtual. Estan sorgint noves religions i teories de la conspiració. La caravana de refugiats es dirigeix ​​cap al nord per evitar el col·lapse ecològic i social. Un president arriba al poder que utilitza l'eslògan de campanya "Make America Great Again" (aquest és el lema de Donald Trump)...

El segon llibre de Butler, "Paràbola dels talentsexplica com els membres d'un nou culte religiós abandonen la Terra en una nau espacial per colonitzar Alpha Centauri.

***

Quina és la lliçó d'aquesta extensa enquesta de prediccions i visions fetes fa diverses dècades sobre la nostra vida quotidiana?

Probablement, el fet és que les distopies succeeixen sovint, però sovint només parcialment.