El fantasma de l'assassí de màquines continua. En què creu el president Putin?

Els defensors dels robots militars (1) argumenten que les armes automatitzades ofereixen més opcions per protegir la vida humana. Les màquines són capaços d'apropar-se més a l'enemic que els soldats i avaluar correctament l'amenaça. I de vegades les emocions paralitzen la capacitat de prendre les decisions correctes.

Molts defensors de l'ús de robots assassins estan fermament convençuts que faran que les guerres siguin menys sagnants perquè moriran menys soldats. Observen que els robots, tot i que no senten pietat, són immunes a emocions humanes negatives com el pànic, la ira i la venjança, que sovint condueixen a crims de guerra.

Els activistes dels drets humans també utilitzen l'argument que l'exèrcit ha provocat una gran reducció de víctimes civils durant l'últim mig segle, i la robotització de l'exèrcit permet un mecanisme per fer complir les lleis de la guerra de manera més estricta. Afirmen que les màquines es tornaran ètiques quan estiguin equipades amb programari que les obligarà a obeir les lleis de la guerra.

Per descomptat, un gran nombre de persones, incloses les molt famoses, no comparteixen aquesta opinió durant anys. L'abril de 2013 es va iniciar una campanya internacional sota el lema (2). En el seu marc, les organitzacions no governamentals reclamen la prohibició total de l'ús d'armes autònomes. Experts de molts països es van asseure per primera vegada per discutir aquest tema a la Conferència de les Nacions Unides sobre el Desarmament a Ginebra el maig de 2014. Un informe publicat uns mesos després per Human Rights Watch i científics de la Universitat de Harvard va dir que els autònoms serien massa perillosos: van triar els seus propis objectius i van matar persones. Al mateix temps, no està molt clar qui ha de ser responsable.

2. Demostració dins de l'acció "Stop killer robots"

Què pot fer un eixam de petits drons

Les disputes al voltant dels robots assassins (ROU) porten anys i no s'esvaeixen. Els darrers mesos han portat nous intents d'aturar robots militars i una onada d'informes de nous projectes d'aquest tipus, alguns dels quals fins i tot s'estan provant en condicions de combat reals.

Al novembre de 2017, es mostra un vídeo eixams mortals de mini-drons ., en acció terrorífica. Els espectadors van veure que ja no necessitem les pesades màquines de guerra, tancs o míssils llançats pels Predators per matar en massa i amb metralladores. El director principal Stuart Russell, professor d'intel·ligència artificial a Berkeley, diu:

-

La primavera passada cinquanta professors Les principals universitats del món han signat una crida a l'Institut de Ciència i Tecnologia Avançades de Corea (KAIST) i al seu soci Hanwha Systems. van anunciar que no cooperarien amb la universitat i acolliran convidats de KAIST. El motiu va ser la construcció d'"armes autònomes" realitzada per ambdues institucions. KAIST va negar els informes dels mitjans.

Poc després als EUA més de 3 empleats de Google va protestar contra el treball de l'empresa per als militars. Els preocupava que Google s'associés amb un projecte governamental anomenat Maven que pretén utilitzar la IA per reconèixer objectes i cares en vídeos de drons militars. La direcció de l'empresa diu que l'objectiu de Maven és salvar vides i salvar la gent de treballs tediosos, no d'agressions. Els manifestants no estaven convençuts.

La següent part de la batalla va ser la declaració experts en intel·ligència artificial, incl. treballant en un projecte de Google i Elona Muska. Prometen no desenvolupar robots. També demanen als governs que intensifiquen els esforços per regular i limitar aquestes armes.

El comunicat diu, en part, que "la decisió de prendre una vida humana mai l'hauria de prendre una màquina". Encara que els exèrcits del món estan equipats amb molts dispositius automàtics, de vegades amb un alt grau d'autonomia, molts experts temen que en el futur aquesta tecnologia pugui arribar a ser completament autònoma, permetent matar sense cap intervenció d'un operador i comandant humà.

Els experts també adverteixen que les màquines de matar autònomes podrien ser fins i tot més perilloses que les "armes nuclears, químiques i biològiques" perquè es poden descontrolar fàcilment. En total, el juliol de l'any passat, 170 organitzacions i 2464 persones van signar una carta sota els auspicis del Future of Life Institute (FGI). Als primers mesos del 2019, un grup de científics mèdics afiliats a la FLI va demanar novament una nova carta que prohibés el desenvolupament d'armes controlades per intel·ligència artificial (IA).

La reunió d'agost de l'any passat de l'ONU a Gniewo sobre la possible regulació legal dels "robots assassins" militars va acabar amb èxit... màquines. Un grup de països, inclosos els Estats Units, Rússia i Israel, van bloquejar els treballs posteriors sobre la introducció d'una prohibició internacional d'aquestes armes (projecte de Convenció sobre la prohibició o restricció de l'ús de determinades armes convencionals, CCW). No és casualitat que aquests països siguin coneguts pel seu treball en sistemes avançats d'armes autònomes i robòtiques.

Rússia se centra en els robots de combat

El president Vladimir Putin sovint diu sobre els sistemes militars d'IA i els robots de combat:

-.

parla obertament del desenvolupament d'armes autònomes. El cap de l'Estat Major de les seves forces armades, el general Valery Gerasimov, va dir recentment a l'agència de notícies militar Interfax-AVN que l'ús de robots serà una de les principals característiques de les guerres futures. Va afegir que Rússia ho està intentant automatitzar completament el camp de batalla. Comentaris similars van fer el viceprimer ministre Dmitri Rogozin i el ministre de Defensa Sergei Shoigu. El president del Comitè de Defensa i Seguretat del Consell de la Federació, Viktor Bondarev, va dir que Rússia s'està esforçant per desenvolupar Tecnologies Rojuaixò permetria que les xarxes de drons funcionin com una única entitat.

Això no és d'estranyar si recordem que els primers teletancs es van desenvolupar a la Unió Soviètica als anys 30. Es van utilitzar a l'inici de la Segona Guerra Mundial. Avui Rússia també està creant robots de tancs ser cada cop més autònoms.

L'estat de Putin recentment va enviar el seu a Síria Vehicle de combat no tripulat Uran-9 (3). el dispositiu va perdre el contacte amb els punts de control terrestre, va tenir problemes amb el sistema de suspensió i les seves armes no van funcionar perfectament i no van colpejar objectius en moviment. No sembla gaire seriós, però molts consideren que la neteja siriana és una bona prova de combat que permetrà als russos millorar la màquina.

Roscosmos ha aprovat un pla preliminar per enviar dos robots a l'Estació Espacial Internacional a l'agost d'aquest any. Fedor (4) a la Unió no tripulada. No com una càrrega, però. Com a la pel·lícula RoboCop, Fedor empunya una arma i demostra una punteria mortal durant els exercicis de tir.

La pregunta és, per què s'armaria un robot a l'espai? Hi ha sospita que l'assumpte no és només en aplicacions terrestres. Mentrestant, a la Terra, el fabricant d'armes rus Kalashnikov va mostrar una visualització robot Igorekque, tot i que va provocar moltes rialles, indica que l'empresa està treballant seriosament en vehicles de combat autònoms. El juliol de 2018, Kalashnikov va anunciar que estava construint una arma que utilitza per prendre decisions de "disparar o no disparar".

A aquesta informació s'han d'afegir els informes que l'armer rus Digtyarev va desenvolupar un petit tanc autònom Nerekht que pot moure's en silenci cap al seu objectiu per si mateix i després explotar amb una força poderosa per destruir altres edificis o sencers. Així com Tanc T14 de l'exèrcit , l'orgull de les forces armades russes, va ser dissenyat per a un possible control remot i conducció no tripulada. Sputnik afirma que els enginyers militars russos estan treballant per fer del T-14 un vehicle blindat totalment autònom.

Directiva d'objecció

El mateix exèrcit nord-americà ha imposat un límit bastant clar al nivell d'autonomia de les seves armes. El 2012, el Departament de Defensa dels EUA va emetre la Directiva 3000.09, que estableix que els humans haurien de tenir dret a oposar-se a les accions dels robots armats. (encara que hi pot haver algunes excepcions). Aquesta directiva continua vigent. La política actual del Pentàgon és que el factor decisiu en l'ús de les armes ha de ser sempre una persona, i aquest judici hauria de ser-ho. s'ajusta a les lleis de la guerra.

Encara que els nord-americans porten dècades utilitzant supermàquines voladores, Predator, Reaper i moltes altres, no eren ni són models autònoms. Són controlats per operadors a distància, de vegades des d'una distància de diversos milers de quilòmetres. Amb l'estrena del prototip va començar una acalorada discussió sobre l'autonomia de les màquines d'aquest tipus. dron X-47B (5), que no només volava de manera independent, sinó que també podia enlairar-se d'un portaavions, aterrar-hi i repostar-hi a l'aire. El significat també és disparar o bombardejar sense intervenció humana. Tanmateix, el projecte encara està en fase de prova i revisió.

5. Proves del X-47B no tripulat en un portaavions americà

El 2003, el Departament de Defensa va començar a experimentar amb un petit robot semblant a un tanc. SPOES equipat amb una metralladora. El 2007 va ser enviat a l'Iraq. tanmateix, el programa va acabar després que el robot comencés a comportar-se de manera erràtica, movent el rifle de manera erràtica. Com a resultat, l'exèrcit nord-americà va abandonar la investigació sobre robots terrestres armats durant molts anys.

Al mateix temps, l'exèrcit dels EUA ha augmentat la seva despesa en operacions de 20 milions de dòlars el 2014 a 156 milions de dòlars el 2018. El 2019, aquest pressupost ja ha augmentat a 327 milions de dòlars. Això suposa un augment acumulat del 1823% en pocs anys. Els experts diuen que ja el 2025, l'exèrcit nord-americà pot tenir un camp de batalla més soldats robots que humans.

Recentment, l'exèrcit nord-americà ha provocat i anunciat molta controvèrsia Projecte ATLAS () - automàtic. Als mitjans de comunicació, això es considerava una violació de l'esmentada directiva 3000.09. Tanmateix, l'exèrcit nord-americà nega i assegura que l'exclusió d'una persona del cicle de presa de decisions està fora de dubte.

La IA reconeix els taurons i els civils

Tanmateix, els defensors de les armes autònomes tenen nous arguments. prof. Ronald Arkin, un roboticista de l'Institut Tecnològic de Geòrgia, afirma a les seves publicacions que En la guerra moderna, les armes intel·ligents són essencials per evitar víctimes civils, ja que les tècniques d'aprenentatge automàtic poden ajudar eficaçment a distingir entre combatents i civils, i objectius importants i sense importància.

Un exemple d'aquestes habilitats en IA és patrullar les platges australianes. drons Little Ripperequipat amb el sistema SharkSpotter desenvolupat per la Universitat Tecnològica de Sydney. Aquest sistema escaneja automàticament l'aigua a la recerca de taurons i avisa l'operador quan veu alguna cosa insegur. (6) Pot identificar persones, dofins, vaixells, taules de surf i objectes a l'aigua per distingir-los dels taurons. Pot detectar i identificar unes setze espècies diferents amb gran precisió.

6. Taurons reconeguts al sistema SharkSpotter

Aquests mètodes avançats d'aprenentatge automàtic augmenten la precisió del reconeixement aeri en més d'un 90%. Per comparar, un operador humà en una situació similar reconeix amb precisió el 20-30% dels objectes a les fotografies aèries. A més, la identificació encara és verificada per un humà abans d'una alarma.

Al camp de batalla, l'operador, veient la imatge a la pantalla, difícilment pot determinar si les persones a terra són caces amb AK-47 a les mans o, per exemple, agricultors amb piques. Arkin assenyala que la gent tendeix a "veure el que vol veure", especialment en situacions estressants. Aquest efecte va contribuir a la caiguda accidental d'un avió iranià per part de l'USS Vincennes el 1987. Per descomptat, segons la seva opinió, les armes controlades per IA serien millors que les actuals "bombes intel·ligents", que no són realment sensibles. L'agost passat, un míssil guiat per làser saudita va impactar contra un autobús ple d'escolars al Iemen i va matar quaranta nens.

"Si un autobús escolar està etiquetat correctament, identificar-lo en un sistema autònom pot ser relativament fàcil", argumenta Arkin a Popular Mechanics.

Tanmateix, aquests arguments no semblen convèncer els activistes contra els assassins automàtics. A més de l'amenaça dels robots assassins, cal tenir en compte una altra circumstància important. Fins i tot un sistema "bo" i "atent" pot ser piratejat i agafat per gent molt dolenta. Aleshores, tots els arguments en defensa de l'equipament militar perden la seva força.