Storbritannien finansierar utveckling av helt autonoma militära drönare

0 Shares

Under helgen publicerade Drone Wars UK, en liten London-baserad icke-statlig organisation en rapport som beskriver den brittiska regeringens finansiering av forskningsprogram för att underlätta utvecklingen av helt autonoma och beväpnade militära drönare, utformade för deras eget beslutsfattande.

Den brittiska regeringen har tidigare nekat att arbeta för att utveckla drönare av denna typ. Enligt rapporten säger Storbritanniens försvarsministeriums politik att “Storbritannien motsätter sig utvecklingen av autonoma vapensystem och har ingen avsikt att utveckla dem.”

Den viktigaste definitionen är att drönare som för närvarande används av den brittiska militären fjärrstyrs av människor, antingen vid Creech Air Force Base i Nevada; RAF Waddington i Lincolnshire; eller vid Larkhill på Salisbury Plain.

Ändå hävdar denna nya rapport att den brittiska regeringen finansierar forskning om drönare som kan flyga, identifiera mål och attackera utan direkt mänsklig tillsyn eller kontroll. Detta är okänt territorium och en potentiell spelväxlare i utvecklingen av en AI-militär funktion.

Varför utvecklar Storbritannien brittiska militära drönare?

Det skulle finnas ett brett utbud av militära fördelar med en helt autonom drönare. Sådana drönare kan ständigt övervaka mål, till exempel, eller kan potentiellt hjälpa till att undvika den psykologiska påverkan för soldater som för närvarande måste fjärrdöda på avstånd.

Emellertid har Storbritanniens strategi för att skaffa drönare fram till denna punkt varit att köpa ”hylla” -modeller, som Desert Hawk 3 tillverkad av Lockheed Martin, eller General Atomics MQ-9 Reaper. Beslutet att starta finansiering av forskning om AI och maskininlärning för stridsuppdrag utgör en ny vändning för den brittiska militären.

General Atomics MQ-9 Reaper Medium

General Atomics MQ-9 Reaper som för närvarande används av den brittiska militären (även om den här har amerikanska insignier)

Enligt Storbritanniens industriella strategi, som publicerades i november 2017, är utvecklingen av artificiell intelligens en av de fyra ”stora utmaningarna” som Storbritannien står inför de kommande åren. Den nuvarande regeringen vill sätta Storbritannien “i spetsen för den artificiella intelligensen och datarevolutionen.” Detta kräver naturligtvis finansiering. Och den brittiska regeringen är beredd att kasta allvarliga pengar på utmaningen och avsätta 500 miljoner pund för att underlätta utvecklingen av Storbritanniens AI-kapacitet.

Kan denna nya investering i hemodlad AI-teknik utformas för att skapa nya autonoma militära flygplan som Storbritannien kan sälja? Det verkar verkligen möjligt. Att sälja vapen är redan en stor pengarsnurr för den brittiska ekonomin – enligt data från Campaign Against the Arms Trade uppgick värdet av brittisk vapenexport mellan juni 2017-18 till nästan 8,7 miljarder pund (ungefär 11,3 miljarder dollar). Och att vara den första som erbjuder en helt oberoende flygdödande maskin skulle ge den en marknadsfördel.

Ska vi vara rädda?

Ja, oavsett om du bor i en krigszon eller i säkerheten i västra förorter. Potentialen för dessa drönare att gå fel, komprometteras för missbruk eller helt enkelt krypa in i vardagen är skrämmande.

Trots förhoppningar att tillkomsten av drönarkrigföring skulle möjliggöra en renare, mer exakt form av strider, särskilt när man letar efter värdefulla individer i det globala kriget mot terror, verkar den typ av utlovad precision inte framgå av fakta på plats .

I själva verket, som Drone Wars UK: s rapport påpekar, finns det flera inneboende brister med AI i sitt nuvarande tillstånd som gör det olämpligt för strid:

Oförutsägbart beteende

”Oförutsägbarhet är en inneboende egenskap hos artificiell intelligens och självlärande datorsystem, för vi förstår inte nödvändigtvis hur de fungerar. Beslut av sådana system härleds till stor del från processer som har utvecklats, snarare än programmerats av människor. Beslut kommer därför att baseras på ogenomskinlig logik, utan en tydlig analyskedja, och det är kanske inte möjligt för människor att validera dem … Detta ger upphov till verkliga problem, eftersom det kanske inte är möjligt att helt lita på resultaten från ett autonomt system som bygger på på maskininlärningssystem.

Förlust av kommando och kontroll

”Även om dödliga autonoma drönare i framtiden skulle kunna fungera till stor del oberoende, skulle det fortfarande behöva finnas en viss grad av mänsklig ledning och kontroll för att säkerställa att de förblir inom sina driftsparametrar. Förlust av kontroll … kan uppstå som ett resultat av förlust av kommunikation, eller, mer allvarligt, som ett resultat av mänsklig ingripande genom att fastna, hacka eller förfalska systemet. En framgångsrik cyberattack mot ett autonomt vapensystem kan vara mycket allvarligt. ”

Låter bekant?

“Normala” olyckor

“Komplexa system … är i sig utsatta för” normala olyckor. ” Under Irak-kriget 2003 var den amerikanska arméns luftförsvarssystem Patriot, ett komplext och högt automatiserat vapensystem involverat i två “vänliga eld” -incidenter som kan förklaras med normal olycksteori … Som alla normala olyckor kan exemplen som ges här vara betraktas som freak-händelser. Men detta är typen av normala olyckor som är oförutsägbara och oundvikliga. Mänsklig maskininlärning, som ofta citeras som en strategi för att minska riskerna i samband med autonoma vapen, eliminerar inte dessa risker och kan under vissa omständigheter lägga till ytterligare en nivå av komplexitet och utrymme för fel. ”

Missbruka

”Autonoma vapensystem och dödliga autonoma drönare kan utformas med en rad säkerhetsfunktioner som är avsedda för att säkerställa att de bara kan användas för specifika ändamål … Erfarenheten tyder dock att så småningom kommer ett sådant system att missbrukas för ett ändamål för vilket det inte var avsett … Autonoma vapen kan börja i städade miljöer men gradvis “krypa” till mer komplexa vapen utan att ta hänsyn till den olika situationen och potentialen för en ökad risk för skada för icke-stridande. “

Vad betyder detta för AI-krigföring?

Uppenbarligen är vi på väg mot en framtid där krig utkämpas av krigare som inte sover, äter eller har känslor och som potentiellt kan fungera utan direkt mänsklig tillsyn. Vilket borde vara tillräckligt skrämmande för de flesta.

Men det betyder också att den brittiska regeringen är ganska glad att försöka hålla sina ansträngningar för att utveckla vapen av detta slag hemliga från den brittiska allmänheten och resten av världen. Det är uppriktigt sagt ännu skrämmare. Utan rapporten från Drones Watch UK hade vi kanske aldrig känt till dessa planer.

Det lämnar också sannolikheten för att andra länder aktivt undersöker och utvecklar sin förmåga att producera helt autonoma drönare. Med tanke på att Storbritannien inte ens är världsledande inom högteknologisk militär hårdvara är det lätt att föreställa sig att liknande program pågår i Kina, Israel och USA.

Kommer världskrig 3 att bekämpas av robotar? Det verkar mer sannolikt än någonsin.

Läs mer om autonom teknik och AI på Tech.Co:

0 Shares