prot · H50921 · 2017-10-20 00:00:00 — § 1 Justering av protokoll Protokollet för justerades. § 2 Meddelande om återrapportering från Europeiska rådets möte den 19– Talmannen meddelade att skulle återrapportering från Europeiska rådets möte den 19–äga rum. § 3 Meddelande om återrapportering från Europeiska rådets möte den 14– Talmannen meddelade att kl. 9.00 skulle återrapportering från Europeiska rådets möte den 14–äga rum. Talmannen meddelade att (L) avsagt sig uppdraget som suppleant i . Kammaren biföll denna avsägelse. § 5 Anmälan om kompletteringsval att Liberalernas riksdagsgrupp anmält som suppleant i samt att Socialdemokraternas riksdagsgrupp anmält som suppleant i . Talmannen förklarade vald till Talmannen förklarade vald till § 6 Anmälan om faktapromemoria Talmannen anmälde att följande faktapromemoria om förslag från Europeiska kommissionen hade kommit in och överlämnats till utskott: 2017/18:FPM10 Förordning om det europeiska medborgarinitiativet KOM(2017) 482 till § 7 Ärenden för hänvisning till utskott Följande dokument hänvisades till utskott: 2017/18:28 till skatteutskottet KOM(2017) 538 till finansutskottet Åttaveckorsfristen för att avge ett motiverat yttrande skulle gå ut . KOM(2017) 567 och KOM(2017) 569 till skatteutskottet Åttaveckorsfristen för att avge ett motiverat yttrande skulle gå ut . § 8 Svar på interpellation 2017/18:20 om autonoma vapensystem 1 Utrikesminister (S): har frågat mig vilka initiativ jag avser att ta i den komplexa frågan om autonoma vapensystem, om det är min mening att dessa vapen bör föras in års vapenkonvention och om de i så fall bör begränsas eller helt förbjudas, samt om enligt mig aktivt bör delta i utvecklandet av LAWS. Frågan om autonoma vapen – lethal autonomous weapon systems eller LAWS, som det förkortas – är komplex. Till att börja med handlar det om system som ännu inte finns men som skulle kunna komma att utvecklas. Att definiera LAWS har därmed också visat sig svårt. En viktig utgångspunkt är att internationell humanitär rätt gäller för användning av alla slags vapen i en väpnad konflikt och att stater är ansvariga för vapnens användning inom ramen för internationell humanitär rätt. Enligt artikel 36 i tilläggsprotokoll I till har varje statspart en skyldighet att vid studium, utveckling, anskaffning eller val av ett nytt vapen avgöra om dess användning under vissa eller alla omständigheter skulle vara förbjuden enligt statspartens folkrättsliga åtaganden. Jag ser detta som ett viktigt led i staternas arbete med att bedöma utvecklingen i fråga om ny vapenteknik, till exempel LAWS. Inom ramen konvention om vissa konventionella vapen – Convention on Certain Conventional Weapons, CCW – har frågan om autonoma vapen diskuterats . Vid beslutades att inrätta en så kallad governmental group of experts för att fortsätta arbetet med frågan om LAWS. tillhörde de stater som välkomnade ett beslut om en sådan expertgrupp. Expertgruppen kommer att sammanträda och kommer sannolikt att fortsätta arbetet . I mandatet för gruppen ingår bland annat att se på frågan om en arbetsdefinition, liksom frågan om tillämpningen av internationell rätt, däribland internationell humanitär rätt, i fråga om LAWS. För att belysa de olika frågeställningar som kan göra sig gällande – rättsliga, militära, tekniska och etiska – har frågan återkommande diskuterats i regeringens folkrätts- och nedrustningsdelegation. Om det kommer att behövas en särskild reglering av LAWS och hur en eventuell sådan reglering skulle kunna utformas går inte att säga . Inte minst det fortsatta arbetet i CCW kommer att ge mer underlag för att ta ställning. 2 (V): Tack för svaret! Jag har alltså ställt frågan om dessa autonoma vapensystem. Datorutvecklingen har gjort artificiell intelligens, AI, alltmer intelligent, om man får säga så. är det möjligt för maskiner att uträtta saker som förr bara var möjliga för människor. Vapenforskarna sitter inte sysslolösa. De utvecklar på många håll vad en del, med viss rätt, kallar mördarrobotar, för att beskriva det enkelt och klatschigt. Det finns en oro som sprider sig kring dessa vapen. Över 100 experter inom robotteknik och AI vill att FN förbjuder utveckling av autonoma robotar vars enda syfte är att döda. Experterna, med i spetsen, vill att de hamnar på listan över moraliskt felaktiga vapen, tillsammans med bländande laser och kemiska vapen – och, hoppas jag, snart också kärnvapen. Men det, herr talman, är en annan historia. Men i är det ganska tyst om denna fråga trots att vi alltså är med och utvecklar sådana här vapen. Projektet är ett samarbete mellan sex europeiska länder – bland annat är med och finansierar – och svenska företag som . Målet är att utveckla ett helt självständigt flygplan som är kapabelt att attackera markmål. Det finns en internationell kampanj, Stop , som lanserades 2013 som en motreaktion på utvecklingen av intelligenta robotar i militär tillämpning. Kampanjen syftar till att förbjuda dessa eftersom man menar att autonoma vapen riskerar att användas i strid med folkrätten och att de kommer att öka de säkerhetspolitiska spänningarna i världen, med kapprustning som följd. Det är väl rätt, tror jag. Vi vet nog inte säkert, men jag tror att ministern har rätt i att de inte finns . Men vi vet att det arbetas intensivt på dessa vapen. är ledande, men andra fortsätter och följer efter. Vi vet att man i håller på att utveckla både en helt autonom pansarvagn, T‑14 Armata, och den autonoma drönaren Mig . Det finns redan ett i och för sig enklare automatiserat vapensystem vid gränsen mellan och . En sådan kulspruta, Super Aegis II, är programmerad att självständigt, utan mänsklig hjälp, hitta ett mål, sikta och låsa målet på , oavsett väder. Detta är intressant. Om man tänker sig att den är programmerad kan den fortfarande inte skilja på om det är fientliga soldater eller flyktingar som kommer strömmande över gränsen; det senare kanske är minst lika troligt. Detta pågår – det finns i alla fall embryon till det. Det finns andra rapporter. Human Rights Watch har en 50-sidig rapport om detta, och har tagit upp det och just denna problematik: att dessa vapen inte kan skilja mellan civila och soldater. Vem är ansvarig för eventuella folkrättsbrott, programmerarna eller ordergivarna? Frågorna är ganska många. Jag tycker att det är bra att välkomnat den expertgrupp som bildats i frågan. Men mina frågor handlade om och gällde om ministern tar några initiativ i frågan. Att bara följa den verkar lite passivt. Borde dessa vapen begränsas eller helt förbjudas? Vad är vår ståndpunkt? Och ska verkligen aktivt, via till exempel projektet , bidra till utvecklandet av mördarrobotar? För övrigt anser jag att borde signera avtalet om ett förbud mot kärnvapen. 3 Utrikesminister (S): Tack så mycket, ! Denna fråga väcker, som vi båda redan har konstaterat, både frågor och farhågor. Detta är komplext också därför att vi diskuterar ett system som ännu inte finns men som vi vet skulle kunna komma att utvecklas. Att definiera LAWS har också visat sig svårt. Vi tog upp denna fråga direkt när vi på nytt startade Folkrätts- och nedrustningsdelegationen. Då tillsatte vi en av arbetsgrupperna, som ska syssla just med denna fråga. Det gäller rättsliga, militära, operativa, tekniska och etiska frågor. Just de rättsliga frågor som hänger samman med användning av autonoma vapensystem har vi sett som särskilt viktiga. Den här arbetsgruppen fortsätter att jobba. Den kommer förstås att rapportera av till hela delegationen, och det kommer att vara underlag för våra ställningstaganden framöver. De gör ju detta på ett väldigt seriöst och genomgripande sätt. Vad är då inställning till automatiserade vapensystem? Några av de här exemplen är ju snarare sådana, och den frågan kommer nog att besvaras av försvarsministern i den interpellationsdebatt som följer efter den här. Det är viktigt att hålla isär dessa båda begrepp. LAWS är ju teknologi som ännu inte är i bruk. Då finns det en klar distinktion mot till exempel drönare, obemannade luftfarkoster, så kallade unmanned area vehicles, som alltså är fjärrstyrda av mänskliga operatörer. Möjligen kan begreppet ”meningsfull mänsklig kontroll” när det gäller autonoma vapen vara en väg framåt för att närma sig en definition. Det har också civilsamhällets olika organisationer framfört. Men då behöver det begreppet också förtydligas och förklaras närmare. Vilka är de kritiska funktionerna där mänsklig kontroll behövs? Ja, det beror ju på var vapensystemet opererar. Jag tror att det också är sådana frågor som kommer att diskuteras när expertgruppen CCW möts i . För mig är det helt klart att en människa alltid i sista hand måste ta ansvar för beslut om liv och död. 4 (V): Man kan diskutera om det finns autonoma vapensystem. Men jag kan inte annat förstå än att till exempel det sydkoreanska exemplet, med en programmerad kulspruta som automatiskt kommer att utlösa beskjutning när vissa parametrar är uppfyllda, är så nära ett autonomt vapensystem som man kan komma. Visst, det är svårt att definiera, och det kommer nog alltid att finnas en gråzon. Men det brukar inte hindra oss vare sig i vardagslivet eller annars. Det är svårt att exakt definiera gränsen mellan , men det finns ändå ett antal tydliga exempel på det ena eller andra som vi alla kan vara överens om. Sedan kan vi fortsätta diskutera exakt var gränsen går. Detta är i sig inte ett argument för att inte göra så mycket nu utan diskutera frågan, även om jag tycker att det är bra att den diskuteras. Jag förstår att det inte finns någon färdig ståndpunkt. Men några preliminära synpunkter tycker jag att utrikesministern kan ge. Är det rimligt att beslut om liv och död överlämnas till en maskin? Kan vi ens tänka oss att en maskin kan agera moraliskt korrekt? Kan en maskin följa internationell humanitär rätt? Kan en maskin avgöra proportionaliteten i ett anfall? Kan en maskin läsa av situationen på rätt sätt? Och, som sagt, vem är krigsförbrytaren om svaret på dessa frågor är nej? Detta är frågor som jag tycker att man absolut skulle kunna diskutera. 5 Utrikesminister (S): ställer precis de rätta frågorna. Det var också dessa frågor som var utgångspunkten för vårt arbete när vi tog oss an den här frågan i Folkrätts- och nedrustningsdelegationen. Som jag sa i mitt förra inlägg menar jag att när det fattas beslut om liv eller död måste det vara människor inblandade. Dessutom är det en viktig utgångspunkt för oss att internationell humanitär rätt gäller för användning av alla slags vapen i väpnad konflikt och att parter och stater är ansvariga för vapnens användning. Stater har också enligt folkrätten skyldighet att utvärdera om nya vapen är lagliga. Därför är det vår utgångspunkt i arbetet i CCW att ska fortsätta hävda att folkrätten alltid måste respekteras. är det bara ett mindre antal av världens stater som har system och rutiner på plats för att faktiskt genomföra den här typen av utvärdering enligt artikel 36 i , och det är ett problem. Vi tycker att det borde finnas en ökad transparens, där stater och parter kan utbyta information och dokumentation om hur stater applicerar och implementerar artikel 36. Sedan finns det forskning som genomför, bland annat om utvärdering av vapenprojekt inom nya teknologiområden. Detta är också viktigt att föra in i diskussionen. Den svenska Delegationen för folkrättslig granskning av vapenprojekt har till uppgift att utvärdera nya vapen och stridsmetoder för svensk del, men de har bara mandat att utvärdera vapen för potentiellt nationellt bruk. Min inriktning är att vi tillsammans med andra likasinnade ska verka för att fler stater utvecklar system och rutiner för legala utvärderingar och att kunskap och best practices kan bli föremål för internationellt utbyte, till exempel inom CCW:s ram. Att vi tog upp detta i Folkrätts- och nedrustningsdelegationen berodde på att vi först och främst ville samla en så komplett bild som möjligt av hur läget är och vilka olika aspekter av den här frågan som kan bli tillämpliga och kan komma att beröra oss: Hur ska vi engagera oss? När vi har en bättre bild av detta – det hela är ju ännu i sin linda – kan vi också besluta hur vi ska föra frågan vidare. Men än så länge är inriktningen samarbete, information och dokumentation och att vi ska få en så komplett bild som möjligt av vilka beslut som detta kan behöva leda till. Vi har detta på radarn, definitivt, och vi kommer att fortsätta engagera oss utifrån internationell humanitär rätt. Det är vår startpunkt. 6 (V): Ministern säger att det måste vara människor inblandade när det handlar om att utlösa vapen som är potentiellt dödsbringande. Då måste man ju per automatik vara emot detta. Vi talar ju om vad som med ett klatschigt namn kan beskrivas som mördarrobotar. De är programmerade att göra saker utanför mänsklig kontroll när man väl har gjort programmeringen. Med den rasande snabba tekniska utveckling som sker är detta inte långt borta. En del talar och menar att dessa vapen då kommer att finnas lite överallt. Detta sänker trösklarna för användande av våld eftersom man inte behöver göra så många egna överväganden. Redan därför tycker jag att man kunde säga att man är mot detta och att man kommer att verka mot det på alla tänkbara sätt. Att är med och utvecklar ett sådant vapensystem har ministern inte kommenterat. Men är det verkligen rimligt med tanke på vad vi just har diskuterat? Finns det någon tidsplan för när folkrättsdelegationen kan komma med några synpunkter i den här frågan eller i liknande frågor? Och återigen: Hur verkar som nation för det här på det internationella planet? Hur aktiva är vi, vad skulle vi kunna göra och när börjar vi göra det? För övrigt anser jag att vi borde signera kärnvapenavtalet. 7 Utrikesminister (S): Som jag redogjorde för är vi engagerade i den här frågan. Eftersom det inte har varit någon bred allmän debatt om detta menar vi att vi bör samla på oss så mycket som möjligt av information och etablera samarbete med andra länder för att se till att vi utbyter dokumentation och information om de här frågorna och skaffar oss ett bra underlag. Det har inte funnits . Detta är vi i färd med . Arbetsgruppen ber vi regelbundet avrapportera. Vi har två eller tre sammanträden i delegationen. Vi ska också vara medvetna om att det är komplexa frågeställningar, och då måste man få tid att göra sitt jobb. Vi skickar folk till CCW, så att vi är representerade där. Vi tar kontakter med andra länder som är intresserade av frågan. Vi kommer absolut att vara fullt engagerade i debatten om detta. Helt autonoma vapensystem, som alltså inte kräver någon styrning, och automatiserade vapensystem som obemannade luftfarkoster är helt olika typer av system, och dem måste man skilja på. Försvarsministern kommer att svara på detta. Vi ligger långt framme när det gäller att förespråka att folkrätten ska respekteras i vapensammanhang. Det är vår utgångspunkt. Det är kring det som vi kommer att driva den här debatten. Hur ska man kunna tillämpa folkrätten? Det är otänkbart att vi ska utveckla och ta i bruk vapen som inte uppfyller folkrättens krav. Överläggningen var härmed avslutad. § 9 Svar på interpellation 2017/18:21 om hållning till automatiserade vapensystem 8 Försvarsminister (S): har frågat mig hur regeringen har agerat i frågan om automatiserade vapensystem, om vilka initiativ regeringen avser att ta för att pröva dessa vapensystem ur ett folkrättsligt perspektiv och om bör verka för ett moratorium. Som påpekar finns det vapen, till exempel luftvärnssystem, med automatiserade funktioner. Dessa funktioner syftar till att stödja operatören i att bekämpa aktuella mål och undvika att bekämpa andra objekt. Regeringens målsättning är att om våra soldater hamnar i strid ska de ha sådana vapen som gör det möjligt för dem att bekämpa motståndaren med så små oönskade skador och egna förluster som möjligt. Automation kan här ge värdefulla bidrag men måste självklart noggrant testas och utvärderas. En viktig utgångspunkt är att internationell humanitär rätt gäller för användning av alla slags vapen. Enligt artikel 36 i tilläggsprotokoll I till har varje statspart en skyldighet att vid studium, utveckling, anskaffning eller val av ett nytt vapensystem avgöra om dess användning under vissa eller alla omständigheter skulle vara förbjuden enligt statspartens folkrättsliga åtaganden. I görs den folkrättsliga bedömningen av Delegationen för folkrättslig granskning av vapenprojekt. Denna granskning utförs i enlighet med gällande regelverk, och behövs inga extra initiativ för automatiserade vapensystem. Olika grader av automatisering har länge använts i olika vapensystem, och något moratorium är inte aktuellt. 9 (V): Tack för svaret, ministern! Min fråga handlar den här gången om just automatiserade vapensystem – den förra debatten handlade om autonoma vapensystem. Ett enkelt exempel är drönare. Det är vapen som skapar en allt större etisk debatt. Hur rimligt är det att man utifrån en bekväm stol någonstans i till exempel med hjälp av satellitdata, överförda från det svenska statliga rymdbolaget , skickar drönare för att mörda människor i berg och sedan går på lunch, väl vetande att offren mycket ofta är barn och oskyldiga? Enligt en rapport från ansedda och är av dem som dödas av drönare så kallade high level targets – dem man vill komma åt. Ministern hänvisar i sitt svar till att man är skyldig att pröva om det är folkrättsligt okej, enligt artikel 36 i tilläggsprotokoll I till . Utrikesministern sa att det tyvärr är ganska få länder som tillämpar detta. Det kan man alltså inte förlita sig på. Men försvarsministern menar att någon ytterligare analys inte behövs och hänvisar till denna artikel. Det är ett ganska lättviktigt argument i detta sammanhang eftersom många inte bryr sig om det här testet. Det skulle då vara frid och fröjd i och med att vi kan hänvisa till detta. ska inte agera vad gäller automatiserade vapensystem eller ta några initiativ för att pröva om de ur folkrättsligt perspektiv är möjliga att använda eller om vi till och med skulle verka för ett moratorium. Jag uppfattar det som att ministern antyder nästan motsatsen. Våra soldater i strid ska ha sådana vapen som gör det möjligt att bekämpa motståndaren så effektivt som möjligt men med så små oönskade skador och egna förluster som möjligt. Automation kan här ge värdefulla bidrag. Jag tycker att det nästan är lite oroande att ha den inställningen, för detta är ett jättestort problem. Det är bara att läsa vittnesmålen från och från andra länder som är utsatta för detta. Rapporten visar att dessa så kallade precisionsvapen har en extremt låg träffprocent i fråga om avsedda mål. missar sina high level targets. Men de träffar andra, förbipasserande. De träffar barn. De träffar sjukhus. De träffar skolor. Menar ministern verkligen att vi, som den humanitära stormakt vi utropat oss till, bara ska sitta med armarna i kors och peka på att procedurerna borde följas, även om vi vet att de inte följs? För övrigt anser jag att riksdag snabbt ska signera avtalet som förbjuder kärnvapen. 10 Försvarsminister (S): Den sistnämnda frågan rör inte denna debatt, om jag har förstått frågeställningen rätt. Det jag har konstaterat handlar om de avtal och de konventioner som gäller på det internationella planet och det man i olika sammanhang har kommit överens om. Om gällande regelverk inte följs från olika håll kan man ju börja med att peka på behovet av att följa det. Det är ändå så att användning av vapen i strid regleras av internationell humanitär rätt. Ska man utgå från den är det så att varje befälhavare ska vidta alla praktiskt möjliga försiktighetsåtgärder vid valet av stridsmedel och stridsmetoder i syfte att undvika eller i varje fall minimera oavsiktliga förluster av civila liv samt skador på civila och civila objekt. Det gäller också för insatser med vapen med automatiserade funktioner. Såväl utvecklingen som användningen av vapen, inklusive vapen med den här typen av funktioner, är reglerade i internationell humanitär rätt. För svensk del ligger vi väldigt långt framme när det gäller att säkerställa att folkrätten alltid respekteras i vapensammanhang. För vår del är det otänkbart att utveckla och ta i bruk vapen som inte uppfyller folkrättens krav. I vårt land har vi ett system för folkrättslig granskning av nya vapen som ska användas i Försvarsmakten. Den granskningen utförs av Delegationen för folkrättslig granskning av vapenprojekt. Delegationen är en myndighet under Försvarsdepartementet som leds av expeditions- och rättschefen. Ledamöterna har expertkunskaper inom folkrätt, militärt agerande, teknik och medicin. De försöker göra en allsidig prövning av vapen eller ammunition utifrån de folkrättsliga åtaganden som har ingåtts. Granskningen sker efter anmälan av Försvarsmakten eller annan berörd myndighet. Och den görs, som sagt, utifrån folkrättsliga åtaganden – det handlar bland annat om den internationella humanitära rätten och de mänskliga rättigheterna. Vi har alltså ett granskningssystem i vårt land med anledning av folkrättsliga åtaganden. Jag tycker att det är ett seriöst sätt att följa upp det som vi har kommit överens om i olika internationella konventioner och internationella sammanhang. Jag vill bara understryka att här ligger långt framme. Detta hindrar inte att vi utifrån våra erfarenheter och det som vi har gjort i vårt land samt den kunskap vi har byggt upp också verkar i internationella sammanhang för att på olika sätt öka respekten för folkrättsliga åtaganden. Detta är alltid ett problem. Vi kan räkna upp hur många exempel som helst från den internationella arenan på hur olika länder bryter mot folkrätten. I vårt närområde har det varit rätt kraftfulla exempel från rysk sida, om vi nu ska nämna någonting i sammanhanget. Folkrätten och följandet av folkrätten är alltid aktuellt. Det finns alltid en beredskap från svensk sida att agera i de sammanhangen. Men jag vill markera att det finns en uppföljning. Det finns ett internationellt regelverk. 11 (V): Ministern har uppehållit sig mycket vid att följer procedurerna, som man ska göra. Trots det är vi med och utvecklar vapensystem. Det vore bra att ta en debatt om dessa saker. Jag har framför allt riktat in mig på vad gör på den internationella arenan. Därför var jag lite förvånad över att försvarsministern tog den debatten. Men vi vet nu att den reglerade användningen inte följs. När det gäller hänvisningen till artikel 36 har ministerns kollega tidigare här just talat om att det inte är särskilt många länder som tillämpar den proceduren. Mina frågor var om har agerat, om vi inte borde ta initiativ och om vi inte borde verka för ett moratorium med tanke på hur det ser ut i denna värld. Även ministern säger ju att det finns en del regelverk, men när de nu inte följs antar jag att det är rimligt att säga som ministern gör, nämligen att det inte hindrar att internationellt skulle verka för det här. Precis, det är ju det jag efterfrågar. Vad gör som stat i de här frågorna? Återigen: Precisionsvapnen träffar sina mål i av fallen när man har så kallade high level targets. Det betyder att i av fallen träffar man någonting annat. Jag håller helt med om att vi ska vara tydliga när det gäller folkrättsbrott, till exempel vad gäller agerande på och i , och vi ska vara lika tydliga när bryter mot folkrätten med urskillningslösa bombningar och krig i under falska förespeglingar etcetera. Jag önskar bara att vi var lika tydliga jämt i dessa frågor. Det är dock inte ämnet för dagen, utan mina frågor handlar som sagt var om har agerat vad gäller automatiserade vapensystem, för det finns det min själ fog för att göra. Skulle ministern kunna ta något initiativ för att pröva de här vapensystemen ur ett folkrättsligt perspektiv, inte bara så att säga om vi själva utvecklar dem utan just på den internationella arenan? Borde man inte också verka för ett moratorium med tanke på att det finns en stor etisk debatt och väldigt stora problem med detta på många olika sätt?