alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla, síðari umræða.
Frú forseti. Ég mæli fyrir nefndaráliti með breytingartillögu frá hv. utanríkismálanefnd um tillögu til þingsályktunar um stuðning Íslands við að koma á alþjóðlegu banni við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla.
Utanríkismálanefnd fjallaði um málið á nokkuð mörgum fundum og fékk m.a. á sinn fund Hörð Helga Helgason frá Amnesty International, Margréti Steinarsdóttur frá Mannréttindaskrifstofu Íslands, Eygló Jónsdóttur frá SGI, Hannes Högna Vilhjálmsson frá Gervigreindarsetri Háskólans í Reykjavík, Kristin R. Þórisson frá Vitvélastofnun Íslands ses. og Kristján Andra Stefánsson og Pétur Thorsteinsson frá utanríkisráðuneyti.
Umsagnir um málið bárust frá Amnesty International, Mannréttindaskrifstofu Íslands, SGI, sem er Soka Gakkai International, Gervigreindarsetri Háskólans í Reykjavík og Vitvélastofnun Íslands ses.
Flutningsmenn tillögunnar sem lögð var fram til þingsályktunar eru hv. þingmenn Katrín Jakobsdóttir, Bjarkey Olsen Gunnarsdóttir, Steinunn Þóra Árnadóttir og Svandís Svavarsdóttir. Eins og kemur fram svo skýrt í nafni tillögunnar og efni hennar, og fyrir nefndinni kom það einnig fram, eru þau áform sem vísað er til í tillögutextanum enn sem komið er til umræðu meðal fræðimanna og vísindamanna en ekki er um að ræða yfirlýsta stefnu alþjóðastofnana eða leiðtoga að koma á alþjóðlegu banni við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla.
Vegna þessa, virðulegur forseti, staldraði nefndin nokkuð lengi við málið. Það er í eðli sínu talsvert tæknilegt og flókið og krafðist þess að við hugsuðum aðeins út fyrir boxið í því og áttuðum okkur á ýmsum framförum er vörðuðu framþróun og breytingu í framleiðslu vopna sem nefndin hafði kannski ekki öll lagt mikla vinnu áður í að huga að. Þess vegna vil ég vekja athygli þingheims á því að skilgreiningin á því hvað átt er nákvæmlega við, sem var nokkuð rætt á okkar fundum, þegar talað er um sjálfstýrðar og sjálfvirkar vígvélar, kemur fram í greinargerð með tillögunni til þingsályktunar. Þar kemur fram að á undanförnum árum hafi verið þróaðar ómannaðar sjálfvirkar og sjálfstýrðar vígvélar sem útbúnar eru með gervigreind og eru því færar um að ráðast að fólki og deyða það jafnvel á grundvelli eigin ákvarðana og án atbeina mannlegrar dómgreindar. Hröð þróun hefur átt sér stað í gerð og framleiðslu slíkra sjálfvirkra drápsvéla eins og það er orðað í tillögunni undanfarin ár og eru þær taldar munu breyta hernaði og vígbúnaði í grundvallaratriðum breiðist þær út og verði algengar.
Það er grundvallaratriði í þessari umræðu að þessi tegund vopna sem kölluð eru sjálfstýrð og sjálfvirk er án atbeina manneskjunnar og er þess vegna annars eðlis en kannski þau hefðbundnu vopn sem við þekkjum.
Þetta var rætt ítarlega í nefndinni. Þar voru einnig kynntar upplýsingar um þá vinnu sem unnin hefur verið á vettvangi Evrópuráðsins sem hefur ályktað um notkun svokallaðra dróna og þörfina á því að virða mannréttindi og alþjóðalög og taka mið af þessum nýju breytingum. Þetta felst í svokallaðri ályktun 2051 frá Evrópuráðinu. Þar kallar Evrópuþingið m.a. eftir því að aðildar- og áheyrnarríki Evrópuráðsins setji skýrar opinberar verklagsreglur um notkun dróna, rannsaki að fullu öll dauðsföll af völdum vopnaðra dróna og geri niðurstöður opinberar, sæki til saka þá sem eru ábyrgir fyrir hvers konar ódáðum og bæti fórnarlömbum eða fjölskyldum þeirra skaðann. Nefndinni var einnig, virðulegur forseti, kynnt á fundum sínum að á vegum Sameinuðu þjóðanna hafa málefni sjálfvirkra og sjálfstýrðra vígvéla verið rædd, nú síðast var fundur um málið í Genf í apríl. Ljóst er því að þetta málefni hefur verið til umræðu á margvíslegum alþjóðlegum vettvangi. En við fengum einnig þær upplýsingar, sem er hluti af ástæðu þess að nefndin taldi ástæðu til þess að klára málið og reyna að vinna það í sem bestri sátt, að íslensk stjórnvöld hefðu fram til þessa ekki tekið sérstakan þátt í umræðu um þessar gerðir vígvéla hjá Sameinuðu þjóðunum. Nefndin vildi með þessari tillögu sérstaklega árétta mikilvægi þess og nauðsyn þess að Ísland sem friðelskandi þjóð tæki þátt í þeirri umræðu og beitti sér með þeim hætti sem ég efast ekki um að fulltrúar allra flokka vilja beita sér.
Virðulegur forseti. Í ljósi þess að viðræður um alþjóðlegt bann við beitingu og framleiðslu þessara sjálfvirku og sjálfstýrðu vígvéla eru ekki lengra á veg komnar en raun ber vitni telur nefndin það hóflega fram gengið sem kemur fram í þessari tillögu og gerði þess vegna eilitlar breytingar við orðalagið, en við teljum að svo stöddu að ekki sé hægt að taka meira afgerandi afstöðu til málsins eða einstakra þátta þess en kveðið er á um í tillögunni. Brýnt er hins vegar að þessi afstaða Alþingis til málsins sé skýr og að Ísland taki virkan þátt í umræðunni um þá ógn sem hlýtur að felast í því að einhvers konar vélum sé beitt án mannlegrar aðkomu til markvissra drápa.
Leggur nefndin því til þá breytingu á tillögunni að Alþingi lýsi yfir stuðningi við áform og viðræður um alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla og að ríkisstjórninni verði falið að fylgjast með þróun þessara mála og beita sér á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við.
Virðulegur forseti. Nefndin leggur til að málið verði samþykkt með eftirfarandi breytingu:
Tillögugreinin orðist svo:
Alþingi ályktar að lýsa stuðningi við áform og viðræður um alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla og felur ríkisstjórninni að fylgjast með þróun þessara mála á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við.
Hv. þm. Silja Dögg Gunnarsdóttir var fjarverandi við afgreiðslu málsins en ritar undir álitið samkvæmt heimild í 4. mgr. 18. gr. starfsreglna fyrir fastanefndir Alþingis.
Aðrir hv. þingmenn sem undir það rita auk þeirrar sem hér stendur eru Karl Garðarsson, Vilhjálmur Bjarnason, Frosti Sigurjónsson, Elín Hirst, Óttarr Proppé, Silja Dögg Gunnarsdóttir, Steinunn Þóra Árnadóttir og Össur Skarphéðinsson.
Ég vil að lokum, virðulegur forseti, ítreka þakkir til hv. utanríkismálanefndar fyrir mikla vinnu við þetta mál og hraðari vinnu undir lokin en við vorum kannski búin að áforma, en það breytti engu um það að við fórum mjög ítarlega yfir málið og á lokametrunum fundum við sameiginlega lausn sem ég vona að þingheimur allur geti fellt sig við.
Frú forseti. Ég ætla ekki að lengja þessa umræðu mjög en vil þó þakka hv. formanni utanríkismálanefndar og þeim þingmönnum sem nefndina skipa fyrir að hafa ákveðið að taka þetta mál til umfjöllunar. Ég var ekki endilega viss um að sú yrði raunin þegar ég mælti fyrir því í haust, enda þótti mörgum hv. þingmönnum þá málið framandi og jafnvel líkjast vísindaskáldsögu. Það hefur verið áhugavert að fylgjast með umfjöllun nefndarinnar í gegnum þær umsagnir sem nefndinni hafa borist, vil ég þá sérstaklega vitna til umsagnar Amnesty International þar sem Íslandsdeild Amnesty International lýsir yfir stuðningi við þessa tillögu og bendir á í umsögn sinni, með leyfi frú forseta:
„Amnesty International hefur ítrekað varað við þeirri sérstöku hættu sem stafar af vopnum sem stjórnað er af fólki að einungis litlu eða jafnvel engu leyti.“
Um það snýst þessi tillaga. Hún snýst í raun og veru um vopn sem eru búin þeirri gervigreind að þar þarf hin mannlega hönd hvergi að koma nærri.
Samtökin benda einnig á að sú reynsla sem fengist hafi af beitingu fjarstýrðra vígvéla gefi tilefni til að gjalda varhuga við að skapa enn frekari fjarlægð milli hermanna og vopna þeirra en orðið er. Um þetta snýst málið, því að þarna er í raun og veru verið að færa stríðsrekstur á nýtt svið. Sérfræðingar í þessum efnum hafa sagt að framleiðsla slíkra sjálfstýrðra vígvéla sem gæddar eru gervigreind og taka sjálfar ákvarðanir um það hver skuli lifa og hver skuli deyja muni breyta stríðsrekstri á sama hátt og púðrið breytti honum á sínum tíma og kjarnavopnin síðar meir, geti stökkbreytt stríðsrekstri.
Þá vil ég líka vekja athygli, frú forseti, á umsögn frá Gervigreindarsetri Háskólans í Reykjavík sem er elsta og stærsta rannsóknasetur Íslands á sviði gervigreindar, en þar segir í stuttri og snaggaralegri umsögn þar sem stuðningi er lýst við málið:
„Hættan sem felst í að fela vélum að ákveða hvaða lífi skuli eytt og getunni til að eyða því, er raunveruleg og ekki lengur sviðsmynd úr vísindaskáldsögu. Ef ekki er gripið snemma inn í þessa öru þróun sjálfvirkrar vígbúnaðartækni er voðinn vís. Við hvetjum Alþingi til að samþykkja þessa tillögu og leiða veröldina með framsýni og góðu fordæmi.“
Ég fagna þeirri niðurstöðu hv. utanríkismálanefndar að vera reiðubúin að leggja það til við þingið hér á eftir að Alþingi muni lýsa stuðningi við áform og viðræður um alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla og fela ríkisstjórninni að fylgjast með þróun þessara mála á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við. Við getum, í ljósi þess að við erum herlaust land með friðsæla fortíð í friðsamlegum samskiptum við heiminn allan, beitt okkur án þess að vera undir þrýstingi stórra og sterkra hagsmunaaðila sem sjá að sjálfsögðu tækifæri í því að koma slíkum vopnum á markað. Ég held að allir þeir sem kynnt hafa sér málið sjái hversu mikla hættu það skapar í stríðsrekstri í heiminum og líka þau siðferðilegu álitamál sem eru í raun og veru handan okkar skilnings í heiminum eins og við þekkjum hann í dag. Við höfum fordæmi fyrir því að svona barátta getur skilað árangri. Ég nefni þar sérstaklega baráttuna gegn efnavopnum. Ég held að allir hv. þingmenn séu sammála um að það var mikið heillaskref þegar ákveðið var að banna notkun slíkra vopna. Ég vonast svo sannarlega til þess að Ísland geti orðið rödd sem taki þátt í því á alþjóðavettvangi að það sama megi gerast með sjálfstýrðar vígvélar. Það vona ég svo sannarlega, frú forseti.