alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla.
Herra forseti. Ég mæli hér fyrir tillögu til þingsályktunar um að Alþingi álykti að lýsa stuðningi við áform um alþjóðlegt bann við framleiðslu og beitingu sjálfvirkra og sjálfstýrðra vígvéla og að ríkisstjórn verði falið að vinna að framgangi þess á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við.
Ástæða þess að ég legg þetta mál hér fram, sem ég hef verið talsvert spurð um í fjölmiðlum hvort sé ekki framtíðartónlist, þ.e. að það snúist í raun og veru um drápsvélmenni, er að sú umræða er farin af stað úti í hinum stóra heimi. Á síðasta ári, 2015, kom fjöldi þekktra vísinda- og tæknimanna frá ólíkum löndum heims saman á merkri ráðstefnu í Buenos Aires og var skorað á þjóðir heims að sjálfstýrðar og sjálfvirkar vígvélar, þróun þeirra og framleiðsla, yrði bönnuð. Fjöldi vísinda- og fræðimanna víðs vegar um heiminn hefur síðan gengið til liðs við þessa hreyfingu fræðasamfélagsins og undirritað texta áskorunar. Þarna má finna mjög marga af fremstu sérfræðingum heims á sviði gervigreindar og þróun vitvéla. Þessir ágætu fræðimenn vara okkur í stjórnmálunum við því að þróun þessara tækja sé komin mun lengra en almenningur almennt átti sig á og ef ekki verði gripið til þess að banna framleiðslu og þróun þessara tækja megi búast við því að þau verði hluti af hernaðarumsvifum almennt og hernaðar- og varnartækni þeirra stórvelda á sviði þessara mála sem við eigum í heiminum í dag án þess að um það fari fram eðlileg umræða.
Af hverju er það svona mikilvægt? Jú, við vitum af sjálfstýrðum flygildum, eða svokölluðum drónum sem bera sprengjur og skotvopn. Þeim hefur þegar verið beitt í herðnaði víða um heim og hefur verið notast við margvísleg sjálfvirk eftirlits- og viðvörunarkerfi sem þó hlíta fyrirskipunum manna. Það á við bæði um eftirlitskerfin og drónana. Þessar vitvélar eru því ekki nýlunda. Þar sem þróunin hefur verið afar hröð á sviði gervigreindar og sjálfvirkni megum við búast við því að brátt komi fram á vígvöllinn vitvélar þar sem engra mannlegra afskipta er þörf.
Ekki hefur farið fram sérstaklega almenn umræða um þennan mjög svo umdeilanlega þátt nútímavígbúnaðar sem þeir sem gjörst til þekkja telja að muni breyta stríðsrekstri í heiminum jafn mikið og kjarnorkusprengjan gerði á sínum tíma og púðrið þar á undan, þannig að hér sé í raun og veru um að ræða eðlisbreytingu á stríðsrekstri í heiminum.
Þessi vaxandi andstaða sem ég vitnaði til kemur fyrst og fremst frá fræðasamfélaginu. Meðal þeirra sem eru í þeim hópi eru t.d. eðlisfræðingurinn Stephen Hawking og einnig Steve Wozniak, sem er meðstofnandi Apple-fyrirtækisins. Þeir skrifuðu báðir undir á ráðstefnunni í Buenos Aires sem ég nefndi hér áðan.
Á vettvangi Sameinuðu þjóðanna hefur talsvert verið rætt um þessi mál og hafa margir haft áhyggjur af því að sú umræða muni taka of langan tíma, þ.e. að þróunin verði í raun hraðari en umræðan á vettvangi Sameinuðu þjóðanna. Vart hefur orðið talsverðrar andstöðu, t.d. frá Bretlandi sem hefur lýst því yfir að þeir telji ekki þörf á að sett verði sérstakt bann við sjálfstýrðum og sjálfvirkum vígvélum, eins og ég hef reynt að þýða það sem á ensku er kallað „killer robots“. Yfir stendur sérstök herferð sem ber yfirskriftina Herferð til að stöðva sjálfstýrðar vígvélar, eða „killer robots“.
Margir segja auðvitað að það muni reynast tilgangslaust að stöðva framrás tækninnar og telja að hún muni finna sér leið að vígvöllum heimsins. En hins vegar getum við ekki litið fram hjá því að náðst hefur töluverður árangur með því að banna framleiðslu og beitingu efnavopna. Eins tókst með atbeina Sameinuðu þjóðanna samkomulag um að hindra þróun og framleiðslu leysigeislavopna sem ætlað var að blinda andstæðinginn. Þó að ég teldi æskilegt að enn fleiri samkomulög næðust um að banna þróun ýmiss konar hernaðartóla held ég að það hljóti að vera jarðvegur fyrir því að ræða í fullri alvöru þessi morðtól sem munu hafa jafn mikil áhrif á stríðsrekstur og tilkoma kjarnorkusprengjunnar, eins og ég sagði áðan.
Af hverju breytir þetta einhverju? Það gæti haft ýmsar afleiðingar að mannshöndin komi hvergi nærri þegar um er að ræða stríðsrekstur með vígvélum. Það sem hefur til dæmis verið bent á eru siðferðileg álitamál; hver muni bera ábyrgðina á því að stríðsglæpir eru framdir af vélum en ekki mönnum þar sem hin mannlega dómgreind kemur ekki við sögu. Ef vígvélar eru settar út á vígvöllinn, mun það ekki gera það að verkum að ekki þarf að senda menn? Þar af leiðandi gæti freistnivandinn við að fara í stríðsrekstur orðið enn þá meiri, þ.e. við gætum horft upp á aukinn stríðsrekstur með tilkomu vígvélanna. Það mundi líklega hafa þær afleiðingar að afleiðingar stríðsrekstrarins mundu fremur bitna á óbreyttum borgurum en hermönnum. Sú þróun hefur raunar verið í stríðsrekstri undanfarinna ára þannig að óbreyttir borgarar eru skotmörk ekki síður en hermenn. Þá kemur spurningin um ábyrgðina sem ég nefndi hér áðan, siðferðilega spurningin, þ.e. hver bæri ábyrgð á skaðanum á óbreyttum borgurum.
Þeir sem eru talsmenn þess að vígvélar séu í auknum mæli notaðar í stríði segja: Það er gott, því að vélar upplifa ekki hatur, eða, þær fá ekki áfallastreituröskun í miðju stríði og annað slíkt. En þær hafa heldur ekki samúð. Þær eiga erfitt með að greina á milli rétts og rangs, því þangað er þróunin ekki komin samkvæmt fræðimönnum á þessu sviði.
Tillagan. Ég þarf ekki að fara nákvæmlega út í tæknilegar hliðar málsins enda er ég nú ekki sérfræðingur í þeim efnum. Það sem við sjáum hins vegar er að ýmis ríki eru að vinna mjög ötullega að þróun þessa tæknibúnaðar og við sjáum að umræðunni miðar hægt á hinum alþjóðlega vettvangi. Ef þessi hraða þróun heldur áfram getum við horft upp á orðinn hlut. Ég vil því, ásamt félögum mínum, hv. þm. Bjarkeyju Olsen Gunnarsdóttur, Steinunni Þóru Árnadóttur og Svandísi Svavarsdóttur, gera það að tillögu okkar að Alþingi taki þetta mál til umfjöllunar, að Alþingi lýsi stuðningi við áform um alþjóðlegt bann og að ríkisstjórn beiti sér fyrir þessu á vettvangi Sameinuðu þjóðanna og annars staðar þar sem það á við, því að þetta er einmitt mál sem Ísland, herlaust ríki, smáríki, getur beitt sér í. Við eigum enga hagsmuni að missa í þessu máli en getum látið gott af okkur leiða.
Heimsmyndin er ekki sérstaklega fýsileg. Ef við horfum upp á það að öll helstu hernaðarstórveldi heimsins verði komin með sjálfvirkar vígvélar í sína þjónustu innan nokkurra ára gætum við verið að horfa upp á enn aukinn stríðsrekstur, óljósa ábyrgð á vígvélum, fyrir utan að við sjáum ekki fyrir endann á þeim. Ég hef svo sem alla tíð verið spennt fyrir hvers konar vísindaskáldskap, kannski einmitt vegna þess að ég sá Tortímandann með Arnold Schwarzenegger heldur ung að árum og það hefur kannski haft varanleg áhrif á áhugaefni mín. En varðandi slíkar tæknibreytingar sem eru eðlisbreyting á stríðsrekstri þá eigum við að hlusta; þegar helstu fræðimenn heimsins hvetja okkur til að hlusta þá eigum við að hlusta og hlusta vel.
Ég legg til, herra forseti, að þessi tillaga fari til utanríkismálanefndar að lokinni þessari umræðu.
