Ethiek PRE2Groep2

Inleiding

Met het ethiek onderzoek is er onderzoek gedaan naar de ethische argumenten die kunnen opkomen, wanneer de rescue robot wordt ingezet. Hierbij is gekeken naar recht/privacy, acceptatie, veiligheid en acceptatie.

Tijdens het ethiek onderzoek is er geprobeerd om antwoord te geven op de volgende hoofdvragen:

• Hoe betrouwbaar is het systeem van RFID en infrarood sensoren?
• Welke argumenten zijn er voor/tegen het RFID/infrarood sensor systeem?

In het ethiek onderzoek zijn er deelvragen beantwoord, die uiteindelijk ervoor zorgen dat de hoofdvragen ook beantwoord zijn.

Resultaten per week

Resultaten week 4

Resultaten week 5

Resultaten week 6

Resultaten week 7

Recht/privacy

Is het toegestaan dat een extern bedrijf de RFID tags uitleest?

Voor ieder bedrijf geldt er dat de chips uitgelezen kunnen worden, wanneer zij een documentlezer hebben. Het is niet mogelijk voor het bedrijf om de vingerafdrukken op de chip in het paspoort uit te lezen [1]. Het is dus toegestaan om de RFID tags uit te lezen.

Bron: [1] Mag een bedrijf of organisatie de chip in mijn identiteitsbewijs uitlezen? (n.d). College bescherming persoonsgegevens. Geraadpleegd op 3-1-2015 om 12.21. https://www.mijnprivacy.nl/VeelgesteldeVragen/Pages/chip-identiteitsbewijs-uitlezen.aspx

Is het toegestaan dat mensen met de RFID chips worden gelokaliseerd?

Met een RTLS (Real Time Location System) is het mogelijk om de RFID chips te lokaliseren. Dit kan door het plaatsen van antennes op een strategische plaats [2]. Maar de vraag is of met behulp van dit systeem de mensen ook gelokaliseerd mogen worden. Voor GPS geldt er dat voor werknemers van een bedrijf, dat van de ondernemingsraad toestemming moet worden gevraagd [1]. Verder geldt er de Wet op Bescherming van Persoonsgegevens en moet er kunnen worden aangegeven dat het volgen noodzakelijk is [1]. Het is belangrijk dat de privacy van de persoon niet in het geding komt [1]. De Wet Registratie Persoonsgegevens stelt dat er geen privacy-inbreuk, mag worden gepleegd. Zo mag er geen informatie worden opgeslagen worden, zodat de informatie naar een bepaald persoon geleid kan worden [3]. De regels kunnen ook worden toegepast op RFID chips, dit zou betekenen dat het noodzakelijk is om de mensen te lokaliseren en dat de privacy van de slachtoffers niet wordt geschaad. Zo mag de persoonlijke informatie niet worden opgeslagen. Ook mag alleen in de noodsituatie het lokalisatie systeem worden aangezet.

Bron: [1]Baas mag personeel niet bespieden via GPS (2012). OfficeGrip. Geraadpleegd op 3-1-2015 om 12.26. http://officegrip.nl/baas-mag-personeel-niet-bespieden-via-gps/ [2]Real Time Location (RTLS) (n.d.). WIFI Advies. Geraadpleegd op 3-1-2015 om 12.27. http://www.wifi-advies.nl/technologie/real-time-location [3] GPS, C-track of Blackbox-systemen (n.d.). FNV. Geraadpleegd op 3-1-2015 om 12.29. http://www.fnvbondgenoten.nl/themas/or_en_pvt/or_en_privacy/artikelen/volgsystemen/

Zijn mensen verplicht om een paspoort bij zich te hebben met een RFID tag?

In Nederland geldt er een identificatieplicht. Dit betekend dat iemand zich moet kunnen identificeren als een controleur (politieagent, conducteur in het openbaar vervoer, BOA’s) hiernaar vraagt. Zonder reden mag er niet naar de identiteit van een persoon worden gevraagd [1]. Verder geldt er ook op het werk dat iemand zich iedere dag moet kunnen identificeren. Zo kan het zijn dat een werkplekcontrole wordt uitgevoerd [1]. Als de identiteit op het werk niet kan worden vastgesteld, bestaat een kans dat de persoon naar het politiebureau moet gaan. [1] In de zorg geldt er voor iedereen een identificatieplicht, ook voor minderjarige [1]. De identificatieplicht geldt niet voor een minderjarige die jonger is dan 14 jaar. [1] Mensen zijn dus niet verplicht om een RFID tag bij zich te hebben.

Bron: [1] Identificatieplicht (n.d.). Rijksoverheid. Geraadpleegd op 3-1-2015 om 12.30. http://www.rijksoverheid.nl/onderwerpen/paspoort-en-identificatie/identificatieplicht

Hoe moet de wet worden aangepast, zodat er zeker vanuit gegaan kan worden dat iedereen opspoor baar is met behulp van RFID?

Wanneer de identificatieplicht veranderd wordt in een draagplicht, is er meer zekerheid dat iedereen een RFID chip bij zich heeft. Verder moet dit ook gaan gelden voor minderjarige mensen. Een probleem met de draagplicht is dat dit in strijd is met de rechten van het kind en het recht op eerbiediging van privé-, familie- en gezinsleven [1,2]. Een ander punt waardoor er in Nederland weerstand is, is door de Tweede Wereldoorlog. Door de identificatieplicht zijn er veel Joden gedood [1]. Wanneer de draagplicht wordt ingevoerd, zal er meer zekerheid zijn dat iedereen een RFID chip bij zich heeft.

Bron: [1] Ophef over identificatieplicht (2012). Privacy First. Geraadpleegd op 3-1-2015 om 12.31. https://www.privacyfirst.nl/privacy-first/columns/item/515-ophef-over-identificatieplicht.html [2] Wet- en Regelgeving (n.d.) . Overheid. Geraadpleegd op 3-1-2015 om 12.32. http://wetten.overheid.nl/zoeken_op/regeling_type_alle/titel_of_afkorting_%2522EVRM%2522/artikelnr_%25228%2522/datum_02-01-2015/deeplink

Hoeveel mensen hebben een RFID tag bij zich, zoals paspoort, bankpas of ov-chipkaart?

In 2013 waren er ruim 25 miljoen ID-kaarten, paspoorten en rijbewijzen in omloop [1]. Verder zijn er 27.7 miljoen bankpassen en 5.6 miljoen creditcards in omloop. Ook zijn er ook nog 7.5 miljoen bruikbare persoonlijke OV-chipkaarten in omloop [1]. Dit komt gemiddeld neer op 3 private identiteitsdragers per persoon [1]. Deze kaarten worden natuurlijk niet altijd bijgedragen. De gevolgen hiervan kunnen gevonden worden in Verantwoordelijkheid.

Bron: [1] Ministerie van Binnenlandse Zaken en Koninkrijksrelaties(12-12-2013). Identiteit in Cijfers. 1-22.

Acceptatie

Zullen mensen het accepteren als een robot helpt in een ramp situatie?

Om de overlevingskans van een overlevende te bevorderen, kan met een rescue robot het slachtoffer gemonitord worden [1]. Verder kan het slachtoffer op zijn gemak worden gesteld door de rescue robot [1]. Dit hangt af van de benadering van de rescue robot naar het slachtoffer [2]. Mensen zullen meer op hun gemak zijn bij de robot als de robot in een emotionele stand staat [2]. In de emotionele stand wordt het slachtoffer langzamer benaderd en zal de robot meer georiënteerd blijven op het slachtoffer [2]. Wanneer de rescue robot, de persoon dus op een goede manier benadert, zal de overlevingskans van de persoon verhoogd worden. Verder zal de persoon ook meer op zijn gemak zijn en zal eerder een robot accepteren in een ramp situatie.

Bron: [1] R.R. Murphy, M. Minson, S. Egawa (2013). Interacting with trapped victims using robots. IEEE (2013). 32-37. [2] C. L. Bethel, C. Bringes, R.R. Murphy (2009). Non-facial and non-verbal affective expression in appearance-constrained robots for use in victim management: robots to the rescue! ACM (2009). 191.

Wat gebeurd er met de mensen die geen chip bij zich hebben, zoals baby’s en kinderen?

Voor kinderen geldt er dat zij zich moeten kunnen identificeren, wanneer zij gaan reizen [1]. Verder moeten kinderen zich ook kunnen identificeren in de zorg [1]. Wanneer kinderen in het buitenland zijn of in een zorginstantie, kan er vanuit worden gegaan dat er in de buurt van het kind een RFID chip zich bevindt. Echter in de noodsituatie kan er niet worden uitgegaan dat er in de buurt van het kind een RFID chip is. Een maatregel om er voor te zorgen dat kinderen wel een RFID chip bij zich hebben, is het inbrengen van een microchip-implantaat, dit zal een RFID tag zijn [2]. Echter bestaat er bij deze maatregel wel een kans op medische problemen, zoals afstotingsreacties, schade tijdens de plaatsing van de chip en gezwellen [2]. Verder bestaat er ook een kans dat de RFID tag wordt gehackt [2]. Wanneer er echter geen informatie op de RFID tag wordt geplaatst, is dit geen probleem. Er zijn ook ethische vraagstukken over deze microchip. Zo kan de privacy van de mens geschaad worden, doordat de microchip niet beveiligd is en doordat er medische problemen optreden [2]. Om er zeker van te zijn dat alle kinderen een chip hebben, kan dit in de wet worden opgenomen dat ieder kind een chip heeft. Echter zijn er in de Verenigde Staten al staten die een wet hebben aangenomen, dat dit verboden is [2]. Verder zal tijdens de reddingsoperatie de reddingswerkers, nog altijd verantwoordelijk zijn voor het redden van de slachtoffers. Zij moeten er dus voor zorgen, dat ook mensen zonder chip gered zullen worden (zie Verantwoordelijkheid voor verdere uitleg). Een aanpassing aan de robot met sensoren, kan zijn dat deze altijd de warmte van de omgeving opneemt, ook als er geen RFID chip in de buurt is. Hierdoor kan de reddingswerker bepalen waar gezocht gaat worden, ook al geeft de robot aan dat daar geen mens ligt.

Bron: [1] Paspoort of identiteitskaart voor kinderen (n.d.). Rijksoverheid. Geraadpleegd op 3-1-2015 om 12.42. http://www.rijksoverheid.nl/onderwerpen/paspoort-en-identificatie/paspoort-of-identiteitskaart-voor-kinderen [2] Microchip-implantaat (2014). Wikipedia. Geraadpleegd op 3-1-2015 om 12.43. http://nl.wikipedia.org/wiki/Microchip-implantaat

Zullen mensen accepteren dat de tag wordt uitgelezen?

De chips in Nederlandse reisdocumenten zijn beveiligd. De overheid heeft er voor gezorgd dat de communicatie versleuteld plaatsvind. Hierdoor is de chip onleesbaar door ongeautoriseerde instanties [1]. Tijdens het zoeken van de slachtoffers, zullen er geen gegevens worden ontvangen. Alleen de plaats van de RFID-tag wordt gelokaliseerd.

Bron: [1] Wat is een elektronisch reisdocument en welke gegevens bevat de chip hierin? (n.d.). Rijksoverheid. Geraadpleegd op 3-1-2015 om 12.45. http://www.rijksoverheid.nl/onderwerpen/paspoort-en-identificatie/vraag-en-antwoord/wat-is-een-elektronisch-reisdocument-en-welke-gegevens-bevat-de-chip-hierin.html

Veiligheid

Is het veilig om de rescue robot te gebruiken met sensoren?

De sensoren op de robot zullen op een veilige afstand van het slachtoffer bevinden, tijdens het detecteren van de persoon. Hierdoor kan de robot de persoon niet nog meer verwonden. Echter zijn de sensoren op de drone bevestigd, hiermee kunnen problemen ontstaan. Zo is het mogelijk dat de drone neerstort [1]. Dit kan komen door mechanische storingen of door het weer, maar ook door menselijke fouten [1]. Echter zijn er nog geen mensen gedood bij het neerstorten van drones [1]. De sensoren zullen dus niet gevaarlijk zijn, maar de drone kan ervoor zorgen dat het slachtoffer gewond raakt.

Bron: [1] Ruim 400 drones VS sinds 2001 neergestort en dat leverde gevaar op (2014). NRC. Geraadpleegd op 3-1-2015 om 12.46. http://www.nrc.nl/nieuws/2014/06/21/ruim-400-drones-vs-sinds-2001-neergestort-en-dat-leverde-gevaar-op/

Is het verstandig om mensen te detecteren met alleen de warmte van een mens?

De lichaamstemperatuur van een persoon kan gedetecteerd worden met een human skin detector [1]. Alleen menselijke lichamen kunnen niet gedetecteerd worden in een omgeving met warmte, want dan is het menselijk lichaam niet het enig warme object in de ruimte [1]. Een lichaam van een slachtoffer, zal ook moeilijk te herkennen zijn als er lage activiteit is [1]. Het is dus niet verstandig om de persoon alleen te identificeren met de warmte die de sensor meet.

Bron: [1] K. Uto, H. Seki, Y. Kosugi, R. Murase, S. Takagishi (2012). Human detection based on active infrared illumination. IEEE Global humanitarian technology conference (2012). 47-52.

Is het verstandiger om meer false positives of false negatives, te verkrijgen van het sensoren system?

De rescue robot met RFID sensor en IR sensor wordt aangestuurd door een algoritme. Dit algoritme bestaat uit een set instructies, die uiteindelijk zal concluderen of iemand een mens is of niet. Echter in dit algoritme zullen er een aantal keuzes gemaakt worden door de ontwerper, die een andere ontwerper anders zou hebben gemaakt [1]. De ontwerper zorgt voor een ethisch standpunt in zijn algoritme [1]. Hierdoor is de software ontwerper moreel verantwoordelijk voor het algoritme dat ze ontwerpen [1]. Het probleem bij het algoritme voor het redden van mensen, is dat er false positivie of false negative situaties kunnen voorkomen. Een false positive situatie, is dat ergens volgens het algoritme een mens ligt, maar dit is niet het geval. Een false negative situatie, is dat ergens volgens het algoritme geen mens ligt, maar er ligt wel een mens. Wanneer iemand accepteert dat er meer false positive situaties zijn, dan zijn er vanzelf ook minder false negative situaties [1]. De ontwerper van het algoritme moet bepalen of er meer false positive situaties zijn of meer false negative situaties zijn [1]. Er is geen duidelijke lijn welke situatie de voorkeur heeft [1]. In het algoritme zal de beslissing of er op een plaats een mens ligt genomen worden door te kijken naar de temperatuur van de persoon. De temperatuur van een mens kan verschillen, hierdoor zal de temperatuur tussen een vastgestelde range moeten liggen. Echter de randen van de range hebben zijn niet scherp [1]. Verder zal er zich ook noise bevinden in het ontvangen signaal over de warmte van de persoon [1]. Het beste zal zijn dat alle false positive en false negative situaties vermeden worden [1]. Maar de voorkeur bij wetenschappers gaat uit naar minder false positives dan false negatives [1]. Bij artsen licht dit juist andersom [1]. Tijdens het zoekproces moet de reddingswerker echter wel rekening houden dat in het zoekalgoritme keuzes zijn gemaakt. Hierdoor kan de reddingswerker niet alleen vertrouwen op de resultaten van de robot [1].

In het sensoren systeem wil je zo min mogelijk false negatives, want dit zou betekenen dat er iemand niet is gevonden. Maar de false positives moeten ook zo klein mogelijk zijn, omdat dit af gaat van de tijd om false negatives te zoeken. De meest ideale ratio van false negatives en false positives (false negative/false positive) is gelijk aan 0. Verder moet in deze ratio de false positives ook zo klein mogelijk zijn. Echter zal zonder de robot elke locatie die de reddingswerker bezoekt een false positive zijn, wanneer de reddingswerker geen slachtoffer vindt.

Er moet ook gekeken worden naar de tijd besparing met de robot, wanneer de ratio (tijd met robot/tijd zonder robot) kleiner is dan 1, dan is het verstandig om de robot te gebruiken. In de tijd met de robot moet er ook de extra tijd berekend worden voor het zoeken naar false positives en false negatives. Tijdens het zoekproces zal eerst de robot de tunnel ingaan, hierna kunnen de reddingswerkers gericht gaan zoeken volgens de kaart die de robot heeft geproduceerd. De reddingswerker heeft met de kaart van de robot, dus meer succes om een persoon te vinden, dan zonder de kaart. Er moet binnen de tijd ratio een afweging gemaakt worden tussen de tijd die de robot nodig heeft voor het zoeken naar de mensen. Wanneer de robot snel te werk moet gaan, zullen er meer fouten gemaakt worden. (Zie de analyse van de sample rate van het experiment of er verschil is tussen de verschillende sample rates.) Echter wanneer de robot langzamer werkt dan een reddingswerker, dan is het verstandiger om geen robot te gebruiken. Er moet een afweging gemaakt worden tussen de juiste tijd, die de robot nodig heeft om voorwerk te doen met zo min mogelijk false negatives en een klein aantal false positives.

De false negatives zijn mensen die niet gevonden zijn. Hierbinnen vallen de mensen die de robot niet gevonden heeft, maar die wel een RFID chip bij zich hebben. Ook de mensen zonder RFID chip vallen hieronder. In Verantwoordelijkheid en “Wat gebeurt er met mensen die geen RFID chip bij zich hebben?” zullen deze gevallen besproken worden.

Het meest verstandige is dus geen false negatives en het aantal false positives te verkleinen. Het aantal false positives en false negatives, zal afhangen van de tijd die de robot mag besteden in de tunnel. Echter deze tijd mag niet te lang zijn, omdat het anders niet rendabel is om de robot te gebruiken.

Bron: [1] F. Kraemer, K. van Overveld, M. Peterson (2010). Is there an ethics of algorithms? Ethics Inf Technol (2011). 251-260.

Aansprakelijkheid

Wie is er verantwoordelijk als iemand niet gevonden wordt met chip?

In elke applicatie waar mensen samen werken met robots, zijn er gevaren en goed en slecht dat met elkaar vergeleken moeten worden[1]. Als het team vertrouwd dat de robot de capaciteiten heeft om een bepaald doel te bereiken, dan kan het team de robot dit werk laten doen [1]. In dit opzicht is het reddingsteam verantwoordelijk voor de keuze dat een rescue robot wordt gebruikt. Echter moet de reddingswerker niet alleen vertrouwen op de resultaten van de robot [2]. De robot zal namelijk volgens een algoritme werken en in dit algoritme zijn ook ontwerpkeuzes gemaakt door de software ontwerper. De software ontwerper is dus moreel verantwoordelijk voor het algoritme dat ontworpen wordt [2]. De verantwoordelijkheid ligt dus gedeeltelijk bij het reddingsteam en voor een gedeelte bij de software ontwerper.

Bron: [1] F. Kruijff, M. Janicek (2011). Using doctrines for human-robot collaboration to guide ethical behavior. Robot-Human Teamwork in Dynamic Adverse Environment (2011). 26-33. [2] F. Kraemer, K. van Overveld, M. Peterson (2010). Is there an ethics of algorithms? Ethics Inf Technol (2011). 251-260.

Wie is er verantwoordelijk als iemand niet gevonden wordt zonder een chip?

Het reddingsteam heeft gekozen dat de robot in staat is om de mensen te vinden in het ramp situatie. Als het reddingsteam vertrouwen heeft dat de robot de slachtoffers kan vinden, dan is het toegestaan om de robot in te zetten [1]. Echter mag het reddingsteam niet alleen vertrouwen op de resultaten van de robot [2]. Wanneer een persoon niet gevonden wordt, omdat de reddingswerkers alleen hebben gekeken op de plaatsen die de robot aangeeft, is het de verantwoordelijkheid van het reddingsteam.

Bron: [1] F. Kruijff, M. Janicek (2011). Using doctrines for human-robot collaboration to guide ethical behavior. Robot-Human Teamwork in Dynamic Adverse Environment (2011). 26-33. [2] F. Kraemer, K. van Overveld, M. Peterson (2010). Is there an ethics of algorithms? Ethics Inf Technol (2011). 251-260.