Hogyan alkalmazható az etikai dilemma az önvezető autókra?
A klasszikus etikai kérdés: El kell-e téríteni egy elszabadult kocsit úgy, hogy öt helyett csak egy embert öljön meg? Mi az erkölcsileg helyes döntés?
A filozófusok évtizedek óta vitatkoznak azon, hogy a haszonelvű megoldást kell követni (mi a jobb a társadalom számára, pl. kevesebb haláleset) vagy az egyéni jogokat tiszteletben tartó megoldást (például a szándékosan okozott sérelem elkerülésének jogát).
A közelmúltban az automata jármű fejlesztők is elgondolkoztak azon, hogy egy autonóm járműnek (AV) hogyan kellene hasonló dilemmákat megoldania váratlan vezetési helyzetekben. Például mit kellene tennie egy AV-nek, ha egy kerékpáros váratlanul belép a sávjába? Átkormányoznia magát a szembejövő sávba, hogy elkerülje, vagy elütni a kerékpárost?
Chris Gerdes, a Stanford Autóipari Kutatóközpont (CARS) gépészmérnök professzora és társigazgatója szerint a megoldás az orrunk előtt van. Be van építve a többi járművezetővel már megkötött szociális szerződésbe csakúgy, mint a közlekedési szabályokba és azok bíróság általi értelmezésébe.
A Ford Motor Co. munkatársaival együtt Gerdes a közelmúltban a Journal of Law and Mobility című folyóiratban publikált egy megoldást a problémára az AV-k kontextusában. Az alábbiakban Gerdes kérdésekre válaszolva bemutatja az ezzel kapcsolatos munkát, úgy gondolja, hogy az nagyobb bizalmat fog ébreszteni az emberekben az AV-k iránt:
Hogyan segíthetnének közlekedési törvényeink az automatizált járművek etikus viselkedésének irányításában?
A Ford vállalati szabályzata kimondja: a törvényeket mindig be kell tartani. Ez a projekt néhány egyszerű kérdésből indult ki: vonatkozik-e ez az irányelv az automatizált vezetésre? És mikor, – ha egyáltalán valaha is – etikus, hogy egy AV megszegi a közlekedési szabályokat?
Miközben ezeket a kérdéseket kutattuk, rájöttünk, hogy a KRESZ mellett a fellebbezési határozatok és bírósági döntések is segítik a több száz éves autózás során kialakult társadalmi szerződés pontosítását. Ennek a társadalmi szerződésnek a lényege pedig a többi közlekedővel való törődés a közlekedési szabályok betartása révén, kivéve, ha azok megszegése az ütközés elkerülése érdekében szükséges. Lényegében: Ugyanazokban a helyzetekben, amikor etikailag ésszerűnek tűnik a törvény megszegése, ésszerű a KRESZ törvényes megsértése is.
Az emberközpontú mesterséges intelligencia szempontjából ez az igazán lényeges: Azt akarjuk, hogy az automata rendszerek végső soron az embereknek tartozzanak felelősséggel. És a mechanizmus, amellyel felelősségre vonhatjuk őket, az a közlekedési szabályok betartása úgy általában. Ez az alapelv – miszerint az AV-knak követniük kell a törvényt – azonban nem teljesen elfogadott az egész iparágban. Vannak, akik természetes vezetésről beszélnek, ami azt jelenti, hogy ha az ember gyorsan hajt, akkor az automata járműnek is gyorsan kell mennie. De ennek nincs jogalapja sem automatizált járműként, sem olyan cégként, amely azt állítja, hogy betartja a törvényt.
Tehát valójában az egyetlen jogos alapja annak, hogy egy AV törvényt sértsen, az az, ha ezzel elkerül egy ütközést. A törvény pedig nagyjából egyetért ezzel. Például, ha nincs szembejövő forgalom, és egy AV átmegy a záróvonalon, hogy elkerülje a kerékpárral való ütközést, akkor lehet, hogy megsértette a KRESZ-t, de nem sértett törvényt, mert megtette, ami szükséges volt, hogy elkerülje a kerékpárral való ütközést, miközben betartotta a közlekedés többi résztvevőjével szembeni odafigyelési kötelezettségét.
Tehát hogyan programozzuk az AV-kat az elkerülhetetlen ütközések kezelésére?
Ha az AV-ket be lehetne programozni úgy, hogy eleget tegyenek az összes úthasználóval szembeni gondossági kötelezettségüknek, akkor ütközések csak akkor következnének be, ha valaki más megszegi az AV-vel szembeni gondossági kötelezettségét, vagy valamilyen mechanikai meghibásodás történik. De tegyük fel, hogy egy másik közlekedő megsérti az AV-val szembeni gondossági kötelezettségét azzal, hogy átmegy egy piros lámpán vagy az AV elé kanyarodik. Az általunk megfogalmazott alapelvek azt mondják, hogy az AV ennek ellenére törődési kötelezettséggel tartozik, és mindent meg kell tennie – a jármű fizikai határáig – az ütközés elkerülése érdekében anélkül, hogy bárki mást veszélybe sodorna.
Ebben az értelemben van megoldásunk az AV etikai problémájára. Nem vesszük figyelembe annak valószínűségét, hogy egy személy megsérül, szemben másokkal. Ehelyett azt mondjuk, hogy nem választhatunk olyan cselekedeteket, amelyek sértik a másokkal szembeni gondoskodási kötelezettségünket. Ezért megpróbáljuk megoldani ezt a konfliktust azzal a személlyel, aki létrehozta – aki megsértette a ránk háruló gondoskodási kötelezettségét – anélkül, hogy más embereket bevonnánk ebbe.
És azt állítom, hogy ez a megoldás teljesíti a társadalmi szerződésünket. A járművezetők elvárják, hogy ha ők betartják a közlekedési szabályokat és odafigyelnek másokra, akkor biztonságosan közlekedhessenek az utakon. Miért lenne helyes úgy kikerülni egy kerékpárost, hogy az autó átmegy a szembejövő sávba és nekiütközik egy szabályokat betartó másik autóba? Miért hozzon olyan döntést, ami valaki kívülállónak okoz kárt? Azt kéne feltételeznünk, hogy annak a kára kisebb lesz, mint a kerékpárosé? Azt hiszem ezt nehéz igazolni nemcsak erkölcsileg, de gyakorlatilag is. Bármely ütközésben nagyon sok ismeretlen tényező van. Nem lehet tudni, hogy mit fognak tenni a különböző közlekedők és azt sem, hogy mi lesz a kimenetele egy adott ütközésnek. Egy olyan rendszer megtervezése, amely azt állítja, hogy azonnal képes elvégezni ezt a haszonelvű számítást, nemcsak etikailag kétséges, de gyakorlatilag lehetetlen. És ha egy gyártó megtervez egy AV-t, amely öt életet mentene meg egy helyett, valószínűleg jelentős felelőssége lenne, mert a mi társadalmi szerződésünkben semmi sem indokolja ezt a fajta haszonelvű gondolkodást.
Az Ön etikai problémára adott megoldása segíteni fogja a lakosságot abban, hogy elhiggye, hogy az AV-k biztonságosak?
Ha elolvassa a kutatásokat, azt hihetné, hogy az AV-k a tömegeken alapuló etikát alkalmaznak, és arra képezik ki őket, hogy a személy társadalmi értéke alapján hozzanak döntéseket. El tudom képzelni, hogy ez aggasztó lehet. Az emberek amiatt is aggódnak, hogy az autók esetleg feláldozzák az utasaikat, ha úgy gondolják, hogy így több életet tudnak megmenteni. Ez sem tűnik túl megnyugtatónak.
Ezzel szemben azt gondolom, hogy a mi megközelítésünk megfelelő kereteket határoz meg. Ha ezeket az autókat úgy tervezték, hogy a többi közlekedővel szembeni kötelességeket mindig betartsák, a lakosság megérti, hogy ha betartják a szabályokat, nincs félnivalójuk az automatizált járművektől.
Ezen túlmenően, még akkor is, ha az emberek megsértik az AV-val szembeni gondoskodási kötelezettségüket, az úgy lesz programozva, hogy a teljes képességét kihasználja az ütközések elkerülése érdekében. Szerintem ennek megnyugtatónak kell lennie az emberek számára, mert világossá teszi, hogy az AV-k nem fogják mérlegelni az életüket valamilyen programozott haszonelvű számítás részeként.
Hogyan befolyásolhatja az Önök megoldása az etikai problémára az AV-fejlesztést a jövőben?
A filozófusokkal, jogászokkal és mérnökökkel folytatott megbeszéléseink alapján mára eljutottunk arra a pontra, ahol úgy gondolom, hogy egyértelmű összefüggést tudunk vonni aközött, amit a törvény megkövetel, és a ténylegesen megfogalmazható mérnöki követelmények között.
Tehát ezt most átadhatjuk annak, aki beprogramozza az AV-t, hogy számítógépes kóddá alakítsa a társadalmi szerződést. És kiderül, hogy ha lebontjuk az autó gondossági kötelezettségének alapvető szempontjait, hogy az néhány egyszerű szabályon múlik, mint például a biztonságos követési távolság megtartása, valamint az ésszerű és körültekintő sebességű vezetés.
Forrás: Futurity
