1.  UVOD U TEMU

Moralne dileme su situacije u kojima pojedinci moraju napraviti izbor između dva ili više postupaka, gdje svaka opcija ima moralnu implikaciju koja je u sukobu s drugom. Ove dileme ispituju vrijednosti i etiku pojedinca, budući da su prisiljeni odvagnuti posljedice svojih izbora i odrediti što je ispravno, a što pogrešno. Primjeri moralnih dilema uključuju odluku između govorenja istine i održavanja obećanja ili odabira između pomaganja nekome u nevolji i poštivanja pravila. Moralne dileme mogu se pojaviti u osobnom, profesionalnom i društvenom kontekstu i mogu imati trajne posljedice na pojedince i zajednice. Mogu nastati i u digitalnom okruženju.

Digitalno okruženje dovelo je do niza etičkih dilema jer tehnologija nastavlja napredovati i prožima sve aspekte naših života. Ovi etički izazovi proizlaze iz sjecišta tehnologije koja se brzo razvija i proturječnih vrijednosti i normi koje postoje u društvu. Važne dileme koje se javljaju u digitalnim okruženjima uključuju privatnost naspram sigurnosti, slobodu govora naspram govora mržnje, autonomiju naspram ciljanog oglašavanja, transparentnost i vlasništvo nad podacima itd. Neke su dileme stare, a sada se nalaze u novom, digitalnom ruhu, ali neke su potpuno nove.

2.  PRESJEK LEKCIJE

Osim upoznavanja s bitnim pojmovima iz ovog područja, radionica sadrži i dvije aktivnosti koje su njen središnji dio. U prvoj aktivnosti učenici uče o ulozi osobnih vrijednosti u moralnom odlučivanju. U ovoj aktivnosti učenici uče što su vrijednosti, koja je hijerarhija vrijednosti i kakav utjecaj vrijednosti i hijerarhija imaju na njihovo moralno odlučivanje. Druga aktivnost posvećena je studijama slučaja. Učenici se u ovoj aktivnosti susreću s praktičnim primjerima moralnih dilema, a pritom sami moraju predložiti rješenje moralne dileme i argumentirati svoju odluku. Na kraju se raspravlja o iskustvima učenika s moralnim dilemama u digitalnom okruženju.

Predviđeno trajanje radionice je 90 minuta. Po potrebi možete preskočiti individualnu radionicu ako želite da radionica traje 45 minuta.

Materijali koji bi trebali biti dostupni učenicima: prazni listovi papira (A4), kartice s ispisanim vrijednostima (treba imati onoliko kompleta kartica koliko je predviđenih grupa), veći listovi papira (A3), flomasteri, tiskani primjeri moralnih dilema za studije slučaja.

Ishodi učenja koji će se postići kroz radionicu:

• učenici mogu razumjeti pojmove etike, morala, moralnih dilema, digitalnog okruženja i uloge vrijednosti u moralnom odlučivanju.
• Učenici mogu prepoznati proturječne vrijednosti u moralnim dilemama i procijeniti hijerarhiju vrijednosti.

• učenici su svjesni različitih perspektiva rješavanja moralnih dilema i mogu suosjećati s proturječnim stavovima
• učenici stječu iskustvo argumentiranja svog stava, što im može pomoći u budućnosti pri sudjelovanju u raspravama o moralnim dilemama
• učenici su upoznati s nekim važnim moralnim dilemama koje su često prisutne u digitalnom okruženju i sposobniji su prepoznati nove dileme u budućnosti.

3. RAZRADA LEKCIJE – AKTIVNOSTI RADIONICE

Izvor: https://www.mcsweeneys.net/articles/a-passengers-one-star-review-of- the-trolley-ride-from-the-trolley-problem

1.   Uvod

Moderator na početku stimulira učenike pitanjem: Jeste li se ikada našli u moralnoj dilemi dok ste koristili Internet? Moderator dopušta učenicima da nabroje nekoliko primjera.

Moderator zatim otvara kratku raspravu s pitanjima kako bi potaknuo učenike na razmišljanje i pomogao im da aktivno sudjeluju u radionici. Moguća pitanja uključuju:

Što prvo pomislite kada čujete izraz “moralna dilema”? Zašto je važno razgovarati o tome?

Jeste li ikada bili suočeni s odlukom za koju ste smatrali da bi imala moralne implikacije? Kako ste reagirali?

Možete li se sjetiti bilo kojeg povijesnog događaja koji je uključivao moralne dileme?

Smatrate li da tehnologija i društveni mediji utječu na vašu sposobnost rješavanja moralnih dilema?

2.   Definicije važnih pojmova i primjeri moralnih dilema

Moderator učenicima objašnjava osnovne pojmove relevantne za ovu lekciju: etika, moral, etičke dileme, digitalno okruženje. (Pogledajte Dodatak 1 za pomoć)

Moderator predstavlja primjer moralne dileme – trolley problem. (Pogledajte Dodatak 2 za pomoć)

Moderator zatim pita učenike znaju li još neke primjere moralnih dilema. Ako učenici sami ne ponude primjere, moderator može dati neke druge primjere prije nastavka lekcije. (Pogledajte Dodatak 1 za pomoć)

3.   Uloga osobnih vrijednosti u donošenju odluka

Moderator kaže da su moralne dileme često rezultat sukoba dviju ili više vrijednosti koje su nam važne.

Moderator to može ilustrirati donekle pojednostavljenom verzijom primjera francuskog filozofa Jean-Paula Sartrea (vidi prilog 3): Tijekom Drugog svjetskog rata, mladi Francuz nalazi se u moralnoj dilemi hoće li se pridružiti vojsci i braniti svoju zemlju ili ostati kod kuće i brinuti se za svoju bolesnu majku koja se oslanja na njega. Mlad čovjek teško donosi odluku – a to je jasan znak da je doista riječ o dilemi – jer su vrijednost zemlje (i npr. poštivanje autoriteta, slobode,…) i vrijednost obitelji u sukobu. Prema oboma osjeća važnu dužnost, jer su mu oboje doista vrijedni.

Moderator dijeli učenike u manje grupe (4-5 u grupi). Svakoj skupini podijelite set kartica s riječima koje označavaju moguće vrijednosti (istina, poštovanje, pravda, iskrenost, prijateljstvo, obitelj,…) – za primjer popisa vrijednosti pogledajte Prilog 4.

Prvi zadatak uključuje učenike u grupi koji stavljaju sve karte na takav način da su vrijednosti za koje misle da odgovaraju zajedno na istoj hrpi. Mogu napisati koje su skupine vrijednosti prepoznali na listu. Također možete razgovarati o tome što povezuje vrijednosti koje učenici prepoznaju kao povezane. (Ovu vježbu možete preskočiti u slučaju nedostatka vremena).

Za drugi zadatak svaka grupa mora sa svih kartica izabrati one vrijednosti za koje misli da su najvažnije (moderator može postaviti ograničenje, npr. “Odaberi najvažnijih 5 vrijednosti”).

U trećem zadatku svaka grupa mora poredati vrijednosti koje prepoznaje kao najvažnije u hijerarhiji od najvažnijih do najmanje važnih.

Na kraju, zaključite ovaj odjeljak kratkom raspravom o tome kako jasna predodžba o vrijednostima pojedinca može olakšati osobi da se nosi s moralnim dilemama, jer se odluke često mogu napraviti lakše ako se naprave u korist vrijednosti koja je viša na popisu

4.   Središnji dio radionice: STUDIJE SLUČAJA

Moderator ponovno dijeli učenike u skupine ili koristi već stvorene skupine iz prethodnog zadatka. Svaka od skupina dobiva po jedan primjer moralne dileme iz digitalnog okruženja. (Pogledajte Prilog 5 za prijedloge)

Svaka skupina mora razmotriti različite perspektive i argumente za jednu od dvije (ili više) mogućnosti predstavljenih kao potencijalna rješenja moralne dileme. Oni si mogu pomoći tako da prvo utvrde koje su vrijednosti u sukobu unutar same dileme. Na kraju se grupa mora odlučiti za jedno od predloženih rješenja dileme.

Na kraju vježbe svaka grupa zapisuje svoje nalaze na papiru formata A3 i ukratko predstavlja dilemu s kojom se susrela, stavove koje su razmatrali i razloge svoje konačne odluke.

Ostale skupine imaju priliku komentirati izbor skupine koja predstavlja svoj slučaj i svoju odluku za rješenje.

5.   Rasprava

U završnom dijelu radionice moderator razgovara sa studentima o dodatnim relevantnim pitanjima vezanim uz lekciju. (Pogledajte sljedeće poglavlje “Rasprava”)

RASPRAVA

• Kako se moralne dileme u stvarnom svijetu razlikuju od onih u digitalnom svijetu?
  • Jeste li ikada znali što “morate učiniti”, ali vam se jednostavno nije “dalo” da to učinite?
  • Kada ste suočeni s dilemom, slušate li taj “glasić” i slijedite li svoj moralni kompas?
  • Koji su neki od primjera etičkih dilema u kojima je vama osobno posebno teško odabrati što je ispravno učiniti?
  • Kako kulturne i društvene norme utječu na ono što nam se čini kao moralna dilema? Znate li primjere moralnih dilema koje su na Zapadu doista problematične, a u drugim zemljama možda uopće nisu dileme?
  • Smatrate li da možemo (ili bismo čak trebali) ikada prekršiti zakon u ime morala?
  • Postoji li neki način da u potpunosti izbjegnemo moralne dileme? Ako da, na koji način?
  • Mislite li da bi poučavanje etike u srednjim školama pomoglo učenicima da se lakše nose s moralnim dilemama? Može li se poučavati o etičkom odlučivanju?
  • Mogu li se moralne dileme riješiti na način da rješenje bude dobro za sve uključene ili rješenje moralne dileme neizbježno uključuje stvaranje kompromisa?

5.  DODATNI IZVORI

Morality Play: You are presented with 19 different moral scenarios in which you have to make a judgement about what is morally right thing to do. At the end you are presented with analysis of your responses. https://www.philosophyexperiments.com/moralityplay/Default.aspx

Moral Machine: A platform for gathering a human perspective on moral decisions made by machine intelligence, such as self-driving cars. https://www.moralmachine.net/

6.  ANNEX

ANNEX 1:

Ključni koncepti

 Etika i moral

Iako mnogi koriste pojmove etika i moral naizmjenično, oni su obično odvojeni. Postoji nekoliko različitih mogućih razlika koje treba napraviti, ali jedna od najčešće citiranih i zgodno spominjanih razlika između etike i morala shvaćena je na sljedeći način:

Etika se odnosi na granu filozofije koja se bavi proučavanjem moralnih načela i vrijednosti koje određuju primjereno ponašanje u različitim situacijama. Bavi se pitanjima o tome što je ispravno ili pogrešno, te što je pošteno i pravedno. Etika pomaže pojedincima i organizacijama u donošenju odluka o tome kako djelovati na načine koji se smatraju moralno ispravnima, a može utjecati na razvoj zakona, politika i kodeksa ponašanja.

Moral se, s druge strane, odnosi na osobna uvjerenja i načela pojedinca koji se tiču ispravnog i pogrešnog ponašanja, te dobrote ili zla određenih postupaka, navika i karakternih osobina. Moralnost često oblikuju kulturna, vjerska i osobna uvjerenja te mogu utjecati na etičke odluke i ponašanje pojedinca.

Moralna dilema

U filozofiji, moralna dilema je situacija koja predstavlja dvije ili više opcija, od kojih se nijedna ne može izabrati bez kršenja nekog etičkog principa. “Pravi” izbor stoga nije očit. Moralna dilema često uključuje sukob između moralnih obveza i prisiljava pojedince da razmotre svoje vrijednosti i uvjerenja, kao i možda motivacije ili posljedice svojih postupaka. Ova vrsta dileme postavlja važna filozofska pitanja o prirodi etike i morala te može dovesti u pitanje uvjerenja pojedinca i razumijevanje dobra i zla.

Digitalno okruženje

Digitalno okruženje odnosi se na virtualni prostor stvoren tehnologijom, gdje pojedinci i organizacije međusobno komuniciraju i provode različite aktivnosti. Obuhvaća sve digitalne uređaje, sustave i mreže koji se koriste za pohranu, obradu i prijenos informacija. Primjeri digitalnih okruženja uključuju internet, platforme društvenih medija, online igraće zajednice, sustave virtualne stvarnosti i mreže računalstva u oblaku. Digitalno okruženje revolucioniralo je način na koji ljudi žive, rade i međusobno komuniciraju te je dovelo do novih prilika i izazova u područjima kao što su privatnost, sigurnost i etika

ANNEX 2: Trolley Problem

Problem trolejbusa (The trolley problem) klasični je etički misaoni eksperiment koji se koristi za istraživanje prirode moralnog odlučivanja. Često se predstavlja na sljedeći način:

Trolejbus ide prema skupini od pet ljudi koji će biti ubijeni ako se ništa ne poduzme. Jedini način da ih spasite je da skrenete kolica na drugu stazu na kojoj je samo jedna osoba.

Dilema je u tome je li moralno dopustivo namjerno skrenuti trolejbus na alternativni kolosijek i ubiti jednu osobu da bi se spasilo njih pet.

Ovaj misaoni eksperiment postavlja važna pitanja o vrijednosti ljudskog života, etici žrtvovanja i moralu neizravne odgovornosti. Filozofi i etičari raspravljali su o tome desetljećima, a modificiran je i proširen u nekoliko varijanti kako bi se dodatno istražili različiti aspekti donošenja moralnih odluka. Problem trolejbusa i dalje je relevantna etička dilema o kojoj se naširoko raspravlja, a ima primjenu u područjima kao što su umjetna inteligencija, autonomna vozila i vojna etika.

ANNEX 3: Sartre

Sartre koristi anegdotu o moralnoj dilemi bivšeg studenta tijekom Drugog svjetskog rata kako bi ilustrirao granice donošenja odluka na temelju definiranog moralnog kodeksa i pogrešnost okrivljivanja “strasti” za postupke ljudi. Brata francuskog studenta Nijemci su ubili 1940., ali je njegov otac ipak kasnije napustio obitelj kako bi surađivao s Nijemcima. Student je morao birati između ostanka u Francuskoj s majkom, koja je “u njemu nalazila jedinu utjehu”, i odlaska u borbu sa Slobodnim Francuzima protiv njemačke okupacije. Nakon što je shvatio da je uhvaćen između moralnih načela – obitelji i nacije, ili obveze da se brine za svoju majku i obveze da osveti bratovu smrt – došao je Sartreu po savjet. Filozof je rekao svom učeniku da nema ispravne i netočne odluke. Niti moralni kodeksi niti snaga njegovih naklonosti prema jednoj ili drugoj strani nisu mogli odrediti što učiniti; nego je učenik morao “izmisliti” vlastito rješenje problema.

Izvor: https://www.litcharts.com/lit/existentialism-is-a-humanism/characters/sartre-s- student

ANNEX 4: Primjer mogućeg skupa vrijednosti

1. zadovoljstvo
2. sloboda
3. istina
4. obitelj
5. znanje
6. snaga
7. zdravlje
8. mudrost
9. čast
10. poštovanje
11. ljubav
12. sigurnost
13. prijateljstvo
14. ugled

1. ljubaznost
2. ljepota
3. kreativnost
4. hrabrost
5. odgovornost
6. poštenje

ANNEX 5: Studije slučaja za grupni rad

Slučaj 1: Sustavi umjetne inteligencije koji generiraju tekst

Za jedan od školskih predmeta morate do određenog roka predati esej na temu po izboru. Jako se potrudite, napišete esej do detalja i pripremite ga na vrijeme. Sat vremena prije roka, želite poslati esej na e-mail adresu svog profesora prema dogovoru. Primijetili ste da dokument s vašim esejom više nije na vašem računalu – sigurno ste ga slučajno izbrisali. Sat vremena prije isteka roka sigurno nemate vremena za pisanje novog eseja. Sjećate se da vam je kolega iz razreda rekao da sada postoje računalni programi temeljeni na umjetnoj inteligenciji koji vam omogućuju da napišete esej na temu po vlastitom izboru. Nalazite se u moralnoj dilemi: trebate li koristiti program koji će napisati esej umjesto vas? Uostalom, već ste obavili posao i uložili trud i stvarno morate predati svoj esej na vrijeme, inače ne možete završiti tečaj. Zabrinuti ste da nije moralno predati rad koji nije vaš. Trebate li koristiti softver ili ne?

Slučaj 2: Lažni identitet

Roditelj ste 16-godišnjeg učenika čije su ocjene u školi nedavno pale. Čini vam se da njezino slobodno vrijeme može imati veze s ovim pogoršanjem. Kako znate da vaša kći vrlo često i jako voli objavljivati na društvenim mrežama, željeli biste pratiti što radi u slobodno vrijeme, jer vam se čini da ćete moći primijetiti loše utjecaje.

Naravno, budući da ne želite da zna da redovito pratite njezine objave, razmislite o izradi profila s lažnim podacima (ime, spol, godine, adresa). Nalazite se u moralnoj dilemi: kreirate li online račun s lažnim identitetom? Ne štetite nikome izravno i svojoj kćeri u konačnici želite dobro. Ali znajući da aktivno pridonosite tome da lažni identitet na internetu postane savršeno prihvatljiv, pitate se je li to prikladno jer ni vi sigurno ne biste željeli da mnogi vaši prijatelji na društvenim mrežama budu “lažni”.

Slučaj 3: Problem govora mržnje

Vlasnik ste jedne od najvećih društvenih mreža (npr. Facebook ili Twitter). Ne želite da ljudi budu potpuno slobodni vrijeđati jedni druge na vašoj platformi i koristiti govor mržnje protiv ranjivih skupina ljudi. Posebno, naravno, ne želite dopustiti nikakve prijetnje ili poticanje na moralno nepoželjna djela. U isto vrijeme, ne želite ograničiti govor korisnika svoje platforme. Nekoliko je razloga za to: želite osigurati slobodu govora (svatko je slobodan izraziti svoje mišljenje), ne želite nametati svoje vrijednosti ograničavajući druge, i na kraju, ali ne manje važno, ne želite da ljudi napuste vaše platforme u frustraciji. Znate da su dostupni algoritamski sustavi koji će sami filtrirati i brisati govor mržnje na vašoj platformi. Uostalom, ljudskom biću bilo bi nemoguće pregledati sve objave svih ljudi na vrijeme. Ali također znate da su algoritmi ponekad pristrani i da griješe te će vjerojatno i izbrisati dobronamjerne postove ljudi koje pogrešno identificiraju kao prijetnje, sprječavajući tako dobronamjerne ljude da slobodno komuniciraju. Jeste li suočeni s moralnom dilemom: trebate li koristiti automatizirane algoritamske sustave za kontrolu govora mržnje.

Slučaj 4: Privatnost podataka

Vlasnik ste online trgovine. Želite da vam svi kupci vaše online trgovine daju svoje osnovne podatke (ime, spol, dob, adresu) prije korištenja vaših usluga – to će vam pomoći da mu ponuda koju potencijalni kupac vidi na vašoj stranici bude prilagođena. To je dobro za kupce jer će im olakšati primanje ponuda koje su im relevantne i u većini slučajeva skratiti vrijeme traženja. Ali to će također biti dobro za vas jer ponude specifične za kupca drastično povećavaju šanse da kupac doista kupi. Međutim, znate da narušavate privatnost kupaca koji možda žele ostati anonimni. Također ih možete obeshrabriti da uopće kupe. Suočeni ste s moralnom dilemom: Hoćete li tražiti osobne podatke od kupaca koji žele obaviti kupnju na vašoj stranici?

Slučaj 5: Varanje za neki predmet

Redovito igrate online video igru s mnogo igrača iz cijelog svijeta. U posebnoj prigodi, suigrač kojeg od prije ne poznajete nudi vam vrlo rijedak predmet u igri besplatno. Tko je igrač koji nudi novu stavku provjerite na forumu koji je posvećen zajednici igrača igre koju igrate. Vidite da mnogi ljudi ističu da ovaj igrač vara u igri. Možete biti gotovo sigurni da je igrač varanjem dobio predmet koji vam želi dati. Suočeni ste s moralnom dilemom: prihvaćate li predmet ipak? Ne stvarate probleme izravno nikome i niste vi bili ti koji su varali. S druge strane, prihvaćate dar koji nije pošteno dobiven i aktivno pridonosite tome da takvo ponašanje ostane nekažnjeno te da varalica nastavi s prevarom.

Slučaj 6: Hrabro izražavanje mišljenja

Primijetite na jednoj od platformi za društveno umrežavanje koje koristite (npr. Facebook ili Twitter) da je vaš prijatelj objavio objavu koja nije istinita, a može čak biti i uvredljiva za neke ljude. Budući da dobro poznajete svog prijatelja, znate da on sigurno neće obrisati objavu, čak ni ako to predložite u privatnom razgovoru, jer on iskreno vjeruje u svoju objavu i žestoko će je braniti. Ne želite da vaš prijatelj širi lažne informacije, a posebno da potencijalno vrijeđa određene skupine ljudi, iako mu to možda nije namjera. Možete napisati svoje mišljenje u komentaru na njegovu objavu, to bi vam omogućilo da ukažete na činjenične informacije o temi koje su istinite, a možda i

ublažiti uvredu koju bi mogao nanijeti i sudjelovati u otvorenoj raspravi na tu temu izražavajući mišljenje. Naravno, time dovodite u pitanje kredibilitet svog prijatelja i možda ugrožavate svoje prijateljstvo. Suočeni ste s moralnom dilemom: Hoćete li istaknuti pogrešku svog prijatelja na društvenoj mreži i izraziti svoje mišljenje?

Slučaj 7: Autonomno vozilo

Etičke dileme koje okružuju digitalne tehnologije često se protežu u stvarni svijet – proširujući njihov utjecaj daleko izvan digitalnog okruženja. Jedan od takvih primjera su autonomna vozila koja u posljednje vrijeme razvijaju mnoge tvrtke koje ulažu velik novac u korištenje umjetne inteligencije u području prometa. Automobil će morati donositi određene odluke na cesti dok sam vozi – kada treba pretjecati vozilo ispred, kada voziti opreznije zbog uvjeta na cesti itd. No, autonomni će automobil također morati donositi odluke o tome što učiniti u složenijim situacijama. Dijete skače pred auto na cesti za svojom loptom. Automobil može biti digitalno programiran da skrene s ceste kako bi spasio osobu na kolniku, ugrožavajući život putnika u automobilu. Ili se može programirati da ne skrene s ceste kako bi se zaštitio putnik u automobilu. Vi ste programer sustava koji će vam pomoći u donošenju odluka u samovozećem automobilu. Nalazite se u moralnoj dilemi: Kako programirati auto? Osigurati sigurnost putnika na moguću štetu osobe na cesti ili voditi brigu o osobi koja je na cesti riskirajući dobrobit putnika?