UVOD V TEMO
Moralne dileme so situacije, v katerih mora posameznik izbirati med dvema ali več dejanji, pri katerih ni povsem jasno razvidno, katera izbira je moralno najboljša. Te dileme preizkušajo posameznikove vrednote in etiko, saj mora pretehtati posledice svojih odločitev in določiti, kaj je prav in kaj ne. Primer moralne dileme je odločanje med tem, ali povedati resnico ali zadržati skrivnost. Moralne dileme se lahko pojavijo v osebnem, poklicnem in družbenem okolju ter imajo lahko trajne posledice za posameznike in skupnosti. Pojavijo se lahko tudi v digitalnem okolju.
V digitalnem okolju se pojavljajo številne etične dileme, saj tehnologija prodira v vse vidike našega življenja. Ti etični izzivi izhajajo iz prepleta hitro razvijajoče se tehnologije ter nasprotujočih si vrednot in norm, ki obstajajo v družbi. Pomembne dileme, ki se pojavljajo v digitalnih okoljih, vključujejo zasebnost proti varnosti, svobodo govora proti sovražnemu govoru, avtonomijo proti ciljnemu oglaševanju, transparetnost in lastništvo podatkov ter druge. Nekatere dileme so stare, zdaj le v novem, digitalnem kontekstu, nekatere dileme pa so povsem nove.
2. PREGLED LEKCIJE
Poleg predstavitve pomembnih konceptov s tega področja delavnica vsebuje tudi dve dejavnosti, ki sta njen osrednji del. V prvi dejavnosti učenci spoznajo vlogo osebnih vrednot pri moralnem odločanju. Pri tej dejavnosti učenci spoznajo, kaj so vrednote, kakšna je njihova osebna hierarhija vrednot ter kakšen vpliv imajo vrednote in hierarhija na njihovo moralno odločanje. Druga dejavnost je namenjena študiju primerov. Pri tej dejavnosti se učenci srečajo s praktičnimi primeri moralnih dilem, pri tem pa morajo sami predlagati rešitev moralne dileme in navesti argumente za svojo odločitev. Na koncu sledi razprava o izkušnjah učencev z moralnimi dilemami v digitalnem okolju.
Delavnica bo predvidoma trajala 90 minut. Po potrebi lahko posamezno aktivnost preskočite, če želite, da delavnica traja 45 minut.
Ppotrebnipripomočki: prazni listi papirja (A4), kartice z napisanimi vrednotami (toliko kompletov kartic, kolikor je predvidenih skupin), večji listi papirja (A3), markerji, natisnjeni primeri moralnih dilem za študije primerov.
Cilji delavnice:
● učenci razumejo pojme etika, morala, moralne dileme, digitalno okolje in vloga vrednot pri moralnem odločanju.
● učenci znajo prepoznati nasprotujoče si vrednote v moralnih dilemah in oceniti hierarhijo vrednot.
● učenci se zavedajo različnih pogledov na reševanje moralnih dilem in se znajo vživeti v nasprotujoče si poglede
● učenci pridobijo izkušnje z argumentiranjem svojega stališča, kar jim lahko v prihodnosti pomaga pri sodelovanju v razpravah o moralnih dilemah
● učenci poznajo nekatere pomembne moralne dileme, ki so pogosto prisotne v digitalnem okolju, in lažje prepoznavajo nove dileme v prihodnosti.
3. LEKCIJA – AKTIVNOSTI DELAVNICE
1. Uvod
Moderator na začetku spodbudi učence z vprašanjem: “Ali ste se med uporabo interneta že kdaj znašli v moralni dilemi?” in jim dovoli, da naštejejo nekaj primerov.
Moderator nato odpre kratko razpravo z vprašanji, da bi spodbudil razmišljanje učencev in jim pomagal aktivno sodelovati na delavnici. Možna vprašanja so:
Na kaj najprej pomislite, ko slišite izraz “moralna dilema”? Zakaj je pomembno, da se o njej pogovarjamo?
Ali ste se kdaj soočili z odločitvijo, za katero ste menili, da bo imela moralne posledice? Kako ste se odzvali?
Ali se spomnite kakšnega zgodovinskega dogodka, ki je vključeval moralne dileme?
Ali menite, da tehnologija in družbeni mediji vplivajo na vašo sposobnost reševanja moralnih dilem?
2. Opredelitve pomembnih pojmov in primeri moralnih dilem
Moderator učencem razloži osnovne pojme, pomembne za to lekcijo: etika, morala, etične dileme, digitalno okolje. (Za pomoč glejte Prilogo 1)
Moderator predstavi primer moralne dileme – Problem vlakca. (Za pomoč glej Prilogo 2)
Nato moderator učence vpraša, ali poznajo še kakšne druge primere moralnih dilem. Če učenci sami ne ponudijo primerov, lahko moderator, preden nadaljuje z lekcijo, sam navede nekaj drugih primerov. (Za pomoč glejte Prilogo 1)
3. Vloga osebnih vrednot pri sprejemanju odločitev
Moderator pove, da so moralne dileme pogosto posledica konflikta med dvema ali več vrednotami, ki so nam pomembne.
Moderator lahko to ponazori z nekoliko poenostavljeno različico primera, ki ga je navedel francoski filozof Jean-Paul Sartre (glej Prilogo 3): Med drugo svetovno vojno se mlad Francoz znajde v moralni dilemi, ali naj se pridruži vojski in brani svojo državo ali pa naj ostane doma in skrbi za svojo bolno mater, ki je odvisna od njega. Mladenič se težko odloči – in to je jasen znak, da gre v resnici za dilemo -, saj sta vrednota države (in npr. spoštovanje avtoritete, svobode …) in vrednota družine v tem primeru v tekmovalnem odnosu. Do obeh čuti pomembno dolžnost, saj sta zanj obe res dragoceni.
Moderator učence razdeli v manjše skupine (4-5 učencev na skupino). Vsaki skupini razdeli nabor kartic z besedami, ki označujejo možne vrednote (resnica, spoštovanje, pravičnost, iskrenost, prijateljstvo, družina …) – za primer seznama vrednot glejte Prilogo 4
Pri prvi nalogi učenci v skupini zložijo vse kartice tako, da so vrednote, za katere menijo, da se ujemajo, na enem kupu. Na list lahko zapišejo, katere skupine vrednot so prepoznali. Lahko se tudi pogovorite o tem, kaj povezuje vrednote, ki jih učenci prepoznajo kot povezane. (V primeru pomanjkanja časa lahko to vajo preskočite).
Pri drugi nalogi mora vsaka skupina med vsemi karticami izbrati tiste vrednote, ki so po njihovem mnenju najpomembnejše (moderator lahko določi omejitev, na primer: “Izberite 5 najpomembnejših vrednot”).
Pri tretji nalogi mora nato vsaka skupina vrednote, ki jih prepozna kot najpomembnejše, razvrstiti v hierarhijo od najpomembnejše do najmanj pomembne.
Na koncu ta del zaključite s kratko razpravo o tem, kako lahko jasna predstava o posameznikovih vrednotah posamezniku olajša navigacijo v moralnih dilemah, saj je odločitve pogosto lažje sprejeti, če so v prid vrednoti, ki je višje na seznamu.
4. Osrednji del delavnice: PRIMERI IZ PRAKSE
Moderator ponovno razdeli učence v skupine ali pa uporabi že oblikovane skupine iz prejšnje naloge. Vsaka skupina dobi en primer moralne dileme iz digitalnega okolja. (Za predloge glejte Prilogo 5.)
Vsaka skupina mora preučiti različne poglede in argumente za eno od dveh (ali več) možnosti, predstavljenih kot možne rešitve moralne dileme. Pri tem si lahko pomagajo tako, da najprej ugotovijo, katere vrednote so v dilemi v konfliktu. Na koncu se mora skupina odločiti za eno od predlaganih rešitev dileme.
Na koncu vaje vsaka skupina svoje ugotovitve zapiše na papir A3 in na kratko predstavi dilemo, ki jo je obravnavala, stališča, ki jih je upoštevala, in razloge za končno odločitev.
Druge skupine imajo možnost, da komentirajo izbiro skupine, ki je predstavila svoj primer, in njeno odločitev za rešitev.
5. Razprava
V zadnjem delu delavnice se moderator z učenci pogovori o dodatnih pomembnih vprašanjih, povezanih z lekcijo. (Glej naslednje poglavje “Razprava”).
4. RAZPRAVA
● Kako se moralne dileme v resničnem svetu razlikujejo od tistih v digitalnem svetu?
● Ali ste kdaj vedeli, kaj morate storiti, a preprosto niste želeli?
● Ali ob dilemi poslušate “glas” in sledite svojemu moralnemu kompasu?
● Kateri so primeri etičnih dilem, pri katerih se osebno še posebej težko odločite, kaj je prav?
● Kako kulturne in družbene norme vplivajo na to, kar se nam zdi moralna dilema? Ali imate kakšne primere moralnih dilem, ki so na Zahodu resnično problematične, v drugih državah pa morda sploh niso dileme?
● Ali menite, da lahko (ali bi celo morali) v imenu morale kdaj prekršiti zakon?
● Ali obstaja kakšen način, da bi se moralnim dilemam lahko povsem izognili? Če da, na kakšen način?
● Ali menite, da bi poučevanje etike v srednjih šolah pripomoglo k temu, da bi se učenci lažje spopadali z moralnimi dilemami? Ali je sploh mogoče poučevati etično odločanje?
● Ali je mogoče moralne dileme rešiti tako, da je rešitev dobra za vse vpletene, ali pa rešitev moralne dileme neizogibno vključuje sklepanje kompromisov?
5. DODATNI VIRI
Moralna igra: na voljo imate 19 različnih moralnih scenarijev, v katerih morate presoditi, kaj je moralno pravilno storiti. Na koncu so vaši odgovori analizirani.
Moralni stroj: Platforma za zbiranje človeških pogledov na moralne odločitve strojne inteligence, kot so samovozeči avtomobili. https://www.moralmachine.net/
6. PRILOGA
PRILOGA 1: Ključni pojmi
Etika in morala
Čeprav mnogi uporabljajo izraza etika in morala kot zamenljiva pojma, sta običajno ločena. Obstaja več različnih možnih razlikovanj, ki jih je mogoče zagovarjati, vendar eno od najpogosteje navajanih razlikovanj med etiko in moralo razumemo takole:
Etika se nanaša na vejo filozofije, ki se ukvarja s preučevanjem moralnih načel in vrednot, ki določajo ustrezno ravnanje v različnih situacijah. Ukvarja se z vprašanji o tem, kaj je prav in kaj narobe ter kaj je pošteno in pravično. Etika pomaga posameznikom in organizacijam pri sprejemanju odločitev o tem, kako ravnati na način, ki velja za moralno pravilnega, in lahko služi kot podlaga za oblikovanje zakonov, politik in kodeksov ravnanja.
Po drugi strani se moralnost nanaša na posameznikova osebna prepričanja in načela o pravilnem in napačnem ravnanju ter o dobroti ali slabosti določenih dejanj, navad in značajskih lastnosti. Moralo pogosto oblikujejo kulturna, verska in osebna prepričanja, ki lahko vplivajo na posameznikove etične odločitve in ravnanje.
Če je morala kompleksen nabor pravil, ki v družbi urejajo odnose, je etika torej filozofska disciplina, ki se ukvarja s proučevanjem prav teh pravil (morale).
Moralna dilema
V filozofiji je moralna dilema situacija, ki predstavlja dve ali več možnosti, od katerih nobene ni mogoče izbrati, ne da bi kršili neko etično načelo. “Prava” izbira torej ni očitna. Moralna dilema pogosto vključuje konflikt med moralnimi dolžnostmi in sili posameznike, da razmislijo o svojih vrednotah in prepričanjih ter morda tudi o motivih ali posledicah svojih dejanj. Ta vrsta dileme odpira pomembna filozofska vprašanja o naravi etike in morale ter lahko postavi pod vprašaj posameznikova prepričanja in razumevanje dobrega in slabega.
Digitalno okolje:
Digitalno okolje se nanaša na virtualni prostor, ustvarjen s tehnologijo, v katerem posamezniki in organizacije sodelujejo, komunicirajo in izvajajo različne dejavnosti. Vključuje vse digitalne naprave, sisteme in omrežja, ki se uporabljajo za shranjevanje, obdelavo in prenos digitalnih informacij. Primeri digitalnih okolij so internet, platforme družabnih medijev, spletne igralne skupnosti, sistemi navidezne resničnosti in omrežja računalništva v oblaku. Digitalno okolje je korenito spremenilo način, kako ljudje živijo, delajo in medsebojno komunicirajo, ter prineslo nove priložnosti in izzive na področjih, kot so zasebnost, varnost in etika
PRILOGA 2: Problem vlakca
Problem vlakca je klasičen etični miselni eksperiment, ki se uporablja za raziskovanje narave moralnega odločanja. Pogosto je predstavljen na naslednji način:
Vlakec se pelje proti skupini petih ljudi, ki so na progi, vlaka pa ne vidijo in bodo ubiti, če jih nihče ne reši. Edini način, da jih rešimo, je, da vlakec preusmerimo na drugo progo – na drugi progi pa je le ena oseba.
Dilema je, ali je moralno dopustno namerno preusmeriti vlakec na drugo progo in s tem ubiti eno osebo, da bi rešili pet ljudi.
Ta miselni eksperiment odpira pomembna vprašanja o vrednosti človeškega življenja, etiki žrtvovanja in moralnosti posredne odgovornosti. Filozofi in etiki o njem razpravljajo že desetletja, spremenjen in razširjen pa je bil v več različicah, da bi dodatno raziskali različne vidike moralnega odločanja. Problem vlakca je še vedno pomembna in pogosto obravnavana etična dilema, uporablja pa se pogosto na področjih, kot so umetna inteligenca, avtonomna vozila in vojaška etika.
PRILOGA 3: Sartre
Sartre z anekdoto o moralni dilemi nekdanjega študenta med drugo svetovno vojno ponazori omejitve odločanja na podlagi opredeljenega moralnega kodeksa in zmotnost obtoževanja “strasti” za dejanja ljudi. Brat francoskega študenta je bil leta 1940 ubit s strani Nemcev, njegov oče pa je kljub temu kasneje zapustil družino in sodeloval z Nemci. Študent se je moral odločiti, ali naj ostane v Franciji z materjo, ki je “v njem našla edino tolažbo”, ali pa naj odide v boj s svobodnimi Francozi proti nemški okupaciji. Ko je spoznal, da je razpet med moralnimi načeli – med družino in narodom oziroma med dolžnostjo skrbeti za mater in dolžnostjo maščevati bratovo smrt -, je prišel po nasvet k Sartru. Filozof je svojemu učencu povedal, da ni pravilne ali napačne odločitve. Niti moralni kodeksi niti moč njegovih čustev do ene ali druge strani ne morejo določiti, kaj naj stori; učenec si mora “izmisliti” lastno rešitev problema.
Vir:https://www.litcharts.com/lit/existentialism-is-a-humanism/characters/sartre-s-student
PRILOGA 4: Primer možnega nabora vrednot
1. užitek
2. svoboda
3. resnica
4. družina
5. znanje
6. moč
7. zdravje
8. modrost
9. čast
10. spoštovanje
11. ljubezen
12. varnost
13. prijateljstvo
14. ugled
15. prijaznost
16. lepota
17. ustvarjalnost
18. pogum
19. odgovornost
20. iskrenost
PRILOGA 5: Študije primerov za skupinsko delo
Primer 1: Sistemi umetne inteligence, ki ustvarjajo besedila
Pri enem od šolskih predmetov morate do določenega roka oddati esej na izbrano temo. Zelo se potrudite, esej podrobno napišete in ga pravočasno pripravite. Eno uro pred rokom želite esej poslati na profesorjev elektronski naslov, kot je bilo dogovorjeno. Opazite, da dokumenta z esejem ni več v vašem računalniku – gotovo ste ga pomotoma izbrisali, ste prepričani. Eno uro pred rokom zagotovo nimate časa, da bi napisali nov esej. Spomnite se, da vam je sošolec povedal, da obstajajo računalniški programi, ki temeljijo na umetni inteligenci in omogočajo pisanje eseja na izbrano temo. Znašli ste se v moralni dilemi: ali naj uporabite program, ki bo esej napisal namesto vas? Navsezadnje ste že opravili delo in se potrudili, esej pa morate oddati pravočasno, sicer ne morete dokončati predmeta. Skrbi vas, da ni moralno oddati delo, ki ni vaše. Ali naj uporabite programsko opremo ali ne?
Primer 2: Ponarejena identiteta
Ste starš 16-letnega učenca, ki so se mu pred kratkim poslabšale ocena v šoli. Zdi se vam, da je njeno preživljanje prostega časa morda povezano s tem poslabšanjem. Ker veste, da vaša zelo rad in pogosto objavlja na družbenih omrežjih, bi radi spremljali, kaj počne v prostem času, saj se vam zdi, da boste tako lahko opazili slabe vplive. Ker seveda ne želite, da bi vedel, da redno spremljate njene objave, razmišljate o ustvarjanju profila z lažnimi podatki (ime, spol, starost, naslov). Znašli ste se v moralni dilemi: ali ustvariti spletni račun z lažno identiteto? Nikomur ne škodujete neposredno in na koncu želite najboljše za svojega sina. Toda ob zavedanju, da aktivno prispevate k temu, da je povsem sprejemljiva lažna spletna identiteta, se sprašujete, ali je to primerno – zagotovo si ne bi želeli, da bi bili “lažni” tudi številni vaši prijatelji na družabnih omrežjih.
Primer 3: Problem sovražnega govora
Ste lastnik enega od večjih družabnih omrežij (npr. Facebook ali Twitter). Ne želite, da bi ljudje na vaši platformi povsem svobodno žalili drug drugega in uporabljali sovražni govor proti ranljivim skupinam ljudi. Zlasti seveda ne želite dovoliti nobenih groženj ali spodbujanja k moralno spornim dejanjem. Hkrati pa ne želite omejevati govora uporabnikov vaše platforme. Razlogov za to je več: želite zagotoviti svobodo govora (vsakdo lahko svobodno izrazi svoje mnenje), ne želite vsiljevati svojih vrednot z omejevanjem drugih in nenazadnje ne želite, da bi ljudje razočarani zapustili vašo platformo. Veste, da so na voljo algoritemski sistemi, ki bodo sami filtrirali in izbrisali sovražni govor na vaši platformi. Navsezadnje bi bilo nemogoče, da bi človek pravočasno pregledal vse objave vseh ljudi. Veste pa tudi, da so algoritmi včasih pristranski in delajo napake ter bodo verjetno izbrisali tudi dobronamerne objave ljudi, ki jih bodo napačno prepoznali kot grožnje, s čimer bodo dobronamernim ljudem preprečili svobodno komuniciranje. Se soočate z moralno dilemo: ali naj za nadzor sovražnega govora uporabljate avtomatizirane algoritemske sisteme?
Primer 4: Zasebnost podatkov
Ste lastnik spletne trgovine. Želite, da vam vse stranke vaše spletne trgovine pred uporabo vaših storitev posredujejo svoje osnovne podatke (ime, spol, starost, naslov) – tako boste lahko ponudbo, ki jo potencialna stranka vidi na vašem spletnem mestu, prilagodili njej. To je dobro za kupce, saj bodo tako lažje prejemali ponudbe, ki so zanje relevantne, in v večini primerov skrajšali čas iskanja. Dobro pa bo tudi za vas, saj ponudbe, prilagojene strankam, drastično povečajo možnosti, da bo stranka dejansko opravila nakup. Vendar se zavedate, da s tem posegate v zasebnost strank, ki morda želijo ostati anonimne. Prav tako jih lahko odvrnete od tega, da bi sploh opravili nakup. Soočeni ste z moralno dilemo: ali od strank, ki želijo opraviti nakup na vašem spletnem mestu, zahtevati osnovne osebne podatke?
Primer 5: Goljufanje za predmet (item)
Redno igrate večigralsko spletno videoigro s številnimi igralci z vsega sveta. Ob posebni priložnosti vam soigralec, ki ga ne poznate od prej, brezplačno ponudi zelo redek predmet v igri. Na forumu, ki je namenjen skupnosti igralcev igre, ki jo igrate, preverite, kdo je igralec, ki ponuja nov predmet. Vidite, da veliko ljudi opozarja, da ta igralec goljufa v igri. Skoraj prepričani ste lahko, da je igralec predmet, ki vam ga želi podariti, pridobil z goljufanjem. Postavljeni ste pred moralno dilemo: ali naj predmet vseeno sprejmete? Nikomur neposredno ne povzročate težav in niste bili vi tisti, ki je goljufal. Po drugi strani pa sprejmete darilo, ki ni bilo pridobljeno pošteno, in dejavno prispevate k temu, da je takšno ravnanje nekaznovano in da goljuf še naprej goljufa.
Primer 6: Pogumno izražanje mnenja
Na eni od platform družabnih omrežij, ki jih uporabljate (npr. Facebook ali Twitter), ste opazili, da je vaš prijatelj objavil objavo, ki ni resnična in je lahko za nekatere ljudi celo žaljiva. Ker prijatelja dobro poznate, veste, da objave zagotovo ne bo izbrisal, tudi če mu to predlagate v zasebnem pogovoru, saj iskreno verjame v svojo objavo in jo bo ostro branil. Ne želite, da bi vaš prijatelj širil napačne informacije in še posebej, da bi potencialno užalil določene skupine ljudi, čeprav to morda ni bil njegov namen. Svoje mnenje lahko napišete v komentarju k njegovi objavi, kar bi vam omogočilo, da opozorite na dejanske informacije o temi, ki so resnične, in morda ublažite užaljenost, ki bi jo lahko nekateri utrpeli, ter s svojim mnenjem sodelujete v odkriti razpravi na to temo. Seveda s tem izpodbijate prijateljevo verodostojnost in morda ogrožate vajino prijateljstvo. Postavljeni ste pred moralno dilemo: ali na družbenem omrežju jasno opozoriti na prijateljevo napako in izraziti svoje mnenje?
Primer 7: Avtonomno vozilo
Etične dileme, povezane z digitalnimi tehnologijami, pogosto segajo tudi v resnični svet in njihov vpliv daleč presega digitalno okolje samo. Tak primer so samovozeči avtomobili, ki so jih nedavno razvila številna podjetja, ki vlagajo veliko denarja v uporabo umetne inteligence na področju prometa. Avtomobil bo moral med vožnjo sam sprejemati določene odločitve na cesti – kdaj prehiteti vozilo pred seboj, kdaj voziti previdneje zaradi razmer na cesti itd. Samovozeči avtomobil pa bo moral sprejemati tudi odločitve o tem, kaj storiti v bolj zapletenih situacijah. Otrok skoči pred avtomobil na cesto za svojo žogo. Avtomobil je lahko digitalno programiran, da zavije s ceste, da bi rešil osebo na cestišču, kar ogrozi življenje potnika v avtomobilu. Lahko pa je programiran tako, da ne zavije s ceste, da bi zaščitil potnika v avtomobilu. Ste razvijalec sistema, ki bo pomagal pri sprejemanju odločitev v samovozečem avtomobilu. Znašli ste se v moralni dilemi: kako programirati avtomobil? Da zagotovite varnost potnika na morebiten račun osebe na cesti ali da poskrbite za osebo, ki je na cesti, in pri tem morda tvegate dobrobit potnika?