{"CACHEDAT":"2026-09-17 10:00:47","TRANSLATEDAT":"2026-09-17 10:00:47","SOURCESIGNATURE":"0ba3880a84e5df544e77b76b7fa9dfe42eedf861fe6f94b423ecc39d2a31eaca","SLUG":"misinformation-manipulation-XmPBOktPeg","MARKDOWN":"# Informacijska zmeda\n\nWardle in Derakhshan (2017) v temeljnem poročilu za Svet Evrope uvajata pojem *informacijska zmeda* kot krovni izraz za lažne, zavajajočih ali škodljivo širjenih informacij v javnem informacijskem okolju. Razlikujeta tri kategorije na dveh oseh: ali je vsebina *lažna* ali *resnična* in ali je širjena z *namero povzročiti škodo*.\n\n| Vrsta | Vsebina | Zavest o lažnosti pri tistem, ki informacijo širi | Namera povzročiti škodo |\n|------|---------|---------------------------------|----------------|\n| #### **Napačne informacije** | lažne ali zavajajoče | ne ve | ne |\n| **Dezinformacije** | lažne ali zavajajoče | ve | da |\n| **Zlonamerne informacije** | resnične | (ni merilo) | da |\n\nTe tri kategorije tvorijo medsebojno povezano ekosistem: ista vsebina se lahko premika med njimi, odvisno od tega, kdo jo deli in z kakšnim namenom.\n\n### Lažne novice\n\nIzraz *lažne novice* se v javni razpravi pogosto uporablja, vendar je analitično netočen. Običajno se nanaša na lažne ali zavajajoče informacije, predstavljene v slogu novinarskega poročanja. Ker pa se izraz lahko nanaša na različne vrste informacijskih motenj in se pogosto uporablja v politične namene za diskreditiranje nezaželenega poročanja, je bolje uporabljati natančnejše izraze, kot so *napačne informacije*, *dezinformacije*, *izmišljena vsebina*, *lažen kontekst* ali *manipulirana vsebina*.\n\n## Napačne informacije\n\nNapačne informacije so lažne ali zavajajoče informacije, ki jih širijo ljudje, ki se ne zavedajo, da so lažne. Oseba, ki jih širi, verjame, da je vsebina točna; ni namena zavajati ali škodovati.\n\nNapačne informacije običajno nastanejo v hitro spreminjajočih se novičarskih situacijah (zgodnja poročila s nepotrjenimi podrobnostmi), pri posredovanju trditev brez preverjanja točnosti ter pri ponavljanju informacij iz zaupanja vrednih virov, ki se izkažejo za napačne. Lahko je enako razširjena in pomembna kot dezinformacija, kljub odsotnosti zlonamernega namena — tisti, ki jo širijo, so pogosto iskreno motivirani in uživajo zaupanje v svojih omrežjih, kar vsebini zagotavlja doseg in zaznano verodostojnost (Lewandowsky et al., 2017).\n\n### Dejavniki dovzetnosti za napačne informacije {{dejavnik dovzetnosti za napačne informacije}}\n\n\n:::uspeh\n**1. Kognitivni dejavniki** – kako se obdelujejo informacije\n\n* **Potrditvena pristranskost**: Ljudje posvečajo več pozornosti informacijam, ki podpirajo tisto, v kar že verjamejo, nasprotne informacije pa podrobneje preučujejo. — Nickerson (1998)\n* **Učinek lažne resnice**: Trditve se lahko zdijo bolj verodostojne zgolj zato, ker so jih ljudje že videli, tudi če so napačne. — Unkelbach et al. (2019)\n* **Tekočnost obdelave**: Informacije, ki so lahke za branje, imajo znano besedilo ali so vizualno jasne, se zdijo bolj zanesljive kot informacije, ki jih je težje obdelati. — Reber & Schwarz (1999)\n* **Slaba kognitivna refleksija**: Ljudje, ki se zanašajo na hitre, intuitivne sodbe, namesto da bi se ustavili in preverili, so bolj nagnjeni k temu, da se pustijo zavesti z lažnimi trditvami. — Pennycook & Rand (2019)\n* **Sprejemljivost za neumnosti**: Nekateri ljudje so nagnjeni k temu, da nejasne, a impresivno zveneče izjave dojemajo kot pomembne, četudi so vsebinsko prazne. — Pennycook in sod. (2015)\n* **Slaba matematična / znanstvena pismenost**: Ljudje imajo lahko težave pri ocenjevanju statistik, grafikonov, izjav o tveganju ali znanstvenih dokazov; izobrazba sama po sebi ni avtomatična zaščita. — Kahan et al. (2017)\n\n**2. Afektivni / motivacijski dejavniki** — kako čustva in identiteta oblikujejo sodbo\n\n* **Čustveno razmišljanje / zanašanje na čustva**: Ljudje sprejemajo trditve, ker se jim zdijo pravilne, zastrašujoče, zadovoljujoče ali moralno nujne, ne pa zato, ker so bile preverjene. — Martel, Pennycook & Rand (2020)\n* **Posebna čustva** (jeza, strah, moralno ogorčenje): Močna čustva lahko ljudi spodbudijo, da se hitro odzovejo in delijo vsebino, preden jo preverijo; moralno-čustveni jezik je še posebej močan pri širjenju političnih vsebin. (Prepričanje in deljenje sta ločena učinka z različnimi dokazi.) — Brady et al. (2017); Martel et al. (2020)\n* **Kognicija za zaščito identitete**: Ljudje obdelujejo informacije na načine, ki ščitijo njihovo politično, versko ali skupinsko identiteto, in se upirajo dokazom, ki bi jo ogrožali. (Tesno povezano s *politično identiteto* v kategoriji 5.) — Kahan (2013, 2017)\n* **Konspirativno mišljenje**: Splošna nagnjenost k sumu na skrite zarote ali vplivne akterje za dogodki naredi dezinformacije v slogu zarot bolj verjetne. — Douglas, Sutton & Cichocka (2017)\n\n**3. Družbeni dejavniki** — komu in katerim skupinam ljudje zaupajo\n\n* **Verodostojnost vira / zaupanje v pošiljatelja**: Kako verjetna se zdi trditev, je odvisno od tega, kdo jo izreka – prijatelj, vplivnež, strokovnjak, politik, medij ali anonimni račun. — Traberg & van der Linden (2022)\n* **Družbeni dokaz / znaki priljubljenosti**: Všečki, delitve, ogledi in komentarji lahko delujejo kot kazalniki verodostojnosti, čeprav je učinek odvisen od konteksta. — Avram et al. (2020)\n* **Usklajenost znotraj skupine / strankarska usklajenost**: Informacije od »ljudi, kot smo mi«, ali tiste, ki so usklajene s stališčem skupine, se lažje sprejmejo. (Tesno povezano s *politično identiteto* v kategoriji 5.) — Sultan et al. (2024)\n* **Homofilija omrežij / odmevne komore**: Ko se ljudje z informacijami srečujejo predvsem prek omrežij podobnih posameznikov, se zdi, da so določena stališča širše razširjena, kot so v resnici. (Glej tudi D1G5.) — Cinelli et al. (2021)\n\n**4. Kontekstualni / situacijski dejavniki** — pogoji, v katerih se ljudje srečujejo z informacijami\n\n* **Časovni pritisk**: Ko morajo ljudje informacije hitro oceniti, manj natančno razlikujejo med resničnimi in lažnimi trditvami. — Sultan et al. (2022)\n* **Preobremenjenost z informacijami**: Ko naenkrat pride preveč informacij, se ljudje zatečejo k bližnjicam, kot so naslovi, čustva, oznake virov ali priljubljenost. — Laato in sod. (2020)\n* **Motnje pozornosti / kognitivna obremenitev**: Ko je pozornost usmerjena drugam, ljudje lahko delijo informacije, ne da bi preverili njihovo točnost, čeprav bi sicer lahko prepoznali napačne informacije. — Pennycook et al. (2020)\n* **Krizni / negotovi konteksti** (pandemije, vojna, nesreče): Nujna potreba po razlagi poveča dovzetnost za lažne ali prenagljene trditve. — Roozenbeek et al. (2020)\n* **Oblika platforme**: Novičarske vrstice, obvestila, sistemi priporočil, samodejno predvajanje in hitro pomikanje spodbujajo reaktivno namesto reflektivno vedenje. (Glej tudi D1G1.) — Lorenz-Spreen et al. (2020)\n\n**5. Ozadje in dispozicijski dejavniki** — kdo je v določenih okoliščinah bolj ali manj ranljiv\n\n* **Starost**: Starejši odrasli v študijah včasih bolje razlikujejo med resničnimi in lažnimi naslovi, vendar na spletu pogosteje širijo dezinformacije. — Guess, Nagler & Tucker (2019)\n* **Izobrazba**: Ni samodejni ščit; metaanalize ne kažejo enostavnega vpliva na prepoznavanje napačnih informacij. — Sultan et al. (2024)\n* **Politična identiteta in prejšnja prepričanja**: Vplivajo na to, katere informacije se zdijo verjetne, ogrožujoče, zanesljive ali vredne deljenja. (Deluje prek kognicije za zaščito identitete v kategoriji 2 in signalov znotraj skupine v kategoriji 3 — ni zgolj demografska spremenljivka.) — Sultan et al. (2024)\n* **Navade medijske pismenosti**: Ljudje, ki primerjajo vire, berejo več kot le naslove in prepoznavajo tehnike manipulacije, se manj zanašajo na čustvene ali družbene bližnjice. *(Opomba: to je učni cilj samega programa SciLMi — tukaj naveden kot dokumentirana zaščitna nagnjenost, ne kot predpogoj.)* — Guess et al. (2020)\n\n:::\n\n\n:::info\n* Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Izpostavljenost kazalnikom družbene vključenosti povečuje ranljivost za dezinformacije. *Harvard Kennedy School (HKS) Misinformation Review*, *1*(5). \n* Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Čustva vplivajo na širjenje moralizirane vsebine v družbenih omrežjih. *Proceedings of the National Academy of Sciences*, *114*(28), 7313–7318. \n* Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Učinek »odmevne komore« v družbenih medijih. *Zbornik Nacionalne akademije znanosti*, *118*(9), e2023301118. \n* Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Psihologija teorij zarote. *Current Directions in Psychological Science*, *26*(6), 538–542. \n* Guess, A., Nagler, J., & Tucker, J. (2019). Manj, kot mislite: razširjenost in napovedniki širjenja lažnih novic na Facebooku. *Science Advances*, *5*(1), eaau4586. \n* Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Ali medijska pismenost pomaga pri prepoznavanju lažnih novic? Informacijska pismenost pomaga, druge vrste pismenosti pa ne. *American Behavioral Scientist*, *65*(2), 371–388. \n* Kahan, D. M. (2013). Ideologija, motivirano sklepanje in kognitivna refleksija. *Judgment and Decision Making*, *8*(4), 407–424.\n* Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivirana matematična pismenost in razsvetljeno samoupravljanje. *Behavioural Public Policy*, *1*(1), 54–86. \n* Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Kaj spodbuja širjenje nepreverjenih informacij in kiberhondrijo med pandemijo COVID-19? *European Journal of Information Systems*, *29*(3), 288–305. \n* Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kako lahko vedenjske znanosti spodbujajo resnico, avtonomijo in demokratični diskurz na spletu. *Nature Human Behaviour*, *4*(11), 1102–1109. \n* Martel, C., Pennycook, G., & Rand, D. G. (2020). Zanašanje na čustva spodbuja verovanje v lažne novice. *Cognitive Research: Principles and Implications*, *5*(1), 47. \n* Nickerson, R. S. (1998). Potrditvena pristranskost: vsestranski pojav v številnih oblikah. *Review of General Psychology*, *2*(2), 175–220. \n* Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). O sprejemanju in prepoznavanju navidezno globokih neumnosti. *Judgment and Decision Making*, *10*(6), 549–563.\n* Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Boj proti dezinformacijam o COVID-19 na družbenih omrežjih: eksperimentalni dokazi za prilagodljiv poseg za spodbujanje natančnosti. *Psychological Science*, *31*(7), 770–780. \n* Pennycook, G., & Rand, D. G. (2019). Leni, ne pristranski: Nagnjenost k verjetju v strankarske lažne novice je lažje pojasniti s pomanjkanjem razmišljanja kot z motiviranim razmišljanjem. *Cognition*, *188*, 39–50. \n* Reber, R., & Schwarz, N. (1999). Vpliv zaznavne tekočnosti na presojanje resničnosti. *Consciousness and Cognition*, *8*(3), 338–342. \n* Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Občutljivost na dezinformacije o COVID-19 po svetu. *Royal Society Open Science*, *7*(10), 201199. \n* Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Časovni pritisk zmanjšuje sposobnost razlikovanja med dezinformacijami, vendar ne spreminja pristranskosti odziva. *Scientific Reports*, *12*(1), 22416. \n* Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Občutljivost za dezinformacije na spletu: sistematična metaanaliza demografskih in psiholoških dejavnikov. *Proceedings of the National Academy of Sciences*, *121*(47), e2409329121. \n* Traberg, C. S., & van der Linden, S. (2022). Enaki se med seboj prepričujejo: zaznana verodostojnost vira posreduje vpliv politične pristranskosti na dovzetnost za dezinformacije. *Personality and Individual Differences*, *185*, 111269. \n* Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Resnica s ponavljanjem: pojasnila in posledice. *Current Directions in Psychological Science*, *28*(3), 247–253. \n\n:::\n\n### ☑ Logične zmote {{logična zmota}}\n\n\n:::uspeh\n- [ ] Preverite, ali gre za prenagla posploševanja – sklepanje na podlagi premalo dokazov.\n- [ ] Preverite, ali gre za lažne dileme – omejevanje možnosti na dve, čeprav jih obstaja več.\n- [ ] Preverite, ali gre za argument »slamnati človek« – napačno predstavljanje stališča, da bi ga lažje ovrgli.\n- [ ] Preverite, ali gre za sklicevanje na nevednost – trditev, da je nekaj res, ker ni dokazov za nasprotno.\n- [ ] Preverite, ali gre za sklicevanje na avtoriteto – domneva, da je nekaj res, zgolj na podlagi avtoritete.\n- [ ] Preverite, ali gre za »rdeče sledove« – odvračanje pozornosti od glavnega vprašanja.\n- [ ] Preverite, ali gre za napačne vzroke – zamenjavo korelacije z vzročnostjo.\n- [ ] Preverite, ali gre za »ad hominem« – napad na osebo, ne na argument. \n- [ ] Preverite, ali gre za »ad populum« – utemeljevanje resnice s priljubljenostjo.\n- [ ] Preverite, ali gre za argument »spolzkega pobočja« – trditev, da en korak vodi v skrajnosti.\n- [ ] Preverite, ali gre za krožno sklepanje – uporaba zaključka kot premise.\n\n:::\n\n\n:::nasvet\n* \n* \n* \n\n:::\n\n## Dezinformacija\n\nDezinformacija so lažne ali zavajajoče informacije, ki jih namerno širijo ljudje, ki vedo, da so lažne, z namenom škodovanja, zavajanja ali manipulacije. Zavedanje tistega, ki informacije širi, da so lažne, in škodljivi namen sta bistveni značilnosti dezinformacije.\n\nMed pogoste oblike spadajo operacije političnega vplivanja, komercialna prevara, propaganda, izmišljene vsebine in manipulirani mediji. Dezinformacije pogosto ustvarjajo organizirani akterji, njihovo širjenje pa se okrepi prek *usklajenega neavtentičnega/umetnega razširjanja* (zgoraj).\n\n## Zlonamerna informacija\n\nZlonamerna informacija je *resnična* informacija, ki se širi z namenom povzročanja škode. Vsebina sama po sebi je točna, vendar je njeno objavljanje, okvirjanje ali časovno usklajevanje načrtovano tako, da škodi posamezniku, skupini ali instituciji. Klasični vzorec je namerno prenesenje zasebnih, občutljivih ali kontekstno vezanih informacij v javni ali škodljivi kontekst.\n\nPrimeri vključujejo objavo izpuščenih zasebnih sporočil z namenom diskreditiranja ciljne osebe, objavo točnih, a stigmatizirajočih osebnih podatkov (npr. maščevalna pornografija) ter strateško razkritje dejansko pravilnih, a v kontekstu škodljivih informacij v trenutkih, izbranih za doseganje največjega učinka.\n\nDezinformacija je najmanj obravnavana od treh kategorij, ker vsebina ni lažna, kar jo postavlja zunaj okvirov preverjanja dejstev. Vendar pa predstavlja pomemben del ekologije informacijskega nereda (Wardle & Derakhshan, 2017).\n\n\n:::opozorilo\n**Meje so prepustne.**\n\nTe tri kategorije se v praksi pogosto prekrivajo ali spreminjajo:\n\n* *Dezinformacija*, ki jo najprej delijo ljudje, ki vanjo resnično verjamejo, se s širjenjem spremeni v *napačno informacijo*. Ista vsebina lahko sodi v različne kategorije, odvisno od tega, kdo jo deli.\n* Vsebina je lahko delno resnična in delno lažna. Wardle (2017) navaja sedem oblik v okviru informacijske zmede – vključno z *zavajajočo vsebino*, *napačnega konteksta* in *manipulirane vsebine* – ni vsaka napačna vsebina v celoti izmišljena.\n* Od zunaj je težko empirično ugotoviti namero. Brez dostopa do znanja in motivacije tistega, ki vsebino deli, meje med napačnimi informacijami in dezinformacijami pogosto ni mogoče dokončno določiti.\n\nZato okvir od udeležencev zahteva, da *pojasnijo, zakaj je v praksi pogosto težko določiti mejo med napačnimi informacijami in dezinformacijami*.\n\n:::\n\n\n:::info\n* Wardle, C., & Derakhshan, H. (2017). *Informacijska zmeda: K interdisciplinarnemu okviru za raziskave in oblikovanje politik*. Poročilo Sveta Evrope DGI(2017)09. \n* Wardle, C. (2017). Lažne novice. To je zapleteno. *First Draft News*. \n* Lewandowsky, S., Ecker, U. K. H., & Cook, J. (2017). Onkraj dezinformacij: razumevanje in spopadanje z »post-resnično« dobo. *Journal of Applied Research in Memory and Cognition*, 6(4), 353–369. \n* Vraga, E. K., & Bode, L. (2020). Opredelitev dezinformacij in razumevanje njihove omejene narave. *Political Communication*, 37(1), 136–144. \n\n:::\n\n# Halucinacije / konfabulacija umetne inteligence\n\nSistematična težnja generativnih sistemov umetne inteligence k ustvarjanju verjetno zvenečih vsebin, ki so dejansko napačne, izmišljene ali nepreverljive — vključno z izmišljenimi sklici, neobstoječimi študijami, napačno pripisanimi citati, izmišljenimi statističnimi podatki ter lažnimi biografskimi, zgodovinskimi ali znanstvenih podrobnosti.\n\nHalucinacije nastanejo, ker generativni sistemi umetne inteligence ustvarjajo izhodne podatke s predvidevanjem verjetnih nadaljevanj na podlagi vzorcev, ki so se jih naučili med usposabljanjem, ne pa s pridobivanjem preverjenih informacij iz vira znanja. Sistem se optimizira za tekočnost in verjetnost, ne pa za točnost. Izmišljena vsebina se običajno predstavlja z enako samozavestjo kot točna vsebina – ni notranjega signala, ki bi zanesljivo razlikoval med njima.\n\nIzraz **konfabulacija** se v raziskovalnih kontekstih včasih raje uporablja namesto **halucinacija**, saj konfabulacija v psihologiji označuje ustvarjanje lažnih, a iskreno verjetnih zgodb brez namena zavajanja – kar je bližje temu, kar dejansko počnejo generativni sistemi. *Halucinacija* ostaja prevladujoči izraz v javnem in strokovnem diskurzu, zato ga ohranjamo tudi tukaj.\n\n**Halucinacije niso občasne napake.** So strukturna značilnost osnovnega generativnega procesa, ne pa napake, ki jih je mogoče zanesljivo odpraviti z boljšim navajanjem (Kalai & Vempala, 2024). Pojavljajo se v vseh generativnih sistemih – vključno z ☑ RAG AI, kjer lahko izmišljanje vpliva tudi na to, kako se pridobljeni viri povzemajo, citirajo ali pripisujejo.\n\n**Didaktično umestitev:** Halucinacije je mogoče konceptualno umestiti kot četrto kategorijo poleg *napačnih informacij, dezinformacij* in *zlonamernih informacij*. Za razliko od obeh jih ne ustvarja človeški vir z namenom ali napako v mislih, temveč izhajajo iz samega procesa generiranja – gre za lažne vsebine, ki jih ustvari sistem brez namernega vira. To trojno razlikovanje je tukaj predstavljeno kot pedagoško koristen okvir in ne kot uveljavljena terminologija, o kateri obstaja soglasje.\n\n**Pogoste vrste:**\n\n* izmišljeni sklici – navajanje člankov, knjig ali študij, ki ne obstajajo\n* napačno pripisani ali izmišljeni citati\n* izmišljene statistike ali številčne trditve\n* netočni biografski, zgodovinski ali znanstveni podatki, predstavljeni z gotovostjo\n* z gotovostjo podani napačni povzetki resničnih virov\n\n\n:::nasvet\nVsako dejansko trditev generativnega sistema umetne inteligence obravnavajte kot nepreverjeno, dokler je ne preverite v neodvisnem viru. Sklici in citati so še posebej enostavni za preverjanje – poiščite, ali citirani vir obstaja in ali vsebuje tisto, kar je trdila umetna inteligenca.\n\n:::\n\n\n:::info\n* Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). O nevarnostih stohastičnih papagajev: Ali so jezikovni modeli lahko preveliki? *Zbornik prispevkov konference ACM 2021 o pravičnosti, odgovornosti in preglednosti (FAccT '21)*, 610–623. \n* Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Pregled halucinacij pri generiranju naravnega jezika. *ACM Computing Surveys, 55*(12), članek 248. \n* Kalai, A. T., & Vempala, S. S. (2024). Kalibrirani jezikovni modeli morajo halucinirati. *Zbornik 56. letnega simpozija ACM o teoriji računalništva (STOC 2024)*, 160–171. \n* Smith, A. L., Greaves, F., & Panch, T. (2023). Halucinacija ali konfabulacija? Nevroanatomija kot metafora v velikih jezikovnih modelih. *PLOS Digital Health, 2*(11), e0000388. \n\n:::\n\n# Napačna predstavitev vsebine {{napačne predstavitve vsebine}}\n\n| Oblika | Manipulirano | Izmišljeno |\n|--------|-------------|------------|\n| Besedilo | pristni citat brez konteksta, prirejen naslov | izmišljeni citat, izmišljen članek, besedilo, ki ga je ustvarila umetna inteligenca |\n| Slika | retuširana fotografija, izrezan izvirnik | slika, ustvarjena z umetno inteligenco, naslikana lažna »fotografija« |\n| Avdio | urejen ali pospešen izvirni posnetek | klon glasu, govor, ustvarjen z umetno inteligenco |\n| Video | poceni ponaredek, ponovno montirani odlomki | popolnoma sintetični deepfake video |\n| Dokument | ponarejen glavični papir na spremenjeni predlogi | izmišljeno »uradno« pismo |\n\n## Izmišljena vsebina\n\n**Izmišljena vsebina** so informacije – besedilo, slika, avdio, video, dokument ali druga oblika –, ki so bile v celoti izmišljene, brez kakršnega koli pristnega izvornega gradiva. Lahko je ustvarjena ročno (izmišljeni citati, izmišljeni novinarski članki) ali sintetično generirana s sistemi umetne inteligence (sintetični videi, kloni glasov, slike, ustvarjene z umetno inteligenco, besedila, napisana z umetno inteligenco).\n\n## Manipulirana vsebina\n\n**Manipulirana vsebina** so pristne informacije – besedilo, slika, avdio, video, dokument ali druga oblika –, ki so bile spremenjene z namenom zavajanja. Izhodiščni material je resničen, vendar je bil spremenjen z urejanjem, selektivnim izrezovanjem, prilagajanje hitrosti, prekontekstualizacijo, spremembe kadriranja, zamenjavo glasu ali druge preoblikovanja, ki spremenijo njen pomen ali navidezni kontekst.\n\n### Poceni ponaredki {{poceni ponaredki}}\n\n**Poceni ponaredek** je medij, ki je bil spremenjen z uporabo konvencionalnih, splošno dostopnih orodij – programske opreme za urejanje slik, programske opreme za urejanje videov ali osnovne spremembe konteksta – namesto z generativnimi metodami, ki temeljijo na umetni inteligenci. Izraz sta skovala Paris in Donovan (2019), da bi opozorila na dejstvo, da najbolj vplivne oblike manipuliranih medijev v javnem diskurzu običajno niso sofisticirani »deepfakes«, ustvarjeni z umetno inteligenco, temveč preproste, poceni tehnike, ki jih lahko uporabi kdorkoli.\n\nMed pogoste tehnike poceni ponaredkov spadajo:\n\n* manipulacija hitrosti (npr. upočasnjeni videoposnetek Pelosi iz leta 2019)\n* ponovno rezanje in selektivno urejanje avdio ali videoposnetkov\n* rekontekstualizacija (pravi mediji, predstavljeni z lažnim napisom ali okvirjem)\n* retuširanje, obrezovanje ali sestavljanje fotografij\n* zamenjani napisi in ponarejeni posnetki zaslona\n* spajanje avdio posnetkov\n\nAli poceni ponaredek predstavlja *napačno informacijo*, *dezinformacijo* ali *zlonamerno informacijo*, je odvisno od znanja in namena akterja (→ *informacijska zmeda*), ne pa od same tehnike. Isti urejeni videoposnetek lahko služi satiri, fikciji, izobraževanju ali zavajanju.\n\nV primerjavi z *deepfaki* poceni ponaredki zahtevajo manj tehničnega znanja, vendar jih ni nujno lažje odkriti – dobro izvedena rekontekstualizacija ali selektivno urejanje sta lahko izredno težko prepoznavna brez dostopa do izvirnega izhodiščnega gradiva.\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Raziskovalni inštitut Data & Society. \n\n:::\n\n\n:::nasvet\nOrodja za preverjanje »poceni ponaredkov«: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n### Deep Fake {{deep fakes}}\n\n**Deep fake** je sintetični medij, ki ga ustvari umetna inteligenca — zlasti z uporabo tehnik globokega učenja, kot so generativna nasprotujoča omrežja (GAN), difuzijskih modelov ali generatorjev na osnovi transformatorjev. Izraz je sestavljenka iz *globokega učenja* in *ponaredka* (angl. *fake*) in izvira iz leta 2017 iz spletnih skupnosti, ki so ustvarjale z umetno inteligenco generirane videoposnetke z zamenjavo obrazov. Od takrat se je tehnologija razširila na različne vrste medijev in je zdaj široko dostopna prek orodij za potrošnike.\n\nPogoste oblike vključujejo:\n\n* **Zamenjave obrazov**: zamenjava obraza ene osebe z obrazom druge v videoposnetku\n* **Kloniranje glasu**: sinteza glasu govorca iz majhnega zvočnega vzorca\n* **Popolnoma sintetični videoposnetek**: z umetno inteligenco ustvarjen posnetek, ki prikazuje ljudi, dogodke ali prizore, ki se nikoli niso zgodili\n* **Sintetična fotografija**: z umetno inteligenco ustvarjene fotografije izmišljenih ljudi ali dogodkov\n* **Preoblikovanje besedila v video in zvok**: ustvarjanje medijev na podlagi pisnih navodil\n\nAli »deep fake« predstavlja *napačno informacijo*, *dezinformacijo* ali *zlonamerno informacijo*, je odvisno od znanja in namena akterja (→ *informacijska zmeda*), ne pa od same tehnike. Metode »deep fake« se legitimno uporabljajo tudi v filmski produkciji, orodjih za dostopnost (sintetični glasovi za ljudi, ki so izgubili svoj glas), sinhronizaciji, satiri, izobraževanju in umetnosti.\n\nV primerjavi z *poceni ponaredki* deep fakes zahtevajo več tehničnih zmogljivosti za prepričljivo izdelavo in lahko dosežejo višjo stopnjo vizualnega ali zvočnega realizma. Vendar pa niso prevladujoča oblika medijske manipulacije v javnem diskurzu — Paris in Donovan (2019) ugotavljata, da preprostejše tehnike poceni ponaredkov ostajajo pogostejše in pogosto imajo večje posledice. Odkrivanje je aktivno raziskovalno področje; sedanji pristopi združujejo analizo artefaktov, preverjanje bioloških neskladij in preverjanje izvora (npr. C2PA content credentials).\n\n\n:::info\n* Paris, B., & Donovan, J. (2019). *Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence*. Raziskovalni inštitut Data & Society. \n* Chesney, R., & Citron, D. K. (2019). Deepfakes: grozeči izziv za zasebnost, demokracijo in nacionalno varnost. *California Law Review*, 107(6), 1753–1820.\n* Vaccari, C., & Chadwick, A. (2020). Deepfakes in dezinformacije: raziskovanje vpliva sintetičnih političnih videoposnetkov na zavajanje, negotovost in zaupanje v novice. *Social Media + Society*, 6(1), 1–13. \n\n:::\n\n\n:::nasvet\nOrodja za preverjanje deepfakeov: \n\n* \n* \n* \n* \n* \n* \n* \n* \n* \n\n:::\n\n\n##","RENDERMODE":"markdown","HTML":"

Informacijska zmeda

\n

Wardle in Derakhshan (2017) v temeljnem poročilu za Svet Evrope uvajata pojem »informacijska zmeda« kot splošni izraz za lažne, zavajajoče ali škodljivo širjene informacije v javnem informacijskem prostoru. Razlikujeta tri kategorije na dveh oseh: glede na to, ali je vsebina lažna ali resnična, in glede na to, ali je širjena z namenom povzročanja škode.

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
VrstaVsebinaZavest delilca o lažnostiNamen povzročiti škodo

Napačne informacije

napačna ali zavajajočane vene
Dezinformacijalažne ali zavajajočeveda
Napačne informacijeresnično(ni merilo)da
\n

Te tri kategorije tvorijo medsebojno povezano ekosistem: ista vsebina se lahko premika med njimi, odvisno od tega, kdo jo deli in z kakšnim namenom.

\n

Lažne novice

\n

Izraz »lažne novice« se v javni razpravi pogosto uporablja, vendar je analitično nenatančen. Običajno se nanaša na lažne ali zavajajoče informacije, predstavljene v slogu poročanja o novicah. Ker pa se izraz lahko nanaša na različne vrste informacijskega nereda in se pogosto uporablja v politične namene za diskreditiranje nezaželenega poročanja, je bolje uporabljati natančnejše izraze, kot so napačne informacije, dezinformacije, izmišljene vsebine, napačni kontekst ali manipulirane vsebine.

\n

Napačne informacije

\n

Napačne informacije so lažne ali zavajajoče informacije, ki jih delijo ljudje, ki se ne zavedajo, da so lažne. Oseba, ki jih deli, verjame, da je vsebina točna; ni namena zavajati ali škodovati.

\n

Napačne informacije običajno nastanejo v hitro spreminjajočih se novinarskih situacijah (zgodnja poročila z nepotrjenimi podrobnostmi), pri posredovanju trditev brez preverjanja točnosti ter pri ponavljanju informacij iz zanesljivih virov, ki se izkažejo za napačne. Lahko je enako razširjena in ima enake posledice kot dezinformacija, kljub odsotnosti zlonamernega namena – tisti, ki jih delijo, so pogosto iskreno motivirani in uživajo zaupanje v svojih omrežjih, kar vsebini zagotavlja doseg in navidezno verodostojnost (Lewandowsky et al., 2017).

\n

Dejavniki dovzetnosti za napačne informacije

\n
\n
\n\n

1. Kognitivni dejavniki – kako se obdelujejo informacije

\n
    \n
  • Potrditvena pristranskost: Ljudje posvečajo več pozornosti informacijam, ki podpirajo tisto, v kar že verjamejo, nasprotne informacije pa preučujejo strožje. — Nickerson (1998)\n
    • \n
  • Učinek iluzorne resnice: trditve se lahko zdijo bolj verodostojne zgolj zato, ker so jih ljudje že videli, četudi so napačne. — Unkelbach et al. (2019)\n
    • \n
  • Tekočnost obdelave: Informacije, ki so enostavne za branje, imajo znano besedilo ali so vizualno jasne, se zdijo bolj verodostojne kot informacije, ki jih je težje obdelati. — Reber & Schwarz (1999)\n
    • \n
  • Slaba kognitivna refleksija: Ljudje, ki se zanašajo na hitre, intuitivne sodbe, namesto da bi se ustavili in preverili, so bolj nagnjeni k temu, da se pustijo zavesti z lažnimi trditvami. — Pennycook & Rand (2019)\n
    • \n
  • Sprejemljivost za nesmisel: Nekateri ljudje so nagnjeni k temu, da nejasne, a impresivno zveneče izjave dojemajo kot pomembne, tudi če so prazne. — Pennycook et al. (2015)\n
    • \n
  • Slaba matematična pismenost / znanstvena pismenost: Ljudje imajo lahko težave pri ocenjevanju statistik, grafikonov, izjav o tveganju ali znanstvenih dokazov; izobrazba sama po sebi ni avtomatična zaščita. — Kahan et al. (2017)\n

    2. Afektivni / motivacijski dejavniki — kako čustva in identiteta oblikujejo presojanje

    \n
    • \n
  • Čustveno razmišljanje / zanašanje na čustva: Ljudje sprejemajo trditve, ker se jim zdijo pravilne, zastrašujoče, zadovoljujoče ali moralno nujne, ne pa zato, ker so bile preverjene. — Martel, Pennycook & Rand (2020)\n
    • \n
  • Posebna čustva (jeza, strah, moralno ogorčenje): Močna čustva lahko pripeljejo do tega, da ljudje hitro reagirajo in delijo vsebino, preden jo preverijo; moralno-čustveni jezik je še posebej močan pri širjenju političnih vsebin. (Prepričanje in deljenje sta ločena učinka z različnimi dokazi.) — Brady et al. (2017); Martel et al. (2020)\n
    • \n
  • Kognicija za zaščito identitete: Ljudje obdelujejo informacije na načine, ki ščitijo njihovo politično, versko ali skupinsko identiteto, in se upirajo dokazom, ki bi jo ogrožali. (Tesno povezano s politično identiteto v kategoriji 5.) — Kahan (2013, 2017)\n
    • \n
  • Konspirativno mišljenje: Splošna nagnjenost k sumu, da za dogodki stojijo skriti načrti ali vplivni akterji, naredi dezinformacije v slogu zarot bolj verjetne. — Douglas, Sutton & Cichocka (2017)\n

    3. Družbeni dejavniki — komu in katerim skupinam ljudje zaupajo

    \n
    • \n
  • Verodostojnost vira / zaupanje v pošiljatelja: Kako verjetna se zdi trditev, je odvisno od tega, kdo jo izreka – prijatelj, vplivnež, strokovnjak, politik, medij ali anonimni račun. — Traberg & van der Linden (2022)\n
    • \n
  • Družbeni dokaz / znaki priljubljenosti: Všečki, delitve, ogledi in komentarji lahko delujejo kot znaki verodostojnosti, čeprav je učinek odvisen od konteksta. — Avram et al. (2020)\n
    • \n
  • Usklajenost znotraj skupine / strankarska usklajenost: Informacije od »ljudi, kot smo mi«, ali tiste, ki so v skladu s stališčem skupine, se lažje sprejmejo. (Tesno povezano s politično identiteto v kategoriji 5.) — Sultan et al. (2024)\n
    • \n
  • Homofilnost omrežij / odmevne komore: Ko ljudje informacije večinoma dobivajo prek omrežij podobnih drugih, se zdi, da so določena stališča širše razširjena, kot so v resnici. (Glej tudi D1G5.) — Cinelli et al. (2021)\n

    4. Kontekstualni / situacijski dejavniki — pogoji, v katerih se ljudje srečujejo z informacijami

    \n
    • \n
  • Časovni pritisk: Ko morajo ljudje informacije hitro oceniti, manj natančno razlikujejo med resničnimi in lažnimi trditvami. — Sultan et al. (2022)\n
    • \n
  • Preobremenjenost z informacijami: Ko naenkrat prispe preveč informacij, se ljudje zatečejo k bližnjicam, kot so naslovi, čustva, oznake virov ali priljubljenost. — Laato et al. (2020)\n
    • \n
  • Motnje / kognitivna obremenitev: Ko je pozornost usmerjena drugam, lahko ljudje delijo informacije, ne da bi preverili njihovo točnost, čeprav bi sicer lahko prepoznali napačne informacije. — Pennycook in sod. (2020)\n
    • \n
  • Krizne / negotove razmere (pandemije, vojna, nesreče): Nujna potreba po pojasnilu poveča dovzetnost za lažne ali prenagljene trditve. — Roozenbeek et al. (2020)\n
    • \n
  • Oblika platforme: Novičarske vrstice, obvestila, sistemi priporočil, samodejno predvajanje in hitro pomikanje spodbujajo reaktivno namesto reflektivno vedenje. (Glej tudi D1G1.) — Lorenz-Spreen et al. (2020)\n

    5. Ozadje in dispozicijski dejavniki — kdo je v določenih okoliščinah bolj ali manj ranljiv

    \n
    • \n
  • Starost: Starejši odrasli v študijah včasih bolje razlikujejo med resničnimi in lažnimi naslovi, vendar na spletu pogosteje širijo napačne informacije. — Guess, Nagler & Tucker (2019)\n
    • \n
  • Izobrazba: Ni samodejni ščit; metaanalize ne kažejo nobenega enostavnega učinka na prepoznavanje dezinformacij. — Sultan et al. (2024)\n
    • \n
  • Politična identiteta in predhodna prepričanja: Vplivajo na to, katere informacije se zdijo verjetne, ogrožujoče, zanesljive ali vredne deljenja. (Deluje prek kognicije za zaščito identitete v kategoriji 2 in signalov pripadnosti skupini v kategoriji 3 — ni zgolj demografska spremenljivka.) — Sultan in sod. (2024)\n
    • \n
  • Navade medijske pismenosti: Ljudje, ki primerjajo vire, berejo več kot le naslove in prepoznavajo tehnike manipulacije, se manj zanašajo na čustvene ali socialne bližnjice. (Opomba: to je učni cilj samega programa SciLMi — tukaj naveden kot dokumentirana zaščitna nagnjenost, ne kot predpogoj.) — Guess et al. (2020)\n
    • \n
\n
\n
\n
\n
\n\n
    \n
  • Avram, M., Micallef, N., Patil, S., & Menczer, F. (2020). Izpostavljenost kazalnikom družbene angažiranosti poveča ranljivost za dezinformacije. Harvard Kennedy School (HKS) Misinformation Review, 1(5). https://doi.org/10.37016/mr-2020-033\n
    • \n
  • Brady, W. J., Wills, J. A., Jost, J. T., Tucker, J. A., & Van Bavel, J. J. (2017). Čustva vplivajo na širjenje moralizirane vsebine v družbenih omrežjih. Zbornik Nacionalne akademije znanosti, 114(28), 7313–7318. https://doi.org/10.1073/pnas.1618923114\n
    • \n
  • Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). Učinek »odmevne dvorane« v družbenih medijih. Zbornik Nacionalne akademije znanosti, 118(9), e2023301118. https://doi.org/10.1073/pnas.2023301118\n
    • \n
  • Douglas, K. M., Sutton, R. M., & Cichocka, A. (2017). Psihologija teorij zarote. Current Directions in Psychological Science, 26(6), 538–542. https://doi.org/10.1177/0963721417718261\n
    • \n
  • Guess, A., Nagler, J., & Tucker, J. (2019). Manj, kot mislite: razširjenost in napovedniki širjenja lažnih novic na Facebooku. Science Advances, 5(1), eaau4586. https://doi.org/10.1126/sciadv.aau4586\n
    • \n
  • Jones-Jang, S. M., Mortensen, T., & Liu, J. (2021). Ali medijska pismenost pomaga pri prepoznavanju lažnih novic? Informacijska pismenost pomaga, druge vrste pismenosti pa ne. American Behavioral Scientist, 65(2), 371–388. https://doi.org/10.1177/0002764219869406\n
    • \n
  • Kahan, D. M. (2013). Ideologija, motivirano sklepanje in kognitivna refleksija. Judgment and Decision Making, 8(4), 407–424.\n
    • \n
  • Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivirana matematična pismenost in razsvetljeno samoupravljanje. Behavioural Public Policy, 1(1), 54–86. https://doi.org/10.1017/bpp.2016.2\n
    • \n
  • Laato, S., Islam, A. K. M. N., Islam, M. N., & Whelan, E. (2020). Kaj spodbuja širjenje nepreverjenih informacij in kiberhondrijo med pandemijo COVID-19? European Journal of Information Systems, 29(3), 288–305. https://doi.org/10.1080/0960085X.2020.1770632\n
    • \n
  • Lorenz-Spreen, P., Lewandowsky, S., Sunstein, C. R., & Hertwig, R. (2020). Kako lahko vedenjske znanosti spodbujajo resnico, avtonomijo in demokratični diskurz na spletu. Nature Human Behaviour, 4(11), 1102–1109. https://doi.org/10.1038/s41562-020-0889-7\n
    • \n
  • Martel, C., Pennycook, G., & Rand, D. G. (2020). Zanašanje na čustva spodbuja verjetje v lažne novice. Cognitive Research: Principles and Implications, 5(1), 47. https://doi.org/10.1186/s41235-020-00252-3\n
    • \n
  • Nickerson, R. S. (1998). Potrditvena pristranskost: vsestranski pojav v številnih oblikah. Pregled splošne psihologije, 2(2), 175–220. https://doi.org/10.1037/1089-2680.2.2.175\n
    • \n
  • Pennycook, G., Cheyne, J. A., Barr, N., Koehler, D. J., & Fugelsang, J. A. (2015). O sprejemanju in prepoznavanju navidezno globokih neumnosti. Judgment and Decision Making, 10(6), 549–563.\n
    • \n
  • Pennycook, G., McPhetres, J., Zhang, Y., Lu, J. G., & Rand, D. G. (2020). Boj proti dezinformacijam o COVID-19 na družbenih omrežjih: Eksperimentalni dokazi za prilagodljiv poseg za spodbujanje natančnosti. Psychological Science, 31(7), 770–780. https://doi.org/10.1177/0956797620939054\n
    • \n
  • Pennycook, G., & Rand, D. G. (2019). Leni, ne pristranski: dovzetnost za strankarske lažne novice je lažje razložiti s pomanjkanjem razmišljanja kot z motiviranim razmišljanjem. Cognition, 188, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011\n
    • \n
  • Reber, R., & Schwarz, N. (1999). Vpliv percepcijske tekočnosti na presojo resničnosti. Consciousness and Cognition, 8(3), 338–342. https://doi.org/10.1006/ccog.1999.0386\n
    • \n
  • Roozenbeek, J., Schneider, C. R., Dryhurst, S., Kerr, J., Freeman, A. L. J., Recchia, G., van der Bles, A. M., & van der Linden, S. (2020). Občutljivost za dezinformacije o COVID-19 po svetu. Royal Society Open Science, 7(10), 201199. https://doi.org/10.1098/rsos.201199\n
    • \n
  • Sultan, M., Tump, A. N., Geers, M., Lorenz-Spreen, P., Herzog, S. M., & Kurvers, R. H. J. M. (2022). Časovna stiska zmanjša sposobnost prepoznavanja napačnih informacij, vendar ne spremeni pristranskosti odziva. Scientific Reports, 12(1), 22416. https://doi.org/10.1038/s41598-022-26209-8\n
    • \n
  • Sultan, M., Tump, A. N., Ehmann, N., Lorenz-Spreen, P., Hertwig, R., Gollwitzer, A., & Kurvers, R. H. J. M. (2024). Občutljivost za dezinformacije na spletu: Sistematična metaanaliza demografskih in psiholoških dejavnikov. Zbornik Nacionalne akademije znanosti, 121(47), e2409329121. https://doi.org/10.1073/pnas.2409329121\n
    • \n
  • Traberg, C. S., & van der Linden, S. (2022). Enaki se med seboj prepričujejo: zaznana verodostojnost vira posreduje vpliv politične pristranskosti na dovzetnost za dezinformacije. Osebnost in individualne razlike, 185, 111269. https://doi.org/10.1016/j.paid.2021.111269\n
    • \n
  • Unkelbach, C., Koch, A., Silva, R. R., & Garcia-Marques, T. (2019). Resnica s ponavljanjem: razlage in posledice. Current Directions in Psychological Science, 28(3), 247–253. https://doi.org/10.1177/0963721419827854\n
    • \n
\n
\n
\n

☑ Logične zmote

\n
\n
\n\n
    \n
  • Preverite, ali gre za prenagla posploševanja – sklepi na podlagi premalo dokazov.\n
    • \n
  • Preverite, ali gre za lažne dileme – omejevanje možnosti na dve, čeprav jih obstaja več.\n
    • \n
  • Preverite, ali gre za argumente »slamnati človek« – napačno predstavljanje stališča, da bi ga lažje ovrgli.\n
    • \n
  • Preverite, ali gre za sklicevanje na nevednost – trditev, da je nekaj res, ker ni dokazov za nasprotno.\n
    • \n
  • Preverite, ali gre za sklicevanje na avtoriteto – domneva o resnici zgolj na podlagi avtoritete.\n
    • \n
  • Preverite, ali gre za zavajajoče argumente – odvračanje pozornosti od glavne teme.\n
    • \n
  • Preverite, ali gre za napačne vzroke – zamenjavo korelacije z vzročnostjo.\n
    • \n
  • Preverite, ali gre za ad hominem – napad na osebo, ne na argument.\n
    • \n
  • Preverite, ali gre za argument ad populum – utemeljevanje resnice s priljubljenostjo.\n
    • \n
  • Preverite, ali gre za argument »spolzkega pobočja« – trditev, da en korak vodi v skrajnosti.\n
    • \n
  • Preverite, ali gre za krožno sklepanje – uporaba zaključka kot premise.\n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Dezinformacija

\n

Dezinformacija so lažne ali zavajajoče informacije, ki jih namerno širijo ljudje, ki vedo, da so lažne, z namenom škodovanja, zavajanja ali manipulacije. Zavedanje tistega, ki informacije širi, da so lažne, in škodljivi namen sta bistveni značilnosti dezinformacije.

\n

Pogoste oblike vključujejo operacije političnega vplivanja, komercialno zavajanje, propagando, izmišljene vsebine in manipulirane medije. Dezinformacije pogosto ustvarjajo organizirani akterji, njihovo širjenje pa se okrepi prek usklajenega neavtentičnega/umetnega razširjanja (glej zgoraj).

\n

Zlonamerna informacija

\n

Napačna informacija je resnična informacija, ki se širi z namenom povzročiti škodo. Vsebina sama po sebi je točna, vendar je njeno objavljanje, okvirjanje ali časovno usklajevanje izračunano tako, da škodi osebi, skupini ali instituciji. Klasičen vzorec je namerno prenesenje zasebnih, občutljivih ali kontekstno vezanih informacij v javni ali škodljivi kontekst.

\n

Primeri vključujejo objavo izpuščenih zasebnih sporočil z namenom diskreditiranja ciljne osebe, objavo točnih, a stigmatizirajočih osebnih podatkov (npr. maščevalna pornografija) ter strateško razkritje dejansko pravilnih, a v kontekstu škodljivih informacij v trenutkih, izbranih za čim večji učinek.

\n

Dezinformacija je najmanj obravnavana od treh kategorij, ker vsebina ni lažna, kar jo postavlja izven okvirov preverjanja dejstev. Vendar pa predstavlja pomemben del ekosistema informacijskega nereda (Wardle & Derakhshan, 2017).

\n
\n
\n\n

Meje so prehodne. Te tri kategorije se v praksi pogosto prekrivajo ali spreminjajo:

\n
    \n
  • Dezinformacija, ki jo enkrat delijo ljudje, ki ji resnično verjamejo, postane napačna informacija, ko se širi naprej. Ista vsebina lahko sodi v različne kategorije, odvisno od tega, kdo jo deli.\n
    • \n
  • Vsebina je lahko delno resnična in delno lažna. Wardle (2017) navaja sedem oblik v okviru informacijskega nereda – vključno z zavajajočo vsebino, napačnim kontekstom in manipulirano vsebino – saj ni vsaka lažna vsebina v celoti izmišljena.\n
    • \n
  • Določanje namena od zunaj je empirično težko. Brez dostopa do znanja in motivacije tistega, ki vsebino deli, meje med napačnimi informacijami in dezinformacijami pogosto ni mogoče dokončno potegniti.\n

    Zato okvir od udeležencev zahteva, da pojasnijo, zakaj je v praksi pogosto težko določiti mejo med napačnimi informacijami in dezinformacijami.

    \n
    • \n
\n
\n
\n
\n
\n\n
\n
\n
\n

Halucinacije / konfabulacija umetne inteligence

\n

Sistematična težnja generativnih sistemov umetne inteligence k ustvarjanju vsebine, ki zveni verjetno, a je dejansko napačna, izmišljena ali nepreverljiva — vključno z izmišljenimi sklici, neobstoječimi študijami, napačno pripisanimi citati, izmišljenimi statističnimi podatki ter lažnimi biografskimi, zgodovinskimi ali znanstvenimi podrobnostmi.

\n

Halucinacije nastanejo, ker generativni sistemi umetne inteligence ustvarjajo izhodne podatke s predvidevanjem verjetnih nadaljevanj na podlagi vzorcev, ki so se jih naučili med usposabljanjem, ne pa s pridobivanjem preverjenih informacij iz vira znanja. Sistem je optimiziran za tekočnost in verjetnost, ne pa za točnost. Izmišljena vsebina je običajno predstavljena z enako samozavestjo kot točna vsebina – ni notranjega signala, ki bi zanesljivo razlikoval med njima.

\n

V raziskovalnih kontekstih se včasih izraz »konfabulacija« uporablja raje kot »halucinacija«, saj konfabulacija v psihologiji označuje ustvarjanje lažnih, a iskreno verjetnih zgodb brez namena zavajanja – kar je bližje temu, kar dejansko počnejo generativni sistemi. Halucinacija ostaja prevladujoči izraz v javnem in strokovnem diskurzu, zato ga uporabljamo tudi tukaj.

\n

Halucinacije niso le občasne napake. So strukturna značilnost osnovnega procesa generiranja, ne pa napake, ki jih je mogoče zanesljivo odpraviti z boljšimi navodili (Kalai & Vempala, 2024). Pojavljajo se v vseh generativnih sistemih – vključno z ☑ RAG AI, kjer lahko izmišljanje vpliva tudi na to, kako se pridobljeni viri povzemajo, citirajo ali navajajo.

\n

Didaktično umestitev: Halucinacije je mogoče konceptualno uvrstiti v četrto kategorijo poleg napačnih informacij, dezinformacij in zlonamernih informacij. Za razliko od obeh jih ne ustvarja človeški vir z namenom ali napako v mislih, ampak izhajajo iz samega procesa generiranja – sistemsko ustvarjena lažna vsebina brez namernega vira. To trojno razlikovanje je tukaj predstavljeno kot pedagoško uporaben okvir in ne kot uveljavljena terminologija, o kateri vlada soglasje.

\n

Pogoste vrste:

\n
    \n
  • izmišljeni sklici – navajanje člankov, knjig ali študij, ki ne obstajajo\n
    • \n
  • napačno pripisani ali izmišljeni citati\n
    • \n
  • izmišljene statistike ali številčne trditve\n
    • \n
  • netočne biografske, zgodovinske ali znanstvene podrobnosti, predstavljene kot gotove\n
    • \n
  • samozavestno napačni povzetki resničnih virov\n
    • \n
\n
\n
\n\n

Vsako dejansko trditev generativnega sistema umetne inteligence obravnavajte kot nepreverjeno, dokler je ne preverite z neodvisnim virom. Sklici in citati so še posebej enostavni za preverjanje — poiščite, ali citirani vir obstaja in vsebuje tisto, kar je trdila umetna inteligenca.

\n
\n
\n
\n
\n\n
    \n
  • Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). O nevarnostih stohastičnih papagajev: Ali so jezikovni modeli lahko preveliki? Zbornik prispevkov konference ACM o pravičnosti, odgovornosti in preglednosti (FAccT '21) iz leta 2021, 610–623. https://doi.org/10.1145/3442188.3445922\n
    • \n
  • Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Pregled halucinacij pri generiranju naravnega jezika. ACM Computing Surveys, 55(12), članek 248. https://doi.org/10.1145/3571730\n
    • \n
  • Kalai, A. T., & Vempala, S. S. (2024). Kalibrirani jezikovni modeli morajo halucinirati. Zbornik 56. letnega simpozija ACM o teoriji računalništva (STOC 2024), 160–171. https://doi.org/10.1145/3618260.3649777\n
    • \n
  • Smith, A. L., Greaves, F., & Panch, T. (2023). Halucinacija ali konfabulacija? Nevroanatomija kot metafora v velikih jezikovnih modelih. PLOS Digital Health, 2(11), e0000388. https://doi.org/10.1371/journal.pdig.0000388\n
    • \n
\n
\n
\n

Napačna predstavitev vsebine

\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
OblikaManipuliranoIzmišljeno
Besedilopravi citat, iztrgan iz konteksta, prirejen naslovizmišljeni citat, izmišljen članek, besedilo, ustvarjeno z umetno inteligenco
slikaretuširana fotografija, izrezan izvirnikslika, ustvarjena z umetno inteligenco, naslikana lažna »fotografija«
Zvokurejen ali pospešen izvirni posnetekklon glasu, govor, ustvarjen z umetno inteligenco
Videopoceni ponaredek, ponovno montirani posnetkipopolnoma sintetični deepfake video
Dokumentponarejen glava na spremenjeni predlogiizmišljeno »uradno« pismo
\n

Izmišljena vsebina

\n

Izmišljena vsebina so informacije – besedilo, slika, avdio, video, dokument ali druga oblika –, ki so bile v celoti izmišljene, brez kakršnega koli pristnega izvirnega gradiva. Lahko je ustvarjena ročno (izmišljeni citati, izmišljeni novičarski članki) ali sintetično s pomočjo sistemov umetne inteligence (sintetični videoposnetki, kloni glasov, slike, ki jih ustvari umetna inteligenca, besedilo, ki ga napiše umetna inteligenca).

\n

Manipulirana vsebina

\n

Manipulirana vsebina so resnične informacije – besedilo, slika, avdio, video, dokument ali druga oblika –, ki so bile spremenjene z namenom zavajanja. Izhodiščni material je resničen, vendar je spremenjen z urejanjem, selektivnim izrezovanjem, prilagajanjem hitrosti, ponovnim umeščanjem v kontekst, spremembami kadriranja, zamenjavo glasu ali drugimi preoblikovanji, ki spremenijo njegov pomen ali navidezni kontekst.

\n

Poceni ponaredek

\n

Poceni ponaredek je medij, ki je bil spremenjen z uporabo konvencionalnih, splošno dostopnih orodij – programske opreme za urejanje slik, programske opreme za urejanje videov ali osnovne ponovne kontekstualizacije – namesto z generativnimi metodami, ki temeljijo na umetni inteligenci. Izraz sta skovala Paris in Donovan (2019), da bi opozorila na dejstvo, da najbolj vplivne oblike manipuliranih medijev v javnem diskurzu običajno niso sofisticirani »deepfakes«, ustvarjeni z umetno inteligenco, temveč preproste, poceni tehnike, ki jih lahko uporabi kdorkoli.

\n

Med pogoste tehnike poceni ponaredkov spadajo:

\n
    \n
  • manipulacijo hitrosti (npr. upočasnjeni videoposnetek Pelosi, 2019)\n
    • \n
  • ponovno rezanje in selektivno urejanje avdio ali videoposnetkov\n
    • \n
  • prekontekstualizacijo (pravi mediji, predstavljeni z lažnim napisom ali okvirjem)\n
    • \n
  • retuširanje, obrezovanje ali sestavljanje fotografij\n
    • \n
  • zamenjani napisi in ponarejeni posnetki zaslona\n
    • \n
  • spajanje avdio posnetkov\n
    • \n
\n

Ali poceni ponaredek predstavlja napačno informacijo, dezinformacijo ali zavajajočo informacijo, je odvisno od znanja in namena akterja (→ informacijska zmeda), ne pa od same tehnike. En in isti urejeni videoposnetek lahko služi satiri, fikciji, izobraževanju ali zavajanju.

\n

V primerjavi z »deepfakes« poceni ponaredki zahtevajo manj tehničnega znanja, vendar jih ni nujno lažje odkriti – dobro izvedeno prekontekstualizacijo ali selektivno urejanje je lahko izredno težko prepoznati brez dostopa do izvirnega izhodiščnega gradiva.

\n
\n
\n\n
\n
\n
\n
\n
\n\n

Orodja za preverjanje »cheap fakes«:

\n
\n
\n
\n

Deepfake

\n

Deepfake je sintetični medij, ki ga ustvari umetna inteligenca – zlasti z uporabo tehnik globokega učenja, kot so generativna nasprotujoča omrežja (GAN), difuzijski modeli ali generatorji na osnovi transformatorjev. Izraz je sestavljenka iz besed »deep learning« in »fake« ter izvira iz leta 2017 iz spletnih skupnosti, ki so ustvarjale z umetno inteligenco generirane videoposnetke z zamenjavo obrazov. Od takrat se je tehnologija razširila na različne vrste medijev in je zdaj široko dostopna prek orodij za potrošnike.

\n

Pogoste oblike vključujejo:

\n
    \n
  • Zamenjave obrazov: zamenjava obraza ene osebe z obrazom druge osebe v videoposnetku\n
    • \n
  • Kloniranje glasu: sinteza govorčevega glasu iz majhnega zvočnega vzorca\n
    • \n
  • Popolnoma sintetični videoposnetek: z umetno inteligenco ustvarjen posnetek, ki prikazuje ljudi, dogodke ali prizore, ki se nikoli niso zgodili\n
    • \n
  • Sintetična fotografija: s pomočjo umetne inteligence ustvarjene fotografije izmišljenih oseb ali dogodkov\n
    • \n
  • Preoblikovanje besedila v video in preoblikovanje besedila v avdio: ustvarjanje medijev na podlagi pisnih navodil\n
    • \n
\n

Ali deepfake predstavlja napačno informacijo, dezinformacijo ali zlonamerno informacijo, je odvisno od znanja in namena akterja (→ informacijska zmeda), ne pa od same tehnike. Metode »deep fake« se legitimno uporabljajo tudi v filmski produkciji, orodjih za dostopnost (sintetični glasovi za ljudi, ki so izgubili svoj glas), sinhronizaciji, satiri, izobraževanju in umetnosti.

\n

V primerjavi s »cheap fakes« deep fake zahtevajo več tehničnih zmogljivosti za prepričljivo izdelavo in lahko dosežejo višjo stopnjo vizualnega ali zvočnega realizma. Vendar pa niso prevladujoča oblika manipulacije z mediji v javnem diskurzu — Paris in Donovan (2019) ugotavljata, da so preprostejše tehnike »cheap fake« še vedno pogostejše in pogosto imajo večje posledice. Odkrivanje je aktivno raziskovalno področje; sedanji pristopi združujejo analizo artefaktov, preverjanje bioloških neskladij in preverjanje izvora (npr. C2PA content credentials).

\n
\n
\n\n
    \n
  • Paris, B., & Donovan, J. (2019). Deepfakes in poceni ponaredki: Manipulacija zvočnih in vizualnih dokazov. Raziskovalni inštitut Data & Society. https://datasociety.net/library/deepfakes-and-cheap-fakes/\n
    • \n
  • Chesney, R., & Citron, D. K. (2019). Deepfakes: grozeči izziv za zasebnost, demokracijo in nacionalno varnost. California Law Review, 107(6), 1753–1820.\n
    • \n
  • Vaccari, C., & Chadwick, A. (2020). Deepfakes in dezinformacije: raziskava vpliva sintetičnih političnih videoposnetkov na zavajanje, negotovost in zaupanje v novice. Social Media + Society, 6(1), 1–13. https://doi.org/10.1177/2056305120903408\n
    • \n
\n
\n
\n
\n
\n\n

Orodja za preverjanje deepfakeov:

\n
\n
\n
","UPDATEDAT":"2026-07-10T09:41:41.357Z","LANG":"sl","ID":"5e496f56-314b-4d2e-9e41-ad19b82b506d","TITLE":"Dezinformacije in manipulacija","SOURCELANG":"en"}