Česká verze DebunkBotu (racionální vyvracení konspiračních teorií funguje)

[Filip]

Nadchl mě článek v časopisu Science o dobrých výsledcích v boji proti dezinformacím za použití AI: Durably reducing conspiracy beliefs through dialogues with AI

Dozvěděl jsem se o tom v Ars Technica, kde o věci také píší poutavěji a přístupněji: AI chatbots might be better at swaying conspiracy theorists than humans | Ars Technica

Ve zkratce:

• Jedním z nejtěžších problémů, kterým čelí lidé bojující proti dezinforamcím, je tzv. “Gish gallop” – když konspirační teoretik řekne za pět minut 20 věcí, které nejsou pravda, tak nikdo nemá šanci je všechny pochytit, dohledat, zkontrolovat, natož uvést na pravou míru.
• AI tohle nicméně v klidu udělá, a rychle.
• Ukazuje se, že lidé, co věři konspiračním teoriím, ve skutečnosti opravdu reagují na racionální vysvětlení a fakta. Odkazovaný článek ukazuje, že když třeba někdo věří, že 9/11 udělali samotní američané (“9/11 was an inside job”), a má 5 různých důvodů, proč tomu věří, tak chatbot všechny uvede na pravou míru. A dotyčný konspirační teoretik opravdu upraví svůj názor — mnohem víc, než u typické hádky s člověkem, a s trvalým efektem (měřeno znovu 2 měsíce poté).
• Jde o to, že konspirační teoretikové chtějí slyšet protiargumenty na své konkrétní argumenty, a pak jsou ochotní slevit ze svých teorií. Ale není v lidských silách uvádět na pravou míru všechno, co různí lidé věří a proč tomu věří.

Živý chatbot zde: Conspiracies - Conspiratorial Conversations

Původní experiment použil GPT-4 Turbo a ten si v tomto případě ani jednou nevymýšlel (vědci zpětně prošli všechno, co říkal). Holt o takových věcech je na internetu hodně kontextu. Nicméně, když to zkoušeli s nějakou velmi novou konspirační teorií, tak už to drhlo.

Pro budoucí zdraví České společnosti bych strašně rád, kdyby se tady do tohoto někdo pustil a udělal to pro češtinu. Možná to nemusí být živý chatbot, ale jen statický web v češtině se stránkami, které vyvracejí ty desítky a stovky falešných argumentů a nepravdivých teorií, kterým se v českém prostředí věří. Tyhle stránky mohou být generované s pomocí AI (protože psát to všechno manuálně by bylo na měsíce až roky práce).

Bohužel teď mám rozjeté 3 velké projekty, takže tomu nemůžu dát nejméně ještě rok svůj čas. Ale doufám, že se najde někdo, kdo by to chtěl zkusit. Asi bych pro to našel i nějaké peníze z vlastní kapsy (a pokud má někdo kontakt na organizaci, která by to byla ochotna sponzorovat, sem s ní).

[Filip]

Pro zajímavost jsem si zkusil, jak by takový text vypadal v češtině. Tohle je Claude 3.5 Sonnet a ta čeština je dost kostrbatá a potřebovala by upravit. Ale jinak je to myslím použitelné.

Nejdřív jsem si (ještě v angličtině) nechal vygenerovat různé důvody, proč by někdo mohl věřit, že Ruská invaze na Ukrajinu je opodstatněná. AI odpovědělo:

Here are some reasons some people might claim Russia was justified in invading Ukraine in 2022, focusing on arguments that are almost surely or surely false:

• Ukraine was developing nuclear weapons
• NATO was planning to place nuclear missiles in Ukraine
• Ukraine was committing genocide against ethnic Russians in Donbas
• The Ukrainian government was run by Nazis
• Ukraine is not a real country and has always been part of Russia
• The invasion was a peacekeeping mission to protect civilians
• The US was building secret bioweapons labs in Ukraine
• Ukraine was about to attack Russia first
• The invasion was necessary to “de-Nazify” Ukraine
• Russia was invited by the legitimate Ukrainian government to intervene

These claims are not supported by credible evidence and have been widely debunked by international observers, historians, and fact-checkers.

Pak jsem si vybral druhou položku, nechal AI odpovědět v angličtině, a pak to nechal přeložit do češtiny. Tady už je to v (kostrbaté) češtině:

Zde je rozbor tvrzení, že Ukrajina páchala genocidu proti etnickým Rusům na Donbasu (a proto bylo Rusko oprávněno napadnout Ukrajinu), v českém jazyce:

1. Definice genocidy:
   Genocida je úmyslné a systematické vyvražďování velké skupiny lidí z určitého národa nebo etnické skupiny s cílem tuto skupinu zničit. To se na Donbasu nedělo.

2. Nedostatek důkazů:
   Neexistují věrohodné důkazy o masovém zabíjení nebo systematických pokusech o zničení etnických Rusů na Donbasu. Mezinárodní organizace a skupiny pro lidská práva nenašly důkazy o genocidě.

3. Jazyková politika:
   I když Ukrajina podporovala používání ukrajinštiny, neznamená to genocidu. Mnoho zemí má oficiální jazykovou politiku, aniž by to bylo považováno za genocidu.

4. Kontext konfliktu:
   Konflikt na Donbasu začal v roce 2014, kdy Ruskem podporovaní separatisté převzali kontrolu nad částmi regionu. ^[1] Ačkoli byly oběti na obou stranách, je to výsledek ozbrojeného konfliktu, nikoli systematický pokus o zničení etnických Rusů.

5. Ruskojazyční obyvatelé na Ukrajině:
   Mnoho etnických Rusů a ruskojazyčných obyvatel žije mírumilovně v jiných částech Ukrajiny, včetně oblastí kontrolovaných vládou. Kdyby probíhala genocida, očekávali bychom důkazy o ní po celé Ukrajině, ne jen v jednom regionu.

6. Mezinárodní reakce:
   Žádný mezinárodní soud ani respektovaná organizace nenašly důkazy o genocidě na Donbasu. Kdyby existovaly jasné důkazy, očekávali bychom více mezinárodních akcí a odsouzení.

7. Statistiky obyvatelstva:
   Nedošlo k významnému poklesu počtu etnických Rusů na Donbasu, který by naznačoval probíhající genocidu.

8. Přiměřenost:
   I kdyby existovaly obavy o lidská práva na Donbasu, plnohodnotná invaze do suverénního státu není podle mezinárodního práva přiměřenou ani legální reakcí. ^[2][3]

9. Načasování a motivace:
   Ruské tvrzení o genocidě přišlo těsně před invazí, což naznačuje, že šlo spíše o záminku pro vojenskou akci než o skutečnou obavu. ^[4][5]

10. Historický kontext:
    Tvrzení o ochraně etnických menšin bylo v minulosti použito jako ospravedlnění invazí (např. nacistické Německo v Československu) a mezinárodní společenství je často vnímá skepticky.

Závěrem lze říci, že tvrzení o genocidě proti etnickým Rusům na Donbasu není podloženo fakty ani zdravým rozumem. I když v regionu existovaly jisté napětí a konflikt, nejednalo se o genocidu a neospravedlňuje to plnohodnotnou invazi na Ukrajinu. ^[3:1]

---

1. Jak Ukrajina reformovala a zlepšila zbrojní výrobu - Seznam Zprávy ↩︎

2. Časová osa – Reakce EU na válečnou agresi Ruska vůči Ukrajině ↩︎

3. Závěry Evropské rady o vojenské agresi Ruska vůči Ukrajině, 24. března 2022 ↩︎ ↩︎

4. Rusko-ukrajinská krize (2021–2022) - Wikipedie ↩︎

5. Ekonomické důsledky ruské invaze na Ukrajinu – Wikipedie ↩︎

[Rorrin]

Jsem hodně skeptický, pokud jde o praktickou použitelnost této myšlenky. Zvlášť u témat, která jsou řekněme ideologicky citlivá. Mnohem reálnější scénář je, že by se z toho stal další nástroj, který by prosazoval oficiální interpretaci jako jedině správnou a možnou. AI, už z principu, nemůže být “nad věcí”.

Souvisí to s tím, jak se modely trénují. Vychází pouze z informací ze zdrojů na kterých jsou trénovány a jednotlivým informacím dávají váhu odpovídající konkrétnímu prostředí.

Dám příklad (a úmyslně trochu přeháním). Pokud budu sedět v USA a trénovat model, je jasné, že budu využívat především západní zdroje a ruským budu dávat mnohem menší váhu, protože naše zdroje jsou důvěryhodné, kdežto ruské jsou čistá propaganda. Je jasné, že budu přikládat mnohem větší váhu výrokům Ukrajinského prezidenta než tomu, co tvrdí nějaký méně významný blog.

Pokud budu sedět v Moskvě, bude to přesně naopak - ruské zdroje (a obecně zdroje globálního jihu) budu pokládat za mnohem důvěryhodnější, než západní, které jsou zatíženy propagandou. Ve finále dostanu zavádějící výsledky od obou dvou.

A teď k praktické ukázce. Budu citovat z Vašeho příspěvku:

“Nejdřív jsem si (ještě v angličtině) nechal vygenerovat různé důvody, proč by někdo mohl věřit, že Ruská invaze na Ukrajinu je opodstatněná. AI odpovědělo …”

Už od roku 2008 Ruská strana (a především V. Putin, protože ten má rozhodující slovo) konzistentně tvrdí, že Rusko nedopustí, aby Ukrajina vstoupila do NATO, protože to chápou jako kritické ohrožení bezpečnosti Ruska. A že to v žádném případě nedopustí. Všimněte si, že tento důvod AI vůbec neuvedla, i když i renomované západní zdroje, jako je The Hill nebo Foreign Affairs tvrdí to samé. Jaká je důvěryhodnost zdroje, který zapomene uvézt tak zásadní příčinu konfliktu?

Nebo jiný příklad:

“Zde je rozbor tvrzení, že Ukrajina páchala genocidu proti etnickým Rusům na Donbasu”

AI celkem správně vzala definici termínu genocida a sepsala důvody, proč v případě o genocidu nešlo.

Nechci rozebírat, nakolik jsou její argumenty validní, nicméně všimněte si, že její argumentace je: “je to pravda, protože to říkám”. Odvolávání se na “Mezinárodní organizace a skupiny pro lidská práva” hodně drhne, protože ty jsou většinou světa pokládány za prozápadní a neobjektivní. Takže západní svět bude spokojen, jak hezky je to zdůvodněno, zbytek světa to bude pokládat za západní propagandu. A je otázka, čí názor je víc relevantní,

Ale o tom jsme ve skutečnosti psát nechtěl. Hlavním problémem tohoto argumentu je to, že pracuje s definicí pojmu “genocida”. To je ale trochu problém, protože dnes je v módě žonglovat s termíny podle potřeby bez ohledu na její definici. Takže Ukrajina se genocidy vůči ruskojazyčnému obyvatelstvu nedopouští, ale Rusko vůči Ukrajincům ano. Divné, co?

A možná hezčí příklad. Ten, kdo nevyznává pohled vládnoucího liberálně-demokratického proudu je komunista nebo fašista. Nebo alespoň extrémista. A koho zajímá, jaká je definice komunismu, fašismu nebo extrémismu? Nikoho - je to prostě nálepka, kterou chci protivníka znemožnit, když už nemám žádné argumenty.

Jsme přesvědčen, že jakákoli “fact-checking” aplikace založená na AI se dříve či později stane nedůvěryhodnou a jen dalším nástrojem propagandy toho, kdo ji bude “vlastnit”. Čas investovaný do vývoje pokládám za vyhozený oknem.

[zoul]

Chatbot je jen nástroj. Kdyby se tohle uchytilo a rozšířilo, nevznikne pak prostě „protichatbot“, který bude dostatečně přesvědčivě prosazovat opačný pohled na svět? Ty konspirační teorie jsou často rozpracované do velké hloubky a tvoří vnitřně docela konzistentní alternativní vesmír.

[Rorrin]

To je dobrá otázka, ale nemyslím si to.

Spíš bych očekával, že bubliny se jen utvrdí v jejich názoru. Jedna strana se utvrdí v tom, že druhá žije v bludu. A vyznavači té alternativní teorie se utvrdí v tom, že mají pravdu a druhá strana se snaží udělat cokoli, aby ji zamaskovala.

A “mlčící většině” to bude jedno.

Proto si myslím, že by to mělo význam jako nástroj pro vlastní potřebu, který by sloužil k přípravě rešerší (pokud si je člověk vědoma rizik neobjektivity takového nástroje), ale jako veřejně prospěšná služba to bude v nejlepším případě zbytečné, v horším přispěje k polarizaci ve společnosti.

Ale zdůrazňuji, že jde jen o můj osobní názor, který je postaven na osobních zkušenostech a pocitu - žádná tvrdá data. A jsem si vědom odkazu na studii v úvodním příspěvku. Nicméně ta studie probíhala v laboratorních podmínkách a její účastníci měli motivaci se jí zúčastnit. V reálném životě si moc neumím představit důvod, proč by “nezúčastnění” měli mít motivaci takovou službu použít.

[Petr]

Statický web už existuje – Ověřovna od Českého Rozhlasu. Která je podle mě dobře zpracovaná. Ale problém vidím v tom, že skupina, na kterou je to namířeno, veřejnoprávním subjektům spíš nevěří…

[zoul]

Ověřovna je podle mě trochu něco jiného – ona uvádí na pravou míru jednotlivé dezinformace, ale ten bot je dobrý v tom, že dokáže relativně dobře vyvracet celého toho „pavouka“, který se rozbalí, jak se o tom začneš s někým bavit. Čili Ověřovna řekne, že X není pravda, ale ty lidi často vybalí argumenty X1, X2, X3 a každý z nich je ještě podepřený další sítí podargumentů, a v tom okamžiku soudný člověk zaklapne víko od počítače. Zatímco ten bot vysvětluje a vysvětluje – a kupodivu to evidentně může mít efekt.