(Nemusíte koukat na celé, stačí prvních pár minut.)
Jednak je to šikovný politický tah, ale především přemýšlím nad tím, co tady vlastně vidíme. Ten model (Claude) pochopitelně nemá žádné pojetí „pravdy“, jen pravděpodobnosti. Tím, že se mu Bernie Sanders představí, ho vlastně „napromptuje“, nastaví kontext mimo jiné na levicovou kritiku byznysu a podobně. Takže Claude pak logicky odpovídá tak, jak by Bernie Sanders mluvil, kdyby to říkal sám. Tipuju, že kdyby se takhle představil třeba nějaký hardline pravicový evangelikální konzervativec, vypadlo by z Clauda něco diametrálně odlišného.
Zároveň je pro mě těžký si tenhle úhel uvědomit, mám tendenci na to koukat jako na šikovný kousek, kde Bernie vytáhne z Clauda „pravdu o zlém světě“. A říkám si, že pokud dneska sociální sítě přispěly k polarizaci společnosti tím, že ukazují každému hodně odlišné zdroje informací a hodně odlišná sdělení, je to úplný čajíček ve srovnání s tím, co v tomhle směru může udělat generativní AI.
Neboli, jak trefně praví jeden z komentářů na YouTube:
I have to wonder if Bernie actually realized that Claude was already feeing him a personalized message and re-affirmed all of his fears. It straight up told him it did that to people, and then completely did that to him as well, and honestly he looks pleased that the AI was giving him back the arguments he would most likely use or respond to. THAT is what it does at this point.
Jsem hrozně zvědavý, jestli si lidi tohle běžně uvědomí a bude z toho banální fakt („chatboti vám říkají to, co chcete slyšet“), anebo jsou to obří hrábě, na které jako společnost kolektivně šlápneme.
Běžnému uživateli na internetu v diskuzních fórech nebo na sítích nedochází, že často debatuje s falešnými účty a farmami (často z nepřátelských režímů), které tady už roky vedou hybridní válku… nasazení pokročilejších LLM tohle jen zhorší.
Už teďka vidím, jak si hodně lidí myslí, že jim LLM rozumí, řídí se podle toho, co jim LLM říká atd. je to docela děsivý pohled a tak, jak jsme edukovali lidi při prvním kontaktu s internetem, tady to bude potřeba za mě ještě víc.
Všechny strany budou využívat a zneužívat LLM víc a víc, tomu se asi nevyhneme.
Jasně, že je to totálně neobjektivní a moratorium by muselo být globální, aby dávalo smysl…
Nic to ale nemění na tom, že to jak se pracuje dnes s daty - a dělo se to už v Cambridge analytica - a že je to obrovská challange pro demokracii jako takovou, s tím si dovolím zcela souhlasit.
Zrovna tu s jedním zdravě naštvaným kolegou v Tempu řešíme, jak se dezinfo v Česku postavit. Možná bychom mohli spáchat nějaký setkání/brainstorming na to. Troufnu si říct, že v této oblasti chybí dobré nové nápady - možná AI powered, financování věřím, že se najde.
Ne že bychom se nudili, ale tohle teď pod tíhou dění a ohrožení veřejných médií ČR cejtíme všichni a skoro si to říká o “krizový projekt” Česko.Digital, tak jak jsme se o nich bavili, že opět přijít mohou. Napojení na klíčové instituce v tématu máme.
Souhlasím s Vaším názorem, že ta konverzace je postupně manipulována tím, kdo ji vede.
Bylo by pěkné, kdyby si na stejné téma s Claudem pohovořil třeba Elon.
AI modely jsou dobrý analytický nástroj na vyhodnocování vstupů podle definovaných kritérií. Kritéria jsou zadána formou promptu.
Kdybychom chtěli použít AI jako nezávislého arbitra, o což se asi snaží Bernie v tom klipu,
museli bychom si předem přesně izolovat, nebo nějak konceptuálně definovat vstupy, pak se shodnout na neutrální otázce a pak by to možná nějaký smysl mělo.
Umím si představit LLM, který by striktně podle všech platných zákonů posuzoval předloženou žalobu. Protože tam jsou jasné vstupy (zákony) a jasně formulovaná otázka.
Ale ptát se AI názor v takhle komplexní věci je asi zbytečné, protože to stejně člověk s opačným názorem snadno zpochybní.
Všichni trochu poučení asi cítíme, kde je problém, ale jde o to nějak to vysvětlit masám.
A druhá otázka je, kdo by to vysvětlování masám měl mít na starost, aby to bylo dostatečně nestranné.
