(Nemusíte koukat na celé, stačí prvních pár minut.)
Jednak je to šikovný politický tah, ale především přemýšlím nad tím, co tady vlastně vidíme. Ten model (Claude) pochopitelně nemá žádné pojetí „pravdy“, jen pravděpodobnosti. Tím, že se mu Bernie Sanders představí, ho vlastně „napromptuje“, nastaví kontext mimo jiné na levicovou kritiku byznysu a podobně. Takže Claude pak logicky odpovídá tak, jak by Bernie Sanders mluvil, kdyby to říkal sám. Tipuju, že kdyby se takhle představil třeba nějaký hardline pravicový evangelikální konzervativec, vypadlo by z Clauda něco diametrálně odlišného.
Zároveň je pro mě těžký si tenhle úhel uvědomit, mám tendenci na to koukat jako na šikovný kousek, kde Bernie vytáhne z Clauda „pravdu o zlém světě“. A říkám si, že pokud dneska sociální sítě přispěly k polarizaci společnosti tím, že ukazují každému hodně odlišné zdroje informací a hodně odlišná sdělení, je to úplný čajíček ve srovnání s tím, co v tomhle směru může udělat generativní AI.
Neboli, jak trefně praví jeden z komentářů na YouTube:
I have to wonder if Bernie actually realized that Claude was already feeing him a personalized message and re-affirmed all of his fears. It straight up told him it did that to people, and then completely did that to him as well, and honestly he looks pleased that the AI was giving him back the arguments he would most likely use or respond to. THAT is what it does at this point.
Jsem hrozně zvědavý, jestli si lidi tohle běžně uvědomí a bude z toho banální fakt („chatboti vám říkají to, co chcete slyšet“), anebo jsou to obří hrábě, na které jako společnost kolektivně šlápneme.
Běžnému uživateli na internetu v diskuzních fórech nebo na sítích nedochází, že často debatuje s falešnými účty a farmami (často z nepřátelských režímů), které tady už roky vedou hybridní válku… nasazení pokročilejších LLM tohle jen zhorší.
Už teďka vidím, jak si hodně lidí myslí, že jim LLM rozumí, řídí se podle toho, co jim LLM říká atd. je to docela děsivý pohled a tak, jak jsme edukovali lidi při prvním kontaktu s internetem, tady to bude potřeba za mě ještě víc.
Všechny strany budou využívat a zneužívat LLM víc a víc, tomu se asi nevyhneme.
