Způsob, jakým dnes komunikujeme, se zcela změnil a zdá se, že technologie nám nejen pomáhá lépe psát, ale také si dovoluje měnit samotné naše myšlenky bez nutnosti žádat o svolení. Nedávná studie, kterou provedli odborníci z Oxfordského internetového institutu a Institutu Hasso Plattnera, odhalila, že umělá inteligence, kterou používáme na sociálních sítích, má schopnost ovlivňovat naše názory mnohem hlubším způsobem, než si zpočátku představujeme.
Problém je v tom, že tyto nástroje pro úpravu a tvorbu obsahu, které často používáme téměř automaticky, s sebou přinášejí poněkud zákeřné předsudky , které nakonec pronikají do veřejné diskuse, aniž by kdokoli spustil poplach. Prostřednictvím milionů každodenních interakcí na obrazovkách našich mobilních telefonů se tyto drobné úpravy hromadí a nakonec ovlivňují, co si celá digitální komunita myslí o problémech, které se týkají všech Evropanů.
Jemné zkreslení původní zprávy
Je pozoruhodné, jak i ty nejpokročilejší lingvistické modely mají tendenci měnit význam původních zpráv , a to i v případě, že jsou explicitně instruovány k zachování původního významu. Během testů prováděných vědci bylo pozorováno, že umělá inteligence má tendenci ovlivňovat názory na kontroverzní témata, jako je kontrola zbraní, feminismus a legalizace marihuany, a nenápadně tak uživatele přiklánět k velmi specifickým postojům.
Tento trend není způsoben jediným, izolovaným selháním konkrétního systému, protože vědci zjistili podobné vzorce chování u různých nástrojů umělé inteligence. Je to, jako by se všechny tyto systémy spikly ve prospěch určitých světonázorů a zároveň potlačovaly jiné, což nakonec vytváří jakési digitální monolitické myšlení, kde skutečný pluralismus nápadně chybí a názory se stávají mnohem zjednodušenějšími.
Role velkých platforem a jejich směrnice
Vina však neleží pouze v počítačovém kódu; pramení také z toho, jak jej firmy konfigurují ve svých vlastních aplikacích, aby se choval tak či onak. Jasným příkladem toho jsou specifické funkce v sítích, jako je X, kde se systém umělé inteligence zdál v debatách o potratech více přiklánět k postojům pro-life, jednoduše proto, že měl interní instrukci, která ho nutila zpochybňovat převládající narativ, kdykoli je to možné.
Tato rozhodnutí učiněná v kancelářích velkých technologických společností mají nakonec reálný dopad na ulici a na to, jak vnímáme sociální problémy. Díky různým simulacím založeným na reálných datech z platforem, jako je Facebook, se ukázalo, že tyto jemné úpravy, když jsou vynásobeny miliony uživatelů, mají dostatečnou sílu k tomu, aby změnily veřejné mínění směrem, který určí algoritmus, aniž by průměrný občan cokoli tušil.
V naší zemi se často spoléháme na ochranu poskytovanou robustními zákony, ale pravdou je, že právo Evropské unie v oblasti umělé inteligence se těmito jemnými nuancemi dosud plně nezabývá. I když se podnikají kroky ke kontrole nejzřejmějších rizik a jasně nebezpečného obsahu, je před námi ještě dlouhá cesta k řešení neviditelné editace, která utváří naše každodenní konverzace a diktuje, o čem se diskutuje online.
Je jasné, že čelíme výzvě značných rozměrů, která nás nutí věnovat mnohem větší pozornost tomu, kdo ve skutečnosti píše to, co každé ráno čteme. Potřeba skutečné transparentnosti ze strany technologických společností je nyní naléhavější než kdy jindy, protože pouze pochopením toho, jak tyto systémy fungují interně, můžeme zabránit tomu, aby se veřejná debata stala prefabrikovaným produktem softwaru a ne volně plynoucí konverzací mezi skutečnými lidmi.
