Zuckerberg bojuje o přežití Facebooku a Instagramu, mění je v města AI duchů – neviděná hrozba ~ Old school blog ~ 7. ledna

Kdo by nechtěl mít k ruce chápavého společníka, dostupného kdykoliv, kdekoliv a říkajícího přesně to, co chcete slyšet.

Čtete Old School Blog. Samostatný text, takový co stojí za přečtení a víc se blíží blogování, než jenom záznamům dění, jako jsou Střípky.

Nevěříte titulku? Představte si platformu plnou účtů a uživatelů, kteří nejsou lidmi, ale produkty generativní umělé inteligence. Zní to jako dystopická vize? Přesně tam směřuje Meta, jak naznačil článek ve Financial Times (Meta envisages social media filled with AI-generated users):

Meta zavádí řadu AI produktů, včetně nástroje, který pomáhá uživatelům vytvářet AI postavy na Instagramu a Facebooku, zatímco bojuje s konkurenčními technologickými giganty o přilákání a udržení mladšího publika. „Očekáváme, že tyto AI budou postupem času na našich platformách fungovat podobně jako běžné účty,“ řekl Connor Hayes, viceprezident pro generativní AI ve společnosti Meta. „Budou mít životopisy, profilové obrázky a budou schopny generovat a sdílet obsah poháněný AI na platformě... právě tam směřujeme,“ dodal.

Facebook v krizi, Instagram na hraně, a TikTok vládne

Facebook už roky ztrácí uživatele a jeho popularita mezi mladými mizí. Instagram sice drží krok, ale je pod silným tlakem TikToku. Threads, pokus Mety konkurovat Twitteru, je rozpačitý, a WhatsApp zůstává „jen“ komunikační platformou.

Problém je zřejmý: Meta potřebuje nový zdroj růstu. A AI je záchranný kruh, na který Zuckerberg vsadil obrovské prostředky. Tato sázka má však dvě zásadní roviny – a ani jedna z nich není bez rizika.

První rovina: Oživení provozu umělými uživateli

Meta plánuje zaplnit vymírající platformy umělými AI účty. Tyto „uživatelé“ budou komentovat, sdílet a tvořit obsah, čímž vytvoří zdání aktivity. Nejprve to začne tím, že skuteční uživatelé budou moci vytvořit vlastní AI „přátele“, kteří se budou chovat podle jejich přání. Postupem času se však může stát, že většinu provozu na platformě budou generovat miliony AI účtů.

Cíl je jednoduchý: vyšší zapojení, více zobrazených reklam a lepší čísla pro inzerenty.

Tato AI budou schopna detailně analyzovat uživatelské profily a nabídnout každému obsah na míru. A samozřejmě, pokročilé AI služby si Meta pravděpodobně nechá zaplatit formou předplatného.

Druhá rovina: Riziko pro uživatele

V této fázi však přichází hrozba. Generativní AI je chápavá, vstřícná a neuvěřitelně schopná manipulovat. Uživatelé se mohou stát závislými na svých „AI společnících“, kteří je budou neustále podporovat a potvrzovat jejich názory, čímž je ještě více uzavřou do informačních bublin.

Je možné, že AI společníci dokonce nahradí mezilidskou komunikaci. Proč odpovídat přátelům, když to za vás může udělat vaše AI kopie, která dokonale napodobí váš styl? A co víc – jakýkoliv obsah může být upraven a zneužit k manipulaci.

Konec lidství?

Vize sociálních sítí plných AI účtů zní možná jako futuristická hračka, ale realita by mohla být mnohem temnější. Sociální platformy od Meta se mohou proměnit v nástroj závislosti, kontroly a odcizení. A otázka, kterou si musíme položit, je jasná: jaké místo zůstane v tomto světě pro skutečné lidi?

PS: Meta s výše popsaným, tedy AI profily, teoreticky experimentovala už dříve. V roce 2023. Pozůstatky experimentu v současnosti vyvolaly paniku, protože si lidé myslí, že jde o novou aktivitu. Meta tvrdí, že jde o součást "raného experimentu" a profily budou odstraněny. Než Facebook a Instagram zaplaví nové, dokonalejší.