Meta a YouTube u soudu: „to není závislost, to je jen binge“ (a hlavně je to vaše chyba) ~ Old school blog ~ 18. února

A také tak trochu ukázka toho, že když cestujete MHD můžete s AI probírat nejen s čím jdete příští den do rádia, ale nakonec z toho nechat udělat slušný a užitečný blogpost. Tady ho máte.

Čtete Old School Blog. Samostatný text, takový, co stojí za přečtení a víc se blíží blogování než jenom záznamům dění, jako jsou Střípky.

V úterý volali z Českého Rozhlasu, že jestli mám ve středu ráno chvilku na telefonát. Téma soud v USA kde Meta a YouTube čelí obvinění a výsledek procesu může mít zásadní dopad na další podobné soudní pře v budoucnu. Chvíli poté jsem musel vyjet mimo domov a využil půl hodiny cesty k povídání si s ChatGPT. Původně jsem ji jen požádal o shrnutí všeho co se v kauze děje, pro jistotu zda to mám správně “načtené” a zapamatované. A taky protože ChateGPT má nové modely, takže je potřeba testovat jak se chovají oproti těm předchozím.

Prompt: O co jde v aktuálním týden běžícím soudu s meta a YouTube v USA? Zítra budu živé v českém rozhlase a potřebují podklady. Zoracuj je prosím.

Dala ho velmi dobrý, nechával jsem si to číst do sluchátek, při cestování poněkud praktičtější, než to na mobilu postupně luštit.

A pak mi došlo, že bych vlastně asi mohl pokračovat ještě dál a zkusit, jestli z toho dokáže dát dohromady příspěvek pro tento blog. Má mě docela dobře naučeného, můj styl a další věci, takže to sice asi nebudu 100% “já”, ale špatné to nakonec není.

Prompt. Skvělé. Dáš mi z toho dohromady článek do mého blogu prosím. Můj styl. A můj postoj je že jednoznačně vína a záměr platforem. A je děsivé že jejich obrana jen mimo jiné i v útoku na onu ženu.

A součástí zadání bylo i to, jak to v klíčové otázce vidím, není vhodné nechat AI myslet za člověka, byť v tom rozhodně špatná není. Nutno dodat, že jsem při té cestě MHD ještě nechat udělat pár iterací. Zejména proto, že mi v tom výsledném textu pár věcí chybělo. Například otázka zákazu sociálních sítí.

Zpětná vazba k první verzi: Chybí mi tam že zákaz socnetu toto neřeší a ano můj obvyklý rytmus atd

Ale také zdůraznění, že je tam jasná odpovědnost regulátorů (států, EU).

Druhá zpětná vazna: Chybí tam zodpovědnost regulátorul. U nás tedy EU a jednotlivé státy. Pokud toto nepadne je to zpět k nesmyslů v podobe zakázat. Zachovej vše z posledni verze a přidej toto. A že to rodiče mají chtít právě po politicích l. EU. Státu. Regulátorech. Zásah proti algorulitmum a nezodpovědnosti platforem

A tedy tedy máte poslední výsledek. Není to 100% já, najdete v tom typické rysy jak píše AI, ale hodně se to blíží mému stylu (byl bych víc odstavcový, AI má tendence to sekat do “bulletpointů” i když tam reálně místy nejsou.

Meta a YouTube u soudu: „to není závislost, to je jen binge“ (a hlavně je to vaše chyba)

V USA běží soud, který je pro sociální sítě nepříjemný z jediného důvodu: někdo jejich byznys řekl nahlas. Před porotou.

Mladá žena (v dokumentech anonymizovaná jako K.G.M.) tvrdí, že Instagram a YouTube byly navržené tak, aby byly pro děti návykové – a že jí to zhoršilo psychický stav. Žaloba není postavená na tom, že „na internetu je hnusný obsah“. Je postavená na tom, že problém je design produktu: nekonečný feed, autoplay, doporučování, notifikace.

A platformy se brání způsobem, který je… řekněme učebnicový.

„Závislost? Ne. Jen binge.“

Šéf Instagramu Adam Mosseri u soudu odmítá, že by šlo o „klinickou závislost“. Raději používá slova jako „problematické užívání“ nebo „binge“ – něco jako když si místo jednoho dílu pustíte pět.

Tohle slovíčkaření není detail. To je strategie.

Protože:

• závislost zní jako odpovědnost produktu,

• binge zní jako slabá vůle uživatele.

A když je uživatel dítě, tak to zní skoro jako: „tak ať prostě přestane.“

Jenže tohle není Netflix. Tohle je produkt, jehož účel není, aby člověk něco dokoukal. Účel je, aby nikdy neskončil.

Nejtemnější část obrany: útok na tu ženu

Ještě horší než slovíčkaření je druhá obranná linie. Ta stará, osvědčená.

„Za to nemůžeme my. Za to může ona.“

V praxi: rozmělnit vinu do všeho okolo – rodina, škola, psychika, „už to měla v sobě“. Vytvořit dojem, že platforma je jen kulisa a že „to by se stalo tak jako tak“.

A tady mám problém.

Když se firma brání tím, že začne pitvat život konkrétního člověka, tak tím vlastně přiznává:
„Náš produkt je tak silný, že musíme dokázat, že jste byli rozbití už předtím.“

To není obrana. To je obchodní model převedený do právničtiny.

Velmi užitečné čtení, které jsem napsal pro Lidovky: Cesta k bezpečnému digitálnímu prostředí. Proč zákaz sítí do 15 let neřeší problém a co funguje lépe

Proč je tohle velké

Tenhle případ je „bellwether“ – testovací soud, který má naznačit, jak dopadnou stovky až tisíce dalších žalob. Nejde jen o jednu žalobkyni. Jde o to, jestli se jednou a veřejně řekne:

Ne „obsah“.
Ale design.

Obsah je pro platformy pohodlný: „To jsou uživatelé.“
Design je nepohodlný: „To jsme my.“

Můj postoj: je to záměr. A je to vina.

Já nemám trpělivost pro předstírání, že se to „nějak stalo“. Ne. To se nestalo. To se vyrobilo.

Nekonečný feed není omyl.
Autoplay není omyl.
Doporučování není omyl.
Notifikace nejsou omyl.
Metriky pozornosti nejsou omyl.

To je architektura. A architektura má autora.

A když autor stojí u soudu a tvrdí, že „to není závislost, jen binge“, tak se snaží porotě prodat jednu myšlenku:
„Neberte náš produkt jako něco, co může škodit. Berte to jako zábavu, kterou někdo nezvládl.“

Jenže děti nejsou dospělí. A „nezvládnutí“ je u dětí přesně to, co máte čekat. Dokonce je to to, s čím produkt počítá.

A teď důležitá věc: zákaz sociálních sítí to neřeší

Tady se obvykle ozve reflex: „Tak jim to zakažme.“

Jenže zákaz je pohodlná zkratka. A taky dobrý alibismus. Protože problém není „Facebook“ nebo „Instagram“ jako slova v menu telefonu. Problém je mechanika maximalizace pozornosti, která se dá přelít kamkoli.

Zakažte jednu appku a:

• přeleje se to do jiné,

• přeleje se to do her,

• přeleje se to do short videí jinde,

• a hlavně: nic se nezmění na tom, že nejcennější komodita je dětská pozornost.

Zákaz řeší symptom. Ne příčinu.

Jestli něco dává smysl, tak je to přesně to, co teď soud otevírá: odpovědnost za design. Ne za „obsah“, ne za „jednotlivé příběhy“, ale za to, že je produkt postavený tak, aby udržel dítě co nejdéle v cyklu odměn.

A kde je odpovědnost regulátorů? Tady.

Jestli ten americký soud něčím děsí, tak i tím, jak je v něm jasně vidět jedna nepříjemná věc: bez tlaku zvenku se nic nezmění.

Platformy nemají přirozený důvod „udělat to méně návykové“.
Jejich motivace je opačná: více času, více scrollu, více zobrazení, více reklamy.

A přesně proto existují regulátoři. Ne proto, aby psali PDFka. Ale aby vynutili změny tam, kde trh selhává.

U nás to znamená hlavně:

• EU (pravidla, která dokážou zatlačit na globální platformy),

• jednotlivé státy (vymáhání, sankce, dohled, lokální tlak),

• regulační orgány (aby „ochrana dětí“ nebyla jen tisková zpráva jednou za rok).

Pokud se tenhle typ odpovědnosti neukotví a neprosadí, vrátíme se k nejpitomější debatě dokola:
„Tak to zakažme.“
„Tak to nezakažme.“
„Tak ať to rodiče hlídají.“

Jenže to je přesně ten okamžik, kdy platformy vyhrály. Protože jsme zase udělali to, co jim vyhovuje: přehodili odpovědnost na jednotlivce.

Co mají rodiče chtít (a po kom)

Rodiče mají chtít řešení tam, kde má smysl: u politiků a regulátorů.

Ne „prosím vás, buďte hodní“.
Ale zásah do algoritmů a produktového designu.

Konkrétně: požadovat, aby EU a státy reálně tlačily na:

• omezení „engagement-first“ doporučování u dětí,

• povinné bezpečnější defaulty,

• omezení agresivních notifikací a autoplay mechanismů,

• auditovatelnost doporučovacích systémů,

• odpovědnost platforem za rizika, která vytváří jejich design.

Protože tohle není boj rodič vs. dítě vs. mobil.
Tohle je boj rodičů proti průmyslu, který optimalizuje dětskou pozornost na zisk.

A regulátor je v tomhle jediný hráč, který má šanci vyrovnat síly.

Co si z toho vzít v Česku

Tohle není americká kuriozita. Je to zrcadlo.

Až příště někdo řekne „rodiče si to mají uhlídat“, tak je fér dodat jednu větu navíc:

Rodiče nemají proti sobě jen mobil.
Mají proti sobě produktové týmy, A/B testy, psychologii odměn a miliardové rozpočty.

A když se tyhle firmy brání útokem na konkrétní ženu, je to možná ten nejčistší důkaz, že to není „náhoda“. Je to systém.

A systém se nezmění tím, že dítěti na měsíc smažete jednu ikonku.

Změní se teprve tehdy, když se začne mluvit o tom, o čem se nemluví rádo:
o vině. a o záměru.
A taky o tom, co je u nás pořád nejvíc zanedbané: o odpovědnosti EU, státu a regulátorů, aby konečně sáhli na algoritmy a donutili platformy nést následky vlastní nezodpovědnosti.