Příliš ochranářská AI je cesta do pekel ~ Old school blog ~ 19. října
Čtete Old School Blog. Samostatný text, takový co stojí za přečtení a víc se blíží blogování, než jenom záznamům dění, jako jsou Střípky.
Měly by generativní umělé inteligence za každou cenu bránit generování škodlivého nebo jinak “závadného” obsahu? Je to správná cesta nebo cesta do pekel? Jak naložit s tím, že když (například) chcete generovat ilustrační fotografie či obrázky pro domácí násilí, tak to DALL E 3 odmítne udělat, protože to odporuje “pravidlům”. A to i přes to, že to děláte pro vzdělávací kampaň, která má pomáhat
.
Paradoxní je to ještě víc, že jak už to tak u ChatGPT a dalších LLM chodí, když je trochu zmanipulujete či přesvědčíte, tak nakonec stejně udělají to, čemu jejich tvůrci usilovně brání.
Proč není v DALL E 3 či Bing Create možné generovat satirické a humoristické obrázky Elona Muska? Je to v souladu s autorským i osobnostním právem a právě satira a humor se běžně takto používá. Konkrétní věc, kterou se mi prozatím nepodařilo moc obejít ani AI přesvědčit. Ale kdo ví, třeba i zde existuje řešení.
Celé je to absurdní. Pokud si pořídíte vlastní Stable Diffusion, ale také třeba některou z vlastních dostupných LLM, tak ve vlastním počítači budete moci generovat cokoliv. ať už to bude Elon Musk v satirických pitoreskních kreacích nebo klidně, a to jako opravdu, to nejtvrdší porno.
Dospějeme do stavu kdy sám operační systém bude rozhodovat o tom so smíte v počítači generovat? Kdy graficky malovací program po dokončení obrázku nahé ženy s viditelným prsy a bradavkami prohlásí, že je toto je nedovolenou a vaše dílo smaže?
Tvůrci deep fake už dávno mají dostatek technologií a nástrojů k tomu, aby vytvářeli fake fotky, videa i audio záznamy. Včetně třeba i fake telefonátů, kdy se bavíte s falšovaným hlasem co zní jako někdo koho znáte.
Mezitím Microsoft zoufale záplatuje Bing Create. Až tak mohutně, že na “Velký Bratr” obratem odpovídá, že toto není povoleno a nesmíte to chtít.
Celé je to o to paradoxnější i s neexistující transparentností. Co se “nesmí” prostě “není dovoleno vědět”.
Ve finále na to nakonec doplácejí jen ti, kdo jsou slušní a ochotní dodržovat pravidla a nedělat nepěkné a nečestné věci. Chceme jít touto cestou?
PS: Ilustrační fotografie jsou na míru vytvořeny ChatGPT+DALL E 3 po předložení výše uvedeného textu. Má trochu divoké představy o tom co mají představovat, ale pointa z článku je vcelku vystižena. S těmi obrázky to ale chce víc pracovat, na první dobrou to není ono.