Tomáš Koblížek: AI a nenávistné obrazy. Co je generativní hejt?

Může jít o temně groteskní videa posmívající se mrznoucím Ukrajincům, o nenávistné kampaně používající umělou inteligenci k tvorbě antisemitských ilustrací či misogynní deepfakeové snímky znázorňující známé novinářky či političky v ponižujících pózách.

Čtěte také

Tomáš Koblížek: Co je RIP trolling? Neúcta k mrtvé básnířce jako znepokojivé znamení

Jak tento fenomén chápat? Jsou nenávistné obrazy tvořené za pomoci AI něčím výrazně novým? Nebo je umělá inteligence pouze výkonnějším nástrojem pro vytváření něčeho, co je už dávno známé? Prototypem této tvorby by jistě byly antisemitské karikatury, které se v Německu 30. let objevovaly i v dětských knížkách, nebo ponižující obrázky černochů vytvářené americkými supremacisty od 19. století až do současnosti.

Ve veřejné debatě je nejčastěji upřednostňováno druhé vysvětlení. „Přínos“ AI v rámci světa nenávistných kampaní má spočívat pouze v tom, že jde o nástroj umožňující tvořit příslušný obsah takřka každému. Lze to činit levněji, rychleji, v poměrně dobré kvalitě a v mimořádně velkém množství. Formálně vzato by tak temně posměšný obrázek útočící na Ukrajince byl jen opakováním toho, co již z dějin známe a co lze nyní vytvořit s mnohem menší námahou.

Čtěte také

Tomáš Koblížek: „17. listopad nebyl.“ Filozofie jazyka popisuje nové trendy ve veřejném lhaní

Existují ale také dobré důvody pro to chápat AI nejen jako technicky účinnější nástroj pro tvorbu už známých „žánrových obrázků“. Je to také něco, co umožňuje tvůrcům lépe se chránit před případnou kritikou, a tedy s menšími obavami tento obsah šířit.

Vyjít můžeme z pozorování, do jisté míry už podloženého daty, že lidé mají sklon u nenávistného obsahu vytvořeného za pomoci umělé inteligence vinit za tento obsah umělou inteligenci samu. Když publikum vidí AI generované obrazy útočící na nějaké lidi, přinejmenším část tohoto publika vnímá AI, ne člověka, který ji instruoval, jako zodpovědnou za to, co vzniklo. To se ostatně promítá i do našeho slovního hodnocení, když říkáme: „AI šíří nenávist proti Ukrajincům“, „AI zpochybňuje holokaust“ a podobně.

Čtěte také

Tomáš Koblížek: Co je fear speech? Na sítích předčí i nenávistné projevy

Tento rozšířený pohled a způsob vyjadřování je samozřejmě výhodný pro tvůrce nenávistných kampaní. Může jim přinášet určitý klid dostatečný přinejmenším k tomu, aby pokračovali ve své specifické tvorbě. Odpovědnost bude přenášena jinam.

Z řečeného tak plyne jedno poučení. V debatách o umělé inteligenci a jejích rizicích je dobré nezapomínat na to, že přinejmenším část těchto rizik nevzniká automaticky, ale jen pokud do hry vstoupí něčí záměr. Toto připomínání je dobré k tomu, abychom při případné snaze hledat nějaká řešení na AI-nenávist neredukovali celou věc na technický problém. Bohužel stále ještě existuje cosi jako zlá vůle. A právě ta je zde ve hře.