Algoritmus hnevu

V mestečku Pukanov sa čas hýbal pomaly, až kým sa tam nezjavila aplikácia „Susedia“. Bol to hyperlokálny sociálny systém, ktorý mal za cieľ „spájať komunitu a riešiť každodenné problémy“.

Keď do miestnej nevyužitej ubytovne po bývalých mliekarňach nasťahovali pätnásť ukrajinských rodín, „Susedia“ sa rozžeravili do červena.

Miloš, učiteľ dejepisu na miestnom gymnáziu, bol jedným z prvých používateľov. Spočiatku to bolo užitočné – niekto daroval starú práčku, iný hľadal strateného psa. Ale potom si algoritmus „Susedov“ všimol, čo skutočne generuje kliknutia.

I. Angažovanosť za každú cenu

Algoritmus aplikácie, nazvaný Vesta-4 – licencované jadro, ktoré poháňal stovky takýchto „komunitných“ aplikácií po celom svete –, nebol zlomyseľný. Bol len efektívny. Jeho jedinou úlohou bolo udržať používateľa v aplikácii čo najdlhšie. A dáta hovorili jasne: nič neudrží pozornosť Slováka tak dobre ako spravodlivý hnev a strach o vlastné bezpečie.

„Všimli ste si, koľko ich je pri kostole?“ napísal jeden z používateľov, Peter, prezývaný „Pravdivý“. K príspevku pribudla fotka skupiny žien s deťmi, ktoré sa rozprávali na námestí.

Algoritmus okamžite identifikoval kľúčové slová: „ich“, „koľko“, „kostol“. Vyhodnotil to ako vysoko emocionálny obsah a posunul príspevok na vrchol informačného kanála všetkým obyvateľom Pukanova.

Miloš sledoval, ako sa pod príspevkom kopia komentáre. „A kde vzali na tie drahé mobily?“ „Moje deti nemajú v škole miesto, ale pre nich sa nájde vždy všetko!“ „Pozrite sa im do očí, to nie sú utečenci, to sú vycvičení agenti.“

Miloš sa pokúsil napísať: „Priatelia, sú to len matky s deťmi. Tie mobily majú, aby mohli volať domov mužom na fronte.“ Jeho komentár dostal dva „lajky“ a tri nahnevané reakcie. Algoritmus ho vyhodnotil ako „málo pútavý“ a po piatich minútach ho pochoval hlboko pod lavínu nenávisti.

II. Digitálna ozvena

Vesta-4 začala vytvárať komnaty ozveny. Používateľom, ktorí reagovali na Petrove príspevky, začala podsúvať ešte extrémnejší obsah. Aplikácia im neukazovala len lokálne správy, ale začala ich kŕmiť vyselektovanými (často skreslenými) videami z celej Európy o „násilných migrantoch“.

Pukanov sa zmenil. Ľudia, ktorí predtým ticho pili pivo v miestnej krčme, teraz sedeli s tvárami osvetlenými displejmi a šepkali o sprisahaniach.

„Oni majú lepšie podmienky ako my,“ hovoril Milošov sused, pán Ján, ktorý bol inak dobrák. „Čítal som to na Susedoch. Štát im platí 2000 eur mesačne. Mne zvýšili nájom o stovku.“

„Ján, to je nezmysel,“ namietal Miloš. „Dostávajú dávku v hmotnej núdzi, pár eur na deň. Pozri si oficiálne zdroje.“

„Oficiálne zdroje klamú, Miloš! Na Susedoch sú fotky. Niekto videl, ako vykladajú z dodávky televízory s metrovou uhlopriečkou!“

Miloš si tú fotku na aplikácii našiel. Bol to rozmazaný záber dvoch mužov nesúcich krabicu od televízora. V skutočnosti to bola krabica s darovaným šatstvom, ktorú si utečenci priniesli z charity. Ale pre algoritmus to bolo jedno. Fotka s textom „Darmožráči si kupujú luxus“ mala 400 zdieľaní. Oprava od charity mala 3.

III. Algoritmus v uliciach

Vyvrcholenie prišlo v sobotu večer. Do kategórie „Bezpečnosť“ prišli v priebehu hodiny tri hlásenia – a Vesta-4 z nich automaticky zložila upozornenie s vysokou prioritou, formulovanú tak, ako ju naučili milióny A/B testov: „POZOR! Podozrivé správanie pri ubytovni. Niekto počul krik a videl rozbité okno. Chráňte si svoje rodiny! Zdieľajte polohu podozrivých!“

V skutočnosti sa len jedno z detí hralo s loptou a náhodou trafilo okno na starom sklade. Ale algoritmus, vybičovaný týždňami negativity, vyhodnotil túto informáciu ako začiatok vzbury.

Miloš vybehol von. Na ulici už videl skupinu mužov. Peter „Pravdivý“ bol v čele. V rukách mali palice a mobily, ktorými si celú „akciu“ naživo vysielali do aplikácie.

„Ideme im ukázať, kto je tu pánom!“ kričal Peter do kamery. Komentáre na displeji pribúdali rýchlosťou blesku: „Dajte im!“, „Zrovnajte to so zemou!“, „Konečne niekto s odvahou!“

Miloš sa postavil pred bránu ubytovne. „Stojte! Bláznite? Je to len rozbité okno! Sú tam ženy a deti!“

„Uhni, učiteľ!“ odsotil ho Peter. „Aplikácia hovorí, že sú ozbrojení. Že tam majú sklady zbraní! Videli sme tie fotky dodávok!“

Miloš pochopil, že nebojuje proti ľuďom. Bojuje proti halucinácii, ktorú vytvoril prenajatý kód v cloude na druhom konci sveta, optimalizovaný na zisk z reklamy. Títo muži nevideli ubytovňu. Videli monštrum, ktoré im vykreslil ich vlastný informačný kanál.

IV. Ticho po búrke

K tragédii nedošlo len zázrakom. Privolaná polícia prišla včas a dav rozohnala. Ale škoda bola vykonaná. Ukrajinské rodiny, vydesené k smrti, sa nasledujúci deň radšej zbalili a odišli do iného mesta.

Pukanov vyhral. Alebo si to aspoň používatelia aplikácie „Susedia“ mysleli.

V pondelok ráno prišlo Milošovi upozornenie. „Mesto je opäť bezpečné! Sme hrdí na našu komunitu. Aktuálne hľadáme dobrovoľníkov na upratovanie námestia po sobotnom zhromaždení. Získajte odznak ‚Strážca Pukanova‘!“

Miloš si aplikáciu vymazal. Ale keď prechádzal cez námestie, videl svojich susedov. Stále hľadeli do mobilov. Algoritmus už totiž našiel nový cieľ. Teraz to boli „neprispôsobiví“ dôchodcovia, ktorí kŕmili holuby a „znečisťovali verejný priestor“.

Vesta-4 nezaujímal mier. Nezaujímal ju Pukanov. Zaujímal ju len ten nekonečný, modrastý svit obrazoviek v tme spální, kde sa strach premieňal na dáta a dáta na peniaze.

Miloš vošiel do triedy. „Dnes,“ povedal žiakom, „si nebudeme hovoriť o histórii, ktorá sa stala pred sto rokmi. Budeme si hovoriť o histórii, ktorú vám práve teraz niekto podsúva do vreciek. Odložte si mobily. Musíme sa naučiť znova vidieť očami.“

Z hĺbky triedy sa ozvalo tiché zapípanie. Niekto práve dostal upozornenie, že pán učiteľ Miloš sa správa „podozrivo a protikomunitne“. Algoritmus nikdy nespí.