Algoritmus lojality
Košice IT Valley bolo sklenené a oceľové srdce východného Slovenska. Tisíce mladých ľudí v otvorených kanceláriách, nekonečné zásoby kávy a pocit, že sa tu tvorí budúcnosť. Marek bol jedným z nich. Ako senior vývojár v spoločnosti GlobalCore Solutions zarábal trikrát viac než jeho otec v oceliarňach, splácal hypotéku na dvojizbák na sídlisku Terasa a veril, že kód dokáže vyriešiť akýkoľvek problém.
Až kým nedostal za úlohu implementovať modul „Ethos“.
„Marek, je to o efektivite,“ vysvetľoval mu jeho manažér, človek, ktorý nosil tenisky k obleku a každú vetu začínal slovom „vlastne“. „Ethos nebude nikoho špehovať. Len bude v reálnom čase analyzovať interakcie v tímoch. Cez webkamery, cez Slack, cez tón hlasu v hovoroch. Aby sme vedeli, kto je vyhorený a komu treba pomôcť.“
Marek sa pozrel na dokumentáciu. Modul využíval neurónové siete na analýzu mikrovýrazov tváre. Každé nadvihnutie obočia, každé stisnutie pier počas ranného „stand-upu“ sa menilo na dáta.
„Pomôcť?“ spýtal sa Marek. „Alebo vytriediť?“
„Vlastne… optimalizovať,“ usmial sa manažér.
Marek pracoval na kóde tri mesiace. Čím hlbšie sa dostával do logiky algoritmu, tým viac mu bolo nevoľno. Ethos nehľadal len vyhorenie. Hľadal „disidenciu“.
Algoritmus bol nastavený tak, aby identifikoval ľudí, ktorí mali tendenciu klásť príliš veľa otázok. Ľudí, ktorí prejavovali empatiu k prepusteným kolegom. Ľudí, ktorých výraz tváre pri zmienke o nových firemných hodnotách nebol dostatočne nadšený.
„Marek, pozri sa na toto,“ pošepkal mu v jeden večer kolega Tomáš, ktorý mal na starosti integračné testy. „Skúsil som do testovacieho prostredia nahrať dáta z minulého týždňa. Pozri, koho algoritmus označil červenou.“
Na obrazovke svietil zoznam siedmich mien. Všetci boli členmi neformálnej skupiny, ktorá sa pred mesiacom sťažovala na nútené nadčasy.
„To nie je všetko,“ pokračoval Tomáš a hlas sa mu chvel. „Ethos je prepojený na externé databázy. Sleduje ich profily na LinkedIn, Facebooku, dokonca aj to, čo píšu v diskusiách na spravodajských portáloch pod pseudonymami. Porovnáva štýl písania – syntax, interpunkciu, slovnú zásobu. Je to digitálny odtlačok prsta.“
Marekovi vyschlo v ústach. „Chceš povedať, že firma vie, kto píše tie nahnevané príspevky o korporátnom otroctve?“
„Presne tak. A zajtra majú dostať výpoveď. Oficiálny dôvod: reštrukturalizácia a nízky index výkonnosti generovaný Ethosom. Proti tomu sa neodvoláš. Je to matematika.“
Na druhý deň ráno prišiel Marek do práce skôr než zvyčajne. Nešiel po kávu. Sadol si do boxu a čakal, či mal Tomáš pravdu.
Mal.
O deviatej sa pri presklenej zasadačke zastavili dvaja ľudia z personálneho a manažér v teniskách. Zavolali dnu Dávida – chalana z vedľajšieho radu, s ktorým Marek tri roky chodil na obed, ktorý mu na Slacku posielal odkazy na koncerty a raz mu požičal auto, keď sa Marekovi pokazilo pred víkendom. Dávid bol jedným z tých siedmich. Pred mesiacom ako prvý nahlas povedal, že tie nútené nadčasy sú za hranou.
Cez sklo nebolo počuť slová, len ich vidieť. Manažér hovoril krátko. Dávid najprv nechápal, potom vstal, potom sa pokúšal niečo vysvetliť rukami. Personalistka mu položila na stôl papier. Na chodbe medzitým ktosi ticho deaktivoval jeho prístupovú kartu – Marek videl, ako sa na paneli pri dverách vedľa Dávidovho mena rozsvietila červená.
O desať minút Dávid vyšiel s kartónovou krabicou v náručí. Nikto nezdvihol hlavu od monitora. Ethos ho neoznačil za to, ako pracoval. Dávid bol dobrý. Označil ho za to, ako sa pri rannom stand-upe tváril, keď padlo slovné spojenie „firemné hodnoty“. Marek to vedel presne, lebo tú časť algoritmu sám spolupísal.
Nepovedal nič. Nevstal. Len sledoval, ako sa za Dávidom zatvárajú sklenené dvere s tichým pneumatickým sykotom, a cítil, ako sa mu čosi v hrudi zavrelo rovnako.
Ten večer Marek zhasol, no zaspať sa nedalo. Predstavil si košické ulice plné ľudí, ktorí si myslia, že ich práca a súkromie sú dva oddelené svety. Nevedeli, že v sklenených vežiach na Moldavskej ceste beží algoritmus, ktorý ich životy redukuje na percentá lojality.
Vedel, že ak nič neurobí, zvyšných šesť príde na rad zajtra a ďalších sedem o mesiac. A potom, raz, príde rad aj naňho.
Vrátil sa do práce o druhej ráno. Budova bola takmer prázdna, len SBS-kár na recepcii kývol hlavou. Marek mal stále prístup k hlavnému repozitáru.
Nepokúsil sa systém zmazať. To by si hneď všimli. Urobil niečo oveľa zákernejšie.
Do jadra Ethosu vložil malú podmienku, takzvanú logickú bombu. Ak algoritmus narazil na osobu, ktorá mala stopercentne lojálny profil – taký ten dokonalý korporátny úsmev a nulovú kritiku – systém ju mal začať nenápadne penalizovať. Premenil „dokonalú lojalitu“ na „podozrivú absenciu autenticity“.
A potom urobil druhý krok. Do zoznamu sledovaných entít pridal mená všetkých členov predstavenstva a samotného CEO spoločnosti GlobalCore.
Ráno Marek sedel vo svojom boxe a sledoval, ako sa budova prebúdza. O desiatej dopoludnia nastal rozruch. Manažéri pobehovali s tabletmi v rukách, tváre mali bledé.
Algoritmus Ethos práve vygeneroval report, podľa ktorého bol samotný generálny riaditeľ označený za „vysoké bezpečnostné riziko“ s tendenciou k nelojálnosti a sabotáži. Systém zablokoval jeho prístupové karty a zmrazil mu firemné účty.
„Čo sa to deje?“ kričal manažér v teniskách uprostred veľkopriestorovej kancelárie. „Marek! Ten systém sa zbláznil! Označuje vedenie za nepriateľov firmy!“
Marek sa pomaly otočil na stoličke. Pozrel sa manažérovi priamo do očí. Vedel, že kamera nad ním práve analyzuje jeho výraz.
„Algoritmus je neomylný, nie? Tak ste to hovorili. Možno len vedenie nie je také lojálne, ako si myslelo. Možno Ethos vidí veci, ktoré si my ostatní nechceme priznať.“
Marek vedel, že toto je jeho koniec v GlobalCore. Ale bolo mu to jedno. Kým IT oddelenie v centrále v USA prišlo na to, čo sa stalo, reporty Ethosu unikli na internet. Celý svet uvidel, ako košická pobočka špehuje svojich zamestnancov a ako sa tento systém nakoniec obrátil proti svojim tvorcom.
Keď Marek odchádzal z budovy so svojou krabicou vecí, cítil sa ľahší. Košice IT Valley za ním stále žiarilo, ale on vedel, že dnes do toho skleneného stroja vložil piesok.
Algoritmus lojality bol mŕtvy. Aspoň nateraz. Lenže kým Marek prechádzal cez parkovisko, v datacentre za jeho chrbtom sa už spúšťala obnova zo zálohy spred jeho zásahu. Ethos sa mal vrátiť do troch dní, čistý, poučený a o niečo lepšie strážený pred vlastnými tvorcami. Jeho logická bomba nebola víťazstvo. Bola poznámka na okraji, ktorú si nabudúce prečítajú skôr, než ju stihne niekto zopakovať.