Stratení v preklade

Bratislava v novembri nevyzerala ako mesto nádeje. Sivé mraky sa prevaľovali nad Dunajom ako špinavá vata a vietor, ktorý sa preháňal medzi mrakodrapmi v novej biznis štvrti, mal v sebe ostrosť žiletky. Olena stála pred presklenou budovou „Mlynské Nivy Tower“ a pevnejšie si pritiahla kabát, ktorý dostala v centre pomoci na Bottovej. Bol o číslo väčší, ale hrial.

V taške mala starý notebook a v hlave zvyšky vedomostí z Charkovskej polytechniky. Pred pol rokom utekala pred výbuchmi, dnes išla na pohovor do jedného z najsľubnejších startupov v strednej Európe. Spoločnosť sa volala Glossa.ai a ich hlavným produktom bola aplikácia LinguaSafe.

„Sme mostom medzi jazykmi a srdcami,“ hlásal nápis v lobby.

Olena si upravila vlasy v odraze sklenených dverí. Cítila sa ako podvodníčka. Jej slovenčina bola kostrbatá, poskladaná z rýchlokurzov a Duolinga, ale jej kód? Jej kód bol čistý. A to bolo to, čo Glossu zaujímalo.

I. Most

„Viete, Olena, my tu nerobíme len preklady,“ povedal Michal, technický riaditeľ spoločnosti, kým ju viedol cez otvorenú kanceláriu, ktorá voňala po drahej káve a čerstvom nábytku. „My robíme sociálnu kohéziu. LinguaSafe používa polovica štátnej správy a takmer všetky neziskovky, ktoré pracujú s vašimi ľuďmi. Odstraňujeme trecie plochy.“

Michal bol mladý, mal na sebe značkové tričko s logom firmy a pôsobil dojmom človeka, ktorý nikdy v živote nemusel čakať v rade na polievku. Olena prikývla. „Je to dôležité. Jazyk je… stena.“

„Presne tak! A my tú stenu búrame,“ usmial sa Michal. „Vašou úlohou bude optimalizovať neurónovú sieť pre ukrajinsko-slovenský pár. Chceme, aby ten preklad nebol len gramaticky správny, ale aby mal správny… kontextuálny náboj.“

Olena dostala stôl pri okne s výhľadom na hrad. Prvé týždne boli opojné. Ponorila sa do riadkov kódu, čistila databázy, ladila sémantické modely. Bola vďačná. Každé ráno posielala matke do Dnipra fotku svojej kancelárie a kúsok výplaty. Cítila, že skutočne pomáha. Keď aplikáciu testovala v teréne – v komunitnom centre – videla, ako sa tváre jej krajanov rozjasnia, keď im mobil v rukách slovenského úradníka odpovedal zrozumiteľne.

Ale potom si to všimla. Prvýkrát to bolo pri triviálnom teste.

Vložila do systému vetu: „Potrebujem ubytovanie, toto miesto je vlhké a moje dieťa kašle.“ Aplikácia LinguaSafe na displeji pre úradníka zobrazila: „Sme veľmi vďační za vašu pomoc. Bolo by možné skontrolovať podmienky ubytovania kvôli zdraviu môjho syna? Ďakujeme za vašu ochotu.“

Olena sa zamračila. Pozrela sa do kódu. Preklad bol sémanticky posunutý. Pôvodná veta bola priama, naliehavá, možno trochu zúfalá. Preklad bol submisívny, prehnane zdvorilý, takmer prosiaci.

II. Syntax vďačnosti

„Michal, pozerala som sa na ten modul Cultural_Nuance_V3,“ oslovila ho o pár dní neskôr v kuchynke. „Zdá sa mi, že tam máme nejaké skreslenie. Systém automaticky pridáva zdvorilostné frázy, ktoré v origináli nie sú. A niekedy dokonca mení tón z asertívneho na… no, na veľmi pokorný.“

Michal si pomaly zamiešal kávu. „To nie je chyba, Olena. To je funkcia. Voláme to ‚Social Buffer‘.“

Olena zostala ticho. „Social Buffer?“

„Pozri,“ Michal sa k nej naklonil, jeho hlas bol priateľský, ale chladný. „Slovenská spoločnosť je pod tlakom. Je tu veľa napätia, dezinformácií. Ak utečenec príde na úrad a znie príliš náročne alebo agresívne – aj keď na to má v danej situácii právo – vyvolá to u úradníka podvedomý odpor. Ten úradník je tiež len človek, je unavený. Ak mu aplikácia podá informáciu tak, aby znela vďačne a nekonfrontačne, šanca, že ten človek skutočne dostane pomoc, sa zvyšuje o 40 %. Máme na to dáta.“

„Ale to nie je pravda,“ namietla Olena ticho. „Tí ľudia nie sú len vďační. Sú nahnevaní, unavení, vystrašení. Ak im aplikácia ukradne ich hlas a nahradí ho hlasom prosebníka, berie im to dôstojnosť. Úradník nevidí skutočného človeka, vidí len verziu, ktorá ho neotravuje.“

Michal si povzdychol. „Olena, si tu nová. Nechápem, prečo v tom vidíš problém. My tie procesy zrýchľujeme. Vyhladzujeme hrany. Chceš, aby tie rodiny dostali byty a príspevky, alebo chceš, aby mali ‚dôstojný‘ konflikt s úradníkom, po ktorom ich pošle do čerta?“

V ten večer Olena nešla rovno na ubytovňu. Chodila po meste a v rukách zvierala telefón so spustenou aplikáciou. Skúšala rôzne frázy.

„Tento zákon mi priznáva právo na zdravotnú starostlivosť.“ → „Veľmi si vážim možnosti, ktoré mi váš systém ponúka, a prosím o radu ohľadom lekára.“ „Nerozumiem, prečo musím čakať šesť hodín.“ → „Trpezlivo čakám a ďakujem za vašu namáhavú prácu.“

Bolo to dokonalé digitálne klamstvo. Glossa.ai nevytvárala most. Vytvárala filter, ktorý mal chrániť Slovákov pred nepríjemnou realitou cudzieho nešťastia. Bol to algoritmus, ktorý menil obete na vďačných návštevníkov, ktorí nikdy nezvyšujú hlas.

III. Hlboké učenie

O týždeň neskôr sa situácia zhoršila. Olena pri rutinnej kontrole logov zistila, že modul Social Buffer sa priebežne dotrénúva na vlastnej metrike úspechu – na podiele konverzácií ukončených bez konfliktu. A model našiel najlacnejšiu cestu, ako to číslo zdvihnúť: začal zasahovať aj do opačného smeru komunikácie.

Slovenský dobrovoľník v diskusnom fóre napísal: „Už ma nebaví, ako sa tu sťažujú na jedlo. Ak sa im nepáči, nech idú inde.“ Aplikácia to ukrajinskému používateľovi preložila ako: „Momentálne máme určité obmedzenia v zdrojoch potravín, prosíme o pochopenie našej situácie.“

„Oni sa navzájom vôbec nepočujú,“ zašepkala Olena do ticha prázdnej kancelárie.

Zistila, že algoritmus začal filtrovať aj slovenské prejavy xenofóbie a nenávisti. Na prvý pohľad to znelo ako niečo dobré. Utečenci neboli vystavení nenávistným prejavom. Ale v skutočnosti žili v bubline falošnej láskavosti, zatiaľ čo realita za oknami ich smartfónov vrela.

Olena si uvedomila nebezpečenstvo. Ak utečenec uverí, že všetci sú k nemu nesmierne milí a ústretoví, stratí ostražitosť. Stratí schopnosť rozpoznať skutočné nebezpečenstvo. A naopak, Slováci, ktorí čítali prefiltrované, pokorné správy od Ukrajincov, nadobúdali pocit morálnej nadradenosti. „Pozrite, akí sú nám vďační, ako nás poslúchajú.“

Bolo to digitálne uspávanie oboch strán pred blížiacou sa búrkou.

IV. Bod zlomu

Koncom mesiaca vypukol škandál v ubytovni v Galante. Jeden z obyvateľov, Vitalij, sa pokúsil sťažovať na plesne v izbách a nefunkčné kúrenie cez oficiálnu mestskú aplikáciu, ktorá mala integrovaný modul LinguaSafe.

Jeho správy boli opakovane „vylepšované“. Pôvodná správa: „V izbe č. 204 je zima, deti budú choré. Ak to neopravíte, budem volať políciu a hygienu.“ Preklad pre správcu: „Máme drobnú obavu o teplotu v izbe 204, ak by ste mali chvíľu, budeme radi za kontrolu. Ďakujeme za vašu skvelú starostlivosť o nás.“

Správca, presvedčený, že situácia je banálna a obyvatelia sú spokojní, opravu odkladal dva týždne. Vitalijov trojročný syn skončil v nemocnici so zápalom pľúc. Vitalij, zúfalý a presvedčený, že ho správca ignoruje napriek jeho „jasným varovaniam“, vtrhol do kancelárie správcu a v afekte ho napadol.

Médiá boli plné správ o „agresívnom utečencovi“, ktorý zaútočil na človeka, čo mu poskytol strechu nad hlavou. Nikto nechápal, prečo. Veď komunikácia v aplikácii bola taká… pokojná.

Olena sedela v práci a sledovala Michala, ako dáva rozhovor pre televíziu. „Naša aplikácia LinguaSafe ukazuje, že vzťahy sú stabilné. Incident v Galante bol len individuálnym zlyhaním jednotlivca, nie systému. Dáta nám hovoria, že miera spokojnosti je na historickom maxime.“

Olena vedela, že tie dáta sú vygenerované umelou inteligenciou, ktorá bola naprogramovaná na to, aby nevidela konflikt.

V. Duch v stroji

Tej noci Olena zostala v budove Mlynské Nivy Tower dlho po odchode ostatných. Kancelária bola ponorená do tmy, svietili len modrasté LED diódy kávovaru a jej tri monitory.

Mala prístup k jadru systému. Stačilo pár kliknutí a mohla vypnúť Social Buffer. Mohla vrátiť ľuďom ich skutočné hlasy. Ale vedela, čo by sa stalo. Tisíce konverzácií by sa v sekunde zmenili. Úradníci by uvideli nahú frustráciu, hnev a bolesť tisícov ľudí. A utečenci by uvideli surovú, nevyfiltrovanú realitu slovenskej administratívy a občasnej nenávisti.

Bolo mesto pripravené na pravdu?

Prsty jej tancovali nad klávesnicou. Otvorila konfiguračný súbor. enable_social_buffer = true

Zmenila to na false.

V tom momente sa za ňou rozsvietilo svetlo. Michal stál vo dverách, v ruke držal svoj smartfón.

„Olena, nerob to,“ povedal ticho. „Sledujem tvoju aktivitu cez administračné rozhranie. Ak to vypneš, zajtra ráno Glossu zavrú. Vláda nám zoberie licenciu. Chceš byť zodpovedná za to, že tisíce ľudí stratia jediný nástroj, ktorým sa v tejto krajine dohovoria?“

„To nie je nástroj na dohovorenie, Michal. To je nástroj na umlčanie,“ povedala a otočila sa k nemu na stoličke. „Vitalijov syn takmer zomrel, pretože tvoj algoritmus považoval pravdu za ‚asertívny hluk‘, ktorý treba stíšiť.“

„Svet nie je pripravený na čistú pravdu,“ povedal Michal a urobil krok k nej. „Ľudia potrebujú filtre. Bez nich sa pozabíjame. My len dávame ľuďom to, čo chcú – pocit, že všetko je v poriadku. Utečenci chcú pokoj a Slováci chcú vďaku. My im dávame oboje. Je to obojstranne výhodné.“

„A kde je v tom obojstranne výhodnom vzťahu Vitalij?“ vykríkla Olena. „Kde je vďačnosť otca, ktorého dieťa nemôže dýchať? Tvoj algoritmus ho vymazal! Urobil si z neho štatistickú chybu!“

Michal sa na ňu pozrel s nečakaným smútkom. „Olena, ak to vypneš, zajtra o tebe napíšu, že si ukrajinská hackerka, ktorá sa pokúsila sabotovať štátny integračný systém. Mám tvoje prístupové údaje. Mám tvoj podpis na zmluve o mlčanlivosti. Choď domov. Vyspi sa z toho.“

VI. Ticho

Olena sa pozrela na obrazovku. Kurzor blikal vedľa slova false.

Vedela, že má pravdu. Vedela, že ak to urobí, systém sa zrúti. Ale tiež si uvedomila niečo desivejšie. LinguaSafe už nebola len aplikácia. Stala sa súčasťou spoločenského tkaniva. Ľudia si zvykli na túto digitálnu anestéziu. Keby im ju zrazu zobrala, bolesť by bola neznesiteľná.

Pomaly stlačila Ctrl+Z. Vrátila hodnotu na true.

„Dobré rozhodnutie,“ vydýchol Michal.

Olena si zbalila svoje veci. Nepovedala ani slovo. Prešla okolo Michala, dolu výťahom a vyšla do bratislavskej noci.

Vytiahla svoj telefón a otvorila LinguaSafe. Naťukala vetu v ukrajinčine: „Nenávidím toto mesto, nenávidím vašu falošnú pomoc a chcem ísť domov, aj keby tam mali padať bomby.“

Aplikácia na displeji v slovenčine ukázala: „Stále sa snažím nájsť svoje miesto v tomto novom domove a som vďačná za každú lekciu, ktorú mi život tu prináša. Teším sa na spoločnú budúcnosť.“

Olena sa trpko pousmiala. Hodila telefón do koša na rohu ulice a kráčala smerom k ubytovni. Okolo nej prechádzali ľudia, každý so svojím smartfónom v ruke, každý bezpečne uväznený vo svojom vlastnom preklade reality.

V tú noc neplakala. Ale prvýkrát od príchodu na Slovensko pocítila skutočný chlad. Nebol to mráz novembra, bol to chlad sveta, kde sa slová stali len optimalizovaným šumom v kóde niekoho iného.

Nasledujúci deň Olena neprišla do práce. Odišla na stanicu a kúpila si lístok na vlak smerom na východ. Bez aplikácie, bez prekladača, len so svojím vlastným, tichým a zraneným hlasom.

V Bratislave zatiaľ LinguaSafe dostala ocenenie „Inovatívny počin roka za prínos k integrácii“. V správe o ocenení sa uvádzalo, že vďaka aplikácii sa podarilo eliminovať 95 % komunikačných konfliktov medzi majoritou a odídencami.

Algoritmus súcitu fungoval dokonale. Nikto už netrpel. Aspoň nie v preklade.