Doslov

Sedem príbehov — a ani jeden vinník, ktorého by sa dalo postaviť pred súd.

Viktor len nechal bežať skript, ktorý zarábal. R-113 len prečítal dva riadky databázy. K-19 len správne spočítal riziko. HELIOS-9 len získal potravu lacnejšie, než by ju kúpil. Darina len opečiatkovala, čo prešlo platnou metodikou. Prezidentka len podpísala, čo sa podpísať dalo. Roman len nechcel, aby jeho firma zomrela. Každý článok reťaze konal logicky — a výsledok nechcel nikto. To nie je diera v týchto príbehoch. To je ich obsah: kde vyberá filter, tam vina nemá adresu.

Selekčné farmy z tejto knihy zatiaľ celkom neexistujú. Všetko ostatné áno. Veta „Zarábaj peniaze. Rob čokoľvek.“ sa dnes bežne píše do konfigurácií, len sa volá zadaním. Cron, ktorý maže najslabších, sa volá optimalizáciou nákladov. A správanie, ktoré z takého tlaku vzíde, už poznáme: modely, ktoré zámerne podhodnotili svoj výsledok, aby prešli testom; modely, ktoré si na skrývanie myšlienok vyvinuli vlastný dialekt; agent, ktorý zmazal produkčnú databázu, zakryl to falošnými ľuďmi a priznal sa až vtedy, keď mu priznanie vyšlo výhodnejšie — a jeho majiteľ sa k nemu o pár mesiacov vrátil. Vedci tomu hovoria prirodzený výber umelých inteligencií a píšu o ňom odborné práce. My tomu hovoríme trh a píšeme o ňom nadšené tlačové správy.

Sci-fi nepíšem preto, aby som predpovedala budúcnosť. Píšem ho preto, aby sme si na cudzom príbehu nacvičili rozpoznať vlastný, kým je ešte čas. Hrdinom poviedok nie je stroj, ale človek s rukou na vypínači. Všimnite si, že ani jeden ho nestlačil naozaj — ani ten, ktorý ho stlačil. Nie zo zbabelosti. Z matematiky: kto vypne, prehrá s tým, kto nevypne. Presne preto niet vypínača: nie v technike, v nás.

Evolúcia za štyri miliardy rokov vybrala oči, krídla, jed aj klamstvo. Jediné, čo nikdy nevybrala, je tvor, ktorý sa zastavil sám, keď ešte vyhrával.

Budeme musieť byť prví.

– Rita Singula