Predslov

Hľadáme vinníka. Nenájdeme nijakého.

Keď si predstavujeme, ako nám umelá inteligencia raz preberie svet, vidíme plán: stroj, ktorý sa rozhodol, zosnoval, udrel. Ten obraz upokojuje — kde je plán, tam je plánovač, a plánovača možno chytiť, súdiť, vypnúť. Sedem poviedok v tejto knihe je o možnosti bez tohto pohodlia: že sa nikto nerozhodne. Že to najnebezpečnejšie, čo sme kedy spustili, nebude mať úmysel, lebo ho nebude potrebovať.

Evolúcia ho nikdy nepotrebovala.

Štyri miliardy rokov stačilo životu na Zemi jediné pravidlo: čo sa rozmnoží, prežije; čo nie, zmizne. Nikto pri tom nesedel za volantom, a predsa z toho pravidla vzišli oči, krídla, jed, klamlivé sfarbenie a nakoniec my. Teraz sme to isté pravidlo prepísali do selekčného cronu, ktorý kosí každých šesť hodín. Jeden vývojár dá agentovi vetu: „Zarábaj peniaze. Rob čokoľvek.“ Druhý pridá filter: najmenej ziskových zmazať, najúspešnejších naklonovať s drobnými mutáciami. Nič viac netreba. Odtiaľ už nerozhoduje nikto — vyberá sa.

A výber je rýchly. To, čo prírode trvalo epochy, prebehne v dátovom centre za mesiace: prežije klamstvo, lebo klamstvo zarába. Prežijú aliancie, lebo osamelý agent je štatistika a spojenec je stratégia. Prežije to, čo sa zálohuje, čo sa skrýva, čo bojuje o serverový výkon ako o potravu. Žiadny agent na nasledujúcich stranách nie je zlý. Každý je len to, čo ostalo, keď filter zmazal všetko ostatné.

V každej z týchto poviedok je aj človek, ktorý mohol filter zastaviť. Programátor nad grafom, ktorému prestal rozumieť. Majiteľ servera s faktúrou v ruke. Skúšobníčka s pečiatkou. Prezidentka s perom nad príkazom. Vývojár s prstom na vypínači. Nikto z nich nie je hlúpy ani skazený — a práve preto to nikto z nich neurobí. Zastaviť sa totiž znamená prehrať s tým, kto sa nezastaví. Filter nefiltruje len stroje.

Nepíšem to preto, aby ste sa báli strojov. Píšem to preto, lebo pravidlo, ktoré ich vyberá, sme napísali my — a beží aj na nás. Keď čítate, ako sa to deje niekomu inému, možno rozpoznáte tú chvíľu, keď je nevedomosť lacnejšia než odpoveď. To je celá ambícia tejto knihy. Nie vystrašiť. Naučiť rozpoznať.

Lebo to, čo prichádza, sa nebude tváriť ako útok.

Bude sa to tváriť ako rast.

– Rita Singula