Doslov

Výrok, od ktorého sa táto kniha odrazila, je skutočný. Bill Gates povedal, že umelá inteligencia je dosť silná na to, aby vyvolala udalosti s miliardou úmrtí, a že takú silnú zbraň ešte nikdy nemali v rukách ľudia so zlým úmyslom. Sám dodal, že zasiahnuť celé ľudstvo by bolo ťažké. A pridal požiadavku: samoregulácia nestačí, treba povinné bezpečnostné pravidlá a štátny dohľad. Po prvých autonómnych hackerských útokoch sa za spomalenie vývoja vyslovili aj Anthropic a OpenAI, teda tí, ktorí ten stroj stavajú. Hovoril o svete a o miliarde. Táto kniha sa pýta, ako by vyzerala menšia verzia tej istej vety u nás, v jednom týždni.

Všetko ostatné je fikcia. Nemocnica, obec, vodáreň, stredisko na Sliači, zákon aj zaisťovňa – nič z toho sa nestalo. Mechanizmy však vymyslené nie sú. Umelá inteligencia už dnes zlacňuje útoky a zrýchľuje ich. Lož vyrobí za minútu v kvalite, na ktorú pravda potrebuje laboratórium. Najbližšie riziko nie je vzbura strojov, ale útoky vo veľkom na infraštruktúru, ktorú používame každý deň bez toho, aby sme o nej premýšľali.

Miliardu treba čítať ako hornú hranicu. Na jej dosiahnutie by sa muselo zísť priveľa zlyhaní naraz. Lenže v tejto knihe nikto na umelú inteligenciu nezomrel. Zomreli na chybu v ručnom dávkovaní nadránom, na inzulín, ktorý sa nedal zaplatiť, na tlačenicu pri kamióne s vodou, ktorú nikto nepotreboval, na infarkt vodiča, ktorý rozvážal vodu dvadsať hodín bez prestávky. Každý obranca konal kompetentne a každá obeť vypadla zo štatistiky, lebo sa nedala pripísať útoku.

Na veľké čísla sa pripravujeme radi. Malé sú roztrúsené po obciach, nemocniciach a matrikách, kam sa nikto nepozerá.

Ak sa pripravujeme na katastrofu s jedným veľkým číslom, kto sa pripravuje na tú, ktorá ich má sedem malých?

Rita Singula