Jako člověk Umělá inteligence a problém ovládání

Stuart Russell, překlad Jiří Zlatuška

V katastrofických filmech bývá konflikt mezi lidmi a inteligentními stroji líčen jako nevyhnutelný, navíc s deprimujícím výsledkem. Stuart Russell, jeden z nejvýznamnějších badatelů na poli umělé inteligence (AI), v této přelomové knize tvrdí, že se takovému scénáři můžeme vyhnout – ale pouze pokud koncept AI od základu znovu promyslíme. Předkládá přehled průlomových objevů, které je třeba na cestě k nadlidské AI ještě učinit. Pokud k nim však dojde a nadlidská AI vznikne, objeví se zde entity mnohem mocnější než lidé. Jak zařídit, aby nás neovládly? Inteligentní stroje mohou hrozivým způsobem převzít kontrolu nad rozhodováním v reálném světě a sledovat vlastní cíle vyplývající z jejich programového vybavení. Russell v této publikaci přichází s konceptem „prokazatelně prospěšné“ AI, o jejíchž algoritmech bude možné matematicky dokázat, že sledují cíle prospěšné pro jejich lidské uživatele. Deník The Guardian proto knihu Jako člověk označil za jeden z nejdůležitějších textů o umělé inteligenci.