Futurológ Nick Bostrom, ktorý inštitút vedie sa domnieva, že stávky na náš osud už nemôžu byť vyššie, pretože pred sebou môžeme mať posledné storočie života ľudstva. Ľudstvo podľa Bostroma môže byť pokojné, pokiaľ ide o pandémie či prírodné katastrofy. Tie posledné bodku v jeho histórii neurobia, hoci môžu spôsobiť kolosálne straty na životoch. Nick Bostrom sa domnieva, že šance tieto katastrofy prežiť sú na našej strane, lebo sme už prečkali tisíce rokov chorôb, hladomorov, záplav, zemetrasení, predátorov alebo prírodných zmien.
Nebezpečenstvom pre nás v rámci jedného storočia nie je zrejme ani dopad asteroidu, pretože také riziko je "mimoriadne malé". Ani svetové vojnové konflikty v 20. storočí alebo epidémia španielskej chrípky rast populácie nezastavili. Prípadná jadrová vojna by síce priniesla desivú deštrukciu, ale dostatok ľudí pre pokračovanie ľudského rodu by ju iste prežil.
Podľa Bostroma ale ľudstvo dosiahlo nový druh technologickej éry, ktorý našu budúcnosť môže ohroziť ako doteraz nič predtým. Tvrdí, že technologický pokrok už prevýšil naše schopnosti kontrolovať možné následky, čo prirovnal k nebezpečnej zbrani v rukách dieťaťa.
Efekt reťazovej reakcieExperimenty v oblastiach syntetickej biológie, nanotechnológie či umelej inteligencie rýchlo spejú do nechcenej a nepredvídateľné oblasti. Syntetická biológia, kde sa snúbi biológie s inžinierstvom, sľubuje veľký prínos do lekárstva. Bostrom sa ale obáva neočakávaných následkov.
Obavy plynú aj z toho, ako umelá inteligencia či inteligentné stroje zareagujú na vonkajší svet. Počítačom riadená inteligencia môže byť silným nástrojom v priemysle, medicíne, poľnohospodárstve či ekonomike, zároveň ale môže byť úplne ľahostajná k akýmkoľvek vedľajším škodám.
Sean O'Heigeartaigh, ktorý v inštitúte pracuje ako genetik, to prirovnáva k algoritmom používaným v automatizovanom burzovom obchodovaní. Tieto matematické príkazy môžu mať ničivé následky pre skutočnú ekonomiku a skutočných ľudí. "Je veľmi nepravdepodobné, že by (umelá inteligencia) chcela škodiť," povedal O'Heigeartaigh. Dodal ale, že vždy existuje riziko nezamýšľanej postupnosti udalostí, kedy niečo začne škodiť potom, čo je prevedené do iného prostredia.
"S touto technológiou môžete robiť veci s efektom reťazovej reakcie, takže s veľmi málo zdrojmi na začiatku môžete uskutočniť projekty, ktoré vedia zasiahnuť každého na tomto svete," povedal o umelej inteligencii, biotechnológii a nanotechnológii.
