Ühel pool on Google, Amazon ja Microsoft, mis arendavad tehisintellekti ja õpetavad sellele maailmas iseseisvalt hakkamasaamist. Teisel pool on Elon Musk, Steven Hawkins, Jaan Tallinn ja teised, kes räägivad, et ühel hetkel (ja mitte kauges tulevikus) võime me jõuda singulaarsusse, kus masinad saavad inimestest targemaks. Mis edasi saab, on juba üsna ennustamatu, seega peaksime me selle probleemiga tegelema juba praegu.

Ka Google on seda ohtu tunnetanud ja valmistub iseõppivatesse masinatesse istutama salajast väljalülitamise nuppu. Siin on muidugi probleem, mida oleme näinud ka ulmefilmidest: iseõppiv masin võib ühel hetkel õppida selle punase nupu mõju alt pääsema ja ei allu enam väljalülitamisele.

Kuidas seda aga nii teha, et iseõppivad algoritmid väljalülitamisest pääsemist ära ei õpiks?

Edasi tuleb puhas matemaatika. Kui lehekülgede kaupa valemeid inim-intelligentsile veel mõistetavad on, võib läbi lugeda selle uurimistöö: Safely Interruptible Agents.

Lootust on, aga kas see teadus ka aitab tehisintellekti ohjata, seda ei tea peale singulaarsust enam keegi.

Uurimistöö on valminud Google´i ja Oxfordi Ülikooli Inimkonna Tuleviku koostöös. Teine töörühm, mis tegeleb inimkonna eksistentsi küsimustega tehnoloogia arengust tekkivatest ohtutdest lähtuvalt, on Cambridge´i Ülikooli juures ja sealses Eksistentsiaalse Riski Uurimise Keskuses, kus tegutseb ka Skype´i tuumik-koodi üks loojatest Jaan Tallinn.