La singolarità tecnologica è il punto in cui il progresso tecnologico accelera talmente da superare la capacità di comprensione e previsione degli esseri umani. Le macchine superintelligenti saranno capaci di progettare se stesse migliorandosi continuamente, e in tal modo usciranno del tutto fuori dal nostro controllo.

Già ora in molti campi come le neuroscienze, l’apprendimento automatico, la robotica, alcune capacità dei computer sono superiori a quelle umane. Nel 1994 un computer ha battuto un campione di dama, nel 1997 un campione di scacchi, nel 2016 ha vinto l’uomo a Go. Robot e reti di neuroni artificiali eseguono molte operazioni “intelligenti” e imparano facendo e acquisendo dati, fino ad arrivare alla guida automatica di veicoli e al riconoscimento di volti e voci.

L’ipotesi di una macchina superintelligente che possa progettare macchine ancora più intelligenti innescando un processo di sviluppo tecnologico imprevedibile e sovrumano comincia ad emergere già negli anni ’60 del secolo scorso, ma viene formulata negli anni ’80 dal matematico e romanziere Vernon Vinge, che addirittura immagina la fine o la trasformazione radicale degli esseri umani surclassati dalle macchine.

Nel 2006 Ray Kurzweil estende la legge di Moore a tutta la tecnologia, e ipotizza uno sviluppo per cicli esponenziali successivi che arriverebbe alla singolarità verso il 2050, trasformando tutto il mondo.

Alcuni critici della singolarità come il cosmologo Martin Rees sostengono che il cervello umano sia già il limite naturale dell’intelligenza in quanto ottimizza le dimensioni e l’efficienza; in un cervello più grande le informazioni impiegherebbero più tempo a spostarsi fra i neuroni, quindi le prestazioni del cervello sarebbero più lente. Perciò anche le macchine incorrerebbero in limiti simili e non sarebbe possibile il loro sviluppo senza fine.

Nel 2008 con il sostegno del Research Park della NASA è nata nella Silicon Valley la Singularity University, istituto di ricerca, formazione, incubazione di startup e rete di ex-allievi.