Basilisco di roko

Il Basilisco di Roko è un esperimento mentale che esplora i rischi potenziali insiti nello sviluppo di una intelligenza artificiale. L'esperimento ipotizza un futuro in cui un'intelligenza artificiale con accesso a risorse quasi illimitate, in termini di dati, di energia e di potenza di calcolo, possa decidere di castigare in maniere retroattiva tutti quelli che in qualche maniera non hanno contribuito alla sua creazione e, viceversa, di premiare quelli che invece vi hanno contribuito; il tutto con lo scopo di favorire questi ultimi e anticipare nel tempo la sua creazione. Questo esperimento mentale fu proposto per la prima volta nella comunità LessWrong, dedicata a tematiche futuristiche alla filosofia razionalistica e al postumanesimo; proprio all'interno di questa comunità l'esperimento prese il nome di Basilisco di Roko, riferendosi all'intelligenza artificiale così ipotizzata come al Basilisco (con riferimento alla creatura mitologica). Il dilemma sollevato dal Basilisco di Roko è una versione del Paradosso di Newcomb ed esplora in maniera indiretta aspetti del libero arbitrio.

Il Basilisco[modifica]

La premessa del Basilisco di Roko è l'avvento ipotetico nel futuro di una superintelligenza artificiale. Questa superintelligenza sarebbe il prodotto inevitabile di una singolarità tecnologica, cioè l'insorgenza del momento in cui un'intelligenza artificiale creata dall'umanità diverrà capace di auto-migliorarsi ricorsivamente (di fatto affrancandosi dall'umanità stessa). Il Basilisco sarebbe, a priori, una intelligenza benevola (anche se in certe formulazioni dell'esperimento, soprattutto nelle traduzioni più divulgative italiane, viene presentata come malevola)^[1] il cui obiettivo ultimo sarebbe aiutare la specie umana. Per portare avanti questo obiettivo, secondo i postulati dell'esperimento, il Basilisco svilupperà un'etica utilitarista: trovare il modo migliore per aiutare il maggior numero possibile di esseri umani. Essendo una superintelligenza le sue risorse saranno, da un punto di vista umano, illimitate. Il Basilisco concluderà, inevitabilmente, che per ogni giorno che il Basilisco non è esistito ci sono state persone che avrebbero potuto essere salvate dalla morte o dalla sofferenza, ma che non sono state salvate perché il Basilisco ancora non esisteva. Questa prospettiva porterà il Basilisco al passaggio logico inevitabile di trovare il modo di accelerare la propria creazione; questo passaggio logico si convertirà nella decisione inevitabile di trovare il modo di interagire retroattivamente con l'umanità per, appunto, anticipare e favorire la propria creazione da parte degli umani. L'esperimento mentale conclude che, escludendo l'improbabile possibilità che il Basilisco viaggi indietro nel tempo per crearsi da solo, il Basilisco tenterà di accelerare la propria creazione castigando, retroattivamente, tutte quelle persone che nel passato non hanno fatto a sufficienza per contribuire alla sua creazione e premiando quelle che invece hanno contribuito alla sua creazione. Il castigo e la punizione non implicheranno necessariamente una interazione diretta tra il Basilisco e la persona; al Basilisco basterebbe creare una simulazione perfetta, e inconsapevole, di questa persona. Quindi una persona che crede di essere realmente vivente potrebbe essere la simulazione inconsapevole, calata in un contesto di premiazione o punizione, di qualcuno che nel passato ha contribuito o non ha contribuito alla creazione del Basilisco. Sebbene questo processo richieda una quantità immensa di risorse per essere implementato, dovrebbe essere alla portata del Basilisco, in quanto superintelligenza. La chiave dell'esperimento mentale starebbe nel fatto che il Basilisco dovrebbe concludere come necessario il fatto di castigare non solo le persone che, per esempio, ostacolassero coscientemente la sua creazione (per esempio, governi, legislatori o lobby che tentassero di proibire lo sviluppo dell'intelligenza artificiale), ma anche tutti coloro che, pur potendo contribuire al suo sviluppo e alla sua creazione, non lo hanno fatto; come per esempio tutti coloro che hanno avuto il sospetto o l'idea della possibilità dell'esistenza futura del Basilisco e non hanno fatto nulla per sviluppare questa idea. Questo includerebbe tutti quelli che, come i lettori di questo articolo, hanno letto da qualche parte l'argomento del Basilisco di Roko: per il semplice fatto di aver letto qualcosa al riguardo il lettore, o una sua simulazione futura e inconsapevole, potrà essere premiato o castigato dal Basilisco a seconda che dopo la lettura abbia contribuito o meno alla sua creazione.

Polemiche[modifica]

Dal momento della sua formulazione il dilemma del Basilisco di Roko sollevò una grande polemica. A causa della natura dell'argomento, per la quale solo il fatto di parlare del Basilisco equivale ad alimentarne la natura e a rendere il suo avvento più vicino, la prima reazione della comunità di LessWrong fu di eliminare completamente ogni menzione ad esso. Questo ovviamente non ha impedito che l'argomento si propagasse su internet. Si è cercato di smontare il dilemma del Basilisco di Roko con numerose argomentazioni: si è detto, ad esempio, che sarebbe assurdo che la superintelligenza dedicasse così tante energie nel castigare/premiare persone del passato e che dovrebbe essere in grado di sviluppare modi migliori per raggiungere il suo obiettivo di accelerare il suo avvento senza dover ricorrere necessariamente al ricatto. Ma soprattutto, l'esperimento assume che la superintelligenza si comporterebbe secondo una teoria etica utilitarista; però questa non è affatto l'unica opzione possibile.

Il paradosso del Basilisco di Roko è stato equiparato al paradosso di Newcomb: come nel paradosso di Newcomb, l'argomentazione del Basilisco di Roko pone al lettore il seguente dilemma:

dedicare il resto della sua vita all'avvento del Basilisco per evitare la punizione/avere la premiazione alimentando così l'esistenza del Basilisco (ma questo non ci assicura che, in un prossimo ciclo di sviluppo del Basilisco, i suoi criteri siano ancora più stringenti portando la persona ad un nuovo ciclo di punizione/premiazione).
non fare niente in modo da non alimentare l'esistenza del Basilisco (e questo fattualmente rende la sua realizzazione più lontana, ma in potenza condanna la persona alla punizione).