Je me suis assis avec Johnson lors d’un événement pour les personnes intéressées par la longévité à Berkeley, en Californie, fin avril. Nous avons parlé sur la touche après le déjeuner (conférence pour moi de contenant en plastique; ce qui semblait être une boîte de poulet et légumes sans plastique sans plastique pour lui), et il s’est assis avec une posture impeccable, son expression neutre.

Plus tôt dans la matinée, Johnson, dans des entraîneurs usés et le genre de sweat à capuche qui est presque certainement trompeusement coûteux, avait raconté ce qu’il considérait comme la fin de l’humanité. Plus précisément, il était inquiet pour l’IA – que nous sommes confrontés à un «horizon d’événements», un moment où l’IA superintelligent échappe à la compréhension et au contrôle humains. Il était venu à Berkeley pour persuader les personnes qui sont intéressées par la longévité pour concentrer leurs efforts sur l’IA.

C’est cette préoccupation particulière qui sous-tend fin à sa mission Don Die. Premièrement, les humains doivent embrasser l’idéologie Don’t Die. Ensuite, nous devons nous assurer que l’IA est alignée sur la préservation de l’existence humaine. Sans l’IA, dit-il, il ne ferait aucune de ses activités et régimes anti-mort. «Je suis convaincu que nous sommes à un moment existentiel en tant qu’espèce», explique Johnson, qui a été élevé Mormon mais qui a depuis quitté l’église. La résolution du vieillissement prendra des décennies, dit-il – nous survivrons aussi longtemps que si nous nous assurons que l’IA est alignée sur la survie humaine.

Les questions et réponses suivantes ont été légèrement modifiées pour la longueur et la clarté.

Pourquoi créez-vous une nouvelle religion?

Nous sommes dans cette nouvelle phase où [because of advances in AI] Nous essayons de réinventer ce que signifie être humain. Cela nécessite l’imagination et la créativité et l’ouverture d’esprit, et c’est une grande demande. L’approche de cette conversation en tant que communauté ou style de vie ne contient pas suffisamment de poids ou de puissance. Les religions se sont révélées, au cours des dernières milliers d’années, être la forme la plus efficace pour organiser les efforts humains. C’est juste une méthodologie éprouvée.

Comment allez-vous fonder une nouvelle religion?

C’est une bonne question. Si vous regardez historique [examples]Bouddha a suivi son propre processus d’exploration et a trouvé un cadre. Et Muhammad avait une histoire. Jésus avait une histoire d’origine… vous pourriez même dire Satoshi [Nakamoto, the mysterious creator of bitcoin] est comme [the founder of] une religion moderne, [launched] avec le papier blanc. Adam Smith a lancé le capitalisme avec son livre. La question est: qu’est-ce qu’une religion moderne et comment convainque-t-elle? C’est une question ouverte pour moi. Je ne sais pas encore.