!washing machine will kill us .
Archimede arté Emission du 21 mars 2000
Portrait
"L'être humain est la seule créature intelligente vivant sur la planète Terre. Le stade le plus évolué de l'évolution."
Ces
enseignements appartiendront bientôt au passé, si l'on en croit cette
véritable usine à penser, installée dans le Massachusetts. Dès le hall
d'entrée, on comprend la philosophie de l'entreprise : concevoir des
logiciels informatiques intelligents. Au mur est accroché un tableau
composé de graphiques informatiques. De nouvelles oeuvres d'art sont
produites sans relâche devant le spectateur, sans que personne n'en
donne l'ordre explicite.
Mais il s'agit seulement d'une réalité
virtuelle, qui n'existe que dans le regard d'une créature bien vivante.
Cette société est dirigée par Ray Kurzweil. Un visionnaire auquel le
prestigieux Wall Street Journal a récemment décerné le titre
d'infatigable génie. Kurzweil a été fasciné par les progrès fulgurants
des techniques informatiques alors qu'il était encore étudiant en
littérature et en informatique au Massachussets Institute of
Technology. C'était au début des années 50, période charnière, aube
d'une incroyable révolution technique. À l'époque, chaque nouvel
ordinateur était encore perçu comme un miracle.
Les calculateurs
à bande et les cartes perforées ont laissé la place aux ordinateurs
électroniques, dont les dimensions gigantesques ont été réduites au fil
des années. Kurzweil a fait partie de ceux qui ont profité de cette
nouvelle technique et, surtout, qui ont su en exploiter toutes les
possibilités.
En 1974, il a ainsi inventé un appareil de lecture
destiné aux aveugles. Utilisant le même principe qu'une photocopieuse,
un ordinateur scanne le texte d'une page et la lit ensuite à haute
voix. Une révolution pour les aveugles du monde entier, car elle leur
permettait d'accéder soudain au contenu de n'importe quel ouvrage, même
s'il n'était pas disponible en Braille.
Parmi les utilisateurs
enthousiastes de cet appareil, Stevie Wonder. Il contacte le jeune
visionnaire, une rencontre aux conséquences durables. Kurzweil invente
ensuite un clavier qui permet à Stevie Wonder de créer sur un
ordinateur le son de tout un orchestre, choeur compris. Le monde de la
musique connaît, lui aussi, sa révolution Kurzweil, et Stevie Wonder
s'est fait un ami.
Kurzweil n'a rien d'un illuminé ; il fait
partie des scientifiques les plus estimés des États-Unis. Sa dernière
thèse est d'autant plus controversée. Selon lui : L'être humain perd sa
position centrale de créature la plus intelligente et la plus
performante sur la Terre. Dans son livre The Age of Spiritual Machines,
il décrit cette révolution de façon détaillée.
Beaucoup de
choses vont se passer dans les cent ans à venir. Les avancées
technologiques accélèrent et le prochain siècle apportera autant que
les dix précédents. Bien avant 2099, nous aurons les moyens de scanner
le cerveau humain, de scanner mon cerveau par exemple et d'en
enregistrer le moindre détail, chaque connexion neuronale, chaque
concentration de neurotransmetteurs, chaque fente synaptique, chaque
cellule. Puis nous pourrons le reproduire, le copier dans un ordinateur
neuronal de capacité suffisante, afin de fabriquer une copie parfaite
de mes pensées, de mes souvenirs, de tout ce que je sais faire.
Cette
perspective de la copie d'un cerveau peut sembler incroyable ; Kurzweil
la justifie pourtant avec force détails. Il ne parle pas de l'invasion
subite de machines intelligentes, il décrit une évolution insidieuse,
née il y a déjà longtemps.
Sa nouvelle invention, par exemple,
traduit presque en simultané d'anglais en allemand avec une
qualité étonnante. Conséquence : nous parlons aux machines et les
machines nous parlent. Pour ses thèses, Kurzweil a également analysé
d'autres disciplines scientifiques et constate que les paradigmes
changent à un rythme sans cesse plus rapide : Qui aurait imaginé il y a
dix ans que des scientifiques seraient en mesure de cloner des
individus ? Depuis la brebis Dolly, rien ne peut plus arrêter le génie
génétique.
En médecine, des puces remplaceront bientôt la
fonction de certains organes. Des expériences ont déjà permis à des
aveugles de voir les contours des objets. Des innovations comme
celle-ci ne cesseront de faire leur apparition dans notre
quotidien pour Kurzweil, ce sont autant d'éléments d'une immense
mosaïque qui va ouvrir la voie à de nouvelles formes d'intelligence.
C'est
un phénomène progressif. Nous n'allons pas nous réveiller un jour et
inventer des machines intelligentes à partir de rien. Ce sera très
progressif. Vers 2019, dans 20 ans, nous disposerons déjà des capacités
matérielles. Un ordinateur personnel à mille dollars aura la même
mémoire et la même vitesse qu'un cerveau humain à peu près 20
millions de milliards de calculs par seconde. C'est une condition
nécessaire, mais non suffisante pour créer des machines intelligentes.
Avec un tel ordinateur aujourd'hui, nous pourrions exécuter une feuille
de calcul en un millionième de seconde, nous pourrions calculer à des
vitesses folles, mais cela ne conférerait pas nécessairement une
intelligence humaine à cet ordinateur.
L'étape suivante résidera
dans la conquête et la maîtrise des nanotechnologies. Ce sont elles qui
permettront la prochaine grande avancée en matière d'ordinateurs.
D'après Kurzweil, plusieurs milliards de minuscules scanners, appelés
nanorobots, de la taille d'un globule rouge, pourront être envoyés dans
le cerveau, afin d'en relever tous les détails depuis l'intérieur. Ils
communiqueront sans fil sur un réseau local et établiront ainsi le plan
complet d'un cerveau humain. Cette première étape est indispensable à
la duplication ultérieure de ce cerveau.
Projetons-nous dans
trente ans, vers 2029 ; nous aurons le matériel et les logiciels de
l'intelligence humaine. Si l'on combine une intelligence de niveau
humain aux domaines dans lesquels les machines sont déjà
supérieures elles sont beaucoup plus rapides, elles peuvent
partager leur mémoire... Si un ordinateur apprend quelque chose, il
peut instantanément en faire profiter d'autres machines les
humains en sont incapables. Donc en combinant les deux, on aura quelque
chose de très puissant. Dans trente ans, nous aurons des machines aussi
intelligentes que les êtres humains. Et une fois qu'un ordinateur aura
atteint ce niveau, il aura vite fait d'aller beaucoup plus loin. Car
l'intelligence non biologique s'accroît de manière exponentielle.
Les
nanorobots seront en mesure d'établir de nouvelles connexions entre les
neurones, ce qui augmentera plusieurs millions de fois nos facultés de
mémoire. Nous penserons plus vite, nous reconnaîtrons les choses
beaucoup plus vite. Notre imagination sera décuplée et nous disposerons
de capacités cognitives nettement supérieures. D'après Kurzweil, tout
cela devrait intervenir vers la fin des années 2020.
Vers les
années 2040 - 2050, nous aurons une grande quantité d'intelligence non
biologique dans notre cerveau, et elle aura été introduite sans
intervention chirurgicale juste grâce à ses petits nanorobots,
qui suivront la circulation sanguine pour pénétrer dans notre cerveau.
Donc quand on rencontrera un être humain, on se trouvera bien sûr face
à une personne biologique, mais dont les facultés mentales auront été
améliorées par des moyens non biologiques.
Où se termine dès
lors l'être humain et où commence la machine ? L'intelligence humaine
fusionnerait donc avec l'intelligence technique pour donner une sorte
de super intelligence ?
Le cerveau humain continuera à vivre dans l'ordinateur, et l'intelligence artificielle dans l'être humain.
Fascinant
et effrayant à la fois. Dans l'ordinateur, une personne accèdera à
l'immortalité, car le corps humain, ce support matériel qui peut mourir
et entraîner dans la tombe toutes les informations contenues dans le
cerveau, appartiendra au passé. L'ordinateur est beaucoup plus sûr,
puisque même après une catastrophe aérienne, on peut généralement
récupérer les logiciels et les données. L'être humain deviendra donc
immortel si l'on accepte qu'il poursuive son existence dans
l'ordinateur.
Tout dépend comment on définit l'immortalité. On
arrivera à un point où mes pensées, mes compétences, mes
souvenirs tout cela, c'est de l'information, qui est représentée
dans mon cerveau sous la forme d'un immense réseau ma
connaissance de l'allemand, mes souvenirs d'un livre que j'ai lu, tout
cela est représenté par des informations dans mon cerveau. Et j'estime
qu'il y a des milliers de milliards de milliards d'octets
d'informations dans le cerveau. Aujourd'hui, quand une personne meurt,
toutes ces informations disparaissent. Pourtant elles représentent nos
souvenirs, nos savoirs, nos personnalités et elles pourront donc vivre
indépendamment du matériel, car nous pourrons les réintroduire sur un
support non biologique. Cela ne veut pas dire nécessairement qu'elles
vivront éternellement. Pensez aux logiciels aujourd'hui quand on
achète un nouvel ordinateur, on ne jette pas tous les fichiers de
l'ancien, on les recopie sur la nouvelle machine. Mais ça ne veut pas
dire qu'ils vivront éternellement. Si on en oublie au passage, ou si
certains ne servent plus et qu'on change d'ordinateur plusieurs fois,
on finit par perdre ces anciens fichiers. L'information n'est pas
éternelle. Elle vit tant qu'elle est pertinente et importante.
Mais
quelle idée devons-nous nous faire de cette vie dans l'ordinateur ? Que
deviendront nos sentiments ? Le chagrin, la douleur, la joie,
l'affection ? Un cerveau copié dans un ordinateur et complété
d'intelligence artificielle continue-t-il à vivre comme dans un corps
humain, ou bien n'est-il plus qu'une intelligence morte, dépourvue de
toute créativité ?
On peut faire mentalement l'expérience de
copier tout ce qui est important dans mon cerveau dans une autre
entité. Et bien, cette entité se comportera exactement de la même
manière, elle agira comme moi. Et quelles que soient mes capacités en
termes d'humour, ou d'affection, on aura la même chose, les mêmes rêves
et les mêmes sentiments. Si on lui donne un corps et il faudra
bien le faire cette entité agira exactement avec la même
subtilité pour vous convaincre qu'elle traite correctement les émotions.
Une
vie normale dans l'ordinateur, sur Internet... L'être humain devenu
fichier personnifié, il court le risque de devenir l'animal de
compagnie de l'ordinateur. Cet aspect soulève naturellement la question
de la dignité humaine. Et les thèses de Kurzweil soulèvent des
interrogations sur les limites de la science. Les spécialistes de
l'informatique ne s'intéressent actuellement qu'aux immenses
possibilités de leur discipline pas aux questions d'éthique. Et
la recherche ne connaît de frontière ni juridique ni géographique. Nous
assistons à une évolution impossible à arrêter qu'elle nous
plaise ou non.
Il ne s'agit pas d'un projet unique dans un
laboratoire, où l'on pourrait se demander : est-ce qu'on se lance ou
pas ? Il s'agit de dizaines ou de centaines de milliers de projets qui
prennent des formes très diverses. Dans toute l'industrie informatique
et dans le monde entier, tout le monde essaie de créer des ordinateurs
plus puissants et des logiciels plus intelligents. Quand une société à
laquelle j'appartiens développe un logiciel de reconnaissance vocale
plus intelligent, c'est-à-dire plus précis, qui comprend mieux la
parole, il rend obsolète tous les autres logiciels. Ce logiciel plus
intelligent délivre une plus grande valeur, donc il est impossible de
stopper cette évolution sans mettre un terme au capitalisme et à la
libre entreprise. Il faudrait supprimer le moindre reste de compétition
économique, car les machines intelligentes créent plus de valeur. Cela
fait avancer l'économie du monde entier. Et c'est une route pavée d'or,
les avantages sont considérables.
La vie dans l'ordinateur, avec
ses nanorobots et son intelligence artificielle, va transformer notre
manière de vivre. Les structures de la société, fruits de plusieurs
siècles d'histoire, vont devoir être revues. La vision euphorique que
Kurzweil décrit pour l'an 2099 doit servir de signal d'alarme pour la
science et la société. Car même un utopiste comme Kurzweil a conscience
des dangers de ses recherches et de la catastrophe qu'elles pourraient
entraîner.
Un scénario désastreux, ce serait un emballement dans
la réplication des nanorobots. Pour qu'ils soient utilisables, il faut
des milliards ou des milliers de milliards de ces petits nanorobots.
Pour atteindre ces ordres de grandeur, il faut qu'ils se répliquent
automatiquement. Le corps fonctionne précisément de cette manière : on
part d'une cellule puis, à la fin, le corps humain compte des millions
de milliards de cellules. Comment passe-t-on de un à plusieurs millions
de milliards ? Par autoréplication. Ce sera pareil avec les nanorobots.
Que se passe-t-il quand l'autoréplication d'une cellule biologique
dérape ? Certaines cellules oublient de cesser de se répliquer et cela
produit un cancer. On aura l'équivalent dans les milieux non
biologiques. Un emballement de l'autoréplication des nanorobots
provoquerait un cancer non biologique et ce serait très
destructif. Un autre scénario catastrophe serait la centralisation du
pouvoir de contrôle comme dans le livre "1984", où un
gouvernement totalitaire contrôle tout . Cette technologie pourrait
conduire également à cela. Un gouvernement pourrait implanter des
nanorobots dans les cerveaux de tout le monde et lire les pensées des
gens pour asseoir son pouvoir totalitaire. Ce serait un autre scénario
catastrophe.
© 1998 ARTE G.E.I.E
--> http://archives.arte.tv/hebdo/archimed/20000321/ftext/sujet3.html