Cybervisions.eu

Cyberespace, histoire et prospective

Juin

02

Transhumanisme, surveillance et conquête


Le Forum Gouvernance Internet s’est tenu à Paris, le mardi 2 juin 2015.

Dans le cadre de l’atelier cybersécurité, coordonné par Laurent Bloch, j’ai présenté la brève introduction ci-après, posant un cadre culturel.

Ary Kokos a brossé un tableau technique sur la cybersurveillance : Interceptions, boîtes noires et algorithmes

Laurent Bloch présente aussi sur son site une synthèse de cet atelier Surveillance dans le cyberespace

~~~~~~

Transhumanisme, surveillance et conquête

Diapositive03

Révolté contre la vieillesse, la maladie, la souffrance et la mort, le jeune prince Siddhartha a quitté famille, pouvoir et richesse, vers le 5e siècle avant JC. Devenu moine, il s’était juré d’errer en ascète jusqu’à trouver la cause de ces quatre malheurs des hommes. L’illumination vint.
Méditation, puissance intérieure, règles éthiques. Voilà ce que fut sa réponse.

Diapositive04
Siddhartha est devenu Bouddha.

Aujourd’hui, certains acteurs, par exemple Google, visent explicitement à combattre, eux aussi, la vieillesse, la maladie, la souffrance et la mort.
La compagnie est chef de file du courant transhumaniste qui a pour projet de transformer le monde et l’humanité.
On est passés de l’informatisation de documents à l’informatisation des hommes.
On est passés de gains de productivité à la réparation des handicaps et blessures, puis à l’augmentation des pouvoirs et enfin au remplacement de l’humain.
On est passés des amples visions d’âge de l’information, d’âge de la mémoire et d’âge des connaissances — comme celles de Paul Otlet ou de Vannevar Bush — à des cauchemars destructeurs.

Un artiste est très emblématique de notre sujet. Il a toujours refusé la médiatisation, la notoriété, le référencement. Et pourtant il est devenu une référence majeure des écoles de cinéma. Il s’agit bien sûr de l’écrivain et cinéaste Chris. Marker.
Avec la concision qui le caractérise, il a résumé ainsi le 20e siècle :
« Les lendemains qui informatisent peuvent être aussi redoutables que ceux qui chantent. »
Et aussi :
« Je revendique pour les hommes le droit d’être un peu seuls. »
La seconde citation est une allusion mot pour mot à l’article The right to privacy de Louis Brandeis, paru en 1890 dans la prestigieuse Harvard Law Review : “The right to be let alone.” À l’origine conçu comme protection contre la presse intrusive. Ce texte a fondé ce qui fut l’un des piliers du système juridique des États-Unis.
On ne peut pas soupçonner Chris. Marker de technophobie ou de néoluddisme. Early adopter des premières heures du Macintosh et du Minitel, il est l’auteur d’œuvres multimédias. Son film Level five est construit sur une métaphore de jeu vidéo. Et son avatar le chat Guillaume-en-Égypte a réalisé des expositions sur Second Life.

Diapositive05

Le transhumanisme, à bien y regarder, n’est pas professé par une secte. Plus qu’un simple courant d’idées, c’est un projet d’État, mené de concert par des agences publiques, des laboratoires de recherche, des entreprises, des médias. C’est un projet de conquête du monde.
La stratégie scientifique a été définie par la National Science Foundation dès juin 2002 dans le rapport Converging Technologies for Improving Human Performance, sous-titré Nanotechnology, Biotechnology, Information Technology and Cognitive Science, les devenues fameuses NBIC.

Diapositive07

Le rapport 2015 de la DARPA déploie de belles figures de rhétorique dans un encadré consacré à la privacy. « Il est possible que la technologie finisse par aider à résoudre le problème de la protection de la vie privée, même si la technologie d’aujourd’hui a exacerbé ce problème. »
Il s’interroge aussi : « Dans quelles conditions pourrait-il être justifié de développer et de tester des technologies qui peuvent révéler des matières aussi privées ou personnelles que l’intention, l’attitude ou la fiabilité ? »

Diapositive08

Regina Kogan, la très brillante 19e directeur de la DARPA, montrait fièrement, en 2011, les essaims de colibris espions destinés à la surveillance urbaine.

Diapositive09

Quelques mois plus tard, on la retrouvait chez Motorola, propriété de Google, faisant la promotion de mots de passe à avaler sous forme de comprimés et de tatouages électroniques : « Les 10-20 ans vont adorer, justement pour enquiquiner leurs parents. » proclamait-elle.

Diapositive10

L’Université de la Singularité, a été fondée par Raymond Kurzweil, sur le campus de la NASA, près du siège de Google et avec des fonds de cette compagnie.

Diapositive12

Ingénieur en chef chez Google, Ray Kurzweil est l’auteur de deux prophéties sensationnelles répétées à l’infini dans les médias : le dépassement de l’intelligence humaine par celle des machines, puis l’immortalité que pourra donner aux hommes leur hybridation avec les robots.

Diapositive13

Google joue bien un rôle clé dans ces campagnes. La société a investi directement, entre autres, dans deux entreprises des NBIC : 23andme est une entreprise de génomique fondée en 2003 par la femme de Sergueï Brin, cofondateur de Google. Calico, fondée en 2013 avec le président d’Apple, a pour objet de lutter contre le vieillissement.
« Google est mon ami. » « J’ai de la chance »…

Diapositive15

Google joue bien un rôle pivot, leader sans doute même. Mais il n’est pas seul, loin de là. C’est toute une mouvance, tout un système qui s’est constitué. Et la Chine semble bien s’être embarquée dans une rivalité mimétique au même jeu.

L’écrivain Alain Damasio analyse le glissement qui s’est opéré avec nos machines :
« Notre rapport aux machines a basculé au début des années 90, avec le téléphone portable et les réseaux. La machine n’est plus extérieure à nous, c’est nous qui sommes à l’intérieur d’elle.
À l’intérieur d’un technococon qui nous rassure. C’est non pas Big Brother, mais Big Mother. »
Il diagnostique : « La liberté d’utiliser ou de repousser la technologie est devenue inexistante. »

On pense au panoptique de Bentham, conçu pour créer un sentiment d’omniscience invisible. Les gardes au centre, voient chaque prisonniers, qui ne voient personne, eux. Et ne savent même pas s’ils sont observés ou pas. Le dispositif fonctionne même si aucun gardien ne regarde.
Le philosophe Michel Foucault avait décrit ce dispositif comme exemplaire d’une société disciplinaire dans son ouvrage Surveiller et punir, paru en 1975.

Diapositive17

Il est surprenant de voir autant d’organisations politiques et économiques, de pays supposés démocratiques, peuplées de dirigeants souvent talentueux, s’engager avec autant de force sur des énoncés flous, voire fous. Nombre de scientifiques, ingénieurs et informaticiens opposent des interrogations sceptiques aux projets comme synthétiser la vie ou l’intelligence humaine.

Jared Diamond a identifié 5 facteurs qui, seuls ou associés entre eux, peuvent expliquer les effondrements de différentes sociétés dans l’histoire :

  • destruction de l’environnement et des ressources naturelles,
  • changement climatique,
  • hostilité d’autres populations,
  • dépendance commerciale,
  • incapacité des élites à faire face.

Diapositive18

Toute ressemblance avec des situations que vous connaissez n’est pas tout-à-fait fortuite.

Et nous, nous avons la guerre monétaire et ses crises, en plus.

On peut se demander si le transhumanisme apporte des solutions aux problèmes de l’espèce humaine ou une calamité supplémentaire, sous couvert de prétendre remédier définitivement aux souffrances individuelles. Certains critiques y voient œuvrer des forces inconscientes d’autodestruction collective.

Diapositive19

En septembre 2016, à Cerisy-la-Salle en Normandie, se tiendra un important colloque Sciences de la vie, sciences de l’information.
Une cinquantaine de chercheurs de différentes disciplines (biologistes, informaticiens, astrophysiciens, philosophes etc.) croiseront leurs compréhensions du vivant et de l’information.
Car l’information des informaticiens ne semble pas être du même type que l’informaticien des généticiens. Pas encore, du moins…
Ce travail interdisciplinaire sera pionnier… Cela invite à des efforts surhumains… de prudence !

Diapositive20

Références :

  • Le silence du Bouddha et autres questions indiennes, Roger-Pol Droit, Hermann, Paris, 2010
  • Siddhartha, Hermann Hesse, Fischer, Berlin, 1922
  • Monde, essai d’universalisme : Connaissance du monde, sentiment du monde, action organisée et plan du monde, Paul Otlet, Mundaneum,‎ Bruxelles, 1935
  • As We May Think, Vannevar Bush, in The Atlantic, Boston, juillet 1945
  • Sans Soleil, Chris. Marker, Argos Films, Paris, 1983
  • Converging Technologies for Improving Human Performance. Nanotechnology, Biotechnology, Information Technology and Cognitive Science, National Science Foundation, Arlington (Virginia), 2002 (pdf, 482 p, 5,9 Mo)
  • The right to privacy, Louis Brandeis and Samuel Warren, Harvard Law Review, Cambridge, (Massachusetts), 1890
  • Google Wants to Turn Your Clothes Into a Computer, New York Times, San Francisco (California), May 29, 2015
  • The Singularity Is Near, When Humans Transcend Biology, Ray Kurzweil, Viking, New York, 2005
  • Breakthrough Technologies for National Security, DARPA, mars 2015
  • Très humain plutôt que transhumain, Alain Damasio, Conférence TEDx Paris, 5 octobre 2014
  • Panopticon, or The Inspection House, Jeremy Bentham, Dublin, 1780. Synthèse en français par l’auteur sous le titre Panoptique. Mémoire sur un nouveau principe pour construire des maisons d’inspection, et nommément des maisons de force, imprimé par ordre de l’Assemblée nationale, Paris, 1791
  • Surveiller et punir, Michel Foucault, Gallimard, Paris, 1995
  • Collapse. How Societies Choose to Fail or Succeed, Jared Diamond, Viking, New York, 2005
    Trad. française Effondrement. Comment les sociétés décident de leur disparition ou de leur survie. Gallimard, Paris, 2006

Comments ( 2 )

  • Excellente et passionnante introduction.

    Toutefois cette problématique remonte à plus avant : au « frère » Doug Engelbart http://dougengelbart.org/, le papa de tout cela : QICollectif, Souris, Hyperlien, Traitement de texte, etc. etc. En 1984/85 nous avons tenté de coopérer sur la création d’une machine commune chez Tymshare. Son truc était l' »Augmentation » de l’intelligence humaine par la machine, tandis que je voyais l' »extension » de ses accès et interchanges.

    C’est pourquoi il a appelé son département « Augment » et j’ai nommé le mien « Extended Services ». Ceci ne nous a pas empêchés de les voir tous les deux fermés pour « NSA-incompatibilité » lorsque McDonnell Douglas (leader du militaro-industriel de l’époque) a racheté Tymshare.

    Il n’en reste pas moins que c’est vrai : le débat est fondamentalement religieux, mais d’une religion dont la figure paradigmatique est Hercule Poirot. Il s’agit de « se faire une religion » de l’état du monde, des personnes et de leurs idées. C’est pourquoi l’on retombe sur l’analyse que je poursuis d’Aristote : l’architectonique est la discipline des racines premières et, par là, la science de la politique dont l’art est le commandement des hommes libres.

    Notre siècle a mis les hommes libres en réseaux interconnectés par des machines intellectuelles et non plus seulement industrielles. D’un côté il y a ceux qui cherchent à pouvoir en mieux comprendre avec humilité l’extension de notre accès à la complexité de la réalité, de la liberté et la souveraineté de chaque personne humaine; d’un autre il y a ceux qui en cherchent à refaire la réalité sous leur autorité orgueilleusement augmentée d’oligarques mafieux (omnipartieprenance vs la multipartieprenance).

    Le problème est qu’avec la puissance des machines dans notre société devenue anthropobotique (homme + bot) la notion de démocratie a basculé, car l’oligarchie est devenue celle des élus payés par les puissants qu’ils utilisent en hommes de paille et des machineries médiatiques de l’ingénierie sociale. De la même manière la monolectique de la cybernétique (la machine qui ne répond que ce qu’elle a été programmée pour répondre) a déséquilibré la logique (du tiers exclu) et les mathématiques (jusque là considérée comme Newtonniennes. Ce fut même le premier déséquilibre : Poincaré, problème des n-corps 1889). Cela nous a fait entrer dans l' »agorique » des tiers maillés – l’image vient (dans l’esprit de l’équipe qui a développé le premier réseau mondial public, Tymnet) de ce que la logique « oui/non » votée à l’intérieur du Bouleuterion, hors du débat des tiers, n’empêchait pas la poursuite de ce débat par ces tiers sur le parvis de l’assemblée : sur l’agora. C’est pourquoi la singularité technologique n’est pas à comprendre comme une logique de remplacement de la pensée humaine, mais comme le choix de mettre un peu de technique artificielle auxiliaire dans ce qui devient notre « techno-logique » et pour mieux gérer le réseau des réseaux de nos débats.

    La confusion tyrannique démocratique est par ailleurs simple à comprendre si l’on suit Wiener (le papa de la cybernétique : « l’homme a créé la machine à son image », mais aussi à sa convenance. Nous sommes en train d’apprendre comment faire pour que ce ne soit pas qu’à la convenance de certains, mais de chacun.

  • Evidemment, au lieu de faire mon travail en retard dans le métro, j’ai lu ton papier.

    Evidemment aussi, je ne peux qu’être d’accord avec les principes de base que tu rappelles, mais en même temps je trouve qu’il ne faut pas poser le débat de cette manière tranchée, ce que fait d’ailleurs tout à fait Laurent Alexandre – même si effectivement il fait mine de dénoncer les dangers (je le crois, voire je le sais, plus fin).
    Le danger ici est basé sur une solide tradition humaine : désigner un corpus de croyances ou de savoir (car la science n’en est pas exempte) et lui donner un nom (école de ceci, religion de cela etc.).
    Voilà donc le transhumanisme posé – et tu as raison de dire que c’est un ensemble flou.

    Là où je suis perplexe, c’est comme toujours dans les limites, les frontières.
    Et en plus, je ne suis pas croyant, ce qui rend d’autant plus difficile de poser des principes solides – il faut faire comme on sent, dans ce cas.

    Je pense qu’il faut préserver dans l’humain ce qui a été notre succès, finalement, et ce n’est pas seulement l’intelligence supérieure (en tout cas actuellement) à celle d’autres espèces et le langage mais bien sûr la curiosité, la possibilité de dépasser toute logique ou comportement établi (pour le meilleur ou le pire), d’être incroyablement adaptables, de créer etc.

    Oui, mais, attention si on dit qu’on ne doit pas manipuler l’humain – d’ailleurs je ne suis même pas un ennemi absolu des OGM – ça n’a pas de sens – je veux seulement pouvoir être informé et participer à des décisions.
    Je pense qu’il faudra manipuler l’humain. Il faut rappeler que les dissections étaient, si je me souviens, au départ interdites par l’Eglise. Aujourd’hui, nous avons les cellules souches.
    Aussi, par exemple pour 23andme, je ne suis pas contre le fait de fournir à quelqu’un son génome – mieux, je dénie à l’Etat le droit de m’interdire de l’avoir !
    En revanche, c’est le mésusage, les absurdités sur le génome qui sont dangereuses. Autrement dit, il faut de l’information, il faut savoir que le gène A B ou C donne une plus grande probabilité de ceci cela mais au milieu de milliers de facteurs et d’aléas.
    Mais, sur le fond, je répète que ceux qui veulent protéger les gens contre eux-mêmes ont souvent été un peu loin….

    Un point important me semble être qu’il n’y a pas un gros complot. Il y a d’un côté des gens qui ont intérêt à vendre un paquet cadeau rutilant. Il y a en face le vieux rêve des humains face à la mort (et les religions en ont donné bien des exemples) et il y a aussi un simple effet d’emballement et de mode sur les « NBIC ». Il faut rappeler les fantasmes sur la fée électricité (même s’il y avait une partie de vrai) ou les crèmes au radium et autres merveilles de la radioactivité. Bié en sûr, un type de l’intelligence de Laurent Alexandre a compris tout ce qu’il pouvait en tirer.

    En revenant à mon petit domaine de la santé, il faut voir la quantité impressionnante d’innovations sur les dispositifs médicaux communicants, dont le cœur Carmat n’est qu’un exemple. Or, un organisme avec des yeux artificiels, des reins, un cœur + un poumon greffé et des os renforcés – toutes choses qui arrivent, aura-t-il les mêmes hormones, les mêmes capacités ? Le corps n’est pas un ensemble de morceaux (j’avais d’ailleurs exposé cela à Cerisy pour rappeler l’erreur fondamentale des démarches actuelles de dossier et autres evidence based medicine). C’est un système et au dessus d’un certain nombre de transformations, un changement peut se produire. Nul ne sait quand, bien sûr. Resterait bien évidemment le cerveau, mais il faut bien le réparer quelquefois – on trépanait déjà dans l’Egypte antique.

    L’affaire des sourds montre un exemple a contrario de manipulation : des parents tous deux sourds de naissance veulent que leur enfant le soit et utilisent l’analyse génétique pour ne conserver que l’embryon sourd… D’autres refusent l’intervention qui permettrait à l’enfant de ne pas l’être. Autre exemple maintes fois développé : la trisomie. Notre consensus est bien qu’il faut l’accueillir (comme on dit si on est croyant) mais la proportion des parents qui n’optent pas pour l’avortement quand ils savent que l’enfant sera trisomique est infime… On est déjà en pratique dans l’eugénisme.

    Donc des risques graves (je ne parle pas de morale). L’eugénisme c’est la certitude que l’espèce disparaîtra car elle tendrait à tuer toute diversité pour se conformer à des modèles. L’INRA a un peu, par ses travaux, failli faire disparaître des espèces….
    La menace, ce sont donc les comportements de masse. Mais faut-il ne pas informer ? Faut-il protéger les gens contre eux-mêmes, donner le pouvoir à des sachants ? Pas sûr que ce soit efficace (toujours pas de morale dans cette affaire).

    Je n’ai strictement aucune opinion sur la manière de sortir de tous ces dilemmes mais prenons de la distance : il n’y a aucune raison que l’humanité soit éternelle – rien ne l’est dans cet univers. En fait, c’est un tout petit moment de l’évolution et l’humanité devra passer la main si elle veut préserver son héritage. Après tout, si c’est à un être mixte qu’elle aura aidé à naître, ce n’est pas forcément un drame. Mais pas de panique, compte tenu de notre capacité de destruction, je pense que nous pourrons faire le boulot de destruction bien avant que le transhumanisme ne nous ait transformés.

    Les transhumanistes sont bien ambitieux et bien plein d’illusions s’ils pensent qu’ils vont produire forcément un successeur. Mais leurs adversaires surestiment leurs capacités. Il y a bien des dangers bien plus grands que le transhumanime actuel.

    Et, pour Google, je me reporte à l’époque où on croyait qu’IBM, contrôlant tous les ordinateurs et en particulier ceux des banques, allait prendre le contrôle du monde.

    Amicalement et désolé de m’être autant étendu – ton papier m’a fait réfléchir, et c’est justement ce qu’il faut faire.

    Norbert

Laisser un commentaire

quatorze − 8 =