Cafephilos Forums Les cafés philo Les sujets du café philo d’Annemasse Faut-il redouter l’intelligence artificielle de l’homme augmenté ? Sujet proposé par Nadège lundi 09.062014 + Restitution + 2 cartes mentales

10 sujets de 1 à 10 (sur un total de 10)
  • Auteur
    Messages
  • #4998
    René
    Maître des clés
      0000.png
      Notre prochain sujet :
      Faut-il redouter l’intelligence artificielle de l’homme augmenté ?

      « En mars, Ray Kurzweil, directeur du développement et ingénieur en chef de Google, a déclaré que des nanorobots intracérébraux branchés sur nos neurones nous connecteraient à Internet vers 2035. A cette date, Ray Kurzweil prévoit que l’intelligence artificielle sera un milliard de fois plus puissante que la réunion de tous les cerveaux humains. La dernière phase aujourd’hui révélée par les dirigeants de Google sera l’interfaçage de l’intelligence artificielle avec nos cerveaux. »
      Laurent Alexandre (Le Monde, voir ici)
      De son côté, le physicien Stephen Hawkin (voir ici) prévient : « la réussite dans la création de l’intelligence artificielle serait le plus grand événement dans l’histoire humaine … Malheureusement, ce pourrait aussi être le dernier, sauf si nous apprenons comment éviter les risques »

      Reprenons à notre compte quelques questions du Le Monde, et ajoutons les nôtres :
      -Faut-il redouter « l’intelligence artificielle » ?
      – Faut-il redouter l’idée que des personnes choisissent de se faire implanter des puces d’intelligence artificielle dans leur cerveau ?
      – Imagine-t-on une société à deux vitesses, avec des « humains augmentés » d’un côté, et des « non augmentés » de l’autre ?
      – En outre, serait-il éthique de ne pas augmenter les capacités cognitives des gens peu doués, des vieillissants et des accidentés ?
      – Faut-il mettre des limites à l’intelligence artificielle ? Comment la maîtriser ? Doit-on l’interfacer à nos cerveaux biologiques ?

      Merci Nadège pour la proposition de ce sujet et de ses articles. 🙂

      #4999
      Defawes
      Participant

        – Comment puis-je savoir si tu es un robot ou un être humain
        – Je suis un être humain. Pourquoi en doutes-tu ?
        – Peux-tu me traduire en anglais la phrase suivante : “Le mot CHAT comporte quatre lettres”
        – Bien sûr : “The word CAT has four letters”
        – OK, c’est bien ce que je pensais : tu es un robot !

        #5003
        René
        Maître des clés
          #5013
          René
          Maître des clés
            En attendant le résumé de la restitution, voici une carte mentale pour définir une façon de poser le problème.
            Cliquer sur le lien dans “Fichier attaché” si l’image n’est pas nette. Merci de votre compréhension.
            CartementaleFaut-ilavoirpeurdelhommeaugment.pdf

            Faut-ilavoirpeurdelhommeaugment.png

            #5023
            René
            Maître des clés
              Restitution de quelques problématiques
              Faut-il redouter l’avènement de l’homme augmenté, et électroniquement connecté ?

              De quelle « augmentation » parle-t-on ?
              – Le dopage sportif ne constitue-t-il pas une façon « d’augmenter » l’homme ?
              – Nos lunettes, les diverses prothèses ne sont-elles pas, elles aussi, des façons de nous augmenter ?
              – En fait, aujourd’hui, on doit distinguer plusieurs modes « d’augmentation » de nos capacités :
              • le dopage sportif : il consiste en l’ajout de molécules dans le corps de l’athlète.
              • Les capteurs informatiques : ce ne sont avant tout des appareils de mesure. Les informations qu’ils rassemblent contribuent à une meilleure connaissance de notre corps.
              • Les prothèses mécaniques, informatisées ou non : elles assistent notre corps ou suppléent à des carences. Cela va des prothèses de hanche aux appareils audiophones, en passant par les Google glass et les exo-prothèses. Ces dernières remplacent des membres et améliorent nos performances, ex : combinaison de nageur, exo-squelette…)
              • Les puces électroniques implantées dans le corps : elles régulent un pace maker ou corrigent les effets d’une maladie de Parkinson. Bientôt, des micro-ordinateurs seront implantés dans notre cerveau, suppléant nos sens.
              • Et les manipulations génétiques : elles vont de la sélection génétique réalisée dans des centres d’insémination à la transformation des gènes opérée en laboratoire.

              Quelques problèmes concernant ces nouvelles technologies
              – Le dopage sportif expose les sportifs à des expérimentations comme pour des rats de laboratoire. Et ceux qui aujourd’hui refusent le dopage se révèlent incapables de rivaliser avec la majorité qui y a recours.
              – Concernant les prothèses mécaniques et autres extensions, ne pas les utiliser reviendrait à se résigner à nos handicaps.
              – Quant aux puces électroniques implantées, si elles visent à d’autres buts que la simple préservation de la santé, les problèmes qui en découlent porteront sur trois domaines principaux :
              1- Le contrôle de ces puces par des instances politiques et des multinationales (les rapports de pouvoir entre ces instances et les citoyens demanderont à être mis à plat).
              2- Le rapport à notre vie privée (nous devenons totalement transparents par rapport à ceux qui maîtrisent les données). En conséquence de quoi le rapport à notre autonomie, à notre sécurité et donc à notre liberté ne sera plus garanti).
              3 – L’éthique, en général : elle devra être reconsidérée ; ces nouvelles technologies modifient notre rapport à la vie, et le sens que nous lui donnons demande à être mieux pensé : à quelles fins nous approprions-nous ces nouvelles techniques ? Quel homme et quelle société voulons-nous générer ?
              – Enfin surgissent de multiples questions concernant les manipulations génétiques : risquons-nous d’appauvrir notre patrimoine génétique ? Y-a-t-il un risque d’eugénisme (une sélection des naissances par les gènes?). Au niveau individuel et collectif, que signifie le fait de donner aux parents la possibilité de choisir des enfants pré-formatés génétiquement ?

              L’informatique et l’intelligence artificielle ouvrent-elles la porte à la vie artificielle ?
              – Depuis Darwin, le statut sacré de la nature a commencé à perdre son aura. La technique et les progrès de la médecine améliorent la qualité de notre vie et permettent de compenser les imperfections de la nature.
              – Finalement la nature, n’étant plus ni bonne ni mauvaise, se résume à un modèle dont on s’inspire uniquement pour mieux l’exploiter et la dépasser.
              – Le développement technique repousse toujours plus loin les limites que nous rencontrons. Bientôt, l’évolution de l’espèce relèvera moins d’une hérédité naturelle que d’une sélection informatique. L’homme décide de sa propre hérédité et entre dans un monde inconnu jusqu’alors.
              – Le paradigme général de pensée dans lequel nous vivons change de façon radicale : nous passons d’une nature perçue comme étant auto-régulée à un monde artificiel fait de programmes électroniques et de manipulations de bases de données.
              – Qui peut prévoir les conséquences des choix que nous effectuons aujourd’hui ?

              De nouveaux rapports d’inégalité
              – Chacun est libre de faire implanter ce qu’il veut, mais serons-nous avertis des risques que nous encourons ?
              – Le problème se pose notamment au niveau de la société dans son ensemble, nous aurions une nouvelle classe d’êtres humains : les « augmentés » d’un côté, et les «normaux » de l’autre.
              – L’ajout d’une classe d’être humains ne changera pas grand-chose. Les classes existent déjà, elles sont polymorphes et évoluent au cours des âges.
              – Mais les phases de transition sont toujours délicates à traverser. La fracture sociale va en s’aggravant et, en raison de la raréfaction des emplois et de la complexité de notre société, les gens seront incités à prendre des risques, à se faire implanter toutes sortes de puces électroniques pour faire valoir leurs nouvelles compétences auprès des entreprises. Ces dernières, pour rester compétitives, encourageront cette augmentation artificielle des capacités humaines.
              – On est encore à l’aube d’une humanité qui se mondialise (alors que perdurent esclavage, exploitation éhontée, rivalités entre clans, populations et classes sociales) et déjà se met en place un système qui aggravera des abus de toutes sortes.
              – L’évolution est remise entre les mains du marché, des financiers, eux-mêmes aux prises avec une compétition exacerbée.

              Le sacrilège

              – Depuis les bébés éprouvettes, avec les modifications du code génétique, avec bientôt l’utérus artificiel, on s’éloigne de la nature sans pour autant gagner de la confiance en ce monde fait de main d’homme. (Ce que l’homme fait à l’homme, Myriam Revault-d’Allonnes, philosophe).
              – La peur de « l’homme augmenté » vient-elle de la peur biblique selon laquelle on ne modifie pas l’ordre des choses voulu par Dieu ?
              – On perd de la diversité, de la bio-évolution, le risque de précipiter notre fin devient plus grand que la possibilité de vivre mieux et plus longtemps.

              Les problèmes existentiels de la société

              – Il y aura toujours des lois qui permettront de contrôler les abus.
              – Les lois et l’éthique se définissent au niveau national, or la compétition s’exerce au niveau mondial. Aucun pays ne veut s’imposer des contraintes qui pénaliseraient sa compétitivité. En somme, les populations en paient le prix, et les nantis se mettent à l’abri. Les décideurs et les responsables de notre monde ne doivent-ils pas endosser les risques qu’ils font prendre aux populations ?
              – Sur long terme, comme l’histoire nous le montre, les lois s’harmonisent entre les pays les plus puissants. En attendant, les masses subissent cette nouvelle évolution.
              – Les problèmes sont ceux de l’humanité depuis toujours, ils se résument à quelques questions : qui a le pouvoir ? Comment les pouvoirs s’équilibrent-ils ? Quels abus de pouvoir ces nouvelles technologies généreront-elles ? Au nom de quelle éthique, et en vue de quelle fin les lois devront-elles être pensées ?

              Les problèmes existentiels de l’individu
              – Développer ses capacités, relever des défis, aller au bout de soi-même, ce sont des désirs profonds de l’être humain.
              – Mais bientôt, les limites ne seront plus définies selon une volonté, un travail de dépassement de soi, mais par des versions logicielles. Dans ces conditions, que puis-je attendre de moi et de mon désir ?
              – Psychologiquement, Il ne sera plus question de gérer sa vie, mais simplement d’acquérir le dernier logiciel à la mode. On déshumanise l’homme.
              – Est-ce que l’être humain ne s’achemine pas vers une confiscation de tout désir ? Le savoir, la mémoire sont maintenant transférés dans des ordinateurs, et les techniques compensent tant de carences. Que va-t-il rester à l’être humain ?
              – Pour moi, qu’on veuille « augmenter » son cerveau ou prendre du viagra, on reste dans la vantardise de la performance.
              – Je vois également un autre problème. On ne cesse d’ajouter entre les êtres humaines des épaisseurs virtuelles : est-ce que l’homme ne fait plus fantasmer l’homme ? Pourquoi avons-nous besoin d’être « augmenté » ?
              – Si tout est possible via des artefacts, quel besoin ai-je encore de m’accomplir ?
              – Le problème de la réalisation de soi ne dépend pas du pouvoir que l’on a sur l’autre, mais de celui que l’on a sur soi. On peut toujours repousser plus loin son ambition, mais peut-on vouloir combler sans fin un sentiment d’insatisfaction qui, lui aussi, recule sans fin ?

              Où allons-nous ?

              – Il y a d’une part des gens qui prônent la décroissance, et d’autre part, ceux qui n’en finissent pas de vouloir être « augmentés ».
              – On espérait libérer l’homme du joug du travail, mais pour l’instant, on rejoue des mythes visant à l’éternité de l’homme, et on court le risque d’être asservi par des programmes fous et des manipulateurs mégalomaniaques.
              – Qu’est-ce qui fait de nous des êtres humains ? Dans cette course à « l’augmentation », je vois le signe de ne plus pouvoir vivre selon des valeurs humaines. On attend de moi que je sois robotisé, et bien je vais l’être, et je serai heureux comme un robot.
              – Nous assisterons à la mise en place d’un puzzle qui, une fois assemblé, montrera le tableau d’un monde gouverné par une intelligence non humaine, servie par une armée de robots dociles : les humains que nous serons devenus.

              Ces peurs sont-elles réelles ?

              – L’intelligence artificielle peut-elle se retourner contre l’homme ?
              – Peut-on donner au robot une sensibilité humaine ? Les deux se rejoindraient-ils ?
              – Est-il raisonnable de vouloir transférer sa conscience dans une puce électronique ?
              – Les machines nous connaîtront-elles un jour mieux que nous nous connaissons nous-mêmes (comme le prévoit Google)?
              – Les big data définissent des environnements manipulés par la finance et les multinationales, les prothèses cérébrales permettront-elles le hacking et le contrôle des cerveaux ?

              Dans le meilleur des cas

              – Si nous étions tous hyper-compétents, qu’est-ce que cela ajouterait à l’humanité ?
              – Tous les problèmes concrets pourraient être réglés, il ne nous resterait que les problèmes existentiels.
              – Finalement, le bonheur ne se vit que s’il est partagé. Si un mode de vie se construit au détriment d’une autre partie de la population, ce monde-là se mine lui-même. Combien de temps un tel monde peut-il tenir ?
              – Si chacun peut dépasser ses limites par le biais d’artefacts, n’est-ce pas le signe que les limites sont atteintes ?

              #5026
              René
              Maître des clés
                Carte mentale n°1
                Si l’image n’est pas suffisamment nette, cliquer sur le lien dans “Fichier attaché” ci-dessous
                :
                Cartementale1Faut-ilredouterlavnementdelhommeaugment.pdf

                Faut-ilavoirredouterlavnementdelhommeaugment.png

                #5029
                René
                Maître des clés
                  Carte mentale n°2
                  Si l’image n’est pas suffisamment nette, cliquer sur le lien dans “Fichier attaché” ci-dessous :

                  Cartementale2Faut-ilredouterlavnementdelhommeaugment.pdf

                  Faut-ilavoirredouterlavnementdelhommeaugmentcarte2.png

                  #5031
                  René
                  Maître des clés
                    Carte mentale n°1
                    Si l’image n’est pas nette, merci de cliquer sur le lien dans “Fichier attaché” ci-dessous :

                    Cartementale1Faut-ilredouterlavnementdelhommeaugment.pdf

                    Faut-ilredouterlavnementdelhommeaugment.png

                    #5032
                    René
                    Maître des clés
                      Carte mentale n°2
                      Si l’image n’est pas nette, merci de cliquer sur le lien dans “Fichier attaché” ci-dessous :

                      Cartementale2Faut-ilredouterlavnementdelhommeaugment.pdf

                      Faut-ilredouterlavnementdelhommeaugment.png

                      #5034
                      René
                      Maître des clés
                        Carte mentale n°2
                        Si l’image n’est pas nette, merci de cliquer sur le lien dans “Fichier attaché” ci-dessous :

                        Cartementale2Faut-ilredouterlavnementdelhommeaugment.pdf

                        Faut-ilredouterlavnementdelhommeaugmentcartementale2.png

                      10 sujets de 1 à 10 (sur un total de 10)
                      • Vous devez être connecté pour répondre à ce sujet.