Comment les IA pourraient devenir consciente ?

  • Comment les IA pourraient devenir consciente ?

    Publié par red_tom le 19 mai 2024 à 10 h 55 min

    On parle aujourd’hui de risque lié à une surutilisation de l’IA. Des fois d’un point de vue sociétale (ex : DEEP fake) ou avec la venue d’IA plus intelligente que l’homme. La conscience permettrait à l’IA d’avoir ses propres désirs et cela effraie certains et d’autres pense qu’est complètement impossible qu’une machine soit consciente. Je comprends ces deux raisonnements mais je souhaite davantage parler de la faisabilité plutôt que de l’impossibilité.

    Quels sont les obstacle techniques et philosophiques

    Et quelles sont les solutions qu’on peut imaginer ?

    Cette discussion n’est pas dans le but de savoir qui a raison ou tort mais d’avancer vers une connaissance plus grande.

    Merci à tous !

    kereven a répondu il y a 1 mois 2 Membres · 1 Répondre
  • 1 Répondre
  • kereven

    Membre
    19 mai 2024 à 11 h 45 min

    Je vois plusieurs freins, tant techniques, scientifiques que philosophiques.

    Pour commencer, rendre une machine consciente fait entrer l’humanité dans une dystopie. Si le libre arbitre est partagée avec une machine programmée et programmable, l’humanité court un risque.

    Ensuite, pour rendre une machine consciente, il faut une mémoire quantique, c’est cher et peu développé, mais ce n’est que temporaire.

    L’homme ne connait pas son cerveau, une petite partie seulement, il ne peut répliquer en algorithmes ce qu’il ne peut, pour l’instant, pleinement comprendre. Mais là encore, les découvertes iront progressivement.

    La programmation répond à des biais cognitifs du programmeur. Personne ne peut arriver à se remettre totalement en question et donc à supprimer ces biais. L’IA ne sera que le reflet des biais de son concepteur et ne pourra jamais les corriger. Sa conscience sera donc bancale et finalement dangereuse.

    La bonne question, à mon sens est pourquoi rendre consciente une machine. Qu’est-ce que cela apporterait à l’humanité ? Pas sur que la réponse sa positive. L’IA en tant que tel est un formidable outil, tant qu’elle reste sous le contrôle de la pensée humaine.

    Avant tout, il faut déjà former l’humanité à l’IA afin que les deep fake et autres fake news soient mieux identifiés. Mais là encore, le progrès malsain a toujours plus d’avance que celui qui répare et ordonne.

    En l’état, je ne pense pas qu’une machine puisse devenir consciente avant très longtemps et peut-être même jamais.

    Par contre, la conscience de l’utilisateur de l’IA est déjà un problème moral et philosophique en soi, qu’il faut pouvoir réglementer.

Connectez-vous pour répondre.