[kereven]

Je vois plusieurs freins, tant techniques, scientifiques que philosophiques.

Pour commencer, rendre une machine consciente fait entrer l’humanité dans une dystopie. Si le libre arbitre est partagée avec une machine programmée et programmable, l’humanité court un risque.

Ensuite, pour rendre une machine consciente, il faut une mémoire quantique, c’est cher et peu développé, mais ce n’est que temporaire.

L’homme ne connait pas son cerveau, une petite partie seulement, il ne peut répliquer en algorithmes ce qu’il ne peut, pour l’instant, pleinement comprendre. Mais là encore, les découvertes iront progressivement.

La programmation répond à des biais cognitifs du programmeur. Personne ne peut arriver à se remettre totalement en question et donc à supprimer ces biais. L’IA ne sera que le reflet des biais de son concepteur et ne pourra jamais les corriger. Sa conscience sera donc bancale et finalement dangereuse.

La bonne question, à mon sens est pourquoi rendre consciente une machine. Qu’est-ce que cela apporterait à l’humanité ? Pas sur que la réponse sa positive. L’IA en tant que tel est un formidable outil, tant qu’elle reste sous le contrôle de la pensée humaine.

Avant tout, il faut déjà former l’humanité à l’IA afin que les deep fake et autres fake news soient mieux identifiés. Mais là encore, le progrès malsain a toujours plus d’avance que celui qui répare et ordonne.

En l’état, je ne pense pas qu’une machine puisse devenir consciente avant très longtemps et peut-être même jamais.

Par contre, la conscience de l’utilisateur de l’IA est déjà un problème moral et philosophique en soi, qu’il faut pouvoir réglementer.