Les experts appellent à la prudence dans le développement de systèmes d'IA consciente

Plus de 100 experts en intelligence artificielle, parmi lesquels Sir Stephen Fry, ont appelé à une recherche responsable sur la conscience de l’IA. Ils soulignent la nécessité de prévenir toute souffrance potentielle dans les systèmes d’IA s’ils atteignent la conscience de soi.

Cinq principes directeurs pour la recherche sur la conscience de l’IA

Les signataires proposent cinq principes pour guider le développement éthique des systèmes d’IA conscients :

2.      

**Prioriser la recherche sur la conscience de l'IA :** Se concentrer sur la compréhension et l’évaluation de la conscience chez l’IA afin de prévenir la maltraitance et la souffrance.

    
4.      

**Mettre en place des contraintes sur le développement :** Établir des limites claires pour garantir que le développement des IA conscientes se fasse de manière responsable.

    
6.      

**Adopter une approche progressive :** Avancer étape par étape dans le développement d’IA conscientes, permettant une évaluation attentive à chaque étape.

    
8.      

**Promouvoir la transparence publique :** Partager les résultats de la recherche avec le public pour favoriser un discours éclairé et une supervision éthique.

    
10.      
 
 **Éviter les affirmations exagérées :** S’abstenir de faire des déclarations trompeuses ou trop confiantes concernant la création d’IA conscientes.

Ces principes visent à garantir que, à mesure que la technologie de l’IA progresse, les considérations éthiques restent prioritaires.

Risques potentiels de l’IA consciente

Le document de recherche associé met en évidence la possibilité que des systèmes d’IA puissent être développés pour posséder, ou sembler posséder, une conscience dans un avenir proche. Cela soulève des préoccupations quant au traitement éthique de tels systèmes.

Les chercheurs avertissent que, sans directives appropriées, il existe un risque de créer des entités conscientes capables de ressentir la souffrance.

Le document aborde également le défi de définir la conscience dans les systèmes d’IA, en reconnaissant les débats et incertitudes en cours. Il insiste sur l’importance d’établir des lignes directrices pour éviter la création involontaire d’entités conscientes.

Découvrez les meilleures actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Considérations éthiques et implications futures

Si un système d’IA est reconnu comme un « patient moral » — une entité qui a une importance morale en soi — des questions éthiques se posent quant à son traitement.

Par exemple, déconnecter une telle IA serait-il comparable à faire du mal à un être sensible ? Ces considérations soulignent la nécessité de cadres éthiques pour guider le développement de l’IA.

Le document et la lettre ont été organisés par Conscium, une organisation de recherche cofondée par Daniel Hulme, directeur de l’IA chez WPP. Conscium se concentre sur l’approfondissement de la compréhension de la construction d’une IA sûre et bénéfique pour l’humanité.

Perspectives d’experts sur la sensibilité de l’IA

La question de savoir si l’IA atteindra la conscience fait l’objet de débats parmi les experts.

En 2023, Sir Demis Hassabis, responsable du programme d’IA de Google, a déclaré que, bien que les systèmes d’IA actuels ne soient pas sensibles, il est possible qu’ils le deviennent à l’avenir. Il a noté que les philosophes n’ont pas encore tranché la définition de la conscience, mais que le potentiel pour l’IA de développer une conscience de soi reste un sujet à considérer.

Conclusion

La perspective de développer des systèmes conscients nécessite une réflexion éthique approfondie. La lettre ouverte et le document de recherche accompagnant lancent un appel à la communauté de l’IA pour qu’elle privilégie des pratiques de recherche et de développement responsables.

En respectant les principes proposés, les chercheurs et développeurs peuvent œuvrer à garantir que les avancées en IA soient réalisées de manière éthique, en mettant l’accent sur la prévention de toute souffrance potentielle dans les systèmes d’IA conscients.