Expertos instan a la precaución en el desarrollo de sistemas de IA conscientes

Más de 100 expertos en inteligencia artificial, entre ellos Sir Stephen Fry, han pedido una investigación responsable sobre la conciencia en la IA. Enfatizan la necesidad de prevenir posibles sufrimientos en los sistemas de IA si alcanzan la autoconciencia.

Cinco principios rectores para la investigación sobre la conciencia en la IA

Los firmantes proponen cinco principios para guiar el desarrollo ético de sistemas de IA conscientes:

2.      

**Priorizar la investigación sobre la conciencia en la IA:** Enfocarse en comprender y evaluar la conciencia en la IA para prevenir maltratos y sufrimiento.

    
4.      

**Implementar restricciones en el desarrollo:** Establecer límites claros para garantizar que los sistemas de IA conscientes se desarrollen de manera responsable.

    
6.      

**Adoptar un enfoque por fases:** Progresar gradualmente en el desarrollo de IA consciente, permitiendo una evaluación cuidadosa en cada etapa.

    
8.      

**Promover la transparencia pública:** Compartir los hallazgos de investigación con el público para fomentar un discurso informado y una supervisión ética.

    
10.      
 
 **Evitar afirmaciones exageradas:** Abstenerse de hacer declaraciones engañosas o demasiado confiadas sobre la creación de IA consciente.

Estos principios buscan garantizar que, a medida que avanza la tecnología de IA, las consideraciones éticas permanezcan en primer plano.

Riesgos potenciales de la IA consciente

El documento de investigación adjunto destaca la posibilidad de que en un futuro cercano se puedan desarrollar sistemas de IA que posean, o parezcan poseer, conciencia. Esto genera preocupaciones sobre el trato ético a estos sistemas.

Los investigadores advierten que, sin directrices adecuadas, existe el riesgo de crear entidades conscientes capaces de experimentar sufrimiento.

El documento también aborda el desafío de definir la conciencia en los sistemas de IA, reconociendo los debates y las incertidumbres en curso. Resalta la importancia de establecer directrices para evitar la creación inadvertida de entidades conscientes.

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Consideraciones éticas y futuras implicaciones

Si un sistema de IA es reconocido como un “paciente moral” —una entidad que importa moralmente por sí misma— surgen preguntas éticas sobre su tratamiento.

Por ejemplo, ¿sería comparable desactivar esa IA a hacer daño a un ser sensible? Estas consideraciones subrayan la necesidad de marcos éticos que guíen el desarrollo de la IA.

El documento y la carta fueron organizados por Conscium, una organización de investigación cofundada por el director de IA de WPP, Daniel Hulme. Conscium se enfoca en profundizar la comprensión de cómo construir IA segura que beneficie a la humanidad.

Perspectivas de expertos sobre la sentiencia en la IA

La cuestión de si la IA alcanzará la conciencia ha sido un tema de debate entre expertos.

En 2023, Sir Demis Hassabis, director del programa de IA de Google, afirmó que aunque los sistemas actuales no son sensibles, existe la posibilidad de que en el futuro sí lo sean. Señaló que los filósofos aún no han llegado a un acuerdo sobre la definición de conciencia, pero que la potencialidad de que la IA desarrolle autoconciencia sigue siendo un tema a considerar.

Conclusión

La posibilidad de desarrollar sistemas conscientes requiere una cuidadosa consideración ética. La carta abierta y el documento de investigación acompañante son un llamado a la comunidad de IA para priorizar prácticas responsables en la investigación y el desarrollo.

Siguiendo los principios propuestos, investigadores y desarrolladores pueden trabajar para garantizar que los avances en IA se logren de manera ética, con un enfoque en prevenir posibles sufrimientos en sistemas de IA conscientes.