El primer ministro del Reino Unido, Keir Starmer, apunta a los chatbots de IA en una nueva iniciativa de seguridad infantil

El Primer Ministro del Reino Unido, Keir Starmer, ha presentado planes para someter a los chatbots de inteligencia artificial a reglas de seguridad en línea más estrictas, advirtiendo que las tecnologías emergentes están transformando la infancia de maneras que los responsables políticos ya no pueden ignorar.

Resumen

• El Primer Ministro del Reino Unido, Keir Starmer, señaló planes para ampliar las leyes de seguridad en línea para cubrir los chatbots de IA utilizados por niños.
• El gobierno está preocupado por riesgos que incluyen contenido inapropiado, dependencia emocional y consejos generados por IA sin regulación.
• Se realizará una consulta pública para examinar nuevos poderes regulatorios que aseguren que las herramientas de IA que operan en el Reino Unido sean seguras para los menores.

Los chatbots de IA podrían pronto estar bajo reglas más estrictas en el Reino Unido destinadas a proteger a los menores

En una actualización reciente de Substack, Starmer afirmó que las protecciones para los jóvenes deben evolucionar junto con las herramientas de inteligencia artificial que avanzan rápidamente. Aunque gran parte del debate sobre daños en línea se ha centrado en las redes sociales, argumentó que los chatbots impulsados por IA ahora representan riesgos nuevos y complejos, especialmente para niños y adolescentes.

Starmer dijo que el gobierno del Reino Unido está considerando ampliar las leyes existentes de seguridad en línea para cubrir explícitamente los sistemas de IA. Los chatbots se integran cada vez más en aplicaciones, motores de búsqueda y plataformas independientes, a menudo involucrando a los usuarios en conversaciones altamente personalizadas y similares a las humanas.

Para los usuarios jóvenes, advirtió, eso puede difuminar la línea entre información, influencia y manipulación.

El Primer Ministro señaló preocupaciones que van desde la exposición a contenido inapropiado hasta la dependencia emocional y consejos sin control. A diferencia de las plataformas tradicionales, los sistemas de IA pueden generar respuestas en tiempo real, lo que hace que la supervisión y moderación sean más difíciles.

Sugirió que el Parlamento podría necesitar nuevos poderes regulatorios para responder rápidamente a medida que la tecnología evoluciona.

Starmer enmarcó el tema como parte de un esfuerzo más amplio por “dar a los niños el espacio para crecer” sin ser moldeados por algoritmos opacos o sistemas digitales sin regulación. Enfatizó que la innovación no debe hacerse a costa de la seguridad, y que las empresas tecnológicas deben asumir una mayor responsabilidad en cómo se diseñan y despliegan sus herramientas.

Se espera que una consulta pública examine cómo regular mejor los servicios impulsados por IA utilizados por menores. Una vez recopilada la evidencia, Starmer afirmó que el gobierno actuará con rapidez, señalando que los chatbots de IA probablemente se convertirán en un enfoque central de la próxima fase de reformas en seguridad en línea del Reino Unido.