OpenAI lanza un programa de recompensas por errores para frenar la weaponización de la IA

OpenAI ha presentado un nuevo programa de Safety Bug Bounty para detectar y prevenir el posible uso indebido de sus herramientas de inteligencia artificial. Este programa aborda más que los problemas tradicionales de ciberseguridad, porque cubre riesgos que podrían causar daños materiales.

Consejo 30% de descuento en TipRanks Premium

Nueva herramienta de trading para alcistas/bajistas de IBM

OpenAI amplía el enfoque del Bug Bounty al uso indebido de la IA

El Programa Bug Bounty, lanzado a principios de esta semana, invita a investigadores de seguridad y de protección de la seguridad a identificar fallos de diseño o de implementación que podrían llevar a daños reales en el mundo, exposición de datos o manipulación del sistema. Este programa complementará el marco existente de recompensas por seguridad de OpenAI, al enfocarse en el abuso específico de sistemas de IA, incluso cuando no cumplan los criterios para vulnerabilidades de seguridad.

Los problemas reportados deben presentar un riesgo claro y demostrado de forma repetida, que normalmente ocurra la mitad del tiempo en las mismas condiciones. La empresa anfitriona indicó que las presentaciones deben incluir una solución con pasos recomendados para abordar de manera efectiva los riesgos identificados.

El programa de bugs se enfoca en el riesgo del mundo real y el abuso del sistema

OpenAI se centra en proteger la información propietaria del sistema, como el comportamiento del modelo y los procesos internos, de una exposición no intencional. Aunque se excluyen las políticas generales de contenido, la empresa privada aún podría considerar casos límite en los que fallos puedan explotarse para causar problemas en el mundo real.

Los equipos de seguridad de la empresa anfitriona revisarán las presentaciones, y algunos informes se derivarán entre programas según el problema que aborden. La iniciativa está alojada en Bugcrowd y también está abierta a hackers éticos que pueden ayudar a identificar riesgos en los productos activos de OpenAI. El programa muestra que OpenAI está muy al tanto de las implicaciones de seguridad de las tecnologías avanzadas de IA y que está tomando de forma proactiva medidas efectivas para gestionar estas amenazas.

¿Cuáles son las principales acciones de IA para comprar ahora?

Los inversores que siguen acciones vinculadas a los sectores de inteligencia artificial y computación en la nube están observando a algunos de los principales actores, incluyéndo Nvidia NVDA -1.90% ▼ , Meta Platforms META -4.34% ▼ , IBM IBM -2.11% ▼ y Amazon AMZN -3.22% ▼ . Los analistas de Wall Street, según TipRanks, están calificando a NVDA, META y AMZN con un “Compra Fuerte”, mientras que IBM es un “Compra Moderada”. Para más información sobre los datos de desempeño de estas acciones de IA, los objetivos de precio y la percepción de los analistas, visita el Centro de Comparación de Acciones de TipRanks.

Aviso legal y divulgaciónReportar un problema