Η Apple Se vio obligado a limitar los informes de seguridad de su programa de recompensas por detección de errores debido a la gran cantidad de falsos positivos generados por herramientas de inteligencia artificial. Como investigador o observador casual de ciberseguridad, usted está presenciando cómo un sistema de recompensas multimillonario se tambalea debido al uso irresponsable de herramientas de aprendizaje automático.
- Apple ha impuesto un límite estricto a la hora de enviar informes de errores tras una avalancha de falsos positivos (alucinaciones) procedentes de la IA.
- La startup Bynario se encontró bloqueada después de usar ChatGPT para identificar más de 50 errores en macOS.
- La propia Cupertino ahora depende de modelos de IA como su Claude Antrópico para corregir las deficiencias, al tiempo que se combate el spam de los investigadores.
El factor de inteligencia artificial
Cuando el Financial Times Tras revelarse el nuevo límite de Apple, quedó claro que los modelos de lógica descriptiva generativos han creado un grave problema para los departamentos de seguridad de los gigantes tecnológicos. Cualquier investigador aficionado puede ahora introducir un fragmento de código en un chatbot y recibir decenas de informes de vulnerabilidades teóricas. Según los datos que han salido a la luz, la gran mayoría de estos informes son errores inexistentes o producto de la imaginación del algoritmo.
¿El resultado? Los expertos en seguridad de Apple dedican su tiempo a filtrar el ruido en lugar de investigar realmente las vulnerabilidades que amenazan a millones de usuarios. En TechNoid, ya hemos cubierto anteriormente el auge de herramientas de pirateo automatizadasPero la transición de los guiones a las alucinaciones de LLM cambia por completo las reglas del juego.
El caso de Bynario
La magnitud del problema quedó claramente demostrada por la experiencia de la startup de ciberseguridad Bynario, que utilizó ChatGPT para identificar más de 50 fallos en macOS en tan solo tres semanas. Entre ellos se encontraba una vulnerabilidad crítica de escalada de privilegios que podría otorgar a un atacante acceso ilimitado a cualquier Mac.
Sin embargo, Bynario se encontró en un callejón sin salida. Tras agotar el límite de ocho informes que podía enviar a Apple en 2025 y otros cinco en 2026, el sistema lo bloqueó. Si bien descubrió una puerta trasera realmente peligrosa, corría el riesgo de quedar fuera del proceso, ya que el conjunto de informes enviados estaba repleto de informes automatizados de baja calidad provenientes de otros usuarios. Apple ya está revisando sus informes, pero el incidente demuestra que el modelo de evaluación actual está "fallando".
El dilema de Apple
Resulta irónico que Apple combata la IA con sus propias armas, pero que a la vez sea víctima de ella. La compañía cuenta con uno de los programas de recompensas por detección de errores más generosos del sector, ofreciendo premios de hasta 2 millones de dólares por cadenas de exploits reales, que pueden superar los 5 millones de dólares con bonificaciones.
Sin embargo, al mismo tiempo, la propia Apple utiliza herramientas como Codex. Seguridad de OpenAI para identificar y corregir vulnerabilidades, llegando incluso a parchear casi 90 vulnerabilidades en una sola actualización como iOS 26.6. El problema no es la tecnología en sí, sino el hecho de que Apple depende principalmente de personas para revisar los informes que recibe externamente, lo que crea un enorme cuello de botella en la productividad.
Nuestra opinión en TechNoid
En TechNoid creemos que el límite impuesto por Apple no es más que una medida de seguridad temporal, no una solución. Prohibir o limitar las solicitudes de colaboración perjudica a los investigadores serios que utilizan herramientas inteligentes para agilizar su trabajo, a la vez que deja la puerta abierta a hackers maliciosos que no se preocupan por las recompensas y que explotarán las vulnerabilidades en secreto. Si Apple quiere proteger su ecosistema, debería invertir en sistemas automatizados de filtrado por IA que distingan las vulnerabilidades reales de las "ilusiones" de los chatbots, en lugar de dejar a hackers humanos al mando.
Preguntas frecuentes sobre el programa de recompensas por errores de Apple y las alucinaciones de la IA
¿Por qué Apple puso un límite a los informes de recompensas por detección de errores?
Apple limitó la recepción de informes debido a la enorme cantidad de informes falsos y datos de baja calidad producidos por investigadores que utilizaban herramientas de inteligencia artificial.
¿Qué son las alucinaciones de la IA en los informes de seguridad?
Se trata de casos en los que los modelos de lenguaje (LLM, por sus siglas en inglés) "inventan" errores o vulnerabilidades inexistentes en el código, lo que induce a error a los investigadores que los envían sin comprobaciones previas.
¿Qué empresa tuvo problemas con el techo de Apple?
La empresa emergente de ciberseguridad Bynario se vio bloqueada después de identificar más de 50 errores en macOS utilizando ChatGPT y no pudo enviar sus informes críticos.
¿A cuánto ascienden las recompensas en el programa de recompensas por detección de errores de Apple?
Las recompensas pueden alcanzar hasta 2 millones de dólares por hazañas complejas, y pueden superar los 5 millones de dólares con bonificaciones adicionales.
¿Utiliza Apple inteligencia artificial para su seguridad?
Sí, Apple utiliza herramientas como Claude de Anthropic y Codex Security de OpenAI para identificar y corregir vulnerabilidades de seguridad en sus sistemas operativos.
¿Pueden los investigadores solicitar un aumento en el límite de envíos?
Sí, los investigadores tienen la posibilidad de solicitar un aumento del umbral para que el equipo de seguridad de Apple no pase por alto ningún fallo crítico ya existente.
¿Cómo afecta esta medida a los investigadores individualmente?
Esto perjudica significativamente a los investigadores independientes y a las pequeñas empresas emergentes que dependen de la automatización, ya que corren el riesgo de perder el derecho a informar sobre errores críticos.
