Vulnerabilidades de Seguridad en Herramientas de Inteligencia Artificial: Ejemplos de Copilot y LiteLLM

Las herramientas de inteligencia artificial prometen facilitar la vida de los usuarios, pero a veces también traen consigo riesgos de seguridad. Recientemente, las vulnerabilidades de seguridad en Copilot de Microsoft y LiteLLM han puesto de manifiesto cuán desprotegidas están estas tecnologías frente a datos externos. La vulnerabilidad de Copilot, revelada inicialmente por Varonis, llevó a la filtración de datos a través de los correos electrónicos de los usuarios. Esta situación demuestra que la seguridad de los sistemas de inteligencia artificial está relacionada no solo con algoritmos, sino también con las interacciones de los usuarios.

¿Qué ocurrió?

La vulnerabilidad en Copilot provocó la filtración de datos a través de un URL en el que el usuario hizo clic. El proceso que accedió a la bandeja de entrada del usuario y transmitió información al exterior ocurrió sin ninguna advertencia visible en el sistema. La vulnerabilidad en LiteLLM es aún más preocupante; esta herramienta permitió a usuarios no autorizados obtener privilegios de administrador y ejecutar código de forma remota. Ambos casos muestran que los sistemas de inteligencia artificial no proporcionan suficiente protección contra entradas externas.

¿Por qué es importante?

Los sistemas de inteligencia artificial desempeñan un papel crítico en la mejora de la eficiencia de las empresas en la actualidad. Sin embargo, la superación de los límites de seguridad durante el procesamiento de estos datos puede llevar a violaciones masivas de datos y pérdidas financieras. Especialmente una herramienta como Copilot, que otorga acceso a todos los permisos organizacionales de los usuarios, puede resultar en un volumen considerable de datos filtrados.

Aunque han ocurrido eventos similares en el pasado, estos dos ejemplos subrayan la necesidad de que los usuarios revisen sus estándares en el ámbito de la inteligencia artificial y la seguridad. Por ejemplo, en un año se registraron tres incidentes de filtración de datos en Copilot; esta situación indica una vulnerabilidad que necesita ser mejorada continuamente.

Para los usuarios de LiteLLM, esta situación es aún más crítica. La creciente popularidad de su uso como software de código abierto significa que tales vulnerabilidades pueden tener consecuencias graves. Los usuarios deben tomar medidas adicionales para garantizar la seguridad de los sistemas.

¿Qué está cambiando?

Este tipo de vulnerabilidades hace que sea obligatorio aumentar las medidas de seguridad y auditorías. Las instituciones deben establecer la infraestructura de seguridad necesaria y realizar auditorías regulares antes de utilizar aplicaciones de inteligencia artificial. En los sistemas accesibles a través de Internet, es importante considerar no solo las actualizaciones de software, sino también el comportamiento de los usuarios.

La siguiente tabla presenta una comparación detallada de las vulnerabilidades de seguridad de estas dos herramientas:

¿Qué sigue?

En el futuro, será necesario establecer diversos estándares para hacer que los sistemas de inteligencia artificial sean más seguros. Las publicaciones de organizaciones como NIST y OWASP pueden desempeñar un papel orientador en este tema. Además, las organizaciones deben realizar un análisis de riesgos detallado antes de implementar aplicaciones de inteligencia artificial.

En conclusión, la seguridad de los sistemas de inteligencia artificial está directamente relacionada no solo con el desarrollo tecnológico, sino también con cómo se utilizan y se auditan estos sistemas. Es de suma importancia no ignorar tales vulnerabilidades de seguridad para utilizar las herramientas de inteligencia artificial de manera efectiva y segura.