Cómo el rápido desarrollo de la IA pone en riesgo la seguridad y la privacidad

La inteligencia artificial está dejando su huella, permitiendo a las empresas producir rápidamente contenidos razonablemente buenos o mejoras en los servicios. Automatizar operaciones que antes requerían intervención humana o capacidad intelectual ahora es muy sencillo. Sin embargo, como era de esperar, los actores hostiles también pueden aprovechar esto.

Continúa leyendo para saber por qué empresas como la tuya necesitan comprender con qué rapidez el desarrollo de la IA pone en riesgo la seguridad y la privacidad.

¿Por qué la IA está creciendo tan rápidamente?

La inteligencia artificial es el último fenómeno tecnológico que está arrasando en múltiples industrias. La IA es el resultado de iniciativas informáticas destinadas a crear programas “inteligentes”. La IA aprende a medida que realiza diferentes tareas, la mayoría de las cuales solían ser responsabilidad de personas reales.

¿Cómo utilizan las empresas la IA? Mientras que los médicos dependen de estos sistemas para diagnosticar a los pacientes, los minoristas los utilizan para operar chatbots y brindar servicio al cliente las 24 horas para los compradores en línea. El potencial de la IA y el aprendizaje automático es impresionante, pero no infalible.

Cómo “aprende” la IA

Las herramientas de IA aprenden a través de datos. Por ejemplo, los chatbots de servicio al cliente utilizan un modelo de lenguaje grande que analiza las conversaciones en línea. A partir de ahí, cada conversación analizada desarrolla la capacidad del programa para conversar de manera similar.

Los datos entrenan y mejoran el sistema de IA. Sin embargo, la misma información también permite a actores hostiles continuar con sus esfuerzos maliciosos.

Rápido desarrollo de la IA: poner en riesgo la seguridad y la privacidad

Un informe reciente del Instituto Nacional de Estándares y Tecnología nos informó sobre cuán rápido el desarrollo de la IA pone en riesgo la seguridad y la privacidad. Para resumir el informe, los actores hostiles están utilizando cuatro tipos principales de ataques para confundir a los sistemas de IA y conseguir lo que quieren:

Ataques de evasión

Los actores hostiles emplean ataques de evasión después del entrenamiento y despliegue de un sistema de inteligencia artificial para interrumpir la respuesta del sistema. Por ejemplo, un atacante puede dibujar una señal de alto para confundir a un vehículo automatizado. Dado que los vehículos impulsados ​​por IA sólo entienden cómo se supone que debe ser una señal de alto real, marcas adicionales como números podrían hacer que el automóvil piense que es una señal de velocidad.

Ataques de envenenamiento

Los actores hostiles pueden corromper los datos que los programadores utilizan para entrenar grandes modelos de lenguaje. Por ejemplo, los atacantes podrían corromper las conversaciones utilizadas para entrenar los sistemas de IA.

Ataques a la privacidad de datos

Un ataque a la privacidad de datos roba información confidencial, como datos personales, de un sistema de inteligencia artificial. Pueden interactuar con un chatbot y hacer preguntas estratégicas para obtener respuestas específicas. También podrían aplicar ingeniería inversa al modelo de capacitación en un intento de acceder a información privada.

Ataques de abuso

Los ataques de abuso tienen como objetivo fuentes legítimas que los sistemas de inteligencia artificial utilizan para recopilar información. Al alterar este contenido, los atacantes implementan información incorrecta para distorsionar el comportamiento previsto del sistema de inteligencia artificial.

Entonces, ¿cómo se puede proteger la seguridad y la privacidad de esta creciente amenaza?

En realidad, la protección contra estos riesgos de ciberseguridad sigue siendo prácticamente inexistente. Por lo tanto, dado que la inteligencia artificial está llegando a casi todas las industrias, su empresa deberá ser muy cautelosa con las iniciativas de implementación de IA. El rápido desarrollo de la IA pone en riesgo la seguridad y la privacidad, así que ¿por qué no probar el agua primero?