En el mundo actual, donde la inteligencia artificial (IA) avanza rápidamente, una amenaza conocida como «Shadow AI» ha comenzado a inquietar a las empresas. Este fenómeno refiere al uso no autorizado de modelos de lenguaje público por empleados, sin que estén bajo la supervisión del área de TI, lo que puede comprometer la seguridad, privacidad y cumplimiento normativo.
Para contrarrestar esta situación, startups del programa Intel® Liftoff están desarrollando soluciones innovadoras que fortalecen la seguridad y gobernanza de la IA. Estas propuestas buscan asegurar operaciones desde la nube hasta dispositivos periféricos, asegurando la confiabilidad y escalabilidad de las herramientas empleadas.
Los modelos de lenguaje avanzados ofrecen múltiples beneficios, pero también presentan riesgos como alucinaciones, manipulación a través del «prompt injection» o almacenamiento inseguro de datos. Prediction Guard, parte del programa Intel Liftoff Catalyst Track, ha creado una plataforma que filtra entradas y salidas peligrosas en un ambiente seguro, utilizando tecnologías como Intel® Tiber AI Cloud y aceleradores Intel® Gaudi® 2, esenciales para sectores críticos como la salud y las finanzas.
Otra empresa, Raidu, ha desarrollado una plataforma integral de gobernanza con enmascaramiento de datos y control de accesos que cumple con normativas como SOC 2, GDPR y HIPAA. En tanto, Co-mind ofrece una plataforma para manejar documentos confidenciales internamente, evitando el uso de LLM públicos.
La computación confidencial se perfila como esencial para la IA segura, protegiendo datos durante el procesamiento dentro de enclaves seguros. Roseman Labs destaca en este campo, permitiendo análisis de datos sin compartirlos directamente, gracias a su sistema de cómputo multipartito cifrado, potenciado por procesadores Intel® Xeon® de 6.ª generación.
En la lucha contra fraudes digitales, Erasys ha creado Trustmark, que utiliza biometría comportamental para mejorar la verificación de identidad, mientras que Neural Defend combate los deepfakes con IA multimodal, protegiendo a entidades como gobiernos y bancos de fraudes sintéticos.
Además, Falcons.AI ha desarrollado modelos de reconocimiento de imágenes compactos y potentes, que operan eficientemente en dispositivos periféricos con mínimo consumo energético. En el ámbito corporativo, MindFront presenta SynthGrid, facilitando el trabajo de agentes de IA con sistemas como Microsoft Graph y CRM, sin comprometer la seguridad.
En resumen, la aparición de la Shadow AI ha acelerado la adopción de estrategias proactivas para asegurar la inteligencia artificial. El ecosistema Intel® Liftoff está demostrando que una IA robusta y ética es posible, alineada con los objetivos empresariales y con una sólida base de seguridad para afrontar los desafíos presentes y futuros.
