Ir al contenido principal

¿Acelerar el uso de la IA o garantizar la seguridad?

¿Acelerar el uso de la IA o garantizar la seguridad?

por João Paulo Spader Back, socio director de SinapseTech

Existe un dato publicado por Anthropic en abril de este año que todo ejecutivo de tecnología debería haber leído, y que pocos se han tomado en serio hasta ahora.

El modelo más reciente de la empresa encontró y explotó, de forma casi autónoma, brechas graves en sistemas utilizados por miles de millones de personas. Una de esas vulnerabilidades existía desde hacía 27 años. El proceso completo costó menos de US$ 50 y se completó en una noche. El nuevo modelo es cerca de 90 veces más eficaz que su versión anterior para transformar fallas conocidas en ataques reales.

Ante esto, el debate que muchos C-Levels todavía mantienen internamente, sobre acelerar la adopción de la IA o priorizar la seguridad, revela una peligrosa incomprensión del momento.

La IA ya se está utilizando en su organización. Por colaboradores bien intencionados, en herramientas no homologadas, con datos reales del negocio. Lo que algunos llaman agilidad, el mercado de seguridad lo llama Shadow AI.

El riesgo no proviene solo de agentes externos. También viene de dentro: integraciones hechas sin evaluación de seguridad, modelos que acceden a datos que nunca deberían salir de la empresa, decisiones basadas en resultados que nadie auditó.

La gobernanza de IA no significa bloquear herramientas, sino crear las condiciones para que la innovación escale sin crear vectores de riesgo invisibles. La pregunta no es "¿cuándo debemos empezar a gobernar el uso de la IA?". Es: cuando algo salga mal, ¿podrá explicar lo que ocurrió?

Si la respuesta es no, el momento de actuar es ahora.