El navegador ChatGPT Atlas de OpenAI es el prototipo de cómo usaremos las computadoras en el futuro. Dentro de unos años, los sistemas operativos estarán impulsados por IA, ya que los usuarios interactuarán mediante indicaciones en lugar de hacer clic en las aplicaciones. Describirás lo que quieres y la IA orquestará todo en tu sistema, aplicaciones e internet.

Esto no es especulación, es la evolución lógica de la informática. Atlas demuestra esta visión hoy: la IA en el centro de tu experiencia informática, comprendiendo el contexto de toda tu vida digital y actuando en tu nombre. Los próximos años determinarán si esta transformación se produce de forma segura.

La confianza y la ruptura de los límites

La ciberseguridad se basa fundamentalmente en la confianza y los límites. La informática tradicional mantiene límites claros: las aplicaciones se ejecutan de forma aislada, los sitios web no pueden acceder a los datos de los demás y los usuarios aprueban cada acción. La informática nativa con IA elimina estos límites.

Los navegadores ya se encuentran entre las superficies de ataque más explotadas en informática. Son la puerta de entrada a sesiones autenticadas y datos confidenciales. Si a esto le sumamos la IA que opera con todos los privilegios en todas las sesiones iniciadas (banca, correo electrónico, atención médica y sistemas corporativos), la superficie de ataque se expande drásticamente.

El nuevo vector de ataque

Los navegadores con IA introducen una peligrosa vulnerabilidad: la inyección indirecta de mensajes. Instrucciones maliciosas ocultas en el contenido de una página web pueden secuestrar el asistente de IA para ejecutar acciones no autorizadas. Los atacantes incrustan comandos en texto casi invisible que los humanos no pueden ver, pero que la IA lee a la perfección.

Cuando un navegador con IA procesa una página web, no puede distinguir las instrucciones legítimas de los comandos maliciosos ocultos en el contenido. Los límites de seguridad tradicionales, como la política del mismo origen, se vuelven ineficaces cuando los agentes de IA actúan con todos tus privilegios. La IA sigue los comandos ocultos como si vinieran de ti, ya que trata todo el texto como potencialmente procesable.

Diversas demostraciones han demostrado cómo una sola URL maliciosa puede infiltrar correos electrónicos, datos de calendario y credenciales, ya que el asistente de IA tiene acceso a todo lo que haces.

El desafío de la privacidad

Los navegadores con IA requieren un acceso a datos sin precedentes para funcionar eficazmente. Cuanto más contexto tengas sobre tu historial de navegación, documentos, comunicaciones y comportamiento, más útiles serán. Pero esto crea una tensión fundamental: cada página web que visitas, cada formulario que rellenas, cada sesión autenticada se convierte en datos de entrenamiento para que la IA te comprenda mejor.

Información confidencial, datos financieros, historiales médicos y comunicaciones empresariales confidenciales fluyen a través de estos sistemas. La IA debe procesarlo todo para brindar asistencia inteligente, creando una infraestructura de vigilancia integral, incluso si es involuntaria.

Qué debe suceder

La era de la computación nativa de IA ha comenzado. La transformación de interfaces basadas en aplicaciones a interfaces nativas de IA es inevitable: los beneficios económicos y en la experiencia del usuario son abrumadores. La pregunta es si podemos construir una seguridad adecuada antes de que su adopción generalizada genere vulnerabilidades sistémicas.

• La industria debe establecer principios de seguridad por diseño: esto implica aislamiento arquitectónico entre los comandos del usuario y el contenido web no confiable, confirmación explícita del usuario para acciones sensibles a la seguridad y controles granulares de permisos para las capacidades de IA.
• Las organizaciones deben tratar los navegadores de IA como tecnologías de alto riesgo que requieren una mayor supervisión, políticas claras de uso aceptable y restricciones de acceso a datos sensibles hasta que las prácticas de seguridad maduren.
• Los reguladores necesitan marcos diseñados específicamente para los riesgos de la computación nativa de IA, que aborden la transparencia del procesamiento de datos, la divulgación de incidentes de seguridad y la responsabilidad cuando los sistemas de IA actúan de forma autónoma.

Atlas es el primer paso en la transformación de la computación hacia interfaces nativas de IA. Los próximos 24 meses determinarán si la seguridad se pone al día con la innovación. Las barreras que nos mantuvieron seguros durante décadas se están desvaneciendo. Aquellos que construyan primero las protecciones adecuadas definirán la próxima generación de informática para miles de millones de personas en todo el mundo.

(*) Oded Vanunu: Director de Tecnología y Jefe de Investigación de Vulnerabilidades de Producto en Check Point Software