Proteção contra prompt injection no Cortex AI agora nas regiões AWS da Europa, Japão e Ásia-Pacífico

As barreiras de proteção contra prompt injection e jailbreak no Cortex AI agora podem ser utilizadas quando o parâmetro da conta CORTEX_ENABLED_CROSS_REGION estiver configurado para as regiões AWS_EU, AWS_JP ou AWS_APJ. Essa mudança amplia a disponibilidade geográfica para proteger aplicações de inteligência artificial em ambientes corporativos.

Para que serve

Imagine que você gerencia agentes de IA na sua organização e precisa garantir que usuários mal-intencionados não consigam burlar as instruções do sistema com comandos manipulados. Com este recurso, você pode:

• Detectar e bloquear tentativas de prompt injection direto e indireto em tempo de execução.
• Impedir ataques do tipo jailbreak que tentam contornar os protocolos de segurança do modelo.
• Monitorar o histórico de varreduras de segurança e o consumo de tokens pela auditoria.

Como usar

Para habilitar as barreiras de proteção contra prompt injection na sua conta, utilize o comando ALTER ACCOUNT com o parâmetro AI_SETTINGS.

ALTER ACCOUNT SET AI_SETTINGS = $$
  guardrails:
    advanced_prompt_injection:
      - enabled: true
$$;

O que acontece nesse código:

1. O comando define as configurações de inteligência artificial na conta.
2. O bloco guardrails ativa a proteção avançada contra advanced_prompt_injection.
3. O parâmetro enabled: true aplica as regras de varredura em tempo de execução para CoCo, Snowflake CoWork e Cortex Agents.

Para consultar a configuração atual da sua conta:

SHOW PARAMETERS LIKE 'AI_SETTINGS' IN ACCOUNT;

O que acontece nesse código:

1. O comando consulta os parâmetros existentes na conta.
2. O filtro localiza a chave AI_SETTINGS para verificar se os guardrails estão ativos.

Para desativar as barreiras de proteção:

ALTER ACCOUNT UNSET AI_SETTINGS;

O que acontece nesse código:

1. O comando remove as configurações personalizadas de AI_SETTINGS da conta.
2. As proteções do Cortex AI Guardrails deixam de ser aplicadas.

Limitações e requisitos

• Requer a Enterprise Edition do Snowflake ou superior.
• O parâmetro CORTEX_ENABLED_CROSS_REGION da conta deve estar configurado como AWS_EU, AWS_JP, AWS_APJ, ANY_REGION, AWS_US ou AWS_GLOBAL.
• A configuração exige a função ACCOUNTADMIN.
• Disponível para contas comerciais em nuvens suportadas, excluindo ambientes governamentais.
• O uso consome créditos do Snowflake com base na quantidade de tokens escaneados.