Unity Gateway passa a suportar o Amazon Bedrock Mantle

O Unity Gateway agora suporta a integração com o Amazon Bedrock Mantle como um serviço de provedor de modelos externo, centralizando credenciais, permissões e custos no Unity Catalog.

Para que serve

Imagine que você precisa integrar modelos de IA do Amazon Bedrock Mantle em suas aplicações no Databricks sem expor chaves de API nos notebooks. Com esta novidade, você pode:

• Centralizar credenciais criptografadas e detalhes de conexão em um único objeto gerenciado.
• Controlar o acesso de usuários e serviços usando permissões padrão do Unity Catalog.
• Aplicar limites de taxa, orçamentos e tabelas de inferência nas requisições.

Como usar

Você cria e gerencia o serviço de provedor usando SQL no Databricks para registrar o Amazon Bedrock Mantle.

CREATE MODEL PROVIDER SERVICE main.default.bedrock_mantle_prod
TYPE 'bedrock-mantle'
CREDENTIALS (
  aws_access_key_id = 'minha_access_key',
  aws_secret_access_key = 'minha_secret_key'
);

O que acontece nesse código:

1. O Databricks cria um novo objeto de segurança no catálogo e schema indicados.
2. O tipo do provedor é definido como 'bedrock-mantle'.
3. As credenciais da AWS são armazenadas de forma criptografada e segura.

Limitações e requisitos

• O Amazon Bedrock Mantle (bedrock-mantle) utiliza endpoints diferentes do provedor tradicional bedrock-runtime.
• Os usuários precisam das permissões adequadas no Unity Catalog, além de USE CATALOG e USE SCHEMA no catálogo e schema de origem.