Protégez les applications d’IA générative avec Guardrails pour Amazon Bedrock (préversion)

Aujourd’hui, nous annonçons en avant-première Guardrails pour Amazon Bedrock, qui permet aux clients de mettre en œuvre des protections dans tous les modèles de base (FM) en fonction de leurs cas d’utilisation et de leurs politiques d’IA responsable. Les clients peuvent créer plusieurs garde-corps adaptés à différents cas d’utilisation et les appliquer sur plusieurs FM, offrant ainsi une expérience utilisateur cohérente et standardisant les contrôles de sécurité dans les applications d’IA générative.

Les clients doivent protéger leurs applications d’IA générative pour une expérience utilisateur pertinente et sûre. Alors que de nombreux FM disposent de protections intégrées pour filtrer les contenus indésirables et nuisibles, les clients peuvent souhaiter personnaliser davantage les interactions spécifiques à leurs cas d’utilisation et adhérer à leurs politiques d’IA responsable. Par exemple, une banque pourrait souhaiter configurer son assistant en ligne pour s’abstenir de fournir des conseils en investissement et limiter les contenus préjudiciables. Grâce aux garde-fous, les clients peuvent définir un ensemble de sujets refusés qui sont indésirables dans le contexte de leur application et configurer des seuils pour filtrer les contenus préjudiciables dans des catégories telles que la haine, les insultes, le sexe et la violence. Les garde-fous évaluent les requêtes des utilisateurs et les réponses FM par rapport aux sujets refusés et aux filtres de contenu, contribuant ainsi à empêcher le contenu entrant dans des catégories restreintes. Cela permet aux clients de gérer étroitement les expériences utilisateur en fonction des exigences et des politiques spécifiques aux applications.

Les garde-corps sont pris en charge pour le contenu en anglais sur les FM basés sur du texte et les modèles affinés sur Amazon Bedrock ainsi que les agents pour Amazon Bedrock. Guardrails for Amazon Bedrock est disponible en version préliminaire dans les régions USA Est (Virginie du Nord) et USA Ouest (Oregon).

Pour en savoir plus sur Guardrails pour Amazon Bedrock, visitez la page des fonctionnalités.