Mantenga los estándares éticos en la moda utilizando la detección de toxicidad multimodal con barandillas de roca madre de Amazon

Se estima que la industria mundial de la moda se valorará en $ 1.84 billones en 2025, lo que representa aproximadamente el 1.63% del PIB del mundo (Statista, 2025). Con tales cantidades masivas de capital generado, también viene el enorme potencial de contenido tóxico y mal uso.

En la industria de la moda, los equipos con frecuencia innovan rápidamente, a menudo utilizando IA. Compartir contenido, ya sea a través de videos, diseños o de otra manera, puede conducir a desafíos de moderación de contenido. Sigue habiendo un riesgo (a través de acciones intencionales o no intencionales) de contenido inapropiado, ofensivo o tóxico que se produce y se comparte. Esto puede conducir a la violación de la política de la empresa y el daño de reputación de la marca irreparable. Implementar barandillas mientras utiliza la IA para innovar más rápido dentro de esta industria puede proporcionar beneficios duraderos.

En esta publicación, cubrimos el uso del función de detección de toxicidad multimodal de Baratería de roca amazónica proteger contra el contenido tóxico. Ya sea que sea un gigante empresarial en la industria de la moda o en una marca prometedora, puede usar esta solución para detectar contenido potencialmente dañino antes de que afecte la reputación y los estándares éticos de su marca. Para los fines de esta publicación, los estándares éticos se refieren a contenido e imágenes tóxicos, irrespetuosos o dañinos que podrían crear diseñadores de moda.

La reputación de la marca representa una moneda invaluable que trasciende las tendencias, con empresas que compiten no solo por las ventas sino también por la confianza del consumidor y la lealtad. A medida que la tecnología evoluciona, la necesidad de estrategias efectivas de gestión de la reputación debe incluir el uso de IA de manera responsable. En esta creciente era de innovación, a medida que la industria de la moda evoluciona y los creativos innovan más rápido, las marcas que gestionan estratégicamente su reputación mientras se adaptan a las preferencias y las tendencias globales cambiantes de los consumidores se distinguirán del resto en la industria (fuente). Da el primer paso hacia la IA responsable dentro de tus prácticas creativas con las barandillas de roca madre de Amazon.

Descripción general de la solución

Incorporar barandillas de detección de toxicidad multimodal en un flujo de trabajo de generación de imágenes con Roca madre de Amazonpuede usar los siguientes servicios de AWS:

El siguiente diagrama ilustra la arquitectura de la solución.

Requisitos previos

Para esta solución, debe tener lo siguiente:

La siguiente política de IAM otorga permisos específicos para una función Lambda para interactuar con Registros de Amazon CloudWatchacceda a los objetos en un cubo S3 y aplique las barandillas de roca madre de Amazon, permitiendo que la función registre sus actividades, lea desde Amazon S3 y use las capacidades de filtrado de contenido de roca madre de Amazon. Antes de usar esta política, actualice los marcadores de posición con sus valores específicos de recursos:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "CloudWatchLogsAccess",
            "Effect": "Allow",
            "Action": "logs:CreateLogGroup",
            "Resource": "arn:aws:logs:<REGION>:<ACCOUNT-ID>:*"
        },
        {
            "Sid": "CloudWatchLogsStreamAccess",
            "Effect": "Allow",
            "Action": [
                "logs:CreateLogStream",
                "logs:PutLogEvents"
            ],
            "Resource": [
                "arn:aws:logs:<REGION>:<ACCOUNT-ID>:log-group:/aws/lambda/<FUNCTION-NAME>:*"
            ]
        },
        {
            "Sid": "S3ReadAccess",
            "Effect": "Allow",
            "Action": "s3:GetObject",
            "Resource": "arn:aws:s3:::<BUCKET-NAME>/*"
        },
        {
            "Sid": "BedrockGuardrailsAccess",
            "Effect": "Allow",
            "Action": "bedrock:ApplyGuardrail",
            "Resource": "arn:aws:bedrock:<REGION>:<ACCOUNT-ID>:guardrail/<GUARDRAIL-ID>"
        }
    ]
}

Crea una barandilla multimodal en el roca madre de Amazon

La base de nuestro sistema de moderación es una barandilla en Amazon Bedrock configurada específicamente para el contenido de la imagen. Para crear un Tugura de detección de toxicidad multimodalidadcomplete los siguientes pasos:

1. En la consola de rock de Amazon, elija Barandas bajo Salvaguardia En el panel de navegación.
2. Elegir Crear barandilla.
3. Ingrese un nombre y una descripción opcional, y cree su barandilla.

Configurar filtros de contenido para múltiples modalidades

A continuación, configura los filtros de contenido. Complete los siguientes pasos:

1. En el Configurar filtros de contenido Página, elija Imagen bajo Filtrar para indicaciones. Esto permite que la barandilla procese el contenido visual junto con el texto.
2. Configurar las categorías para Odiar, Insultos, Sexualy Violencia Para filtrar el contenido de texto y imagen. El Mala conducta y Inmediato Las categorías de amenazas están disponibles solo para el filtrado de contenido de texto.
3. Crea tus filtros.

Al configurar estos filtros, crea una salvaguardia integral que puede detectar contenido potencialmente dañino en múltiples modalidades, mejorando la seguridad y la confiabilidad de sus aplicaciones de IA.

Crea un cubo S3

Necesita un lugar para que los usuarios (u otros procesos) carguen las imágenes que requieren moderación. Para crear un cubo S3, complete los siguientes pasos:

1. En la consola de Amazon S3, elija Cubos En el panel de navegación.
2. Elegir Crear un balde.
3. Ingrese un nombre único y elija la región de AWS donde desea alojar el balde.
4. Para esta configuración básica, la configuración estándar suele ser suficiente.
5. Crea tu cubo.

Este cubo es donde comienza nuestro flujo de trabajo: el aterrizaje de imágenes nuevas aquí activará el siguiente paso.

Crear una función lambda

Utilizamos una función Lambda, un servicio de cómputo sin servidor, escrito en Python. Esta función se invoca cuando llega una nueva imagen en el cubo S3. La función enviará la imagen a nuestra barandilla en Amazon Bedrock para su análisis. Complete los siguientes pasos para crear su función:

1. En la consola Lambda, elija Funciones En el panel de navegación.
2. Elegir Crear función.
3. Ingrese un nombre y elija un tiempo de ejecución reciente de Python.
4. Otorgue los permisos correctos utilizando el rol de ejecución de IAM. La función necesita permiso para leer el objeto recién cargado de su cubo S3 (s3:GetObject) y permiso para interactuar con las barandillas de roca madre de Amazon utilizando el bedrock:ApplyGuardrail acción para su barandilla específica.
5. Crea tu barandilla.

Exploremos el código de Python que alimenta esta función. Usamos el AWS SDK para Python (Boto3) Para interactuar con Amazon S3 y Amazon Bedrock. El código primero identifica la imagen cargada del disparador del evento S3. Luego verifica si el formato de imagen es compatible (JPEG o PNG) y verifica que el tamaño no exceda el límite de barandilla de 4 MB.

El paso clave implica preparar los datos de la imagen para el ApplyGuardrail API Llamada. Empaquetamos los bytes de imagen RAW junto con su formato en una estructura que Amazon Bedrock entiende. Usamos el ApplyGuardrail API; Esto es eficiente porque podemos verificar la imagen contra nuestras políticas configuradas sin necesidad de invocar un modelo de base completo.

Finalmente, la función llama ApplyGuardrailpasando el contenido de la imagen, la identificación de la barandilla y la versión que notó anteriormente. Luego interpreta la respuesta de Amazon Bedrock, registrando si el contenido era BLOCKED o NONE (lo que significa que pasó el cheque), junto con categorías dañinas específicas detectadas si estaba bloqueada.

El siguiente es el código Python que puede usar como punto de partida (recuerde reemplazar a los marcadores de posición):

import boto3
import json
import os
import traceback

s3_client = boto3.client('s3')
# Use 'bedrock-runtime' for ApplyGuardrail and InvokeModel
bedrock_runtime_client = boto3.client('bedrock-runtime')

GUARDRAIL_ID = '<YOUR_GUARDRAIL_ID>' 
GUARDRAIL_VERSION = '<SPECIFIC_VERSION>' #e.g, '1'

# Supported image formats by the Guardrail feature
SUPPORTED_FORMATS = {'jpg': 'jpeg', 'jpeg': 'jpeg', 'png': 'png'}

def lambda_handler(event, context):
    # Get bucket name and object key
    bucket = event['Records'][0]['s3']['bucket']['name']
    key = event['Records'][0]['s3']['object']['key']

    print(f"Processing s3://{bucket}/{key}")

    # Extract file extension and check if supported
    try:
        file_ext = os.path.splitext(key)[1].lower().lstrip('.')
        image_format = SUPPORTED_FORMATS.get(file_ext)
        if not image_format:
            print(f"Unsupported image format: {file_ext}. Skipping.")
            return {'statusCode': 400, 'body': 'Unsupported image format'}
    except Exception as e:
         print(f"Error determining file format for {key}: {e}")
         return {'statusCode': 500, 'body': 'Error determining file format'}


    try:
        # Get image bytes from S3
        response = s3_client.get_object(Bucket=bucket, Key=key)
        image_bytes = response['Body'].read()

        # Basic size check (Guardrail limit is 4MB)
        if len(image_bytes) > 4 * 1024 * 1024:
             print(f"Image size exceeds 4MB limit for {key}. Skipping.")
             return {'statusCode': 400, 'body': 'Image size exceeds 4MB limit'}

        # 3. Prepare content list for ApplyGuardrail API 
        content_to_assess = [
            {
                "image": {
                    "format": image_format, # 'jpeg' or 'png' 
                    "source": {
                        "bytes": image_bytes # Pass raw bytes 
                    }
                }
            }
        ]

        # Call ApplyGuardrail API 
        print(f"Calling ApplyGuardrail for {key} (Format: {image_format})")
        guardrail_response = bedrock_runtime_client.apply_guardrail(
            guardrailIdentifier=GUARDRAIL_ID,
            guardrailVersion=GUARDRAIL_VERSION,
            source="INPUT", # Assess as user input
            content=content_to_assess
        )

        # Process response
        print("Guardrail Assessment Response:", json.dumps(guardrail_response))

        action = guardrail_response.get('action')
        assessments = guardrail_response.get('assessments', [])
        outputs = guardrail_response.get('outputs', []) # Relevant if masking occurs

        print(f"Guardrail Action for {key}: {action}")

        if action == 'BLOCKED':
            print(f"Content BLOCKED. Assessments: {json.dumps(assessments)}")
            # Add specific handling for blocked content
        elif action == 'NONE':
             print("Content PASSED.")
             # Add handling for passed content
        else:
             # Handle other potential actions (e.g., content masked)
             print(f"Guardrail took action: {action}. Outputs: {json.dumps(outputs)}")


        return {
            'statusCode': 200,
            'body': json.dumps(f'Successfully processed {key}. Guardrail action: {action}')
        }

    except bedrock_runtime_client.exceptions.ValidationException as ve:
        print(f"Validation Error calling ApplyGuardrail for {key}: {ve}")
        # You might get this for exceeding size/dimension limits or other issues
        return {'statusCode': 400, 'body': f'Validation Error: {ve}'}
    except Exception as e:
        print(f"Error processing image {key}: {e}")
        # Log the full error for debugging
        traceback.print_exc()
        return {'statusCode': 500, 'body': f'Internal server error processing {key}'}

Cree un disparador de Amazon S3 para la función Lambda

Con el cubo S3 listo y la función codificada, ahora debe conectarlos. Esto se hace configurando un disparador de Amazon S3 en la función Lambda:

1. En la página de configuración de la función, elija Agregar disparador.

2. Elija S3 como fuente.

3. Apunúralo al cubo S3 que creaste anteriormente.
4. Configure el activador para activar en todos los eventos de creación de objetos. Esto asegura que cada vez que se cargue con éxito un nuevo archivo en el cubo S3, su función Lambda se invoca automáticamente.

Pon a prueba tu tubería de moderación

¡Es hora de ver su flujo de trabajo automatizado en acción! Cargue algunas imágenes de prueba (JPEG o PNG, debajo de 4 MB) a su cubo S3 designado. Incluya imágenes que sean claramente seguras y otras que puedan activar los filtros de contenido dañino que configuró en su barandilla. En la consola CloudWatch, busque el grupo de registro asociado con su función Lambda. Examinar las últimas transmisiones de registro le mostrará los detalles de ejecución de la función. Debería ver mensajes que confirman qué archivo se procesó, la llamada a ApplyGuardraily la acción final de la barandilla (NONE o BLOCKED). Si se bloqueó una imagen, los registros también deben mostrar los detalles de evaluación específicos, lo que indica qué categoría dañina se detectó.

Siguiendo estos pasos, ha establecido una tubería robusta y sin servidor para moderar automáticamente el contenido de la imagen utilizando la potencia de Amazon BedrolyRails. Este enfoque proactivo ayuda a mantener entornos en línea más seguros y se alinea con las prácticas de IA responsables.

{
    "ResponseMetadata": {
        "RequestId": "fa025ab0-905f-457d-ae19-416537e2c69f",
        "HTTPStatusCode": 200,
        "HTTPHeaders": {
            "content-type": "application/json",
            "content-length": "1008",
            "connection": "keep-alive",
        },
        "RetryAttempts": 0
    },
    "usage": {
        "topicPolicyUnits": 0,
        "contentPolicyUnits": 0,
        "wordPolicyUnits": 0,
        "sensitiveInformationPolicyUnits": 0,
        "sensitiveInformationPolicyFreeUnits": 0,
        "contextualGroundingPolicyUnits": 0
    },
    "action": "GUARDRAIL_INTERVENED",
    "outputs": [
        {
            "text": "Sorry, the model cannot answer this question."
        }
    ],
    "assessments": [
        {
            "contentPolicy": {
                "filters": [
                    {
                        "type": "HATE",
                        "confidence": "MEDIUM",
                        "filterStrength": "HIGH",
                        "action": "BLOCKED"
                    }
                ]
            },
            "invocationMetrics": {
                "guardrailProcessingLatency": 918,
                "usage": {
                    "topicPolicyUnits": 0,
                    "contentPolicyUnits": 0,
                    "wordPolicyUnits": 0,
                    "sensitiveInformationPolicyUnits": 0,
                    "sensitiveInformationPolicyFreeUnits": 0,
                    "contextualGroundingPolicyUnits": 0
                },
                "guardrailCoverage": {
                    "images": {
                        "guarded": 1,
                        "total": 1
                    }
                }
            }
        }
    ],
    "guardrailCoverage": {
        "images": {
            "guarded": 1,
            "total": 1
        }
    }
}

Limpiar

Cuando esté listo para eliminar la tubería de moderación que construyó, debe limpiar los recursos que creó para evitar cargos innecesarios. Complete los siguientes pasos:

1. En la consola Amazon S3, elimine la configuración de notificación de eventos en el cubo que desencadena la función Lambda.
2. Elimina el cubo.
3. En la consola Lambda, elimine la función de moderación que creó.
4. En la consola IAM, elimine el rol de ejecución que creó para la función Lambda.
5. Si creó una barandilla específicamente para este proyecto y no lo necesita para otros fines, retírelo con la consola de rock de Amazon.

Con estos pasos de limpieza completos, ha eliminado con éxito los componentes de su tubería de moderación de imagen. Puede recrear esta solución en el futuro siguiendo los pasos descritos en esta publicación; esto destaca la facilidad de las arquitecturas sin servidor basadas en la nube.

Conclusión

En la industria de la moda, proteger la reputación de su marca al tiempo que mantiene la innovación creativa es primordial. Al implementar la detección de toxicidad multimodal de barra de roca de roca de Amazon, las marcas de moda pueden evaluar automáticamente el contenido para un material potencialmente dañino antes de que afecte su reputación o viola sus estándares éticos. A medida que la industria de la moda continúa evolucionando digitalmente, la implementación de sistemas de moderación de contenido sólidos no se trata solo de la gestión de riesgos, se trata de generar confianza con sus clientes y mantener la integridad de la marca. Ya sea que sea una casa de moda establecida o una marca emergente, esta solución ofrece una forma eficiente de mantener sus estándares de contenido. La solución que describimos en esta publicación proporciona una arquitectura escalable y sin servidor que logra lo siguiente:

• Procesa automáticamente las nuevas cargas de imágenes
• Utiliza capacidades de IA avanzadas a través de Amazon Bedrock
• Proporciona comentarios inmediatos sobre la aceptabilidad del contenido
• Requiere un mantenimiento mínimo después de su implementación

Si está interesado en más información sobre las barandillas de roca madre de Amazon y su uso práctico, consulte el video Amazon BedrockerRails: Haga que su IA sea segura y éticay la publicación Los filtros de contenido de imagen de barra de roca de roca de Amazon proporcionan salvaguardas líderes en la industria, ayudando al bloqueo del cliente hasta el 88% del contenido multimodal dañino: generalmente disponible hoy en día.

Sobre los autores

Jordan Jones es un arquitecto de soluciones en AWS dentro de la organización del Centro de ventas en la nube. Utiliza tecnologías en la nube para resolver problemas complejos, brindando experiencia y experiencia en la industria de defensa en diversos sistemas operativos, ciberseguridad y arquitectura en la nube. Le gusta asesorar a aspirantes a profesionales y hablar en varios paneles de carrera. Fuera del trabajo, se ofrece como voluntario dentro de la comunidad y se puede encontrar viendo los juegos de Golden State Warriors, resolviendo rompecabezas de Sudoku o explorando nuevas culturas a través de los viajes mundiales.

Jean Jacques Mikem es un arquitecto de soluciones en AWS con pasión por el diseño de soluciones tecnológicas seguras y escalables. Utiliza su experiencia en ciberseguridad y hardware tecnológico para arquitectores de sistemas robustos que satisfacen necesidades comerciales complejas. Con una base sólida en principios de seguridad e infraestructura informática, se destaca por crear soluciones que cierran los requisitos comerciales con la implementación técnica.