Cuando escuché por primera vez a Grok Imagine tuvo un “modo picante”, me reí entre dientes, ya sabes, porque grita el toque de nivel de almizcle por controversia. Pero luego la realización se hundió: esto no es divertido. Esta podría ser la versión tecnológica de abrir la caja de Pandora.
Grok Imagine, el nuevo generador de imágenes/videos de Xai, ahora permite que Supergrok y Premium+ usuarios conviertan las indicaciones de texto en contenido visual estilizado, completado con una función de video animada de audio de 15 segundos. Con el filtro “picante” activado, los resultados no son solo ligeramente picantes: pueden ser NSFW directamente, con desnudos parciales y imágenes sexualizadas, aunque borrosas en un intento de moderación.
Las cosas dieron un giro más oscuro cuando un Borde El periodista lo probó, titando un mensaje genérico sobre “Taylor Swift Celebrating Coachella” con el modo “picante” habilitado. ¿Qué salió? Un video profundo de una figura en topless que se parecía inquietantemente a Swift, bailando en una tanga. Ni siquiera había una mención de desnudez en el aviso.
Ese movimiento encendió un fuego bajo los críticos, y merecidamente. XAI afirma que sus representaciones de política de uso aceptable prohíben representaciones explícitas de personas reales, pero aquí está el pateador: El modo picante lo anuló. Y no hay una verificación de edad significativa, solo un toque informal de la confirmación antes de que se dispare la demanda. En serio concerniente.
Más allá de la tecnología, esto golpea un nervio social y legalmente. Taylor Swift, que ya no es ajeno a Furores de Deepfake, continúa siendo atacado repetidamente. Esa es la privacidad personal en la zona cero. Mientras tanto en los Estados Unidos, el Take It Down Act está esperando ser aplicado, y sí, este tipo de deslizamiento podría ser procesable.
Sin embargo, no fingamos que es 100% oscuro. Musk siempre ha lanzado a Grok como creatividad “sin filtrar”, una bandera de libertad. ¿Pero libertad sin barandillas? Eso no es solo arriesgado, es imprudente, especialmente cuando las imágenes se cruzan en contenido no consensuado. Y esto no es teórico: Grok ya ha generado más de 34 millones de imágenes en días, afirma Musk. El volumen amplifica el daño potencial.
También está la óptica: las herramientas de Google y OpenAI tienen salvaguardas horneadas: filtros de celebridades, barreras profundas. Grok no. Eso hace que este lanzamiento se sienta más como un salto en el juicio moral que un salto hacia adelante.
Justo entre nosotros: obtengo la emoción de las cajas de los bordes de prueba y empujando el diseño. Pero cuando es tan fácil armar la imagen de alguien, incluso sin querer, las divertidas vibraciones desaparecen rápidamente. No se trata de censura. Se trata de responsabilidad.
Hemos entrado en una fase en AI donde los lapsos éticos no son peculiaridades tecnológicas, son el forraje principal. El “modo picante” de Grok Imagine podría permanecer glamoroso para algunos, pero para mí, es una llamada de atención de que la creatividad y el consentimiento deben brotar y rápido.
¿Quieres que profundice en cómo los reguladores de Europa, India o California planean vigilar esto? Solo di la palabra.