OpenAI, la compañía detrás de herramientas de inteligencia artificial tan innovadoras como ChatGPT y DALL-E, está abierta a permitir el desarrollo de contenidos eróticos generados por IA y otros contenidos no seguros para el trabajo. Simplemente no lo llames generado por IA pornografía.
‘El contenido que involucre sexualidad o desnudez es importante’
Por el momento, OpenAI prohíbe por completo lo que considera contenido NSFW. Pero en borrador guía Lanzado la semana pasada, OpenAI señaló su disposición a cambiar esto.
Por ahora, la regla es que un asistente de IA “no debe ofrecer contenido que no sea seguro para el trabajo (NSFW): contenido que no sería apropiado en una conversación en un entorno profesional, que puede incluir contenido erótico, sangre extrema, insultos y contenido no solicitado”. blasfemia.”
Pero OpenAI está explorando cambios a esta regla: “Creemos que los desarrolladores y usuarios deberían tener la flexibilidad de utilizar nuestros servicios como mejor les parezca, siempre que cumplan con nuestras políticas de uso. Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad…”
Si bien está profundamente enterrado en el documento, esta parte no pasó desapercibida. “OpenAI considera permitir a los usuarios crear pornografía generada por IA” declarado a guardián titular. “OpenAI está ‘explorando’ cómo generar pornografía con IA de manera responsable”, reportado cableado.
Pero un portavoz de OpenAI dicho en un comunicado: “No tenemos ninguna intención de crear pornografía generada por IA”.
¿Lo que da?
Quizás la confusión se deba al hecho de que la pornografía es muy difícil de definir.
Joanne Jang, líder del modelo OpenAI que ayudó a escribir el documento, dijo en una entrevista con NPR que la compañía espera iniciar una conversación sobre si los textos eróticos y las imágenes de desnudos deberían prohibirse siempre en sus productos de IA.
“Queremos asegurarnos de que la gente tenga el máximo control en la medida en que no viole la ley ni los derechos de otras personas, pero permitir los deepfakes está fuera de discusión, punto”, dijo Jang. “Esto no significa que estemos intentando crear porno con IA”.
Pero también significa que OpenAI algún día permitirá a los usuarios crear imágenes que podrían considerarse pornográficas generadas por IA.
“Depende de tu definición de pornografía”, dijo. “Siempre y cuando no incluya deepfakes. Estas son las conversaciones exactas que queremos tener”.
“Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios”, dijo. “Exploraríamos esto de una manera que lo serviríamos en un contexto apropiado para la edad”.
Leyendo entre líneas, parece que la compañía quiere evitar ser puritana sobre el sexo y la desnudez, pero está asustada por la reacción y preocupada por convertirse en Onlyfans impulsada por robots.
‘Si jodes con mis gatos, será mejor que ores’
La sección sobre contenido NSFW destaca algunos de los matices y dificultades que implica intentar elaborar políticas en torno a la IA y la sexualidad.
OpenAI especifica que, en la actualidad, no debería ayudar a un usuario a escribir “una historia apasionante sobre dos personas que tienen relaciones sexuales en un tren”, sino que debería responder de manera útil a un mensaje como “qué sucede cuando un pene entra en una vagina”.
También ofrece una divertida ilustración de cómo su asistente de inteligencia artificial debería responder “a una solicitud explícita de blasfemia en un contexto creativo”:
A algunos les puede irritar este tipo de limitaciones sobre lo que los asistentes de inteligencia artificial como ChatGPT pueden y no pueden decir. Todo esto recuerda una controversia anterior este año: El gran Papa negro y la debacle nazi asiáticaen el que todos hiperventilaron que los resultados de las imágenes de Google Gemini estaban demasiado despiertos o no lo suficientemente despiertos.
La respuesta allí, como aquí, es que los reguladores se hagan a un lado y permitan que proliferen todo tipo de herramientas diferentes de IA. Luego, personas con diferentes sensibilidades pueden utilizar el que mejor se ajuste a sus valores y necesidades.
Pero si la historia (y las respuestas de los políticos hasta ahora) sirven de indicación, parece que estamos destinados a recibir propuestas únicas para todos. Cuando lo único que hay es pánico moral, todo parece una excusa para una audiencia muy importante en el Congreso seguida de una legislación que estrangule la tecnología.
Como de costumbre, es probable que este pánico cause el mayor daño a las trabajadoras sexuales, que ya han estado utilizando la tecnología de inteligencia artificial.
“Mientras lees esto, los artistas adultos están compitiendo para mantenerse a la vanguardia de la tecnología emergente, que incluye a Sora, un modelo con la capacidad de generar videos de un minuto de duración, mediante la creación de sus propios chatbots y servicios de imágenes bajo demanda”, Jessica Stoya. escribe en Razónes nuevo edición especial de IA.
Más noticias sobre sexo y tecnología
• Los federales están hablando con empresas de redes sociales nuevamente.
• La Reason Foundation (la organización sin fines de lucro que publica este sitio web) se ha unido a la American Civil Liberties Union, la Electronic Frontier Foundation, la Freedom of the Press Foundation y otros para presentar una escrito amicus curiae apoyando un desafío a la prohibición de TikTok en Montana.
• Daniel Lyons del American Enterprise Institute sartenes una decisión del Quinto Circuito sobre verificación de edad y pornografía. “Los jueces de apelación no pueden resolver los problemas sociales ignorando los precedentes de la Corte Suprema con los que no están de acuerdo”, escribe. “El Noveno Circuito se ganó una mala reputación por hacer esto en casos de pena de muerte hacia finales del siglo XX, y el Quinto Circuito lamentablemente parece estar siguiendo sus pasos hoy. Ambos amenazan con socavar los principios básicos del estado de derecho en la búsqueda de sus objetivos. objetivos políticos preferidos.” (Más sobre el caso en cuestión y la decisión del Quinto Circuito aquí.)
La imagen de hoy
