Sam Altman avisa sobre el nuevo generador de imágenes de ChatGPT: "Pueden ofender a la gente"
OpenAI ha optimizado la generación de imágenes en ChatGPT, permitiendo crear ilustraciones más precisas, representar texto fielmente y seguir instrucciones detalladas.
OpenAI ha presentado su última evolución en generación de imágenes con inteligencia artificial, destacando avances en coherencia y creatividad.
Sin embargo, su CEO, Sam Altman, ha reconocido que este nuevo modelo también puede generar contenido que algunas personas considerarán ofensivo, lo que ha reavivado el debate sobre los límites y riesgos de la IA en la creación visual.
"Lo que queremos lograr es que la herramienta no genere contenido ofensivo, a menos que uno lo desee, en cuyo caso, dentro de lo razonable, lo hace", afirmó Altman en la red social X.
Un salto tecnológico en la generación de imágenes
El nuevo modelo de OpenAI, integrado en ChatGPT, permite una fluidez visual sin precedentes. A diferencia de versiones anteriores, esta herramienta mantiene la coherencia en secuencias de imágenes, lo que la convierte en una opción atractiva para diseñadores, creadores de contenido y desarrolladores de videojuegos.
Según Altman, la tecnología representa un gran avance en la creatividad asistida por IA, pero también implica desafíos. La posibilidad de generar imágenes con mayor nivel de detalle y consistencia abre nuevas oportunidades, pero también plantea preocupaciones sobre la generación de contenido no deseado.
"Creemos que a la gente le encantará y estamos entusiasmados con lo que podrán crear, pero sabemos que algunos usos podrían resultar ofensivos para ciertos grupos", explicó Altman.
Entre sus capacidades avanzadas, el modelo permite ajustar parámetros como colores, fondos y proporciones, facilitando la personalización, según indica el empresario en su blog oficial. Su capacidad para interpretar imágenes cargadas por el usuario y generar variaciones basadas en ellas lo posiciona por encima de herramientas competidoras.
Otra de sus características destacadas es su habilidad para manejar escenas complejas con hasta 20 objetos en una sola imagen, superando el límite de versiones anteriores. No obstante, esta mejora en detalle también prolonga el tiempo de procesamiento, lo que puede significar esperas de hasta un minuto para la generación de imágenes más elaboradas.
El modelo ha sido entrenado con una amplia base de datos de imágenes y texto, lo que le permite comprender y responder de manera más intuitiva a las solicitudes de los usuarios. Sin embargo, esto también genera interrogantes sobre la ética y el control del contenido generado.
Seguridad y medidas contra el uso indebido de la IA
Para abordar preocupaciones sobre el uso de la IA en la creación de imágenes engañosas o dañinas, OpenAI ha implementado salvaguardas. Todas las imágenes generadas incluirán metadatos que las identificarán como creaciones de IA, con el objetivo de reducir la propagación de contenido falso o deepfakes.
"También hemos creado una herramienta de búsqueda interna que utiliza atributos técnicos de las generaciones para ayudar a verificar si el contenido proviene de nuestro modelo", explicó.
Estas medidas se suman a restricciones específicas en la creación de contenido gráfico sensible, como imágenes de violencia extrema o representaciones de personas reales en contextos engañosos. La compañía también ha reforzado sus filtros en temas como desnudez y explotación de menores, con el fin de evitar abusos de la herramienta.
El nuevo generador de imágenes ya está disponible para los usuarios de los planes Plus, Pro, Team y Free de ChatGPT, y se espera que pronto llegue a las versiones Enterprise y para instituciones educativas. Además, OpenAI planea ofrecer acceso a su API en las próximas semanas, permitiendo que desarrolladores integren esta tecnología en sus propias aplicaciones.