Foro

Ayer sacaron la noticia. Paizo no usará nada del contenido de IA, ni en texto ni en arte, en ninguno de sus productos. Lo anunciaron aquí.

El resumen es este:

In the coming days, Paizo will add new language to its creative contracts that stipulate that all work submitted to us for publication be created by a human. We will further add guidance to our Pathfinder and Starfinder Infinite program FAQs clarifying that AI-generated content is not permitted on either community content marketplace.

Básicamente todo lo que salga en sus libros será hecho por un humano, y en los programas de "Infinite" que son sus lugares donde la gente puede vender contenido incluso basado en su IP, también tendrá que ser hecho por humanos. No irán cosa por cosa a comprobarlo, claro, porque no pueden. Indican en comentarios que habrá un "honor system", igual que para no publicar imágenes o texto sobre cosas sobre las que no se tengan derechos.  

Pues me parece bien.

Pese a que soy un ultrafan de las IA y las uso a saco creo que las editoriales 'grandes' tienen el músculo económico necesario para contratar seres humanos que hagan un trabajo más personal. Eso no quita que esos propios seres humanos usen las IAs para mejorar o acelerar su ritmo de trabajo. Ahí ya es cuestión de mercado, como siempre.

A mí las IA me fascinan para casos como el nuestro: de amateurs que quieren darle un toque profesional a lo que hacen. Pero si tuviera pasta para contratar a Drawnin (por poner un ejemplo de dibujante al que admire) por el carallo iba a usar una IA para mis ilustraciones ;) 

Eso no quita que esos propios seres humanos usen las IAs para mejorar o acelerar su ritmo de trabajo

Claro. Herramientas digitales. Luego la cuestión es que acabe siendo un producto suyo. 

A mí las IA me fascinan para casos como el nuestro: de amateurs que quieren darle un toque profesional a lo que hacen. Pero si tuviera pasta para contratar a Drawnin (por poner un ejemplo de dibujante al que admire) por el carallo iba a usar una IA para mis ilustraciones ;) 

De hecho, no lo han puesto pero han tenido que ver el riesgo legal. El de que un autor diga "esas imágenes de IA son calcadas a las mías, habéis robado mi arte" y demanda y daños económicos y morales. 

Y no es lo mismo que les demanden porque les han colado una cuando ellos tienen bien claro que "no aceptan y no usan" que les demanden y usen muchas y les casquen daños por uso generalizado. 

Yo me meto bastante en Reddit en las secciones de diseño de RPGs y demás hierbas y en lo tocante al arte (las portadas y los dibujitos) hay un rechazo brutal para todo lo generado por IA. Hay muchos artistas (suena raro pero es que está todo en inglés y traduzco a medida que escribo) que se sienten amenazados por ellas y la legislación al respecto todavía está en pañales.

Por resumir, el asunto viene a ser:

1. El trabajo de un artista, debe pagarse.
2. Algunas personas no quieren o no pueden pagar por arte profesional. 
3. Las IAs dan imágenes "vistosas" rápido y fácil pero de ética "discutible"

Esto lleva a una serie de situaciones derivadas:

• La única opinión "aceptable" es que las IA no se tocan ni con un palo de veinte metros, que a saber de dónde salen las imágenes que tienen que ser "responsibly sourced" (como el atún). Es una opinión correcta pero lleva a extremismos desquiciados, más aún porque cualquiera que diga otra cosa (no necesariamente lo contrario) está contra el gremio de ilustradores. 
• Los diseñadores de medio pelo (entre los que me cuento)  que serían los grandes beneficiarios de las IAs se encuentran con que si ponen una portada generada así les dicen de todo y el juego pasa a "ser juzgado por la portada". Es puñetero porque normalmente, si no pones portada o pones cualquier tontería entonces te ignoran por falta de imágenes. Realmente, en un mercado tan saturado como el de los juegos de rol lo normal es comerse los mocos con imágenes y sin ellas. Yo me hago los dibujitos yo mismo para curarme en salud (por una cuestión práctica: si las imágenes de IA van a ser contraproducentes, pues no las uso. Tampoco me puedo permitir calidad profesional , no me garantizaría nada y quiero el control creativo total de mis mierdas).

Lo de Paizo no es el primero que oigo. En general, es la opción correcta para cualquier compañía porque no puedes elegir otra. Nadie quiere un producto de alguien que admita que las cuestiones éticas se la traen floja. 

¿Puedes usar imágenes de IA generadas a partir de tu propio arte?

De hecho, no lo han puesto pero han tenido que ver el riesgo legal. El de que un autor diga "esas imágenes de IA son calcadas a las mías, habéis robado mi arte" y demanda y daños económicos y morales. 

Yo creo que el problema legal más importante es que en EEUU, ahora mismo, las cosas producidas por AI no se pueden registrar y no hay derechos de autor asociadas a ellas.

https://arstechnica.com/information-technology/202...

Paizo podría publicar cosas, entiendo, pero todo el mundo podría publicar exactamente lo mismo y cobrar.

Y también está la cuestión de la calidad, y cantidad de las cosas que les envían. Por ejemplo, Clarkesworld, una revista de ciencia ficción, estaba recibiendo tantas historias generadas por IA, que prácticamente se doblaron las historias que se enviaban normalmente.

https://www.npr.org/2023/02/23/1159118948/sci-fi-m...

Y el problema para ellos ni siquiera es legal, ético, o de publicidad. Es que literalmente les era imposible examinar todo lo que les estaban mandando. La mayor parte de lo cual era impublicable por su mala calidad; pero aún así necesitaban dedicarle gente y tiempo (y el dinero para pagar a esa gente) para revisarlas. Es decir, que las consideraciones de qué pasa si las publicamos ya ni siquiera se consideraban, porque los problemas que daban empezaba mucho antes en el proceso.

Con eso, no me extraña que Pathfinder intente ya disuadir a la gente de mandarles un montón de morralla de la misma forma que le estaban mandando a Clarkesworld.

El tema es que muchos de los que no quieren material con IA no son conscientes de que un diseñador amateur no tiene dinero para pagarle a artistas.¿Qué haces entonces? ¿Pedir favores? ¿Usar portadas hechas con paint? 

Me parece un poco absurdo. 

Que conste que entiendo la sensación de amenaza de algunos artistas. Los grandes porque ven que han usado su trabajo para alimentar al enemigo y los mediocres porque ven que ya son más que prescindibles. Y es una putada pero es que he visto a gente ofreciendo dibujos 'low cost' de personajes que, sinceramente, dejan bastante que desear para pedir dinero por ellos. De hecho he visto portadas de algunos librojuegos que me han sacado las ganas de comprarlos porque desmotivan un montón... y luego resulta que el contenido es cojonudo. 

Es complicado posicionarse pero yo creo que los extremos radicales nunca son buenos. Y que las IA vienen para quedarse. En todos los ámbitos, que también las hay que programan. Me recuerda a cuando los pequeños comercios decidieron que las ventas online eran caca y ahora muchas están intentando recuperar una década de inacción mientras los grandes les pasan por encima. El futuro no va a adaptarse a ti, es mejor que tú te adaptes al futuro.

1. El trabajo de un artista, debe pagarse.
2. Algunas personas no quieren o no pueden pagar por arte profesional. 
3. Las IAs dan imágenes "vistosas" rápido y fácil pero de ética "discutible"

Esto lleva a una serie de situaciones derivadas:

• La única opinión "aceptable" es que las IA no se tocan ni con un palo de veinte metros, que a saber de dónde salen las imágenes que tienen que ser "responsibly sourced" (como el atún). Es una opinión correcta pero lleva a extremismos desquiciados, más aún porque cualquiera que diga otra cosa (no necesariamente lo contrario) está contra el gremio de ilustradores. 

A ver. Aquí el principal problema es que para dar resultados, esas IA han metido en sus memorias miles de imágenes de autores con copyright. No tengo pruebas pero tampoco dudas. 

si ponen una portada generada así les dicen de todo y el juego pasa a "ser juzgado por la portada". Es puñetero porque normalmente, si no pones portada o pones cualquier tontería entonces te ignoran por falta de imágenes.

Puedes usar imágenes de dominio público. Creo que lo hace Zonkpj y le quedan muy bien. 

Respecto a lo que dice Faris... ¿Y si sacas una imagen de IA pero la modificas?  ¿Eso tampoco se puede registrar? 

Yo he desistido de usar IA para generar imágenes momentáneamente por el gran rechazo que estaba generando, hasta el punto de que he empezado a ver que hay jams en las que se especifica que no se acepta ese tipo de imágenes en las entradas, algo casi inaudito en ese tipo de eventos, y porque reconzoco que me tocó las narices que en un foro de ilustradores me quitasen imágenes que había hecho empleando texturas y collages hechos con AIs manipuladas por quejas de otros usuarios.

Personalmente creo que lo poco ético ahora mismo es pedirle una imagen a una IA añadiendo nombres de artistas vivos o con derechos reservados y aceptar las imágenes que te dé como obras finales y firmadas. Si las IAs trabajasen de otra manera (Y puede que en el futuro lo hagan, a saber) o se retirasen las imágenes de artistas con derechos reservados de sus bancos de imágenes (Cosa que se ha intentado por parte de las víctimas, pero sin respuesta por parte de las plataformas), peor aun así se pueden alimentar IAs con archivos locales "ilegales", la cosa cambiaría.

Es cierto que una cosa que he visto, sobre todo en nuevos proyectos de Kickstarter, es la proliferación de productos en que se emplean imágenes hechas con IA sin atender un mínimo a lo que es la consistencia gráfica o incluso es lo que es el buen gusto, sacando un cajón desastre de fusiles de Mignola, Jungi Ito, Moebius, Giger, Beksinski y varias luminarias más sin orden ni concierto, que creo que ciertamente pueden dar mala publicidad y peor imagen al medio. Entre los indies se terciaba bastante el usar imágenes libres de derechos, pero también es cierto que cuando veías por decimoquinta vez una versión de un grabado de Doré en una portada, la cosa ya empezaba a aburrir.

Veo el uso de IAS para imágenes como un buen recurso para hacer esbozos rápidos sobre los que trabajar, con los que hacer collages previos de composición o para generar texturas con las que trabajar, no las veo para hacer arte final sin algún tipo de edición, peor eso como pofesional, que cada uno haga lo que le venga en gana y con una buena edición se pueden conseguir maravillas que no creo que atenten contra los derechos de nadie...

Sobre el tema de los textos, he visto a mucha gente recomendando el generar listados de PNJs o items usando Chatgpt o pidiendo argumentos de posibles partidas con bastante éxito, peor como con el caso anterior, me parece genial para tener una estructura básica pero no tanto para dar sus resultados como productos finales.

Como curiosidad había por ahí un suplemento para CY_BORG, Pills Made of Gods, que estaba completamente hecho con IA, tanto en lo gráfico como en los textos (Con un mínimo de edición, entiendo) pero creo que fundamentalmente ha servido para ver cómo de obsoletas quedan las imágenes en unos pocos meses gracias a las mejoras en las IAs de generación de imágenes.

Respecto a lo que dice Faris... ¿Y si sacas una imagen de IA pero la modificas?  ¿Eso tampoco se puede registrar? 

Sinceramente, no tengo ni idea. Imagino que dependerá del alcance de la modificación, y como en otros casos de obras derivadas de otras obras, de en qué punto de la modificación por parte de un humano de lo que ha sacado la IA ya se puede considerar que lo que creas ya es un producto nuevo y propio.

E imagino, siendo todo tan nuevo, que es fácil que las cosas cambien rápido si sale nueva legislación o jurisprudencia en uno u otro sentido. Pero por el momento, el caso que puse creo que es lo que está indicando cómo funcionan las cosas en materia de derechos de autor e IA en EEUU en estos momentos.

Hay bastante arte de stock muy asequible y artistas de muchisimos niveles y precios.

El problema no es que sea arte de IA sino la forma en la que los dataset se han construido, usando ilegalmente el arte de miles de artistas. A día de hoy no existe una dataset etico en ninguna parte.

PD: A título personal, por si alguien lo pensaba, no tengo ninguna sensación de amenaza. El tipo de trabajo que hago y la gente con la que trabajo es muy consciente de como funciona el arte, lo que quieren, y no van a dejar de trabajar con personas porque eso aporta un valor añadido que no tienen las IA. La inmediatez, que parece tan importante para algunos, no suele tener valor en el entorno de trabajo en que yo me muevo.

Yo he desistido de usar IA para generar imágenes momentáneamente por el gran rechazo que estaba generando, hasta el punto de que he empezado a ver que hay jams en las que se especifica que no se acepta ese tipo de imágenes en las entradas

Por ejemplo, la Rayuela de Arena Jam, que es la más importante de ficción interactiva en español, ha decidido no aceptar obras que tengan IA de por medio.

A ver si este año presento algo a la Rayuela... es mi espina clavada de toda la vida. Y eso que asistía a su genéisis y todo :..( 

Como digo no sabría posicionarme. Para mí una IA de texto es un sistema procedural venido a más. De hecho veo su principal potencial para videojuegos y ficciones interactivas. No para cubrir el texto principal, pero sí para otras muchas cosas. De cualquier forma cada uno es libre de decidir en sus concursos o certámentes que permite y que no.

¿Soy el único que piensa que si una IA (sin retocar, de forma directa) gana un certamen es para plantearse seriamente en que han fallado los participantes humanos? No sé... es que nada de lo que he visto hacer a una IA de texto me ha parecido realmente bueno. Apañado pero demasiado amateur.

¿A alguien más todo este debate le recuerda al ludismo?

No.

A mí sí y aún diría más: es la historia de siempre con la resistencia al cambio (aquí con la Natilla lo hemos tenido de primera mano). Llega algo nuevo (un avance tecnológico, una corriente filosófica, nuevos derechos para un colectivo oprimido, nuevos sistemas de jugar a rol...) y "los del pueblo de toda la vida" se llevan las manos a la cabeza, que cómo se les ocurre, que no nos han consultado primero, estos jóvenes de ahora están tontos, pues en mis tiempos esto se hacía así y no pasaba nada. Pero el cambio/progreso es inevitable y todo acaba integrándose después de más o menos follón. La música  también se vio amenazada cuando salieron los sintetizadores y ahí sigue.

Plus ça change, plus c'est la même chose y todo eso.

Si puedes comparar que no me guste que utilicen sin permiso (es decir, que roben) el contenido de muchos artistas para vendértelo retocado vía IA con que no me gusten los derechos para colectivos oprimidos. ¡Ole! No la había visto venir. 

Ya sabéis, artistas. Si no os mola que os roben vuestro arte, lo metan en una máquina, lo regurgiten de una forma un poco diferente y lo vendan sois unos malvados conservadores que odiais a los gays/lesbianas/trans/mujere/gordos/negros/otro colectivo oprimido

El tema de "mucha gente no se da cuenta de que los diseñadores no tienen dinero para arte", yo lo entiendo, pero sinceramente me parece una excusa conveniente y fácil (en el sentido de que no es negable que efectivamente, cada vez es más difícil financiar un juego con un cierto nivel de complejidad, igual que cada vez es más difícil crear un juego con equipos pequeños, con el coste que eso conlleva).

Pero lo que se dijo de que el futuro no va pararse por ti va por los dos lados. El desarrollo de juegos cada vez es más complejo a todos los niveles. El desarrollo doble A o triple A cada vez requiere más esfuerzo y un producto más pulido a todos los niveles para ser competitivo, y el desarrollo indie sufre de una saturación brutal y una epidemia de shovelware masiva precisamente porque el tener accesibles herramientas que hacen posible para mucha gente el sacar juegos lleva a que... lo hagan. Y el 70% sean copias, o directamente malos, porque la idea es "sacar algo" aunque no haya ni plan, ni mecánicas, ni un desarrollo de algo más que una idea. Con lo cual sigues necesitando algo "extra" que te desentierre del puesto 512.313 de aplicaciones de la Play Store que hacen lo mismo que tú, o casi.

Hablo de videojuegos, pero esto mismo es extrapolable, por ejemplo, al rol. En buena parte.

El arte es probablemente la forma más directa de hacerlo, porque lo visual pesa en nuestra cultura, y a Steam Greenlight me remito. Coge un zurullo, ponle tetas animu en la portada, y por lo menos vistas vas a tener. Eso le da al arte un valor en el desarrollo, y el valor, en cualquier ámbito empresarial, hay que pagarlo.

Y ya no es tan viable desarrollar en un grupito de 1 o 2 personas, porque es dificil que 1 o 2 personas tengan todas las habilidades necesarias para cubrir lo que se necesita. Puede haber casos (como que un animador/artista aprenda a programar y salta "Dust: An Elysian Tail"), pero esos casos serán cada vez más raros a medida que el mercado se sature más y haga falta más para destacar.

Así que si tu equipo no tiene dinero para un skill concreto, lo que necesita es alguien con la habilidad de atraer gene que colabore a un precio que te puedas permitir (marketing, networking, promoción, ofrecerles cosas que quieran) o gente que pueda atraer inversión (conseguir inversores, llevar un crowdfounding, conseguir becas, subvenciones, programas de desarollo, mentores en habilidades que falten...), o bien gente que sea capaz y se le den los medios para aprender lo que falta, o bien mucho más tiempo para hacerlo a modo de proyecto personal. Y si no tienes nada de eso, pues sin acritud lo digo, no deberías dedicarte a esto. Aunque te encante y tengas pasión por ello, no tienes las habilidades necesarias. A mi puede encantarme construir casas, pero si no se nivelar o hacer un mortero que no se disuelva cuando le escupes encima, probablemente no debería estar construyendo casas.

A lo mejor hace 10 años un equipo pequeño y con pocos medios podía permitirse invertir menos en arte y destacar por otras cosas. Hoy en día, el mercado es lo que es, y el desarrollo se adapta a él y trae unas necesidades. Decir "acho el arte es muy caro, dejadme sacarlo gratis" es tan "oponerse al futuro" como decir "IA caca, no la quiero".