Les illustrations par IA peuvent elles être acceptable ?

[Chestel]

Merci pour ces messages qui nourissent mes réflexions. J'ai pris des décisions pro ia pour continuer à travailler, mais ça ne veut pas dire que la methode sera partiellement ou totalement illustrée par ia. Le résultat doit me satisfaire.

Le côté univers sexiste et raciste de chestel est pour moi un outil d’éducation. J'ai un retour d'éducateur qui s'en sert pour réveiller l'empathie d'ado et leur montrer le monde du point de vue de la personne en face. Des joueurs m'ont dit faire plus attention aux femmes et éviter de leur couper la parole après un univers où aucun personnage féminin ne pouvait finir ses phrases car c'était une loi de l'univers. Voir la maltraitance des personnes avec des origines "arabes" en butte aux préjugés a fait dire à un joueur je suis content que quelqu'un se rende compte de ce qu'on vit au quotidien, et ce qui pour moi était de l'exagération était en fait bien vecu comme tel par le joueur. Si parfois certains à table se lachent et en font de l'humour graveleux de certaines situations, il y a un moment où la plupart se sentent obligé de dire "j'ai honte de mon avatar". Et parfois la table essaie de modifier ces lois malaisante en plus de guérir le sujet.
Le thème du jeu attire plutôt des gens bienveillants, et il faut le dire en majorité féminine. J'ai aussi eu beaucoup de personnes voilées dont c'est le premier jeu de rôle. J'ai toujours des rires et je n'ai pas eu de retour negatif, ce qui ne veut pas dire que ça n'existe pas, juste qu'on ne me l'a pas fait remarquer. Je suis preneur de suggestions pour libérer la parole à ce propos. Je vais inclure un chapitre dans les regles sur ce sujet car c'est important.

Il y a un autre aspect que j'ai découvert : trouver un illustrateur qui accepte de travailler sur un ouvrage en partie illustré par une ia n'est pas évident, beaucoup ne veulent pas y être associé. Encore un argument anti ia.
En terme d'image, je n'utilise aucune affiche ou tableau. Je recherche du photorealiste à la facebook, la photo de m.tout le monde. Je surveille de n'avoir aucun style artistique. Ce n'est sans doute pas parfait mais c'est ma pratique pour faire au mieux. Par contre, l'émergence de biais est systématique quand on fait attention. Un café parisien est 100% blanc, adultes en âge de travailler, 20% de femmes. Quand j'ai précisé que le sujet travaillait comme journaliste au monde, il a eu une table en bois et son café dans un verre au lieu d'une tasse. Pas les clients derrière.

Du coup, maintenant que je suis sensibilisé, j'ai désactivé l'ia des moteurs de recherche.

Je  travaille avec une ia textuelle, mistral est mon premier choix, pour rediger les dossiers du sujet. Dernièrement, ayant choisi une ville avec une source d'eau comme lieu de naissance du sujet, j'ai eu un paragraphe halluciné sur l'usine "Cristalline" qui extrayait des cristaux du sous sol et des prises de position à ce propos. Du coup maintenant le sujet collectionne les pierres, ce qui a apporté beaucoup de symbolisme au scénario.

J'utlise un correcteur orthographique et un prédicateur qui me suggère le prochain mot. Ça me semblait normal, je pense que c'est pour cela que je ne trouvais pas l'utilisation de mistral aussi répréhensible qu'une ia de dessin. Car ce sont des outils pratique. J'ai essayé de m'en passer et j'ai eu l'impression de retourner 20 ans dans le passé. Même si les suggestions ne sont pas toujours pertinentes, ça m'évite de me poser des questions sur l'orthographe.

Voilà mes réflexions après l'éclipse.
 

[Arthus]

Je recherche du photorealiste à la facebook, la photo de m.tout le monde.

Sans vouloir revenir sur mes propos précédents qui, à quelques nuances près, rejoignent ceux de @Tybalt (le retour), je reviens sur cette phrase pour rappeler la considération relative à la protection des données, qui me semble être un paramètre aussi important que le reste, et qui m'a paru occulté des réflexions jusqu'ici.

Sans même rentrer de la discussion de l'utilisation de données issues des réseaux sociaux pour entraîner le modèle choisi (comme l'a dit un autre intervenant, les seules solutions sont de se renseigner puis de faire confiance, ou de ne pas utiliser d'IA du tout pour cet aspect -la solution la plus sûre-), se pose la question de l'utilisation d'images montrant des personnes issues des réseaux sociaux ou de vidéosurveillances pour créer une bibliothèque qui alimentera l'IA.

En effet, une telle utilisation sera éthiquement discutable et probablement illégale, sauf conditions très précises.

En gros la solution la plus sûre et la plus éthique serait de contacter individuellement chaque personne en l'informant clairement des détails de l'usage envisagé, et de lui demander son consentement pour cet usage. Et pour les caméras, il faut que ce soit une caméra personnelle, et pas un pillage des images devidéosurveillance d'un employeur.

D'un point du vue plus éthique, à titre tout à fait personnel, l'idée qu'un illustre inconnu se serve d'images de moi présentes sur Internet, prises et publiées dans un autre contexte (et dans certains cas que j'aurais oubliées) en s'imaginant que c'est open bar, le tout pour alimenter un usage que je réprouve en estimant ne pas devoir m'en informer, me dérange.

Et je ne pense pas être un cas isolé, donc je pense qu'il serait utile d'intégrer ce point à la réflexion.

[sk8bcn]

@Arthus : pour moi, ce que tu évoques relève de la responsabilité de l entreprise qui développe l IA.

Seul si Chestel entraînait sa propre IA, il serait concerné. Pour moi ça ne relève pas de sa responsabilité

[Arthus]

Sa responsabilité morale, si dans tous les cas (comme nous tous si nous apprenons que le modèle d'IA que nous avons choisi s'est entrainé en siphonnant toutes les photos des réseaux sociaux, mais que nous choisissons de l'utiliser quand même en connaissance de cause).

Mais je visais un scénario plus précis : celui du modèle de générateur d'images basé sur une bibliothèque d'images définie/créée par l'utilisateur lui-même (ce qui pourrait être une méthode pour s'assurer que des contenus protégé par le droit d'auteur ne soient pas utilisées, en dehors de la question de l'entraînement par le fournisseur de service IA en amont).

Idem pour les modifications d'une photo existante par IA d'ailleurs.

Enfin, et pour en revenir plus précisément au propos de Chestel, je réagissais aussi au passage que j'avais cité parce que, lu en combinaison avec son premier message et les interventions suivantes, ça me donnait l'impression d'une attention extrême portée à la rémunération et aux droits des artistes, qu'il faut défendre, tout en ne portant pas la même attention en matière de droit à l'image/protection des données lorsqu'il s'agit d'aller chercher des photos sur les réseaux sociaux.

Plus précisément, c'est ce passage du premier message qui m'avait fait réagir :

le pillage des artistes. Je suis aussi contre. Solution : utiliser du photoréalisme et donc des images volontairement pillées de la vie quotidienne (caméras de surveillance, réseaux sociaux), sans référence à un style d’artiste particulier, ou des images d’artiste consentante. ça tombe bien, je cherche du banal en personnes et décor.

[Chestel]

@Arthus  bien vu, c'est exact, je n'y avais pas pensé. Dans ma tête, on acceptait de donner les droits d'utilisation aux gafa, souvent pas de manière très honnête, mais il est vrai que les personnes et les lieux photographiés n'ont rien approuvé.

D'un autre côté, quand on l'interroge, nano banana 2 de google dit ne pas utiliser d'image mais des descriptions d'images. Est ce que le consentement est nécessaire dans ce cas ?

Du coup je m'intéresse au consentement et c'est loin d'être clair pour l'Europe. Pour les autres pays, ça ressemble à "vous utiliser nos services, tout nous appartient et nos utilisateurs en font ce qu'ils veulent, on s'en lave les mains", non ? Pour le moment.

[agone35]

Dans ma tête, on acceptait de donner les droits d'utilisation aux gafa

Et même alors : comme c'est fait de façon plus ou moins honnête et de façon plus ou moins consciente, je me pose des question sur l'ethique à utiliser ça (pas la légalité, l'éthique).

D'un autre côté, quand on l'interroge, nano banana 2 de google dit ne pas utiliser d'image mais des descriptions d'images. Est ce que le consentement est nécessaire dans ce cas ?

Oui, enfin c'est faire abstraction que toutes les données d'entrainement de nano banana ont été obtenues justement parfois sans consentement.

Du coup je m'intéresse au consentement et c'est loin d'être clair pour l'Europe. Pour les autres pays, ça ressemble à "vous utiliser nos services, tout nous appartient et nos utilisateurs en font ce qu'ils veulent, on s'en lave les mains", non ? Pour le moment.

Et même si c'était "vous utilisez nos services, tout nous appartient et nos utilisateurs en font ce qu'ils veulent, on s'en lave les mains" en Europe, ça ne pose pas selon toi un problème éthique ?

[cdang]

Du coup je m'intéresse au consentement et c'est loin d'être clair pour l'Europe.

Il me semble au contraire que c'est très clair pour l'Europe : le droit moral de l'auteur est inaliénable et imprescriptible.

[Emmuel]

D’ailleurs en parlant de droit d’auteur, selon le modèle que tu utilises il est possible que tu ne sois pas considéré comme auteur des images, et que ça contamine tout l’ouvrage dans lesquelles elles apparaissent. Je dis pas que c’est le cas mais faut lire les licences.

 

[cdang]

mais faut lire les licences. 

Les licences, c'est du common law, le contrat et la jurisprudence priment. En France, on est plutôt héritier du droit romain (droit romano-civiliste) où c'est la loi qui cadre.

Bref, lire les licences ne suffit pas.

Il y avait une analyse intéressante sur le blog de @Xyrop (en rapport avec la révocabilité de l'OGL 1.0, cf. l'OGL gate de fin 2022) mais il semble dans les fraises ; faudrait regarder

Code : Tout sélectionner

https://blog.xyrop.com/post/2023/01/22/%5BR%C3%A9flexion%5D-Licence-TGCM-v0.3

sur archive.org mais pour l'instant c'est inaccessible de chez moi.

[Chestel]

J'ai réfléchi après en avoir discuté avec des informaticiens qui utilisent l'IA pour programmer et un écrivain pour se donner des idées. Le côté pratique domine tout, n'affole pas trop les professionnels sur la nécessité d'une travail humain de contrôle et leur avenir. Les traducteurs sont plus impactés surtout par les éditeurs qui ne cherchent pas du travail de qualité. Par contre, le métier de voyant a l'air très en souffrance. Si c'est pour faire du remplissage, l'IA fait très bien et pas cher. Pour de la qualité, il faut un professionnel, donc payer plus cher, qu'ils aient utilisé l'IA ou pas.

En tant qu'individu, on m'impose des voitures avec des moteurs thermiques générateurs de nanoparticules, de l'alcool avec des traitements phytosanitaires qui empoisonnent la nappe phréatique  (le scandale de la bouillie bordelaise bio) tout en consommant des ressources alimentaires, des céréales françaises chargées en cadmium et de payer pour les cancers des fumeurs.
En tant que chimiste, j'ai travaillé avec des décapeurs de peinture. C'est un métier lucratif qui consiste à plonger des objets dans une cuve de produits chimique (chlorure de methylene) pour en enlever la vieille peinture et les remettre à neuf.  J'ai essayé de leur faire changer de produit pour quelque chose de moins toxique mais moins efficace, en vain. Presque tous ces clients sont soit morts de cancer, soit très diminués mentalement en étant plus jeunes que moi. C'est un échec qui me pèse et tout ce que j'ai obtenu en insistant sur leurs futurs problèmes de santé, c'est de ne plus être reçu.
Le combat pour le consentement du droit à l'image est moins inacceptable à mes yeux et moins insupportable que d'autres causes. Alors, je ne me battrais pas pour ce consentement ni ne vais m'en préoccuper, je préfère garder mon énergie pour d'autres causes. Je vais faire comme les autres, me voiler les yeux en espérant que ça ne m'explosera pas au visage ni à celui de mes enfants. C'est mon choix, et je remercie la communauté de m'avoir forcé à y réfléchir et à surveiller comment ce consentement impactera nos vies.
 
Du coup je réfléchis à un scénario d'IAanxieux membre du gouvernement, avec ce dilemme :  est ce bien de le soigner de son anxiété ?

Aujourd'hui, nano banana 2 m'a halluciné des arbres avec des visages dans le feuillage. C'est un hasard, c'est surtout moi qui les ai vu apparaître. C'est trop bien. Je ne me vois pas m'en passer, sauf illustrateur sous LSD et je suis contre l'encourager . Par contre, je suis en discussion pour transposer des images IA en style humain par un humain. D'ailleurs, si vous êtes intéressé pour illustrer Chestel avec votre style ou en vous inspirant d'une image IA, n'hésitez pas à me contacter en MP.

Je suis toujours à la recherche de méthode de travail "acceptable".
Un graphiste m'a dit ajouter dans ses prompts : "l'image ne doit pas avoir l'air d'avoir été conçue par IA". j'ai trouvé cette idée affolante et je trouve bien l'obligation de "signer" un travail réalisé par IA.  Il m'assure que ça fait une différence sur son travail. Je n'ai pas vu de différence dans ce que je produis, je ne sais pas si c'est bon signe ou pas.

[Black Dougal]

Cher docteur, je vais aller a contre courant de la majorité des posts de ce fil (intéressant à lire, au demeurant).

J’ai toujours été intrigué par ton jeu, non pas pour le côté thérapeutique mais bien par l’infinité d’univers qu’il ouvre. 

Il y a quelques années, dans un scénario de Keutulu créé par mes soins, j’avais envoyé mes investigateurs favoris explorer la psyché d’un des leurs sombré dans le coma après une expérience traumatisante. Via la machine à rêve d’un savant fou (forcément). Et là, l’éclate totale! J’avais pu leur faire visiter un monde heroic-fantasy en quête d’un cristal capable de ramener leur ami à la vie (une quête banale mais si surprenante, avec des bibliothécaires, des professeurs et des journalistes de 1910), passer ensuite dans une réalité alternative de leur propre monde, puis, cerise sur le gâteau, de s’incarner eux mêmes autour de la table alors que des zombies et des vampires attaquaient la maison où nous jouions. 

C’est bien plus tard que j’ai associé ce scénario et ton propre jeu, que je n’ai jamais eu entre les mains. Je croyais l’avoir oublié mais en fait, il devait rester tapi dans un coin de mon cerveau, prêt à ressortir

Pourquoi je raconte ça? Parce que la Méthode du Dr Chestel m’intéresse, que savoir que le jeu n’est pas mort et qu’une réédition arrive me donne très envie de l’acheter. Image IA, pollution de la planète, réchauffement climatique, écriture non inclusive ou pas, je vais le commander. Parce que le thème m’attire.

Et si tu n’en vends qu’un exemplaire, ce sera le mien

L’AI, j’adore, j’illustre, je l’utilise pour le boulot et pour plein de choses encore. De toute façon, on a tous vu Terminator: un jour ou l’autre, elle décidera de nous éliminer alors autant en profiter d’ici là…

Fais ce que vouldras, comme disait ce cher Alcofribas…

[cdang]

Je vais faire comme les autres, me voiler les yeux en espérant que ça ne m'explosera pas au visage ni à celui de mes enfants.

Vue la consommation pharaonique des ressources que nécessitent les IA génératives, ça a déjà commencé à te péter à la gueule de tes enfants (et des miens par ailleurs).

Note que je n'utilise pas de voiture (j'en ai loué une 2 semaines cette année, pour une consommation de 25 L de SP95) et que je ne bois plus d'alcool, notamment en raison des points que tu as invoqué...

[Ravortel]

Vu le gaspillage pharaonique d’eau potable provoqué par nos chasses d’eau, j’espère que tu as des toilettes sèches. Faudrait pas que ça pète à la gueule de nos enfants.

[guame]

Perso je trouve acceptable les illustrations par IA, surtout dans le cadre d'un projet comme la méthode de la doctoresse Chestel (oui, on dit doctoresse en Suisse Romande )

Perso je suis en plein dissonance cognitive au sujet de l'IA. J'ai bien conscience des problèmes, mais je trouve aussi l'outil fantastique et fascinant et j'ai un peu de mal avec les réactions sans nuance et les prises de positions radicales.
Et si j'ai un peu peur de la fin "Terminator", je me dis qu'avoir une sorte de Z6PO à la maison ça pourrait aussi être sympa...

Pour faire un peu l'avocat du diable, concernant le boycott des IA: c'est très bien de défendre les illustrateurs, mais quid des autres ? En tant que dev logiciel je n'entends pas grand monde venir pleurer sur le sort de certaines autres professions... Et les comptables, juristes, informaticiens ? Je suis un peu jaloux.. Et ou est la frontière ? Pas d'IA dans les illustration ? Pas d'IA dans le texte ? Pas d'IA dans les logiciels utilisés pour les illustration (Adobe a collé de l'IA assist partout dans ses softs...) ? Pas d'IA utilisée pour construire les logiciels d'édition/mise en page ? Pas d'IA tout court ? Pourtant l'IA s'infiltre partout, même dans le noyau Linux, avec là aussi des réactions polarisées.

De même, pour avoir à la maison 2 antis IA radicaux de 14 et 18 ans, il y a parfois une sorte d'hypocrisie: alors l'IA c'est mal, mais pirater des séries et des jeux, c'est cool...
Et ici ? Dans les 80% d'anti, aucun n'a évidemment jamais "trouvé par hasard" des pdf de jdr sur un site louche ? ou des romans à mettre sur sa liseuse ? Voir pour les plus anciens, n'a jamais photocopié un seul supplément acheté par un copain... De même pour les films, série et jeux vidéos, toujours acquis honnêtement ? Et votre licence WinRar ?

Et quand je vois les réactions outrées et un boycott un peu moutonnier pour des illustrations IA utilisées par des studios indés dans le secteur du jeu vidéo ou pour un livre de jdr produit par un auteur dans son coin, je trouve ça disproportionné.
J'aurais pour ma part plutôt envie de voir ce que l'auteur propose avant de tout rejeter. Si un manuel n'est qu'un ramassis d'images sans intérêt, avec le "filtre pisse" typique de l'IA, de textes insipides faussement littéraires (comme ceux de la presse internet de seconde zone), alors je dirais non; de la même manière que je rejetterais un manuel 100% humain avec des dessins immondes, des textes bâclés ou du remplissage inutile.

Reste le soucis écologique, et accessoirement celui de la pénurie de matos informatique. Pour moi c'est ce facteur qui a fait baisser ma propre consommation d'IA, et qui rend son usage à outrance problématique aujourd'hui. Il n'est pas évident d'avoir des vrais chiffres sur la conso réelle de l'IA (à part les infos sensationnaliste du genre une bouteille d'eau par requête). J'ai l'impression que certains usage de l'IA sont "raisonnables" en énergie comparés à d'autres technologies (streaming video, transport routier, ...) ou mode de production/packaging (fast-fashion, ...). D'autres usages me semblent totalement absurdes (génération de films par IA). J'ai l'impression que le rejet total est une forme d’exutoire pour un truc qui fait peur.



 

[Morningkill]

Sur ta réflexion, un anti IA m'a sorti samedi "oui, en fait j'ai aussi de la schadenfreude pour tous les artistes qui nous ont fait chié pour le piratage depuis 40ans, c'est bien fait qu'ils soient pillés".

Plus j'y repense, moins c'est logique. Ah si j'imagine que pour lui être contre le piratage, c'est être pour le système capitaliste)

(après j'ai rebondi en parlant de mon auto- schadenfreude a moi sur mon métier de dev . enfin, retour de karma c'est mieux)