Les illustrations par IA peuvent elles être acceptable ?

[Chestel]

Merci pour ces messages qui nourissent mes réflexions. J'ai pris des décisions pro ia pour continuer à travailler, mais ça ne veut pas dire que la methode sera partiellement ou totalement illustrée par ia. Le résultat doit me satisfaire.

Le côté univers sexiste et raciste de chestel est pour moi un outil d’éducation. J'ai un retour d'éducateur qui s'en sert pour réveiller l'empathie d'ado et leur montrer le monde du point de vue de la personne en face. Des joueurs m'ont dit faire plus attention aux femmes et éviter de leur couper la parole après un univers où aucun personnage féminin ne pouvait finir ses phrases car c'était une loi de l'univers. Voir la maltraitance des personnes avec des origines "arabes" en butte aux préjugés a fait dire à un joueur je suis content que quelqu'un se rende compte de ce qu'on vit au quotidien, et ce qui pour moi était de l'exagération était en fait bien vecu comme tel par le joueur. Si parfois certains à table se lachent et en font de l'humour graveleux de certaines situations, il y a un moment où la plupart se sentent obligé de dire "j'ai honte de mon avatar". Et parfois la table essaie de modifier ces lois malaisante en plus de guérir le sujet.
Le thème du jeu attire plutôt des gens bienveillants, et il faut le dire en majorité féminine. J'ai aussi eu beaucoup de personnes voilées dont c'est le premier jeu de rôle. J'ai toujours des rires et je n'ai pas eu de retour negatif, ce qui ne veut pas dire que ça n'existe pas, juste qu'on ne me l'a pas fait remarquer. Je suis preneur de suggestions pour libérer la parole à ce propos. Je vais inclure un chapitre dans les regles sur ce sujet car c'est important.

Il y a un autre aspect que j'ai découvert : trouver un illustrateur qui accepte de travailler sur un ouvrage en partie illustré par une ia n'est pas évident, beaucoup ne veulent pas y être associé. Encore un argument anti ia.
En terme d'image, je n'utilise aucune affiche ou tableau. Je recherche du photorealiste à la facebook, la photo de m.tout le monde. Je surveille de n'avoir aucun style artistique. Ce n'est sans doute pas parfait mais c'est ma pratique pour faire au mieux. Par contre, l'émergence de biais est systématique quand on fait attention. Un café parisien est 100% blanc, adultes en âge de travailler, 20% de femmes. Quand j'ai précisé que le sujet travaillait comme journaliste au monde, il a eu une table en bois et son café dans un verre au lieu d'une tasse. Pas les clients derrière.

Du coup, maintenant que je suis sensibilisé, j'ai désactivé l'ia des moteurs de recherche.

Je  travaille avec une ia textuelle, mistral est mon premier choix, pour rediger les dossiers du sujet. Dernièrement, ayant choisi une ville avec une source d'eau comme lieu de naissance du sujet, j'ai eu un paragraphe halluciné sur l'usine "Cristalline" qui extrayait des cristaux du sous sol et des prises de position à ce propos. Du coup maintenant le sujet collectionne les pierres, ce qui a apporté beaucoup de symbolisme au scénario.

J'utlise un correcteur orthographique et un prédicateur qui me suggère le prochain mot. Ça me semblait normal, je pense que c'est pour cela que je ne trouvais pas l'utilisation de mistral aussi répréhensible qu'une ia de dessin. Car ce sont des outils pratique. J'ai essayé de m'en passer et j'ai eu l'impression de retourner 20 ans dans le passé. Même si les suggestions ne sont pas toujours pertinentes, ça m'évite de me poser des questions sur l'orthographe.

Voilà mes réflexions après l'éclipse.
 

[Arthus]

Je recherche du photorealiste à la facebook, la photo de m.tout le monde.

Sans vouloir revenir sur mes propos précédents qui, à quelques nuances près, rejoignent ceux de @Tybalt (le retour), je reviens sur cette phrase pour rappeler la considération relative à la protection des données, qui me semble être un paramètre aussi important que le reste, et qui m'a paru occulté des réflexions jusqu'ici.

Sans même rentrer de la discussion de l'utilisation de données issues des réseaux sociaux pour entraîner le modèle choisi (comme l'a dit un autre intervenant, les seules solutions sont de se renseigner puis de faire confiance, ou de ne pas utiliser d'IA du tout pour cet aspect -la solution la plus sûre-), se pose la question de l'utilisation d'images montrant des personnes issues des réseaux sociaux ou de vidéosurveillances pour créer une bibliothèque qui alimentera l'IA.

En effet, une telle utilisation sera éthiquement discutable et probablement illégale, sauf conditions très précises.

En gros la solution la plus sûre et la plus éthique serait de contacter individuellement chaque personne en l'informant clairement des détails de l'usage envisagé, et de lui demander son consentement pour cet usage. Et pour les caméras, il faut que ce soit une caméra personnelle, et pas un pillage des images devidéosurveillance d'un employeur.

D'un point du vue plus éthique, à titre tout à fait personnel, l'idée qu'un illustre inconnu se serve d'images de moi présentes sur Internet, prises et publiées dans un autre contexte (et dans certains cas que j'aurais oubliées) en s'imaginant que c'est open bar, le tout pour alimenter un usage que je réprouve en estimant ne pas devoir m'en informer, me dérange.

Et je ne pense pas être un cas isolé, donc je pense qu'il serait utile d'intégrer ce point à la réflexion.

[sk8bcn]

@Arthus : pour moi, ce que tu évoques relève de la responsabilité de l entreprise qui développe l IA.

Seul si Chestel entraînait sa propre IA, il serait concerné. Pour moi ça ne relève pas de sa responsabilité

[Arthus]

Sa responsabilité morale, si dans tous les cas (comme nous tous si nous apprenons que le modèle d'IA que nous avons choisi s'est entrainé en siphonnant toutes les photos des réseaux sociaux, mais que nous choisissons de l'utiliser quand même en connaissance de cause).

Mais je visais un scénario plus précis : celui du modèle de générateur d'images basé sur une bibliothèque d'images définie/créée par l'utilisateur lui-même (ce qui pourrait être une méthode pour s'assurer que des contenus protégé par le droit d'auteur ne soient pas utilisées, en dehors de la question de l'entraînement par le fournisseur de service IA en amont).

Idem pour les modifications d'une photo existante par IA d'ailleurs.

Enfin, et pour en revenir plus précisément au propos de Chestel, je réagissais aussi au passage que j'avais cité parce que, lu en combinaison avec son premier message et les interventions suivantes, ça me donnait l'impression d'une attention extrême portée à la rémunération et aux droits des artistes, qu'il faut défendre, tout en ne portant pas la même attention en matière de droit à l'image/protection des données lorsqu'il s'agit d'aller chercher des photos sur les réseaux sociaux.

Plus précisément, c'est ce passage du premier message qui m'avait fait réagir :

le pillage des artistes. Je suis aussi contre. Solution : utiliser du photoréalisme et donc des images volontairement pillées de la vie quotidienne (caméras de surveillance, réseaux sociaux), sans référence à un style d’artiste particulier, ou des images d’artiste consentante. ça tombe bien, je cherche du banal en personnes et décor.