Je ne sais pas comment elle est réglée cette IA, mais elle donne ce qu’on a envie de voir plutot ce qu’il en est.

Elle est réglée d’une façon très simple (disclaimer: je parle plus de stable diffusion que Midjourney en supposant que c’est un modèle similaire, ce qui est a priori le cas mais on n’est pas 100% sur vu que le code de midjourney est fermé). Elle apprend des associations textes-images via des images chopées sur internet et un peu filtrées mais rien de fou (principalement pour enlever le gore et le porn)

Elle a des milliards de biais, qui sont les notre. Qui sont ceux avec lesquels on a taggé des images et choisi ce qu’on représente en images. Une expérience perso avait été éclairante. J’avais fourni à Stable Diffusion (une des premières versions) un exercice que les modèles puritains américains refusaient systématiquement, nudité oblige: faire un symétrique du Déjeuner sur l’herbe, où on aurait un homme à poil au milieu de deux femmes qui discutent. J’ai pas réussi. Le modèle sait faire un homme à poil, il sait faire une femme habillée, mais quand y a un homme et une femme dans l’image, c’est forcément la femme qui est nue. J’avais trouvé ça fascinant.

Aussi, bien sur, la femme par défaut est belle, jeune et maquillée. Plein de concepts sont inextricablement mélangés dans sa vision: si tu demandes un truc en rapport avec le Japon, il va avoir tendance à donner un style manga à l’image, etc…

Là si tu lui demandes de dessiner Jésus, bah il va prendre ce qu’il a le plus dans sa banque d’images: un Jésus blanc, occidentalisé, comme on en dessine depuis plus de 1000 ans dans l’art sacré. Il fait exactement ce que ferait un illustrateur humain à qui on a donné un ordre sans aucun contexte. “Dessine Jésus qui rit” -> “Bon bah ok, c’est surement quelqu’un qui veut décorer une église ou un truc religieux, on va lui donner une représentation classique”