IA générative : quand The Brandtech introduit une brique d’inclusivité dans les prompts

Les images générées par les LLMs représentent toujours entre 98% et 100% d’hommes lorsqu’ils sont sollicités pour représenter un « PDG ». Constat implacable de The Brandtech Group, groupe mondial de marketing exclusivement numérique et spécialiste mondial du marketing en IA générative, qui a annoncé vendredi sa volonté de combattre les biais d’ IA générative avec une nouvelle technologie développée depuis un an au sein du groupe. Baptisée « Bias Breaker », celle-ci entend donc s’attaquer « aux préjugés grandissants dans les LLMs », selon un communiqué.

Dans les faits, cette technologie propriétaire ajoute une brique d’inclusivité dans les prompts, soutenue par des probabilités. Ainsi, l’entreprise a-t-elle configuré plusieurs des éléments les plus courants de diversité, qui, dans cette version de « Bias Breake », inclut l’âge, la race, les capacités, l’identité de genre et la religion. Quand un utilisateur saisit une simple instruction, « l’outil introduit automatiquement plusieurs types d’inclusivité, variables à chaque fois, pour créer une instruction plus sophistiquée à utiliser dans n'importe quel modèle de génération d’images », poursuit-il.

Cela permet de produire des images qui, « au lieu de refléter les biais présents dans les données d’entraînement, ajoutent un biais positif en faveur d’une large diversité et intersectionnalité que les modèles actuels ne prennent tout simplement pas en compte ». « Bias Breaker » est désormais opérationnelle et intégrée à Pencil, la plateforme de marketing d’IA générative de Brandtech. Depuis son lancement en 2018, Pencil revendique avoir généré plus d’un million de publicités pour plus de 5 000 marques, avec un budget média de 1 milliard de dollars ayant entraîné la plateforme, permettant également de faire des prédictions de performance.