Technologie

Il ne fait aucun doute que les escrocs et les spammeurs exploitent l’intelligence artificielle. Cette technologie semble presque conçue pour amplifier des activités répréhensibles. Ce qui est plus surprenant, c’est la manière dont ils parviennent à utiliser l’IA pour tromper les artisans et les créateurs, et il est probable que la situation ne fera qu’empirer.

Sur Etsy, les recherches pour des modèles, des plans et des recettes renvoient chacune plus de 1 000 résultats. Tous ces documents numériques peuvent être générés par des IA. Cependant, il ne s’agit pas seulement de faux documents générés par IA qui pourraient être en vente sur Etsy. Nous savons tous que les spammeurs inondent Internet de sites inutiles qui apparaissent dans les résultats de recherche, servant de fermes de liens et fournissant du jus SEO à d’autres sites douteux. Cet article met en lumière comment le téléchargement involontaire de contenus générés par IA peut engendrer frustration et pertes financières.

Les liens entre artisanat et programmation

Prenons l’exemple des arts du fil, comme le tricot et le crochet. Ce problème pourrait également toucher ceux qui utilisent des recettes en cuisine ou en pâtisserie. De nombreux autres loisirs et activités reposent sur des séquences d’instructions écrites, toutes susceptibles d’être corrompues par les escroqueries que nous allons explorer.

Saviez-vous que les créations en tricot et en crochet partagent un point commun avec les applications pour smartphones et les imprimantes 3D ? En effet, la réponse réside dans l’utilisation de codes de programmation. Décomposons les relations entre l’artisanat et le codage, puis je fournirai des leçons importantes sur la manière de repérer les arnaques générées par IA.

Les modèles de tricot et de crochet : une forme de code

Ma femme adore le tricot et le crochet, deux arts qui utilisent du fil pour créer des vêtements, des accessoires, des jouets et des objets de décoration. Ces deux techniques consistent essentiellement à nouer ou à assembler du fil pour produire des matériaux utilisables pour confectionner des pulls, des écharpes, des chapeaux, etc.

La plupart des artisans se basent sur des modèles. Voici un extrait d’un modèle créé par la designer de crochet et influenceuse Elise Rose, que nous allons revoir plus tard, car sa vidéo YouTube explique en détail le problème des arnaques liées à l’IA :

sl st dans l'espace ch 2 de la ronde précédente, ch 3, dc, tr, 2 dc, hdc, tous dans l'espace ch 2, ch 1. SPsc dans l'espace ch 1 directement en dessous de la Ronde 1, ch 1, SPsc dans le prochain espace ch 1 directement en dessous de la Ronde 1, ch 1 [hdc, 2 dc, tr, 2dc, hdc, ch 1, dans l'espace ch 2 de la Ronde 2, SPsc dans l'espace ch 1 directement en dessous de la Ronde 1, ch 1, SPsc dans l'espace ch 1 directement en dessous de la Ronde 1, ch 1] 4 fois (total de 5 points), dans le même espace ch 2 où nous avons commencé notre travail pour cette ronde, hdc, sl st au sommet de ch 3 pour fermer la ronde, couper et rentrer le fil.

Regardez cela. C’est du code. Il fournit des instructions pour réaliser certains points pendant un certain nombre d’étapes, puis pour passer à un autre ensemble de points pour d’autres étapes. Le tricot, bien que différent, suit également des étapes qui sont, en gros, des lignes de code.

De manière similaire, l’impression 3D utilise un langage appelé G-code. Un designer crée un objet virtuel dans un outil de conception assistée par ordinateur (CAO) comme Fusion 360, puis un logiciel de découpe convertit le design en G-code qui indique à l’imprimante 3D où placer la tête d’impression, à quelle température la chauffer et où la déplacer ensuite. Le résultat est un objet physique.

Fonctionnellement, les personnes qui tricotent et crochettent agissent comme des machines qui interprètent les modèles de tricot et de crochet — leur version du G-code — et transforment ces codes en objets physiques. L’analogie est frappante. Les imprimantes 3D prennent des bobines de filament plastique et créent des objets physiques. Les artisans du tricot et du crochet prennent des pelotes de fil et créent des objets physiques.

Un marché florissant pour le tricot et le crochet

D’après une étude de 2016 menée par l’Association for Creative Industries et MaritzCX, une entreprise de recherche de marché, 63 % des foyers américains participaient à un loisir ou à une activité créative en 2016 (la dernière enquête disponible sur ce marché), dépensant près de 44 milliards de dollars.

Un quart des foyers américains s’adonnaient au tricot et au crochet à cette époque, soit environ 28,8 millions de foyers. Selon l’étude, le créateur de tricot ou de crochet moyen dépensait en moyenne 20,57 dollars par mois, ce qui faisait du tricot et du crochet un marché de 2,79 milliards de dollars par an aux États-Unis en 2016.

Si des millions de personnes dépensent chacune environ 250 dollars par an pour un loisir, cela représente une opportunité lucrative.

Une grande partie de ces dépenses (du moins pour le tricot et le crochet) est consacrée à l’achat de fil et de fournitures. Mais il existe un autre domaine important où les artisans dépensent de l’argent : les modèles, ou les instructions (le code) pour réaliser des objets en tricot ou en crochet.

L’impact de l’IA sur les modèles de crochet

Elise Rose, la designer mentionnée précédemment, est l’une des créatrices qui publie ses modèles en ligne. Dans le cas de Rose, les modèles sont offerts gratuitement dans le cadre de son rôle d’influenceuse en ligne.

Une des plus grandes sources de modèles en ligne est un réseau social spécifique aux artisans du fil appelé Ravelry. Ce site héberge des modèles et des photos d’objets réalisés avec ces modèles et fonctionne comme un marché vendant certains de ces modèles aux artisans.

Et bien sûr, il y a Etsy, où un simple clic vous donne accès à une multitude d’articles liés au tricot et au crochet, y compris de nombreux modèles. Ma femme me dit que presque toutes les entreprises de fil offrent des modèles gratuits.

Étant donné que les modèles de crochet et de tricot sont essentiellement du code, les IA peuvent les générer. Cependant, comme nous l’avons vu, le code ne fonctionnera pas nécessairement simplement parce qu’un système d’IA l’a généré. Tout comme les réponses conversationnelles de ChatGPT, le code généré par l’IA doit être vérifié pour s’assurer qu’il est fonctionnel et non simplement du charabia.

Rose, la designer de crochet, souligne les conséquences de cela dans une vidéo YouTube. Bien qu’elle aborde ces points spécifiquement sur le tricot et le crochet, de nombreux problèmes s’appliquent à l’IA générative en général et illustrent les défis que cette technologie apportera dans le courant principal.

Les inconvénients

Mais quel est vraiment le problème ? Donc, les IA génèrent des modèles qui sont défectueux. Dans le pire des cas, quelqu’un a dépensé quelques dollars pour un modèle de loisir sans valeur. C’est ennuyeux, mais ce n’est pas une grande perte, n’est-ce pas ? Eh bien, pas vraiment.

La plupart des loisirs impliquent deux investissements : le temps et les matériaux. Supposons que vous ayez téléchargé une nouvelle recette de dîner sur Internet qui semble prometteuse. Vous ne saviez pas qu’elle avait été créée par une IA.

Vous suivez la recette pour préparer ce repas dans la cuisine. Vous dépensez une somme considérable pour les ingrédients, passez une heure ou plus à travailler dur pour tout préparer, attendez le temps de cuisson, et ensuite… c’est horrible. Même si la recette était gratuite, vous avez perdu de l’argent sur les ingrédients, gaspillé un travail acharné, et vous n’avez toujours pas de dîner.

C’est ce nouveau comportement que nous commençons à remarquer avec les IA. Cela commence à toucher des activités auparavant considérées comme peu technologiques, que nous pensions toutes faire partie de la vie normale. Ces modèles générés par IA peuvent causer plusieurs problèmes aux artisans. Comme le mentionne Rose, les personnes qui les achètent peuvent être déçues car l’IA a du mal à obtenir les modèles corrects.

Un problème encore plus important est le temps et l’effort perdus, comme l’exemple de la cuisine l’a montré. Ma femme peut passer d’une seule soirée (pour créer un chapeau) à six mois (pour un plaid) sur un projet. J’ai vu à quel point elle est déçue et frustrée lorsqu’elle rate un point et doit défaire son travail pour le corriger — dans certains cas, un modèle défectueux généré par l’IA pourrait signifier défaire des heures et des heures de travail.

Au moins avec un programme informatique traditionnel généré par l’IA, il y a de fortes chances que vous le voyiez échouer en quelques minutes. Mais avec un modèle de tricot ou de crochet défectueux, l’artisan pourrait avoir passé des semaines à investir son âme créative dans un projet voué à l’échec, sans que ce soit de sa faute. C’est comme cette recette. Vous avez peut-être suivi toutes les instructions à la lettre, mais parce que l’IA ne l’a pas bien fait au départ, vous vous retrouvez avec un dîner coûteux à jeter.

Rose souligne également que les débutants pourraient ne pas réaliser que le modèle est défectueux. Ils pourraient se décourager lorsque leur travail acharné ne donne pas de résultats, pensant qu’ils ne sont pas doués pour le crochet ou le tricot, et abandonner l’artisanat — alors que le véritable coupable est un modèle généré par IA inexact.

Il existe plusieurs façons de s’entraîner à repérer les modèles générés par IA.

Conseils pour identifier les modèles générés par IA

Rose propose huit conseils pour repérer les modèles générés par IA :

1. Détails fantastiques : Si un objet fabriqué semble incroyablement détaillé, il est probablement généré par IA.
2. Points impossibles : Si vous regardez une image d’un objet et que les points sont différents de tout ce que vous avez vu auparavant, ils sont probablement faux.
3. Taille inappropriée : Si l’objet est gigantesque ou extrêmement petit, il est peu probable qu’il s’agisse d’un article en tricot ou en crochet. Oui, il existe quelques installations artistiques comme celle qui détient le record du monde Guinness où le créateur a réalisé quelque chose de colossal, mais ce créateur est probablement identifié et profiled en profondeur.
4. Quelque chose ne va pas : Regardez l’image. Y a-t-il quelque chose d’étrange, comme un animal avec cinq pattes ? Les IA font souvent des erreurs lorsqu’elles produisent des images.
5. Regardez les mains : Les IA ont souvent du mal à générer des mains, ajoutant des doigts et les représentant à des emplacements impossibles.
6. Couleurs trop vives : Regardez les couleurs du fil. Sont-elles trop brillantes ou saturées par rapport à n’importe quelle couleur de fil que vous avez vue ? Si les changements de couleur dans le fil se produisent de manière fluide, c’est un indice que c’est l’œuvre d’une IA.
7. Photos de progression : Rose recommande de rechercher des photos de progression — l’image est probablement générée par une IA s’il n’y en a pas.
8. Vidéo : Y a-t-il une vidéo de l’objet crocheté ? Si oui, surtout si elle montre non seulement l’avant, mais aussi les côtés et l’arrière de l’objet, il est probablement réel.

Autres questions à se poser

Rose affirme que chaque designer de modèles souhaite être crédité pour son travail, donc il y aura un nom quelque part sur le modèle. Si vous ne voyez pas ce qui est essentiellement une signature pour le modèle, il est probable qu’il ait été créé par une IA.

S’il y a un nom de designer, recherchez une présence en ligne. Rose dit que la plupart des designers de modèles ont au moins une certaine présence en ligne au-delà d’une boutique Etsy. Recherchez Pinterest, Instagram, Facebook, YouTube, un site web ou quelque chose qui montre un effort promotionnel supplémentaire.

Pour voir des exemples de créations générées par IA qui sont vraiment fausses, je vous encourage à regarder la vidéo de Rose. Elle met en lumière plusieurs objets faux et décompose ce qui les rend identifiables comme tels.

Le coût caché de l’IA

Je crains que cette incursion dans le monde de l’artisanat du fil et des arnaques liées à l’IA ne soit que le début d’un coût caché à mesure que l’IA commence à infiltrer nos activités plus courantes. L’IA fournit un nouvel outil pour déployer des arnaques et du spam — et presque tous les marchés où les gens dépensent de l’argent sont des cibles.

Les suggestions de Rose pour surveiller les modèles de crochet générés par IA ont une valeur qui dépasse le crochet et le tricot. Recherchez la vallée dérangeante. Gardez un œil sur les choses qui semblent trop parfaites. Recherchez des objets qui sont trop complexes ou détaillés pour être physiquement possibles. Recherchez des signes que le produit a été utilisé dans le monde réel.

Comment cela vous fait-il sentir ? Êtes-vous un artisan ou un passionné ? Avez-vous déjà vu l’IA infiltrer votre loisir ou vos activités préférées ? Faites-le nous savoir dans les commentaires ci-dessous.