Un syst\u00e8me d\u2019intelligence artificielle peut disposer de l\u2019image originale et pourtant \u2019 accorder davantage de cr\u00e9dit \u00ab \u00e0 un champ auxiliaire g\u00e9n\u00e9r\u00e9 par un pipeline plus ancien. C\u2019est l\u00e0 la principale conclusion d\u2019un audit causal d\u2019AION-1, un mod\u00e8le de base destin\u00e9 \u00e0 l\u2019astronomie. L\u2019\u00e9tude ne se contente pas de d\u00e9crire une l\u00e9g\u00e8re baisse de pr\u00e9cision. Elle montre que le mod\u00e8le int\u00e8gre comme sienne l\u2019erreur syst\u00e9matique du catalogue fourni en m\u00eame temps que les pixels.<\/p>\n
Pour les professionnels de l'IA, les sp\u00e9cialistes du marketing, les \u00e9quipes de commerce \u00e9lectronique et les chefs d'entreprise, l'astronomie sert de laboratoire ; ce cours g\u00e9n\u00e9ral porte sur toute application multimodale combinant des observations brutes avec des cat\u00e9gories, des scores, des masques, des r\u00e9sum\u00e9s ou d'autres m\u00e9tadonn\u00e9es d\u00e9riv\u00e9es. Lorsqu'un canal auxiliaire ressemble \u00e0 une \u00ab r\u00e9ponse toute faite \u00bb, le mod\u00e8le peut le privil\u00e9gier m\u00eame s'il contredit l'information primaire.<\/p>\n
La r\u00e9ponse en bref<\/p>\n
L'audit d'AION-1 montre qu'une carte de d\u00e9tection d\u00e9riv\u00e9e peut voir son flux, sa taille, son elliptique et son d\u00e9calage vers le rouge varier, tandis que les \u00ab image tokens \u00bb restent inchang\u00e9s. Pour une entreprise, la conclusion pratique est claire : chaque score, \u00e9tiquette ou r\u00e9sum\u00e9 accompagnant les donn\u00e9es brutes doit disposer de sa propre tra\u00e7abilit\u00e9, d\u2019un test de contradiction et d\u2019un comportement s\u00e9curis\u00e9 lorsqu\u2019il est manquant ou erron\u00e9.<\/p>\n<\/div>\n
AION-1 est un mod\u00e8le Transformer \u00e0 39 modalit\u00e9s, entra\u00een\u00e9 sur plus de 200 millions d'objets issus de cinq \u00e9tudes astronomiques. Ce travail se concentre principalement sur le mod\u00e8le aion-base, qui compte 314,3 millions de param\u00e8tres, et utilise le mod\u00e8le aion-large, qui en compte 859,7 millions, pour tester la scalabilit\u00e9. Le mod\u00e8le traite des images, des spectres, des mesures photom\u00e9triques et une carte de d\u00e9tection (ou carte de segmentation) issue du pipeline d'\u00e9tude.<\/p>\n
Un score de pr\u00e9diction \u00e9lev\u00e9 ne r\u00e9v\u00e8le pas quelles informations le mod\u00e8le a exploit\u00e9es. La question cruciale est de savoir si la pr\u00e9diction repose sur la lumi\u00e8re pr\u00e9sente dans les pixels ou sur la d\u00e9cision d\u2019un syst\u00e8me pr\u00e9c\u00e9dent selon laquelle \u00ab il y a un objet ici \u00bb. Pour une application scientifique, cette distinction est indispensable car une erreur de coh\u00e9rence peut fausser l\u2019ensemble des r\u00e9sultats, m\u00eame si la performance moyenne par objet semble bonne.<\/p>\n
Le chercheur conserve les jetons d'image exactement identiques et ne modifie que la carte de segmentation. Il compare le r\u00e9sultat \u00e0 un placebo appari\u00e9, c'est-\u00e0-dire une intervention de taille \u00e9quivalente sur un canal qui ne devrait pas influencer la pr\u00e9diction. Il ne se contente donc pas des cartes de corr\u00e9lation ou d'attention : il v\u00e9rifie de mani\u00e8re causale si l'entr\u00e9e en question modifie la sortie.<\/p>\n
Le d\u00e9placement ou le remplacement du masque modifie toutes les mesures examin\u00e9es \u2014 flux, taille, elliptique et d\u00e9calage vers le rouge \u2014 de 110 \u00e0 4 400 fois plus que le placebo. Sur un \u00e9chantillon de 240 objets, le d\u00e9placement du masque de 25 pixels fait chuter l'estimation m\u00e9diane du flux en bande g de 6,71 \u00e0 1,55 nanomaggies, soit une variation de 79%, bien que chaque photon reste pr\u00e9sent dans l'image. La conclusion n\u2019est pas que le mod\u00e8le ignore syst\u00e9matiquement les pixels, mais qu\u2019un canal d\u00e9riv\u00e9 d\u2019un catalogue peut agir comme un filtre puissant sur ce qu\u2019il consid\u00e8re comme visible.<\/p>\n
Une explication possible serait que le masque fonctionne comme une ouverture : il d\u00e9finit quelle lumi\u00e8re doit \u00eatre mesur\u00e9e. Cependant, l'analyse montre autre chose. La r\u00e9ponse est davantage li\u00e9e au fait que le masque indique ou non la pr\u00e9sence d'une source au centre du champ (r = 0,47) et moins \u00e0 la quantit\u00e9 de lumi\u00e8re qu'il englobe (r = 0,30). La position a donc plus d\u2019importance que la g\u00e9om\u00e9trie du contour.<\/p>\n
Dans 322 syst\u00e8mes v\u00e9ritablement mixtes, le mod\u00e8le ne tient pratiquement pas compte de la mani\u00e8re dont le pipeline a r\u00e9parti la lumi\u00e8re entre des sources proches : la corr\u00e9lation relative est de R = -0,006 \u00b1 0,001. Cela renforce l'interpr\u00e9tation de la \u00ab detection gate \u00bb. Le mod\u00e8le n\u2019utilise pas la carte principalement pour une photom\u00e9trie d\u00e9taill\u00e9e ; il l\u2019utilise comme signal de pr\u00e9sence et de position.<\/p>\n
Trois r\u00f4les li\u00e9s aux donn\u00e9es<\/p>\n
Une saisie multimodale ne signifie pas automatiquement une documentation ind\u00e9pendante<\/p>\n
L'origine de chaque canal d\u00e9termine s'il peut confirmer l'autre ou simplement reproduire la m\u00eame erreur en amont.<\/p>\n<\/div>\n
Pixels primaires<\/p>\n
Ils enregistrent l'observation directe. Lors du test de causalit\u00e9, ils restent identiques au niveau des octets, afin d'isoler l'effet des m\u00e9tadonn\u00e9es.<\/p>\n<\/div>\n
Carte de d\u00e9tection des produits d\u00e9riv\u00e9s<\/p>\n
Il est g\u00e9n\u00e9r\u00e9 \u00e0 partir d'un pipeline de survey pr\u00e9c\u00e9dent et indique o\u00f9 se trouve un objet. Il peut transmettre son propre \u00ab miss \u00bb sous forme de biais cach\u00e9.<\/p>\n<\/div>\n
Spectrum ind\u00e9pendant<\/p>\n
Elle apporte une source d'evidence diff\u00e9rente concernant le d\u00e9calage vers le rouge et r\u00e9duit d'environ cent fois l'effet des d\u00e9tections erron\u00e9es.<\/p>\n<\/div>\n<\/div>\n<\/div>\n
Ce ph\u00e9nom\u00e8ne ne se limite pas au canal de segmentation. Lorsque la photom\u00e9trie du catalogue est modifi\u00e9e de mani\u00e8re \u00e0 entrer en contradiction avec les images, la lecture de la bande g se d\u00e9cale de 0,61 magnitude. Le mod\u00e8le s'av\u00e8re neuf fois moins performant que lorsqu'il ne re\u00e7oit aucune m\u00e9tadonn\u00e9e. En d\u2019autres termes, l\u2019absence d\u2019un signal auxiliaire peut s\u2019av\u00e9rer plus fiable qu\u2019un signal erron\u00e9 mais apparemment valide.<\/p>\n
Cela se remarque imm\u00e9diatement dans flux de travail d'IA op\u00e9rationnels<\/a>. Un Score CRM<\/a>, une ancienne \u00e9tiquette de produit, un champ OCR ou un r\u00e9sum\u00e9 g\u00e9n\u00e9r\u00e9 automatiquement est souvent ajout\u00e9 \u00e0 c\u00f4t\u00e9 du texte ou de l'image d'origine. Si le mod\u00e8le apprend que le champ d\u00e9riv\u00e9 est g\u00e9n\u00e9ralement le chemin le plus court vers l\u2019objectif d\u2019apprentissage, il peut ne pas disposer d\u2019un m\u00e9canisme permettant de r\u00e9duire son poids en cas de contradiction.<\/p>\n Cette \u00e9tude \u00e9value la fr\u00e9quence du probl\u00e8me \u00e0 partir des donn\u00e9es du Legacy Survey. Sur 5 000 d\u00e9coupes, 3,68% des cibles ne disposent d\u2019aucun segment couvrant leur position. Les auteurs ne consid\u00e8rent pas cette fr\u00e9quence comme un sc\u00e9nario th\u00e9orique : ils utilisent les champs r\u00e9ellement renvoy\u00e9s par le pipeline lorsqu\u2019il perd une cible et int\u00e8grent le taux d\u2019\u00e9chec mesur\u00e9 dans les pr\u00e9visions photom\u00e9triques et de d\u00e9calage vers le rouge d\u2019AION-1.<\/p>\n Sur 40 attributions manqu\u00e9es, le d\u00e9calage du redshift moyen des bins tomographiques est, en m\u00e9diane, \u00e9gal \u00e0 0,71 fois l'exigence de la LSST Dark Energy Science Collaboration et la d\u00e9passe dans 12 cas. Lorsque l'on ajoute les erreurs de position de la magnitude observ\u00e9e, le bin le plus d\u00e9favorable atteint 8,3 fois l'exigence. L'\u00e9chantillonnage des \u00ab misses \u00bb en fonction de la d\u00e9pendance mesur\u00e9e par rapport \u00e0 la magnitude, plut\u00f4t que de mani\u00e8re uniforme, ne modifie pas la conclusion au-del\u00e0 de la dispersion des r\u00e9alisations.<\/p>\n Il ne faut pas en conclure que chaque utilisation de l'AION-1 produira le m\u00eame \u00e9cart. L'\u00e9tude \u00e9nonce les hypoth\u00e8ses de conception et examine sp\u00e9cifiquement les inf\u00e9rences purement photom\u00e9triques. Elle montre toutefois comment une imperfection mesurable en amont peut \u00e9puiser une grande partie d'un budget d'erreur en aval lorsque le mod\u00e8le la traite comme une v\u00e9rit\u00e9 fiable.<\/p>\n Comment une erreur en amont se r\u00e9percute-t-elle sur le budget d'erreurs en aval ?<\/p>\n R\u00e9sultats pr\u00e9liminaires concernant cette configuration exclusivement photom\u00e9trique d'AION-1<\/p>\n<\/div>\n 3,68%<\/p>\n objectifs sans segment<\/p>\n Elles ont \u00e9t\u00e9 mesur\u00e9es sur 5 000 d\u00e9coupes du Legacy Survey.<\/p>\n<\/div>\n 0,71\u00d7<\/p>\n m\u00e9diane des cr\u00e9ances DESC<\/p>\n D\u00e9calage moyen vers le rouge dans 40 missions \u00ab misses \u00bb.<\/p>\n<\/div>\n 12\/40<\/p>\n commandes d\u00e9passant le plafond<\/p>\n Le r\u00e9sultat d\u00e9pend de la repr\u00e9sentation et du transfert des \u00ab misses \u00bb.<\/p>\n<\/div>\n 8,3\u00d7<\/p>\n le pire compartiment tomographique<\/p>\n Lorsque l'on ajoute les erreurs de position de la grandeur observ\u00e9e.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n R\u00e9serve importante<\/p>\n Les valeurs de 0,71\u00d7 et 8,3\u00d7 sont des estimations issues d'une pr\u00e9publication, et non des propri\u00e9t\u00e9s universelles d'AION-1. L'\u00e9chelle en aval repose sur l'hypoth\u00e8se que le taux d'erreur mesur\u00e9 et les champs d'erreur r\u00e9els de l'\u00e9chantillon repr\u00e9sentent l'ensemble d'inf\u00e9rence des galaxies brillantes. Le r\u00e9sultat le plus solide et le mieux \u00e9tay\u00e9 est le seuil de d\u00e9tection causale avec des pixels inchang\u00e9s.<\/p>\n<\/div>\n Lorsque les spectres DESI sont pris en compte, l'effet sur le d\u00e9calage vers le rouge est r\u00e9duit d'environ cent fois, passant de 0,312 \u00e0 0,003 sigma, tandis que l'effet sur l'ellipticit\u00e9 reste pratiquement inchang\u00e9. Cela s'inscrit dans une logique de pond\u00e9ration des preuves : le spectre fournit des informations solides et ind\u00e9pendantes sur le d\u00e9calage vers le rouge, mais pas sur toutes les propri\u00e9t\u00e9s optiques.<\/p>\n Dans le cas d\u2019un syst\u00e8me commercial multimodal, \u00ab davantage de champs \u00bb ne signifie pas n\u00e9cessairement une documentation ind\u00e9pendante. Si une image, une cat\u00e9gorie et un score proviennent du m\u00eame processus en amont, la multimodalit\u00e9 apparente peut reproduire la m\u00eame erreur. La r\u00e9silience augmente lorsque les canaux ont des origines diff\u00e9rentes et peuvent r\u00e9ellement se contredire les uns les autres.<\/p>\n L'intervention la plus simple consiste \u00e0 supprimer le canal de d\u00e9tection. Selon l'\u00e9tude, cette option \u00e9limine cette vuln\u00e9rabilit\u00e9 sp\u00e9cifique sans entra\u00eener de perte mesurable en termes de performances dans le cadre de l'analyse. En revanche, le remplacement de l'entr\u00e9e probl\u00e9matique par un masque g\u00e9n\u00e9rique donne des r\u00e9sultats nettement moins bons. Il ne suffit donc pas de \u00ab remplir \u00bb un champ avec une valeur d'apparence neutre ; cette valeur peut avoir une signification propre pour le mod\u00e8le.<\/p>\n La le\u00e7on \u00e0 retenir est de comparer au moins trois cas de figure : des m\u00e9tadonn\u00e9es correctes, une absence totale de m\u00e9tadonn\u00e9es et des m\u00e9tadonn\u00e9es erron\u00e9es de mani\u00e8re r\u00e9aliste. La validation habituelle ne v\u00e9rifie que la premi\u00e8re. La deuxi\u00e8me montre si le canal apporte une r\u00e9elle valeur ajout\u00e9e, tandis que la troisi\u00e8me r\u00e9v\u00e8le s\u2019il cr\u00e9e une d\u00e9pendance fragile. Si l\u2019absence de m\u00e9tadonn\u00e9es est plus s\u00fbre que la d\u00e9sinformation, il faut des r\u00e8gles explicites de gestion des donn\u00e9es manquantes, de confiance ou de routage \u2014 et non des valeurs par d\u00e9faut arbitraires.<\/p>\n Crit\u00e8re d'acceptation des m\u00e9tadonn\u00e9es<\/p>\n Une valeur par d\u00e9faut n'est pas une absence neutre<\/p>\n Ne conservez le canal auxiliaire que s'il apporte une valeur mesurable, s'il r\u00e9siste \u00e0 des contradictions r\u00e9alistes et si le syst\u00e8me peut r\u00e9duire son fonctionnement en toute s\u00e9curit\u00e9 en l'absence de ce canal. La surveillance humaine des agents IA<\/a> doit se fonder sur ces signaux et non sur un avertissement g\u00e9n\u00e9ral \u00e0 la fin du flux.<\/p>\n<\/div>\n L'audit identifie deux autres limitations en amont du transformateur. Sur 1,15 million de tokens d'image, le codec d'image n'utilise que 8,31 TP3T des 4 375 codes disponibles. Dans les patches contenant la source, le vocabulaire effectif est de 28,2 \u00e9tats, tandis que le codec spectral utilise 934 codes effectifs sur 1 024. Les codes d'image les plus fr\u00e9quents forment principalement une \u00e9chelle de luminosit\u00e9 unidimensionnelle.<\/p>\n Cela signifie que l'architecture en aval ne peut pas r\u00e9cup\u00e9rer les d\u00e9tails perdus lors du codage. L'\u00e9tude montre \u00e9galement que la lecture Redshift est limit\u00e9e par la quantification et non par l'information. L'utilisation d'un mod\u00e8le comportant 2,7 fois plus de param\u00e8tres ne modifie pas l'utilisation du livre de codes ; par cons\u00e9quent, la mise \u00e0 l'\u00e9chelle du transformateur ne corrige pas automatiquement le goulot d'\u00e9tranglement du tokenizer.<\/p>\n L'\u00e9tude examine 15 dictionnaires clairsem\u00e9s pr\u00e9sentant une largeur, une clart\u00e9 et une graine diff\u00e9rentes, afin d'identifier des directions susceptibles de contr\u00f4ler de mani\u00e8re causale la porte. La r\u00e9cup\u00e9ration varie de 26% \u00e0 75% ; elle varie jusqu\u2019\u00e0 18 points de pourcentage uniquement en fonction de la graine, et 13 des 15 dictionnaires sont moins performants qu\u2019une direction plus simple de type \u00ab difference-in-means \u00bb. La qualit\u00e9 de la reconstruction ne permet pas de pr\u00e9dire quel dictionnaire sera utile pour le pilotage.<\/p>\n Il ne ressort pas que les auto-encodeurs clairsem\u00e9s soient globalement inutiles. Il ressort qu\u2019une seule graine et une bonne m\u00e9trique de reconstruction ne suffisent pas pour affirmer l\u2019interpr\u00e9tabilit\u00e9 causale. Dans le cadre d'un audit de production, un outil d'interpr\u00e9tation doit faire l'objet de tests de stabilit\u00e9, de contr\u00f4les et d'une comparaison avec des r\u00e9f\u00e9rences simples avant d'\u00eatre transform\u00e9 en politique ou en mesure d'att\u00e9nuation.<\/p>\n L'int\u00e9r\u00eat de ce travail pour l'IA d'entreprise r\u00e9side dans son approche m\u00e9thodologique. Premi\u00e8rement, il a permis de cartographier l'origine de chaque modalit\u00e9 : laquelle est primaire et laquelle est g\u00e9n\u00e9r\u00e9e par un mod\u00e8le ou un pipeline ant\u00e9rieur. Deuxi\u00e8mement, elle a g\u00e9n\u00e9r\u00e9 des contradictions r\u00e9alistes tout en maintenant les autres entr\u00e9es constantes. Troisi\u00e8mement, elle a mesur\u00e9 non seulement la pr\u00e9cision moyenne, mais aussi l'impact syst\u00e9matique en aval par rapport \u00e0 l'exigence sp\u00e9cifique du domaine.<\/p>\n Quatri\u00e8mement, essaie de supprimer un canal plut\u00f4t que de simplement remplacer des valeurs. Cinqui\u00e8mement, distinguez les erreurs de repr\u00e9sentation des erreurs de raisonnement : si le tokenizer compresse trop l'information, un transformateur plus grand n'est pas la premi\u00e8re solution. Sixi\u00e8mement, \u00e9valuez la stabilit\u00e9 des m\u00e9thodes d'interpr\u00e9tabilit\u00e9 sur les seeds et les baselines.<\/p>\n Six contr\u00f4les relatifs aux m\u00e9tadonn\u00e9es d\u00e9riv\u00e9es dans l'IA en production<\/p>\n Extrayez des images brutes, du texte ou des \u00e9v\u00e9nements \u00e0 partir d'\u00e9tiquettes, de scores, de masques et de r\u00e9sum\u00e9s provenant d'un autre mod\u00e8le ou pipeline.<\/p>\n<\/li>\n Si cette suppression n'entra\u00eene pas de co\u00fbt significatif, le canal peut accro\u00eetre le risque de d\u00e9pendance vis-\u00e0-vis d'informations r\u00e9elles.<\/p>\n<\/li>\n Conservez les donn\u00e9es brutes inchang\u00e9es et modifiez uniquement les m\u00e9tadonn\u00e9es, afin de d\u00e9terminer quelle signal l'emporte en cas de divergence.<\/p>\n<\/li>\n Utilisez les indicateurs \u00ab explicit missing \u00bb, \u00ab confidence \u00bb et \u00ab routing \u00bb. Un espace r\u00e9serv\u00e9 peut \u00eatre interpr\u00e9t\u00e9 comme du contenu r\u00e9el.<\/p>\n<\/li>\n Associez chaque mode de d\u00e9faillance au co\u00fbt, \u00e0 la conformit\u00e9, aux ventes, \u00e0 l'exp\u00e9rience client ou au budget d'erreur appropri\u00e9.<\/p>\n<\/li>\n Consignez les modifications apport\u00e9es au sch\u00e9ma, les d\u00e9rives, les taux de valeurs nulles et les remplacements. Un workflow n\u00e9cessite \u00e9galement un plan. restauration s\u00e9mantique<\/a> lorsque l'erreur a d\u00e9j\u00e0 \u00e9t\u00e9 enregistr\u00e9e dans la m\u00e9moire ou s'est r\u00e9percut\u00e9e sur les actions suivantes.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n Pour un syst\u00e8me de commerce \u00e9lectronique<\/a>, ces m\u00eames principes peuvent s'appliquer aux images de produits, ainsi qu'aux \u00e9tiquettes de cat\u00e9gorie, aux attributs du vendeur ou aux descriptions g\u00e9n\u00e9r\u00e9es automatiquement. En mati\u00e8re d'exp\u00e9rience client, ils s'appliquent aux tickets bruts, ainsi qu'aux \u00e9tiquettes de sentiment et d'intention. En mati\u00e8re d'analyse marketing, ils s'appliquent aux \u00e9v\u00e9nements, ainsi qu'aux scores d'attribution. Il s\u2019agit l\u00e0 d\u2019analogies d\u2019application, et non de r\u00e9sultats mesur\u00e9s par l\u2019\u00e9tude astronomique ; la condition commune de conception est la coexistence d\u2019un signal primaire et d\u2019un signal d\u00e9riv\u00e9.<\/p>\n Le risque principal n'est pas que l'IA \u00ab privil\u00e9gie les m\u00e9tadonn\u00e9es \u00bb au sens humain du terme. C'est plut\u00f4t que l'objectif de l'apprentissage r\u00e9compense la voie statistique la plus facile, sans exiger de v\u00e9rification de la provenance ou de la fiabilit\u00e9. Lorsque ce raccourci s'av\u00e8re correct la plupart du temps, il peut am\u00e9liorer les r\u00e9sultats des tests de performance tout en cr\u00e9ant une d\u00e9pendance cach\u00e9e pr\u00e9cis\u00e9ment dans les cas o\u00f9 la qualit\u00e9 rev\u00eat la plus grande importance.<\/p>\n La d\u00e9cision pratique ne consiste pas \u00e0 rejeter les m\u00e9tadonn\u00e9es, mais \u00e0 les consid\u00e9rer comme des sources pr\u00e9sentant une provenance, des donn\u00e9es manquantes et des modes de d\u00e9faillance. Un test d'acceptation rigoureux doit inclure des ensembles de contradictions, l'ablation de canaux, des d\u00e9faillances en amont r\u00e9alistes et une m\u00e9trique d'impact en aval. L'audit d'AION-1 montre que cela permet d'identifier non seulement une pr\u00e9diction erron\u00e9e, mais aussi le m\u00e9canisme qui transforme une erreur en amont en un biais syst\u00e9matique coh\u00e9rent.<\/p>\n Workflows d'IA avec contr\u00f4les d'origine<\/p>\n V\u00e9rifiez ce qui guide r\u00e9ellement votre IA multimodale<\/p>\n TWO DOTS con\u00e7oit des automatisations bas\u00e9es sur l'IA, dot\u00e9es d'une tra\u00e7abilit\u00e9, de tests de coh\u00e9rence, d'un suivi et de solutions de secours s\u00e9curis\u00e9es pour le CRM, le e-commerce, le support client et les flux de donn\u00e9es internes.<\/p>\n Foire aux questions (FAQ)<\/p>\n Il s'agit d'un mod\u00e8le de base pour l'astronomie qui traite 39 modalit\u00e9s d'observation et a \u00e9t\u00e9 entra\u00een\u00e9 sur plus de 200 millions d'objets issus de cinq relev\u00e9s.<\/p>\n<\/div>\n<\/details>\n Que le mod\u00e8le puisse s'appuyer davantage sur des m\u00e9tadonn\u00e9es de d\u00e9tection issues du catalogue que sur les pixels immuables de l'image et qu'il ne r\u00e9duise pas suffisamment son niveau de confiance lorsque les m\u00e9tadonn\u00e9es sont en contradiction avec l'image.<\/p>\n<\/div>\n<\/details>\n Le chercheur n'a modifi\u00e9 que la carte de segmentation, a conserv\u00e9 toutes les autres donn\u00e9es d'entr\u00e9e \u00e0 l'identique au niveau des octets et a compar\u00e9 les variations \u00e0 celles observ\u00e9es lors d'interventions placebo appari\u00e9es.<\/p>\n<\/div>\n<\/details>\n Sur les 5 000 d\u00e9coupes du Legacy Survey, 3,68% des cibles ne disposaient d'aucun segment couvrant leur position. La transposition de ce pourcentage dans le cadre \u00ab downstream bright-galaxy \u00bb constitue une hypoth\u00e8se avanc\u00e9e dans la pr\u00e9publication.<\/p>\n<\/div>\n<\/details>\n Non. La sensibilit\u00e9 a augment\u00e9 proportionnellement \u00e0 l'\u00e9chelle, tandis que l'utilisation du livre de codes d'images est rest\u00e9e inchang\u00e9e dans un mod\u00e8le comportant 2,7 fois plus de param\u00e8tres.<\/p>\n<\/div>\n<\/details>\n La suppression du canal de d\u00e9tection a permis d'\u00e9liminer cette vuln\u00e9rabilit\u00e9 sans impact mesurable sur les performances \u00e9tudi\u00e9es. Un masque g\u00e9n\u00e9rique aurait constitu\u00e9 un choix moins judicieux.<\/p>\n<\/div>\n<\/details>\n En effet, le codec d'image utilisait un vocabulaire effectif tr\u00e8s limit\u00e9 dans les patches source. Les informations perdues lors du codage ne peuvent pas \u00eatre simplement r\u00e9cup\u00e9r\u00e9es \u00e0 l'aide d'un transformateur plus grand.<\/p>\n<\/div>\n<\/details>\n Contr\u00f4ler s\u00e9par\u00e9ment chaque canal d\u00e9riv\u00e9 \u00e0 l'aide de l'ablation et de contradictions r\u00e9alistes, conserver la tra\u00e7abilit\u00e9 et \u00e9valuer l'impact en aval des erreurs en amont.<\/p>\n<\/div>\n<\/details>\n<\/div>\n<\/section>\n Sources d'information<\/p>\n L'audit d'AION-1 montre comment les m\u00e9tadonn\u00e9es d\u00e9riv\u00e9es peuvent prendre le pas sur les pixels. Qu'est-ce que cela signifie pour la provenance, les tests d'ablation et l'IA multimodale s\u00e9curis\u00e9e ?.<\/p>","protected":false},"author":1,"featured_media":111856,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"_gspb_post_css":"","footnotes":""},"categories":[199],"tags":[21392,21393,17370,18381,18467],"class_list":["post-99216","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-techniti-noimosyni","tag-ai-auditing","tag-astronomy-ai","tag-data-quality","tag-foundation-models","tag-multimodal-ai"],"_links":{"self":[{"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/posts\/99216","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/comments?post=99216"}],"version-history":[{"count":0,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/posts\/99216\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/media\/111856"}],"wp:attachment":[{"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/media?parent=99216"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/categories?post=99216"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/twodots.gr\/fr\/wp-json\/wp\/v2\/tags?post=99216"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}D'un bug d'entr\u00e9e \u00e0 une erreur syst\u00e9matique cosmologique mesurable<\/h2>\n
Le \u00ab spectra \u00bb en tant qu'indicateur ind\u00e9pendant et l'importance de la multimodalit\u00e9 r\u00e9elle<\/h2>\n
La simple mesure d'att\u00e9nuation qui s'est av\u00e9r\u00e9e la plus efficace<\/h2>\n
Le tokenizer limite ce que le mod\u00e8le peut voir<\/h2>\n
Pourquoi les dictionnaires clairsem\u00e9s n'ont-ils pas fourni un \u00ab levier \u00bb de contr\u00f4le stable ?<\/h2>\n
Un mod\u00e8le d'audit qui s'\u00e9tend au-del\u00e0 de l'astronomie<\/h2>\n
\n
Ce que doivent garder \u00e0 l'esprit les \u00e9quipes qui ach\u00e8tent ou d\u00e9veloppent une IA multimodale<\/h2>\n
Qu'est-ce que l'AION-1 ?;<\/summary>\n
Quelle a \u00e9t\u00e9 la principale conclusion de l'audit ?;<\/summary>\n
Comment a-t-on d\u00e9montr\u00e9 que le r\u00e9sultat \u00e9tait causal ?;<\/summary>\n
\u00c0 quelle fr\u00e9quence un segment correct manquait-il dans l'enqu\u00eate examin\u00e9e ?;<\/summary>\n
Le probl\u00e8me avec le mod\u00e8le plus grand a-t-il \u00e9t\u00e9 r\u00e9solu ?;<\/summary>\n
Quelle mesure d'att\u00e9nuation s'est av\u00e9r\u00e9e la plus efficace ?;<\/summary>\n
Pourquoi le tokenizer est-il important ?;<\/summary>\n
Quelle est la le\u00e7on \u00e0 tirer concernant les syst\u00e8mes d'IA d'entreprise ?;<\/summary>\n
\n