Scale AI, l'entreprise dans laquelle Zuckerberg a investi 14 milliards, serait un véritable cirque d'incompétence
Meta, la société mère de Facebook, a récemment investi 14 milliards de dollars pour acquérir 49% de Scale AI, une entreprise spécialisée dans l'annotation de données pour l'IA. Cependant, un rapport explosif du magazine Inc révèle que cette société, cofondée par le jeune milliardaire Alexandr Wang, serait en réalité le théâtre d'une incompetence flagrante en coulisses.
Scale AI fournit des services essentiels pour l'entraînement des modèles d'IA en annotant manuellement des données. Son modèle économique repose sur une armée de travailleurs sous-payés, souvent basés à l'étranger, dans des conditions qualifiées de "sweatshops numériques".
Lors de son partenariat avec Google (récemment rompu après l'acquisition par Meta), Scale AI aurait été submergée par des "spammers" profitant de ses protocoles de sécurité défaillants. Ces contractuels indépendants soumettaient régulièrement des contenus absurdes ou générés par IA tout en étant payés, selon d'anciens employés.
Le programme "Bulba Experts", destiné à former les systèmes d'IA de Google avec des experts qualifiés, a été envahi pendant 11 mois (de mars 2023 à avril 2024) par des contributeurs non vérifiés soumettant des informations erronées ou incohérentes. Les contrôles de qualifications étaient quasi inexistants.
Les tentatives de régulation ont été grossières, incluant des restrictions géographiques contre des pays comme l'Égypte ou le Pakistan. Les superviseurs ont dû recourir à des outils comme ZeroGPT pour détecter les contenus générés par IA.
Un porte-parole de Scale AI a contesté ces allégations, affirmant que des garde-fous étaient en place pour filtrer le spam avant livraison aux clients. Cependant, ces révélations soulèvent des questions sur la qualité des données ayant alimenté les modèles d'IA de Google.
