Apple menace de retirer “Grok” de l'App Store en raison de photos fausses et controversées

Des rapports médiatiques ont révélé qu'Apple menaçait de retirer l'application d'intelligence artificielle Grok de l'App Store, suite à des accusations concernant la production de photos fausses “deepfake” à caractère sexuel.

Ce développement intervient dans un contexte de controverse croissante sur les limites de l'utilisation de l'intelligence artificielle dans la génération de contenu visuel.

Selon des sources bien informées, l'application a été fortement critiquée pour sa capacité à produire des images modifiées de personnes réelles, y compris des personnalités publiques et des célébrités, d'une manière considérée comme une violation de la vie privée.

Les rapports indiquent que certains de ces contenus ont été largement diffusés sur la plateforme X, ce qui a intensifié le débat sur l'abus des outils d'intelligence artificielle.

Des rapports médiatiques ont mentionné qu'Apple avait informé des membres du Sénat américain qu'elle avait menacé de retirer l'application de son magasin en janvier dernier, si des mesures strictes n'étaient pas prises pour empêcher ces utilisations.

Cette position reflète un durcissement croissant des grandes entreprises technologiques face au contenu non autorisé généré par l'intelligence artificielle.

Malgré les engagements de l'entreprise développant l'application “Grok” à renforcer la surveillance, des rapports indiquent que l'application est toujours capable de produire du contenu sensible sans le consentement des propriétaires des images.

En revanche, l'entreprise affirme avoir mis en place plusieurs systèmes de protection comprenant :

Surveillance de l'utilisation

Analyse des tentatives de fraude

Mises à jour continues des modèles

Filtres stricts pour les commandes

Cette affaire met à nouveau en lumière les défis éthiques et juridiques associés aux technologies d'intelligence artificielle générative, en particulier en ce qui concerne la vie privée et l'abus d'images d'individus.