L’outil d’IA d’Elon Musk, Grok, ne sera plus en mesure de retoucher des photos de personnes réelles pour les montrer dans des vêtements révélateurs dans les juridictions où cela est illégal, après une inquiétude généralisée concernant les deepfakes sexualisés de l’IA.

« Nous avons mis en œuvre des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles portant des vêtements révélateurs », lit-on dans une annonce sur X.

En réaction à cette interdiction, le gouvernement britannique a revendiqué une « justification » après que le Premier ministre Sir Keir Starmer a appelé X à contrôler son outil d’IA.

Un porte-parole du régulateur britannique Ofcom a déclaré qu’il s’agissait d’un « développement bienvenu » – mais a ajouté que son enquête visant à déterminer si la plateforme avait enfreint les lois britanniques « restait en cours ».

« Nous travaillons 24 heures sur 24 pour faire progresser ce dossier et obtenir des réponses sur ce qui n’a pas fonctionné et sur ce qui est fait pour y remédier », ont-ils déclaré.

La secrétaire à la Technologie, Liz Kendall, a également salué cette décision, mais a déclaré qu’elle « s’attendrait à ce que les faits soient pleinement et solidement établis par l’enquête en cours de l’Ofcom ».

X Le changement a été annoncé quelques heures après que le plus haut procureur de Californie a déclaré que l’État enquêtait sur la propagation de deepfakes sexualisés d’IA, y compris d’enfants, générés par le modèle d’IA.

« Nous géobloquons désormais la capacité de tous les utilisateurs à générer des images de personnes réelles en bikini, sous-vêtements et vêtements similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », a déclaré X dans son communiqué.

Il a également réitéré que seuls les utilisateurs payants pourront éditer des images à l’aide de Grok sur sa plateforme.

Cela ajoutera une couche supplémentaire de protection en contribuant à garantir que ceux qui tentent d’abuser de Grok pour violer la loi ou les politiques de X soient tenus responsables, selon le communiqué.

Avec les paramètres NSFW (non sûrs pour le travail) activés, Grok est censé autoriser « la nudité du haut du corps d’humains adultes imaginaires (et non réels) », conformément à ce que l’on peut voir dans les films classés R, a écrit Musk en ligne mercredi.

« C’est la norme de facto en Amérique. Cela variera dans d’autres régions en fonction des lois d’un pays à l’autre », a déclaré le multimilliardaire de la technologie.

Musk avait précédemment défendu X, en postant que les critiques « voulaient juste supprimer la liberté d’expression » ainsi que deux images générées par l’IA du Premier ministre britannique Sir Keir Starmer en bikini.

On ne sait pas exactement comment sa plateforme mettra en œuvre des blocages basés sur la localisation sur la capacité de Grok à éditer des images de personnes réelles pour créer des images sexualisées, et si les utilisateurs pourront les contourner.

Les personnes cherchant à contourner des géoblocages similaires sur des fonctionnalités ou du contenu se tournent souvent vers des outils tels que les réseaux privés virtuels (VPN), qui peuvent masquer leur emplacement en ligne pour leur permettre d’utiliser Internet comme s’ils se trouvaient dans un autre pays.

Les téléchargements d’applications VPN ont augmenté au Royaume-Uni l’année dernière après que les sites pornographiques ont été tenus de commencer à vérifier l’âge de leurs visiteurs afin de se conformer à la loi sur la sécurité en ligne.

Le changement de politique de X a été bien accueilli par les militants et les experts, même s’ils soulignent que, pour certaines victimes, le mal est déjà fait.

Clare McGlynn, professeur de droit à l’Université de Durham, a déclaré qu’il était arrivé « trop ​​tard pour les milliers de femmes qui ont été victimes et dont les images sont toujours en ligne ».

Andrea Simon, directrice de la Coalition pour mettre fin à la violence contre les femmes (EVAW), a déclaré que s’il restait à voir comment X mettrait en œuvre ses changements, cela montrait « comment les victimes d’abus, les militants et une démonstration de force des gouvernements peuvent forcer les plateformes technologiques à agir ».

« Mais cela ne peut pas s’arrêter là : compte tenu de la nature évolutive des dommages générés par l’IA, les plateformes technologiques doivent être obligées de prendre des mesures préventives proactives », a-t-elle déclaré.

L’Ofcom a déclaré lundi qu’il enquêterait pour savoir si X avait omis de se conformer à la loi britannique concernant les images à caractère sexuel.

Et si X ne se conforme pas, l’Ofcom pourrait demander une ordonnance du tribunal pour forcer les fournisseurs de services Internet à bloquer complètement l’accès au site au Royaume-Uni.

Plus tôt cette semaine, Sir Keir a averti que X pourrait perdre son « droit à l’autorégulation » en raison des réactions négatives suscitées par les images de l’IA, mais plus tard dans la semaine, il a déclaré qu’il se félicitait des informations selon lesquelles X prenait des mesures pour résoudre le problème.

Le Premier ministre a déclaré qu’il « prendrait les mesures nécessaires » et renforcerait la législation si X n’agissait pas.

La chercheuse en politiques Riana Pfefferkorn a déclaré qu’elle était surprise que X ait mis autant de temps à déployer les nouvelles protections Grok et que les fonctionnalités d’édition auraient dû être supprimées dès que les abus ont commencé.

Des questions demeurent sur la manière dont X appliquera ses nouvelles politiques, par exemple comment le modèle d’IA saura si une image est celle d’une personne réelle et quelles actions il entreprendra lorsque les utilisateurs enfreignent les règles, a déclaré Pfefferkorn.

Musk n’a pas non plus présenté l’entreprise sous un jour sérieux, a-t-elle déclaré, ajoutant qu’il serait utile qu’il cesse de « faire des choses comme republier une image IA de Keir Starmer en bikini ».

Reportage supplémentaire de Katy Bailes