San Francisco contre les apps deepfake porno
San Francisco exige le retrait de 13 apps de deepfake pornographique des stores d'Apple et Google. L'avocat David Chiu accuse les géants tech de profiter de ces apps illégales qui génèrent des images intimes non-consenties.
« "Generating non-consensual intimate images is illegal, harmful, and completely unacceptable," Chiu tells WIRED. » — Wired AI
Que faut-il retenir ?
- 13 apps de face-swapping générant des nudes IA visées par l'ordre de retrait
- Apple et Google accusés d'avoir "fait des millions" avec ces apps via les frais in-app
- Google a déjà supprimé "des centaines" d'apps similaires pour violation
- Incidents documentés dans au moins 90 écoles impliquant des deepfakes pornos de mineurs
Pourquoi cette nouvelle compte-t-elle ?
Cet enjeu expose les limites de la modération des stores d'apps face aux dérives de l'IA générative. Les professionnels du tech doivent anticiper un durcissement réglementaire et renforcer les contrôles pour éviter d'être associés à ces contenus illégaux.
13 apps de deepfake visées par l'ordre de retrait
💬 David Chiu, City attorney de San Francisco
Public concerné : entreprises, développeurs
Quelles sont les obligations légales des plateformes face aux deepfakes pornographiques ?
Les plateformes ont l'obligation légale de retirer les contenus illégaux comme les deepfakes pornos non-consentis. En Californie, elles peuvent être tenues responsables d'aider à leur diffusion, comme le démontre l'action en justice de San Francisco.
🔧 Outils mentionnés