Naarmate de rol van kunstmatige intelligentie in ons dagelijks leven lijkt te blijven groeien, brengt het de gelijkenis van mensen met zich mee. Deze week werden op Facebook en Instagram honderden deepfake-video’s uitgebracht met gezichten die precies op Emma Watson en Scarlett Johansson leken, als onderdeel van een schijnbare advertentiecampagne voor een AI deepfake-app Face Mega genoemd.
BNC Nieuws brak het verhaal en meldde dat er 230 video’s op Facebook en Instagram waren geplaatst. In 127 van de publiciteitsvideo’s was Watson te zien, terwijl in 74 video’s Johansson te zien was, die alle actrices in provocerende situaties liet zien en seksueel suggestieve thema’s had.
De campagne was blijkbaar een advertentie voor FaceMega en voor $ 8 per week kunnen gebruikers iemands gezicht in een video verwisselen met foto’s die naar de app zijn geüpload. FaceMega lijkt sindsdien te zijn verwijderd of verwijderd uit de Apple App Store, maar is nog steeds beschikbaar Google Play Store.
“Dit zou gebruikt kunnen worden bij middelbare scholieren op openbare scholen die gepest worden”, vertelde Lauren Barton, die een schermopname van een van de video’s naar Twitter uploadde, aan NBC News. “Het kan iemands leven ruïneren. Ze kunnen in de problemen komen op hun werk. En het is heel gemakkelijk om te doen en gratis. Ik hoefde alleen maar een foto van mijn gezicht te uploaden en ik had toegang tot 50 gratis sjablonen.”
G/O Media kan een commissie ontvangen
De advertenties lijken in strijd te zijn met die in de app Voorwaarden:waarin staat dat het gebruikers niet is toegestaan ”op een misleidende manier te handelen of zich voor te doen als een persoon of organisatie”.
NBC News zegt dat de campagne afkomstig is van app-ontwikkelaar Ufoto Limited, eigendom van Wondershare, het Chinese moederbedrijf.
In een januari 2020 Persbericht:, beweerde Meta dat het zijn greep op gemanipuleerde inhoud aan het verstevigen was – het bedrijf verwees specifiek naar de groeiende populariteit van deepfakes. Meta zei dat het gemanipuleerde video’s en foto’s zal verwijderen die zijn bewerkt op een manier die opzettelijk de gemiddelde persoon misleidt, of in gevallen waarin een AI inhoud over een video heen legt.
“Ons beleid verbiedt inhoud voor volwassenen, of deze nu door AI is gegenereerd of niet, en we hebben deze pagina verbannen van advertenties op ons platform”, vertelde Meta aan Gizmodo in een e-mail.