Reddit forbyder Deepfakes Subreddits med AI-genererede videoer, Celebrity Porn fjernet

I løbet af de sidste par måneder er AI-genereret berømthedsporno eller Deepfakes blevet et varmt diskussionsemne og den seneste kontrovers for at ramme kunstig intelligens og maskinindlæring.

Deepfakes bruger i det væsentlige kunstig intelligens til at morph berømthed ansigter på porno eller almindelige videoer på en meget realistisk måde. Siden deres stigning i popularitet har Deepfakes med rette modtaget modstand fra berømtheder, sociale mediesider og interneteksperter. Efter at være blevet forbudt af Pornhub, Twitter og Discord, praksis med handel med AI-genereret berømthedsporno er også fjernet fra Reddit.

Onsdag den sociale mediegigant blokerede underreddits inklusive r / deepfakes og r / deepfakeNSFW som blev brugt til at cirkulere AI-genererede berømthedspornovideoer. Det er endnu ikke klart, om andre subreddits, der muligvis har brugt sådanne videoer, kommer under scanneren, eller om fornærmende indlæg i disse subreddits ville blive fjernet.

Reddits opdaterede politik om sagen siger,

”Reddit forbyder formidling af billeder eller video, der skildrer en person i en nøgen tilstand eller er involveret i seksuel adfærd, der tilsyneladende er skabt eller lagt ud uden deres tilladelse, herunder skildringer, der er blevet forfalsket.

Billeder eller video af intime dele af en persons krop, selvom personen er klædt eller offentligt, er heller ikke tilladt, hvis det tilsyneladende er oprettet eller lagt ud uden deres tilladelse og kontekstualiseret på en salig måde (f.eks. "Creepshots" eller "upskirt" -billeder) ). Derudover må du ikke sende billeder eller video af en anden person med det specifikke formål at falske eksplicit indhold eller bede om "lookalike" pornografi. "

Før forbuddet, subreddit r / deepfakes havde mere end 92.000 tilhængere som viser, hvor populært konceptet med AI-genereret falsk berømthedsporno er. Underreddit husede falsk porno af videoer fra mange berømtheder, herunder Taylor Swift, Selena Gomez og Olivia Wilde.

Det er virkelig skræmmende at se, hvor let det er at oprette falske berømthedspornovideoer ved hjælp af kunstig intelligens. Konceptet er ikke længere raketvidenskab eller involverer dyb viden om videoredigering eller kunstig intelligens. Der er apps derude, som kan udføre ansigtsudskiftning bare med et klik på knappen. Det er godt at se, at sociale medier og endda pornosider tager skridt til at forbyde dette ikke-konsensuelle indhold.