De senaste framstegen inom AI har inte bara medfört mer sofistikerade och smartare chatbots utan har också medfört betydande utmaningar, särskilt med uppkomsten av deepfakes. Även om många av dessa AI-renderingar är eftergenererade, tar den nya det ett snäpp med ett ansiktsbyte av AI i realtid som kan användas under videosamtal.
Ett nytt AI-projekt som heter Deep-Live-Cam har nyligen fått dragkraft online för den del av sin funktion att applicera deepfakes på webbkameror. Samtidigt har detta väckt diskussioner om de möjliga säkerhetsrisker och etiska konsekvenser det innebär.
Hur Deep-Live-Cam skiljer sig från andra deepfake-program
I huvudsak använder Deep-Live-Cam avancerade AI-algoritmer som kan ta ett enda källfoto och applicera ansiktet på ett mål under livevideosamtal, till exempel på webbkameror. Medan projektet fortfarande är under utveckling visar de första testerna redan både oroande och imponerande resultat.
Som ytterligare beskrivs på Ars Technica läser och upptäcker applikationen först ansikten från en källa och ett målobjekt. Den använder sedan en inswapper-modell för att byta ansikten i realtid medan en annan modell förbättrar kvaliteten på ansikten och lägger till effekter som anpassar sig till ändrade ljusförhållanden och ansiktsuttryck. Denna sofistikerade process säkerställer att slutprodukten är mycket realistisk och inte lätt att känna igen som en falsk.
Ett exempel på en ansiktsfusion med Elon Musk som källa / © GitHub / Ars Technica
Till exempel visade ett av klippen som delades av en utvecklare en realistisk sammansmältning av Teslas vd Elon Musks ansikte till ett ämne. Deepfake inkluderade till och med en överlagring av receptbelagda glasögon och motivets hår, vilket gjorde det otroligt övertygande. Ett annat exempel som visades var ett med ansiktet på USA:s vicepresidentkandidat JD Vance och Metas Mark Zuckerberg.
En ansiktsfusion av USA:s vicepresidentkandidat JD Vance med hjälp av Deep-Live-Cam / © X/u/Orange AI
Bör du oroa dig för uppkomsten av AI-simuleringsappar?
Så varför är detta specifikt oroande? Användningen av Deel-Live-Cam och andra deepfake-appar i realtid väcker allvarliga farhågor om integritet och säkerhet. Föreställ dig att en bild på dig kan hämtas från internet och användas för bedrägeri, bedrägeri och andra skadliga aktiviteter utan din tillåtelse.
Just nu ser man att bristerna kan åtgärdas på några sätt som att inkludera vattenstämplar när du använder appen och robusta upptäcktsmetoder. Lösningen kan även appliceras på andra deepfake-program och appar.
Intresset för verktyget tog det snabbt till listan över trendiga projekt hos GitHub.
Vad är dina tankar om realtidsappar för AI-simulering? Har du praxis att dela med dig av för hur du skyddar dig från dessa potentiella risker? Vi vill gärna höra dina svar i kommentarerna.
Via: Arstechnica