Microsoft to Implement Enhanced Security Measures in Response to Deepfake Controversy
Noticias xPL

Microsoft implementeert verbeterde beveiligingsmaatregelen als reactie op Deepfake-controverse

Microsoft heeft maatregelen genomen om de beveiliging van hun gratis tool voor het genereren van beelden met behulp van kunstmatige intelligentie, Designer, te verbeteren nadat bekend werd dat expliciete deepfakes van Taylor Swift werden gemaakt met behulp van deze applicatie zonder toestemming van de artiest.

Na de onthulling dat de deepfakes afkomstig waren van het 4chan-forum en een Telegram-kanaal, heeft Microsoft een beveiligingspatch geïmplementeerd om de mogelijkheid van Designer om generieke beelden te maken te beperken. Hoewel het nog niet bevestigd is dat de betreffende Taylor Swift-afbeeldingen met deze tool zijn gegenereerd, heeft CEO Satya Nadella van Microsoft beloofd de beveiliging van het AI-systeem van het bedrijf te versterken om de creatie van schadelijke inhoud te voorkomen.

In een gerelateerd incident meldde een Microsoft-ingenieur genaamd Shane Jones een kwetsbaarheid in het DALL-E 3-platform van OpenAI, die het mogelijk zou maken om gewelddadige en seksuele deepfakes vergelijkbaar met die van Taylor Swift te genereren. Vanwege het gebrek aan reactie van OpenAI en Microsoft heeft Jones een klacht ingediend in het Capitol Hill, waarin hij vroeg om de oprichting van een systeem om kwetsbaarheden in AI-systemen te melden en te volgen.

Als reactie hierop verklaarde Microsoft dat hun onderzoekers geen mogelijkheid vonden voor de door Jones gemelde technieken om de beveiligingsfilters te omzeilen. Bovendien kondigde het bedrijf de implementatie aan van een intern meldingsplatform, zodat werknemers hun zorgen over AI-modellen kunnen uiten voordat ze deze openbaar maken.

De voortdurende ontwikkeling van kunstmatige intelligentie heeft de creatie van steeds realistischere deepfakes mogelijk gemaakt, en het is essentieel dat bedrijven effectieve beveiligingsmaatregelen implementeren om misbruik van deze tools te voorkomen. De bescherming van privacy en de strijd tegen valse inhoud zijn belangrijke uitdagingen die moeten worden aangepakt in de huidige bedreigingen van AI. Microsoft toont haar toewijding door verbeterde beveiligingsmaatregelen te implementeren en de zorgen van haar werknemers te horen met betrekking tot haar AI-modellen.

Belangrijke definities:
– Deepfakes: manipulaties van afbeeldingen of video’s met behulp van kunstmatige intelligentie om nepinhoud te creëren die echt lijkt.
– AI: Kunstmatige Intelligentie, het vermogen van machines om taken uit te voeren die normaal gesproken menselijke intelligentie vereisen.

Aanbevolen gerelateerde links:
– Microsoft