[ad_1]
OpenAI lanceert een tool die afbeeldingen kan detecteren die zijn gemaakt door de tekst-naar-afbeelding-generator DALL-E 3, zei de door Microsoft gesteunde startup dinsdag te midden van toenemende zorgen over de invloed van AI-gegenereerde inhoud bij de wereldwijde verkiezingen van dit jaar.
Het bedrijf zegt dat de tool bij interne tests in ongeveer 98 procent van de gevallen afbeeldingen die door DALL-E 3 zijn gemaakt, correct identificeerde en algemene wijzigingen zoals compressie, bijsnijden en verzadigingsveranderingen met minimale impact aankan.
De maker van ChatGPT is ook van plan om fraudebestendige watermerken toe te voegen om digitale inhoud zoals foto's of audio te markeren met een signaal dat moeilijk te verwijderen zou moeten zijn.
Als onderdeel van de inspanningen heeft OpenAI zich ook aangesloten bij een branchegroep waartoe Google, Microsoft en Adobe behoren en is van plan een standaard te bieden die de oorsprong van verschillende media zou helpen traceren.
In april, tijdens de aanhoudende algemene verkiezingen in India, zijn nepvideo's van twee Bollywood-acteurs waarin kritiek wordt geuit op premier Narendra Modi online viraal gegaan.
De verspreiding van door AI gegenereerde inhoud en deepfakes worden steeds vaker gebruikt in India en bij verkiezingen elders in de wereld, waaronder in de VS, Pakistan en Indonesië.
OpenAI zei dat het zich bij Microsoft aansluit bij de lancering van een fonds voor ‘maatschappelijke veerkracht’ van $ 2 miljoen ter ondersteuning van AI-onderwijs.
[ad_2]
Source link
