Cīņa pret mākslīgā intelekta radītiem viltotiem attēliem.

Mākslīgā intelekta detektori un ģeneratori sacenšas, lai uzturētu līdzsvaru cīņā pret viltotiem attēliem.

Straujais mākslīgā intelekta radīto attēlu pieaugums apgrūtina īstu un viltotu attēlu atšķiršanu, pieprasot jaudīgākus rīkus.

Nesenā pētījumā Itālijas zinātnieki pārbaudīja vairākus mākslīgā intelekta modeļus, kas paredzēti viltotu attēlu atpazīšanai.

Rezultāti rāda, ka šīs metodes ir efektīvas, taču mākslīgā intelekta ģeneratori kļūst arvien gudrāki.

Pētniece Luisa Verdoliva no Neapoles Federiko II Universitātes uzsver, ka mākslīgā intelekta radīti attēli, lai gan izklaidējoši, var būt bīstami nopietnākos kontekstos, piemēram, politiskās kampaņās.

Viltojumu atklāšana balstās uz divu veidu norādēm: "augsta līmeņa" acīmredzamiem defektiem, kā neparastas ēnas, un "zemā līmeņa" artefaktiem, kas ir slēpti attēlu datos.

Šie slēptie defekti ir līdzīgi šaujamieroču ekspertīzei, kur unikāli skrāpējumi uz lodes palīdz noteikt šāvēja ieroci.

Verdoliva un viņas komanda pārbaudīja 13 mākslīgā intelekta modeļus, kas spēja atpazīt viltotus attēlus un to ģeneratorus ar augstu precizitāti.

Piemēram, viens modelis atpazina DALL-E ģenerētus attēlus ar 87% precizitāti un Midjourney radītos attēlus ar 91% precizitāti.

Vēl iespaidīgāk, šie modeļi atpazina arī attēlus, kuriem tie nebija īpaši apmācīti, pateicoties līdzībām starp ģeneratoriem.

Galvenais izaicinājums ir atklāt defektus no jaunākajiem mākslīgā intelekta ģeneratoriem.

Verdoliva uzsver, ka daudzveidīgi modeļi palielina iespēju atklāt jaunus viltojumus, taču cilvēku piesardzība ir pirmā aizsardzības līnija.

Ir būtiski uzticēties cienījamiem avotiem un būt skeptiskiem pret nepārbaudītiem multivides materiāliem, kas ir pirmā un vissvarīgākā aizsardzība.