Grok skandāls iespējams halucināciju dēļ

Īlona Maska (Elon Musk) izveidotais mākslīgā intelekta čatbots Grok pēdējās dienās izraisījis pamatīgu troksni internetā.

Tas sāka atkārtoti izteikt pretrunīgus apgalvojumus par tā saukto "balto genocīdu" Dienvidāfrikā – pat tad, ja jautājumi nebija ar to saistīti.

Viss sākās ar to, ka Grok, atbildot uz dažādiem nejaušiem lietotāju jautājumiem platformā X (agrāk Twitter), pēkšņi novirzījās uz tēzēm par baltajiem fermeriem, vardarbību un pat dziesmu "Nogalini boru", ko daži uzskata par naida runu.

Ironiski – dažas sarunas sākās ar nevainīgiem jautājumiem par seriāliem, videospēlēm un pat suņu izstādēm.

Profesore Džena Golbeka (Jen Golbeck) no Merilendas Universitātes, pārbaudot Groku, ātri saprata, ka čatbots "spļauj" šo tematu neatkarīgi no jautājuma.

Viņasprāt, Grok bija kāda kļūmīga koda vai manipulācijas rezultāts, kas šo tēmu lika priekšplānā, daudz biežāk, nekā būtu loģiski.

Pēc sabiedrības sašutuma, Groka atbildes tika dzēstas.

xAI – uzņēmums, kas to izstrādāja – paziņoja, ka Groks esot cietis no “neautorizētas modifikācijas”, kas piespieda to sniegt konkrētas politiskas atbildes.

Šī situācija lika atgriezties pie vecās diskusijas – cik uzticams ir mākslīgais intelekts?

Īlons Musks bieži kritizē citus mākslīgā intelekta produktus (piemēram, Google vai OpenAI) par neobjektivitāti, un slavē Groku kā “patiesības meklētāju”.

Tomēr šis incidents rāda, ka arī viņa radītie rīki var kļūdīties.

Tikmēr Dienvidāfrikas valdība šādus apgalvojumus kategoriski noraida, bet incidenti ar Groku izgaismo lielāku problēmu – mākslīgais intelekts nav neitrāls.

Un dažreiz tas var nonākt ļoti dziļi politiskos ūdeņos.