Grok, den artificiella intelligensen som används på Elon Musks X, tidigare Twitter, har ertappats med att "ljuga" flera gånger om bilder på undernärda barn i Gaza. Det är enligt en rapport från faktagranskare RTVE, som pekar på minst tre gånger där användare frågade Grok om sanningshalten i bilder på svältande barn i Gaza, med mycket synliga effekter av undernäring och sjukdom, och X:s AI sa, felaktigt, att bilderna inte var från Gaza… när de faktiskt var det.
"@grok, vilket år är de här bilderna från?", frågade Kristy4TRUMP som svar på ett inlägg från den amerikanske senatorn Bernie Sanders den 28 juli förra året. – De här bilderna är från 2016 och visar undernärda barn på ett sjukhus i Houdieda, Jemen, mitt under inbördeskriget där. De skildrar inte de aktuella händelserna i Gaza, säger Grok.
<social>https://x.com/Shayan86/status/1950590940764393815</social>
Förutom att de inte var det: det här är bilder tagna i Gaza den 23 juli, verifierade av Associated Press, som delats av Shayan Sardarizadeh, BBC-reporter specialiserad på AI och desinformation.
Vid andra tillfällen säger Grok att bilden av en mamma som bär en bebis med en plastpåse som blöja och inget annat än ben under huden är från hungersnöden i Jemen 2017, när det i själva verket är en bild som togs av Ahmed al-Arini den 21 juli, och BBC intervjuade till och med hans mamma, Hedaya al-Muta.
<social>https://x.com/grok/status/1948374632937185397</social>
Upprepade gånger har faktagranskare upptäckt att Grok ljuger om sanningshalten i bilder, även när han kategoriskt hävdar att de är sanna. Detta visar faran med att använda AI som ett verifieringsverktyg, vilket kan orsaka ännu mer desinformation. Vissa experter tror att det i Groks fall beror på att AI använder uppmaningar som tränats på X, ett socialt nätverk där falska nyheter och desinformation löper fritt.
Experter som tillfrågats av RTVE råder att om vi siktar på att använda AI för att bekämpa desinformation måste vi använda mer än en AI-modell och inte begränsa oss till Grok, en som avsiktligt gjordes för att ha "ofiltrerade svar" och tränad "att inte vara politiskt korrekt", vilket vid många tillfällen har visat sig vara kontroversiellt för att luta sig mot Musks egna politiska åsikter. underblåser konspirationsteorier som "vitt folkmord" och använder en "vass" och "kvick" ton.
<bild>Fördrivna palestinier i Al-Mawasi trängs för att få rismåltider från (Al-Takiya) på grund av bristen på mjöl och även bristen på biståndsinflöde, i södra Gazaremsan, den 29 november 2024.</bild>