Citimet e rreme të gjeneruara nga AI po dominojnë përmbajtjet shkencore
Një studim i ri ka ngritur alarmin mbi një problem serioz që po përhapet me shpejtësi në botën akademike, atë të citimeve shkencore që nuk ekzistojnë fare, të gjeneruara nga inteligjenca artificiale. Sipas një analize të publikuar në arXiv, vetëm gjatë vitit 2025 janë identifikuar rreth 146,900 citime “halucinante” në punime të publikuara në katër platforma kryesore shkencore: arXiv, bioRxiv, SSRN dhe PubMed Central.
Studiuesit analizuan 111 milionë referenca nga rreth 2.5 milionë artikuj shkencorë, duke përdorur kombinime të kontrolleve automatike dhe verifikimeve manuale. Ndërsa mbi 95% e citimeve rezultuan të sakta, një pjesë e vogël rezultoi të ishte krejtësisht fiktive, pa asnjë gjurmë në literaturën reale shkencore. Fenomeni nuk u kufizua në disa raste të izoluara, por u shpërnda gjerësisht në shumë punime, shpesh me vetëm disa referenca të rreme secila, çka sugjeron një përdorim të pakontrolluar të mjeteve të AI pa verifikim njerëzor.
Analiza krahasuese tregoi se pas vitit 2023, periudhë që përkon me përhapjen masive të modeleve gjenerative si ChatGPT dhe Gemini, numri i citimeve të rreme u rrit ndjeshëm, veçanërisht nga mesi i vitit 2024. Më të prekurit rezultuan të ishin studiuesit në fillim të karrierës dhe ekipet e vogla, të cilët, në disa raste, kishin trefishuar produktivitetin e tyre falë AI-së.
Studimi zbuloi gjithashtu se citimet e rreme priren të favorizojnë studiues tashmë të njohur dhe kryesisht meshkuj, duke rrezikuar thellimin e pabarazive ekzistuese në botën akademike. Mekanizmat aktualë të kontrollit rezultojnë të pamjaftueshëm për ta ndalur këtë valë, duke lejuar që shumica e gabimeve të kalojnë pa u vënë re.
Autorët paralajmërojnë se, pa ndërhyrje serioze, “halucinacionet” e AI-së rrezikojnë të dëmtojnë besueshmërinë e prodhimit shkencor, me pasoja që mund të shtrihen nga kërkimi akademik te politikat publike dhe perceptimi shoqëror i dijes.
The post Citimet e rreme të gjeneruara nga AI po dominojnë përmbajtjet shkencore first appeared on Geek Room.
