Süni intellekt elmi mühitdə ciddi problemə çevrilməyə başlayıb: elmi məqalələrdə getdikcə daha çox heç vaxt mövcud olmayan tədqiqatlara istinadlar yer alır.
arXiv preprint serverində dərc olunan yeni araşdırmaya əsasən, 2025-ci ilə qədər elmi ədəbiyyatda təxminən 146 000 “hallüsinasiyalı” sitat — yəni tamamilə uydurma mənbələrə istinad — ola bilər.
Alimlər PubMed Central, bioRxiv və SSRN daxil olmaqla böyük elmi verilənlər bazalarında yerləşdirilən 2,5 milyon məqalə üzrə 111 milyon sitatı təhlil ediblər. Nəticələr göstərib ki, ChatGPT kimi dil modellərinin geniş istifadəsindən sonra mövcud olmayan istinadların sayı kəskin artıb. Xüsusilə 2024-cü ilin ortalarından etibarən bu artım daha da sürətlənib.
Araşdırmada qeyd olunur ki, əsas təhlükə belə istinadların real görünməsidir: süni intellekt başlıq, müəllif adı, jurnal və hətta DOI nömrəsi kimi məlumatları inandırıcı şəkildə “yarada” bilir. Bəzi hallarda isə real DOI mövcud olur, lakin başqa məqaləyə yönləndirir.
Tədqiqat müəllifləri bildirirlər ki, bu problem fərdi saxtakarlıqdan daha çox sistem xarakteri daşıyır. Onların fikrincə, saxta istinadlar xüsusilə kiçik tədqiqat qruplarında və mətn yazmaq üçün süni intellektdən aktiv istifadə edən gənc alimlər arasında daha çox rast gəlinir.
Eyni zamanda qeyd olunur ki, mövcud yoxlama mexanizmləri — jurnal redaktorları, rəyçilər və avtomatik sistemlər — bu halların böyük hissəsini aşkar edə bilmir. Hesabatda saxta istinadların təxminən 79%-nin hətta arXiv platformasında belə yoxlamadan keçə bildiyi vurğulanır.
Tibb sahəsində vəziyyət daha narahatedici qiymətləndirilir. Kolumbiya Universiteti tərəfindən aparılan ayrıca araşdırmada mövcud olmayan istinadlara sahib təxminən 3000 tibbi məqalə aşkarlanıb. Bu məqalələrin bir qismi artıq klinik tövsiyələrdə istifadə olunub.
Mütəxəssislər xəbərdarlıq edirlər ki, bu tendensiya davam edərsə, süni intellekt təkcə akademik etibarlılığı deyil, həm də real klinik qərarları təsirləndirə bilər.
Problemin artması fonunda bəzi platformalar qaydaları sərtləşdirməyə başlayıb. Məsələn, arXiv saxta istinadlar və aşkar hallüsinasiyalar olan məqalələrə görə müəlliflərin müvəqqəti bloklana biləcəyini açıqlayıb.
Alimlər yekunda bildirirlər ki, elm sahəsi yeni bir etimad böhranı ilə üz-üzədir: süni intellekt həm tədqiqat prosesini sürətləndirir, həm də istinad sisteminin etibarlılığını ciddi şəkildə zəiflədir.
İzmedia.az
