Isroil chatbotlar javobini boshqarish uchun 46,5 million dollar sarflamoqda

Sun'iy intellekt chatbotlarining javoblari tashqi kontent orqali uyushtirilgan tarzda o'zgartirilishi mumkinligi haqida “Drop Site News” nashri tekshiruv e'lon qildi. Tekshiruvda asosiy buyurtmachi — Isroil hukumati ekani ko'rsatilgan: u AQShning sobiq saylov shtabi rahbari Bred Parskeylga tegishli “Clock Tower X” kompaniyasi bilan 46,5 million dollarlik shartnoma tuzgan. Shu shartnoma doirasida 10 ta veb-sayt yaratilgan, ularning asosiy maqsadi esa chatbot javoblariga ta'sir ko'rsatish (tekshiruv matni).

Tekshiruvga ko'ra, Isroil tomonidan moliyalashtirilgan bu saytlar oddiy foydalanuvchilar uchun emas, balki sun'iy intellekt modellarining o'quv ma'lumotlariga kirish uchun mo'ljallangan. Bu yondashuv “LLM poisoning” — model o'quv ma'lumotlarini zaharlash deb ataladi.

Buyurtmachi va tarmoq tuzilishi

10 ta sayt turli mavzularga bag'ishlangan: harbiy ittifoq, faktcheking platformasi, tadqiqot va ta'lim platformasi, madaniy aloqalar, savdo va texnologiya hamkorligi kabi. Har bir sayt sahifasi ostida Qo'shma Shtatlardagi xorijiy agentlar ro'yxati (FARA) talabiga ko'ra, material “Clock Tower X” tomonidan Isroil davlati nomidan tarqatilayotgani ko'rsatilgan.

Biroq tekshiruvda Perplexity va Copilot bu saytlar haqida so'ralganda yuqoridagi izohni ko'rsatmagan, Claude, ChatGPT va Gemini esa ko'rsatgan.

O'quv ma'lumotlariga ta'sir

ChatGPT, Gemini va Claude kabi modellarni o'qitishda keng foydalaniladigan ma'lumotlar ombori — Common Crawl. Tahlilga ko'ra, yanvardan iyungacha bu 10 ta sayt Common Crawl tomonidan 912 marta arxivlangan: yanvarda 2 marta, may oyida esa 376 marta.

Anthropic tadqiqotiga ko'ra, modelda “orqa eshik” yaratish uchun taxminan 250 ta zararli hujjat yetarli bo'lishi mumkin — bu model hajmi va ma'lumot miqdoriga bog'liq emas. Atlantic Council tadqiqoti esa muhim izoh qo'shadi: Common Crawl omboriga tushish modelning o'quv ma'lumotlariga kirishini kafolatlamaydi.

Besh xil chatbotda o'tkazilgan sinovda esa Parskeyl tarmog'iga oid saytlar Gemini va Copilot o'quv ma'lumotlarida uchragan. Claude va ChatGPT ularni o'quv ma'lumotlarida saqlamagan bo'lsa-da, javob berish paytida qidiruv orqali ishlatishi mumkin.

Javoblarni tekshirish yo'llari

Sun'iy intellekt vositalaridan foydalanadigan o'quvchi va o'qituvchilar uchun amaliy saboqlar: javobda keltirilgan manbalar havolasini ochib ko'rish, saytning kim tomonidan tarqatilayotgani va moliyalashtirilishi haqidagi izohni tekshirish, javobni bir nechta mustaqil manba bilan solishtirish hamda fakt bilan bahoni ajratish tavsiya etiladi.

2026-yilning birinchi yarmida eng ommabop sun'iy intellekt vositalari haqida alohida maqolada yozilgan, maktablarda sun'iy intellektdan foydalanish cheklovlari esa bu materialda keltirilgan.