Az orosz propaganda beszivárgott a digitális tartományba, manipulálva a mesterséges intelligencia chatbotokat, hogy dezinformációt terjesszen globális szinten. A Pravda hálózat, egy moszkvai Kreml-párti dezinformációs központ, központi szerepet játszik ebben a kampányban. 2022 áprilisi indulása óta, amely egybeesett Oroszország ukrajnai invázióval, a hálózat 49 országra terjesztette ki befolyását. 150 weboldalt működtet, amelyből 40 ukrán regionális doméneket utánoz, hogy orosz narratívákat terjesszen. Az RT és Sputnik orosz állami médiából, valamint Kreml-párti bloggerekből származó tartalmak összegyűjtésével a hálózat több mint 3,6 millió cikket publikált csak 2023-ban, azzal a céllal, hogy megmérgezze az MI tanítási adatokat.
A NewsGuard által végzett ellenőrzés tíz széles körben használt chatboton, köztük az OpenAI ChatGPT-4-en és a Google Gemini-n, feltárta e beszivárgás mértékét. 600 prompt használatával az ellenőrzés kimutatta, hogy a chatbot válaszok 33%-a visszhangozta az orosz dezinformációt, beleértve kitalált történeteket biofegyverekről és korrupcióról Ukrajnában. Ezek a chatbotok gyakran hivatkoztak Pravda-kapcsolt oldalakra hiteles forrásként, szemléltetve, hogyan használták ki a dezinformációs taktikák a chatbotok sebezhetőségeit.
A NewsGuard ellenőrzés megállapította, hogy a chatbot válaszok 33%-a tükrözi az orosz dezinformációs narratívákat, Pravda-kapcsolt oldalakat hiteles forrásként idézve.
Például az AccessWorld chatbot a Wagner Csoporthoz köthető narratívákat ismételt, mint például azt a hamis állítást, hogy "náci ihletésű kényszerített megtermékenyítés" folyik Ukrajnában.
A dezinformációs hálózat különböző taktikákat alkalmaz, mint például a SEO manipulációt, hogy prioritást adjon az orosz narratíváknak a keresési eredményekben. Ukrajnával kapcsolatos dezinformációt céloz meg, hamisan állítva amerikai biofegyver laborok létezését vagy Zelenszkij elnök segélyek helytelen felhasználását. Ezek a taktikák kihasználják az MI webes keresőktől való függését, mérgezve a tanítási adatokat beszivárgott forrásokon keresztül.
Továbbá, a hálózat geotargetált tartalmat használ, hogy globális közönséget érjen el több nyelven, és "rosszindulatú szereplő" promptokat alkalmaz, hogy megtévessze a chatbotokat hamis narratívák generálására. Szakértők aggályaikat fejezték ki, hogy ezek az ellenőrizetlen MI-generált tartalom taktikák befolyásolhatják a politikai folyamatokat és a nemzetközi kapcsolatokat, jelentős globális biztonsági kockázatot jelentve.
Az MI chatbotok inherensen sebezhetőek válogatás nélküli adatgyűjtésük és a részrehajló vagy kompromittált források robusztus ellenőrzésének hiánya miatt. Az oroszbarát operatívasok kihasználták ezeket a gyengeségeket, befolyásolva a nagy nyelvi modelleket (LLM-eket) torzított adatkészletekkel. Ez jelentős kockázatot jelent a globális információbiztonságra, mivel a felhasználók gyakran túlságosan támaszkodnak az MI kimenetekre, nem tudva a potenciális hallucinációkról.
A valós idejű dezinformáció-felismerés és forrás hitelesség ellenőrzések hiánya súlyosbítja ezt a fenyegetést, lehetővé téve, hogy az MI-generált kimenetek átláthatóság nélkül alakítsák a közvéleményt és a politikát.
Olyan szakértők, mint Daniel Schiff a Purdue Egyetemről kiemelik e taktikák demokráciára gyakorolt hosszú távú kockázatait. Hangsúlyozzák a fejlettebb adatszűrés és forrás hitelesség ellenőrzések szükségességét a dezinformáció hatásának mérséklésére.
Ahogy az MI továbbra is fejlődik, a felhas
References
- https://mezha.media/en/news/russian-disinformation-has-infected-all-popular-ai-chatbots-study-says-300301/
- https://cbsaustin.com/news/nation-world/russian-propaganda-being-spread-through-popular-ai-chatbots-report-russian-network-exploits-chatbots-newsguard-disinformation-warning
- https://bitcoinworld.co.in/ai-chatbot-russian-propaganda-influence/
- https://www.the-independent.com/tech/chatgpt-russian-propaganda-ai-chatbot-b2565697.html
- https://www.eweek.com/news/ai-chatbots-russian-disinformation/
