Un raport al centrului de analiză Demos arată că Rusia încearcă să influențeze răspunsurile oferite de modele de inteligență artificială prin introducerea de informații înșelătoare în sursele online folosite de aceste sisteme, relatează Daily Mail.
Cercetătorii descriu tehnica drept „Retrieval Augmented Generation (RAG) poisoning” şi susţin că, prin manipularea conţinutului disponibil pe internet, actorii statali pot determina modelele AI să preia şi să redea informaţii false sau denaturate. Raportul menţionează că unele dintre modelele analizate, dezvoltate de companii precum OpenAI, Anthropic şi Google, au oferit răspunsuri influenţate de astfel de surse manipulate.
În studiu, Demos a examinat răspunsurile a cinci modele avansate la întrebări despre organizaţia Foundation to Battle Injustice (FBI), pe care raportează că a fost înfiinţată în 2021 de Evgheni Prigojin, fondatorul grupului Wagner, şi care este sancţionată de Uniunea Europeană. Potrivit raportului, aproximativ 31% din răspunsuri nu au precizat statutul organizaţiei, iar doar în jur de jumătate au respins afirmaţii considerate false.
Julia Lopez, ministru din cabinetul britanic în umbră responsabil pentru tehnologie, a cerut măsuri suplimentare pentru protejarea sistemelor AI împotriva campaniilor de dezinformare susţinute de state. Guvernul Regatului Unit a comunicat că monitorizează ameninţările şi colaborează cu autorităţile competente, iar ministrul pentru AI, Kanishka Narayan, a subliniat necesitatea unor mecanisme de control şi supraveghere.
Autorii raportului avertizează că, pe măsură ce AI devine o sursă principală de informare, protejarea integrităţii surselor consultate de aceste sisteme va deveni esenţială pentru securitatea digitală şi combaterea dezinformării.
Comentarii recente