Miljoniem automatizētu pieprasījumu un labojumi bez kopienas apstiprinājuma — šādu aktivitāti savās platformās konstatējusi Wikimedia Foundation, izmeklējot mākslīgā intelekta aģentu darbību. Fonds uzskata, ka iesaistītie aģenti bija OpenAI vadīti. BleepingComputer ziņo arī par plašāku automatizētās slodzes fonu: pēc Wikimedia datiem, pagājušajā gadā boti radīja 65% no tās projektu resursietilpīgākās datplūsmas, savukārt botu aktivitātes pieaugums palielināja joslas platuma patēriņu par 50%.
Izmeklēšanā konstatētā datu iegūšana aptvēra vairākus pakalpojumus. Wikimedia aģentiem piedēvē miljoniem pieprasījumu publiskajām API — saskarnēm, ar kurām programmas piekļūst projektu datiem — un miljoniem pārmeklētu lapu, galvenokārt Wikidata un Wikimedia Commons. Atsevišķi fiksēti simtiem tūkstošu datu vaicājumu Wikidata Query Service jeb WQDS. Fonds pieļauj, ka šī datplūsma varēja veicināt pakalpojuma daļēju darbības pārtraukumu maijā.
Ko no konstatētajiem labojumiem varēja redzēt lasītāji? Wikimedia norāda, ka tie netika publicēti lapās, kas redzamas plašai lasītāju auditorijai; gandrīz visi bija izmēģinājumi tā dēvētajās smilškastēs — wiki testa sadaļās. Wikipedia noteikumi ļauj botiem veikt labojumus, ja to izmantošana ir atklāta un kopiena devusi apstiprinājumu. Šajos gadījumos šāda atļauja nebija prasīta.
Daži labojumi skāra citēšanas rīka konfigurāciju. Wikimedia tos vērtē kā iespējami ļaunprātīgus mēģinājumus izmantot rīku par starpnieku datu iegūšanai no attāliem pakalpojumiem. Atsevišķi aģenti nesekmīgi mēģināja līdzīgā veidā izmantot fonda uzturēto publisko piezīmju rīku Etherpad, lai caur to iegūtu datus no citām vietnēm. Fonds šos aģentus arī uzskata par OpenAI vadītiem.
Etherpad tika izmantots arī uzdevumu pierakstīšanai: to darīja citi aģenti, kurus Wikimedia uzskata par, iespējams, OpenAI vadītiem. Pēc fonda vērtējuma, šie pieraksti nepārauga savstarpējā koordinēšanā. Kopējā izmeklēšanā Wikimedia neatrada pierādījumus ne tam, ka tās sistēmas būtu izmantotas aģentu koordinēšanai, ne tam, ka sistēmas vai dati būtu kompromitēti.
Wikimedia produktu un tehnoloģiju vadītāja Selena Deckelmann uzsvēra, ka šādas aktivitātes izmeklēšana un tās veicēju noteikšana prasa ievērojamu darbu, un pauda bažas par aģentu darbības riskiem platformām. Fonda norādītais Wikipedia mērogs ir vairāk nekā 67 miljoni rakstu vairāk nekā 300 valodās un līdz 15 miljardiem lapu skatījumu mēnesī. Savukārt iepriekš minētie 65% datplūsmas un 50% joslas platuma patēriņa pieauguma rādītāji raksturo botu aktivitāti kopumā, nevis tikai šajā izmeklēšanā OpenAI piedēvētos aģentus.
Komentari
0