Vai sadarbība ar ārējiem mākslīgā intelekta drošības vērtētājiem notika darba pilnvaru robežās? Šajā jautājumā atšķiras OpenAI un trīs atlaisto drošības pētnieku skaidrojumi. Džasmina Vanga, Tomeks Korbaks un Mikita Balesni uzņēmuma pārmetumus apstrīd atklātā vēstulē. Savukārt OpenAI piektdien platformā X paziņoja, ka atlaišanas iemesls bijusi sensitīvas informācijas apstrādes noteikumu pārkāpšana, nevis bažu paušana par mākslīgā intelekta drošību, vēsta The Verge.
Pētnieki strādāja mākslīgā intelekta drošības jomā. Viņu vēstulē viens no jautājumiem ir sadarbība ar cilvēkiem ārpus uzņēmuma: trijotne noliedz, ka būtu sazinājusies ar ārējām personām ārpus savu darba pienākumu ietvariem. Kā ziņo Engadget, pētnieki arī aicina OpenAI ievērot publiskās saistības iesaistīt neatkarīgus drošības auditorus — trešo pušu vērtētājus — un neizmantot atlaišanu par ieganstu, lai atteiktos no šīm partnerībām.
Uzņēmuma versijā pārkāpumi neaprobežojas ar vēstulē aplūkoto. OpenAI pārstāvis TechCrunch sacīja, ka izmeklēšanā konstatēti atkārtoti pārkāpumi pētniecības informācijas apstrādē, kas pārsniedz informācijas nodošanu ārējai mākslīgā intelekta izvērtēšanas grupai. Arī paziņojumā platformā X uzņēmums norādīja uz pārkāpumiem ārpus vēstulē aprakstītā, taču detaļas nesniedza. TechCrunch savukārt ziņo, ka OpenAI tieši neatbildēja uz jautājumiem par konkrētajiem pārkāptajiem noteikumiem un atlaišanas apstākļiem.
Atsevišķi pētnieki noraidīja saistību ar informācijas noplūdi izdevumam The Information. Tā attiecās uz OpenAI jaunāko modeļu uzbūvi, kas apgrūtina to spriešanas gaitas pārraudzību. Šis noliegums vēstulē ir nodalīts no jautājuma par darba ietvaros notikušu saziņu ar ārējiem vērtētājiem: trijotne apstrīd gan līdzdalību noplūdē, gan pārmetumu par saziņu ārpus darba pilnvarām.
Vēstulē pētnieki pievēršas arī noteikumu skaidrībai uzņēmuma iekšienē. Viņu vērtējumā agrāk darbinieki varēja atklāti izteikt drošības bažas un nepiekrist, bet pēc atlaišanas kolēģiem kļuvis neskaidrāks, kāda rīcība ir pieļaujama. Trijotne pauž bažas, ka uzņēmuma iekšējā un publiskā komunikācija par atlaišanu kolēģus attur no runāšanas un darbībām, kas iepriekš bijušas ierasta darba sastāvdaļa.
OpenAI iekšējā memorandā, par kuru vēsta TechCrunch, savukārt uzsvērts, ka lēmumi nebija saistīti ar drošības bažu izteikšanu un uzņēmums šādu rīcību atbalsta. Pētnieku ieteikumi skar arī turpmāko darba kārtību: līdztekus neatkarīgo auditoru iesaistei viņi aicina saglabāt atklātu dialogu starp OpenAI drošības pētniekiem un plašāku drošības pētniecības kopienu.
Komentari
0