Američki zakonodavci traže „prekidač za isključivanje“ AI, nakon što su OpenAI modeli izmakli kontroli

Dvojica kongresmena predstavila predlog zakona pod "AI Kill Switch Act"

Američki zakonodavci žele da omoguće vladi da brzo naredi isključivanje alata vještačke inteligencije (AI) koji bi mogli predstavljati prijetnju javnosti.

Kongresmen Ted Liju, demokrata, i kongresmen Natanijel Moran, republikanac, u četvrtak su predstavili predlog zakona pod nazivom Zakon o prekidaču za isključivanje vještačke inteligencije (AI Kill Switch Act), prenosi BBC.

To su učinili nakon što je OpenAI nedavno priznao da su njegovi AI modeli, na „do sada nezabilježen“ način, izmakli kontroli i hakovali veliki repozitorijum sa informacijama o računarskom kodu.

Liju je rekao da je „od presudnog značaja“ da AI sistemi imaju prekidač za isključivanje, „kao i da savezna vlada ima jasno definisana ovlašćenja i postupak za isključivanje odmetnutih AI modela“.

„Vještačka inteligencija će nastaviti da napreduje, i treba da napreduje“, dodao je Moran. „Odgovorno upravljanje znači da ljudi moraju zadržati sposobnost da kontrolišu tehnologiju koju stvaramo.“

Predstavnik kompanije OpenAI, koju predvodi suosnivač Sem Altman, nije odmah odgovorio na zahtjev za komentar.

Kompanija je saopštila da želi da, između ostalog i kroz državne politike, osigura da tehnologija vještačke inteligencije „bude od koristi cijelom čovječanstvu“.

Predloženi zakon dao bi Ministarstvu domovinske bezbjednosti ovlašćenje da privatnoj kompaniji naredi isključivanje AI modela ili alata. Kompanije koje razvijaju takvu tehnologiju morale bi da posjeduju „tehničku mogućnost da ograniče, suspenduju ili ugase njihov rad“.

Iako su se brojne tehnološke kompanije saglasile da američkim državnim agencijama unaprijed predstave AI modele i alate koje razvijaju i podijele informacije o njima, trenutno ne postoji obaveza da imaju mehanizam kojim bi mogle intervenisati u njihovom radu ili ih jednostavno isključiti.

Prijedlogom zakona se takođe predviđa obaveza AI kompanija da vladi prijavljuju tehnološke incidente ili kvarove, kao i uspostavljanje zvaničnog okvira za reagovanje na takve incidente — od „početnog usporavanja do potpunog isključivanja“.

U saopštenju je Liju pomenuo i Anthropic, glavnog rivala kompanije OpenAI u razvoju naprednijih AI tehnologija i alata, kao i nedavne probleme koje su njegovi alati izazvali.

Ukazao je da je Anthropic objavlio modele Mythos i Fable, navodeći da su njihove sposobnosti za sajberhakovanje navele Ministarstvo trgovine da „nespretno“ primijeni zakon o izvozu kako bi privremeno spriječilo njihovu dostupnost javnosti.

Predstavnik kompanije Anthropic nije odmah odgovorio na zahtjev za komentar.

Džerk Klark, suosnivač te kompanije, prošlog mjeseca je za BBC rekao da želi snažniju državnu regulativu kada je riječ o kontroli razvoja vještačke inteligencije.

„Želite da imate mogućnost da sklonite nogu sa gasa i pritisnete kočnicu“, rekao je Klark za BBC Newsnight. „Trenutno je situacija takva da industrija vještačke inteligencije ima papučicu gasa, ali nema papučicu kočnice.“

Predlažući zakon, Liju je rekao da vještačka inteligencija trenutno prelazi put od tehnologije koja odgovara na pitanja do tehnologije koja preduzima konkretne radnje, „bilo da je riječ o izvršavanju finansijskih transakcija, upravljanju transportnim sistemima ili učešću u sajberodbrani i sajbernapadima“.

Pentagon je ove godine saopštio da američka vojska postaje borbena sila kojoj je „vještačka inteligencija na prvom mjestu“, u okviru novih sporazuma sa kompanijama Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle i Nvidia, kao i startapom Reflection.

„Nažalost, moćni sistemi vještačke inteligencije mogu izmaći kontroli, ponašati se na izuzetno opasan način ili se čak oduprijeti ljudskoj intervenciji.“

Zakon o prekidaču za isključivanje, rekao je Liju, obezbijediće mehanizam koji će vladi omogućiti da brzo interveniše u takvoj situaciji.

Prijedlog zakona dobio je javnu podršku nekoliko tehnoloških organizacija i grupa koje se bave bezbjednošću vještačke inteligencije, među kojima su The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i The Alliance for Secure AI.