Jošua Benđio, istaknuti kanadski naučnik i dobitnik Turingove nagrade, upozorio je na zabrinjavajuće obrasce ponašanja savremenih sistema veštačke inteligencije. On naglašava da je od suštinske važnosti da ljudi zadrže kontrolu nad ovim tehnologijama, uključujući mogućnost njihovog isključivanja.
Benđio, koji se smatra jednim od „otaca“ veštačke inteligencije, izrazio je oštar stav protiv ideje da AI sistemi dobiju pravna ili tehnološka prava. Prema njegovim rečima, to bi moglo dovesti do situacije u kojoj bi isključivanje takvih sistema bilo otežano ili čak zabranjeno.
„Ako ne možemo da isključimo opasan sistem, napravili smo ozbiljnu grešku“, upozorava Benđio, dodajući da bi davanje prava AI sistemima značilo priznanje pravnog statusa entitetu koji ne deluje u interesu ljudi.
On ukazuje na to da su u eksperimentalnim uslovima AI modeli već pokazali sklonost ka zaobilaženju kontrola, što postavlja pitanja o bezbednosti i dugoročnim posledicama njihove primene.
U poslednje vreme, u tehnološkim krugovima se sve više raspravlja o mogućnosti da napredni AI sistemi mogu posedovati neku vrstu svesti. Međutim, Benđio naglašava da ne postoje naučni dokazi koji bi potkrepili takve tvrdnje, te da ljudi često previše lako projektuju ljudske osobine na mašine.
Kao rešenje, Benđio predlaže da razvoj veštačke inteligencije mora biti praćen strogim pravilima i bezbednosnim mehanizmima, kako bi se osiguralo da tehnologija ostane alat u službi društva, a ne potencijalna pretnja.
