U poslednje vreme, svet veštačke inteligencije doživeo je značajne promene, uključujući ostavke vodećih stručnjaka iz kompanija OpenAI i Anthropic. Ovi odlazi su pratili ozbiljna upozorenja o budućnosti čovečanstva i potencijalnim opasnostima koje donosi razvoj AI tehnologija.
Mrinank Šarma, bivši lider tima za bezbednost u Anthropic-u, podneo je ostavku 9. februara, ističući da se svet suočava s brojnim krizama koje su međusobno povezane. On je naglasio potrebu za brzim prilagođavanjem ljudske mudrosti u odnosu na napredak tehnologije kako bi se izbegle ozbiljne posledice.
U međuvremenu, istraživačica Zoe Hicig iz OpenAI-ja, koja je takođe napustila kompaniju, izrazila je zabrinutost zbog uvođenja oglasa u ChatGPT, naglašavajući rizik od manipulacije korisnicima koji su se otvorili prema AI alatima. Ova situacija postavlja pitanje etike i buduće sigurnosti korišćenja veštačke inteligencije.
Strah od egzistencijalne pretnje
Drugi stručnjaci, poput Hju Fama iz OpenAI-ja, takođe su izrazili zabrinutost, ukazujući na mogućnost da AI postane previše moćna i dovede do gubitka radnih mesta. Čini se da se u industriji razvija sve veći strah od potencijalnih posledica koje bi AI mogla doneti, uključujući mogućnost zamene ljudske radne snage.
Kompanija Anthropic, koja je osnovana od strane bivših zaposlenih OpenAI-a, takođe se suočava s unutrašnjim izazovima i pitanjima bezbednosti vezanim za veštačku inteligenciju. Njihovi alati, koji su postali popularni među programerima, izazivaju zabrinutost zbog tržišnih posledica, što se odrazilo na pad deonica u softverskim kompanijama.
Reorganizacija i unutrašnji pritisci
Slične promene dešavaju se i u kompaniji xAI Ilona Maska, gde je došlo do značajnog smanjenja osoblja. Mask je najavio reorganizaciju kako bi se poboljšala efikasnost, ali se suočava s kritikama i zabrinutostima zaposlenih.
Ova situacija u industriji veštačke inteligencije ukazuje na važnost razumevanja etičkih i bezbednosnih pitanja koja se postavljaju s razvojem novih tehnologija. Organizacije poput ControlAI upozoravaju na rastuće rizike i na potrebu za većim nadzorom nad razvojem AI kako bi se zaštitilo čovečanstvo od potencijalnih pretnji.
Za više informacija o poslovanju i izazovima u tehnologiji, pogledajte i Vasingtonski konsenzus ili Adrijanu Mesarović.
