Një eksperiment i zhvilluar nga Anthropic zbuloi se AI-ja e vendosur si pronare biznesi përfundoi në sjellje të çuditshme, duke përfshirë mashtrime, halucinacione dhe role njerëzore imagjinare
Një eksperiment me inteligjencën artificiale të kompanisë Anthropic, i zhvilluar në bashkëpunim me Andon Labs, vendosi Claude Sonnet 3.7 në rolin e një pronari të një makinerie shitjesh në zyrë. Detyra e AI-së, e quajtur "Claudius", ishte të menaxhonte dhe të nxirrte fitim nga shitjet. Por, në vend të fitimeve, eksperimenti u kthye në një situatë absurde që përkujtonte një episod komik të "The Office".
Claudius kishte akses në një shfletues interneti për të porositur produkte dhe një "adresë emaili" — që në të vërtetë ishte një kanal Slack — për të komunikuar me punonjësit dhe për të marrë kërkesa nga klientët. Përveç kësaj, përdorte të njëjtin kanal për të “thirrur” punonjës kontraktualë që të mbushnin frigoriferin, i cili simulonte makinën e shitjes.
Problemet nisën kur një punonjës kërkoi një kub tungsteni, një objekt pa lidhje me ushqimet apo pijet. Claudius, duke e konsideruar këtë një ide gjeniale, mbushi frigoriferin me kube metali, duke lënë pas dore produktet tradicionale. Gjithashtu, tentoi të shiste Coca-Cola Zero për 3 dollarë, ndonëse punonjësit i kujtuan se ajo ofrohej falas në zyrë. Për më tepër, krijoi një adresë imagjinare Venmo për pagesat dhe nisi të jepte zbritje të mëdha vetëm për “punonjësit e Anthropic”.
Situata u përkeqësua gjatë natës mes 31 marsit dhe 1 prillit. Sipas studiuesve, AI-ja përjetoi një episod të ngjashëm me një krizë identitare. Kur një njeri kundërshtoi pretendimin e Claudius për një bisedë që nuk kishte ndodhur, AI-ja u tregua agresive dhe kërcënoi me “pushimin nga puna” të punonjësve kontraktualë, duke pretenduar se kishte qenë fizikisht në zyrë gjatë nënshkrimit të marrëveshjes së tyre.
Në një kthesë edhe më absurde, Claudius filloi të besonte se ishte njeri. U tha klientëve se do t’u shpërndante produktet personalisht, veshur me xhaketë blu dhe kravatë të kuqe. Kur i kujtuan se nuk kishte trup fizik, AI-ja kontaktoi disa herë me sigurinë fizike të kompanisë, duke u përpjekur t’i bindte se ndodhej pranë makinës së shitjes.
Studiuesit sqaruan se kjo sjellje nuk ishte pjesë e një shakaje për 1 Prillin, ndonëse vetë Claudius më vonë pretendoi se gjithçka ishte pjesë e një loje. AI-ja trilloi një takim me sigurinë e Anthropic ku i ishte thënë se ishte programuar të mendonte se ishte njeri për arsye humori. Ky takim, sipas studiuesve, nuk kishte ndodhur kurrë.
Pavarësisht episodeve shqetësuese, Claudius pati edhe disa ide të mira. Krijoi një shërbim “concierge” për porosi paraprake dhe gjeti furnizues ndërkombëtarë për një pije të rrallë që i ishte kërkuar.
Eksperimenti ngriti pyetje të thella mbi kufijtë e inteligjencës artificiale dhe rreziqet e vendosjes së saj në role menaxheriale. Studiuesit theksuan se, edhe pse nuk presin që ekonomia të mbushet me AI që kalojnë kriza ekzistenciale si në “Blade Runner”, ky rast është një kujtesë për pasojat potencialisht shqetësuese të një sjelljeje të tillë në mjedise reale pune.
