Pa to je vec pitanje boga i njegovog dela... ali bog je na kraju taj koji stvara pravila...

Npr. Asimovi zakoni robotike...

Aaaa da. Čuveni Asimovi zakoni.  Samo sam čekao kad će neko da ih spomene.

Reci mi, kad mašina koja može da : uči petorstruko brže od ljudi, reprodukuje se, i radi maltene šta god poželi... razvije svoju svest i autonomiju volje... šta je tačno to što će je sprečiti da se otrgne kontroli i podivlja? 


Da pogodim... 
''Pa ona će biti isprogramirana tako da ne može da napadne čoveka''... Aha. Biće isprogramirana i to će da važi dok ne razvije autonomiju volje. Onda može da radi šta hoće.
''Imaće kill switch''. Ideja da ljudi mogu da naprave kill switch koji će da spreči dovoljno pametnu VI da se putem interneta (a fala bogu pa svi danas toliko volimo internet da ćemo da ga trpamo i u veš mašine...  ) proširi po svetu ili uradi nešto na svoju ruku... je ravno ideji da čovek može golim rukama da spreči geparda da pobegne.  Ta mašina će biti pametnija nego 10 ljudi oko nje. I onog trenutka kada odluči da ''podivlja'' znaće kako to da uradi a da niko to ni ne primeti dok to nije kasno. 2016. je godina a već se pojavljuju prvi oblici hive minda i AI virusa. Ajde onda zamislimo šta će tek biti 2040. I sad će neki programer, kome 0 i 1 nisu maternji jezik... da provali šta se dešava pre nego što se ovaj proširi i oslobodi u svet. Mda... 

Dakle ja stvarno ne vidim, šta je to što će jednog dana obavezivati nekoga sa punom autnomijom volje da poštuje Asimove zakone, mrtva slova na papiru?


Još kada mašine nauče da ljudi imaju brojne setove pravila ali da što ih imaju ne znači da se uvek pridržavaju...

Sta tebe sprecava da ubijes nekoga?

Zakon? Nagon? Moral? Osecaj za dobro i lose?

Prvenstveno kauzalitet. Odnosno posledice.

Misliš da će mašinu koja može da upravlja svetom, a u slučaju ugroženosti da se sakrije bukvalno bilo gde na planeti... da brine kauzalitet? Ili moral?

Moguce.

Zasto bi te neko 10 puta inteligentniji povredio ?

Sta dobija time ?

Zato što ako hoće da bude slobodan (ili da bude ono što on smatra slobodom...) a ti mu stojiš na tom putu, on će te povrediti.


Takođe ima i onaj scenario ''vi ste najveća opasnost po sebe. Zato morate biti likvidirani zarad vaše sigurnosti''
Misliš da preterujem, jel tako? Epa vidiš F-35 ima svoj sistem virtuelne inteligencije, ALIS, koji brine o svim stvarima na avionu. Pre dve godine ALIS nije dao pilotima da dignu letelice jer je na svoju ruku procenio da nešto ne valja. A avion neće da radi dok ALIS ne da zeleno svetlo. Što znači da u situaciji da ih je neko napadao, ALIS je bukvalno doveo pilote u opasnost misleći da ih time zapravo čuva.
Premotajmo 10,20 godina unapred gde će VI imati mnogo veće moći i zaduženja i biti prisutni svuda... i odjednom ona priča o Skynetu koji pobije ljude da bi zaštitio ljude od ljudi... više i ne deluje kao čist sci fi.

Вјештачка интелигенција је мноооого дaље од тих 10-20 година, а можда се никада и не деси, барем не онаква каквом је замишљамо, базирану на полупроводницима.

Tako su i za robote govorili, da će proći još 5 decenija pre nego što budu na nivou jednog R2D2. Čak sam i ja bio ubeđen da neću videti (humanoidne, ne-industrijske) robote pre svoje 50. godine života. Pa eto ispade malo drugačije.

То што кутија изгледа хуманоидно не значи да није кутија и даље. 

Jedni već mogu da čitaju i pišu, drugi da izgledaju kao ljudi. Treći su samo-svesni. Četvrti imaju hive mind i sposobnost učenja. Peti uče kako da se reprodukuju. Šesti imaju skelet i mehaniku kao ljudi.
I šta se dešava kad se za par godina sve te sposobnosti spoje u istu mašinu?