Budućnost| Društvo| IT| Nauka| Tehnologija

Treba li nam veštačka inteligencija?

Dragan Pleskonjic RSS / 14.11.2010. u 14:49

Nakon tri sata igranja, svetski šahovski prvak Gari Kasparov izgubio je prvu od šest partija u meču protiv IBM-ovog kompjutera Deep Blue 10. februara 1996. godine. Ovaj događaj je (ponovo) otvorio mnoga pitanja i dileme. Da li postoji veštačka inteligencija (engl. Artificial Intelligence - AI) tj. da li je ona stvarno moguća? Pitanje koje muči generacije računarskih i drugih naučnika. A ako je moguća, da li nam treba? Da li, osim što može biti korisna, može postati i opasna? Pitanje se, na prvi pogled, doima kao tehničko, ali istovremeno ima vrlo značajne društvene, etičke, religijske, pravne i druge aspekte. Da li, u budućnosti, inteligentne mašine mogu biti zloupotrebljene ili čak nadvladati i pokoriti čovečanstvo?

Odavno se lome koplja u naučnom svetu oko toga da li je veštačka inteligencija moguća. Da li mašine (računari) mogu da misle, donose odluke, opažaju, interaguju sa okolinom? A postoje neslaganja i oko bazične stvari: šta je to veštačka inteligencija u suštini tj. kako je precizno definisati.

AI-brain.jpg

 Računari igraju šah i pobeđuju svetske šampione

Igrati šah sa računarom zna da bude zabavno. Lepo je dok računar gubi od Vas, ali stvari se menjaju kad počne da Vas pobeđuje. Ne možete da ga provocirate, ne gubi živce usled nervoze i ledeno je hladan i precizan. Spadaju li ovakvi šahovski programi u nešto što ima veštačku inteligenciju? Da li to zaista mašine umeju da razmišljaju, da li mašine mogu da uče? Izgleda da je odgovor na prethodna pitanja: da ili možda. Računari i računarski programi već odavno mogu da pobede i najjače šahiste sveta.

deep-blue-kasparov.jpg

U trenutku pobede nad Kasparovim, Deep Blue je bio sposoban da proceni 200 miliona poteza u sekundi. To je, po nekima, samo brutalna računarska snaga. Ipak, Kasparov je, na kraju, u borbi protiv mašine izašao kao pobednik. Pobedio je u tri partije, a dve su završene remijima. Odneo je nagradu od 400.000 dolara nakon događaja koji je, prema procenama, preko Interneta pratilo šest miliona ljudi.

Takmičenje iz februara 1996. godine je značajno zbog toga što su čovek i računar prvi put igrali standardni meč koji se sastojao od šest partija i po pravilima prema kojima je svaki igrač imao dva sata da povuče 40 poteza, dva sata da završi sljdećih 20 poteza, a zatim 60 minuta da okonča partiju.

11. maja 1997. godine, Kasparov je odigrao revanš protiv poboljšane verzije Deep Bluea. Pobedio je u prvoj partiji, računa u drugoj, a sledeće tri su završene remijima. Deep Blue ga je nadmašio pobedivši u šestoj partiji, koja mu je donela i nagradu od 700.000 dolara.

Kasparov se 2003. godine borio protiv računarskog programa nazvanog Deep Junior, a taj susret je završen nerešeno.

Pogledajte kratak i interesantan video na temu How Computer Chess Changed Programming - It changed how we program and think about the human brain.

Šta je veštačka inteligencija?

Veštačka inteligencija u računarskom svetu označava oponašanje ljudskog procesa razmišljanja. Cilj primene veštačke inteligencije u različitim računarski baziranim sistemima jeste da se automatizuje proces korelacije, koju inače ljudski mozak može veoma dobro da obavi.

Kada se govori o ovoj tematici, treba pomenuti razliku između takozvane "jake" i "slabe veštačke inteligencije", koju je prema postojećim izvorima, definisao Mark Kantrowitz sa univerziteta Carnegie Mellon:

• Jaka veštačka inteligencija (engl. strong AI) - Tvrdnja da računari mogu da razmišljaju upravo kao ljudi. Tačnije, tvrdnja da može postojati takva klasa računarskih programa da njihova implementacija zaista razmišlja.

• Slaba veštačka inteligencija (engl. weak AI) - Tvrdnja da su računari važni alati u modelovanju simulacije ljudske aktivnosti.

Međutim, za veštačku inteligenciju, jedna od važnih lekcija je da ne morate baš da sledite ono što ljudski mozak radi. Nekad je bolje slediti ono u čemu su računari dobri, a to je da oni mogu da obrade veliku količinu informacija u kratkom vremenu. Takođe, drugi kažu: sve je u imaginaciji.

Ako posmatramo realizacije, možemo pomenuti sledeće vrste:

Ekspertni sistemi (engl. expert systems)

Fazi logika (engl. fuzzy logic)

Neuralne mreže (engl. neural networks)

Više detalja o principima i načinima realizacije vidite na priloženim linkovima ili pitajte Google (ako vas uopšte zanima) - ima dosta matematike i nauke u svemu tome, pa ko voli, nek izvoli... ;-)

Inače gornja razlika između „jake" i „slabe" veštačke inteligencije smešta ekspertne sisteme i statističke metode u kategoriju slabih AI (sistema "slabe" veštačke inteligencije). Neuralne mreže su najbolji kandidat za jake AI (sisteme "jake" veštačke inteligencije).

280674-33626-20.jpg

Kao što primećujete, sam pokušaj definisanja veštačke inteligencije nije lak zadatak. Šta je to što razlikuje „prirodnu" inteligenciju od veštačke? Jedna od najednostavnijih definicija veštačke inteligencije kaže: veštačka inteligencija je naučna oblast u kojoj se istražuje kako da se naprave računari (mašine, sistemi) koji bi uspešno radili stvari koje u ovom momentu bolje rade ljudi. Termin veštačka inteligencija (engl. artificial intelligence) potiče od Džona Makartija (John McCarty). Mnogi autori se ne slažu da termin veštačka inteligencija najbolje opisuje ovu naučnu oblast. Mnoge oblasti informatike u osnovi imaju inteligentno ponašanje, ali ne pripadaju veštačkoj inteligenciji u užem smislu.

Ovo područje je bilo vrlo aktuelno osamdesetih godina prošlog veka. Bilo je mnogo obećanja i verovanja o skorom dolasku inteligentnih sistema u mnogim oblastima ljudskog života, koja nisu urodila plodom iz raznoraznih razloga. To je tipičan raskorak između očekivanja i mogućnosti, koji je rezultirao nekom vrstom razočarenja i sumnje. Rezultat je bio da se područje AI nekako stavilo u stranu i skoro deceniju, ako ne i više, nije baš bilo previše eksploatisano ni medijski, a ni u naučnim krugovima. Izgledalo je kao da se bilo odustalo od veštačke inteligencije. Danas se ovo područje opet intenzivno zahuktava.

Dva glavna pravca razvoja veštačke inteligencije jesu proučavanje prirodne inteligencije (spoznavanje funkcija mozga, modelovanje rada mozga i nervnog sistema, simuliranje čovekovog ponašanja, reagovanja i rezonovanja) i postizanje inteligentnog ponašanja primenom drugačijih pristupa, kakvi se ne mogu sresti u prirodnim sistemima.

neuralNetwork.gif 

Danas postoje realizovani sistemi koji su u stanju da autonomno obavljaju složene funkcije i rešavaju probleme, kakve su raije jedino ljudi bili u stanju da obavljaju. Nije redak slučaj da takvi sistemi obavljaju te zadatke i daleko uspešnije od ljudi. Prema samom pristupu rešavanja problema, veštačka inteligencija se može podeliti na neuralne mreže, modelovanje evolucije (razvoja) i heurističko programiranje. Prema vrsti rešavanja problema, veštačku inteligenciju možemo podeliti na: sisteme za rešavanje čovekovih uobičajenih zadataka (prepoznavanje slika i govora, snalaženje u svakodnevnim situacijama), sisteme za rešavanje formalnih zadataka (matematička logika), sisteme za rešavanje ekspertnih zadataka (nalaženje grešaka, dijagnostika). Tehnike koje pripadaju veštačkoj inteligenciji morale bi da koriste znanja organizovana tako da omogućavaju: generalizaciju (uopštavanje), predstavljanje u obliku razumljivom ljudima i preslikavanje u takav oblik, lako modifikovanje, korišćenje nekompletnih informacija, smanjenje broja mogućnosti koje bi inače morale da se razmatraju (heuristike).

Postoje mnogi primeri mogućih primena veštačke inteligencije, kao što su: prepoznavanje oblika, rukopisa, govora, otkrivanje upada u sisteme i prevara (engl. fraud), finansijske i ekonomske modele, predviđanje kretanja cena na tržištu, upravljanje sistemima, upravljanje proizvodnim procesima, analizu električnih kola, psihijatrijske procene, kompresovanje podataka, naftna istraživanja, analizu medicinskih testova, ispitivanje EEG i EKG signala, pronalaženje optimalnog rešenja, upravljanje robotima, vremensku prognozu i u drugima oblastima.

Dileme

robosaurus_wideweb__430x279.jpg 

Istraživanja i primene veštačke inteligencije otvaraju mnoga tehnička pitanja, ali takođe i mnoge društvene i etičke dileme. Šta recimo ako neko odluči da napravi „veštačke vojnike" i pošalje ih da ratuju i uništavaju? Šta ako se veštačke mašine jednom otrgnu od ljudske kontrole i zavladaju svetom? Da li čovečanstvo može sebe da uništi na ovaj način?

Generalni stav jeste da nikakva nauka i tehnologija, sama po sebi nije zla i zlonamerna u suštini. Međutim, primene mogu biti i dobronamerne i zlonamerne. Tako je sa dinamitom, barutom, nukleranom energijom. Izgleda da će slična dilema i fama pratiti i sisteme za veštačkom inteligencijom (ako ih ima ili ako ih bude, zavisi kako gledate na stvari).

Gde je ta tanka granica između korisnosti i straha od zloupotrebe?

Šta vi mislite: Treba li čovečanstvu veštačka inteligencija? Koliko je ona korisna? Da li i koliko može biti opasna?


Napomena: U nekom od sledećih blogova, možda ću se baviti pitanjem odnosa veštačke inteligencije i zaštite i bezbednosti računarskih i informacionih sistema i mojim istraživanjima u toj oblasti.



Komentari (218)

Komentare je moguće postavljati samo u prvih 7 dana, nakon čega se blog automatski zaključava

BebaOdLonchara BebaOdLonchara 14:57 14.11.2010

treba nam!

ja ovako, na neviđeno, čitam tekst kasnije

nsarski nsarski 15:17 14.11.2010

Re: treba nam!

Da, treba nam, jer u ovoj prirodnoj hronicno oskudevamo.

Dragan Pleskonjic Dragan Pleskonjic 15:31 14.11.2010

Re: treba nam!

Da, treba nam, jer u ovoj prirodnoj hronicno oskudevamo.


Izgleda da je velika oskudica, ali se niko ne žali. Kažu da je inteligencija jedan od najpravednije raspoređenih resursa. Malo ko (ako iko) se žali da je nije dobio dovoljno, kad je deljena.
myredneckself myredneckself 15:49 14.11.2010

Re: treba nam!

Treba li čovečanstvu veštačka inteligencija? Koliko je ona korisna? Da li i koliko može biti opasna?

Gde je ta tanka granica između korisnosti i straha od zloupotrebe?

Doklegod služi svim ljudima u upravljanju proizvodnim procesima, ekonomiji, nauci, i dr. sve je u redu.
Ali ako se pelcuje od ljudi, i poprimi i pokaže ljudske motivacione tendencije, biće gusto
Preporuka za lepe i korisne tekstove
gorran2 gorran2 16:18 14.11.2010

Re: treba nam!

Doklegod služi svim ljudima u upravljanju proizvodnim procesima, ekonomiji, nauci, i dr. sve je u redu.

Zavi od toga čemu služe svi ljudi i njihovi proizvodn procesi...
Stvarno, zna li neko čemu služe?
Ljudi, mislim
Dragan Pleskonjic Dragan Pleskonjic 16:35 14.11.2010

Re: treba nam!

Stvarno, zna li neko čemu služe?
Ljudi, mislim


Pa to je prilično jasno: ljudi služe drugim ljudima.

Ili bogu.
gorran2 gorran2 16:39 14.11.2010

Re: treba nam!

Pa to je prilično jasno: ljudi služe drugim ljudima.
Ili bogu.

Ili nečem trećem.

Kao što je jasno i šta je inteligencija. Jedna definicija glasei "inteligencija je ono što mere testovi inteligencije"
Dragan Pleskonjic Dragan Pleskonjic 16:42 14.11.2010

Re: treba nam!

gorran2
...
Ili nečem trećem.


Da, od Feničana naovamo i nečem trećem.

Jesu li ono Feničani izmislili novac?
myredneckself myredneckself 16:46 14.11.2010

Re: treba nam!

Zavi od toga čemu služe svi ljudi i njihovi proizvodn procesi...Stvarno, zna li neko čemu služe?




Gorane, hvala na pitanju, opaski
Sad sam se setila da postoje ljudi koji proizvode te pametne bombe, bacaju ih na druge ljude i ubijaju slučajne prolaznike
Dakle, u svaku veštačku inteligenciju obavezno ugraditi i malo ljudskosti, i morala
nsarski nsarski 17:18 14.11.2010

Re: treba nam!

Kažu da je inteligencija jedan od najpravednije raspoređenih resursa. Malo ko (ako iko) se žali da je nije dobio dovoljno, kad je deljena

Ma, da. Malo sam se nasalio. I, zapravo, im'o bi' ja stogod kasti o ovome, ali ne postizavam. Ubrzo cu...
Odlican ti je post, btw. Od li can.
Unfuckable Unfuckable 18:39 14.11.2010

Re: treba nam!

Kažu da je inteligencija jedan od najpravednije raspoređenih resursa. Malo ko (ako iko) se žali da je nije dobio dovoljno, kad je deljena


Da ybt - ljudi će pre da se bune kako je Tvorac zabušavao pri deljenju lepote, kovrdžave/ravne kose, visine, santimetara tu i tamo... sluha...samo se za inteligenciju niko ne buni - dakle svakome je udeljeno baš onoliko koliko mu treba, to je slatko.
loader loader 23:02 14.11.2010

Re: treba nam!

Pazite - dok mi razgovaramo treba li nam veštačka inteligencija - računari pomoću kojih sada diskutujemo sve to osluškuju ! ..

Dragan Pleskonjic Dragan Pleskonjic 23:32 14.11.2010

Re: treba nam!

nsarski

Ma, da. Malo sam se nasalio. I, zapravo, im'o bi' ja stogod kasti o ovome, ali ne postizavam. Ubrzo cu...
Odlican ti je post, btw. Od li can.


Hvala puno. Pohvala godi.
wukadin wukadin 11:24 16.11.2010

Re: treba nam!

Dakle, u svaku veštačku inteligenciju obavezno ugraditi i malo ljudskosti, i morala


Pa da onda roboti proizvode te pametne bombe, bacaju ih na druge (robote ili) ljude i ubijaju slučajne prolaznike
docsumann docsumann 15:16 14.11.2010

?

Treba li čovečanstvu veštačka inteligencija? Koliko je ona korisna? Da li i koliko može biti opasna?


Ne mogu da se sjetim ni jednog SF filma, stripa ili knjige u kojoj je opisana
superrazvijena vještačka inteligencija budućnosti, a koja nema pogubne posljedice po čovjeka.



Po meni je sasvim moguć i obrnut scenario. Društvo kontrolisano (ili bolje reći logistički podržano) od strane moćne vještačke inteligencije, koja u potpunosti razumje ljudsko poimanje moralnosti i pravičnosti, moglo bi da se izvuče sa ove ove istorijsko-civilizacijske stranputice koja čovječanstvo neprestano uvlači u konfliktne situacije, krize, ratove, ekonomsku eksploataciju.

Ponekad mi se učini da su iz opisane situacije mogući samo alternativni, "pobočni" izlazi. VI bi mogla biti jedan od njih.
Dragan Pleskonjic Dragan Pleskonjic 15:28 14.11.2010

Re: ?

Da, mislim da se veštačka inteligencija može vrlo korisno primeniti za odbranu. Već nekoo vreme se bavim istraživanjima u oblasti sistema za otkrivanje i zaštitu od upada u računarske sisteme i mreže koji bi trebali da je koriste. Na linku koji sledi ima više o radovima na temu Wireless Intrusion Detection and Prevention Systems.
BebaOdLonchara BebaOdLonchara 15:37 14.11.2010

Re: ?

koja u potpunosti razumje ljudsko poimanje moralnosti i pravičnosti

istorijsko-civilizacijske stranputice koja čovječanstvo neprestano uvlači u konfliktne situacije, krize, ratove, ekonomsku eksploataciju.

Ne mogu da se sjetim ni jednog SF filma, stripa ili knjige u kojoj je opisana
superrazvijena vještačka inteligencija budućnosti, a koja nema pogubne posljedice po čovjeka.

A.I. tu čovek ispada najgori skot prema androidima koje je čak naučio i da ih bezuslovno vole do kraja svog života.
maksa83 maksa83 15:47 14.11.2010

Re: ?

Ne mogu da se sjetim ni jednog SF filma, stripa ili knjige u kojoj je opisana
superrazvijena vještačka inteligencija budućnosti, a koja nema pogubne posljedice po čovjeka.

Hiperion/Endemion.

Ko nije čitao a misli da čita, nek' preskoči pasus koji sledi, spoiler ahead:

Genetski algoritam je postao svestan, ljudi su krenuli da se zezaju sa nečim tipa LHC i AI ih je spasla od "Velike Greške".

Kada se zatvori ceo krug Asimovovih Zadužbina i onih što su pisali posle njega vidi se da je zapravo AI pomogla Hariju Seldonu da iznedri svoju nauku i tako da čovečanstvu novi zamajac.
docsumann docsumann 16:48 14.11.2010

Re: ?

BebaOdLonchara
koja u potpunosti razumje ljudsko poimanje moralnosti i pravičnosti

istorijsko-civilizacijske stranputice koja čovječanstvo neprestano uvlači u konfliktne situacije, krize, ratove, ekonomsku eksploataciju.



Pa, mislim da bi taj vještački um morao da ima ugrađen osjećaj za ljudske ideale, koji uopšte ne moraju biti univerzalni (pitanje je da li bi on sam mogao da stvori predstavu o istima).
Možda se oni u budućnosti budu i mjenjali, ali bi među ljudima morao postojati neki šire prihvaćeni sistem vrijednosti na osnovu kojeg bi se zasnivala uloga V.I. u društvenim procesima.

Misliš da nismo na stranputici?

Čini mi se da si negdje ranije na blogu izrazito pesimistički komentarisala perspektive ljudske civilizacije.
docsumann docsumann 16:55 14.11.2010

Re: ?

Hiperion/Endemion.


nisam čitao

ali jasno je da su neki SF autori "razradili" i tu temu.
dolybell92 dolybell92 22:33 14.11.2010

Re: ?

Ne mogu da se sjetim ni jednog SF filma, stripa ili knjige u kojoj je opisana
superrazvijena vještačka inteligencija budućnosti, a koja nema pogubne posljedice po čovjeka.


To je stoga što se tu ne radi u suštini o
vlasti veštačke inteligencije već o
čovekovom upravljanju veštačkom inteligencijom,
a što podrazumeva da je čovek na višem nivou od iste,
jer se podrazumeva da ju je on i stvorio.
Međutim, prava veštačka inteligencija mora biti
samostalna i slobodna i sposobna da stvara
novu veštačku inteligenciju samostalno, npr...

Jednom realno stvorena (uslovno govoreći)
postaje samim tim i nepredvidiva... te da li će
biti pozitivna ili negativna po čoveka -
ne može se predvideti, takođe.
petar_p petar_p 22:35 14.11.2010

Re: ?

screenshot iz matrixa me podsetio na ovaj video...
docsumann docsumann 00:45 15.11.2010

Re: ?

Jednom realno stvorena (uslovno govoreći)
postaje samim tim i nepredvidiva... te da li će
biti pozitivna ili negativna po čoveka -
ne može se predvideti, takođe.


Pa o tome sam nešto i nabacio u smislu da ta VI mora da ima pozitivnu percepciju ljudke vrste, ljudskih moralnih načela i da imajući prevashodno njih u fokusu, koriguje društvene aktivnosti, preduprjeđuje nezakonita poslovanja, lihvarenje, nelegalne dilove, ekonomsko eksploatisanje i sl.
Bio bi to preko potreban faktor društvene regulative, koji bi insistirao u svojim proračunima i djelovanju na "pravičnost" ekonomskih aranžmana, socijalne politike, političkih odluka uopšte, upravljanja oružanim snagama i sl.
Pretpostavljam da bi kao takav imao mnogo neprijatelja među moćnicima, ali bitno je da njegova posljednja u odlučivanju i sprovođenju odluka.

Takođe zaista inteligentana VI mogla bi vrlo lako da stekne negativno mišljenje o ljudskom rodu i da se vremenom postavi skroz neprijateljski naspram naše civilizacije.
gorran2 gorran2 01:31 15.11.2010

Re: ?

Ne mogu da se sjetim ni jednog SF filma, stripa ili knjige u kojoj je opisana superrazvijena vještačka inteligencija budućnosti, a koja nema pogubne posljedice po čovjeka.

Kao što je AI ekstenzija čovekove, tako je i njen pogubni uticaj na čoveka ekstenzija čovekovog pogubnog uticaja na samog sebe.

Inače, da ne ispadne da samo ti imaš teorije, napomenuću da i ja imam "teoriju" o unutrašnjosj samoprotivrečnosti ideje čoveka, iz koje nužno sledi njegova samodestruktivnost, i samouništenje.
dolybell92 dolybell92 02:39 15.11.2010

Re: ?

Takođe zaista inteligentana VI mogla bi vrlo lako da stekne negativno mišljenje o ljudskom rodu i da se vremenom postavi skroz neprijateljski naspram naše civilizacije.


Zaboravila sam nešto veoma bitno...
a to je da VI ne znači automatski veću
inteligenciju...uopšteno
Separatno, po oblastima koje bi joj bile
namenjene, verovatno da (kao ovaj primer
sa šahovskom...)
Vrlo kompleksno i intrigantno pitanje...
maksa83 maksa83 02:53 15.11.2010

Re: ?

Zaboravila sam nešto veoma bitno...
a to je da VI ne znači automatski veću
inteligenciju...uopšteno
Separatno, po oblastima koje bi joj bile
namenjene, verovatno da (kao ovaj primer
sa šahovskom...)
Vrlo kompleksno i intrigantno pitanje


Pa da (kao i (skoro) uvek) - pola problema je u definiciji koja je plutajuća.

U praktičnom kontekstu i ljudska inteligencija je izdiferencirana (analitička, verbalna, emotivna, motorička...).

Više uopšte nije problem napraviti softver koji će da prešiša čoveka u pojedinim oblastima (npr. od bazičnih stvari tvoj spam filter koji radi na Bayesian networks prepoznaje spam mnogo brže od tebe).

Ono što je Sveti Gral celog pokreta je - svest.
Covek u belom Covek u belom 03:11 15.11.2010

Re: ?

maksa83
Više uopšte nije problem napraviti softver koji će da prešiša čoveka u pojedinim oblastima (npr. od bazičnih stvari tvoj spam filter koji radi na Bayesian networks prepoznaje spam mnogo brže od tebe).

Brze sigurno, ali bolje ne.
Ti sam imas mozda 0.001% false positive (realniji je neki broj sa mnogo vise nula, gde konacan broj iza nula reflektuje stanje teskog alkoholizma npr. :)), a tesko da ima spam filtar koji je bolji od 0.1%.
docsumann docsumann 06:07 15.11.2010

Re: ?

Inače, da ne ispadne da samo ti imaš teorije, napomenuću da i ja imam "teoriju" o unutrašnjosj samoprotivrečnosti ideje čoveka, iz koje nužno sledi njegova samodestruktivnost, i samouništenje.


Slažem sem, ali postoji i mogućnost da se ta unutrašnja smoprotivrječnost prevaziđe (prvenstveno) duhovnim razvojem, tj unutrašnjim putem.

Samouništenje nije nešto što se ne može izbjegnuti.

Čovjek je ključ za mnoga vrata ...
docsumann docsumann 06:09 15.11.2010

Re: ?

Ono što je Sveti Gral celog pokreta je - svest.


i samosvjest
maksa83 maksa83 10:05 15.11.2010

Re: ?

Ti sam imas mozda 0.001% false positive (realniji je neki broj sa mnogo vise nula, gde konacan broj iza nula reflektuje stanje teskog alkoholizma npr. :)), a tesko da ima spam filtar koji je bolji od 0.1%.

Meni je njegov hit rejt dovoljno dobar, ne sećam se da me ikad neki false positive skrljao tj. da sam propustio neki bitan mejl zato što je spam filter "ubio pogrešnog čoveka". Alternativa da ja prolazim kroz sve njih i radim tu trijažu peške me apsolutno užasava, prosto nije realna, a njegov procenat šuta me potpuno fascinira.


P.S. (PDF ahead) The Spam Filtering Plateau at 99.9% Accuracy And How To Get Past It.
dolybell92 dolybell92 11:29 15.11.2010

Re: ?

Ono što je Sveti Gral celog pokreta je - svest.


Pa da, zato i govorimo samo o veštačkoj inteligenciji...
kojoj se svest ne može usaditi... svest bi morala sama da proizađe

Dawngreeter Dawngreeter 12:25 15.11.2010

Re: ?

maksa83
Ono što je Sveti Gral celog pokreta je - svest.


Njah. Meni se cini da je svest samo neki mistifikovani naziv za odredjeni stepen rekurzije.
wukadin wukadin 11:32 16.11.2010

Re: ?

@docsuman
Pročitaj Zlatno doba, ako te zanima. Džon Rajt je pisac, ako se ne varam. Vrhunska utopija virtuelnog i artificijelnog sveta sve sa sofotesima koji su kao ljudi, samo milion, milijardu puta pametniji. Pa opet sa prizvukom antiutopije. Dileme su razrešene na, pomeni, veoma prostački način. Pojavljuje se "zli sofoteh" sa svojom logikom iracionalnosti, i odgovarajućom matematikom, koja inača odgovara svemiru. Sakriven u crnoj rupi i slično... Argumenti su mu logičniji od racionalnih, jer što reče Vladušić u Forwardu - zlo kad progovori je manje zlo. I onda je praktično dektretom pisca pobeđen, artificejlni ljudsko-sofoteški svet se definiše kao jedino ispravan, a utopija ostaje samo utopija uz dosadan kraj. Razočaravajuće, ali vredi pročitati zbog početka i sredine.
docsumann docsumann 16:39 16.11.2010

Re: ?

@wukadin

hvala za preporuku
Dragan Pleskonjic Dragan Pleskonjic 18:10 17.11.2010

Re: ?

Dawngreeter
Njah. Meni se cini da je svest samo neki mistifikovani naziv za odredjeni stepen rekurzije.


Da li mozeš ovo malo detaljnije da objasniš? Zvuči interesantno.
jesen92 jesen92 15:36 14.11.2010

vestacka inteligencija

..ja mislim da nam ne treba ako ne moze da se kontrolise...nekako, ovo igranje saha mi je pomalo besmisleno...nije Kasparov igrao protiv kompa vec protiv nekog programa koji omogucava prepoznavanje 200 miliona poteza u sekundi sto ni jedan covek ne moze ali je neki covek napravio taj program...ja to tako shvatam...prakticno Kasparov je testirao sebe i za mene on je pobednik kako god okrenes...
Dragan Pleskonjic Dragan Pleskonjic 16:38 14.11.2010

Re: vestacka inteligencija

jesen92
..200 miliona poteza u sekundi sto ni jedan covek ne moze ali je neki covek napravio taj program...


To jeste brutalna računarska snaga, ali nije baš takva da se ispitivao svaki mogući potez već je postajao "inteligentni izbor" poteza koji se proveravaju u, ipak, ograničenom vremenu za šahovsku partiju.
babmilos babmilos 22:44 14.11.2010

Re: vestacka inteligencija

jesen92
Kasparov je testirao sebe i za mene on je pobednik kako god okrenes...

ovaj... šah je veoma čudna igra... u njoj nema ni zrnca sreće, ničega skrivenog. nema loptica koje kače mrežu, skrivenih karata, sudijskog uverenja.(ničeg suludijeg nema nego staviti mašinu za igranje šaha u kazino). UVEK pobeđuje bolji. ako je (a jeste) kasparov izgubio, ne može nikako biti pobednik.
Covek u belom Covek u belom 00:07 15.11.2010

Re: vestacka inteligencija

Dragan Pleskonjic
To jeste brutalna računarska snaga, ali nije baš takva da se ispitivao svaki mogući potez već je postajao "inteligentni izbor" poteza koji se proveravaju u, ipak, ograničenom vremenu za šahovsku partiju.

Inteligentan izbor bas i nije nesto inteligentan. Sva "inteligencija" se svodi na sortiranje poteza po vrednosti, jako uproscenu evaluaciju i pretragu stabla po alfa-beta algoritmu. Snaga se ogleda u selektivnosti poteza, tj. da se sa sto manjom greskom u svakom cvoru stabla sto veci broj poteza eliminse iz dalje pretrage.
Greska koja se cesto ponavlja kod laika je da je kompjuterski sah primer vestacke inteligencije. Kompjuterski sah nema veze sa vestackom inteligencijom. U pitanju je najobicniji algoritam i to jos potpuno deterministicki.

Dragan Pleskonjic Dragan Pleskonjic 13:45 15.11.2010

Re: vestacka inteligencija

Šahovski programi su primer koji je ovde zgodno poslužio kao šlagvort. Inače, bilo je nekoliko pokušaja da se u takve programe ugradi "prava" veštačka intelgencija, ali... sa ne baš previše uspeha. Za Deep Blue je interesantan upravo citat sa IBM-ovog sajta:

"Does Deep Blue use artificial intelligence?

The short answer is "no." Earlier computer designs that tried to mimic human thinking weren't very good at it. No formula exists for intuition. So Deep Blue's designers have gone "back to the future." Deep Blue relies more on computational power and a simpler search and evaluation function.

The long answer is "no." "Artificial Intelligence" is more successful in science fiction than it is here on earth, and you don't have to be Isaac Asimov to know why it's hard to design a machine to mimic a process we don't understand very well to begin with. How we think is a question without an answer. Deep Blue could never be a HAL-2000 if it tried. Nor would it occur to Deep Blue to "try."


Evo i zvaničnog IBM-ovog izvora na tu temu ovde.

jesen92 jesen92 17:05 15.11.2010

Re: vestacka inteligencija

To jeste brutalna računarska snaga, ali nije baš takva da se ispitivao svaki mogući potez već je postajao "inteligentni izbor" poteza koji se proveravaju u, ipak, ograničenom vremenu za šahovsku partiju.

...ma ok, razumem, samo ipak mislim (mada nisam nikakav strucnjak)da se ne radi o inteligenciji vec o algoritmu koji eliminise "lose" poteze na bazi zadatih parametara tj poteza koje pravi covek-igrac...tacnije algoritam omogucava izbor najmanje loseg "odgovora" na potez protivnika...
mlekac mlekac 15:41 14.11.2010

Odgovor je odavno poznat

42

nsarski nsarski 15:59 14.11.2010

Re: Odgovor je odavno poznat

Odgovor je odavno poznat
42

Ima jedan divan vic na tu temu (moracu da ga ispricam pola na SRB pola na ENG, takva mu je priroda, znate). Elem.

Napravili u Pentagovu super-duper-dial -o -matic magic najstrasniji vojni kompjuter dostupan u kosmosu, ever. Pravili ga godinama i potrosili planine para, i najzad ga puste u pogon.
Pozovu sve one sa ordenjem i grancicama na epoletama, generale, admirale, prezidente, i ostale uniformisane nemani, da demonstriraju rad vojnog kompjutera. Ukljucili ga, i najstrasniji general medju njima odluci da ga pita najstrasnije pitanje. Pa ga pita (kompjutera):

"Da li je nase naoruzanje koje ukljucuje vise nuklearnih podmornica, nosaca aviona, i ostale skalamerije dovoljno da odbranimo USA od boljsevicke napasti, a uzimajuci u obzir njihovu premoc u kosmosu, i koliko dodatnih baza treba da izgradimo u Evropi da bi nasa vojna nadmoc bila neprikosnovena?"

Kompjuter pocne da misli, mrmolji, pali svetla, i najzad putem generatora zvuka odgovori (ovde prelazimo na ENG.):

Kompjuter: Yes!
General: Yes, what?!!!
Kompjuter: Yes, SIR!!!

There you have it. Ili, kako rece Tven: military intelligence is contradiction in terms.
gorran2 gorran2 16:20 14.11.2010

Re: Odgovor je odavno poznat

mlekac
42

Samo nije poznato kako da ga podelimo, i ko dobije koliko
gorran2 gorran2 16:23 14.11.2010

Re: Odgovor je odavno poznat

There you have it. Ili, kako rece Tven: military intelligence is contradiction in terms.

Human intelligence might turn out to be one, as well...
alselone alselone 16:57 14.11.2010

Re: Odgovor je odavno poznat

nsarski

Napravili u Pentagovu super-duper-dial -o -matic magic najstrasniji vojni kompjuter dostupan u kosmosu, ever.


I doveli nekih par tipova da ga testiraju. Ko postavi pitanje a da racunar ne zna odgovor dobija nagradu. Ulaze u sobu redom, pitaju, izlaze sa odstampanim odgovorom. Usao Mujo. Cuje se da je eksploridao racunar. Izlazi Mujo. Pitaju ga:
- Pa sta si ga pitao covece.
- Nista, ja usao i pitao:

Inace?
docsumann docsumann 17:00 14.11.2010

Re: Odgovor je odavno poznat

- Pa sta si ga pitao covece.
- Nista, ja usao i pitao:

Inace?


Milan Novković Milan Novković 15:47 14.11.2010

The Emergent Age

Šta vi mislite: Treba li čovečanstvu veštačka inteligencija? Koliko je ona korisna? Da li i koliko može biti opasna?

"Constantly regard the universe as one living being, having one substance and one soul; and observe how all things have reference to one perception, the perception of this one living being; and how all things act with one movement; and how all things are the cooperating causes of all things that exist; observe too the continuous spinning of the thread and the contexture of the web" - Marcus Aurelius

Trebala ne trebala nemamo izbora - Strong AI se dešava i dešava se brzo.

Vidi hardware stranu - Supercomputers 'will fit in a sugar cube', IBM says. Hardweraši su sve sigurnijim koracima krenuli u treću dimenziju (prostornu) i mašinerija je sve sličnija "živom" tkivu - žice i cevčice za hlađenje vodom kroz 3D procesor umesto nerava i krvotoka.


Softwarea smo se dotakli Alselone i ja ne tako davno. Oni ju tjubovi nisu naivni. A sve to ubrzava.

A o brutalno brutalnom pristupu, ono što IBM rade sa EPFL-om, simuliraju režnjeve u mozgu i dobijaju iste electrical patterns kao u pravom mozgu, što je indikacija potencijalno dobrog matematičkog modela neurona, gde su dobacili do kompleksnosti jedne mačke, npr, se može pričati kao o ubrzanoj progresiji.

Danas je najbrži Crax XT (Jaguar) u US sa 1.75 petaflops - u jednom danu "naračuna" kao PC u 100 GODINA !!!

Uskoro ćemo imati ovu snagu u PC-jevima. A ovo nisu snage koje se vrte u onim youtube mašinicama, tamo su samo obične PC snage.
Dragan Pleskonjic Dragan Pleskonjic 16:17 14.11.2010

Re: The Emergent Age

Hvala Milane na dobrim linkovima.

Od softverskih rešenja, gledao samo nešto malo:
1. Fast Artificial Neural Network Library (FANN) - free open source neural network library
2. NeuroDimension koji je komercijalni.

Vrlo zanimljivo i upotrebljivo.
alselone alselone 17:05 14.11.2010

Re: The Emergent Age

Milan Novković

Constantly regard the universe as one living being, having one substance and one soul; and observe how all things have reference to one perception, the perception of this one living being; and how all things act with one movement; and how all things are the cooperating causes of all things that exist; observe too the continuous spinning of the thread and the contexture of the web[/i]" - Marcus Aurelius


He, he, Milane, a da nismo mi zapravo jedinke nekog velikog genetskog algoritma. Neko nas je posejao, razmnozavamo se, mutiramo i tezimo nekom minimumu funkcije koji moze biti na primer - koliko optimalno resursa i slobode dati kucnim ljubimcima, da sto duze izdrze pre nego sto se samouniste.
Covek u belom Covek u belom 00:14 15.11.2010

Re: The Emergent Age

Milan Novković
A o brutalno brutalnom pristupu, ono što IBM rade sa EPFL-om, simuliraju režnjeve u mozgu i dobijaju iste electrical patterns kao u pravom mozgu, što je indikacija potencijalno dobrog matematičkog modela neurona, gde su dobacili do kompleksnosti jedne mačke, npr, se može pričati kao o ubrzanoj progresiji.

Nazalost mi jos uvek nemamo pojma da li je model neurona dobar i po svemu sudeci necemo u skorije vreme to ni saznati.
Stavise, ni uvrezena pretpostavka da je signal elektricni, a da je mehanicki poremecaj koji ga prati samo nuspojava moze da se desi da uopste nije tacne, vec da je u stvarnosti situacija potpuno obrnuta, pa sve teorije, silni doktorati i sve sto se zasniva na spiking neurons pada u vodu.
A ovi sa EPFL-a samo imaju dobar marketing i znaju da privuku pare . Veruj mi znam iz prve ruke o cemu pricam.
elis elis 01:56 15.11.2010

Re: The Emergent Age

Milan Novković

A o brutalno brutalnom pristupu, ono što IBM rade sa EPFL-om, simuliraju režnjeve u mozgu i dobijaju iste electrical patterns kao u pravom mozgu, što je indikacija potencijalno dobrog matematičkog modela neurona, gde su dobacili do kompleksnosti jedne mačke, npr, se može pričati kao o ubrzanoj progresiji.


Milane, ne samo da ne sporim, već mi se doima kao verovatna sposobnost veštačke inteligencije da u za nas nezamislivo kratkom vremenu prevali put od nekih primitivnih taljiga do najsavršenijeg bolida na trkaćoj stazi. Ali, da li će veštačka inteligencija moći da otkrije točak?
maksa83 maksa83 02:23 15.11.2010

Re: The Emergent Age

Ali, da li će veštačka inteligencija moći da otkrije točak?


Ako znaš pravi način da postaviš pitanje (tj. pravilno parametrizuješ celu stvar, što je bazična mehanika) "koji će se oblik najbolje pokazati pri kotrljanju?" sva je prilika da bi prost genetski algoritam jako brzo došao do točka.
elis elis 08:29 15.11.2010

Re: The Emergent Age

maksa83
Ali, da li će veštačka inteligencija moći da otkrije točak?


Ako znaš pravi način da postaviš pitanje (tj. pravilno parametrizuješ celu stvar, što je bazična mehanika) "koji će se oblik najbolje pokazati pri kotrljanju?" sva je prilika da bi prost genetski algoritam jako brzo došao do točka.


Ok, idemo dalje: da li će veštačka inteligencija, koja ume da pravilno parametrizuje celu stvar, moći poroditi potrebu da se premesti s jednog mesta na drugo? Potrebu za putovanjem?
maksa83 maksa83 09:50 15.11.2010

Re: The Emergent Age

Ok, idemo dalje: da li će veštačka inteligencija, koja ume da pravilno parametrizuje celu stvar, moći poroditi potrebu da se premesti s jednog mesta na drugo? Potrebu za putovanjem?


"If you want to build a ship, don't herd people together to collect wood and don't assign them tasks and work, but rather teach them to long for the endless immensity of the sea."

-Antione de Saint-Exupery

Ti sve vreme vučeš u ontološku raspravu a ja je 'ladno i uporno izbegavam, to je teren klizav i maglovit gde niko nema konačne odgovore. Onima koji tvrde da ih imaju (sveštenstvo svih boja) najmanje verujem.

Koji je koren naše potrebe za putovanjem? Neobjašnjiv nemir? Potreba da istražujemo? Iscrpljeni resursi tu gde smo? Potraga za "boljim mestom"? (Što može da se svede na prethodne slučajeve.) To se sve da srediti.

Dinamiku sistema (kog god) najvećim delom određuje njegova struktura. Ako ne možemo da objasnimo tu dinamiku to obično znači da ne znamo dovoljno o njegovoj strukturi, a tamo gde staje naše znanje o strukturi počinju ezoterična objašnjenja (više sile, Bogovi, Tvorci, Svrhe), i kako raste naše znanje o strukturi tako se ezoterija pomera dalje. (Da me ne shvatiš pogrešno, lično sam sklon svakakvoj ezoteriji, ali kapiram da su to samo neke moje aproksimacije i posledice nepotpunog ili nepostojećeg znanja.)
Neke stvari si primoran da posmatraš kao crne i sive kutije i u datom trenutku moraš sa tim da budeš zadovoljan, dok ih neko ne otvori i rasklopi. U tom svetlu, ja bih razdvojio sistem od njegovih atributa, tj. ponašanja koje ispoljava. Nešto može da ispoljava inteligentno ponašanje u nekom kontekstu bez obzira na poreklo tj. poticaj tog ponašanja, a pomeranje autonomije je samo pitanje vremena, tehnologije i naše odgovornosti. Da li sada puštaju računar da dijagnostikuje bolest i prepiše terapiju bez provere i potvrde ljudskog eksperta? Ne. Da li će to raditi za 10 godina? Verovatno da. Da li će taj sistem moći da pogreši? O da, verovatno, ali teže nego čovek koji je umoran, nadrndan ili tog dana poslat u penziju i zamenjen manje kompetentnim primerkom.

Nemam pojma da li će sistem ikad ispoljiti (primeti da izbegavam "imati" i insistiram na "ispoljiti" ) Svest (i samosvest što reče docsuman). Hoće, kad se svi složimo oko toga šta je to. Milan tvrdi da je to gomilica elektrohemijskih procesa koju mi doživljavamo i kod nas se "ispoljava" nekako, i ja sam sklon da se složim.

A o Svrsi stvarno ne znam apsolutno ništa. :)


alselone alselone 10:31 15.11.2010

Re: The Emergent Age

Milan Novković

Danas je najbrži Crax XT (Jaguar) u US sa 1.75 petaflops - u jednom danu "naračuna" kao PC u 100 GODINA !!!



Friska informacija. 2.57 petaflops!
elis elis 10:42 15.11.2010

Re: The Emergent Age

maksa83

Ti sve vreme vučeš u ontološku raspravu a ja je 'ladno i uporno izbegavam, to je teren klizav i maglovit gde niko nema konačne odgovore. Onima koji tvrde da ih imaju (sveštenstvo svih boja) najmanje verujem...


Maksa, zaista ne postavljam retorička pitanja e da bih iskočio iza ćoška sa slavodobitničkim osmehom i gotovim odgovorom za neznalice. A ne vučem ni na ontološku stranu, mada bi se njenih tragova, kao i teleoloških, moglo pronaći u ovim pitanjima.
Ono što je očito, jeste da se i ti i ja krčkamo na laganoj vatri pitanja na odgovore kojima će se još morati pričekati. Nemoj misliti da mene ne zbunjuje i ne ostavlja još zapitanijim i začuđenijim svako promišljanje o pitanju veštačke inteligencije. Ako mu pristupim s tehničke (ovde reč tehnika treba biti shvaćena u njenom izvornom, ne današnjem značenju) strane, javlja se umirujuća jasnoća. Ali, dovoljno je pomeriti se samo pola koraka izvan tehničkog, pa da me opet dokače bičevi pitanja bez odgovora. Da, jasno je meni da će računar (problem je u ovom našem, naučnopopularnom govorenju, što teško možemo da zamislimo buduće ostvarenje nekog pojma - budući računar imaće malo zajedničkog sa računarom iz MS Office clipart kolekcije) jednom moći da postavi dijagnozu i odredi terapiju. Nije ovde reč čak ni o mogućim greškama. Već o tome da je takav računar i dalje samo alatka. Neslućeno razvijena i napredna, ali i dalje alatka. A alatka je stoga što deluje na osnovu prethodnog znanja i iskustava koja su u njega pohranjena i po unapred zadatim procesnim modelima. Dakle, alatka zauvek osuđena na delovanje u granicama polja očekivanog (ma koliko se nama danas to polje očekivanog činilo golemim i nemerljivim).
I meni je ne samo zanimljiva, već i inspirativna Milanova slika bezbrojnih elektrolitičkih iskričenja u tami. Ali ne kao odgovor, već kao dobar početak niza pitanja koja na ovaj ili onaj način čovečanstvo postavlja već milenijumima. Bezuspešno, neko će reći. Ne znam da li je bezuspešno, ali znam da me od te bezuspešnosti dve stvari puno više plaše. Da uopšte ta pitanja ne postavljamo ili da prihvatimo odgovore koji nam se nude s ove ili one strane.

P.S.
Uživam kad primetim taktilnost u nečijem ophođenju s jezikom. Dopada mi se ona distinkcija između 'imati' i 'ispoljavati'.

P.S.2
O svrsi ni ja ne znam ništa
gorran2 gorran2 11:39 15.11.2010

Re: The Emergent Age

A o Svrsi stvarno ne znam apsolutno ništa. :)

O svrsi ni ja ne znam ništa

Ni ja.
Dakle, ima li pilota u avionu?
Nema.
Ipak, sve govori, punom brzinom napred!
Ne naša inteligencija, ni tuđa - drugo nešto nas vodi.
Nemanje metafizike je takođe metafizika.
Može li se svest simulirati?

Uglavnom, svi ratujemo, a niko ne zna kad je rat počeo. Ni zašto.
Hoćemo li ikad saznati?
I, kad saznamo, hoćemo li možda oružja okrenuti u suprotnom pravcu, i pogledati jednom, za zbogom, u oči cevi oružja?

Ništa tako dramatično, rekao bih.
Ipak, desiće se upravo obrnuto od onoga što mislimo. Neće AI dostići i uspeti da simulira našu svest, nego će naša svest postati samo još jedna AI.
Jerdnog dana, biće tako svetlo, da se ništa neće videti.
Totalan mrak.
gorran2 gorran2 12:04 15.11.2010

Kratka istorija svega

Kad sam bio mali, bila je drama oko svakog koša u gradu. Gomila dece raznih veličina, i svi hoće da igraju, a mesta malo.
Danas koševi zvrje prazni. Igra je dostigla svoju svrhu. U svojoj sobi, za ekranom, sa džojstikom u rukama, imaš sve potrebne izazove, teškoće, dramu i uspehe.

Čovek je odavno počeo svoj sjajni uspon.
Najpre, živeo je u divljini, i poglednom punim strahopoštovanja gledao je Šumu, i Nebo. Njih su nastanjivale moćni demoni, sa kojima je trebalo održati komunikaciju, razumeti ih i udovoljiti im. Duhovi predaka ostajali su tu, da te paze. čuvaju i poučavaju, i da ti daju signale koje tumačiš.
Svako drvo bilo je smisao i živopisna priča, a život ogromna avantura i roman.

Onda mo naučili da sečemo Drvo, oblikujemo Kamen, izazivamo elektricitet. Oterali smo žive demone, i zamenili ih beslovesnim procesima. Trenje u atmosferskim slojevima izaziva naelektrisanje, ili tako nešto. Otuda grom.
Ako te pukne, ništa lično. Slepa i glupa slučajnost.

Sve oko nas je besmisleno.
To je rezultat prelaženja prvog nivoa igrice zvane čovek.
Ne, kapetane, nema ničega živog u spoljašnjosti.
At least, not any more.
Mission accomplished.

Na drugom nivou, ustanovimo da je i sve u nama isto tako gomila glupih i slepih procesa. Unutrašnji demoni, nagoni i strasti, sve je to opet neko tupavo trenje koje stvara naelekterisanje. Navike, želje, sećanje, maštanje, ... sve su to samo mehaničke mašine, poluge i strme ravni, samo od drugog materijala. Mi smo jedan oblak potpunog besmisla koji se kreće po nepreglednom haosu isto tako potpunog besmisla.

Ne, kapetane, nema ničega živog ni u unutrašnjosti.
Level two accomplished.

Ali, na trećem nivou, čovek upozna jednog čiku iz komšiluka, koji prodaje čaroliju u prahu.
belom.
I, iznenada, sve oko tebe ponovo postane živo, i demoni se probude.
I, čovek shvati da je horizont beskraja mnogo bliže nego što je ikad slutio. Malo hemije, par elektroda u glavi, pretplata na neki stvarno dobar kanal i igricu.
I - bup - posle pola koraka nasučemo se na obale Itake.
Odiseja je završena. Nekom spolja može izgledati da smo nepomični u crnoj rupi, ali vara se.
Mi smo ponovo našli i zagrlili svoju Penelopu, i ponovo smo osvojili Smisao, Ljubav i Sreću.
Dok nas neka nezgoda ne unplugguje.
docsumann docsumann 13:32 15.11.2010

Re: The Emergent Age

Ti sve vreme vučeš u ontološku raspravu a ja je 'ladno i uporno izbegavam, to je teren klizav i maglovit gde niko nema konačne odgovore. Onima koji tvrde da ih imaju (sveštenstvo svih boja) najmanje verujem.


to je ta briljantnost u odgovorima
a_jovicic a_jovicic 03:06 16.11.2010

Re: The Emergent Age

Covek u belom

Nazalost mi jos uvek nemamo pojma da li je model neurona dobar i po svemu sudeci necemo u skorije vreme to ni saznati.
Stavise, ni uvrezena pretpostavka da je signal elektricni, a da je mehanicki poremecaj koji ga prati samo nuspojava moze da se desi da uopste nije tacne, vec da je u stvarnosti situacija potpuno obrnuta, pa sve teorije, silni doktorati i sve sto se zasniva na spiking neurons pada u vodu.


Ovaj ... a zar ne izmeriše (još ohohooo od kada) tu struju na izolovanom neuronu a bog'me zar i ne potvrdiše da i neuro-transmiteri prilično znaju da se "ponašaju" u slučaju npr. zmijskog otrova (da ne spominjemo i bojne otrove)?!? Jel' to ima nekih novih teorija da kalijumske, natrijumske (i ostale) pumpe ne postoje?

Nisam se baš nešto poslednjih godina bavio ovom problematikom pa je svašta moguće. Poslednje što sam čuo da više ne važi je da neuroni samo odumiru ... mogu i da se stvore (dokazaše to na nekim miševima valjda krajem 90-tih)

Ono što malo ko pokušava da simulira u računarskim neuronskim mrežama je da postoje i neuroni koji samo-okidaju a da to nije nastalo kao suma nadražaja na njihovim dendritima (tj. da rafali ne moraju da budu samo produkt zatvorene petlje u mreži, već da neki neuroni sami mogu da ih proizvedu ... trebalo bi da su kod cvrčaka ovo našli). A tek zamor sinapse (koja sprečava da sistem udje u nestabilnost)?

U svakom slučaju, čak i da nismo na nivou mozga mačke ja bih bio prilično zadovoljan da smo dostigli nivo mozga (ili nervnog sistema) bilo kog živog bića. Što odmah da pravimo velemajstora u šahu ... meni bi koristila i armija "bubašvaba" da mi čiste kuću tamo 'de Roomba nemož' da prodje
JJ Beba JJ Beba 15:49 14.11.2010

Treba li nam veštačka inteligencija

elis elis 16:20 14.11.2010

A gde ćeš ti, Herkule?

Veštačka ili kako je odskora više volim zvati, indukovana inteligencija, čini se da je neizostavni deo budućnosti. No, većini ljudi koja razmišlja o ovom pitanju, ili se sa njim zabavlja, izmiče jedan, čini se, veoma bitan momenat: ta buduća, indukovana inteligencija, imajući u vidu njenu genezu, biće lišena iracionalnosti utkane u čovekov um. Ako, dakle, ta buduća inteligencija preuzme posao upravljanja (čime?! društvom? istorijom?) stvarnošću, za očekivati je da će iz nje odstraniti sve iracionalne elemente. Nemoguće je, dakle, imati realizaciju te pretpostavljene inteligencije, a istovremeno zadržati u životu kategorije države i naroda, kao i sve ostale srodne fenomene iracionalnih temelja.
Da banalizujem, ako bi, recimo, veštačka inteligencija bila prinuđena da se ne obazire na činjenicu segregacije crnaca i belaca i da tu podelu prihvati kao logičnu, jednostavno bi crknuo procesor koji joj obezbeđuje život.
A postoji i još jedna verovatna posledica ustoličenja veštačke inteligencije, a to je odumiranje metafore. Dobro, neće baš mnogi za njome zakukati, naviće se, valjda, čovečanstvo nekako da i bez nje živi. A možda metafora ipak preživi zajedno sa svojom neobočnom dihotomijom - metafora je, naime, dokaz nedovršenosti i nesavršenosti čovekovog uma i inteligencije, bolno nastojanje da se zaleči pukotina koja razdvaja čovečno od božanskoga, ali istovremeno i dokaz nemogućnosti da ono što je odista čovečno bude transponirano u veštačko.
I, na kraju, ukoliko pretpostavimo da je čovekova inteligencija manjkava i nedostatna, te postoji potreba za nekom novom, suprainteligencijom, čije stvaranje može započeti isključivo čovek, kako onda izbeći pretpostavku da će svaki plod čovekove inteligencije u sebi nužno imati sadržane i sve manjkavosti svoga tvorca?
gordanac gordanac 16:42 14.11.2010

naslov ti je - retorički :))

VI (AI) - kako god je definisali - je TU OKO NAS, S NAMA, svuda unaokolo, tako da pitanje "treba li nam...?" ne traži odgovora, osim u slučaju kakvog dobrog plana da JE SE UKLONI iz naše realnosti (a ne vidim da iko ima takav plan&predlog, naprotiv).

Pitanje koje u tekstu NIJE retoričko (čini mi se) je - kako obezbediti "humano(st)" u "tehnološkom&tehničkom" koje ljudi zamisle, testiraju, pa - naparave (a sve to još ondaK i - radi)?
Nikako, mislim, bar do sada sa svakim korakom tehničko-tehnološkog napretka (od točka na ovamo) takvo pitanje nije dobilo odgovora (a ние да ние postavljano i odgovor tražen).
No, za sve ima - prvi put, tako ja mislim.
Dragan Pleskonjic:
Šta je to što razlikuje „prirodnu" inteligenciju od veštačke? Jedna od najednostavnijih definicija veštačke inteligencije kaže: veštačka inteligencija je naučna oblast u kojoj se istražuje kako da se naprave računari (mašine, sistemi) koji bi uspešno radili stvari koje u ovom momentu bolje rade ljudi. Termin veštačka inteligencija (engl. artificial intelligence) potiče od Džona Makartija (John McCarty). Mnogi autori se ne slažu da termin veštačka inteligencija najbolje opisuje ovu naučnu oblast. Mnoge oblasti informatike u osnovi imaju inteligentno ponašanje, ali ne pripadaju veštačkoj inteligenciji u užem smislu.


Jedan od najboljih razgovora koji sam o tome (VI, odnosno AI) vodila bio je sa detetom, uzrasta oko 6 godina, a tekao je (otprilike) ovako:

ono: šta ti je to, tačno?
ja: mašina koju su ljudi napravili i koja ume skoro sve što i ljudi, samo ponekad brže i bolje, za ponešto što radi joj ljudi ne trebaju, a za ponešto ipak ne može bez ljudi
ono: a šta će nama mašina koja je ista kao mi?
ja: da dokažemo sebi da umemo i takvo šta da napravimo i da onda naučimo još svašta više i napravimo još svašta više, još bolje mašine koje liče na nas
ono: a zašto da ne napravimo mašine koje uopšte ne liče na nas?
ja: pa, ne umemo, ne znamo kako izgleda ili kako bi izgledalo nešto što uopšte ne liči na nas, to bi morala biti jedna totalna izmišljotina
ono: a hoće li te mašine koje napravimo umeti same da izmisle mašine koje ne liče na nas?
ja: ne znam, to ćemo morati da ih pitamo
ono: a hoćeš li ih ti voleti?
ja: koga?
ono: mašine koje liče na nas
ja: pa, mislim da se mašine ne mogu stvarno voleti, mogu biti zanimljive, zabavne, korisne, neophodne, možeš se igrati s njima, ali to ne znači da ih - voliš
ono: a ako liče na nas zašto ih ne možeš voleti, šta će nam onda?
ja: pa, izgleda zato što mislimo da bi mnoge stvari umele da rade bolje od ljudi
ono: ali ne i da nas vole?
ja: pa, mislim - ne, to ne, za to nam mašine ne trebaju
ono: nisi mi baš dobro objasnila





Dragan Pleskonjic Dragan Pleskonjic 17:00 14.11.2010

Re: naslov ti je - retorički :))

gordanac
naslov ti je - retorički :))


Da, jeste retorički. Ali.. imam jednu stvarnu dilemu: već neko vreme pravim sistem koji upotrebom mašinskog učenja i odlučivanja tj. neke vrste veštačke inteligencije (AI) treba da služi za odbranu računarskih sistema, mreža i informacionih sistema od upada (napada) i od svakojakih drugih napasti.

I... osećam da hodam na granici mogućeg i nemogućeg (cutting edge of science and technology), smisla i besmisla, bez obzira na dosta dobre rezultate koji su već publikovani na stručnim konferencijama i u časopisima.
gordanac gordanac 17:12 14.11.2010

:))

Dragan Pleskonjic
gordanac
naslov ti je - retorički :))


Da, jeste retorički. Ali.. imam jednu stvarnu dilemu: već neko vreme pravim sistem koji upotrebom mašinskog učenja i odlučivanja tj. neke vrste veštačke inteligencije (AI) treba da služi za odbranu računarskih sistema, mreža i informacionih sistema od upada (napada) i od svakojakih drugih napasti.

I... osećam da hodam na granici mogućeg i nemogućeg (cutting edge of science and technology), smisla i besmisla, bez obzira na dosta dobre rezultate koji su već publikovani na stručnim konferencijama i u časopisima.

:))))))))))))))
Welcome to the club! (za izdvojenu, bold, italic&underlined rečenicu)
(šalamala, ne zameri)

Razumem šta ti je prepreka i teškoća, nemam odgovora.

Jedino ono klasično&patetično&opšteg značenja - uvek je tako s pionirskim poduhvatima i relativno malo (ako uopšte) utabanim stazama.
Ali - ponekad je i catch i fun - baš u tome.
Dobra vest je što uvek ima divnih lunetika unaokolo koji te pravovremeno ohrabre, naiđu niotkuda i - hopla! - "prebace" te do nove prepreke.

Ili:
"when going through hell - keep going"

Dragan Pleskonjic Dragan Pleskonjic 17:20 14.11.2010

Re: :))

gordanac

:))))))))))))))
Welcome to the club! (za izdvojenu, bold, italic&underlined rečenicu)
(šalamala, ne zameri)



Nema razloga za zameranje, naprotiv drago mi je da nisam usamljen u svom naporu.


Razumem šta ti je prepreka i teškoća, nemam odgovora.

Jedino ono klasično&patetično&opšteg značenja - uvek je tako s pionirskim poduhvatima i relativno malo (ako uopšte) utabanim stazama.
Ali - ponekad je i catch i fun - baš u tome.
Dobra vest je što uvek ima divnih lunetika unaokolo koji te pravovremeno ohrabre, naiđu niotkuda i - hopla! - "prebace" te do nove prepreke.


Ima puno draži u hodanju putevima kojima se ređe ide i neutabanim stazama.

I vrlo je lepo što se, i na takvim stazama, ponekad naiđe na ljude voljne da pomognu i daju snage za kvantni skok.

Nekako verujem da takvi vuku čovečanstvo napred.

gordanac gordanac 06:37 17.11.2010

---

Na linku je zabavna i zanimljiva interaktivna mapa o jednoj vrsti mašina i procenama o tome kako će nam izgledati zajednička budućnost.


Explore IFTF's Robot Renaissance Map: The Future of Human-Machine Interaction

"In the next decade, we will share our offices, hospitals, schools, battlefields, nursing homes, and homes with a new breed of companion. A robot renaissance is underway.

After decades of hype, false starts, and few successes, smart machines are finally ready for prime time. As part of its 2010 research, IFTF's Technology Horizons program has created the Robot Renaissance: the Future of Human-Machine Interaction Map to explore this new robotic future.

The first robot boom was in the 1950s, when factory workers met the first industrial age robots. Now, as robots move out of the factories and make real a century of science fiction, we will once again see these machines in a new light, and we will also reconsider how we see ourselves.

The Robot Renaissance Map is a tool to help navigate the coming changes, designed to spark excitement, and even cautious optimism, about the possible futures of human-machine interaction.

Welcome to the Robot Renaissance!"



Dragan Pleskonjic Dragan Pleskonjic 09:04 17.11.2010

Re: ---

gordanac
Na linku je zabavna i zanimljiva interaktivna mapa o jednoj vrsti mašina i procenama o tome kako će nam izgledati zajednička budućnost.


Odličan link! Hvala.

Pomenuo bih da smo i mi (ex-YU) nekada značili puno u svetskim razmerama u oblasti robotike. Postojala je takozvana "Beogradska škola robotike". Referenca na jedan tekst na tu temu je ovde.
maksa83 maksa83 10:53 17.11.2010

Re: ---

Pomenuo bih da smo i mi (ex-YU) nekada značili puno u svetskim razmerama u oblasti robotike. Postojala je takozvana "Beogradska škola robotike". Referenca na jedan tekst na tu temu je

Bilo nekad, koliko znam zadnjih godina nas na Eurobot takmičenjima robotića mahom predstavljaju klinci iz Novog Sada.

http://www.sk.rs/2004/06/sknl01.html (robot se zvao Čeda :)

http://www.eurobot.org

Dragan Pleskonjic Dragan Pleskonjic 13:33 17.11.2010

Re: ---

Evo prigodan tekst na BBC sajtu: Cube robots play football i prigodan video na Youtube: Robocup 2009 Graz small size robot soccer.
BebaOdLonchara BebaOdLonchara 13:57 17.11.2010

Re: ---

obožavam ih!!!!!

gledaj ove, snimi faul :))))



potez špage i radovanje zbog postignotog gola :)))))



gordanac gordanac 23:20 18.11.2010

i još malko...

...sasvim novih robota:

Dragan Pleskonjic Dragan Pleskonjic 00:02 19.11.2010

Turning Information Into Energy

Nije baš vezano za temu, ali je vrlo novo i interesantno. IEEE Spectrum objavljuje tekst o pretvaranju informacija u energiju: Turning Information Into Energy

Japanese physicists claim to have found a way to turn ubiquitous random vibrations—known as Brownian motion—into energy. Their system overcomes the randomness by blocking some particles’ movements. Experts in microelectromechanical systems say it’s a worthy goal but that we won’t have Brownian-charged cellphones anytime soon.


Da dodam ovde i link na knjigu Vlatka Vedrala, profesora na Oxfordu, a inače Beograđanina poreklom: Decoding Reality: The Universe as Quantum Information. Vlatko se, između ostalog, u ovoj knjizi bavi sličnim problemima, kao i problemima teleportacije, kvantnih računara, kvantne kriptografije itd.
a_jovicic a_jovicic 01:53 19.11.2010

Re: Turning Information Into Energy

Dragan Pleskonjic
Nije baš vezano za temu, ali je vrlo novo i interesantno. IEEE Spectrum objavljuje tekst o pretvaranju informacija u energiju: Turning Information Into Energy


A pošto i juče objaviše da su u CERN-u zadržali antimateriju najduže do sad ("Antimatter atoms produced and trapped at CERN") ... mislim da je vreme i za pojavu anti-informacije ... a Bog'me i veštačke anti-inteligencije ... hm ... kad bolje razmislim ... ovo drugo su Srbi odavno otkrili ... a ni ono prvo nije strano domaćoj žutoj štampi ... tako k'o i sa dodirom materije i anti-materije, svaki put kad se inteligencija dodirne sa anti-inteligencijom nastane oslobadjanje ogromne energije (pobedi onaj ko ima veću motku)
bookbinder bookbinder 14:20 19.11.2010

Re: Turning Information Into Energy

a_jovicic
...mislim da je vreme i za pojavu anti-informacije ...


Ih, pa to nije nista novo, pojam negativne informacije je odavno poznat! Recimo, odgledas TV jedan sat i o'ma si gluplji nego pre...

A sad, malo ozbiljnije, negativna informacija:

http://www.damtp.cam.ac.uk/user/jono/negative-information.html

http://www.rasch.org/rmt/rmt102r.htm
Dragan Pleskonjic Dragan Pleskonjic 14:46 19.11.2010

Re: Turning Information Into Energy

bookbinder hvala za linkove, "morao" sam da ih prosledim na Twitter.
gospodin_ne gospodin_ne 16:43 14.11.2010

Emotion Machine

Treba li čovečanstvu veštačka inteligencija?

Isto kao i racunar... Jedan od napretka u nizu.
Koliko je ona korisna?

Isto koliko i racunar... Svaki domen moze naci aplikaciju.
Da li i koliko može biti opasna?

Isto kao/koliko i racunar... Zavisi od nas samih.

Today we have hundreds of thousands of programs that do useful jobs in various places...
But strangely there is no program today that can do the sorts of things any four-year-old child can do.
Marvin Minsky@MIT
alselone alselone 16:53 14.11.2010

Kasparov vs Deep Blue

Ono '97. je bilo prava poslastica. Nacin na koji je Kasparov dobio prvi mec je cista sahovska umetnost. Nacin na koji je izgubio poslednji, budi velike sumnje.

Koga zanima, evo je prva partija, a evo je i druga partija. Kasparov izgubio u 19 poteza. Ma ajte molim vas.

Ali da ne teram vodu na vodenicu ljudi protiv racunara u sahu. Sada bi iole ozbiljniji hardver sa, npr. Fritzem, otkinuo i Fisera u najboljim danima. Resenje, bar za sada, je Fiserov random sah. Covek se smorio posto je postao prvak sveta, shvatio da je sah postao igra memorije i pripreme i rekao - Ja ovo vise necu da igram, ako hocete da igramo moj sah koji sam smislio, hocete, ako nece, necete. I nisu hteli i on se povukao. Fiser car!
docsumann docsumann 17:24 14.11.2010

Re: Kasparov vs Deep Blue

Fiserov random sah.


I ovaj random raspored figura ima ograničen broj mogućnosti 5 038

Neki "poremećen" um bi mogao i tu igru da svede na memorisane šablone.
Covek u belom Covek u belom 00:21 15.11.2010

Re: Kasparov vs Deep Blue

alselone
Ono '97. je bilo prava poslastica. Nacin na koji je Kasparov dobio prvi mec je cista sahovska umetnost. Nacin na koji je izgubio poslednji, budi velike sumnje.

Koga zanima, evo je prva partija, a evo je i druga partija. Kasparov izgubio u 19 poteza. Ma ajte molim vas.

Ali da ne teram vodu na vodenicu ljudi protiv racunara u sahu. Sada bi iole ozbiljniji hardver sa, npr. Fritzem, otkinuo i Fisera u najboljim danima. Resenje, bar za sada, je Fiserov random sah. Covek se smorio posto je postao prvak sveta, shvatio da je sah postao igra memorije i pripreme i rekao - Ja ovo vise necu da igram, ako hocete da igramo moj sah koji sam smislio, hocete, ako nece, necete. I nisu hteli i on se povukao. Fiser car!

FRC u sustini mnooogo odmaze coveku.
Trenutno najjacni sahovski programi (Ivanhoe/Houdini, Rybka, Stockfish) na jednom koru obicnog danasnjeg procesora su nekih 200 elo poena jaci od Karlsena ili bilo kog super-velemajstora (klub od preko 2800 elo).
U FRC-u ta razlika je jos drasticnija (300-400 elo) jer covek nema pomoc silne sahovske teorije otvaranja.

Jedino gde je covek jos uvek malko bolji su pojedine (i to mali procenat sveukupno) zavrsnice.
alselone alselone 08:05 15.11.2010

Re: Kasparov vs Deep Blue

Covek u belom
FRC u sustini mnooogo odmaze coveku.
Trenutno najjacni sahovski programi (Ivanhoe/Houdini, Rybka, Stockfish) na jednom koru obicnog danasnjeg procesora su nekih 200 elo poena jaci od Karlsena ili bilo kog super-velemajstora (klub od preko 2800 elo).
U FRC-u ta razlika je jos drasticnija (300-400 elo) jer covek nema pomoc silne sahovske teorije otvaranja.


Zar nije prednost silne teorije otvaranja na strani racunara i ogromne i nepogresive baze podataka? To je bila logika kojom sam se vodio. To je i nacin na koji je Kasparov pobedio.
Covek u belom Covek u belom 12:50 15.11.2010

Re: Kasparov vs Deep Blue

alselone
Zar nije prednost silne teorije otvaranja na strani racunara i ogromne i nepogresive baze podataka? To je bila logika kojom sam se vodio. To je i nacin na koji je Kasparov pobedio.

Otvaranja pomazu i racunaru naravno, ali u daleko manjoj meri. Vecina najjacih programa su takve takticke zveri da im apsolutno ne treba nista jace od knjige otvaranja sa 3-4 poteza dubine. Tj. razlika izmedju maksimalno tjunovane knjige otvaranja za odredjeni sahovski program i neke male general purpose je 20-30 elo poena, ne vise.
Covek je taj koji je bez teorije otvaranja obicno u gadnom mraku.
angie01 angie01 17:01 14.11.2010

,

radulence radulence 17:10 14.11.2010

ma

pusti veshtachku.

daj organsku.
te nedostaje.
Dragan Pleskonjic Dragan Pleskonjic 17:22 14.11.2010

Re: ma

radulence
pusti veshtachku.

daj organsku.
te nedostaje.


Pa niko se ne žali da mu nedostaje inteligencije. Svi misle da je imaju dovoljno.
nsarski nsarski 17:29 14.11.2010

Re: ma

Pa niko se ne žali da mu nedostaje inteligencije. Svi misle da je imaju dovoljno.

Ima i onaj cuveni odgovor na pitanje "Da li postoji extraterrestrial intelligence?", na sta jedan odgovara "Naravno, ali ja sam samo u poseti!".
docsumann docsumann 17:53 14.11.2010

Re: ma

Pa niko se ne žali da mu nedostaje inteligencije. Svi misle da je imaju dovoljno


Znate li nekoga ko misli da nije u pravu ?
nsarski nsarski 18:01 14.11.2010

Re: ma

Znate li nekoga ko misli da nije u pravu ?

Forrest Gump.

Forrest Gump: I'm not a smart man... but I know what love is
docsumann docsumann 18:16 14.11.2010

Re: ma

Forrest Gump: I'm not a smart man... but I know what love is


to se više odnosi na ovo

Pa niko se ne žali da mu nedostaje inteligencije



demarti demarti 09:58 15.11.2010

Re: ma

Ja mislim da nemam dovljno.
docsumann docsumann 22:09 15.11.2010

Re: ma

Ja mislim da nemam dovljno.


da, ali takođe smatraš da si u pravu kad to kažeš
wukadin wukadin 12:41 16.11.2010

Re: ma

Obratiti pažnju na podnaslov
Goran Vučković Goran Vučković 13:38 16.11.2010

Re: ma

Obratiti pažnju na podnaslov

BebaOdLonchara BebaOdLonchara 17:36 14.11.2010

ne mogu da odolim :)

zoja444 zoja444 18:15 14.11.2010

pitanje

da li postoje neka istrazivanja u pravcu koriscenja vi u tretmanu alchajmera ili drugih demencija?
Dragan Pleskonjic Dragan Pleskonjic 19:05 14.11.2010

Re: pitanje

Znam za neka medicinska istraživanja u vezi sa dijagnostikom na bazi EKG, rentgenskih i sličnih snimaka, kao različitih analiza i nalaza. Medjutim, ne znam za konkretnu oblast koju ste pomenuli. Nadam se da će neko od čitalaca bloga javiti, a takođe nije loše pitati Google.
zoja444 zoja444 22:50 14.11.2010

Re: pitanje

hvala na odgovoru.

ja nisam mislila na dijagnostiku, ali mozda je moje razmisljanje u pravcu (pre)daleke buducnosti, ili u domenu sf-a.
priznajem, nisam stigla nista da izgooglam.

interesuje me, da li ce VI moci da se primenjuje kod ovakvih osoba u smislu supstitucije propalih nervnih celija i disfunkcionalnih delova mozga... da bi im npr. omogucila usporavanje bolesti i njenih manifestacija? da li bi oni mogli uz VI da "prepoznaju" bliznje, da im se ocuva motoricka funkcija, sposobnost samostalnog vrsenja fizioloskih potreba, itd.?
nisam medicinar, izvinjavam se zbog mozda nestrucne terminologije.

takodje me interesuje:

- koliko bi takva VI bila ekonomski isplativa i od strane proizvodjaca i od strane potrosaca?
- da li bi uopste bila dozvoljena njena primena, eticki gledano, posto se radi o bolesnim osobama?
-da li bi na ovaj nacin mogle da se "lece" ili bolje reci "tretiraju" i druge kategorije osoba sa problemima CNS... autisticne osobe, npr?

Dragan Pleskonjic Dragan Pleskonjic 13:33 15.11.2010

Re: pitanje

zoja444
hvala na odgovoru.

...
interesuje me, da li ce VI moci da se primenjuje kod ovakvih osoba u smislu supstitucije propalih nervnih celija i disfunkcionalnih delova mozga... da bi im npr. omogucila usporavanje bolesti i njenih manifestacija? da li bi oni mogli uz VI da "prepoznaju" bliznje, da im se ocuva motoricka funkcija, sposobnost samostalnog vrsenja fizioloskih potreba, itd.?
nisam medicinar, izvinjavam se zbog mozda nestrucne terminologije.

takodje me interesuje:

- koliko bi takva VI bila ekonomski isplativa i od strane proizvodjaca i od strane potrosaca?
- da li bi uopste bila dozvoljena njena primena, eticki gledano, posto se radi o bolesnim osobama?
-da li bi na ovaj nacin mogle da se "lece" ili bolje reci "tretiraju" i druge kategorije osoba sa problemima CNS... autisticne osobe, npr?



Žao mi je što ne mogu da odgovorim na ova pitanja, jer medicina nije moja oblast. Ipak se nadam da će se naći neko od čitalaca ovog bloga koji će to moći i ko je sa tim upoznat.
mirelarado mirelarado 19:22 14.11.2010

*****

Изванредан текст. :)

Овде се говори и о будућем коришћењу електронике у медицини:

Arhiva

   

Kategorije aktivne u poslednjih 7 dana