Budućnost| Eksperimenti u blogovanju| Gost autor| Nauka| Tehnologija

Uncanny valley – dolina sablasnosti

nsarski RSS / 16.09.2012. u 09:32

Rec ima gost autor alselone (ventriloquist)

 

Zamislite da šetate kroz muzej voštanih figura “Madame Tussauds”. U prepunom ste holu, zamrznutih ljudskih figura. Nagnuti nad jednom od njih posmatrajući neprirodnu teksturu njene kože i „prepariranu” grimasu, figura vas pogleda suvim ukočenim pogledom i polako trepne, jezivo zar ne?

 A zamislite sad da vam priđu Wall-e, R2-D2, C-3PO. Ovo je prijatnije, jel da? bziDi.jpg
A zašto je to tako? Pokušavajući da odgovori na ovo pitanje još 1970. godine, Dr Masahiro Mori nekadašnji profesor i jedan od prvih istraživača na polju robotike na Tokijskom institutu za tehnologiju, sasvim slučajno stvorio je koncept, čiji je odjek tek u današnje vreme našao publiku koja ga čuje.
AvDp2.jpg

Kao i svaka velika ideja, početak je bio skroman, Mori je napisao esej „Bukimi No Tani”, ne za naučni, već nepoznati reklamni časopis Energija, u vlasništvu naftne kompanije.

Prošlo je 30-k godina od tad i esej je dobio pažnju i prvi prevod. Naziv eseja na engleskom je danas mnogima poznat koncept - “The uncanny valley”, “dolina sablasnosti” ili “sablasna dolina”.

U vremenu kad su roboti razvijani u kategoriji funkcionalnosti, Mori je predvideo da će roboti u budućnosti izgledati skoro kao ljudi. Problem je samo ovo “skoro”.

Morijeva ideja glasi: što su roboti sličniji ljudima, privlače više simpatije, do tačke kada izgled i kretanje postaju previše realni, toliko da najmanja odstupanja od potpune sličnosti sa čovekom, izazivaju neprijatnost ili odbojnost kod ljudi usled čega dolazi do naglog pada nivoa empatije - ovaj pad Mori je nazvao “sablasna dolina”. Fenomen je prikazao na grafiku, koji  treba shvatiti više kao metaforu za doživljaj kako neprijatno osećanje proizilazi iz kombinacije ljudskog realizma sa neljudskim karakteristikama.

wO13w.png 

 

Grafik. 1 – Prikaz “Sablasne doline”

Mori je pokušao da slikovito objasni ovaj doživljaj veštačkom rukom, koja može da bude potpuno realna. Koža može da ima čak i otiske na prstima i da se pokreće, da bude toliko uverljiva da pomislimo da je prava, sve dok se ne rukujemo. Kad osetimo stisak bez kostiju, zajedno sa teksturom i  hladnoćom ruke, “prođe nas jeza”. Tada prestaje da nam bude bliska, i ona postaje strana i neprirodna. U matematičkom terminu, ovaj osećaj se može predstaviti kao negativna vrednost. Dakle, u ovom slučaju, izgled veštačke ruke je sasvim prirodan, ali je nivo afiniteta negativan, što je stavlja skoro na dno doline sablasnosti.

Na samom početku grafike su industrijski roboti koji mogu da pokreću samo ruke, nemaju noge ni lice, njihov dizajn je usmeren na funkcionalnost, a ne na izgled tako da nemaju puno sličnosti sa ljudskim bićima. Pošto nema puno sličnosti, ne osećamo srodnost sa njima. Sa druge strane, dizajn robota igračke je fokusiran na izgled, a ne na funkcionalnost. Uprkos tome je što je mehanička figura grubog ljudskog izgleda, deca jako vole ove igračke.

Nasuprot njima tradicionalna japanska pozorišna lutka Bunraku, na grafiku pokazuje visok nivo afiniteta i preskočila je “sablasnu dolinu”, a nema puno realizma u njenom dizajnu. Zašto je to tako?

Vz5hz.jpg

  Bunraku – tradicionalna japanska lutka

Mori priznaje da lutka izbliza nema puno realizma, mala je, nema realnu teksturu kože, ni crte lica, ali sve se to ne vidi iz publike, i sve se zanemari kad se lutka pomera za vreme predstave. Dok se pomeraju njene oči i ruke su tada realnije ljudskim, publika se uživi i bude uvučena u njenu predstavu i tada dobija puno empatije i simpatije od publike.

Odgovor na pitanje je pokret. Pokret je ono što oživi lutku i uvuče nas u njen svet. Kretanje je bitna karakteristika ljudi, tako i robota.

yvQAV.png 

Grafik 2. Prikaz “sablasne doline” sa faktorom – kretanja posebno prikazanog. [Maske koje su spomenute na grafiku su tradicionalne japanske maske za predstave, Yase otoko maske imaju grimasu patnje, dok Okina maske izražavaju sreću.]

Mori razdvaja – pokret, kao važniji faktor u doživljaju bliskoti ljudi sa robotima. Naprimer, dok je industrijski robot isključen, on je samo okorela mašina. Čim se programira da pokreće mehaničke ruke koje jedino ima, naš nivo afiniteta je veći nego prema običnom alatu. Potpuno suprotno tome, kada prostetička ruka, koja je skoro na dnu “uncanny valley” počne da se pomera, naš osećaj sablasnosti se povećava.

Međutim, pokret ima važne odlike koje moraju biti što sličnije ljudskim to su: brzina, ubrzanje i usporavanje. Koliko je velik uticaj pokreta kao faktora u dostizanju ljudskog realizma, može se videti kod antropomorfnih robota kod kojih su ugrađeni facijalni mišići isto kao kod čoveka. Osmeh se sastoji iz niza sekvenci facijalne deformacije kod koje je brzina izvođenja ključna. U pokušaju da napave robota koji se smeje njegov izraz lica je bezmalo jeziv i podseća na psa koji reži dok pokazuje zube.

 

9q0o5.jpg

 

  Na slici je prikazan robot Saya

  Ovo pokazuje koliko je kretanje kao faktor značajan. Postići realizam pokreta veći je izazov od realnog izgleda robota.

Da je to tačno možemo se uveriti kod geminoida koje robotičar Hiroshi Ishiguro pravi po uzoru na ljudske modele. Koji su toliko likom uverljio čovekoliki, da se može reći da je “sablasna dolina” preskočena ali bez faktora pokreta.

7BIPD.jpg 

  Na slici su geminoidi koji sede i ljudski uzori po čijem liku su rađeni,  Hiroshi Ishiguro je u sredini

  Na prvi pogled ne izazivaju jezivost, njihovo lice i osmeh intrigiraju posmatrača svojom smirenošću i misterioznošću Davinčijeve Mona Lize. Ono što posmatrača odbija od njih je sporo treptanje i facijalne ekspresije tj. pokret. Dizajneri su hteli da izbegnu neprirodnu mimiku, pa su im smanjili pokretljivost lica, zbog čega deluju katatonično. Međutim, značajno je što su prihvatljivi na prvi pogled, uspeli su da preskoče “dolinu”, na grafiku bez pokreta.

 

3liQG.jpg

 

 

Hiroshi Ishiguro sa svojim “duplikatom”. Da li je robot levi ili desni? – Levi. 

Ovo može da ukaže na nivo detaljnosti koji je potreban da se preskoči “dolina”. Sad kad smo objasnili kakav osećaj nastaje, pitanje je zašto?

Problem leži u našoj psihološkoj prirodi da se identifikujemo sa robotima, kad oni postanu previše slični nama, da ih naš mozak prihvata kao ljude. Samo što onda shvatamo da nešto nije baš sasvim “kako treba”. Ako um vidi čoveka, postavlja određene standarde, a raskorak u očekivanju stvara nelagodu. Sa druge strane, u čovekovoj prirodi je da humanizuje predmete i bića koja nisu ljudska, ali pokazuju malo ljudskih osobina. Um prepozna pojavu kao očigledno nečovekoliko biće, a onda bude privučen prisustvom ljudskih osobina koje je u tome zapazio. Tako će ljudska psihološka priroda nadopuniti njihov nedostatak sličnosti, i prihvatiti ga. Zato nam je pas blizak i čini nam se inteligentan, jer ga humanizujemo. Roboti kao što su C-3PO i R2-D2 izgledaju jako simpatično. Ne smeta nam što su samo 50% nalik nama.

sa7JG.jpg

 

Na slici su omiljeni junaci mnogima  roboti C-3PO i R2-D2

Crtani likovi, lutke i životinje su prilog tome. Ali, kad bi zamislili psa da je antropomorfniji, da stoji uspravno i da je ljudske visine, više nije prijatno zar ne?

Kad je robot 99% čovekolik, tako blizu da je skoro kao živ, mi ćemo se fokusirati na onih nedostajućih 1%. Primetićemo mlitavu ili previše zategnutu kožu ili odsustvo prirodnog sjaja u očima. Nivo naše empatije koji je bio na usponu, naglo pada dole u ponor – u sablasnu dolinu. Paradoksalna tačka u kojoj je simulacija života tako dobra, da je to loše.

Šta je u korenu osećaja koji proizilazi iz “sablasne doline”? Prirodna čovekova tendencija da se plaši smrti. Mori smatra da je suština ovog fenomena prikazan strelicom -  pad zdravog čoveka u „dolinu”. Kada čovek umre, odjednom se njegov manjak pokreta i bledilo tena smatra jezivim i on sa vrha pada u ponor doline, ali u ponor bez faktora pokreta.

Prema jednom istraživanju koje je rađeno da istraži ovu mogućnost, grupa ispitanika je gledala slike čovekolikih bića. Učesnici su bili uznemireni, i tražili su objašnjenja koja su ih umirivala i tešila, ista reakcija koja se dešava u procesu suočavanja sa realnošću umiranja. Da li je naučno dokazano postajanje “sablasne doline”?

Utvrđeno je da se doživljaj “sablasne doline” pojavljuje, ali da neprijatan osećaj ne treba pripisati stepenu realizma, per se. Zaključeno je da se neprijatnost može javiti ako su određene vizuelne karateristike, neprikladne za nivo realizma na kom su, npr. prevelike usne ili oči. Tako da povećanje stepena realizma bez menjanja prenaglašenih karakteristka dovodi do još većeg neprijatnog doživaljaja.

Uglavnom se istraživanja baziraju na ocenjivanje doživljaja na ponuđene slike na kojima se postepeno ukrštaju slike realnih ljudi sa crtanim likom, CG (eng. Computer generated – 3d likovi) i slikom robota. Glavni problem je što rezultati variraju u zavisnosti od ponuđenih slika u istraživanju. Percipiranje likova sa fotografija bilo animiranih ili CG likova je drugačiji nego kontakt sa androidnim robotom tako da istaživanja ovog tipa sa slikama i ličnim doživljajima ispitanika nisu potpuna.

Međutim u istraživanjima ljudskog mozga, nađena je aktivnost u parijetalnom korteksu, delu mozga koji sadrži ogledalo neurone (eng. Mirror neurons). Ove ćelije se aktiviraju kad čovek posmatra akciju koju neko drugi izvodi kao i kada čovek sam izvršava tu radnju. Veruje se da ovi neuroni kreiraju svest, zaduženi su za idenfitifkaciju sa drugima a samim tim i sa samim sobom. Na primer – pijenje vode i gledanje nekog kako pije vodu aktivira iste mirror neurone.

 

dBJts.jpg

 

 

Neuroni ogledala u ljudskom mozgu

Neuronaučnici smatraju da mozak upravo ovu grupu neurona aktivira kad je u kontaktu sa antropomorfnim robotima. U istraživanju je pokazano da dok posmatramo robota koji je 50% čovekolik, neuroni ogledala se ne “uključuju”. Međutim, kad dizajn robota dostigne tačku realizma toliko da prevari naš mozak, “pale” se ogledalo neuroni i mi njegov izgled i pokrete upoređujemo sa našim. Neusklađenosti sa ljudskim pokretima je kontradiktoran sa njegovim ljudskim izgledom koji aktivira ogledalo neurone. Ova pukotina u očekivanju je okidač za osećaj “nešto nije kako treba”.

Postavlja se pitanje zašto je naš mozak opremljen ovim instiktom? Doživljaj odbojnosti je deo instikta koji nas štiti od entiteteta kojima možemo prići blizu.Odgovor može biti u našoj sposobnosti da se identifikuju i izbegavaju ljudi koji boluju od zaraznih bolesti, mentalnih ili fizičkih problema, koji mogu biti opasni. Ovo nije stvar ukusa, niti estetike, već deo instikta, koji je od velike važnosti za opstanak vrste. Naša koncepcija lepote i ružnoće sadrži socijalne implikacije koje se protežu daleko u prošlost osnovnog impulsa fizičke privlačnosti, u službi održavanja vrste.

Koliko je ovaj koncept značajan? U današnje vreme fenomen “sablasne doline” dobio je i zaslužio mnogo pažnje, zanima i dizajnere robota, CG (eng. Computer generated) likova za video igre i filmove, animiranih likova, sociologe, psihologe, neuronaučnike isl. Puno se dobija ako se u svetu dizajna animiranih likova i robota zna unapred kako će publika da reaguje. Skaliranjem ovog osećaja moglo bi se tačno znati kako će publika prihvatiti određen dizajn robota.  Ili npr. u skladu sa žanrom flma moći će da se napravi CG biće za koje će se tačno izračunati koji procenat realnosti da bude i kakav recimo odnos čula i realizma da bude da bi izazvao određene psihološke doživljaje.

Što se tiče dizajna robota vodi se žustra polemika da li će „sablasna dolina” biti preskočena i da li je to uopšte potrebno. Ako i bude, hoće li roboti biti prihvaćeni kao nama ravni? Ili umesto da imitiramo čoveka, možemo se truditi da ga unapredimo u – kiborga (eng. cyborg). Npr. Prostetički delovi mogu biti od metala, mnogo jači od ljudskih ili u različitim bojama, više kao modni dodatak.

Mnogo truda se ulaže u pravljenje robota, međutim kad budu potpuno nalik nama da li će nam biti zanimljivi? Zar nije mnogo zanimljivija ideja da čovek ugradi poboljšanja kao što su krila, metalni skelet, unapređenje čula, da prevaziđe fundamentalna ljudska ograničenja sjedinjujući se sa tehnologijom od druženja sa 100% čovekolikim robotom? Da li će čovek budućnosti  sa ugrađenim robotičkim delovima - kiborgizazvati isti osećaj kao i 100% antropomorfni roboti?

d24S3.jpg

Kiborg

 

 

Možda su koraci da se dođe do čovekolikog robota, neophodni da se pređu da bi nastao robotizovan čovek.

 Zasad ostaje nam da napravimo jedan važan korak, korak preko sablasne doline.

 

 *** Ovaj tekst je originalno napisan za portal Q-sphere, ali odlučili smo da ga i ovde postavimo. Q-sphere portal ce se zvanično pojaviti za par nedelja, pa je ovo prilika da steknete makar mali utisak o njegovom buducem sadrzaju.

 

 

 

 



Komentari (122)

Komentare je moguće postavljati samo u prvih 7 dana, nakon čega se blog automatski zaključava

expolicajac expolicajac 09:48 16.09.2012

Ima nade

Da ovakve robopolicajke reše problem kriminala u Srbiji.
alselone alselone 10:47 16.09.2012

Re: Ima nade

expolicajac
Da ovakve robopolicajke reše problem kriminala u Srbiji.


Uz takvu policajku ide ovakav ex:

mariopan mariopan 09:57 16.09.2012

..

Obožavala sam film "Džoni 5" o robotu kog zvekne munja i koji dobije sposobnost da oseća i reaguje kao čovek. U drugom delu filma je "postao čovek", tj priznato mu je da nije mašina i prestali su da ga proganjaju.

U relanom životu osetila sam kako je to kada se rukuješ sa protezom koja nema toplinu i čvrstoću ruke. Svaki napor da se izmisle i proizvedu najsličnije zamene za izgubljene udove je dar za čovečanstvo.

Daleko smo od toga da se ceo čovek napravi i da reaguje kao živo stvorenje, ali u budućnosti - sasvim je moguće.

Na priloženim slikama se još uvek odmah vidi koje je lutka a ko je živ čovek.

Meni uopšte nije zanimljivo niti je potrebno da liče na nas, više poštujem napore da rade ono što im je zadatak, a da liče moraju samo oni koji zamenjuju neki deo ljudskog tela (oko, uho, noga, ruka...)
nsarski nsarski 10:46 16.09.2012

Re: ..

Meni uopšte nije zanimljivo niti je potrebno da liče na nas, više poštujem napore da rade ono što im je zadatak, a da liče moraju samo oni koji zamenjuju neki deo ljudskog tela (oko, uho, noga, ruka...)


Dobro, to je OK, ako imas robota koji pravi automobile, ili farba ogradu. Ali, robot/robotica koji/ja ti radi po kuci (ono, francuska sobarica itajrad), posluzuje kafu...hm, nesto vise ljudskog oblicja bi zgodno doslo.
alselone alselone 10:49 16.09.2012

Re: ..

Meni uopšte nije zanimljivo niti je potrebno da liče na nas, više poštujem napore da rade ono što im je zadatak,


U jednom momentu ce im zadatak biti da jako lice na nas pa da se druzimo...
dragan7557 dragan7557 11:00 16.09.2012

Re: ..

nasarski:
robot/robotica koji/ja

Aloooooooo, bre eeeeeeeeee!

Blog o Rakiji je kod Mikelea!

Kud se ti zaputio? A bome fali ti robotče.

cerski
mariopan mariopan 11:28 16.09.2012

Re: ..

Ali, robot/robotica koji/ja ti radi po kuci (ono, francuska sobarica itajrad), posluzuje kafu...hm, nesto vise ljudskog oblicja bi zgodno doslo.

Ili neki zgodan tip koji briše prašinu po kući samo u kupaćim?
Naravno da se slažem.

()
mariopan mariopan 11:30 16.09.2012

Re: ..

alselone
Meni uopšte nije zanimljivo niti je potrebno da liče na nas, više poštujem napore da rade ono što im je zadatak,


U jednom momentu ce im zadatak biti da jako lice na nas pa da se druzimo...

Mislsiš ono, sedi robot u fotelji, digao noge na astal i cevčite pivo zajedno?

Teško mogu da zamislim, ali podržavam.
alselone alselone 11:43 16.09.2012

Re: ..

Mislsiš ono, sedi robot u fotelji, digao noge na astal i cevčite pivo zajedno?


Vise mislim ono, sedi robot pored usamljenog i otudjenog gradjanina/ke i slusa probleme, savetuje i nudi rame za plakanje.
dragan7557 dragan7557 11:46 16.09.2012

Re: ..

nsarski 11:46 16.09.2012
Re: ..

Meni uopšte nije zanimljivo niti je potrebno da liče na nas, više poštujem napore da rade ono što im je zadatak, a da liče moraju samo oni koji zamenjuju neki deo ljudskog tela (oko, uho, noga, ruka...)



Dobro, to je OK, ako imas robota koji pravi automobile,

Pa dobro Nenade gde postoji/e robot/i koji pravi automobile?

cerski

dragan7557 dragan7557 11:48 16.09.2012

Re: ..

mariopan
Ali, robot/robotica koji/ja ti radi po kuci (ono, francuska sobarica itajrad), posluzuje kafu...hm, nesto vise ljudskog oblicja bi zgodno doslo.

Ili neki zgodan tip koji briše prašinu po kući samo u kupaćim?
Naravno da se slažem.

()


Ja imam jednog što usisava, i mogu ti reći da radi dobro, prašinu ne briše ali valjadi će i to naučiti?

cerski
alselone alselone 11:53 16.09.2012

Re: ..

Ja imam jednog što usisava, i mogu ti reći da radi dobro, prašinu ne briše ali valjadi će i to naučiti?



Ide malopre razgovor:
majselona: zasto ovaj dragan ima to "cerski" na kraju svakog komentara?
alselone: ignore him for now, kasnije ce ti biti hilarious.
mariopan mariopan 12:01 16.09.2012

Re: ..

alselone
Mislsiš ono, sedi robot u fotelji, digao noge na astal i cevčite pivo zajedno?


Vise mislim ono, sedi robot pored usamljenog i otudjenog gradjanina/ke i slusa probleme, savetuje i nudi rame za plakanje.



Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?
alselone alselone 12:19 16.09.2012

Re: ..

Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?


Uopste se ne salim. Mislim da ce to biti vec za jednocifren broj godina.

Probaj ovo sto vec danas postoji. <- LINK
mirelarado mirelarado 12:27 16.09.2012

Re: ..

Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?


Ма, то још и некако... Гадно је кад замислимо да се могу отети контроли, што је још један у низу људских страхова, настао, чини ми се, као новија, модерна верзија страха од аждаја, змајева, караконџула...



WestWorld
mariopan mariopan 12:34 16.09.2012

Re: ..

alselone
Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?


Uopste se ne salim. Mislim da ce to biti vec za jednocifren broj godina.

Probaj ovo sto vec danas postoji. <- LINK


Nisam ni znala da to već postoji, pa gde ja živim? Za jednocifren broj godina? Fantastično.

Stvarno je lepo zamisliti tako nešto.

edit
Mirela

Moooožda bi i strahovi bili pod kontrolom, kada bi izmislili neko penkalo, kao ono koje imaju "Ljudi u crnom" pa da bljesne i sve strahove i karakondžule da zaboravimo?
kaolavanda kaolavanda 13:45 16.09.2012

Re: ..

alselone
U jednom momentu ce im zadatak biti da jako lice na nas pa da se druzimo...

O, moj Bogo! Šta ti je čovek.. sve ga više na ovoj izanđaloj Planeti lepojki, a sve usamljeniji. Glupi smo. Ljuta sam.

Btw, objašnjenje koje Majselona :) dade, da bi se ta jeza koju osećamo pri kontaktu (vizuelnom, taktilnom, svjedno) sa robotima ljudskog lika, mogla povezati sa strahom od smrti, meni zvuči najlogičnije. Možda isped tog straha istrči strah od nepoznatog (ona priča o odstupanju grimase od očekivane.. čitaj ljudske), ali, i taj strah u pozadini krije strah od smrti.

Sada ću staviti link koji krije nešto što može jako uznemiriti svakoga ko ga otvori. Ne šalim se. To je fotografija oka pokonika, ali vrlo krupan kadar. Suštinski - oko k'o oko.. al' za malo! Kad sam prvi put ugledala tu fotografiju, nisam znala šta gledam, al' sam osetila užasnu jezu (instinkt?). Da ne govorim kako sam se osetila kad sam pročitala da to što gledam jeste to.
Evo linka ozbiljno nije prijatan prizor!!

I samo još nešto.. jednom sam crtala Vilinog konjica, kog sam našla u nekoj šetnji. Bio je polumrtav, a ja sam mislila skroz . Crtala ga tako ceo dan, i onda, posle nekoliko sati, poče da mu se trese krilce.. tako 5, 6 minuta.. sve po malo.. crtam, ne prestajem. U jednom momentu - mir. Uginu konjic, ali šta? Oko... ljudi, kako je to oko postalo prazno.. odjednom.. kao crna rupa, puna ničega. Eto, baš tako. Svejedno, bila je to divna serija crteža.

Al' sam se raspisala..

Dodala:
Ide malopre razgovor:
majselona: zasto ovaj dragan ima to "cerski" na kraju svakog komentara?
alselone: ignore him for now, kasnije ce ti biti hilarious.

blogovatelj blogovatelj 14:18 16.09.2012

Re: ..

Aloooooooo, bre eeeeeeeeee!

Blog o Rakiji je kod Mikelea!

Kud se ti zaputio? A bome fali ti robotče.


Kiborg se od samog starta oteo kontroli i poceo da vlada blogom.
nsarski nsarski 14:24 16.09.2012

Re: ..

alselone
Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?


Uopste se ne salim. Mislim da ce to biti vec za jednocifren broj godina.

Probaj ovo sto vec danas postoji. <- LINK

Pre 30 godina, kad nije bilo Windows-a, video sam program koji imaitira psihoanaliticara. Prilicno banalan, ali radi. Ljudi se palili. Ide ovako. Ti ga startujes, i on kaze:

Psycho: "Dobar dan, na sta se zalite?"
Ti: Pa, osecam se nesrecno, malo tuzno.
Psycho: Kazete da se osecate tuzno. O cemu se radi?"
Ti: Imam problema u porodici, muz (zena) me zapostavlja.
Psycho: Dobro, to nije strasno. Kako vas zapostavlja?


itd.
U sustini, program samo "odjekuje" vase recenice u upitnom nacinu. Imate utisak da sa nekim zaista razgovarate. Kad razgovor stane, Psycho pita: "Pricajte mi o vasem detinjstvu", itd. Sve zajedno, ljudi mislili da je zaista iza ekrana neki zivi stvor.
maksa83 maksa83 15:32 16.09.2012

Re: ..

Pre 30 godina, kad nije bilo Windows-a, video sam program koji imaitira psihoanaliticara.

Da, čuvena ELIZA, u međuvremenu je iz zezanja napravljena u Emacs lispu i tako ugrađena i u Emacs editor.

Ko je na nekoj Unixolikoj (*) platformi (Linux, OSX) može da pokrene Emacs, pritisne <ESC> x i otkuca 'doctor' i moći će da priča sa njim.

(*) Emacs postoji i za Windows, ali mora da se pojuri i doinstalira.

(Alternativno, umesto 'doctor' otkucaš 'tetris' i onda možeš da igraš tetris. Ne kažu ljudi džabe - Emacs je sjajan operativni sistem, samo mu fali dobar editor)

Sve zajedno, ljudi mislili da je zaista iza ekrana neki zivi stvor.

Ja sam naletao i na ljude koji ne bi prošli Tjuringov Test.
Vesna Knežević Ćosić Vesna Knežević Ćosić 15:34 16.09.2012

Čapek

U jednom momentu ce im zadatak biti da jako lice na nas pa da se druzimo.


Da su roboti najveća čovekova projekcija, potkrepilo je i dvestotinak brodvejskih izvođenja Čapekove melodrame iz života "tih divnih stvorenja", čiji primerci, čak i kada više liče na odvratne paukove, džinovske skakavce, ili kolica, podržavaju legendu o tehnologiji sa ljudskim likom.

Uostalom, nije zez, neke robotske naprave zaradile su i prave mrlje u biografiji, ušetavši u policijske dosijee, poput "Drink Caddy-a 2" kojeg su kao aktera incidenta na Beverli Hilsu 1982. godine uhapsila dva policajca zbog ilegalnog deljenja posetnica na javnom mestu.

Kada su pokušali da ga isključe, robot je bežao i urlao: "Upomoć! Pokušavaju da me rastave!"
nsarski nsarski 15:42 16.09.2012

Re: ..

Da, čuvena ELIZA, u međuvremenu je iz zezanja napravljena u Emacs lispu i tako ugrađena i u Emacs editor.

Ja mislim da na tu foru rade i ovi razni astrotarotolozi sa TV kojima se javlja.

"Aha, javlja mi se da ce vasa sestra...vi imate sestru, zar ne?"
"Nemam sestru, imam tetku."
"Da, imate pravo, vasa tetka da se ubrzo uda za milionera...da li neko takav postoji u njenom drustvu, medju poznanicima, prijateljima, prolaznicima...?"
"Ne, koliko znam."
"Dobro, proverite...mozda prolaznik..."

I, jbt., za to uzimaju kintu!
maksa83 maksa83 15:44 16.09.2012

Re: ..

I, jbt., za to uzimaju kintu!

A Emacs skroz dž.!
alselone alselone 21:15 16.09.2012

Re: ..

kaolavanda



Ovo je stvarno super primer. Toliko je duboko ovo prepoznavanje oka da ne mogu da odredim sta mi smeta na ovoj slici ali osecam nelagodu.
alselone alselone 21:20 16.09.2012

Re: ..

nsarski
alselone
Da manemo šalu, misliš li zaista da će jednom biti izmišljeni roboti koji će moći da shvate tanana ljudska osećanja i da ponude rame za plakanje, da osete da ljudima u tom trenutku to treba, i da znaju šta je to, šta se odivija u čoveku koji plače?


Uopste se ne salim. Mislim da ce to biti vec za jednocifren broj godina.

Probaj ovo sto vec danas postoji.
Pre 30 godina, kad nije bilo Windows-a, video sam program koji imaitira psihoanaliticara. Prilicno banalan, ali radi. Ljudi se palili. Ide ovako. Ti ga startujes, i on kaze:

Psycho: "Dobar dan, na sta se zalite?"
Ti: Pa, osecam se nesrecno, malo tuzno.
Psycho: Kazete da se osecate tuzno. O cemu se radi?"
Ti: Imam problema u porodici, muz (zena) me zapostavlja.
Psycho: Dobro, to nije strasno. Kako vas zapostavlja?K


itd.
U sustini, program samo "odjekuje" vase recenice u upitnom nacinu. Imate utisak da sa nekim zaista razgovarate. Kad razgovor stane, Psycho pita: "Pricajte mi o vasem detinjstvu", itd. Sve zajedno, ljudi mislili da je zaista iza ekrana neki zivi stvor.



Uz fazi logiku, ekspertke sisteme i pattern recognition sa ovako kvalitetnim dosetkama i popunjenom bazom siguran sam da bi softver cak mogao da daje vrlo dobre savete. U sledecem broju citajte o AI dostignucima na prepoznavanju i razumevanju recenica pa cak i pitanja.
Milan Novković Milan Novković 10:07 16.09.2012

Lutke po robnim kućama

Meni su uvek smetale kad su mi u periferom vidu i kad im priđem jako blizu, recimo na metar ili bliže!

Oseti se da nije živo, a "trebalo" bi da bude, valjda
nsarski nsarski 10:11 16.09.2012

Re: Lutke po robnim kućama

Lutke po robnim kućama
Meni su uvek smetale kad su mi u periferom vidu i kad im priđem jako blizu, recimo na metar ili bliže!

Oseti se da nije živo, a "trebalo" bi da bude, valjda


Iz "pristojnosti" ili "morala", valjda, u americkim robnim kucama, u izlozima, skoro je nemoguce videti svucene lutke-manekene. Obavezno ih pokriju necim dok im ne promene garderobu. Meni je ta njihova fobija uvek delovala bizarno.
alselone alselone 10:50 16.09.2012

Re: Lutke po robnim kućama

Milan Novković
Meni su uvek smetale kad su mi u periferom vidu i kad im priđem jako blizu, recimo na metar ili bliže!

Oseti se da nije živo, a "trebalo" bi da bude, valjda


Po istom metodu se ljudima vise svidjaju stari Diznijevi crtani nego nrp. Final fantasy. Obicno se kaze da ono staro "ima dusu".
blue92 blue92 11:03 16.09.2012

Re: Lutke po robnim kućama

Iz "pristojnosti" ili "morala", valjda, u americkim robnim kucama, u izlozima, skoro je nemoguce videti svucene lutke-manekene.


bogami, ovde kod mene, tog "morala" uopste nema
ne samo da ih ne pokrivaju, nego ih rasčerečene izlože pogledu moje kamere
(pre neki dan)

nsarski nsarski 11:05 16.09.2012

Re: Lutke po robnim kućama

bogami, ovde kod mene, tog "morala" uopste nema
ne samo da ih ne pokrivaju, nego ih rasčerečene izlože pogledu moje kamere
(pre neki dan)

U kombiju...A u izlozima?
blue92 blue92 11:09 16.09.2012

Re: Lutke po robnim kućama

isto (dok recimo menjaju robu u izlogu)
toliko puta videla.

i jos, na ulici cesto stoji samo donji deo lutke,
posto skinu te pantalone (ako pada kisa, il zatvaraju radnju)

i ne samo to. taj "donji deo" je cesto vezan lancem.. da "ne dobije noge"
mada mi nije jasno sta ce to nekome...



nsarski nsarski 11:11 16.09.2012

Re: Lutke po robnim kućama

E, ti si onda iz naprednijih krajeva. Moje iskustvo je sa ljutog Midwest-a (juznog). Bible belt, zapravo.
dragan7557 dragan7557 11:13 16.09.2012

Re: Lutke po robnim kućama

nsarski 11:11 16.09.2012
Re: Lutke po robnim kućama

Lutke po robnim kućama
Meni su uvek smetale kad su mi u periferom vidu i kad im priđem jako blizu, recimo na metar ili bliže!

Oseti se da nije živo, a "trebalo" bi da bude, valjda



Iz "pristojnosti" ili "morala"
,

Ni jedno ni drugo, običaj pokrivanja nogu čak i od stolova i stolica nastao je za vreme kraljice Viktorije a negde u po provincijama Komonvelta se zadržao i danas.

Uzgred i nošenje crnine prilikom smrti je viktorijansaka zaostavšina "civilizacije,"

cerski
Vesna Knežević Ćosić Vesna Knežević Ćosić 15:38 16.09.2012

Patak

Iz "pristojnosti" ili "morala", valjda, u americkim robnim kucama, u izlozima, skoro je nemoguce videti svucene lutke-manekene. Obavezno ih pokriju necim dok im ne promene garderobu. Meni je ta njihova fobija uvek delovala bizarno.


Hehe, jedan od najpoštovanijih automata 18. veka bio je hiper realistični Vaucansonov patak, što pliva, gladi perje, jede, kaki... mož'se reći da je pridobio "srce i divljenje cele Evrope", ALI, demostrirajući probavni sistem ludog patka, autor mu je oblačio suknjicu, e da bi zaštitio ćudoredne osećaje nežnih i radoznalih dama:)
mnenadic mnenadic 10:24 16.09.2012

Čitajući ovaj sjajni tekst

ne mogu da odolim a da ne spomenem profesora Rajka Tomovića, koji je šezdesetih godina prošlog veka, među prvima konstruisao veštačke ruke i noge. Na tom polju bio je pionir kod nas, a bogami i šire. Dokle su stvari stigle lepo se vidi iz ovog bloga.
alselone alselone 10:51 16.09.2012

Re: Čitajući ovaj sjajni tekst

Čitajući ovaj sjajni tekst


Hvala.
barese barese 19:22 16.09.2012

Re: Čitajući ovaj sjajni tekst

Na tom polju bio je pionir kod nas, a bogami i šire.


Svojevremeno je Wired objavio intervju jednog Amera koji je radio sa Tomovicem.
niccolo niccolo 10:27 16.09.2012

Dobar tekst

Osmeh se sastoji iz niza sekvenci facijalne deformacije kod koje je brzina izvođenja ključna. U pokušaju da napave robota koji se smeje njegov izraz lica je bezmalo jeziv i podseća na psa koji reži dok pokazuje zube

Da li je uopšte moguće isprogramirati mašinu da izvede sve te pokrete koji se javljaju kod ljudskog smeha (plus zvuk)?

Ova pukotina u očekivanju je okidač za osećaj “nešto nije kako treba”.
Postavlja se pitanje zašto je naš mozak opremljen ovim instiktom?

Pa valjda da bi prepoznao potencijalnu opasnost - ako "nešto nije kako treba" treba postati oprezan i spreman da reaguješ u slučaju da postane jasno da si u opasnosti...
Milan Novković Milan Novković 10:37 16.09.2012

Re: Dobar tekst

Da li je uopšte moguće isprogramirati mašinu da izvede sve te pokrete koji se javljaju kod ljudskog smeha (plus zvuk)?

Algoritamski, verovatno, nije (što podrazumeva i "jeste" al uz previše truda).

Pa će to da doradi heuristika (algoritamsko programiranje plus herusistika kao process isprogramirana meni uglavnom NIJE programiranje - tj radi se više o "đavolskim" silama
alselone alselone 10:52 16.09.2012

Re: Dobar tekst

Da li je uopšte moguće isprogramirati mašinu da izvede sve te pokrete koji se javljaju kod ljudskog smeha (plus zvuk)?


Nije. Jos uvek sa "obicnim" recima i pogotovo recenicama postoji problem pri izgovoru a smeh je veoma daleko. Pogotovo "iskren" smeh.
blue92 blue92 10:31 16.09.2012

zvezdanim stazama


Mr. Data



android koji je radoznao i koji radi "na sebi"


inače, mislim da je to budućnost koja nas čeka iza vrata.





Milan Novković Milan Novković 10:39 16.09.2012

Re: zvezdanim stazama

inače, mislim da je to budućnost koja nas čeka iza vrata.

Tu je, tu je, super-kompjuterski kapaciteti u već iza vrata i navalili, ne čekaju, "algoritmi" još čekaju ...

... i onda šačica vremena i eto i "pameti"
alselone alselone 10:46 16.09.2012

Tekst je zapravo pisala

g-dja alselone, ali softver nesto baguje pa nismo u mogucnosti da otvorimo jos jedan blogonalog.

Tjah. <_<
nsarski nsarski 10:50 16.09.2012

Re: Tekst je zapravo pisala

g-dja alselone, ali softver nesto baguje pa nismo u mogucnosti da otvorimo jos jedan blogonalog.


Naci, alse the ventriloquist
alselone alselone 10:52 16.09.2012

Re: Tekst je zapravo pisala

Naci, alse the ventriloquist



Taj rad.
nsarski nsarski 10:57 16.09.2012

Re: Tekst je zapravo pisala

alselone
Naci, alse the ventriloquist



Taj rad.


Pa, pusti zenu da nastupa kao alselone* (alse sa zvezdicom) dok se ne osamostali.
alselone alselone 10:58 16.09.2012

Re: Tekst je zapravo pisala

Pa, pusti zenu da nastupa kao alselone* (alse sa zvezdicom) dok se ne osamostali.


Fusnota je izgubljena bitka.
Eto nje brzo, samo da potrosi baterije jednom robotu pa da ga stavimo u krevetac na punjac.
Milan Novković Milan Novković 11:17 16.09.2012

Re: Tekst je zapravo pisala

alselone
g-dja alselone, ali softver nesto baguje pa nismo u mogucnosti da otvorimo jos jedan blogonalog.

Tjah. <_<

Lepša i pametnija polovina, nači, ode naš lepi Y hromozom u istorijsku prašinu
dragan7557 dragan7557 11:22 16.09.2012

Re: Tekst je zapravo pisala

Milan Novković:
ode naš lepi Y hromozom u istorijsku prašinu

Vala ničem i nije služio!

cerski
alselone alselone 11:26 16.09.2012

Re: Tekst je zapravo pisala

alselone

Eto nje brzo, samo da potrosi baterije jednom robotu pa da ga stavimo u krevetac na punjac.


Evo i mene, a baterije je nasem roboticu nemoguce potrositi.


Majselona*
alselone alselone 11:42 16.09.2012

Re: Tekst je zapravo pisala

Milan Novković


Lepša i pametnija polovina, nači, ode naš lepi Y hromozom u istorijsku prašinu


Hvala! Nije Y hromozom bas za bacanje, sta ce onda da prenosi dlakavost usiju, to mu jedna od bitnijih funkcija

Majselona*
maksa83 maksa83 13:55 16.09.2012

Re: Tekst je zapravo pisala

g-dja alselone, ali softver nesto baguje pa nismo u mogucnosti da otvorimo jos jedan blogonalog.

Meni je odmah bilo čudno što tekst ima naša slova.

Gospođi bravo za tekst!
kaolavanda kaolavanda 13:57 16.09.2012

Re: Tekst je zapravo pisala

Eto nje brzo, samo da potrosi baterije jednom robotu pa da ga stavimo u krevetac na punjac.

milisav68 milisav68 11:26 16.09.2012

no future :)



Pozdrav za g-dju alselone!
alselone alselone 11:37 16.09.2012

Re: no future :)

milisav68


Pozdrav za g-dju alselone!



Hvala!


Majselona*
niccolo niccolo 12:56 16.09.2012

Re: no future :)

Majselona*

pa ti i na blogu uzela njegovo prezime
espale espale 11:27 16.09.2012

Odlican tekst!

Ja sam imala priliku da, kao student, prisustvujem obdukcijama. Interesantno je koliko , ne samo sama smrt, vec i nacin smrti, uticu na `nivo sablasnosti`. Bar moj
Na vezbama iz sudske medicine koja se bavi utvrdjivanjem uzroka nasilnih smrti (ubistava, samoubistava), cak iako je les bio bez znakova nasilja, svi smo bili uplaseni da pridjemo, za razliku od anatomo-patoloske obdukcije koja utvrdjuje uzroke prirodne smrti i generalno se radi o starim osobama.
Interesantan je i momenat navikavanja na takve slike. Da li bismo se manje sablaznjavali ako bismo svakog dana bili okruzeni robotima koji su isti kao mi?
Vird staf.
dragan7557 dragan7557 11:34 16.09.2012

Re: Odlican tekst!

espale 12:27 16.09.2012 / *novo
Odlican tekst!
Ja sam imala priliku da, kao student, prisustvujem obdukcijama. Interesantno je koliko , ne samo sama smrt, vec i nacin smrti, uticu na `nivo sablasnosti`. Bar moj

Smrt je kao i rođenje najvažniji događaj u ljudskom životu. Oba događaja imaju svoj neverovatan čar, lepotu i magičnu privlačnost.

cerski
espale espale 20:30 16.09.2012

Re: Odlican tekst!

I nijednog nismo svesni
blue92 blue92 11:28 16.09.2012

Ja, Robot - I, Robot

i gorespomenuti Mr Data i ovaj Robot iz filma

imaju jasno izraženu percepciju sebstva/sopstva/Jaa
što ih izdvaja od "običnih robota" za recimo usisavanje prašine
jer oni su u stanju da prave izbor, tj. imaju Slobodnu Volju

već sam naslov upućuje na suštinu (nama još uvek Sablasnog)
kako može Robot da ima JA ?

mnoga su iznenadjenja pred nama.
Kazezoze Kazezoze 12:04 16.09.2012

Re: Ja, Robot - I, Robot

kako može Robot da ima JA ?

da, to može biti jako nezgodno.

evo, naprimer, jedan moj drugar otvorio praonicu auta.
kupio sve što mu treba, znači robota sa svim onim četkama, spužvama i sl.
doveo programera da mu to sve ispogramira, platio ga debelo i sve je izgledalo uredu dok nije svečano otvorio praonicu.

prvo auto koje je ušlo je naišlo na probleme...izašlo je a da ga one četke nisu ni dotakle, dakle prljavo kao što je i ušlo.
i tako svako naredno auto.

kad su pozvali programera da otkloni grešku, ispostavilo se da je on u program umesto "praonica" ukucao "auto praonica", i ovaj je umesto automobila prao sam sebe, to jest praonicu.
tako ti je to kad robot ima svoje Ja.
espale espale 11:30 16.09.2012

Oh, da!

I jedan TED talk koji sam odavno slusala:

[url=http://www.ted.com/talks/lang/en/vs_ramachandran_the_neurons_that_shaped_civilization.html][/url]
docsumann docsumann 11:45 16.09.2012

dok je robot radio, čovjek je svirao ...

alselone alselone 11:46 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

dok je robot radio, čovjek je svirao ...


kao cvrcak i mrav. Zato ce nas i pobediti. Eto najave za moj sledeci blog.
stefan.hauzer stefan.hauzer 12:12 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

Zato ce nas i pobediti.

mora da se šališ?
pa nije se džaba švarceneger potopio u užarenu masu u terminatoru2/nego da spase ljude!!

*mada... ako će biti ko roy batty/ne bih se bunio:)

alselone alselone 12:15 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

mora da se šališ?


Uopste ne. Citamo se za nedelju dana.
Spremi neku muzicku podrsku, ako imas vremena.
stefan.hauzer stefan.hauzer 12:23 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

muzicku podrsku

iz kuhinje radosti:)


*

milisav68 milisav68 12:34 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

alselone

Spremi neku muzicku podrsku


docsumann docsumann 13:28 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

Vesna Knežević Ćosić Vesna Knežević Ćosić 15:44 16.09.2012

filmska zvezda

nije se džaba švarceneger...


Kada je filmska zvezda, danas već legendarni Proteus IV, super kompjuter sa dodacima prisilio Džuli Kristi (kojoj beše dodeljen za kućanske poslove) na potpunu i zastrašujuću seksualnu pokornost, računarska branša naprosto je procvetala od sreće.

"Kompjuter silovao Dž. Kristi? Nečiji ukus u Holivudu se, izgleda, popravlja, jer to je glavni zaplet MGM-ovog filma Demonsko seme."- pisao je Creative Computing, ne propustuvši priliku da upozori verne čitaoce:

"Sada, kada se i seks probio u svet kompjutera, bilo bi pametno da pretresete stav prema vašem računaru."
Vesna Knežević Ćosić Vesna Knežević Ćosić 15:47 16.09.2012

Re: dok je robot radio, čovjek je svirao ...

iz kuhinje radosti:)


Svojevremeno je čak je i preduzimljivi Hju Hefner zabatalio Zečice okruživši se momcima od pleksiglasa preduzetnika Džina Bejlija i firme "Androidska zabava", čiju minornu spoljašnost, nalik kanti za đubre, nisu vadile ni opcije pevanja, služenja pića i fleksibilnog torokanja:)
maksa83 maksa83 15:48 16.09.2012

Re: filmska zvezda

Nečiji ukus u Holivudu se, izgleda, popravlja

Taj ukus se popravljao i popravljao da bi od ovoga:



evoluliralo do ovoga:

mariopan mariopan 13:43 16.09.2012

..

Zaboravih da kažem da obožavam ovakve tekstove

I pomisao da nešto iz naučno fantastičnih filmova može postati stvarnost, kao što je deo onoga o čemu je pisao Žil Vern a danas je stvarnost.
blogovatelj blogovatelj 14:38 16.09.2012

Ovaj klip



Ovaj klip kaze da ce procesorska snaga superkompjutera do kraja ove godine godine biti veca od procesorske snage mozga a da ce sredinom ovog veka procesorska snaga kompjutera koji kosta $1000 biti veca od procesorske snage svih ljudskih mozgova planete.
Pretpostavljam onda da ce se planeta nasih unuka uveliko baviti problemom da se kiborzi ne otmu kontroli. I mi taj problem imamo na blogu sa cerskim. Ne mogu a da ne primetim da je veoma zahtevan posao obuzdati ga.
nsarski nsarski 14:45 16.09.2012

Re: Ovaj klip

blogovatelj
http://www.youtube.com/watch?v=vPO_HGafBsE&feature=player_embedded


Ovaj klip kaze da ce procesorska snaga superkompjutera do kraja ove godine godine biti veca od procesorske snage mozga a da ce sredinom ovog veka procesorska snaga kompjutera koji kosta $1000 biti veca od procesorske snage svih ljudskih mozgova planete.
Pretpostavljam onda da ce se planeta nasih unuka uveliko baviti problemom da se kiborzi ne otmu kontroli. I mi taj problem imamo na blogu sa cerskim. Ne mogu a da ne primetim da je veoma zahtevan posao obuzdati ga.

A pazi sad. Prvi organi napravljeni od ljudskih celija
Tissue engineers have succeeded in making artificial organs — bladders, windpipes — that use a patient’s own cells to become a living part of the body.
(Inzenjeri tkiva su uspeli da naprave vestacke organe - besike, dusnike - koje koriste celije pacijenta da postanu zivi deo organizma.)
blogovatelj blogovatelj 01:00 17.09.2012

Re: Ovaj klip

A pazi sad. Prvi organi napravljeni od ljudskih celija


Zamisli sta moze da se dobije kad naprave kolaz tih organa i iskombinuju sa kompjuterom pametnijim od coveka.

Vec su napravili mesavinu psa i mazge koja moze da vuce 180kg.

Vesna Knežević Ćosić Vesna Knežević Ćosić 15:30 16.09.2012

Poslednje godine velike ekonomske krize...

citiram alselonea: "Morijeva ideja glasi: što su roboti sličniji ljudima, privlače više simpatije"

:)

Metalni div "Electro" (dva i po metra visine, dužina stopala sa rupama za kablove 45 cm), nastao u Vestinghausu iz projekta Džozefa Barneta, izumitelja "Televoxa" (prvi iz serije mehaničkih ljudi koji govore i hodaju), sa rečnikom od 77 jednostavnih reči, poslednje godine velike ekonomske krize non-stop je brbljao zblanutom slušateljstvu o Vestinhauzovim napravama koje štede vreme, dok su inženjeri hvalili njegov mozak težak 30 kilograma, nakrcan sa 82 mehanička releja.

I dok se kabasti Electro provodio u društvu oduševljenih žena, trošeći svoje resurse od 26 raspoloživih pokreta, pušeći Kamel, te svetlucajući lampicama - penzija mu je već visila nad glavom. Robotska vremena tek su bila na pomolu, a zagrejani hobisti i strogi profesionalci, bacili su se na realizaciju sinteze i prepoznavanja govora, automatsku kompjutersku kontrolu i tehnologiju manipulatora. Ulaskom mikročipa na svetsku elektroničarsku scenu 1972, profitirali su i roboti. Pa su preko noći od trapavih kanti evoluirali u zgodne poslušnike što vredno zalivaju cveće, igraju ping-pong, nose đubre, kuvaju kafu i jure po ledu na malim triciklima.

Uzgred, prvog robota sa mikroprocesorskom kontrolom, napravio je gimnazijalac iz Nju Džersija, Tod Lufborou, postavši kasnih sedamdesetih prava zvezda među američkim hobistima.
grofdrax grofdrax 15:41 16.09.2012

jezik

Zanimljivo napisano, ali mislim da tekst treba malo doraditi.

Recimo, nije adekvatan prevod "ogledalo neuroni", vec valjda "ogledalski neuroni". Tako se bar prevodi i na druge jezike; eventualno bi islo "neuroni ogledala" mada je to po meni neprikladno (nisu to nikakva ogledala).

Dalje, pojedini pasusi su teski za citanje i razumevanje. Recimo:

"Zaključeno je da se neprijatnost može javiti ako su određene vizuelne karateristike, neprikladne za nivo realizma na kom su, npr. prevelike usne ili oči. Tako da povećanje stepena realizma bez menjanja prenaglašenih karakteristka dovodi do još većeg neprijatnog doživaljaja."

Drugu recenicu sam morao par puta procitati da bih shvatio sta znaci u kontekstu prve, jer mi je na prvi pogled izgledalo da znaci nesto sasvim suprotno.

Poradite malo na jeziku, mislim da se nsarski mnogo srecnije izrazava od gostujuceg autora - sto samo govori da je tesko pisati lepo o ovim temama, oni kojima je nauka bliska a koji lepo i jasno pisu nisu bas cesta pojava, ali uvek uz malo truda moze to lepse da zvuci. Nadam se da cete na to obratiti paznju na novom portalu, kako bi tekstovi bili sto kvalitetniji.
maksa83 maksa83 15:43 16.09.2012

Re: jezik

Zanimljivo napisano, ali mislim da tekst treba malo doraditi.

Mene lepe na plafon stilske i jezičke primedbe pisane na aproksimaciji srpskog korišćenjem samo 25 znakova engleske abecede.
snezana mihajlovic snezana mihajlovic 15:47 16.09.2012

Re: jezik

Mene lepe na plafon stilske i jezičke primedbe pisane na aproksimaciji srpskog korišćenjem samo 25 znakova engleske abecede.


docsumann docsumann 16:18 16.09.2012

Re: jezik

maksa
Mene lepe na plafon stilske i jezičke primedbe pisane na aproksimaciji srpskog korišćenjem samo 25 znakova engleske abecede.


maksa the kvaCHica!

mislim, treba vidjeti onaj citat-komentar kod dalija na istu temu ... urnebeŠ


maksa83 maksa83 16:35 16.09.2012

Re: jezik

maksa the kvaCHica!

Kol'ko plaćaš za sisanje i satiranje?

Ne, ozbiljno - piši kako hoćeš, ali za upućivanje stilskih/jezičkih primedbi klikni još tri puta i koristi sva slova. To je ufur.
mirelarado mirelarado 16:48 16.09.2012

Re: jezik

mislim, treba vidjeti onaj citat-komentar kod dalija na istu temu ... urnebeŠ


Тјааах, само шишање, без шатирања...

P.S. Ако сам добро упамтила, Далијев читач препознаје само енглеску латиницу, тако да бих је тамо чак и ја употребила.
alselone alselone 16:53 16.09.2012

Re: jezik

Recimo, nije adekvatan prevod "ogledalo neuroni", vec valjda "ogledalski neuroni". Tako se bar prevodi i na druge jezike; eventualno bi islo "neuroni ogledala" mada je to po meni neprikladno (nisu to nikakva ogledala).


Bome mirror neurons su i dobili ime jer se aktiviraju kako na delanje same jedinke tako i na isto delanje neke druge jedinke. Time oni uticu na kreiranje svesti, poimanje "ja" i "okolina"...
grofdrax grofdrax 17:32 16.09.2012

Re: jezik

Na internetu se izgleda najvise koristi naziv "neuron ogledalo", sto je verovatno logicnije od "ogledalo neuron"; prvo je neuron koji je po necemu kao ogledalo, a drugo bi bilo ogledalo koje po necem lici na neuron (recimo ogledalo u obliku neurona). Mada bi bukvalni prevod "mirror neuron" bio - ogledalski neuron, isto kao sto se "mirror symmetry" prevodi sa "ogledalska simetrija". Prevodioci na "TED talks" su recimo termin "mirror neurons" i preveli kao "ogledalski neuroni".

Sto se tice primedbi vezanih za kvacice, mislim da one mase poentu mog komentara. Tekstovi koje nsarski ovde prenosi su iz nekog novog Q-sphere portala, i u principu bi bilo dobro da budu doterani (doteraniji od bloga a pogotovu od komentara blogera), bas kao sto clanak za casopis ili novine treba da bude stilski doteran (mada cesto to nije). Dakle, ne moze se postaviti isti kriterijum za komentare, koji se pisu neformalno i na brzinu, gde je poenta u komunikaciji - i za clanke, koji su ocigledno napisani sa ciljem popularizacije nauke i gde bi dobro pisanje i lep stil bili od velikog znacaja. Slicno, ni B92 ne moze imati iste kriterijume za svoje novinare i clanke-vesti koje objavljuju na sajtu, komentare citalaca pa i blogove koji su neformalni i imaju drugu svrhu. Moj komentar je sa tacke gledista nekog ko bi takve tekstove na Q-sphere portalu citao, i slicno kao sto komentari/primedbe iz publike nekog koncerta na racun izvodjaca muzike ne moraju podrazumevati da publika treba da izvodi muziku onako kako to od izvodjaca ocekuje (retko ko u publici je i priblizno toliko vest), nije u istoj ravni sa samim tekstom za taj portal. Bio bi u istoj ravni sa drugim komentarima, recimo ako bi maksa83 zanovetao drugim blogerima/komentatorima o necem sto i sam cini, to je jedna stvar, ali vec ako je primedba na racun glavnog teksta, to je druga stvar, a pogotovu ako se radi o tekstu za jedan ozbiljniji portal za popularizaciju nauke - stvari nisu prosto uporedive. Mislim da se ti clanci ovde delom i prenose da se vidi reakcija publike, kao i da se popularise taj novi portal (naravno i za nasu dobrobit, ili zabavu, na cemu izrazavam zahvalnost); u tom kontekstu su i moje primedbe.

Inace, nekoriscenje kvacica u komentarima bloga ili po forumima na internetu je uobicajena stvar, koja se najcesce tolerise, kao i pravopisne greske (mala/velika slova itd) pa sve do lose gramatike (u tom redosledu sto se mene tice bar); vec se od glavnog teksta na blogu ocekuje malo vise truda jer je i znacaj teksta veci, a ako se hoce imati ozbiljan portal, onda je logicno teziti jos kvalitetnijim i doradjenijim tekstovima.
maksa83 maksa83 17:48 16.09.2012

Re: jezik

Bio bi u istoj ravni sa drugim komentarima, recimo ako bi maksa83 zanovetao drugim

Maksa će svaki put uredno zanovetati svakome ko upućuje stilske/jezičke primedbe a sam ne poštuje jezik dovoljno da zadovolji apsolutni minimum i koristi sva njegova slova.
grofdrax grofdrax 18:07 16.09.2012

Re: jezik

Ja lepo objasnih, ali ne vredi. dakle, nisam stavio primedbu na racun komentatora poput "maksa83" (ili "alselone" ili vec ko), cak ni na racun teksta/teme bloga, vec na racun teksta za portal Q-sphere. Po izvrnutoj logici "maksa83", niko ko sam ne vozi autobus (recimo ko ne vozi ni kola) ne bi trebalo da stavlja primedbe vozacu koji putnike tretira poput krompira. Ali neki mozda ne umeju, a mozda i ne zele da shvate.

"da zadovolji apsolutni minimum" - po cemu je koriscenje kvacica "apsolutni minimum" postovanja jezika? S ovim se apsolutno ne slazem, mislim da kvacice eventualno mogu biti necija licna opsesija, nesto sto pojedince izgleda mnogo moze da iritira, ali nazvati koriscenje kvacica "apsolutnim minimumom postovanja jezika" u najmanju ruku je izuzetno pristrasno. I govori o elementarnom nedostatku tolerancije u neformalnoj komunikaciji putem interneta (za razliku od teznje/zelje da kvalitet tekstova koji popularisu nauku bude sto veci - ali, tu se vracamo na pocetak, i mogucnost da se izmedju ove dve stvari napravi razlika).
Milan Novković Milan Novković 19:13 16.09.2012

Re: jezik

grofdrax

Evo nekoliko objašnjenja (ja sam iz Q-Sphere ekipe - malim delom pri IT ekipi, a još manjim pri ostalom):

- Portal još nije zaživeo, ali radimo na tekstovima. Oni će biti lektorisani na srpskom prvo, pa prevedeni na engleski, pa lekturisani na engleskom).

- Portal je za englesko govorno područje, ali pošto je veliki broj autora iz Srbije u početku rešili smo da imamo i paralelnu verziju na srpskom.

- Autori imaju slobodu da objavljuju svoje tekstove kao blogove i na B92 - ovde smo se svi upoznali i ovo mesto nam je drago.

- Osnovna svrha portala nije popularizacija nauke - prvi tekstovi su slučajno takvi, iako eno i prvog što je Snežana M napisala koji je o učenju.

- Portal popularizuje kvalitetniji život, interesantnii i uzbudljiviji - biće tekstova o hrani, umetnosti, filozofiji, sportovima, putovanjima i ostalom.

- Potal je neprofitabilan za sad. Tačnije, neće zarađivati nikakav novac do daljnjeg iako će prikazivati poneki oglas firme koja mu je sponzor (Q-Sphere). Naime, firma je rešila da u ime marketinga umesto oglasa po UK i svetskim medijima utroši novac u iole kvalitetan portal. Mi se nadamo da će to da nam uradi marketinški posao. Tada ćemo u portal uložiti još više sredstava i, nadamo se, napraviti još jedan i kvalitativni i kvantitativni skok.

E sad, u ovom gore sam pokušao da podelim i mišljenje cele ekipe oko portala. Dalje ide moje lično mišljenje:

- Veliki deo našeg entuzijazma je u potencijalu koji portal nudi za druženje sa autorima i čitaocima. Mi se nadamo da ćemo u neko vreme dovesti i neke značajne autore iz UK na portal - ja mnoge poznajem i vrlo su veseli i druželjubivi ljudi.

- "Industrija" informacija se danas naglo menja - postaje sve horizontalnija, brža, šira u svakom smislu, bogatija i pametnija. Primer sa Facebooka (naš marketing će početi tamo, od Q-Sphere stranice na kojoj se za sad samo igramo pomalo) - postoje stranice sa 5,000,000 čitalaca (ne baš nešto redovnih, ali čitalaca). Ni jedne UK novine nemaju toliko interesovanja od strane publike. A na ovoj stranici, na primer, ima mnogo "nepismenog" koje čak i ja kao all-time geek koji baš ratuje sa pismenošću primećujem.

- Sve je manje ljudi koji ozbiljno zastaju kako nalete na šum u pismenosti. I to ima prost razlog - zamisli vest o tome kako je spakovano 10 Tb inforrmacija na solid-state chip veličine poštanske marke - to je revolucionarna vest i svet se sve više navikava da u vestima reaguje na informaciju, ne podatke (pismenost je velikim delom mešavina podataka i umetničke forme, ne toliko informacija).

- Svet šumi na sve strane, ali u svemu tome proizvodi toliko informacija i kolektivne pameti da je postalo prosto šteta trošiti previše resursa na ne-informaciju, u uslovima gde su budžet i ostali resursi ograničeni.

I to je, na brzinu, deo mog mišljenja, uz ponavljanje da se mi nadamo da ćemo vremenom biti bolji, a pisanje-lektura-prevod-lektura će nam biti deo procesa od samog početka.

Mi iz Q-Sphere ne marimo da nam autori objavljuju nelekturisane članke ovde zato što im dajemo slobodu u radu gde god možemo, ni ostali blogovi nisu lekturisani, a i drago nam je da čujemo komentare na tekstove pa na naša objašnjenja, mišljenja i planove.
alselone alselone 19:29 16.09.2012

Re: jezik

ja sam iz Q-Sphere ekipe


Ako se softver ulupa pa ne radi logovanje ceo dan, hocete davati obavestenja?
alselone alselone 19:32 16.09.2012

Re: jezik

Na internetu se izgleda najvise koristi naziv "neuron ogledalo", sto je verovatno logicnije od "ogledalo neuron"; prvo je neuron koji je po necemu kao ogledalo, a drugo bi bilo ogledalo koje po necem lici na neuron (recimo ogledalo u obliku neurona). Mada bi bukvalni prevod "mirror neuron" bio - ogledalski neuron, isto kao sto se "mirror symmetry" prevodi sa "ogledalska simetrija". Prevodioci na "TED talks" su recimo termin "mirror neurons" i preveli kao "ogledalski neuroni".


Iskreno se zahvaljujemo na primedbi. Ti si pretpostavljam konsultant po profesiji?

Verovatno ti je ostalo u navici sa posla da vreme/lovu pravdas na formi jer o materiji ne znas puno...
Milan Novković Milan Novković 19:39 16.09.2012

Re: jezik

alselone
ja sam iz Q-Sphere ekipe


Ako se softver ulupa pa ne radi logovanje ceo dan, hocete davati obavestenja?

Možda
srdjan.pajic srdjan.pajic 20:16 16.09.2012

Re: jezik

alselone

Iskreno se zahvaljujemo na primedbi. Ti si pretpostavljam konsultant po profesiji?

Verovatno ti je ostalo u navici sa posla da vreme/lovu pravdas na formi jer o materiji ne znas puno...


Aj, bre, ljudi, polako, nema potrebe da se prelazi na lično spopadanje. Mislim, šteta je, sasvim dobar i zanimljiv tekst je napisan i super su komentari, valjda bi to trebalo da bude dovoljno.

Alse, hvala gospodji što je smogla snage, i hrabrosti, da napiše ovaj svoj prvenac, nadam se da ćemo je čitati opet.

I Maksa da ne stavlja slike oznojanih dečaka iz Galaktike, nego da, radi našeg estetskog ugodjaja, navata nekog sajlonca sa vrha ove krive afiniteta:


njanja_de.manccini njanja_de.manccini 20:28 16.09.2012

Re: jezik

грофдракс
Dalje, pojedini pasusi su teski za citanje i razumevanje. Recimo:


хеј кочи мало, ово није peer reviewed journal па не треба да се толико потришеш што ти поједини пасуси из текста не леже баш најбоље. опусти се, недеља је.

п.с. ћао Пајићу шта има?
maksa83 maksa83 20:32 16.09.2012

Re: jezik

mislim da kvacice eventualno mogu biti necija licna opsesija, nesto sto pojedince izgleda mnogo moze da iritira

Ja neću da se krijem iza uzusa neke grupe kao ti, tj. apsolutno si u pravu - to je ovde isključivo moj trip.

Da, korišćenje "kvačica" jeste apsolutni minimum poštovanja jezika - (ovaj if ponavljam već treći put) AKO si našao za shodno da iznosiš stilske i jezičke primedbe.


P.S. Na jednom drugom mestu u neko drugo vreme dovoljno je bilo ne koristiti naša slova pa zbog toga biti predmet zezanja, a u to vreme (DOS-a) je korišćenje naših slova bilo kudikamo veći tehnološki izazov nego sada.
maksa83 maksa83 20:34 16.09.2012

Re: jezik

Iskreno se zahvaljujemo na primedbi. Ti si pretpostavljam konsultant po profesiji?

alselone alselone 21:04 16.09.2012

Re: jezik

njanja_de.manccini

хеј кочи мало, ово није peer reviewed journal па не треба да се толико потришеш што ти поједини пасуси из текста не леже баш најбоље. опусти се, недеља је.


Mozda ipak da budemo srecni, covek je dao ocenu accepted with minor revisions.
alselone alselone 21:09 16.09.2012

Re: jezik

maksa83



U US je gomila bivsih oficira sada po velikim konsultantskim kucama. Nemaju blagog pojma ali savetuju sve drzavne klijente. Uvek idu u coporima jer svaki je kao expert za nesto.
I kurvaju se da kao nesto zamere vendoru ali ne bas jako da se ni oni ne naljute jer su veliki ali i da klijent bude srecan. Savitljivija kicma od kineskih gimnasticarki.
Predrag Brajovic Predrag Brajovic 21:11 16.09.2012

Re: jezik

grofdrax
Poradite malo na jeziku, mislim da se nsarski mnogo srecnije izrazava od gostujuceg autora

Ја мислим да се nsarski не срећније изражава, него, једноставно, сјајно пише. Ако на једној страни кудиш, немој се устручавати да на другој отворено хвалиш :)

Мало је твој коментар зазвучао гунђаво, но не мислим да му је то намера. Такву врсту лектуре и научне редактуре, коју ти, наизглед, захтеваш, сигуран сам да тренутно ниједан медиј у Србији не може да понуди. Не верујем, такође, да Q-sphere има ту врсту научне претензије, тако да се чланцима писаним за овај портал понешто мора и опростити. Опет, да поновим, добронамерност је један од кључних предуслова успешне комуникациеј, и ја сам тако разумео твоје смелије примедбе.

Милан је сасвим у праву кад истиче чудесну моћ интернета. Само на њему ДЕЉЕЊЕ ЈЕ ПОСТАЛО МНОЖЕЊЕ, како ми је то недавно рекао један паметни и наочити доктор наука: уместо да се за резултат добије мањи број од дељеника, електронска мрежа уме да неслућено увећа почетну величину. И сам сам то искусио. Ова моја књига поезије "прелистана" је 3.600 пута; ни у једној књижари то јој се не би десило. Верујем да од свих ових "прелиставања" барем 3% припада оним приљежним а мени непознатим читаоцима, којих има, рецимо, стотињак. (Осталима сам ја лично уручио књигу.) А тај број, уистину, сматрам успехом :)

Милан је, на жалост, једним делом и у праву, кад говори о небризи за "шум у писмености". Информација (садржај) данас надмоћно побеђује форму (стил). (Ово су груба поједностављења садржај-форме дихотомије, али такво је и наше време -- склоно олаким речима ;-) Читалац данас воли да се купа у млазу информација, а и навикао је да брзо потроши пун бојлер топле воде, да потегнем ову метофору још мало даље. И тако ствари теку из дана у дан... Ипак, морају постојати нека поља склона високом стилу и прецизности писања, што је једним делом данашња "озбиљна" књижевност".

Мислим... хвала Алселоновој жени, теби, Макси, Милану, коментаторима, мајци која нас је родила, оцу и целокупној родбини и пријатељима и пензионерима из парка и председнику кућног савета (поздрав за Реа!) -- дакле хвала свима који из добрих и часних намера покрећу ствари -- Максо, теби нарочито и поново, а и Крстићу, који те је подстакао!

:)
grofdrax grofdrax 21:41 16.09.2012

Re: jezik

Milan Novković

Mi iz Q-Sphere ne marimo da nam autori objavljuju nelekturisane članke ovde zato što im dajemo slobodu u radu gde god možemo, ni ostali blogovi nisu lekturisani, a i drago nam je da čujemo komentare na tekstove pa na naša objašnjenja, mišljenja i planove.


Moja je greska sto sam mislio da je to nesto ozbiljnije. Ako je to nesto poput bloga, tj. nema urednistvo, onda su primedbe na racun teksta manje svrsishodne, pogotovu ako se uzme u obzir karater konkretnog pojedinca koji je ovde izasao na videlo.

maksa83

Ja neću da se krijem iza uzusa neke grupe kao ti, tj. apsolutno si u pravu - to je ovde isključivo moj trip.

Da, korišćenje "kvačica" jeste apsolutni minimum poštovanja jezika - (ovaj if ponavljam već treći put) AKO si našao za shodno da iznosiš stilske i jezičke primedbe.


O kakvoj grupi govoris? Ako vec priznajes da je to tvoj trip, dakle nesto subjektivno, zasto onda ponavljas da to apsolutno jeste minimum postovanja jezika? Sto se tice onog uslovnog dela, to sam vec pokusao da objasnim - ali hajde ponovo: nije isto autor clanka, ili bloga i komentator. Ja recimo da pisem za nekakav svoj clanak/blog sa ciljem popularizacije nauke, verovatno da bih stavio i te kvacice (ali bih se pre toga potrudio i oko drugih stvari koje smatram vaznijim), ali kao komentatoru nenaviklom na koriscenje srpske tastature, ne pada mi na pamet. Sem toga, precenio sam znacaj tog portala, razlika izmedju znacaja komentatora i postavljaca teme je znatno manja, pa se utoliko i tvoja primedba moze uzeti u obzir kao primerenija. Cak nisam ni primetio da je "alselone" koji ovde komentarise autor teksta (video sam da je neki gost, ali nisam obratio paznju).

Sto nas dovodi do reakcije gostujuceg blogera/autora teme "alselone"-a i njegovog zlonamernog i uvredljivog odgovora:
alselone
Na internetu se izgleda najvise koristi naziv "neuron ogledalo", sto je verovatno logicnije od "ogledalo neuron"; prvo je neuron koji je po necemu kao ogledalo, a drugo bi bilo ogledalo koje po necem lici na neuron (recimo ogledalo u obliku neurona). Mada bi bukvalni prevod "mirror neuron" bio - ogledalski neuron, isto kao sto se "mirror symmetry" prevodi sa "ogledalska simetrija". Prevodioci na "TED talks" su recimo termin "mirror neurons" i preveli kao "ogledalski neuroni".


Iskreno se zahvaljujemo na primedbi. Ti si pretpostavljam konsultant po profesiji?

Verovatno ti je ostalo u navici sa posla da vreme/lovu pravdas na formi jer o materiji ne znas puno...


Ovakav arogantan odgovor, i to na slepo, recito govori o "autoru", koji je vrlo brz da uvredi; pritom je ocajno izvan mete. Po profesiji svakako nisam konsultant; sto se mog poznavanja materije tice, na osnovu pregleda onoga sto alselone ovde pise (pravo bi pitanje bilo sta je on po profesiji i u koju se naucnu oblast dublje razume), mogu samo reci da jedino materiju vezanu za pecanje i spravljanje paprikasa zasigurno bolje poznaje od mene. Sto se jezika tice, lingvista nisam, a tesko da bi to mogao biti i autor teme, mada voli da povremeno drzi pridike drugima kojima se recimo omakne da napisu "celo vreme". Ali se u neke termine ipak razumem, sticajem okolnosti (neki od pomenutih su mi prilicno bliski). No pravilna upotreba srpskog jezika je cesto problem s kojim se ljudi koji pisu o nauci suocavaju, od prevoda, pa do nezgrapnih formulacija. To je notorna cinjenica, a moja dobronamerna primedba na racun clanka (za koji sam svojom greskom mislio da je namenjen nekom ozbiljnijem mestu) nasila je na reakciju kavu je naisla. A dodirnuo sam samo vrh ledenog brega; od toga koliko je besmisleno govoriti da je robot "50% nalik nama", preko laickih objasnjenja rada mozga, do brojnih ne bas najsrecnijih formulacija. Clanak je informativan, istina nema gotovo niceg sto se ne moze naci na vikipediji na istu temu (cak su i dijagrami preuzeti ako ne iz vikipedije, ono bar s istog mesta) - ali da li je moglo bolje da se napise, drugo je pitanje; no autor na primedbe odgovara agresivno, i umesto da privlaci ljude i siri krug zainteresovanih ili onih koji bi mogli nesto na temu reci (sto nsarski na primer lepo ume da radi), svojom bahatoscu ih odbija.

Nacin na koji se ovde docekuju primedbe - na noz, sa prelaskom na licne napade i uvrede uz nepromisljenu nadmenost koja nicim ne moze biti opravdana, svakako nece pomoci da taj Q-sphere (a i ovaj blog) bude privlacno i korisno mesto. A to je, bojim se, mnogo veci problem od lose napisanog teksta.
njanja_de.manccini njanja_de.manccini 22:11 16.09.2012

Re: jezik

алселоне
Mozda ipak da budemo srecni, covek je dao ocenu accepted with minor revisions.


ма да, такве оцене су ми секонд фејворит

Arhiva

   

Kategorije aktivne u poslednjih 7 dana