Budućnost| Društvo| Ljudska prava| Tehnologija| Život

Dileme budućnosti

Dragan Pleskonjic RSS / 04.08.2015. u 20:30

Prošle nedelje, grupa stručnjaka iz oblasti veštačke inteligencije i robotike pozvala je na zabranu ofanzivnih autonomnih oružja (engl. offensive autonomous weapons), tvrdeći da bi globalna trka u razvoju oružja baziranih na veštačkoj inteligenciji (engl. Artificial Intelligence) mogla dovesti do jeftinih robota koji se mogu anonimno angažovati da ubijaju hiljade ljudi. Međutim, drugi kažu da bi zabrana autonomnih oružja bila uzaludna, jer neće sprečiti postojanje takvih sistema i, štaviše, određena robotizovana oružja bi mogla zaista ostvariti bolje rezultate od naoružanih ljudi u borbi, što bi rezultiralo manjim brojem žrtava.

Pismo se nalazi ovde:
Autonomous Weapons: an Open Letter from AI & Robotics Researchers

Među potpisinicima su i Stiven Hoking, Elon Mask, Noam Čomski, Stiv Voznijak i mnoga druga poznata imena.

IEEE Spectrum je ovih dana objavio tekstove koji analiziraju argumente za i protiv ovakvih oružja.

Why We Really Should Ban Autonomous Weapons: A Response

We Should Not Ban ‘Killer Robots,' and Here's Why

Slične dileme postoje i odnosu na neke druge trendove koji će sve više biti zastupljeni u budućnosti. Neki od primera su:

• odgovornost za nesreće, moguće povrede, smrtne slučajeve i štete koje prouzrokuju vozila bez vozača (engl. driverless cars)

• slično kao i gore, odgovornost za robote sa elementima veštačke inteligencije i mašinskog učenja koji se koriste u firmama i na drugim mestima, a uskoro i u domaćinstvima.

Sa obzirom da na ovom blogu ima stručnjaka raznih profila, verujem da bi mogli imati zanimljivu i plodnu diskusiju na temu moralnih i etičkih dilema koje dolaze u budućnosti sa razvojem robotike, veštačke inteligencije, mašinskog učenja i sličnih oblasti.

Atačmenti



Komentari (132)

Komentare je moguće postavljati samo u prvih 7 dana, nakon čega se blog automatski zaključava

princi princi 11:53 06.08.2015

Re: problem svakako postoji... samo koliki?

Ima jedna zanimljiva prica u vezi sa invazijom na Normandiju: kad je doslo na red pitanje snabdevanja vojske preko Lamansa, Cercil se pravio pametan pa je predlozio da poloze cevi po dnu mora i da onda putem tih cevi transportuju municiju, gorivo, hranu... Poslao ja i brodove i polagao cevi (instalacija cevovoda po dnu mora nije ni danas lak posao), citav tim ljudi, inzenjera, cuda je radio na razvoju tog "projekta". Ameri su ga samo belo pogledali i sve odradili mocnim i sigurnim brodovima, brutal force method.

Englezi su posle te fore koje su naucili oko polaganja cevi kasnije primenjivali pri transportovanju gasa i nafte sa platformi u Severnom moru (J lay, S lay pipeline installation). Koga zanima, ima malo vise ovde.
rade.radumilo rade.radumilo 12:51 06.08.2015

Re: problem svakako postoji... samo koliki?

Na principu pomenutih Kineza ... postoji šala (a ne bi me čudilo da uopšte i nije šala) da milion kineskih vojnih obveznika, u svojim vojnim knjižicama ima naredjenje da se u slučaju invazije na Kinu PREDA neprijatelju! Zamisli tog nesrećnog osvajača koji u danu dobije 1M POW-a!


Ta priča oduvek postoji, ali ima jedna slična. Na nekom skupu generala SSSR-a, komandant garnizona u nekoj zabiti na granici s Kinom je postavio pitanje:
- Šta ja da radim ako Kinezi iz sela u oblasti uz granicu, njih 10 miliona reše da pređu preko granice? Ja nemam 10 miliona metaka! Mogu samo da upotrebim A-bombu.
jkt2010 jkt2010 03:41 10.08.2015

Re: problem svakako postoji... samo koliki?

tadejus
kakva je korist od toga za čovječanstvo..


Samo nek ga naprave, a primenu će mu nađemo. Napr na Marsu - što da šalješ ljude ili ove glupe robote, ako možeš neko sokoćalo koje će da razmišlja samostalno, pa makar na nivou stonoge...

Nego mene interesuje koja je korist od ovih automobila koji sami sebe voze (auto-automobil?)
Jer avioni bi odavno mogli sami da poleću i sleću i sve između, pa još uvek imamo posadu. A koliko je ovo jednostavniji zadatak kad se uzme u obzir koliko je ambijent u kojem se kretanje dešava kontrolisaniji od ovog dole po zemlji.

Zar nije logičnije nastaviti sa baby steps - već imamo mogućnost da se auto sam uparkira, pa samo nastaviti tako, polako...

Evo na primer: da se kao sledeće samo automatizuje kretanje na semaforu.

Sada, pali se zeleno na semaforu, kreće prvi auto u deliću sekunde; drugom već treba sekunda-dve; i tako redom dok onom desetom u redu treba bar 10-tak sekundi da krene. A ladno bi mogli svi da krenu u isto vreme, da njima ne upravlja čovek.

Šta bi to značilo, gruba računica:
Uzmemo 20,000 semafora godišnje po autu;
Uzmimo da si u proseku 5. naredu i da je to 5 sekundi kašnjenja.
To je godišnje 28 sati ili 280 litara benzina sprženog za ništa.
To je na nivou Srbije (1.6 miliona kola) jedno pola milijarde evra sprženih na inerciju da se mrdne sa zelenog na vreme.

Pa eto, napravite rešenje za ovaj problem i svakom ste uštedeli 300 evra godišnje. Da vam platimo po 100 evra godišnje "članarine", dobili bi ste po 150 miliona evra. Godišnje. U Srbiji.

A mene ako se na dan bezbednosti u saobraćaju setite...
bestragamuglava bestragamuglava 09:39 05.08.2015

odgovor

http://blog.b92.net/blog/10675/Dragan-Pleskonjic/
...verujem da bi mogli imati zanimljivu i plodnu diskusiju...


Sta bi novo mogli da kazemo?

Evo za obnavljanje gradiva

http://archive.wired.com/wired/archive/8.04/joy.html

Issue 8.04 | Apr 2000


Print, email, or fax
this article for free.

Why the future doesn't need us.

Our most powerful 21st-century technologies - robotics, genetic engineering, and nanotech - are threatening to make humans an endangered species.

By Bill Joy
Dont Fear The Reaper Dont Fear The Reaper 13:19 05.08.2015

Re: odgovor

Why the future doesn't need us.



To nešto kao - Zašto Raiders of the Lost Ark ni malo ne trebaju Indijanu Džonsa, koji je potpuno suvišan lik za Lost Ark fabulu (© by Sheldon's Emy)
maksa83 maksa83 13:24 05.08.2015

Re: odgovor

To nešto kao - Zašto Raiders of the Lost Ark ni malo ne trebaju Indijanu Džonsa, koji je potpuno suvišan lik za Lost Ark fabulu (© by Sheldon's Emy)

Ali to je skroz briljantan momenat, nauka i logika na delu.

Sledeći bolji je onaj iz Silicon Valley:

Dont Fear The Reaper Dont Fear The Reaper 13:31 05.08.2015

Re: odgovor

Sledeći bolji je onaj iz Silicon Valley:



Suviše matematike i nauke! ☻
rade.radumilo rade.radumilo 12:33 05.08.2015

Možda sve krene u drugačijem pravcu...

myredneckself myredneckself 13:09 05.08.2015

Re: Možda sve krene u drugačijem pravcu...

rade.radumilo

Otpor je uzaludan?
rade.radumilo rade.radumilo 13:13 05.08.2015

Re: Možda sve krene u drugačijem pravcu...

Otpor je uzaludan?


A i nije da se nešto opiremo...

bladerunner92 bladerunner92 13:37 05.08.2015

Re: Možda sve krene u drugačijem pravcu...

Otpor je uzaludan?


ja mislim da bi trebalo da shvatite da cete morati da slusate robote
myredneckself myredneckself 15:25 05.08.2015

Re: Možda sve krene u drugačijem pravcu...

rade.radumilo
Otpor je uzaludan?


A i nije da se nešto opiremo...



Paa... ne opiremo se, ono, kako nas je krenulo, oči više neće biti u modi. Neupotrebljive za proširenu realnost, zakržljaće, ili će ih nekako blokirati.
Sva sreća što neću doživeti dalji napredak, pa mi ne mogu oduzeti nekadašnju, staromodnu pojavu - govor tela.
Kako bih ja bez kolutanja očima na pojave i ljude, ovaajj...humanoide?
Nema šanse.
maksa83 maksa83 15:38 05.08.2015

Re: Možda sve krene u drugačijem pravcu...

Paa... ne opiremo se, ono, kako nas je krenulo, oči više neće biti u modi. Neupotrebljive za proširenu realnost, zakržljaće, ili će ih nekako blokirati.

Google Glass?

Ako u Americi probaš sa tim da uđeš u neki restoran verovatno će da te izbace, a i ako te ne izbace moš dobiješ batine ako se sa tim u nekog upiljiš, a na ulici te gledaju ko kretena (što zapravo i jesi, bar u ovoj fazi). Ne verujem da će uskoro postati široko društveno prihvatljive. Verovatno će masovnije prvo početi da ih nose razna službena lica (panduri i sl, vojska.), pa po firmama gde će nekome da olakšavaju posao, itd.

Razni drugi manje štrčeći wearables (satovi isl.) su već relativno normalna pojava.


rade.radumilo rade.radumilo 13:01 06.08.2015

Re: Možda sve krene u drugačijem pravcu...

Razni drugi manje štrčeći wearables (satovi isl.) su već relativno normalna pojava.


Obrati pažnju na kraj govora (5:50 - 6:05)... zanimljivo zapažanje.

maksa83 maksa83 19:59 06.08.2015

Re: Možda sve krene u drugačijem pravcu...

Obrati pažnju na kraj govora (5:50 - 6:05)... zanimljivo zapažanje.

Da.

Jedan od miteleuropskih trendova je trenutno tzv. disconnected weekend retreat - nađu se ljudi tj. neko ih organizuje i odu na vikend u neko odmaralište, tamo ih neko uči jogu/pilates/štagod, kuva im makrobiotiku, i osnovni uslov je da pri dolasku svoj smartfon ostaviš u korpi na ulazu i pokupiš ga kad odlaziš. To je sad tamo hit.
alselone alselone 13:36 05.08.2015

Buducnost

Meni je danasnji Dilbert sjajan opis buducnosti koja je tu.

Dragan Pleskonjic Dragan Pleskonjic 14:30 05.08.2015

Šta bi rekao Isak Asimov?

Three Laws of Robotics

The Three Laws of Robotics (often shortened to The Three Laws or Three Laws, also known as Asimov's Laws) are a set of rules devised by the science fiction author Isaac Asimov. The rules were introduced in his 1942 short story "Runaround", although they had been foreshadowed in a few earlier stories. The Three Laws, quoted as being from the "Handbook of Robotics, 56th Edition, 2058 A.D.", are:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
srdjan.pajic srdjan.pajic 16:41 05.08.2015

.


Dragan Pleskonjic Dragan Pleskonjic 09:44 07.08.2015

Re: četa->mirno

princi princi 10:03 07.08.2015

Re: četa->mirno()

maksa83

A programming language for robot swarms

Link na konkretan rad (PDF)

Ovo interesantno za brownfield construction sites (prakticno, gradnju po djubristima i jalovistima). Neces vise morati da cistis siteove, mozes samo posaljes ekipu robota, pobijes sipove, izlijes plocu i gradis na gore. Mozes robote da koristis i za venting, ako se oslobodi brownfield gas, ili za neka sleganja da jack up zgrade. Ne znam da li ste znali, ali citav grad Sikago je dignut za vise od 1m (skoro 1.5m) u 19. veku da bi napravili kanalizaciju.

A Scotsman visiting Chicago in 1868 observed, "Never a day passed during my stay in the city that I did not meet one or more houses shifting their quarters. One day I met nine."

Sine, zamisli uhakuje ti neko robota dok premestas zgradu sa mesta A na mesto B...
maksa83 maksa83 10:13 07.08.2015

Re: četa->mirno()

Ovo interesantno za brownfield construction sites (prakticno, gradnju po djubristima i jalovistima).

Meni je inače ludilo kako se fracking industrija bori sa sunovratom cene nafte. Npr. najnovija fora je da skrate vreme drilinga tako što imaju "pametne bušilice" čiji su vrhovi kompjuterizovani i okićeni raznim senzorima pa dok buše provaljuju gde su cracks u stenama pa skreću i koriste ih da ubrzaju bušenje.

Ne znam da li se ovde pominjalo (ili si ti to negde kačio?) da je tip koji je napravio autotune softver (kad pjevac falšira ovaj to pegla u realnom vremenu) zapravo geofizičar koji je radio za Exxon.
princi princi 10:16 07.08.2015

Re: četa->mirno()

Meni je inače ludilo kako se fracking industrija bori sa sunovratom cene nafte. Npr. najnovija fora je da skrate vreme drilinga tako što imaju "pametne bušilice" čiji su vrhovi kompjuterizovani i okićeni raznim senzorima pa dok buše provaljuju gde su cracks u stenama pa skreću i koriste ih da ubrzaju bušenje.

Da, da, prave lepeze, radijalno se sire, pravo ludilo, mada je taj measuring while drilling davno provaljena stvar, ali sad su poboljsali i kontrole. Bas juce citam, skratili vreme busenja sa 30 na 16 dana, i to samo za godinu dana. Kazu, pre ce Arapi da puknu sa svim tim svojim fondovima nego sto ce ovi iscrpeti postojece bunare.
maksa83 maksa83 10:25 07.08.2015

Re: četa->mirno()

Bas juce citam, skratili vreme busenja sa 30 na 16 dana, i to samo za godinu dana. Kazu, pre ce Arapi da puknu sa svim tim svojim fondovima nego sto ce ovi iscrpeti postojece bunare.

Znači da smo čitali istu stvar:

Saudi Arabia may go broke before the US oil industry buckles
princi princi 10:34 07.08.2015

Re: četa->mirno()

maksa83
Bas juce citam, skratili vreme busenja sa 30 na 16 dana, i to samo za godinu dana. Kazu, pre ce Arapi da puknu sa svim tim svojim fondovima nego sto ce ovi iscrpeti postojece bunare.

Znači da smo čitali istu stvar:

Saudi Arabia may go broke before the US oil industry buckles

Da, da, istu, samo ja kod Ozija. Uzgred, Oziji imaju jako dobru finansijsku stampu, imaju nekog Alana Kohlera, koji je strasan baja. On pravi grafike (u smislu generise), i to smislene, ne kopira ih.
Dragan Pleskonjic Dragan Pleskonjic 10:38 07.08.2015

Re: četa->mirno()

maksa83
Saudi Arabia may go broke before the US oil industry buckles


Zamisli ako robotima "ugrade" i religiju...
princi princi 10:40 07.08.2015

Re: četa->mirno()

I kad smo vec kod Ozija: link.
srdjan.pajic srdjan.pajic 16:09 07.08.2015

Re: četa->mirno()

princi
mada je taj measuring while drilling davno provaljena stvar, ali sad su poboljsali i kontrole.


Ovde se pre sad već dosta godina (možda 7 ili 8) digla frka kad su neki teksašani frakovali kod nas usred Kolorada, tamo dole pored Rifle-a, i mic po mic došli na par stotina jardi od začepljenog bunara u koji je vojska sedamdesetih godina spustila atomsku bombu i roknula je pod zemljom (to je bila neka preteča frakovanja, deo Plowshare programa), da oslobode zemni gas. Posle su od toga odustali, jer je oslobodjeni gas bio suviše radioaktivan za slobodnu prodaju, i prosto zalili rupčagu betonom. Onda su došli ovi teksašani i krenuli da frakuju, hidraulično, u neposrednoj blizini. Digla se tada kuka i motika, mahom od strane zelembaća i malobrojnog lokalnog stanovništva, i sećam se da su se teksašani tada vadili da su (još tada) mogli jako precizno da frakuju i da nije bilo šanse da oštete taj bunar i prouzrokuju ispuštanje radioaktivnog materiaja u atmosferu i podzemne vode. Ali svejedno popiše ban od države Kolorado, posle se za to više nije čulo.
princi princi 08:41 08.08.2015

Re: četa->mirno()

Ali svejedno popiše ban od države Kolorado, posle se za to više nije čulo.

Pa kad ste vlasni.
Dragan Pleskonjic Dragan Pleskonjic 13:52 09.08.2015

Re: četa->mirno()

Republičko takmičenje iz robotike i interfejs tehnologije, 6. jun 2015.

princi princi 09:40 08.08.2015

Kakvi džukci

Dragan Pleskonjic Dragan Pleskonjic 12:14 08.08.2015

Re: Kakvi džukci

princi
Još jedna prednost: robotima neće morati da pružaju utočište od talibana.


Da, to je velika prednost. Nego, roboti će biti "opskrbljeni" raznim podacima i mogućnostima. To će morati da obrišu daljinski ili čak da neke delove i unište na vreme, da ne dođe do otkrivanja nakon padanja u ruke neprijateljskoj strani.

Arhiva

   

Kategorije aktivne u poslednjih 7 dana