Ошибка в законах робототехники

 
+
-
edit
 

Cannon

опытный

Блиц-загадка. Какой из трех законов робототехники содержит ошибку, определяемую неспецом после 30 секунд вдумчивого изучения?

1. Робот не может навредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот обязан выполнять приказы человека, кроме тех приказов, которые противоречат первому закону.
3. Робот всегда должен заботиться о своей безопасности, если только это не противоречит первым двум законам.
 
+
-
edit
 

Бяка

имитатор знатока

Cannon> Блиц-загадка. Какой из трех законов робототехники содержит ошибку, определяемую неспецом после 30 секунд вдумчивого изучения?
Cannon> 1. Робот не может навредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Cannon> 2. Робот обязан выполнять приказы человека, кроме тех приказов, которые противоречат первому закону.
Cannon> 3. Робот всегда должен заботиться о своей безопасности, если только это не противоречит первым двум законам.

А они все содержат ошибку.
Был сборник рассказов, где описывались ошибочные ситуации по всем пунктам.
 
RU Серокой #28.03.2008 15:06
+
-
edit
 

Серокой

координатор
★★★
Этот сборник написал как раз автор законов. :)
Больше не раскалятся ваши колосники. Мамонты пятилеток сбили свои клыки. ©  
RU Balancer #28.03.2008 15:11  @Бяка#28.03.2008 14:59
+
-
edit
 

Balancer

администратор
★★★★☆
Бяка> Был сборник рассказов, где описывались ошибочные ситуации по всем пунктам.

А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)
 
RU Cannon #28.03.2008 15:12  @Серокой#28.03.2008 15:06
+
-
edit
 

Cannon

опытный

Серокой> Этот сборник написал как раз автор законов. :)

фи, КАКИЕ ВСЕ ПОДКОВАННЫЕ!

Настоящая ошибка - только в первом.
 
RU Северный #28.03.2008 15:18  @Balancer#28.03.2008 15:11
+
-
edit
 

Северный

аксакал
★☆
Balancer> А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)

Гхм...а авторство нулевого закона разве не роботу Жискару принадлежит? :)
 
RU Cannon #28.03.2008 15:23  @Северный#28.03.2008 15:18
+
-
edit
 

Cannon

опытный

Balancer>> А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)
Северный> Гхм...а авторство нулевого закона разве не роботу Жискару принадлежит? :)

А в чем противоречие-то? Жискар - робот, роботы придумали нулевой закон.

Имхо, это просто первый закон - частный случай нулевого :D
 

pokos

аксакал

Все эти три "закона" - чистейшая глупость. Наиболее тупой первый, а остальное - просто подробности.
 
+
-
edit
 

Balancer

администратор
★★★★☆
pokos> Все эти три "закона" - чистейшая глупость. Наиболее тупой первый, а остальное - просто подробности.

Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :) (Т.е. GPLv3 нельзя ставить в ГСН ракет и т.п.)
 

U235

старожил
★★★☆
Первый закон позволяет использовать робота злоумышленникам. Повинуясь этому закону, робот будет защищать злоумышленника от полиции, которая несомненно будет пытаться нанести злоумышленнику вред.

Кроме того, понятие "вред" слишком расплывчато. К примеру, любая хирургическая операция несет в себе вред здоровью. Весь вопрос только в балансе вреда и пользы. Очень сомнительно, что робот сможет адекватно оценить баланс вреда и пользы, да в законах и нет про это ничего, равно как ничего нет про степень вреда, который недопустим. Поэтому робот будет отгонять всех врачей от пациентов, бить комаров, чтобы они не дай Бог не сел на людей и не нанесли им вред, и заниматься прочей фигней.
Демократия – в аду, на небе Царство  

au

   
★★
Balancer> Но закладывать их стараются уже сегодня.

Бугого :)

Anti-landmine campaigners turn sights on war robots - tech - 28 March 2008 - New Scientist

Electronic systems that independently decide when to kill should be banned under treaties like those against landmines, a group says

// technology.newscientist.com
 


But most robotics research in the US is funded by the Pentagon. "If I don't work for the DoD, I don't work," lamented one American roboticist after the talk.
 

Cannon

опытный

U235> Первый закон позволяет использовать робота злоумышленникам. Повинуясь этому закону, робот будет защищать злоумышленника от полиции, которая несомненно будет пытаться нанести злоумышленнику вред.
U235> Кроме того, понятие "вред" слишком расплывчато. К примеру, любая хирургическая операция несет в себе вред здоровью. Весь вопрос только в балансе вреда и пользы. Очень сомнительно, что робот сможет адекватно оценить баланс вреда и пользы, да в законах и нет про это ничего, равно как ничего нет про степень вреда, который недопустим. Поэтому робот будет отгонять всех врачей от пациентов, бить комаров, чтобы они не дай Бог не сел на людей и не нанесли им вред, и заниматься прочей фигней.

Дьявол таится в деталях. Разумеется, в том виде, как они описаны, законы применять нельзя. Только с массой оговорок. Рассмотрим на людях: все знают, что неоказание помощи, и у же тем более нанесение вреда уголовно наказуемо. И тем не менее, никто не отгоняет друг от друга комаров (ухаживание в расчет не берем!), никто не бьет докторов и т.д. Почему? Ответ очевиден - мы обладаем массой дополнительной информации и поправочных коэффициентов, которых нет в законах робототехники. Мы знаем, что доктор причиняет минимальное зло, чтобы избавить от большего, что комары - зло неизбежное и т.д.
 

Balancer

администратор
★★★★☆
au> Бугого :)

Да и пусть их. Всё равно доля свободного софта всё время растёт, а оный софт всё больше переводится в GPLv3 :)

Так что военным придётся делать свои велосипеды. Что не сможет не сказаться на уровне их софта :)
 
+
-
edit
 

pokos

аксакал

Balancer> Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :)
Да-да. Только решать это предоставляется далеко не софту. Бу-у-у.
И кстати, как там насчёт НЕприменения софта? Есть санкции?
 
+
-
edit
 

Mishka

модератор
★★☆
au>> Бугого :)
Balancer> Да и пусть их. Всё равно доля свободного софта всё время растёт, а оный софт всё больше переводится в GPLv3 :)
Balancer> Так что военным придётся делать свои велосипеды. Что не сможет не сказаться на уровне их софта :)
Ром, ты бы знал, какая часть денег на поддержание Open Source идёт от Пентагона. :) Вот начнут они выдавать гранты с оговоркой — никакая часть денег не может быть использована для работ под GPLv3 и помрёт, практически, Open Source, потому как почти все университетские разработки имеют оттуда финансирование.
 

Vale

Сальсолёт

Кстати, видел в The Register - Пентагон собирается постепенно отказаться от proprietary software.
"Не следуй за большинством на зло, и не решай тяжбы, отступая по большинству от правды" (Исх. 23:2)  

Balancer

администратор
★★★★☆
Vale> Кстати, видел в The Register - Пентагон собирается постепенно отказаться от proprietary software.

US Navy не будет использовать проприетарное ПО
 
RU Владимир Малюх #28.03.2008 18:43  @Balancer#28.03.2008 15:55
+
-
edit
 
Balancer> Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :) (Т.е. GPLv3 нельзя ставить в ГСН ракет и т.п.)

Уже противоречие. ГСН ЗУР - приносит вред защищающимся людям? А ведь ПВО -априори оборонительная система.
Maschinen muessen "idiotensicher" werden  

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru