Ошибка в законах робототехники

 
+
-
edit
 

Cannon

опытный

Блиц-загадка. Какой из трех законов робототехники содержит ошибку, определяемую неспецом после 30 секунд вдумчивого изучения?

1. Робот не может навредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот обязан выполнять приказы человека, кроме тех приказов, которые противоречат первому закону.
3. Робот всегда должен заботиться о своей безопасности, если только это не противоречит первым двум законам.
 
+
-
edit
 

Бяка

имитатор знатока
★☆
Cannon> Блиц-загадка. Какой из трех законов робототехники содержит ошибку, определяемую неспецом после 30 секунд вдумчивого изучения?
Cannon> 1. Робот не может навредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Cannon> 2. Робот обязан выполнять приказы человека, кроме тех приказов, которые противоречат первому закону.
Cannon> 3. Робот всегда должен заботиться о своей безопасности, если только это не противоречит первым двум законам.

А они все содержат ошибку.
Был сборник рассказов, где описывались ошибочные ситуации по всем пунктам.
 
RU Серокой #28.03.2008 15:06
+
-
edit
 

Серокой

координатор
★★★★
Этот сборник написал как раз автор законов. :)
Больше не раскалятся ваши колосники. Мамонты пятилеток сбили свои клыки. ©  
RU Balancer #28.03.2008 15:11  @Бяка#28.03.2008 14:59
+
-
edit
 

Balancer

администратор
★★★★★
Бяка> Был сборник рассказов, где описывались ошибочные ситуации по всем пунктам.

А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)
 
RU Cannon #28.03.2008 15:12  @Серокой#28.03.2008 15:06
+
-
edit
 

Cannon

опытный

Серокой> Этот сборник написал как раз автор законов. :)

фи, КАКИЕ ВСЕ ПОДКОВАННЫЕ!

Настоящая ошибка - только в первом.
 
RU Северный #28.03.2008 15:18  @Balancer#28.03.2008 15:11
+
-
edit
 

Северный

аксакал
★★
Balancer> А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)

Гхм...а авторство нулевого закона разве не роботу Жискару принадлежит? :)
 
RU Cannon #28.03.2008 15:23  @Северный#28.03.2008 15:18
+
-
edit
 

Cannon

опытный

Balancer>> А в конце всего, в одном из последних романов «Основания», роботы сами вообще нулевой закон придумывают :)
Северный> Гхм...а авторство нулевого закона разве не роботу Жискару принадлежит? :)

А в чем противоречие-то? Жискар - робот, роботы придумали нулевой закон.

Имхо, это просто первый закон - частный случай нулевого :D
 

pokos

аксакал

Все эти три "закона" - чистейшая глупость. Наиболее тупой первый, а остальное - просто подробности.
 
+
-
edit
 

Balancer

администратор
★★★★★
pokos> Все эти три "закона" - чистейшая глупость. Наиболее тупой первый, а остальное - просто подробности.

Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :) (Т.е. GPLv3 нельзя ставить в ГСН ракет и т.п.)
 

U235

старожил
★★★★★

Первый закон позволяет использовать робота злоумышленникам. Повинуясь этому закону, робот будет защищать злоумышленника от полиции, которая несомненно будет пытаться нанести злоумышленнику вред.

Кроме того, понятие "вред" слишком расплывчато. К примеру, любая хирургическая операция несет в себе вред здоровью. Весь вопрос только в балансе вреда и пользы. Очень сомнительно, что робот сможет адекватно оценить баланс вреда и пользы, да в законах и нет про это ничего, равно как ничего нет про степень вреда, который недопустим. Поэтому робот будет отгонять всех врачей от пациентов, бить комаров, чтобы они не дай Бог не сел на людей и не нанесли им вред, и заниматься прочей фигней.
В человеке всё должно быть прекрасно: погоны, кокарда, исподнее. Иначе это не человек, а млекопитающее  

au

   
★★☆
Balancer> Но закладывать их стараются уже сегодня.

Бугого :)

Anti-landmine campaigners turn sights on war robots - tech - 28 March 2008 - New Scientist

Electronic systems that independently decide when to kill should be banned under treaties like those against landmines, a group says

// technology.newscientist.com
 


But most robotics research in the US is funded by the Pentagon. "If I don't work for the DoD, I don't work," lamented one American roboticist after the talk.
 

Cannon

опытный

U235> Первый закон позволяет использовать робота злоумышленникам. Повинуясь этому закону, робот будет защищать злоумышленника от полиции, которая несомненно будет пытаться нанести злоумышленнику вред.
U235> Кроме того, понятие "вред" слишком расплывчато. К примеру, любая хирургическая операция несет в себе вред здоровью. Весь вопрос только в балансе вреда и пользы. Очень сомнительно, что робот сможет адекватно оценить баланс вреда и пользы, да в законах и нет про это ничего, равно как ничего нет про степень вреда, который недопустим. Поэтому робот будет отгонять всех врачей от пациентов, бить комаров, чтобы они не дай Бог не сел на людей и не нанесли им вред, и заниматься прочей фигней.

Дьявол таится в деталях. Разумеется, в том виде, как они описаны, законы применять нельзя. Только с массой оговорок. Рассмотрим на людях: все знают, что неоказание помощи, и у же тем более нанесение вреда уголовно наказуемо. И тем не менее, никто не отгоняет друг от друга комаров (ухаживание в расчет не берем!), никто не бьет докторов и т.д. Почему? Ответ очевиден - мы обладаем массой дополнительной информации и поправочных коэффициентов, которых нет в законах робототехники. Мы знаем, что доктор причиняет минимальное зло, чтобы избавить от большего, что комары - зло неизбежное и т.д.
 

Balancer

администратор
★★★★★
au> Бугого :)

Да и пусть их. Всё равно доля свободного софта всё время растёт, а оный софт всё больше переводится в GPLv3 :)

Так что военным придётся делать свои велосипеды. Что не сможет не сказаться на уровне их софта :)
 
+
-
edit
 

pokos

аксакал

Balancer> Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :)
Да-да. Только решать это предоставляется далеко не софту. Бу-у-у.
И кстати, как там насчёт НЕприменения софта? Есть санкции?
 
+
-
edit
 

Mishka

модератор
★★★
au>> Бугого :)
Balancer> Да и пусть их. Всё равно доля свободного софта всё время растёт, а оный софт всё больше переводится в GPLv3 :)
Balancer> Так что военным придётся делать свои велосипеды. Что не сможет не сказаться на уровне их софта :)
Ром, ты бы знал, какая часть денег на поддержание Open Source идёт от Пентагона. :) Вот начнут они выдавать гранты с оговоркой — никакая часть денег не может быть использована для работ под GPLv3 и помрёт, практически, Open Source, потому как почти все университетские разработки имеют оттуда финансирование.
 

Vale

Сальсолёт

Кстати, видел в The Register - Пентагон собирается постепенно отказаться от proprietary software.
"Не следуй за большинством на зло, и не решай тяжбы, отступая по большинству от правды" (Исх. 23:2)  

Balancer

администратор
★★★★★
Vale> Кстати, видел в The Register - Пентагон собирается постепенно отказаться от proprietary software.

US Navy не будет использовать проприетарное ПО
 
RU Владимир Малюх #28.03.2008 18:43  @Balancer#28.03.2008 15:55
+
-
edit
 
Balancer> Но закладывать их стараются уже сегодня. Если мне не изменяет память, то в лицензии GPL3 говорится, что софт под этой лицензией недопустимо применять с целью нанесения вреда людям :) (Т.е. GPLv3 нельзя ставить в ГСН ракет и т.п.)

Уже противоречие. ГСН ЗУР - приносит вред защищающимся людям? А ведь ПВО -априори оборонительная система.
Maschinen muessen "idiotensicher" werden  
RU kot_or_osl #29.12.2017 19:59
+
-
edit
 

kot_or_osl

опытный

Робот из Японии чуть не изнасиловал своего создателя

Инцидент произошёл в начале декабря этого года. Робот под кодовым именем «RJ1408» попытался изнасиловать своего хозяина. Машина была создана в качестве тестового прототипа сексуального идеала с искусственным интеллектом.

На проведении одного из очередных тестов «RJ1408» вдруг неожиданно напал на женщину-разработчика. На остальных ученых техника внимания не обращала, а вот свою создательницу робот схватил за руку и успел сорвать с неё юбку. Стоит заметить, что в его базу была заложена программа по жёсткому сексу, но вместо робота с женским именем он выбрал человека.
Пострадала женщина незначительно, но инцидент назвала «попыткой изнасилования. Программа тестирования была отложена до следующего года, учёным предстоит полностью проверить алгоритмы, в ходе которых искусственный интеллект даёт сбой. Кстати, похожие инциденты уже происходило в Японии, Китае, США и Германии.
А представьте, что начнется, когда начнет сдавать техника, в которую заложены более серьезные программы?
 63.0.3239.8463.0.3239.84

ED

старожил
★★★☆
k.o.o.>свою создательницу робот схватил за руку и успел сорвать с неё юбку.

Интересно - подаст в суд на домогательство и потребует ли компенсации за моральные страдания. :)

k.o.o.> А представьте, что начнется, когда начнет сдавать техника, в которую заложены более серьезные программы?

В смысле когда из-за сбоя/ошибки в программе потеряют спутник (миллиарды в унитаз), или когда авиакатастрофа из-за сбоя в бортовой системе (куча трупов), или промышленный робот человека убьёт...?
А чего тут представлять - было уже.
 33

kot_or_osl

опытный

k.o.o.>>свою создательницу робот схватил за руку и успел сорвать с неё юбку.
ED> Интересно - подаст в суд на домогательство и потребует ли компенсации за моральные страдания. :)
k.o.o.>> А представьте, что начнется, когда начнет сдавать техника, в которую заложены более серьезные программы?
ED> В смысле когда из-за сбоя/ошибки в программе потеряют спутник (миллиарды в унитаз), или когда авиакатастрофа из-за сбоя в бортовой системе (куча трупов), или промышленный робот человека убьёт...?
ED> А чего тут представлять - было уже.
А вот, может, она его домогалась?
 63.0.3239.8463.0.3239.84

ED

старожил
★★★☆
ED>> Интересно - подаст в суд на домогательство и потребует ли компенсации за моральные страдания. :)
k.o.o.> А вот, может, она его домогалась?

А когда им оно мешало? В смысле в суд подать. :)
 33

kot_or_osl

опытный

ED>>> Интересно - подаст в суд на домогательство и потребует ли компенсации за моральные страдания. :)
k.o.o.>> А вот, может, она его домогалась?
ED> А когда им оно мешало? В смысле в суд подать. :)
Да нам бы подобные их заботы! :-)
 63.0.3239.8463.0.3239.84

ED

старожил
★★★☆
k.o.o.> Да нам бы подобные их заботы! :-)

Не. Таких забот нам не нужно. :)
 33

kot_or_osl

опытный

k.o.o.>> Да нам бы подобные их заботы! :-)
ED> Не. Таких забот нам не нужно. :)
Так точно!
 63.0.3239.8463.0.3239.84

в начало страницы | новое
 
Поиск
Поддержка
Поддержи форум!
ЯндексЯндекс. ДеньгиХочу такую же кнопку
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru