>Начало фильма меня порадовало. Там был намёк на какую-то философию, даже что-то от одессита Исаака Осимова промелькнуло. А потом начался "экшн". sad.gif
И в качестве Сьюзен Кэлвин от Азимова ИМХО куда лучше смотрелось бы нечто страшноватое стервообразное. С лицом, изуродованным печатью интеллекта.
Но на Азимова забили.
AidarM> С чего вы взяли, что есть презумпция виновности? ohmy.gif Если вы про Азимова, то 'нацелен' - это ваша паранойя, не его. smile.gif>Ну как же. Есть всего три закона.
К-рые неведомым образом обеспечены программно и аппаратно.
>И все они в общем-то нацелены на одно: на непренесения времда человеку.
На это нацелен лишь Первый, он же главный закон. Так сказать, правила техники безопасности при конструировании автономного искуственного интеллекта. Который выше Второго.
Потому что какой-нибудь урод может попытаться приказать роботу сделать гадость и робот, пока его мозг в порядке, не должен выполнять такой приказ. Ну, и свей инициативу в этом направлении не должен проявлять, иначе на кой черт его создавали?
>То есть не на более тщательное выполнение работы, не на запрет переведения тумблера „перекур“ в положение „вкл“, нет, почему-то всё зациклено на человеке.
Неее.
Второй Закон выше Третьего.
Приказ должен быть выполнен, усё. Подход к роботам вполне такой потребительский.
Они сделаны для чего-то, вот для этого чего-то их и юзают.
Про проблему ответственности за муки собственного творения, его искуственной души ИМХО хорошо (зачеркнуто) отлично рассказано в фильме 'Бегущий по лезвию бритвы'. Вот там - да. Стрельба и ловля роботов там тоже присутствует, но она там совсем к месту.
>То есть в роботе просто обязана быть опасность,
В неявной форме - очевидно, как и в иных промышленных изделиях. Проистекающая от человека в итоге.
>и робота, лишённого этих законов, надо тут же в переплавку.
По крайней мере, пока мы не признаем его как личность. Конечно, а как же иначе?
>Вот и априорная виновность робота...
А вот и нет! Вины робота тут нет вообще. Вы к М.Т. Калашникову имеете претензии за то, что у боевиков в Беслане были его изделия? А к самим автоматам?
И вообще: если делается настолько универсальный девайс, ему должна быть предоставлена свобода развития. А законов мало - дык каждый закон - ограничитель. Чем их меньше и точнее, тем лучше, универсальнее робот.
>Но мы же не вешаем на Интернет табличку: „опасно для психики“? smile.gif
Сильно преувеличиваете опасность Интернета.
Тем не менее, родители обычно говорят детям, что хорошо и что плохо, и почему. А на коробочках со смешными палочками с отравой прямо-таки пишут, что отрава.
>Ну, достаточно на груди робота нарисовать что-то типа „не стой под грузом“, и хватит...
Робот - мощный девайс, программируемый голосом. Посему надписи д.быть типа: 'Попридержи язык!', 'За базар ответишь!' и т.п.
AidarM> Другое дело, что законы сформулированы совершенно по-идиотски, если глянуть на возможность их буквальной технической реализации.>Ну, позитронный мозг - может. Он на ассоциативных связях, тогда проще формулировать будет. wink.gif
Я вот что имел в виду. 3 закона сформулированы как потребительские качества, чего желает юзер. Делаем мы с вами робота. Сформулировали себе эти 3 закона, сидим, сочиняем способ их реализации...
Для жесткого, гарантированного выполнения Законов мы должны иметь либо
Точное решение для поведения во всех возможных ситуациях. Что нереализуемо, т.к. робот весьма многофункциональный, ему не на конвейере работать.
либо
Точное решение в виде универсального предсказательного алгоритма, гарантированно просчитывающий все возможные исходы того или иного поведения робота. Этого требует реализация работы Законов.
В этом случае мы предоставляем роботу возможность самому вычислять все последствия своего действия/бездействия по заданным нами правилам.
Т.е. во втором случае имеем проблему формализации обучения/воспитания. Прикидываете, аналитические/алгоритмические решения каких проблем у нас уже должны быть в наличии? :o Представляете крутизну Человечества (и нас с вами
), расколовшего такие задачи и все связанные с ними?
А представляете себе железо, способное мгновенно просчитать последствия для людей честно и до конца?
Это ж почти что граничные условия С.Б.Одина.
Я уж не говорю о том, что сами морально-этические принципы, реализацию которых мы должны грамотно обеспечить соотв. софтом и хардом, ИМХО хреново формализуются и еще имеют тенденцию изменяться. (Робототехнический консерватизм в обществе - эт вАще номер будет...
)
Так вот, 'глюк' у Азимова ИМХО в том, что у него роботы с одной стороны обучаются, а с другой, Законы должны исполняться абсолютно жестко, иначе имеем разрушение мозга. Т.е. от робота требуется
точное решение задачи о последствиях. При этом общество осталось неизменным, никаких фич у людей я не заметил. Человеки те же самые.
Конечно, это 'глюк', если отнестись к азимовской картинке серьезно. Как к варианту будущего. Но такое я не выкурю.
>Нет, конечно же! В какой-то ситуации. Ну как человек попадает под стрелу крана, случайно или по чьему-то умыслу.
Это не проблема роботов как таковых.
AidarM> Наука и техника инвариантны отн-но добра и зла. Так что гадости себе творит человек сам сознательно, а уж какими средствами - прогресс определяет.>Да, и при этом виноват человек! Человека надо менять, а не роботу дурацкие правила навешивать!
Именно. Или просто не предъявлять столь навороченные требования к роботам. Я про универсальность говорю. Требующую такую степень автономности в принятии решения. Азимовская точка обзора человека весьма доходчивая.
Т.е. ваш наезд на создателей фильма я поддерживаю. На Азимова - нет.
AidarM> С чего вы взяли, что человеку доверия больше? ohmy.gif blink.gif Конечно, он опаснее. Вы кого больше опасаетесь: спроектированной вами микросхемы, или же придурков, получивших к ней доступ и соответственно доп. возможности?>М-м-м... Ну смотрите: вы с человеком общаетесь, имея в голове нечто вроде „все люди добрые, игемон“.
Это вы почему-то решили, что я настолько добрый, что так отношусь к людям.
От ситуации зависит.
>К роботу вы подходите с опаской - а ну мало ли что у него там в башке, в мозгу его позитронном?
Если я новичок, а не живу в обществе, в котором роботы повсеместны и эксплуатируются и в хвост и в гриву. В самолет/автомобиль тоже редкие храбрецы отваживались заходить. Но лишь поначалу. Чувак в фильме - герой-параноик. Как он был прав, а его, беднягу не ценили.
>А вдруг свихнулся? Человек надёжнее - в смысле, поломок. А злых (по-детски, но не знаю, как выразиться) людей, к счастью, мало.
Не так уж и мало, и навороченные общественные институты созданы, чтобы уменьшить их количество и минимизировать возможный вред.
AidarM> А робот, как ни крути, просто более совершенный инструмент самой мощной машины убийства. smile.gif>А карьерный самосвал - ещё более мощный! Но робот считается опасней, потому что он автономный и потому что может разладиться.
Самосвал - не машина для убийства.
Маньяк за рулем самосвала в городе - Терминатор, нервно покуривая, лихорадочно ищет такой же самосвал.
Короче, человеческие фобии - проблема человека, а не робота.
>1-й и 2-й пункты в общем-то ничегом не отличаются от сегодняшнего дня, только надо вместо первого поставить просто убийцу, а вместо второго - несчастный случай. Вот и остаётся - виноваты программисты. biggrin.gif
Или математики-идеологи поведения. Потому что программер может тупо закатать готовое решение в башку, а противоречиво оно, или нет, потянет хард такие решения или нет - его не касается. Вот ведущий математик самоубийство совершил, чтобы исправить ситуёвину.
Надеюсь, вам стало легче.
AidarM> Т.е. если убить программера, то экшн не получится? biggrin.gif>Ну, я лично б порадовался. tongue.gif
В подарок ко дню рождения Серокоя его друзья забивают пару программеров... В общем, понятны претензии.
>Так авторы и боятся этого, точнее, не этого, а того, что роботы просто сочтут „любимых“ людей ненужными. То есть робот осознает свой „рабское“ положение, и...
Ну, дураки, чего с них возьмешь?
Или по себе судят, или зрителя не уважают, или зритель себя не уважает, раз платит деньги за такое. Азимов самоосознание робота в качестве литературного приема юзал. Чтобы заставить читателя подумать об этом, а они похоже всерьез страхи нагнетают.
Хотя был у него рассказик про робота, который видел сны... там да, некая фобия просматривалась. Но по воздействию на подкорку до фильма далеко.
Задумайтесь: вот смогли создать искуственную личность. Что мы автоматически получаем?
Мы теперь точно знаем, что же это такое и как она реализуется аппаратно,=> всякие там уроды, например, треплющиеся о божественной бессмертной душе идут лесом. Поскольку теперь мы можем разбираться и с аппаратной реализацией человеческой личности. С невыразимым удовольствием представляю себе вытянутые морды 'гуманитариев' от подобного открытия.
Короче, это знание в реальности нехило изменит всех людей. Это будет такой сильный пинок сзади, что человечество либо сдохнет, либо далеко шагнет. Как - ХЕЗ, это тоже интересно, но Азимов этого, ИМХО, не акцентировал. Азимов предлагал посмотреть на себя сегодняшних, неизменившихся. И до чего мы глючны в свете нерешенных нами проблем.
Искуственные Люди - литературный прием. Он же фантаст.
А странные личности, лепившие фильму, на это всё положили. Деньги зарабатывают.
>Ну, меня архитектура здания и даже графика порадовали. Несмотря на то, что в той сцене в туннеле роботы нахально так сами сквозь себя проваливались.
Ну, о вкусах не спорят. Порадовали - и хорошо.
>Человечество вообще любит придумывать проблемы вроде глобального потепления и т.д. и радостно с ними носиться.
Проблема потепления не придуманная. Робота мы от начала и до конца делаем сами. Его поведение определяем полностью мы и только мы. Его баги мы обязаны учесть. С потеплением не так.
>А беда обычно приходит с другой стороны, откуда её и не ждали...
А когда приходит оттуда, откуда ждали, и не быть к ней готовым особенно обидно.
>Да, я помню, что со мной было в дестве после просмотра фильма „Человек- невидимка“. smile.gif
А я вот принципиально не пошел смотреть. Невидимка должен быть слепым и баста!
А с вами что было?
AidarM> Прошу прощения за банальности. smile.gif *>Ну, после этого я начинаю думать, не стереть ли мне всё, что я вам только что ответил.
Не понял.