[image]

Искусственный Интеллект и социальные нормы

 
1 2 3 4 5 6 7
LT Bredonosec #13.11.2018 19:13  @Полл#13.11.2018 18:58
+
+2
-
edit
 
Bredonosec>> Не путай программы управления автоматикой (где четкий алгоритм: "давление поднялось - приоткрой клапан. Давление снизилось - прикрой клапан", не суть важно, с какой степенью сложности), и нейронные сети, где система сама придумывает критерии.
Полл> Ты, похоже, не работал с современными системами управления.
ты хочешь сказать, где-то сейчас производством или аэс управляет система, критерии работы которой неясны никому и даже ей самой? Расскажешь, какой регион планеты лучше обьезжать стороной? )))
А то вдруг она решит, что люди ей мешают, и их надо устранить при помощи некоторой аварии с выделением факторов, несовместимых с биологическими формами жизни? ))
   71.0.3578.17971.0.3578.179
RU DarkDragon #13.11.2018 21:41  @Полл#13.11.2018 18:58
+
-
edit
 

DarkDragon

опытный

Полл> Ты, похоже, не работал с современными системами управления.
А какие отличия "современных" САУ от изложенных?
   50.050.0
RU DarkDragon #13.11.2018 21:58  @Bredonosec#13.11.2018 19:13
+
+1
-
edit
 

DarkDragon

опытный

Bredonosec> ты хочешь сказать, где-то сейчас производством или аэс управляет система, критерии работы которой неясны никому и даже ей самой?
Вообще то в 99% случаев "критерии работы" системы управления эксплуатирующему персоналу в полном объеме неизвестны :) Причин несколько:
1. Лень эксплуатантов. Не читают мануалы.
2. Лень разработчиков. Не пишут мануалы.
3. Ашипки
:)
   50.050.0
LT Bredonosec #13.11.2018 22:12  @DarkDragon#13.11.2018 21:58
+
-
edit
 
DarkDragon> Вообще то в 99% случаев "критерии работы" системы управления эксплуатирующему персоналу в полном объеме неизвестны :) Причин несколько:
DarkDragon> 1. Лень эксплуатантов. Не читают мануалы.
DarkDragon> 2. Лень разработчиков. Не пишут мануалы.
DarkDragon> 3. Ашипки
пункт 3 - это святое, да :)
А про 1 и 2 немножко посопротивляюсь: На предприятии ведь АСУшники и ИТшники присутствуют. И им если чего, отвечать, если чего-то сломалось. А если даже нет прав чинить, то хоть быстро пояснить, чег именно сломалось, чтоб подрядчик мог сразу заняться починкой, а не выяснять в переписке месяц, какого хрена творится, и что означают эти загадочные "у меня всё не работает! Я пришла, а оно не работает! Нет, я не знаю, это ваше дело, вы сами что-то там сломали и не даёте мне работать!" :D:D:D
   26.026.0
EE Татарин #14.11.2018 03:36  @Полл#13.11.2018 18:57
+
+3
-
edit
 

Татарин

координатор
★★★★★
Татарин>> Применительно к этому примеру - как обычно, активистами ЛГБТ.
Полл> Так давайте постреляем активистов ЛГБТ, если это необходимо, чтобы ты смог жить без страхов? :)
Появятся другие активисты. Свято место не пустует: как только появляется большая дубина, которой можно колотить по головам соседей не опасаясь ответки, желающих понабегает, это неисправимо. Ну и это же лишь одна из многих проблем.

Татарин>> Я уверен, что статус цыган
Полл> Статус - таким же.
Полл> Положение в социуме - нет.
"Статус" - на латыни и есть "положение". Если тут и есть какая-то разница в значении в современном русском языке или в контексте, то я её не вкуриваю.
   70.0.3538.7770.0.3538.77
EE Татарин #14.11.2018 03:38  @Полл#13.11.2018 19:01
+
-
edit
 

Татарин

координатор
★★★★★
Татарин>> Тогда объясни мне, почему мы считаем расизм плохим?
Полл> Потому что это позволяло нашему социуму объединяться в борьбе с внешними конкурентами.
То есть, дело в том, что формирование изгоев-индивидов и целых непрерывно чморимых групп маргиналов работает против общества, так?
   70.0.3538.7770.0.3538.77
RU Полл #14.11.2018 08:34  @Татарин#14.11.2018 03:36
+
-
edit
 

Полл

литератор
★★★★★
Татарин> "Статус" - на латыни и есть "положение". Если тут и есть какая-то разница в значении в современном русском языке
В современном русском языке "статус" подразумевает официальное, юридическое положение, или права, обязанные по закону: "Статус депутата обязывает вести себя прилично", "Статус военнослужащего подразумевает денежное и иные виды довольствия".
А фактическое состояние, уровень богатства и социальные связи - это и есть "положение": "Несмотря на свой статус младшего референта, положение в обществе Светланы было высоким, и никого не удивляло, что она ездит на "Бентли".
Так же фраза "в положении" имеет устойчивое значение "беременна".

Если ты хочешь поговорить об идентичности терминов "статус" и "положение" в современном русском языке, попробуй спросить кого-нибудь из знакомых русскоязычных про общую знакомую: "А ты не знаешь, она в статусе?" :)

Bredonosec> А про 1 и 2 немножко посопротивляюсь: На
Найди подробное описание полета "Бурана". При заходе на посадку он предпринял неожиданный маневр.

И в Чернобыле, и на Фукусиме катастрофы устроили люди.
   63.063.0
RU DarkDragon #14.11.2018 10:49  @Bredonosec#13.11.2018 22:12
+
-
edit
 

DarkDragon

опытный

Bredonosec> А про 1 и 2 немножко посопротивляюсь: На предприятии ведь АСУшники и ИТшники присутствуют. И им если чего, отвечать, если чего-то сломалось.
Зачем сразу "сломалось" ? :)
В моих любимых 99 процентах случаев речь о "оно работает как-то не правильно" с т.з. эксплуатирующего персонала, то бишь конечных пользователей. Самый простой вариант, когда ответ к загадке кроется в техдокументации производителя оборудования, но кто ж ее вдумчиво изучает :) и тем более редкий случай, когда изученное сверяется с практикой. Поэтому чаще всего у пользователей в голове складывается своеобразное представление о алгоритмах управления и расхождение этих представлений с текущей реальностью выливается в "ой, а что это за фигня случилась?"
   50.050.0
RU Полл #14.11.2018 10:54  @DarkDragon#14.11.2018 10:49
+
-
edit
 

Полл

литератор
★★★★★
DarkDragon> Самый простой вариант, когда ответ к загадке кроется в техдокументации производителя оборудования, но
...ее не существует.
На актуальную версию.
:)
   63.063.0
EE Татарин #14.11.2018 11:49  @Полл#14.11.2018 08:34
+
+1
-
edit
 

Татарин

координатор
★★★★★
Полл> Если ты хочешь поговорить об идентичности терминов "статус" и "положение" в современном русском языке, попробуй спросить кого-нибудь из знакомых русскоязычных про общую знакомую: "А ты не знаешь, она в статусе?" :)
На вопрос "в каком она статусе?" вполне могут ответить, что и "беременна". А слова "в положении" (без уточнения, в каком) - устойчивое словосочетание, к значению слов "положение" и "статус" не имеет отношения. Точно так же как есть устойчивое словосочетание "ходить налево", например.
В общем, я реально не чувствую большой разницы и не думаю, что она в языке существует, но готов поверить как минимум в то, что для тебя эти слова имеют разное, описанное значение. :)

Возвращаясь к разговору: так в чём изменилось положение цыган в отличие от статуса и какая тут связь с нейросетями?
   70.0.3538.7770.0.3538.77
Это сообщение редактировалось 14.11.2018 в 13:39
RU 16-й #14.11.2018 11:49  @Татарин#13.11.2018 12:57
+
-
edit
 

16-й

опытный
★★
Татарин> Нейросеть - это машина выработки предрассудков.

Это хорошее определение.
И ты даже написал далее, что и человек по факту оперирует предрассудками. Т.е. когда ты пришел делать карьеру в конкретное место, а там в отделе кадров сидит клерк, который с предрассудком относится к угрюмым брюнетам, то результат будет плачевным, аналогично шовинистическому машинному ИИ. Но в случае клерка есть качественные отличия. Попробую их расширенно истолковать:
- с клерком не все так однозначно. С ним можно сориентироваться по ходу дела, т.е. результат имеет обратную связь.
- можно попасть ему в фазу когда он менее категоричен, т.е. результат имеет случайный дрейф.
- с клерком прозрачнее. Можно установить причину отлупа и в дальнейшем иметь ее ввиду.
- клерк не конечная инстанция. Можно в принципе как-то оспорить его решение.
- клерки они разные. Можно пойти в другое место и там будут иные критерии.
- клерки многого не знают. Опять-таки, результат носит элемент случайности.
- клерк это явное наличие принятие решения. Есть знание где именно тебе прервали полёт.

Все это, однако, можно засунуть и в функцию нейросетевого принятия решения. Ну, при желании. Ты думаешь, что этого не будет сделано практически? что это невозможно сделать в принципе? или что?
   67.0.3396.9967.0.3396.99
RU Полл #14.11.2018 12:00  @Татарин#14.11.2018 11:49
+
-
edit
 

Полл

литератор
★★★★★
Татарин> Возвращаясь к разговору: так в чём изменилось положение цыган
Они стали маргиналами и все больше фактически выдавливаются из правового поля как социум целиком.

Татарин> в отличие от статуса и какая тут связь с нейросетями?
Обсуждаемое улучшение государственного механизма так же начнет выдавливать из правового поля всевозможных "поклонников социальной инжинерии для получения своего дохода", как введение полного учета всех своих граждан и их официальных источников дохода выдавило бродячих цыган.
   63.063.0
LT Bredonosec #14.11.2018 12:01  @Полл#14.11.2018 08:34
+
+1
-
edit
 
Полл> Найди подробное описание полета "Бурана". При заходе на посадку он предпринял неожиданный маневр.
Полл> И в Чернобыле, и на Фукусиме катастрофы устроили люди.
А на днях 737 макс сделал неожиданный маневр. В землю. Он неправильно понял показания датчика.
А несколько лет назад ан-148 сделал неожиданный маневр, отключив здоровый автопилот при выходе из строя дефектного. К счастью, до земли не доехали, спустя несколько сотен метров пикирования глюк пропал. Зато в прошлом году более простой глюк - обмерзание пвд - вогнал еще один 148 в землю. А ранее Б-2 в землю вогнало замусоривание пвд. А в 1980-м интеллектуальная система загнала А-300 в лес. А несколько лет назад глюк от неверно собранной асу заставил ту-154 колбаситься в небе там, что потребовалось всё мастерство пилота, чтоб суметь посадить его.
А поставленный вверх ногами модуль гироскопа на выводном модуле заставил "отскочить от небесной тверди" дико дорогой телекоммуникационный спутник.
А икс лет назад некий непонятный глюк вызвал аварию на иранских ядерных обьектах. Говорят, то был вирус, но кто знает?
И примеров подобного - миллионы.
Но ты уверен в безгрешность автоматов.
   68.0.3440.5568.0.3440.55
+
+2
-
edit
 
16-й> И ты даже написал далее, что и человек по факту оперирует предрассудками.
но человек ограничен. Не понравился этому - понравишься другому.
А ИИ в силу неограниченности возможностей - станет монопольным. И если ты не понравился ему - то бесполезно идти в другое место, там тебя будет ждать тот же монополист с предрассудком.
Всё, твоя карьера окончена. На всей земле.

Вот это критично, а не предрассудки сами по себе.
   68.0.3440.5568.0.3440.55
LT Bredonosec #14.11.2018 12:04  @DarkDragon#14.11.2018 10:49
+
-
edit
 
DarkDragon> В моих любимых 99 процентах случаев речь о "оно работает как-то не правильно" с т.з. эксплуатирующего персонала
и это тоже, да :)
   68.0.3440.5568.0.3440.55
RU Полл #14.11.2018 12:06  @Bredonosec#14.11.2018 12:01
+
-
edit
 

Полл

литератор
★★★★★
Bredonosec> И примеров подобного - миллионы.
Ты все же прочитай историю единственного полета "Бурана", это интересный пример.
Маневр, принятый "Бураном", был правильный.

Bredonosec> Но ты уверен в безгрешность автоматов.
Я уверен, что в среднем автоматы делают ошибок меньше, чем люди.
   63.063.0
LT Bredonosec #14.11.2018 12:24  @Полл#14.11.2018 12:06
+
-
edit
 
Полл> Ты все же прочитай историю единственного полета "Бурана", это интересный пример.
Полл> Маневр, принятый "Бураном", был правильный.
я читал, паш, не надо считать всех людей а-приори глупее себя.
Особенно если происходит спор, в котором твоя позиция не слишком крепка.

Полл> Я уверен, что в среднем автоматы делают ошибок меньше, чем люди.
А я не об этом говорю. И татарин не об этом говорит. Ты точно читаешь ответы собеседников?
всего лишь парой постов выше в 15й раз повторено.

и, кстати, тебе на почитать тоже ))

Беспилотные автомобили [Iva#13.11.18 19:56]

За рулем робот: аварии, в которых виноват автопилот :: Autonews Рассказываем о громких дорожных происшествиях этого года, которые произошли по вине автомобилей с искусственным интеллектом //  www.autonews.ru   // Автомобильный
 
   68.0.3440.43468.0.3440.434

Sandro
AXT

инженер вольнодумец
★☆
16-й> Все это, однако, можно засунуть и в функцию нейросетевого принятия решения. Ну, при желании. Ты думаешь, что этого не будет сделано практически? что это невозможно сделать в принципе? или что?

Это невозможно сделать в принципе. Ты правильно говоришь про функцию. Нейросеть — это и есть сложная нелинейная функция, которая по входным значениям выдаёт какое-то выходное. Например, схожесть случайного прохожего с находящимся в розыске преступником.

И это всё. Больше в ней ничего нет, ничего не "засовывается". Почему? А потому, что сеть не программируется и даже не "обучается" (фу, какое страшно неподходящее слово!)

Сеть просто заставляют — посредством подгонки коэффициентов — давать нужные ответы на какие-то пробные задачи ("обучающий набор"). Существует некоторая особо ни на чём не основанная надежда, что на задачах, не вошедших в этот набор, она тоже будет давать правдоподобные ответы. Иногда получается, иногда нет.
Просто об успехах, разумеется, трубят во все трубы, а провалы чаще замалчивают. А иногда не удаётся, как вышло с Google Deep Dream, которой везде мерещатся собаки:

Это, если кто не понял, реконструкция входного изображения по выходам обработавшей его нейросети. Внезапно, да?
   52.952.9
RU Полл #14.11.2018 13:26  @Bredonosec#14.11.2018 12:24
+
-
edit
 

Полл

литератор
★★★★★
Bredonosec> А я не об этом говорю. И татарин не об этом говорит.
А имеет значение в обсуждаемых масштабах только это.

Sandro> Это, если кто не понял, реконструкция входного изображения по выходам обработавшей его нейросети. Внезапно, да?
Как раз очень хороший пример. Вот еще несколько изображений с выходов нейросети. Кто угадает нейросеть?
 




Явное сходство в способе построения изображений, ИМХО, присутствует.
   63.063.0
EE Татарин #14.11.2018 13:36  @Полл#14.11.2018 12:00
+
+1
-
edit
 

Татарин

координатор
★★★★★
Татарин>> Возвращаясь к разговору: так в чём изменилось положение цыган
Полл> Они стали маргиналами и все больше фактически выдавливаются из правового поля как социум целиком.
Они всегда были маргиналами (см. определение слова "маргинал"). И всегда были вне правового поля - это их самоопределение, если угодно. Цыган гоняли (системно гоняли) за конекрадство задолго до того, как эти ваши законотворчества и законы вошли в моду.
И никогда не старались (да и не имели возможности) интегрироваться в общество, в отличие от, допустим, тоже обособленых евреев.

Татарин>> в отличие от статуса и какая тут связь с нейросетями?
Полл> Обсуждаемое улучшение государственного механизма так же начнет выдавливать из правового поля всевозможных "поклонников социальной инжинерии для получения своего дохода", как введение полного учета всех своих граждан и их официальных источников дохода выдавило бродячих цыган.
Частично - да, я даже не думал это оспаривать. Собссно, это одна из целей повсеместного контроля, было бы странно, если бы она не достигалась бы хотя бы частично. Но во-первых, не надо абсолютизировать: мошенничество мутирует. А во-вторых, вместе с ним будут закрыты многие свободы полезные адекватным людям и под каток подпадёт и "выдавится" много в целом полезных для общества людей.
   70.0.3538.7770.0.3538.77
EE Татарин #14.11.2018 13:42  @Sandro#14.11.2018 13:18
+
-
edit
 

Татарин

координатор
★★★★★
Sandro> Это невозможно сделать в принципе. Ты правильно говоришь про функцию. Нейросеть — это и есть сложная нелинейная функция, которая по входным значениям выдаёт какое-то выходное.
Как и наш разум, например.
Который, ессно, тоже нейросеть.
Нейросети очень разные бывают: и рекуррентные, например (автопилоты как, по-твоему, работают?). Там есть и память о своих предыдущих состояниях и событиях, и формирование абстракций, и всё такое. Пока просто слабенькое - просто в силу количества нейронов.
   70.0.3538.7770.0.3538.77
RU Полл #14.11.2018 13:46  @Татарин#14.11.2018 13:36
+
-
edit
 

Полл

литератор
★★★★★
Татарин> Они всегда были маргиналами (см. определение слова "маргинал"). И всегда были вне правового поля - это их самоопределение, если угодно. Цыган гоняли (системно гоняли) за конекрадство задолго до того, как эти ваши законотворчества и законы вошли в моду.
Немного ликбеза.
Цыгане пришли в Европу что-то в районе 10 века. Когда законы уже были.
Получали официальные разрешения на проживание, имели официальные титулы.
Были встроены в существующие общества.
В частности те, кого сегодня называют "цыганами" в Британии, к "настоящим" цыганам отношения практически не имеют - это большей частью потомки британцев, перенявших культуру цыган.
Потому что существенное время цыгане были, по сути дела, сословием в существующем обществе.

Татарин> Частично - да, я даже не думал это оспаривать. Собссно, это одна из целей повсеместного контроля, было бы странно, если бы она не достигалась бы хотя бы частично. Но во-первых, не надо абсолютизировать: мошенничество мутирует. А во-вторых, вместе с ним будут закрыты многие свободы полезные адекватным людям и под каток подпадёт и "выдавится" много в целом полезных для общества людей.
Болезни тоже мутируют. Предлагаешь перестать бороться с болезнями?
А многие свободы будут открыты, с чьим отсутствием сегодня ты смирился.
И многие полезные люди, которые сейчас выдавливаются, перестанут угнетаться.
   63.063.0

16-й

опытный
★★
Sandro> Это невозможно сделать в принципе.

Я, наверное, неточно выразился.
Имелось ввиду не нейросеть так обучить, чтобы внести в неё элементы похмелья, плохого настроения, случайности, клерковой ограниченности и прочей "человечности", а в целом выстроить систему принятия решения таким образом. Сделать железную пяту машинного разума менее железной, если уж мы так опасаемся ее детерминизма. Оставить место для эволюционно-полезной случайности.
Скажем, конкретно-обученная по типу решения сеть д.б. не одна, а несколько конкурирующих, выбираемых случайно. Каждое применение ИИ по определенным вопросам законодательно и технически должно доводиться до субъекта, по которому сработано. И т.п.
   67.0.3396.9967.0.3396.99
+
-
edit
 

Полл

литератор
★★★★★
16-й> Каждое применение ИИ по определенным вопросам законодательно и технически должно доводиться до субъекта, по которому сработано.
Представь, что тебе в день прилетает несколько сотен СМСок с этими решениями. Большую часть которых ты даже понять не можешь - что это, откуда и как оно к тебе относится.
   63.063.0
+
+1
-
edit
 

Balancer

администратор
★★★★★
Sandro> А иногда не удаётся, как вышло с Google Deep Dream, которой везде мерещатся собаки

Всё как и с людьми :) Только человеческий фактор нивелируется системным разнообразием.
   55
1 2 3 4 5 6 7

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru