Искусственный Интеллект и социальные нормы

Татарин> Причём, это хотя и кажется фантастикой, это таки хардкорная фантастика весьма ближнего прицела.
и даже не фантастика....
Ну, фантастика отчасти, в плане того, что всё ии сам делает.
А вот что неочевидные вещи влияют на жисть, и ты видишь только результат, и только в негативном плане - это вовсю есть.
Описывал уже: устраивался как-то в банк, первое собеседование с HR - всё ок. Второе собеседование с начотдела - всё ок, вы нам подходите. А потом бац - и приходит на мыло уведомление "вы не подошли".
Что, почему - хз. Потом от приятеля, там работающего, узнал, что они попутно звонят на прежнюю работу поинтересоваться. А кадровичка тогдашней работы на меня зуб имеет, что не сумела несколькими годами ранее развести на статью, и более того, вынуждена была тогда заткнуться, бо у меня появился компромат, чтоб её и заодно всё руководство под статью подвести. Соответственно, как понял, после разговора с ней всё обломалось.
Вот не узнал бы - тоже думал бы, что "само так".

кщееш>> вывод у машины был правильный.
Татарин> Ты этого не знаешь.
Татарин> Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное.

Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.

Скажем, я последние два месяца занимаюсь machine learning торговли на биржах. Начал просто чтобы познакомиться с методами, потом увлекся. Два компьютера дома постоянно модели считают, надо еще пару прикупить. Кстати, уже начинаются проблемы теплорегуляции, в кабинете жарко как из ружья.

Но я отвлекся. Идея вот в чем - сравнивая результаты, которые я достигаю с использованием выводов machine learning vs моих собственных глубоких раздумий, результат абсолютно очевидный. Почти все мои решения приводят к убыткам. Особенно это явно, если учесть обвалы на рынках последнего месяца. Может на растущем рынке это было бы OK, а на падающем - я на всех акциях прогорел.

А вот используя программу - практически никогда я не в минусе. Каждый день что-то около 0.3-0.4 процента в прибыль. Немного, но стабильно. Интересно, что программа выбирает всякие странные акции, которые я бы сам в жизни не стал покупать. Чаще всего она выбирает ETF, производные бумаги по такой-то отрасли. Они как правило с одной стороны всегда имеют 1-2% волатильности в течении дня, а с другой - почти никогда не падают очень сильно, типа на 30%.

И при том, что мои методы наверняка куда более топорные, чем у профессиональных трейдеров. И, конечно, я совершенно не знаю, по какому принципу машина отбирает. Следить за ее матрицей коэффициентов для человека - безнадежное дело. Но результат очевидно говорит о том, что она работает в плюс.

Сергей-4030> Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.

Конечно, что-то оценить легче, что-то сложнее. Но если ты видишь, что текучка стала меньше, негативных отзывов о работниках меньше и т.п. - значит твой алгоритм для отдела кадров работает правильно.

Сергей-4030>> Ну, что значит "со своими ощущениями"? Ты же какие-то задачи решаешь, соответственно можешь увидеть, стало ли решение более эффективно.
Сергей-4030> Конечно, что-то оценить легче, что-то сложнее. Но если ты видишь, что текучка стала меньше, негативных отзывов о работниках меньше и т.п. - значит твой алгоритм для отдела кадров работает правильно.

Не всегда.
Если машина успешно решила ансамбль из n задач, правда ли, что она успешно решит n+1..ую? А именно отличающийся n+1..й случай может оказаться критичным для успеха Скажем, на примере с акциями - успешно торговал по мелочи хай-течными акциями и тут решил наварить более, добавил в систему денег, а она закупила на все акции Энрона перед банкротством. Ну или с подбором кадров: подбирала, скажем, машина работников в Гваделупе тестом на английском и вывела у себя корреляцию качества человека со знанием английского. Переносим действие машины в США, и... пошла жесть потоком. К моменту, когда ошибка будет обнаружена, проблемы могут оказаться смертельными для конторы.

Машина же она предсказывает не будущее. Прошлое. Исходя из предположения, что будущее - такое же, как и прошлое, только ещё не случилось. А ещё тут и проблема эргодичности в полный рост и ещё куча подобных заморок.

...
И вот ты в какой-то момент времени встаёшь перед задачей, где требуется одиночное, но верное решение. Одно. Но верное. И ставки единичных ошибок высоки - жизнь человека, например. А ситуация - неопределенно изменилась (она всегда меняется, и часто неопределенно).

У меня сейчас в задачах в чём-то схоже... но за мной люди "подчищают" и проверяют. А если нет?

...
И вот что значит "ощущениями"? А вот прям это.
Сидишь ты такой кадровик на собеседовании, а тебе машина советует - не бери, раздолбай он. И ты смотришь такой - а ну и вправду, раздолбайски ведёт как-то себя. И не берёшь. И ты не знаешь, раздолбай ли он, или, может, гений, который бы привёл контору к успеху, а тебя к премии. Не знаешь. Просто смотришь на него, на совет машины, снова на него... Не, по ощущениям - раздолбай, верно.
И не узнаешь никогда, прав ли ты был. Потому что человек пошёл в рок-группу и больше не программировал.
И не введёшь в программу ни поправки, ни подтверждения.

Но программой пользуешься. А что? а как иначе-то? Ну и всё лучше, чем без ничего. Или не лучше?

И вот это - тоже по ощущениям.

Татарин> Если машина успешно решила ансамбль из n задач, правда ли, что она успешно решит n+1..ую?

нет, конечно. Вполне может и просрать. Но и человек может. При том, что машина таки может вычленить какие-то зависимости из системы с миллионом параметров, а человеку сложно.

Татарин> И вот ты в какой-то момент времени встаёшь перед задачей, где требуется одиночное, но верное решение. Одно. Но верное. И ставки единичных ошибок высоки - жизнь человека, например. А ситуация - неопределенно изменилась (она всегда меняется, и часто неопределенно).

Так ведь это и для человека справедливо. Человек а) тоже решает проблемы опираясь на прошлый опыт и б) сплошь и рядом не способен распознать изменение условий.

Татарин> Сидишь ты такой кадровик на собеседовании, а тебе машина советует - не бери, раздолбай он. И ты смотришь такой - а ну и вправду, раздолбайски ведёт как-то себя. И не берёшь. И ты не знаешь, раздолбай ли он, или, может, гений, который бы привёл контору к успеху, а тебя к премии. Не знаешь.

Когда ты не можешь оценить параметр - не оценивай. Поскольку ты не знаешь ни вероятности сколько гениев получится из раздолбаев ни сколько гениев получится из не-раздолбаев ни даже где гениев получится больше - значит действуй так, чтобы максимизировать те параметры, которые ты максимизировать сможешь. По крайней мере, контора не обанкротится платя за ошибки раздолбаев.

Сергей-4030> Так ведь это и для человека справедливо. Человек а) тоже решает проблемы опираясь на прошлый опыт и б) сплошь и рядом не способен распознать изменение условий.

Человек, все-таки, пока владеет более широким контекстом - сотни миллиардов нейронов против миллионов. Это хорошо часто сказывается на эффективности.

Но речь даже не о том, а о том, что это как раз то, о чем я и говорил: у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
И человеку часто проще (и уверенней) решить задачу самому, чем оценить, насколько и в какую сторону накосячит машина.

В отличие от некоторых физических/инженерных расчетов на машину нельзя ссылаться как на железный авторитет и объективный арбитр. У неё своя субъективность, свои тараканы, детские травмы и свои косяки.

Татарин> у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
Если статистически машина принимает более верные решения, что делать? Ведь в таком случае все твои выводы о большей эффективности человека летят в тартарары. И в случае, если человек делает одно очень хорошее решение, а сотню сливает, но при этом компенсирует этим решением слив. То вывод об эффективности человека похож на построение графика по одной точке.

Татарин>> у машины есть своя субъективность, характер, предвзятость, как и у, допустим, кадровика.
s.t.> Если статистически машина принимает более верные решения, что делать?
А если - как в случае с кадровиками - статистики нет или она сама по себе спорна и субъективна?

s.t.> Ведь в таком случае все твои выводы о большей эффективности человека летят в тартарары.
Хм. У меня нет "выводов о большей эффективности человека" вне конкретного контекста применения, я такого глупого обобщения не делал. У меня у самого машина работает вполне эффективно и заменяет людей (многих) с хорошим, в целом, выхлопом.

Я вообще в посте выше говорил о другом, о том, что когда мы говорим о глубоком обучении, мы не можем полагаться на машину как на "усилитель интеллекта", как ранее.

Ну вот как с инженерным софтом? Если я считаю методом конечных элементов мост, то результаты расчёта верны настолько, насколько верны исходные предпосылки (формулы сопромата и константы прочности материалов) и сам метод (конечных элементов). Если предпосылки и метод верны, то вывод верен абсолютно - машина не привносит ничего нового, только усиливает мои возможности делать выводы из моих предпосылок моим методом.
К этой ситуации настолько привыкли, что некоторые уже даже забывают про необходимость контролировать метод, его применимость и исходные данные. Машина сказала "42", значит 42 с точностью до верности исходных и сопромата, вердикт окончательный, вердикт объективный, обжалованию не подлежит.


...

В случае с глубоким обучением мы изначально имеем дело с субъективной машиной, машиной, имеющей предубеждения (зависящие от обучающей выборки, часто не столь уж и большой), с машиной, у которой метод выведен ей самой (и не бесспорным способом), а данные - подготовлены ей же опять же сложными, выведенными в результате обучения её субъективными методами.
В случае с нейросетями машина не является окончательным авторитетом, потому что её выводы из обучающей подборки могут быть неверными (и часто есть), машины сплошь и рядом страдают от "детских травм" переобучения, у них - примитивных сеток на миллионы нейронов - свои "скрытые кошмары" и проблемы.

Машина с глубоким обучением - это больше не усилитель интеллекта, это интеллект.

Слабый, убогий и со своими глюками, со своими огромными плюсами, но главное - самостоятельный и для больших сетей практически независимый от программиста (потому что именно ради невмешательства программиста в потроха обучения и "написание алгоритма" они и делаются).

...

Именно так и надо к нейросетям относиться.

KrMolot> И самое противное, нигде нельзя достать образцы для опытов.
Для опытов есть обычный писюк. ПО большому счёту все эти спецпроцессоры делают просто быстрее (а ещё чаще - даже не быстрее, а лишь дешевле) вычисления для специфичных сеток.
Сложно представить себе архитектуру, которая на PC так или иначе не эмулируется.

Татарин> Для опытов есть обычный писюк. ПО большому счёту все эти спецпроцессоры делают просто быстрее (а ещё чаще - даже не быстрее, а лишь дешевле) вычисления для специфичных сеток.
Татарин> Сложно представить себе архитектуру, которая на PC так или иначе не эмулируется.
Мне это как раз надо для опытов, чтоб сделать дешевле.
У Интел есть Myriad usb stick, но он недостаточно производителен для моих задач и это уже не последнее поколение.
Gyrfalcon заявляет о наличии у них usb решения, но в свободном доступе его нет.
В принципе, уже есть готовое решение которое мне подойдёт: YouBox.

Вопрос только в цене и в открытости программной части продукта.

Сергей-4030> И при том, что мои методы наверняка куда более топорные, чем у профессиональных трейдеров. И, конечно, я совершенно не знаю, по какому принципу машина отбирает. Следить за ее матрицей коэффициентов для человека - безнадежное дело. Но результат очевидно говорит о том, что она работает в плюс.

Дык, это правильная сфера применения. МЛ ищет закономерности и находит их, очевидно, лучше человека, тем более - на больших числах и при плавных изменениях. Курс одной акции и тем более физическое будущее одной компании - МЛ не может предсказать, так как неспособна оценить и у нее нет информации о том,чем занимается компания. Если физическое явление произойдет глобально, то МЛ облажается.

KrMolot> Мне это как раз надо для опытов, чтоб сделать дешевле.
Что за задачи такие, что CUDA на хорошей карте уже маловата стала? а усб-стик - поможет?

Татарин> Что за задачи такие, что CUDA на хорошей карте уже маловата стала? а усб-стик - поможет?
Интересует видеоаналитика, но чтоб это было бюджетно. Какой-нибудь RPi с воткнутым в него usb-брелком. Либо уже готовый недорогой box с возможностью ставить на него свой дистрибутив Linux.

KrMolot> Интересует видеоаналитика, но чтоб это было бюджетно. Какой-нибудь RPi с воткнутым в него usb-брелком. Либо уже готовый недорогой box с возможностью ставить на него свой дистрибутив Linux.

Так в Raspberry Pi это всё уже и так есть! В том числе и графический процессор с поддержкой OpenCL, можешь считать, что хочешь. Правда, самая дохлая десктопная карта за $50 будет на два порядка быстрее.

Sandro> Так в Raspberry Pi это всё уже и так есть!
Может и есть, но там совсем мало.
Sandro> В том числе и графический процессор с поддержкой OpenCL, можешь считать, что хочешь. Правда, самая дохлая десктопная карта за $50 будет на два порядка быстрее.

Best Peak Performance
16.8 TOPs @ 300MHz
И какая карта за 50 баксов обеспечит аналогичную производительность в данной области?

Татарин> А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться.

Короче, всё как у людей.

…

Татарин> … и окажется, что теперь ты должен платить на 70% выше, чем раньше. Потому что вероятности. И ты не сможешь ничего оспорить, потому что никто и никогда не будет разбираться в 97411 служебных пакетах от одной системы другой и выводах ИИ... да и логов, возможно, не будет.

(Update: сохранил заметку в ZeroNet)

Татарин> Скажем, на примере с акциями - успешно торговал по мелочи хай-течными акциями и тут решил наварить более, добавил в систему денег, а она закупила на все акции Энрона перед банкротством.

Я когда в 2014-м играл с криповалютами, то пробовал робота писать торгового. Благо там всё для начинающего просто, всевозможные API, всё открытое и т.п. Накопил данных, натравил обучение (даже не нейросети, просто коэффициенты по изменениям) — получил в итоге конструкцию, весьма неплохо предсказывающую следующие изменения в серии… Но потом я попробовал её натравить на данные, поданные со смещением… И оказался в глубоком минусе Моя система банально заучила исходные данные

В итоге забил, возиться было особо некогда, вручную наторговал/намайнил четверть биткоина, на чём и забросил. Потом, когда биткоин пошёл в рост, полез на биржу, а её взломали. Так я и потерял всё Хотя это всё детский сад, биткоин тогда стоил по $250, можно было тупо купить сколько было налички, а потом, через пару лет на пике продать в 50 раз дороже

Татарин> Но программой пользуешься. А что? а как иначе-то? Ну и всё лучше, чем без ничего. Или не лучше?

И так печально всё и будет. Потому что ПРОГРАММА!

Татарин> Человек, все-таки, пока владеет более широким контекстом - сотни миллиардов нейронов против миллионов. Это хорошо часто сказывается на эффективности.

Однако, в вопросах трейдерства, все доходные топы давно у роботов. Я знаю человека, который как-то на Форексе попал в топ-10. Единственный живой человек за сколько-то лет Над ним до сих пор прикалываются из-за этого

Татарин> В отличие от некоторых физических/инженерных расчетов на машину нельзя ссылаться как на железный авторитет и объективный арбитр.

Нельзя. Но люди охотно это делают и будут делать. Потому что машина считается непогрешимой. А если ошибётся — это будет не твоя, а её ошибка

KrMolot> В последнее время стали появляться специализированные чипы связанные с нейронными сетями

KrMolot> Мне это как раз надо для опытов, чтоб сделать дешевле.

Сегодня самые дешёвые нейросети в железе для опытов — на GPU. Уже стандарт де факто стал. И это, кстати, специализированные чипы тормозит.